變異數等於「平方的期望」減去「期望的平方」
在處理隨機變數時,我們最常需要計算的統計參數之一就是變異數(variance)。雖然定義式很直觀,但在實際計算時,我們更傾向於使用「平方的期望值減去期望值的平方」。
以下將證明這個公式:
$$Var(X) = \langle X^2 \rangle - \langle X \rangle^2$$
(變異數 = 「平方的期望」減去「期望的平方」)
1. 準備工作:核心概念
在開始推導前,我們要先記住期望值運算的兩個基本特性:
線性特質:項與項之間可以拆解計算。
常數特質:一旦取了期望值,$\langle X \rangle$ 就變成了一個固定的常數,不再是隨機變數。
2. 證明步驟
我們從變異數的原始定義出發:變異數是變數與平均值(期望值)之間距離平方的平均。
1) 寫出定義式
$$Var(X) = \langle (X - \langle X \rangle)^2 \rangle$$
2) 展開括號內的平方項
利用代數公式 $(a - b)^2 = a^2 - 2ab + b^2$,我們可以將內部展開:
$$Var(X) = \langle X^2 - 2X \cdot \langle X \rangle + \langle X \rangle^2 \rangle$$
3) 利用線性性質拆解
將期望值符號 $\langle \rangle$ 分配到括號內的每一項:
$$Var(X) = \langle X^2 \rangle - \langle 2X \cdot \langle X \rangle \rangle + \langle \langle X \rangle^2 \rangle$$
4) 處理常數項(關鍵步驟!)
第二項:因為 $2$ 和 $\langle X \rangle$ 都是常數,可以提到符號外面。
$$\langle 2X \cdot \langle X \rangle \rangle = 2 \cdot \langle X \rangle \cdot \langle X \rangle = 2\langle X \rangle^2$$第三項:由於 $\langle X \rangle^2$ 本身已經是常數,常數的期望值就是它自己。
$$\langle \langle X \rangle^2 \rangle = \langle X \rangle^2$$
5) 合併同類項
將簡化後的結果拼湊回去:
$$Var(X) = \langle X^2 \rangle - 2\langle X \rangle^2 + \langle X \rangle^2$$
最後簡化得到:
$$Var(X) = \langle X^2 \rangle - \langle X \rangle^2$$
完成證明!
留言
張貼留言