發表文章

目前顯示的是 12月, 2025的文章

自相關函數(auto-correlation function)、自共變異數(auto-covariance)與變異數(variance)

在數據分析的世界裡,我們經常問一個問題:「現在發生的事,跟過去有關聯嗎?」要回答這個問題,最強大的工具就是 自相關函數 (autocorrelation function) 。 一. 什麼是自相關?(從「相似度」出發) 想像你在聽一段旋律,如果這段旋律每隔 4 拍就重複一次,我們會說它有很強的相關性。自相關就是在衡量一個訊號 $x(t)$ 與它自己延遲(Lag)一段時間 $\tau$ 後的 相似程度 。 對於廣義平穩過程(WSS,wide-sense stationary),自相關僅取決於 時間差 $\tau$ ,而與絕對時間 $t$ 無關。 A. 集合平均定義 (ensemble average) — 理論視角 對於廣義平穩過程(WSS,wide-sense stationary),集體平均的自相關函數定義為: $$R_{xx}(\tau) = \langle x(t) x^*(t-\tau) \rangle$$ 這反映了所有樣本路徑的隨機變數 $x$ 在任何時間點 $ t $ 與 $ t-\tau $ (相隔 $\tau$ 距離)之間的統計關聯性。 B. 時間平均定義 (time average) — 實務視角 當平穩過程具備遍歷性 (ergodicity) 時,我們可以用(任一樣本路徑下)一段足夠長的觀測數據來計算: $$r_{xx}(\tau) = \lim_{T \to \infty} \frac{1}{T} \int_{-T/2}^{T/2} x(t) x^*(t-\tau) \, dt$$ 也就是說:將訊號平移 $\tau$,然後與原訊號相乘並累加。如果數值愈高,代表重合度越高,訊號的自我重複性越強。 二. 能量的縮放:自共變異數 (auto-covariance) 自相關函數雖然好用,但它包含了訊號的「平均值」。在統計學中,我們通常更關心「波動」本身的關聯。 當我們把訊號扣除平均值 $\mu$($ = \langle x \rangle$)後再做自相關,得到的就叫自共變異數 ($\gamma_{xx}$): $$\gamma_{xx}(\tau) =  \left\langle (x(t) - \mu) \cdot (x(t-\tau) - \mu)^* \right\rangle$$ 這就像是把自相關函數「平移」到以零為中心,專注於描...

能量均分定理(Equipartition theorem)與其證明

能量均分定理(Equipartition theorem) 是統計力學中的一個核心理論。它的核心思想非常直覺:在一個處於 熱平衡 的系統中,系統整體的熱能(由溫度 $T$ 決定)會 平均地分配 給每一個「自由度」(Degree of Freedom)。熱力學中的均分定理有一個適用的前提:能量必須能表達為變數的平方項(Quadratic Form)。 力學系統 :動能是 $\frac{1}{2}mv^2$ ,位能是 $\frac{1}{2}kx^2$ 。這裡的 $v$ 和 $x$ 就是熱力學的維度(自由度)。 電磁系統 :電感儲能是 $\frac{1}{2}LI^2$ ,電容儲能是 $\frac{1}{2}CV^2$ 。這裡的  $I$  和  $V$  就相當於熱力學的維度(自由度)[註1]。 1. 證明 對於一個處於溫度 $T$ 的系統,若某個能量為 $E$ 的狀態(自由度)之出現機率正比於 $e^{-E/kT}$( 波茲曼分佈)。 此外,假設該自由度的能量符合二次項 $E = ax^2$ 形式 ,那麼這個自由度的 能量期望值   $\langle E \rangle$ 就是對所有可能的 $x$ 進行加權平均: $$\langle E \rangle = \frac{\int_{-\infty}^{\infty} (ax^2) e^{-ax^2/kT} dx}{\int_{-\infty}^{\infty} e^{-ax^2/kT} dx}$$ 利用高斯積分(Gaussian Integral),可得到[註2]: $$\langle E \rangle = \frac{1}{2}kT$$ 2. 失效時機 失效發生在物理學從「古典」跨越到「量子」的時刻: 連續性假設: 能量均分定理假設能量 $ax^2$ 是連續的。 量子化限制: 在微觀世界,能量是階梯狀的(如 $E = n \cdot hf$ )。如果階梯的高度 $hf$ 遠大於熱能 $kT$ ,系統無法到達最低的階梯高度,$\langle E \rangle$ 會趨近於 0  (自由度凍結)。 [註1]: 在熱力學眼中, $I$ (電流)跟速度 $v$ 是一樣的, $V$ (電壓)跟位移 $x$ 是一樣的。只要能量形式是...