能量均分定理（Equipartition theorem）與其證明

能量均分定理（Equipartition theorem） 是統計力學中的一個核心理論。它的核心思想非常直覺：在一個處於熱平衡的系統中，系統整體的熱能（由溫度 $T$ 決定）會平均地分配給每一個「自由度」（Degree of Freedom）。熱力學中的均分定理有一個適用的前提：能量必須能表達為變數的平方項（Quadratic Form）。

  • 力學系統：動能是 $\frac{1}{2}mv^2$，位能是 $\frac{1}{2}kx^2$。這裡的 $v$ 和 $x$ 就是熱力學的維度（自由度）。

  • 電磁系統：電感儲能是 $\frac{1}{2}LI^2$，電容儲能是 $\frac{1}{2}CV^2$。這裡的 $I$ 和 $V$ 就相當於熱力學的維度（自由度）[註1]。


1. 證明

對於一個處於溫度 $T$ 的系統，若某個能量為 $E$ 的狀態（自由度）之出現機率正比於 $e^{-E/kT}$（波茲曼分佈）。

此外，假設該自由度的能量符合二次項 $E = ax^2$ 形式，那麼這個自由度的能量期望值 $\langle E \rangle$ 就是對所有可能的 $x$ 進行加權平均：

$$\langle E \rangle = \frac{\int_{-\infty}^{\infty} (ax^2) e^{-ax^2/kT} dx}{\int_{-\infty}^{\infty} e^{-ax^2/kT} dx}$$

利用高斯積分（Gaussian Integral），可得到[註2]：

$$\langle E \rangle = \frac{1}{2}kT$$

2. 失效時機

失效發生在物理學從「古典」跨越到「量子」的時刻：

  • 連續性假設： 能量均分定理假設能量 $ax^2$ 是連續的。

  • 量子化限制： 在微觀世界，能量是階梯狀的（如 $E = n \cdot hf$）。如果階梯的高度 $hf$ 遠大於熱能 $kT$，系統無法到達最低的階梯高度，$\langle E \rangle$ 會趨近於 0 （自由度凍結）。


[註1]：
在熱力學眼中，$I$（電流）跟速度 $v$ 是一樣的，$V$（電壓）跟位移 $x$ 是一樣的。只要能量形式是平方項，熱運動（隨機碰撞）就會把能量分給它們。因此，在電路中，$L$ 和 $C$ 就是承載熱能的「物理載體」。
  • 電感 ($L$) 的熱維度：當導線內的電子因為熱而隨機加速或減速時，它會產生變化的微小電流 $dI$。根據物理定律，電流產生磁場，磁場儲存能量。這就是熱運動將能量分配給 $L$ 的過程。
  • 電容 ($C$) 的熱維度：當電子因為熱而隨機聚集在某處時，會產生電荷累積與微小電壓 $dV$。電場儲存能量，這就是熱運動分配能量給 $C$ 的過程。
[註2]：

這個證明的核心在於計算兩個高斯積分（Gaussian Integrals）的比值。以下將分步驟進行：先解分母（歸一化常數），再解分子（能量加權項）。

為了簡化運算，我們定義一個常數 $\beta = \frac{1}{kT}$，並設能量項為 $E = ax^2$。

1. 分母的計算：配分函數 (Partition Function)

分母 $Z$ 代表所有可能狀態的加權總和：

$$Z = \int_{-\infty}^{\infty} e^{-\beta a x^2} dx$$

這是一個標準的高斯積分形式 $\int_{-\infty}^{\infty} e^{-u^2} du = \sqrt{\pi}$。

我們令 $u^2 = \beta a x^2$，則 $u = \sqrt{\beta a}x$，微分項 $dx = \frac{1}{\sqrt{\beta a}} du$。

代入後得到：

$$Z = \frac{1}{\sqrt{\beta a}} \int_{-\infty}^{\infty} e^{-u^2} du = \sqrt{\frac{\pi}{\beta a}}$$


2. 分子的計算：能量加權積分

分子 $M$ 是能量 $ax^2$ 乘以機率權重的積分：

$$M = \int_{-\infty}^{\infty} (ax^2) e^{-\beta a x^2} dx$$

這裡將使用一個微積分技巧：參數下求導法 (Leibniz Rule)。

觀察發現，對 $e^{-\beta a x^2}$ 關於 $\beta$ 求導，會產生 $-ax^2$ 項：

$$\frac{\partial}{\partial \beta} e^{-\beta a x^2} = -ax^2 e^{-\beta a x^2}$$

因此，分子積分可以寫成：

$$M = -\frac{\partial}{\partial \beta} \int_{-\infty}^{\infty} e^{-\beta a x^2} dx = -\frac{\partial}{\partial \beta} Z$$

3. 代入與化簡化

現在我們將 $Z = \sqrt{\pi} (\beta a)^{-1/2}$ 代入上述求導式：

$$M = -\frac{\partial}{\partial \beta} \left[ \sqrt{\frac{\pi}{a}} \beta^{-1/2} \right]$$
$$M = -\sqrt{\frac{\pi}{a}} \cdot \left( -\frac{1}{2} \beta^{-3/2} \right) = \frac{1}{2} \sqrt{\frac{\pi}{a}} \beta^{-3/2}$$

4. 最終結果：期望值 $\langle E \rangle = \frac{1}{2} kT$

將分子 $M$ 除以分母 $Z$：

$$\langle E \rangle = \frac{M}{Z} = \frac{\frac{1}{2} \sqrt{\frac{\pi}{a}} \beta^{-3/2}}{\sqrt{\frac{\pi}{a}} \beta^{-1/2}} = \frac{1}{2} \beta^{-1}$$

最後，將 $\beta = \frac{1}{kT}$ 代回：

$$\langle E \rangle = \frac{1}{2} kT$$

至此得證。

留言

張貼留言

這個網誌中的熱門文章

二項、卜瓦松PMF與高斯PDF

圖片
在統計學的世界裡，三個最核心的數學模型： 二項分佈 、 卜瓦 松分佈 與 高斯分佈 。它們之間並非孤立，而是一場關於「極限」的華麗演變。 1. 二項分佈 (binomial distribution)：發生的計數 一切的起點是 伯努利試驗 （只有發生/未發生兩種結果）。當你重複進行 $n$ 次獨立的實驗，在每次發生與未發生的機率分別固定為 $p$ 和 $q$ ( $= 1-p$ ) 的情形下，則總發生次數為  $k$  的機率 $P(k)$ 所服從的規律就是「二項分佈」機率質量函數（PMF，probability mass function）： $$P( k) = \binom{n}{k} p^k (1-p)^{n-k}$$ 其中 [註1]： 期望值  $\mu = \langle k \rangle = np$ 變異數  $\sigma^2 = Var(k) = npq$ 2. 卜瓦松分佈 (Poisson distribution)：加入時間的框架 若我們將 二項分佈限定 在特定時間  $T$ 或空間內，當 試驗次數 $n$ 趨於無窮大且假設發生率 $p$ 非常小，但兩者的乘積或期望值 $\mu = np$（發生次數的期望值， 等於平均發生率 $\lambda$  乘以時間   $T$ ）保持穩定時，二項分佈就會演變成卜瓦 松分佈，對應的 PMF[註2]如下： $$P(k) = \frac{\mu^k e^{-\mu}}{k!}$$ 它是描述「特定時間或空間內，隨機事件發生次數機率」的最佳工具。 3. 高斯分佈 (Gaussian distribution)： 試驗次數夠大 當 試驗次數  $n$  趨於無窮大時，二項分佈將變成高斯分佈或常態分佈（normal distribution），機率 的數學描述必須如下改由連續的 機率 密度函數 （PDF，probability density function）[註3]來表示： $$f(x) = \frac{1}{\sigma\sqrt{2\pi}} e^{-\frac{1}{2}\left(\frac{x-\mu}{\sigma}\right)^2}$$ 特點 ：由期望值 ( $\mu$ ) 和標準差 ( $\s...
閱讀完整內容

變異數等於「平方的期望」減去「期望的平方」

在處理隨機變數時，我們最常需要計算的統計參數之一就是 變異數（variance） 。雖然定義式很直觀，但在實際計算時，我們更傾向於使用「平方的期望值減去期望值的平方」。 以下將證明這個公式： $$Var(X) = \langle X^2 \rangle - \langle X \rangle^2$$ （ 變異數 = 「平方的期望」減去「期望的平方」 ） 1. 準備工作：核心概念 在開始推導前，我們要先記住期望值運算的兩個基本特性： 線性特質 ：項與項之間可以拆解計算。 常數特質 ：一旦取了期望值， $\langle X \rangle$ 就變成了一個固定的 常數 ，不再是隨機變數。 2. 證明步驟 我們從變異數的原始定義出發：變異數是變數與平均值（期望值）之間距離平方的平均。 1) 寫出定義式 $$Var(X) = \langle (X - \langle X \rangle)^2 \rangle$$ 2) 展開括號內的平方項 利用代數公式 $(a - b)^2 = a^2 - 2ab + b^2$，我們可以將內部展開： $$Var(X) = \langle X^2 - 2X \cdot \langle X \rangle + \langle X \rangle^2 \rangle$$ 3) 利用線性性質拆解 將期望值符號 $\langle \rangle$ 分配到括號內的每一項： $$Var(X) = \langle X^2 \rangle - \langle 2X \cdot \langle X \rangle \rangle + \langle \langle X \rangle^2 \rangle$$ 4) 處理常數項（關鍵步驟！） 第二項：因為 $2$ 和 $\langle X \rangle$ 都是常數，可以提到符號外面。 $$\langle 2X \cdot \langle X \rangle \rangle = 2 \cdot \langle X \rangle \cdot \langle X \rangle = 2\langle X \rangle^2$$ 第三項：由於 $\langle X \rangle^2$ 本身已經是常數，常數的期望值就是它自己。 $$\langle \langle X \rangle^2 \rangle = \langl...
閱讀完整內容

坎貝爾定理 (Campbell's theorem)

在隨機過程與雜訊分析中，坎貝爾定理是將「微觀隨機事件」轉化為「宏觀統計特性」最強大的工具。本文將透過機率論與微積分，完整推導其期望值、自相關函數與變異數公式。 一. 系統模型定義 假設有一個隨機過程 $X(t)$ ，它是無數個形狀相同的隨機脈波函數 $h(t)$ 的疊加： $$X(t) = \sum_{k=1}^{N} h(t - t_k)$$ 其中： $t_k$ 是第 $k$ 個脈波發生的隨機時間點。 在觀測時間 $T$ 內，事件發生的總次數 $N$ 是一個隨機變數，若服從 卜瓦松分佈 ，則  $\langle N \rangle = \mu = \lambda T$ 。 在給定 $N$ 的情況下，每個 $t_k$ 獨立且均勻地分佈在 $[0, T]$ 區間內。 二. 期望值 $\langle X(t) \rangle$ 的證明 我們利用全期望值定律，先計算給定 $N$ 次事件中各次的期望值，再計入總次數  $N$  的期望值。 Step 1: 單個脈波在隨機位置出現的期望值 假設 $t_k$ 在 $[-T/2, T/2]$ 隨機均勻分佈，在 $T \to \infty$ 且脈波能量有限的情形下，任意單個隨機脈波的期望值： $$\langle h(t-t_k) \rangle = \int_{-T/2}^{T/2} h(t-x) \cdot p(x) \, dx = \frac{1}{T} \int_{-\infty}^{\infty} h(t-x) \, dx = \frac{1}{T} \int_{-\infty}^{\infty} h(u) \, du$$ Step 2: 考慮總次數 $N$ 的期望值 $$\langle X(t) \rangle = \left \langle \sum_{k=1}^{N} h(t - t_k) \right \rangle = \langle N \rangle \cdot \langle h(t-t_k) \rangle = \langle N \rangle \cdot \left( \frac{1}{T} \int_{-\infty}^{\infty} h(x) \, dx \right)$$ Step 3: 代入 $N$ 的期望值：$\l...
閱讀完整內容