數學雜記1: 使用Poisson分佈推導Stirling近似

Stirling 近似公式 (Stirling's approximation)，或者表示成\[\
\ln n! \simeq n\ln n - n
\]當\(n\)極大的時候，Stirling近似和精確值如圖1所示。

圖1. \(\ln \lambda !\)精確值 (藍)、Stirling 近似公式 (橘) 與利用 Poisson 分佈所推導含NLO項的值 (綠)

　關於這條近似公式我們有一個簡單的推導，可以從 Poisson 分佈著手，其表示式如下\[ P(n|\lambda)=e^{-\lambda}\frac{\lambda^n}{n!}. \]而當\(\lambda\)很大 (\(>10\)) 的時候，Poisson分佈在\(n\sim \lambda\)附近可以被一個平均值和變異數皆為\(\lambda\)的高斯分佈來近似，即\[ e^{-\lambda}\frac{\lambda^n}{n!}\simeq \frac{1}{\sqrt{2\pi \lambda}}e^{-\frac{(n-\lambda)^2}{2\lambda}} \]取\(n=\lambda\)我們有\[\begin{eqnarray*} e^{-\lambda}\frac{\lambda^{\lambda}}{\lambda!}&\simeq&\frac{1}{\sqrt{2\pi\lambda}}\\\Rightarrow\lambda!&\simeq&\lambda^\lambda e^{-\lambda}\sqrt{2\pi \lambda} \end{eqnarray*} \]等式兩邊取\(\ln\)後我們得到\[ \ln \lambda! \simeq \lambda \ln \lambda -\lambda + \frac{1}{2}\ln 2\pi \lambda \]即 Stirling 近似公式！其中最後一項\(\frac{1}{2}\ln 2\pi \lambda\)為 next-to-leading-order 修正 (NLO correction)，我們從 Poisson 分佈出發的解在\(\lambda \gtrsim 0.2\)時似乎比原來的近似公式還要來的更接近\(\ln \lambda !\)的精確值，見圖1。

　比較值得注意的一點是，由於 Poisson 分佈是離散分佈，故\(\lambda\)應取整數值，而由於一開始 Stirling 近似中的\(n\)在統計力學內是表示一個正則系綜 (canonical ensemble) 內可能的系統數 (如果是微正則系綜 (microcanonical ensemble) 的話則表是狀態數\(\Omega\)，但其實都是等價的)，而系統的數量必然是正整數。但即使如此，用 Poisson 推導出來的結果仍然適用於所有正實數的情況，對於非整數 \(z\) 的情況，\(z !\)可以用 Gamma 函數表示：\[ z!=\Gamma (z+1) = \int_0^\infty t^z e^{-t} dt \]但上述不適用於負整數。上述的作圖可以用個簡單的python來實現：

import numpy as np
import scipy.special as ss
import matplotlib.pyplot as plt

# Usual Stirling approximation
stirling = lambda x: x*np.log(x) - x

# Stirling approximation w/ NLO
stirling_nlo = lambda x: x*np.log(x) - x + 0.5*np.log(2*np.pi*x)

# Calculating N factorial
X = np.arange(0.01,10,0.01)
NFact = np.log(ss.factorial(X))
Stir = stirling(X)
StirNLO = stirling_nlo(X)

# Plot
plt.semilogx(X,NFact,label="Exact $\log \lambda!$")
plt.semilogx(X,Stir,label="Stirling's approx")
plt.semilogx(X,StirNLO,label="Stirling + NLO")
plt.xlabel("$\lambda$")
plt.ylabel("$\log \lambda!$")
plt.legend()