pooneilの脳科学論文コメント

■ 「時間は存在しない」、エントロピー、ギブスのパラドックス(2/3)

前回からの続き。

このあたりでいい加減熱力学とかボルツマンの原理とか勉強しないといけないなと悟った。とはいえ教科書でじっくり勉強している時間もないので、ブルーバックスとか入門書を読んで最小限まとめておく。あくまでこれはわたし用のノート。こんなの学部生以来だから30年ぶりかも。

---

「高校数学でわかるボルツマンの原理」を元にしてまとめておく。

[Maxwell-Boltzmann分布(p.156)]

基本セッティング:

• 個々の気体分子のとりうるエネルギー状態: $E_0, E_1, \cdots$
• ぞれぞれのエネルギー状態の気体分子の数: $N_0, N_1, \cdots$
• 分子の総数 $N = \sum_j N_j$
• 総エネルギー $E = \sum N_j E_j$

例: 分子の数が4, 取りうるエネルギー状態が4 (等間隔)

• $E_0=0, E_1=1\epsilon, E_2=2\epsilon, E_3=3\epsilon$
• 総エネルギー $E = 3\epsilon$ の場合に可能な気体分子の数の組み合わせ:

$$\begin{align} \{N_0, N_1, N_2, N_3\} = \{1,3,0,0\}, \{2,1,1,0\}, \{3,0,0,1\} \end{align}$$

• それぞれの組み合わせで取りうる場合の数 $W$

$$\begin{align} W(1,3,0,0) &= \frac{N!}{N_0! N_1! N_2! N_3!} = \frac{4!}{1! 3! 0! 0!} = \frac{4\cdot3\cdot2\cdot1}{1\cdot (3\cdot2\cdot1)\cdot1\cdot1} = 4 \end{align}$$

• 同様にしてすべての組み合わせで

$$\begin{align} W(1,3,0,0) &= 4\\ W(2,1,1,0) &= 12\\ W(3,0,0,1) &= 4\\ \end{align}$$

• この $20=4+12+4$ 通りが同じ確率で分布する(等確率の原理)
• よって一番起こりやすい分布は $\{N_0, N_1, N_2, N_3\} = \{2,1,1,0\}$

[$N$ が大きいときの一般化(p.166)]

• $N_j$ で微分してmaxとなる $\{N_j\}$ を決める
• $W(N_0, N_1,\cdots N_j)$ の代わりに $\log W(N_0, N_1,\cdots N_j)$ をそれぞれの $N_j$ で偏微分して $0$ になる $N_j$ を見つける。

$$\begin{align} \frac{\partial log W}{\partial N_j} = 0 \end{align}$$

• スターリングの公式 $\log N! \approx N \log N - N$ より

$$\log W = N \log N - \sum_j N_{j} \log N_{j}$$

• 偏微分して $=0$ とおくと

$$\frac{\partial log W}{\partial N_j} = -\sum_i \frac{\partial N_i}{\partial N_j}log N_i = 0 \tag{1}$$

• 分子の総数 $N$ は一定なので $N_j$ による偏微分はゼロ

$$\begin{align} \frac{\partial N}{\partial N_j} = \sum_i \frac{\partial N_i}{\partial N_j} = 0 \tag{2} \end{align}$$

• エネルギーの総数 $E$ は一定なので $N_j$ による偏微分はゼロ

$$\begin{align} \frac{\partial E}{\partial N_j} = \sum_i \frac{\partial N_i}{\partial N_j}E_i = 0 \tag{3} \end{align}$$

• 以上の3つの式(1), (2), (3)を使った連立方程式を、ラグランジュの未定乗数法を使って解く。

$$\begin{align} -\sum_i \frac{\partial N_i}{\partial N_j}log N_i + \alpha \sum_i \frac{\partial N_i}{\partial N_j} + \beta \sum_i \frac{\partial N_i}{\partial N_j}E_i = 0 \\ \sum_i \frac{\partial N_i}{\partial N_j} (-log N_i + \alpha + \beta E_i) = 0 \tag{4} \end{align}$$

• (4)が $i$ や $j$ に依存せずに成立する条件は

$$\begin{align} -log N_i + \alpha + \beta E_i = 0\\ log N_i = \alpha + \beta E_i \end{align}$$

• よって各エネルギー状態の分子の分布は $\beta = -\frac{1}{k_B T}$ を入れると、

$$\begin{align} N_i &= \exp(\alpha + \beta E_i)\\ &= C\exp(-\frac{E_i}{k_B T})\tag{5} \end{align}$$

• $C$ を消すために、分子数の総和 $N$ を入れて

$$\begin{align} N = \sum_i N_i &= C\sum_i\exp(-\frac{E_i}{k_B T})\tag{6} \end{align}$$

• 式(5), (6)より $C$ を消すと

$$\begin{align} N_i = \frac{N\exp(-\frac{E_i}{k_B T})}{\sum_i\exp(-\frac{E_i}{k_B T})} = \frac{N}{Z}\exp(-\frac{E_i}{k_B T}) \end{align}$$

• この分母の $Z$ が分配関数。$i$ に依存しない。

$$\begin{align} Z \equiv \sum_i\exp(-\frac{E_i}{k_B T}) \end{align}$$

• つまり、エネルギー総和 $E$ のときに、エネルギーが高い状態 $E_i$ になるほど、存在確率 $N_i/N$ は低くなる。
• 同様に総エネルギーの式も表現できる。

$$\begin{align} E = \sum_i N_i E_i = \frac{N}{Z} \sum_i E_i\exp(-\frac{E_i}{k_B T})\tag{7} \end{align}$$

---

[ボルツマンの原理の導出(p.196)]

エントロピー $S$ (熱力学)と場合の数 $W$ (統計力学)を繋ぐ。

$$\begin{align} S = k_B \log W \tag{8} \end{align}$$

Step 1: ヘルムホルツの自由エネルギー $F$ を統計力学的な $E_i$ で表現する

• $F$ を温度 $T$ で微分(体積 $V$ は一定)

$$\begin{align} F &= E -TS\\ \frac{\partial F}{\partial T} &= -S\tag{9} \end{align}$$

• 式(9)を用いて、$F/T$ を温度 $T$ で微分してから、式(7)の $E$ を代入

$$\begin{align} \frac{\partial}{\partial T}(\frac{F}{T}) &= -\frac{E}{T^2} = -\frac{1}{T^2}\frac{N}{Z} \sum_i E_i\exp(-\frac{E_i}{k_B T})\tag{10} \end{align}$$

Step 2: 微分方程式(10)を解く

$$\begin{align} F = -k_B TN \log Z\tag{11} \end{align}$$

Step 3: 式(9)の $F$ に式(11)を代入する

$$\begin{align} S &= -\frac{\partial F}{\partial T}\\ &= k_B\frac{\partial}{\partial T}( TN \log Z)\\ &= k_B \log W \tag{8} \end{align}$$

---

[ボルツマンの原理の右辺と左辺の関係]

Arieh Ben-Naim (2007) Entropy Demystified, the Second Law of Thermodynamics Reduced to Plain Common Sense, World Scientific, Singapore こちらのページに1章と8章のプレビュー用PDFあり。

この本の8章でボルツマンの原理の右辺と左辺の関係について言及してた。

$$\begin{align} S &= k_B \log W \end{align}$$

左辺の $S$ は熱力学的エントロピーだから単位は $J/K$ で、右辺の $W$ は場合の数だから無次元。両者を合わせるためにボルツマン定数 $k_B$ を掛けてある。だから、熱力学的エントロピーと場合の数の対数(=情報)は別物であるわけだけど、

Recall that temperature was defined earlier than entropy and earlier than the kinetic theory of heat (…) Once the identification of temperature as a measure of the average kinetic energy of the atoms had been confirmed and accepted, there was no reason to keep the old units of K. (p.204-205)

そもそも温度 $T$ は歴史的経緯から単位 $K$ がつけられたけど、$\bar{T} = k_B T$ となるように温度を再定義してやれば、そのような温度 $\bar{T}$ で計算された熱力学的エントロピー $\bar{S}$ は無次元となる。

$$\begin{align} \bar{S} &= \log W \end{align}$$

よってボルツマンの原理の左辺も右辺も無次元でどちらも情報を表しているのだ、と書いてる。

同じ問題について「エントロピーを巡る冒険」(鈴木炎)の3章にも言及があった。ボルツマンの原理の式の $W$ が場合の数であるけれども、熱力学の公式でのエントロピーの式(5)のほうが難解だ。

$$\begin{align} dS = \frac{q}{T}\tag{5} \end{align}$$

問題はエントロピーよりも温度の方だと。

<温度>について考えを巡らせ、その本質について思い悩んでみると、一つわかることがある。「熱い」「冷たい」という感覚につきまとうのは、常に「触ってみる」という行為なのだ(…)触れることで、手に熱絵エネルギーが流れ込んできた時、「熱い」と感じる。熱エネルギーが流れ出すと「冷たい」。かたや0度の水と0度の氷は、くっつけたときに熱がどちらの方向へも流れない。だからこそ、われわれは両者の温度が等しいことを知るのである。(…)だが、これは、熱力学第二法則、エントロピーの法則そのものではないか！(p.125-126)

だから、あなたがいま、式(5)を理解したいと叫ぶとき、そこで問われているのは<エントロピー>の意味ではない。<温度>の真の意味が問われているのである。すなわち式(5)が語るものは、<温度>とは何か、という疑問への最終解答ー温度の<定義>なのである。(p.127)

なるほど！式(5)の $q$ をよくみる書き方 $dQ$ に変えておくと、

$$\begin{align} dS = \frac{dQ}{T}\\ T = \frac{dQ}{dS} \end{align}$$

これって温度の定義式みたいだなって思った。

次回に続く。