pooneilの脳科学論文コメント

■ 自由エネルギー原理(FEP)関連さらにいろいろ書いたことまとめ

「感情とはそもそも何なのか-現代科学で読み解く感情のしくみと障害-」乾 敏郎 (著)を図書館から借りてきた。四六判200ページで軽い読み物のような見かけをしているが、このページ数で感情障害から自由エネルギー原理までを説明するというけっこう密度が濃い本だ。

自由エネルギー原理が知覚、運動、自己、感情といった広い領域をカバーする統一理論であるということを日本語で読めるのはいまこの本だけなので、たとえば先日の私のスライドの前半を読んでFEPに興味を持った人は次はこの本に行くことをオススメします。

ただし、この本はKL距離など情報科学が概念がバンバン出てくるけどそのあたりについての説明はあまりないので、これだけで数式部分を理解しようとするのは難しいと思う。

後半部分を数式としてきっちり理解することを目指す人には「計算論的精神医学: 情報処理過程から読み解く精神障害」の3章「計算論的精神医学の方法」と7章「ベイズ推論モデル」を読むことをお勧めします。

Agencyの話(させられ体験とか)のようにベイズ脳だけで説明できるものもFEPの話にしているとか、active inferenceを-log p(s)を下げる話としてだけ説明してある(あたかもp(s)を独立して変えられそうに見えてしまう)とか、不満はある。でもこの本の意義からすれば些末なことだ。

---

@akabuchiyk さんからチューリッヒ大学の計算論的精神医学コースについて教えてもらった。資料へのリンクとか講義の動画とかいろいろある。いまPhilipp Schwartenbeckの"A beginner’s guide to Active Inference"という動画を見た。後半端折っているのが残念だけど、MDPバージョンのactive inferenceについての説明がある。

この動画の最後で紹介されていたOleg Solopchukによるmediumの記事。

• 予測符号化のNNおよびFEPについての解説記事 こちらはperceptual inferenceとlearningとを説明するというもので、EMアルゴリズム的に捉えている様子。元ネタはBogacz 2017なので、興味を持ったらそちらへ行くべし。
• Active inferenceについての解説記事 Friston et al 2015以降のMDPバージョンについての説明。この人の図はとても綺麗でわかりやすくてよい。わたしも見習いたい。

---

ベイズ脳仮説を脳で実現するためには、一つの可能性は(フリストンのFEPが前提としているような)確率分布のパラメーター(meanとvariance)を神経活動がコードするというものだ。しかしこれが唯一の可能な方法というわけでもない。もう一つの方法として、サンプリングによって分布自体をpopulation codingしているとする説もある。こちらの立場についての論文や総説を読んでた。

• NIPS 2002 “Interpreting Neural Response Variability as Monte Carlo Sampling of the Posterior.”(PDF)
• TICS 2010 “Statistically optimal perception and learning: from behavior to neural representations” これのBOX2とかTable Iとかがいいかんじ。説明に使いやすそう。(PDF)
• PNAS 2011 “Bayesian sampling in visual perception”
• Neuron 2016 “Neural Variability and Sampling-Based Probabilistic Representations in the Visual Cortex”
• TICS 2016 “Bayesian Brains without Probabilities”

最後のopinion論文についてのコメントで"Posterior Modes Are Attractor Basins"ってのを読んだら、サンプリングによるベイズ推定がフリストンのFEPとDecoの力学系的モデルを繋ぐものだって話をしている。これは以前私が書いた[Fを下げるという原理]=>[あたかもベイズ脳]と近いと思う。早くこういうことをやりたい！

いまの話を単純化してしまえば、計算論レベルにベイズ脳があって、アルゴリズムとして変分ベイズがあって、実現レベルでアトラクターダイナミクスがある、と見えるかもしれない。でもここには進化による見かけのデザインがあるだけで、トップダウン的な一方向の流れを想定するのは違うと思う。アトラクターダイナミクスが結果として変分ベイズを、ベイズ脳を実現している、というボトムアップの向きがありうると思う。

追記: 神経回路学会誌のFEP特集号の大羽さんの解説論文に関連する記載があったので、以下に短縮版を掲せておく。正確な表現は本文に当たってください。

…このフレームワーク(Edward)はおよそあらゆる確率的推論を変分推定の特別な場合として統一的に考えることで議論を単純化しているのが特徴であり、q(x)をデルタ関数に制約した特別な場合としてMAP推定を、q(x)をランダムサンプルの経験分布に制約した特別な場合としてMCMC法アルゴリズムを、q(x)をNNで生成する場合に制約した特別な場合としてGANを、それぞれ変分推論に含めている

こういうふうに解釈できるなら、FEPとは[ベイズ脳のうち変分ベイズというアルゴリズムを選択したもの]ではなくて、[脳がq(x)を持っていて、それを上記の意味で変分推論するときに定義されるVFEを下げるもの]と捉える見方に私は興味がある。

---

FEPはもともと脳の説明モデルとして考案されたものだけど、より大きな広がりを想定するようになった。つまり、進化や発達も含めた生物システムが安定に存在する条件といった意味になっている。Friston自身は“Answering Schrödinger’s question: A free-energy formulation”でそういうことに言及している。

この論文の最後に脳のないシステム、例えば大腸菌とかでFEPが成り立つのか、といった課題があると書いている：

“The challenge lies … in testing the current limits of the FEP by applying it to species without a brain, like E. coli, fungi and flora.”

そうしてみると、以前金井さん@kanair_jp が言及していた、大腸菌における環境の予測と学習の話は重要そうだ。論文としてはこちら：

• Science 2008 “Predictive behavior within microbial genetic networks.”
• Annu Rev Cell Dev Biol. 2012 “Beyond Homeostasis: A Predictive-Dynamic Framework for Understanding Cellular Behavior” 同じ著者による総説。

---

(追記3/6: 長くなったので、後半は別の記事として独立させました。)