pooneilの脳科学論文コメント

■ 自由エネルギーの「期待値」を下げるということの意味

以前のブログ記事「スライド「感覚運動随伴性、予測符号化、そして自由エネルギー原理」作成しました」のスライドに書いた話だけど、p.64-71 にもあるように、単回の行動では自由エネルギー原理(FEP)は成り立たない。あくまでも「適応的なagentは、可能な行動選択から計算される自由エネルギーの「期待値」が下がる方向へ行動選択する」ということになる。このスライドの例だと行動選択は止まっているか目を右上に動かすかだけなので、どちらを選ぶかというと眼を動かす方を選ぶ。

でもこれを反実仮想に結びつけるというのがどうにも大げさすぎないかと気になっていた。ちょうどそのときTwitterで大羽さんが関連することを話題にしていたので、そこからやり取りが始まった。

(略語表記: FEはfree-energy (情報理論的な自由エネルギー)の略語。FEPはfree-energy principle(自由エネルギー原理)の略語。)

---

shigepong: ここでは自然言語であるところの「期待する」という日本語を使うのがピッタリくる事案であり、テクニカルタームであるところの「期待値」を使うと意味がズレる。

pooneil: これと同じ話かわからないけど、Fristonの言う“expected free energy”のexpectedに釈然としない感じを持ちます。「複数の行動の選択肢から計算された期待値」という側面と、「現在の推測ではなくcounterfactualな未来の推測をする」という側面の両方をexpectedの語でいっぺんに言おうとしているので。

shigepong: あー。とてもわかります。そこらへんも言葉を整理しないと。

shigepong: いや、そこは矛盾なかったかも。全てはcounterfactsだという立場に立てば、expectationは１つのことを言ってる。factは無い。recognitionとsenseの間のsurpriseだけがある。

shigepong: recognition as a distribution of counter facts これだけが本質という立場

pooneil: 「全てはcounterfactsだという立場に立てば」ここがポイントでしょうね。最近のFristonは、FEPとはあくまでexpected FEの最小化として扱っているようにみえるけれども、それは「counterfactual predictionをしない細胞や進化すらも推測をしている」という本人の主張とは相容れないように思うので。

pooneil: これは以前 @ksk_S さんとやり取りした時の話と関わる。Fristonの最新の記事 https://t.co/Df0g9B95b4 でも強調されていたけど、細胞や進化ですら推論過程でありFEPの枠内であると主張している。しかし進化が意識を持たないのは反実仮想的な時間の厚みがないからだと。https://t.co/tI7YdGXmwf

ksk_S: いずれにしろ、確率的推論過程と、生命の原理が同一視できるとすると、生物にしか意識を認めない派と深層学習で意識できてるじゃん派との妥協点が生まれるのかもと考えています。

shigepong: 正方形は長方形の特別な場合として含まれ、
factはcounterfactsの特別な場合として含まれ、
FEはdistributed FEの特別な場合として含まれてるという意味で、
じゅうぶんに一般化することでひとつのtheory of everythingに向かっているように見えます。

pooneil: でも進化の過程を考慮すると、まだ細胞や単純な生物しかいない段階で成立するFEPが、将来的に意識を持つ生物が生まれてきたときには、じつはcounterfactualなものまで含んでなりたつものだったっていう説明になるので、なんだか人間原理っぽい説明に思える。

shigepong: そこまでの必然性は主張されてなくて、単に複雑な対象を説明するための容量の大きなモデルが、より単純な対象を説明するのにも使えてるというだけのことでは？

pooneil: 京大のトークでも喋ったけど、期待値でのFEPの成立というのは行動(選択)の結果の不確定性を考慮してFEPの条件を緩めたものと考えられるので、元のFEPに含意されていたという説明はしにくいと思う。

pooneil: ただし、単純な生物や進化のときにはFEPが成り立たないような選択の結果は死につながっていたので、行動(選択)の不確定性というものは顕在化していなかったから、とは言えるのかも。

pooneil: ダーウィン型生物(選択されなかった表現型は死ぬ)->スキナリアン型生物(選択されなかった行動は死ぬ)->ポパー型生物(選択されなかった仮説は死ぬ)という変化の中で、より安全にFEを下げる方法を編み出した、とは言えるかも。

pooneil: そうするとここからはspeculationだけど、ポパー型とはさらに違ったやり方でFEをもっとうまく下げる方法を我々が見つけることができたなら、それはいま我々が持っている意識とは違った何か(共同主観的なものとか)を生み出すことになるかもしれない。なんだってー!!!

pooneil: 世界初のFEPに基づくSFを構想してしまった。

pooneil: FEがかえって上がるような行動選択は意識を持たない動物でもしている。たとえば火のあるところに近づくとか。けれども、それによって一発で死に至るわけではない。あくまで平均的に死ぬ可能性が上がる。

pooneil: 逆に、(平均的に=期待値としての)FEを下げる行動選択をしたものが結果的に生存確率を上げる、ということになるだろう。そういう意味では単純な動物においてもある種のexpected FEをやっているという議論は成り立つかも。(ここでの「平均的」が時間の平均だか、個体群の平均かという疑問はあるが。)

shigepong: FEの分布まで考えたところで十分にgeneralであって、「その期待値を取るのだ」はspecificな一例という位置付けになりますね。

shigepong: 「それはいま我々が持っている意識とは違った何か(共同主観的なものとか)を生み出すことに」
将来的にそれを生み出すというよりは、それがすでに目の前や身の回りにあったということを発見するんだと思う。

---

とまあこんなかんじで、一挙に頭が整理された。つまり、自由エネルギー原理が単回の行動選択で成り立つのではなくて期待値として成り立つということは、原始的な動物でも当てはまる。(原始的な動物でも単回の行動選択では自由エネルギー原理は成り立たない。) つまり自由エネルギーの「期待値」を下げるというときに、そこにcounterfactualな行動選択の結果を推測しているということを前提として考える必要はない。

人間やその他の動物のようなポパー型動物ではまだ起きていない行動の結果の推測をするような「時間的厚み」を持つことができるようになって、FEPの期待値を下げるということをもっとうまくできるようになった。そしてこの「時間的厚み」をFristonは意識を持つ動物の条件として提案している(Front. Psychol., 24 April 2018 “Am I Self-Conscious? (Or Does Self-Organization Entail Self-Consciousness?)”)。

「ポパー型とはさらに違ったやり方でFEをもっとうまく下げる方法を我々が見つけることができたなら、それはいま我々が持っている意識とは違った何か(共同主観的なものとか)を生み出すことになるかもしれない」これいいでしょ。「地球幼年期の終わり」的な感じで。「シンギュラリティー」ってこういうものなんじゃないの？(<-瞳孔が開いてる)

いま「FEPについての解説と意識の理論」という内容で日本語総説を書いているところなのだけど、そちらのほうもいまの考えでアップデートできそう。乞うご期待。

---

なんだか目が冴えて眠れないのでもうすこし書いてみる。こうして考えてみると、FEPがダーウイン型動物からポパー型動物まで包括的に説明可能だということは重要な含意を持っていることがわかる。つまり、我々ポパー型動物の「行動選択」とダーウィン型動物での「自然選択」が同じ役割を果たしているということだ。

ダーウイン型動物では、自由意志で行動選択しているのではなくて、自然選択によってその表現系の選択という形でFEを下げたことがあとになってわかる。

それならばポパー型動物でも同じだろうというわけだ。ある行動が選択されたことで結果としてある仮説が選択される。その行動選択とは結局のところ環境と脳活動による物理的な因果の結果(つまり、自然選択！)でしかなかったとしても、ダーウイン型動物は、行動選択の結果としての仮説の選択という形でFEを下げたことがあとになってわかる。

まだ表現が変だけど、自由意志と主体性の問題は、進化での自然選択の問題と並べて考えられるんではないだろうかと思う。まだ生煮えだけど、とりあえず書き残しておく。