[月別過去ログ] 2018年05月

« 2018年04月 | 最新のページに戻る | 2018年06月 »

2018年05月20日

■ 自由エネルギーの「期待値」を下げるということの意味(つづき)

昨日のエントリの続きです。大羽さんのコメントの「FEからdistributed FE（DFE）への拡張」ここを昨日は触れてなかったのでもう少し考えてみます。

Perceptual inferenceのみで考える場合FEは推測qと生成モデルpのKL距離としてひとつのFEが計算されるだけ。でさらにFEの分布を考える必要が出てくるのはactive inferenceを考慮する場合。複数の可能な行動の選択肢があって、それぞれでサンプルされる感覚入力sが変わりうるので複数のFEが出てくる。

そうしてみるとFEからdistributed FEへ拡張するのは、active inferenceを考慮に入れて、しかも可能な行動の選択肢が複数ありうるときということになる。「可能な行動の選択肢」というのが曲者で、いくつかの捉え方がある。

外界の条件によってその行動が一意に決まるならばそのような選択肢など無く、FEは一点に定まる。眼前に提示された黒丸に必ず飛びつくカエルについて考えてみよう。こんな場合でも運動自体は誤差を伴うからFEは一点とガウシアン的な誤差の分布を持つ。こういうときは確率的な期待値をとるというので問題ない。

でも我々がふだん想定する「行動の選択肢」とはそういうものではなくて、右に100円があって、左にケーキがあるときにどちらを先に見るか、みたいなdiscreteな選択肢を想定していると思う。このようなときは確率的な期待値をとる以外の方法もありうるだろう。

ここで問題にしたいのは昨日ブログの最後に書いた自由意志、主体性との関係で、そのそも我々がその二つを選べると思うからこそその二つのFEの期待値を計算することになるわけだけど、その選択自体は環境と脳状態とそれらのノイズによって決まっているなら、行動選択とは自然選択であり、主体はない。

どう選択するかよりも、複数の選択肢がありうるかのほうがこの状況を決めている。進化における自然選択においても、表現型が連続的でなく離散的であること(たとえばある遺伝子の欠失による酵素の欠損)が選択の幅を作ること、そのどちらもが生存可能で、選択の対象となりうること、これこそが自然選択を可能にしている。

世界への「介入」における 行動a -> 世界x -> 感覚入力s という因果の連関では予想外のことが起こりうる。この不確定さには、誤差的なものと、複数の離散的な選択肢からの一つを選ぶことによるものがある。世界を「観察」する際には誤差的なものが大半で、これが介入と観察の違いと言えないだろうか。

だんだんグダグダになってきたのでここまで。

2018年05月18日

■ 自由エネルギーの「期待値」を下げるということの意味

以前のブログ記事「スライド「感覚運動随伴性、予測符号化、そして自由エネルギー原理」作成しました」のスライドに書いた話だけど、p.64-71 にもあるように、単回の行動では自由エネルギー原理(FEP)は成り立たない。あくまでも「適応的なagentは、可能な行動選択から計算される自由エネルギーの「期待値」が下がる方向へ行動選択する」ということになる。このスライドの例だと行動選択は止まっているか目を右上に動かすかだけなので、どちらを選ぶかというと眼を動かす方を選ぶ。

でもこれを反実仮想に結びつけるというのがどうにも大げさすぎないかと気になっていた。ちょうどそのときTwitterで大羽さんが関連することを話題にしていたので、そこからやり取りが始まった。

(略語表記: FEはfree-energy (情報理論的な自由エネルギー)の略語。FEPはfree-energy principle(自由エネルギー原理)の略語。)

shigepong: ここでは自然言語であるところの「期待する」という日本語を使うのがピッタリくる事案であり、テクニカルタームであるところの「期待値」を使うと意味がズレる。

pooneil: これと同じ話かわからないけど、Fristonの言う“expected free energy”のexpectedに釈然としない感じを持ちます。「複数の行動の選択肢から計算された期待値」という側面と、「現在の推測ではなくcounterfactualな未来の推測をする」という側面の両方をexpectedの語でいっぺんに言おうとしているので。

shigepong: あー。とてもわかります。そこらへんも言葉を整理しないと。

shigepong: いや、そこは矛盾なかったかも。全てはcounterfactsだという立場に立てば、expectationは１つのことを言ってる。factは無い。recognitionとsenseの間のsurpriseだけがある。

shigepong: recognition as a distribution of counter facts これだけが本質という立場

pooneil: 「全てはcounterfactsだという立場に立てば」ここがポイントでしょうね。最近のFristonは、FEPとはあくまでexpected FEの最小化として扱っているようにみえるけれども、それは「counterfactual predictionをしない細胞や進化すらも推測をしている」という本人の主張とは相容れないように思うので。

pooneil: これは以前 @ksk_S さんとやり取りした時の話と関わる。Fristonの最新の記事 https://t.co/Df0g9B95b4 でも強調されていたけど、細胞や進化ですら推論過程でありFEPの枠内であると主張している。しかし進化が意識を持たないのは反実仮想的な時間の厚みがないからだと。https://t.co/tI7YdGXmwf

ksk_S: いずれにしろ、確率的推論過程と、生命の原理が同一視できるとすると、生物にしか意識を認めない派と深層学習で意識できてるじゃん派との妥協点が生まれるのかもと考えています。

shigepong: 正方形は長方形の特別な場合として含まれ、
factはcounterfactsの特別な場合として含まれ、
FEはdistributed FEの特別な場合として含まれてるという意味で、
じゅうぶんに一般化することでひとつのtheory of everythingに向かっているように見えます。

pooneil: でも進化の過程を考慮すると、まだ細胞や単純な生物しかいない段階で成立するFEPが、将来的に意識を持つ生物が生まれてきたときには、じつはcounterfactualなものまで含んでなりたつものだったっていう説明になるので、なんだか人間原理っぽい説明に思える。

shigepong: そこまでの必然性は主張されてなくて、単に複雑な対象を説明するための容量の大きなモデルが、より単純な対象を説明するのにも使えてるというだけのことでは？

pooneil: 京大のトークでも喋ったけど、期待値でのFEPの成立というのは行動(選択)の結果の不確定性を考慮してFEPの条件を緩めたものと考えられるので、元のFEPに含意されていたという説明はしにくいと思う。

pooneil: ただし、単純な生物や進化のときにはFEPが成り立たないような選択の結果は死につながっていたので、行動(選択)の不確定性というものは顕在化していなかったから、とは言えるのかも。

pooneil: ダーウィン型生物(選択されなかった表現型は死ぬ)->スキナリアン型生物(選択されなかった行動は死ぬ)->ポパー型生物(選択されなかった仮説は死ぬ)という変化の中で、より安全にFEを下げる方法を編み出した、とは言えるかも。

pooneil: そうするとここからはspeculationだけど、ポパー型とはさらに違ったやり方でFEをもっとうまく下げる方法を我々が見つけることができたなら、それはいま我々が持っている意識とは違った何か(共同主観的なものとか)を生み出すことになるかもしれない。なんだってー!!!

pooneil: 世界初のFEPに基づくSFを構想してしまった。

pooneil: FEがかえって上がるような行動選択は意識を持たない動物でもしている。たとえば火のあるところに近づくとか。けれども、それによって一発で死に至るわけではない。あくまで平均的に死ぬ可能性が上がる。

pooneil: 逆に、(平均的に=期待値としての)FEを下げる行動選択をしたものが結果的に生存確率を上げる、ということになるだろう。そういう意味では単純な動物においてもある種のexpected FEをやっているという議論は成り立つかも。(ここでの「平均的」が時間の平均だか、個体群の平均かという疑問はあるが。)

shigepong: FEの分布まで考えたところで十分にgeneralであって、「その期待値を取るのだ」はspecificな一例という位置付けになりますね。

shigepong: 「それはいま我々が持っている意識とは違った何か(共同主観的なものとか)を生み出すことに」
将来的にそれを生み出すというよりは、それがすでに目の前や身の回りにあったということを発見するんだと思う。

とまあこんなかんじで、一挙に頭が整理された。つまり、自由エネルギー原理が単回の行動選択で成り立つのではなくて期待値として成り立つということは、原始的な動物でも当てはまる。(原始的な動物でも単回の行動選択では自由エネルギー原理は成り立たない。) つまり自由エネルギーの「期待値」を下げるというときに、そこにcounterfactualな行動選択の結果を推測しているということを前提として考える必要はない。

人間やその他の動物のようなポパー型動物ではまだ起きていない行動の結果の推測をするような「時間的厚み」を持つことができるようになって、FEPの期待値を下げるということをもっとうまくできるようになった。そしてこの「時間的厚み」をFristonは意識を持つ動物の条件として提案している(Front. Psychol., 24 April 2018 “Am I Self-Conscious? (Or Does Self-Organization Entail Self-Consciousness?)”)。

「ポパー型とはさらに違ったやり方でFEをもっとうまく下げる方法を我々が見つけることができたなら、それはいま我々が持っている意識とは違った何か(共同主観的なものとか)を生み出すことになるかもしれない」これいいでしょ。「地球幼年期の終わり」的な感じで。「シンギュラリティー」ってこういうものなんじゃないの？(<-瞳孔が開いてる)

いま「FEPについての解説と意識の理論」という内容で日本語総説を書いているところなのだけど、そちらのほうもいまの考えでアップデートできそう。乞うご期待。

なんだか目が冴えて眠れないのでもうすこし書いてみる。こうして考えてみると、FEPがダーウイン型動物からポパー型動物まで包括的に説明可能だということは重要な含意を持っていることがわかる。つまり、我々ポパー型動物の「行動選択」とダーウィン型動物での「自然選択」が同じ役割を果たしているということだ。

ダーウイン型動物では、自由意志で行動選択しているのではなくて、自然選択によってその表現系の選択という形でFEを下げたことがあとになってわかる。

それならばポパー型動物でも同じだろうというわけだ。ある行動が選択されたことで結果としてある仮説が選択される。その行動選択とは結局のところ環境と脳活動による物理的な因果の結果(つまり、自然選択！)でしかなかったとしても、ダーウイン型動物は、行動選択の結果としての仮説の選択という形でFEを下げたことがあとになってわかる。

まだ表現が変だけど、自由意志と主体性の問題は、進化での自然選択の問題と並べて考えられるんではないだろうかと思う。まだ生煮えだけど、とりあえず書き残しておく。

お勧めエントリ

  • 細胞外電極はなにを見ているか(1) 20080727 (2) リニューアル版 20081107
  • 総説 長期記憶の脳内メカニズム 20100909
  • 駒場講義2013 「意識の科学的研究 - 盲視を起点に」20130626
  • 駒場講義2012レジメ 意識と注意の脳内メカニズム(1) 注意 20121010 (2) 意識 20121011
  • 視覚、注意、言語で3*2の背側、腹側経路説 20140119
  • 脳科学辞典の項目書いた 「盲視」 20130407
  • 脳科学辞典の項目書いた 「気づき」 20130228
  • 脳科学辞典の項目書いた 「サリエンシー」 20121224
  • 脳科学辞典の項目書いた 「マイクロサッケード」 20121227
  • 盲視でおこる「なにかあるかんじ」 20110126
  • DKL色空間についてまとめ 20090113
  • 科学基礎論学会 秋の研究例会 ワークショップ「意識の神経科学と神経現象学」レジメ 20131102
  • ギャラガー＆ザハヴィ『現象学的な心』合評会レジメ 20130628
  • Marrのrepresentationとprocessをベイトソン流に解釈する (1) 20100317 (2) 20100317
  • 半側空間無視と同名半盲とは区別できるか？(1) 20080220 (2) 半側空間無視の原因部位は？ 20080221
  • MarrのVisionの最初と最後だけを読む 20071213

月別過去ログ

[2024]
5|
4|
3|
2|
1|
[2023]
12|
11|
10|
9|
8|
7|
6|
5|
4|
3|
2|
1|
[2022]
12|
11|
10|
9|
8|
7|
6|
5|
4|
3|
2|
1|
[2021]
12|
11|
10|
9|
8|
7|
6|
5|
4|
3|
2|
1|
[2020]
12|
11|
10|
9|
8|
7|
6|
5|
4|
3|
2|
1|
[2019]
12|
11|
10|
9|
8|
7|
6|
5|
4|
3|
2|
1|
[2018]
12|
11|
10|
9|
8|
7|
6|
5|
4|
3|
2|
1|
[2017]
12|
11|
10|
9|
8|
7|
6|
5|
4|
3|
2|
1|
[2016]
12|
11|
10|
9|
8|
7|
6|
5|
4|
3|
2|
1|
[2015]
12|
11|
10|
9|
8|
7|
6|
5|
4|
3|
2|
1|
[2014]
12|
11|
10|
9|
8|
7|
6|
5|
4|
3|
2|
1|
[2013]
12|
11|
10|
9|
8|
7|
6|
5|
4|
3|
2|
1|
[2012]
12|
11|
10|
9|
8|
7|
6|
5|
4|
3|
2|
1|
[2011]
12|
11|
10|
9|
8|
7|
6|
5|
4|
3|
2|
1|
[2010]
12|
11|
10|
9|
8|
7|
6|
5|
4|
3|
2|
1|
[2009]
12|
11|
10|
9|
8|
7|
6|
5|
4|
3|
2|
1|
[2008]
12|
11|
10|
9|
8|
7|
6|
5|
4|
3|
2|
1|
[2007]
12|
11|
10|
9|
8|
7|
6|
5|
4|
3|
2|
1|
[2006]
12|
11|
10|
9|
8|
7|
6|
5|
4|
3|
2|
1|
[2005]
12|
11|
10|
9|
8|
7|
6|
5|
4|
3|
2|
1|
[2004]
12|
11|
10|
9|
8|
7|
6|
5|
4|
3|
2|
1|
[2003]
12|
11|
8|
7|
[2001]
10|
8|
6|
5|
4|
2|
[2000]
12|
9|
8|
7|
6|
3|
2|
1|
[1999]
9|
8|
7|
« 2018年04月 | 最新のページに戻る | 2018年06月 »