pooneilの脳科学論文コメント

■ フィードバックとフィードフォワードにおける時間 (池上さんとのやりとりを含む)

ついったでいろいろ書いていたら、池上高志さんとのやりとりになって、考えていたことがまたもや確率論的世界と動力学系的世界の相克なのではないかなんてことに思い至った。池上さんの許可を得て、転載します。池上さんのツイートはalltblから始まるもの(リンク先はツイートのparmalink)。

---

つぎのJCで何を採りあげようか。いま考えているのはNature Neuroscience 2011の"Decoding the activity of neuronal populations in macaque primary visual cortex."で、Population codingによるprobabilistic codeというやつをちゃんと読んでおきたい。

話の流れ的には、Zemel et.al. Neural Comput. 1998でencoding-decodingの基本的なスキームがあって、Jazayeri M, Movshon JA. Nat Neurosci. 2006 でニューロンが独立でポアソン的ならば、Log likelihoodがチューニングカーブと発火頻度の掛け合わせになることを示した。

今回のNat NS 2011ではこのような単純なモデル(発火頻度を足し合わせるときの重みにチューニングカーブを使う)とニューロン間の相関を考慮に入れた場合の重み(重みをデータから学習させる)とを比較している。ぱっと見、correlationを考慮したときの重みがチューニングカーブと比べてどう変わるか、みたいな図がなかったので何が起こっているかよくわからん。

別のラインでさらにBayesian inference with probabilistic population codes [Nat Neurosci. 2006] とかも理解しておきたいが、そもそも「確率的コード」という概念自体が重要。おなじファーストのSignal detection theory, uncertainty, and Poisson-like population codes [Vision Res. 2010]も読んでおきたい。

著者が書いているとおり、SDTはpdfを使っているからこれも確率的コードの一種なわけで、そういう確率的表現をニューロン集団としてどのように持つことができるかということが、神経生理的には重要。単一ニューロンでuncertaintyをコードすることと確率的コードとの関係とか。

これは意志決定の問題でもあるし、メタ認知の問題でもある。単一ニューロン記録でuncertaintyやるのはKianiとかKepecsとかでもう行われたから、やるならニューロン集団での確率的コードみたいなことを考えるべき。でもRGCとかはもうデータがあるから、Pillow et.al. 2008みたいなかんじでどんどん進んでいくだろう。

高次の脳領域で、意識の問題と絡めてこういうことをやっていけるとしたら、私がやる意義はあるかもしれない。あんまShadlenの後追いみたいなことをやってもしょうがない。ただし、意識の問題をSDT側からいろいろ追っていたら、そういうところに突き当たったということだけど。(盲視でFC d' > YN d'となる問題)

確率表現の話も内部モデルの話も、私にとっての興味というか論点は同じで、単回でのフィードバック制御と、ヒストリーの分布を持った上でのフィードフォワード制御とは論理のレベルで別なのだというベイトソンの言い方を使って、なんかうまいこと整理できないかっていうこと。

どうも理系らしい言葉にならないけれども、フィードバック制御には過去がないから自己はない。フィードフォワード制御には過去があって、内部表現があるから一段高次。これが「なぜサーモスタットには自己がないと言えるか」の答えだと思う。

alltbl @pooneil すいません、FFとFBの解釈が、わからない。Recurrentは？

確率表現というやつもそういう意味で、現在のみに生きていない有機体でしか起こらないこと。だから尤度がなんか本質的なものなんだろうと思う。ベイズかどうかはpriorがあるかどうかだけの違いではあるけれども、渡辺澄夫氏の書いたものを読むかぎり、尤度-priorという対で一つのモデルということらしい。こういうことをもっともっと考えたい。たとえそれが望まれていなかったとしても。

石ころ単体に意識はない。意識があるとしたらそれはなんらか相互作用が必須で、石ころはほかの物体となんらか相互作用をして情報伝達をすることによってはじめて意識システムの一部となりうる。

alltbl @pooneil 電子１個の意識、というやつですか？

といいつつ、「情報」という言葉を不用意に使ってしまった。情報は読み、読まれるという意味で観察者が必要。内部的にはたんに物理法則に従っているだけなわけで。

@alltbl recurrentはFBではないですか。ただし、時間遅れがある。今の文脈で行くと、では時間遅れがあったら過去があると言えるか。無いんではないでしょうか。

alltbl @pooneil ぼくは、FBにはかならずtime delay があるし、FFは記憶はないと思いますが。

@alltbl 「電子１個の意識」ってことを言っている人がいるのですか？ 今書いているのとはちょうど逆方向かと思いますが。

alltbl @pooneil そちらの文脈だと、電子１個の意識もあることになり、それと石の差は、かなり曖昧になる。

@alltbl いまの文脈からすると、電子一個でもほかのものと情報のやりとりをしているならば意識システムの一部となると言えるかもしれない。ただ、そうなると本質は電子や石ころではなくて、情報の方になる。すると「情報」自体をちゃんと考えないとこの話は意味がなくなる。

alltbl @pooneil ぜひ、研究室の Life Mind Seminar で話してください。歓迎します！

@alltbl 確率表現みたいな話と意識のオートポイエーシスの話がうまくつながったらぜひお話をしてみたいですが時期尚早かと。それとはべつにして一度Life Mind Seminar聞きに行かせてもらえませんか？ 日時とか情報教えてください。

alltbl @pooneil 情報というのは、時間的な不可逆性が生まれること　＝　観測問題、では？

@alltbl なるほど、情報という概念を使うと観測問題になっちゃうのはわかっていたのですが、時間、過去という概念も使ったとたんにもういろんなものを先取りして入れてしまうことになるのですね。

alltbl @pooneil はい、不定期なのですが、是非。確率表現というのは、外からの視点で、Autopoiesisは、内部的な視点。ですよね？　なぜなら、外から見たら、死ぬ確率が1/3という場合でも、本人にとっては０か１だから、つねに。

@alltbl なるほど、もっと精緻にして考える価値がありそうです。直接時間を扱っているのはFBで、FFは実行時は学習結果の重みを演算しているだけという意味では過去を直接利用しているわけではない。つまり、両者は時間への関わり方が違っている。

わたしが書いたのはFBはそのつど誤差を計算すればよいという意味で過去の蓄積を必要としない。FFは(実行時ではなくて)学習の段階で過去のヒストリーによって重み付けを変えるという意味で過去の蓄積を必要とする。ベイトソン本の例では、ライフルで照準を見ながら正しく標的を合わせるのがFBでライフルで複数撃った結果を元にライフルの癖とかを学習して狙うようになるのがFF。

alltbl @pooneil うーん、でも、いままさに生きている時間、というやつがなくなってしまうのでは？　時間は生きているから。

@alltbl ですよね、確率という概念は外からの視点ですよね。それで、この問題は本当は確率的表現と力学系との関係の話になる。津田先生の新学術に入れていただいていろいろ発表を聞いてきたのですが、神経科学で力学系ってどうやったらよいのだろうともやもやしていたのとつながってきました。

@alltbl 推測ですが、FBの時間遅れの方が、現在と重なりながら進んでいく、生きられた時間に近いものと捉えていたということでしょうか？ そういう意味ならば納得がいきます。FBの時間は力学系的な時間で、FFの時間は確率表現の世界の時間、なんてまとめ方はどうでしょうか？

alltbl @pooneil FFはやっぱり力学系を走らせてるだけ、という感じですよね。FBは、おっしゃるとおりの解釈です。

@alltbl ありがとうございます。やりとり面白かったんであとでブログでまとめ直してみようと思います。転載させてください。お願いします。

alltbl @pooneil はい、光栄です。こういう話はtwitterだとむずかしいですね。はじめてそう思った。

池上さんとのやりとりを元に今日書いたことを見直してみる。内部モデル的なアイデアはMLE的、ベイズ的ひっくるめて確率表現の世界を前提としているようだ。となると力学系でのカオス的遍歴としての記憶というものが内部モデルのようなアイデアとものすごく離れていることがよくわかる。

これは本質的なことかどうかはわからないけれども、確率的表現の世界と力学系の世界とで時間の見え方が違って見えるだけでなく、お互いに隠蔽しあうような形になっているかもしれない。ある意味相補的なのかもしれないし、物事の捉え方が反転していることを反映しているのかもしれない。

@alltbl ありがとうございます。むずかしいですけど、twitterならではのやりとりだった気もします。Face-to-faceのスピード感だとこういう展開にはならなさそうで。

alltbl @pooneil なるほど。それはそうかな。twitterは研究の議論にも向いていますか？　ちなみに僕の疑問は、ソフトウェア、ハードウェアという線引きは、どの程度、脳では明確だと思いますか？

@alltbl twitterで研究の議論するのは難しいですね。どうしても断片的になりますので、clarificationに終始してしまうでしょうし。詳細を突き詰めるよりはインスピレーションを得る方が実りがあるし、そういう意味では池上さんとのやりとりは楽しいです。

@alltbl 「ソフトウェア、ハードウェアという線引き」これの論点はいろいろありすぎてぱっとはわかりませんが、たとえば、あるニューロンの機能を決定づけるのは他のニューロンだという意味で関係主義的に捉えた方がよいというのは神経生理学的立場からも言えるのではないかと。

alltbl @pooneil コンピュータのメタファで脳が考えられるか、という意味です。TeXやCromeなどのアプリは、下のハードウェアを考えなくても乗せられるか、という問題が、脳にはあるか、ということです。

見直して考えるに「サーモスタットには自己がない」をもっとちゃんと言い直すと「サーモスタットには表象がない」となるだろう。つまり内部モデルとは表象のことであって、観察者を前提とする。「サーモスタットに生きられた時間がある」かどうかは観察者ではなくてサーモスタット自身の問題だ。

@alltbl それは「情報」の概念とかかわりますね。もし情報のやりとりだけが重要なのであったら、それの乗り物は脳である必然性はない。V1ではなくてA1が視覚を処理できるように、可塑性を使ってぜんぜん別のニューロンに機能を移し替えることはあるレベルまでは可能。

alltbl @pooneil そうすると、認知心理学的な現象は、ニューロンとかじゃなくても実装可能。だと思いますか？　ロボットということだけれど。だとすると、逆に脳科学は、神経細胞で生じているから偉い、ということに？

ではこれはニューロン以外でも可能か。わたしは外在論的立場に親和性が高いので、環境との相互作用のループを保ちながら徐々に脳以外のものに機能?を移行してゆくことは可能だろうと予想して、BMI的研究がそれに寄与できるのではないかと考えてます。

@alltbl 機能は実装可能として、現象的側面が実装可能かどうかってのが論点かと。「実装」って言葉にかかわる問題ですが、オートポイエーシスは分岐させることは出来ても、丸コピーは出来ないのではないでしょうか。コンテキストがコピーできないから。機能と現象の違いはそこではないかと。

alltbl @pooneil 難しいこといいますね。個性はコピーできないけれど、新しい個性は作られるのでは？　イーガンの黒い宝石、でしたっけ？それみたいだな。

@alltbl コピーは出来ないけど、新たにはじめることは出来る。池上さんがオートマタ動かしたり、油滴実験したりするのはまさに新たにはじめることが出来るからですね。となると論点は、コンテキストがないところではじめられたオートポイエーシスは新たな個性なのかそれとも生きてない偽物か。

alltbl @pooneil 生きていけたら、本物ですね。

ここまで書いて気づいたけど、私の書く「コンテキスト」にはちょっと生気論的な神秘が入っているようだ。オートポイエーシス的に言えば、維持されるかぎりは新たに生み出されたものでもなにかが生きていると捉えるのが正しいか。

伊庭幸人氏の「学習と階層」から：「階層、とくにあらかじめシステムに作り込まれた階層は、非線形動力学の陣営からは、旧弊な機構として厳しい批判をうけている(Kaneko and Tsuda(1994)) ..."表現とアルゴリズムが区別されていない動的な情報処理" のような理念のもとで研究を進めることで、階層の概念を脱却することが可能であろうか。それとも、( "確率"の場合と同じように)"階層"も、いつまでもどこかに潜んでいて、われわれがそこから脱却したと思った瞬間に再出現するような概念なのだろうか。」ここまで引用。

単回のイベント(FB)から複数回のイベント(FF)というイメージで、後者が現象的なものが出来るために必要なのではないかとぼんやり考えていたのだけれども、見直してみればこれもやっぱり表象だ。表象以前に現象はあるのだろうか。

でも、生成の過程をイメージするに、表象が出来るのと同時に現象が出来たと考える方がもっともらしい気がする。強い表象主義(現象というものはなくて、表象だけがある)には与しないけど、表象が出来る程度の複雑さが現象には必要といった弱い表象主義は知覚運動説となじみが良さそうに思う。

もちろん、このときの表象はカルテジアン劇場的なものではなくて、断片的なものでよくて、なんらか操作できさえすればよい。そしてそんなもんだったらわざわざ表象主義とか言わなくてもよさそう。