pooneilの脳科学論文コメント

■ トノーニの「意識の統合情報理論」について：予習最終回

ジュリオ・トノーニが来るワークショップ "Measuring Consciousness - Theory and Experiments"は京大で3/25開催。参加費無料、申し込み手続き不要。

---

トノーニのBiol. Bull. 2008 "Consciousness as Integrated Information: a Provisional Manifesto"のはじめの方を読んでた。まとめると、

フォトダイオードには意識が無くて人間に意識はあるのはなぜかというと、「灯りが付いている、付いていない」という事象が、人間にとってはそれが光であって音でない、無彩色であり色はない、といったいろんなレパートリーの中から選ばれたという意味で情報量があるのに対して、フォトダイオードではそれは単なる1ビットの情報でしかないからではないか。いっぽうデジカメは情報量はたくさんあるが、センサー同士の間に相互作用はない。つまり統合がない。だから、情報量が多ければ意識があるというわけではない。

というわけで、情報量と統合との両方を考慮したものとして、まず要素間ごとに定義されるeffective informationを計算する。さらに脳の部分ごとに切り分けたときの情報量を計算して、[脳の部分での情報量の総和]と[脳の全体での情報量]との差を計算して、部分では説明できない分がPhi。まとめここまで。

あらゆる部分の切り分け方をするために、組み合わせの爆発が起こって、実際の生物のニューロン数では実質的に計算が無理となる。Sethの論文はこのへんを工夫して、実際の脳でも応用可能なindexを作っている。大泉さんもたしかはじめのうちはこのindexを使っていたと思うけどその後改良しているらしいのでそのへんは当日のお楽しみに。

---

でもって、わたしが以前問題にしたのは、ここでのeffective information (EI) が、外部からの情報量ではなくて、その要素にとっての情報量になっているのかということだった。つまり、神の視点がないようになっているのか。

たとえば、さっきのデジカメでは情報量が多いという話はあくまで観察者の視点であって、デジカメ自体にとっては要素を繋ぐすべがないのだから、それはデジカメにとっての情報ではない。

これについてはp.220で言及されていて、mechanism(要素間の関係)とstateが決まればEIはimplicitに決まるという意味で、 EIはそのシステムにとってのintrinsic propertyである、という言い方をしている。そのうえで、外側から見る際にはあらゆる可能なinputを入れてやることでエントロピーが最大のときを決めてやることでEIをexplicitに計算してやることが出来る、とある。そういうわけで、EIは要素自体がアクセスできる値ではないし、要素自体があらゆる可能な入力のレパートリーを知っているわけではない、ということになる。

だから、要素自体は入力を出力に変換するmechanismと自身のstateしか持ってない。Phiはそういったシステムが持っている創発的な、と言って悪ければ統計物理的な値である。

ただ、こういう言い方で内的/外的情報の問題が解決できるというのなら、EIでなくてほかの情報量的indexでもいいように思う。後述するが、Itti surpriseでも同様なものを構築することが出来るだろう。そうすると、フリストンの自由エネルギーと情報理論的にどういう関係になるだろうかとか一瞬想像してしまう。

---

EIの計算の説明名で書いてあることがよく分からない。t=1でstateが11 (二つの要素のそれぞれが01になる)だったとき、t=0では10または11しかとらないとあるが、これがなんでだかわからん。なんか説明欠けてないだろうか?

EIは要素間で決まる値であり、要素それ自体は自分のstateしかわからないし、相手の要素のstateはここでmechanismと呼んでいる関係(条件付き確率)を通してしか分からないはず。

ともあれ、EIはあらゆる可能性が当確率で起こるとするpriorと実際に起きているposteriorとの間のKL距離なので、直前の時間のstateとの差分を見ているpredictive codingとは別。EIは相対的ではなくて、絶対的な情報量の計算をしている。

もうちょっと正確に言うと、EIはKL距離なので向きがある。要素1->要素2と逆向きとのEIがそれぞれ計算される。

あとは新幹線の中で読む。中途半端だが、ここまででブログにしておく。