pooneilの脳科学論文コメント

■ 三段階のモデルの議論

ブログに書いたネタの続き。Neurobiological theoryについて。
2004年の生理研COEシンポジウムの時に川人先生と小田先生と一緒にお酒を飲む機会があって、川人先生にサッカードの計算論的モデルというものはありますか? と聞かれたことがあります。
(注：設楽さん、五味さん、小林さんの仕事)
FindlayのモデルのようないわゆるNeurobiological modelはあるけど、Marrがいうような計算論的モデルはない、という趣旨のことをもっとしどろもどろになりながら答えた憶えがあります。それ以来のその質問は私の中で宿題として残っていました。
たとえば、Dola Angelakiがsaccadeのfeedforward modelとfeedback modelの議論をしていましたが、これはかなり計算論的モデルに近いところの議論です。
また、SparksとWurtzの間で上丘codeしているのはsaccadeのdisplacement か、retinal errorか、という論争がありましたが、これもサッカードをする際にどのようなアルゴリズムの実装で行っているかという議論と考えることができるでしょう。
しかし、reachingの議論でいうところの、end pointのvarianceの最小化とか、軌道のなめらかさを最大化するとか、そういう意味での計算論的な価値関数みたいな議論は見ない気がします。 varianceの最小化とかはいかにもやってそうですけど。
たぶん、サッカード単体での最適化を考えるのはあまりエコロジカルに意義のある問題が出てこないので、たとえばウォーリーを探せ課題みたいな条件で、いかに探索を効率よくやるか、みたいな問題設定をした上で計算論的な価値関数を見つけるということをやった方がいいんじゃないかと思います。
つまり、overt-covert両方のattentionまで併せたくらいの大きさの問題を考える方がよいような。
「複数のアクションや他者との協調を考えた問題」みたいなこともブログに書きましたが、けっきょくMarr の図式はある単体の問題ごとに作られる図式だから、どうやってより複雑な問題に当てはめるかということ自体がひとつのチャレンジになるのではないかと思います。
こうやって書くと、三段階のモデルの議論は (まとまらないのでこのままアップ。20120122)

■ Marrのrepresentationとprocessをベイトソン流に解釈する(2)

前回からの続きです。では、これを使って、以前書いたMarrの3x2の静的構造(三つのレベル * process/representation)を、弁証法的にメタに上っていけるような構造として捉え直すことができるんではないか、なんてことをわたしは考えた。まだかなり生煮えなアイデアなのだけれど、書いてみましょう。書いてると整理できてくる。

例として、decision taskをやっているときのLIP-FEF-SCニューロンの活動をrise-to-thresholdモデルを使ってモデル化する状況を考えてみる。われわれはLIP-FEF-SCニューロンの活動を記録する。単一ニューロンかもしれないし、集団かもしれないし、LFPかもしれない。また、発火頻度を扱ってるかもしれないし、correlationやcoherenceをあつかっているかもしれない。どうあれ、これらは観察者の我々から見た情報表現だ。

ShadlenやSchallの仕事とかで、LIPやFEFのニューロンはdecisionが済んでサッカードをする直前にある一定の発火頻度まで上がることがわかっている。たとえば、reaction timeが短いときはその発火頻度まで上がってくるのにかかる時間が短かったりする。こういうのを使ってneural correlate of decisionだ、みたいな主張をする。

しかし、常々思っていたのだけれど、こういうときのthresholdの実体とはなんだろうか？ つまり、計算論的モデルでthresholdというパラメータを設定したとして、これのneural correlate of thresholdのようなものはありうるのだろうか？ どこでサッカードが始まるかの発火頻度の値のことだから、やっぱりFEF/LIPニューロンの活動でしょ、というのが大方の意見だと思うのだけど、なんか変だとずっと思ってた。これがいまの図式だともっとうまく説明できる。

つまり、decision thresholdの変化というのは、(たとえば)LIPニューロンからの入力がFEFニューロンで統合されて発火として出力されるときの変換関数(=process)の形の変化のことだ。だから、decision threshold (representation)を直接ニューロン活動(representation)で説明しようとするのはクラスからクラスのクラスへ飛ぶような誤りをしているのであって、かならずやprocessを介して考えないと見誤る。変換関数(process)じたいはもちろん実体(representation)を持っていて、膜電位レベルとかそういうものによって決まっている。でもthresholdの調節はあるニューロンの応答特性を他の入力によって変える(shunting inhibitionでもtonicなinhibitionでもup-state-down stateでも)というようなprocessとして説明しないと、充分な説明にならない。

このようにして決められたdecision thresholdがパラメータとなっているrise-to-thresholdモデルというアルゴリズムがあって、それは計算論レベルでは何らかの評価関数を最適化している。いまの場合だったらreward rate (=payoff: しかも時間あたりの労力を加味した上での)だろう。そうしてそれはspeed-accuracy tradeoffによって拘束されている。拘束されているという表現からもわかるように、ここはエコロジカルな意義によって決定づけられている。Marrの三つのレベルではあくまで工学的な捉え方からこのレベルを「計算論のレベル」と読んだけど、我々生き物がembodiedしたcognitionを行うときの階層として捉え直すならば、「エコロジカルな意義のレベル」と呼んでもいいんじゃないかと思う。

たぶん、この階段はさらに上に上ることができて、社会的な意義とかのところまで行ける。単一のcognition, actionでここまで考える必要がある機会は少ないかもしれない。でも、いろんなcognition, actionが協調した上でなにかを最適化するという場面(複数の行動の連携、他者の行動との協調など)ではこのメタなレベルの出番が出てくるのではないか。

ともあれ、上の階層に行くほどにそんなにバリエーションは多くなくなる。MarrのVisionでの計算論レベルでの目標というのも「外界の画像から、不適切な情報によって乱されない、観察者にとって有用な記述を作り出す」というところに収束する。「観察者にとって有用な記述」ってのはMarrの表現だけど、もろにエコロジカルな意義そのものだ。

いまの図では実験データから抽象する側に矢印が書いてあるけど、もちろん実際の作業ではこのレベルを上ったり降りたりしながらモデルがrefineされてゆく。

たとえば、rise-to-threshold modelと書いたけどその中にはさらにいろんな実装があって、複数のdecision signalがthresholdまで競争するrace modelやらdecision signalの差分だけを評価して決めるモデル(Ratcliff modelはこっち)などがある。これらを選択するときには、これらのモデルで使われるパラメータのどっち(差なのか絶対値なのか)が脳内のプロセス作り出されているか、という風に決めてやるのが一番強い。この意味でいわゆるneurobiological model (生理学的データに整合性のある挙動を示すように作った神経回路モデル)の重要性がある。心理物理だけで、つまり、行動とモデルとの対応付けだけでは脳での実装が考えられていないから、充分な拘束条件を与えないままに問題を解いていることになる。それでも解けてしまう問題もあるのだろうけど。(そもそも元の図式にも「行動」がないというのが変な話だ。正確に言うと、中間のレベルは心理物理によって明らかにすることができる、という言い方で取り込まれてはいるのだけれど。)

いわゆるneurobiological model、たとえばの例ではDoug Munozのmoving hill hypothesisとかは計算論的視点がないので(なにを最適化しているかということに対する答えを持っていない)、Marrが言う意味での計算論モデルにはなっていない。だからといって軽視する必要はなくて、そのようなneurobiological modelというのはある意味、ハードウェア実装レベルでのprocessについての記述となっていると言えるかもしれない。(たとえそんなに精密なものではなかったとしても。) あ、いま書いてて気づいたことだけど、これは意義深いかもしれない。ハードウェア実装レベルのprocessを記述するというのは難しいことであるけれど、プリミティブなものはすでにある。Sommer-Wurtzのcorollary dischargeだって、Naya-Yoshida-Miyashitaのbackward spreadingだって、fMRIで出てくるfunctional connectiityだって、脳間のinteractionを見ているものはみんなそういう方向を目指している。

この図式はほかの場面でも使える。Saliency mapでのwinner-take-allがどのようなモデルのパラメータで表現されるものを統合していて、それのneural correlateを考えるためにはどんなニューロン間の相互作用を考えるべきなのか、というふうに考えていけばよい。

あと、「ニューロン間相互作用」というのはもちろん、シナプス伝達によるdendriteでの統合だけを考える必要はなくて、LFPレベルの電場が揺れて同期発火するとかそのあたりも併せて考えればよい。ニューロン活動のレベルと、もっとglobalなstateと、計算論的問題とをどうつなげればよいかを考える際にも、いまの図式は役立つはずだ。

いま書いていることをスローガン的に言えば、システムニューロサイエンスをneural correlate探しの博物学(representation)から計算論的アルゴリズム解明のためのモデル化(process)へ移行させよう、ということになる。こういう言い方ならたぶん多くの人が同意してくれると思う。いま作った図式はそのムーブメントを進めていく上でのフレームワークとなりうるのではないだろうか。

たぶんいろいろと疑問が出ると思う。はたしてこの階段のステップは飛び越せないのだろうか？ じっさい、これまでの多くのシステムニューロサイエンスの仕事はこのステップをいくつか飛ばしているように思う。たぶん、そのときにはいろんなimplicitな過程をおいて飛ばしている。そこにはtrivialなものもあれば、見逃せないものもあるだろう。なんにしろ、具体例を持ってきて考えることができそうだ。

たとえば、decodingとかneural correlateとかはどちらかというと確信犯的に途中のステップを飛ばしている。Perceptual decisionの結果がMTの活動と相関しているのは確かで、それを直接結びつけることができたのはすごいことだけど、MTの活動自体はretina->LGN->V1->MTと順番に統合が進んでいく中でのconnectionist model的に言えば中間表現に過ぎない(注)。だから、それがどうしてperceptual decisionの結果と一致するかを「相関」ではなくて操作可能な「精密科学」として解明してゆくためにはこの図式にあるようなステップを上り下りする必要があるのではないだろうか。(ここをちゃんと突き詰めると、neural correlate of XX批判になる。Opinion論文を作るときには喧嘩を売ることが重要なので、ここを研ぎ澄ませる意義はある。それはまた今度。)

(注：そこにexplicitなrepresentationがある必然性はない。なのになぜかそうなっている。これ自体はsparse codingの機能的意義として考える必要がある。)

たぶん、process-representationの分け方はハードウェアによる実装のレベルではより重要だ、というのも、測定系の限界ゆえに、representationを調べられるのはほんの一部分だけだし、それを使ってprocessを明らかにするということはまだ方法論的に非常に難しい。いまのBMIやoptogeneticsが切り開こうとしているのはこの領域だ。

一方で、計算論のレベルや計算論モデルの実装のレベルなどではこのprocess-representationを分けて取り扱うということ自体はそんなにcriticalではない。両者は同時に行うことができる。(Speed-accuracy tradeoffを考えずにpayoffを評価してもあまり意味がない。) それでも、Ullman-Koch 1985でアルゴリズムとしてのsaliency mapが提唱されてからItti-Koch 1998でそれを計算モデルとして実装してそれぞれのパラメータを決めて動くようにするまでには10年以上の時間が必要だった。だから、たぶん必ずしもtrivialな問題なわけではない。(ちなみにそれをさらに脳損傷モデルによって、そのモデルパラメータの挙動を調べることで、このアルゴリズムをrefineする、つまりハードウェア実装レベルと繋げようというのがまさにいま私がやっていることだったりする。)

Marrの表現では二番目のレベルは「表象とアルゴリズム」のレベルだが、表象自体はほかのレベルにもあるので、言い方を変えてみた。計算論的なレベルをより具体的にどういうアルゴリズムでimplementeするか、というのが本質だと思う。

もはや大学院講義で話すべきネタではなくなっている。こんなことが頭の中をぐるぐる回っていて、宿題はどんどん拡散してゆく。まあ、得てしてこういうときがいちばん面白いこと考えつくんで、こうやって書き付けておく。どんどん加筆していったので、前提とかの順番はひっくり返ってるかも。

あとはいくつか文脈的につなげられなかったメモを落ち穂拾い。

Hebbのorganization of behaviorからcovariance ruleだけでなくcell assemblyが再評価されたように、Marrも三つのレベルの話だけでなく、process-representationの軸の方も見直したらいいのではないかと考えてる。

ベイトソンは数学を使えなかったけど、いろんなところに構造とその相互関係を見いだした構造主義者としてとらえることができる。レヴィ・ストロースの構造主義的人類学の先駆者と言えるわけだし。でもって、ベイトソンはそういうブーツストラップを考えていたんだから、静的な構造主義ではなくて、「構造と力」というところまでたどり着いていたとは言えないの？ 「構造と力」でメルロ・ポンティが予定調和と批判されるからには、たぶんわたしの誤読なんだろうけど。

■ Marrのrepresentationとprocessをベイトソン流に解釈する(1)

以前ブログに書いた、attentionはprocessで awarenessはrepresentationであるという話をもっとrefineして、大学院講義に使えないかと考えてたらいろいろ話が広がってきたのでそれについて書きます。まず、これまでにこれまでにどんなことを書いてたかまとめておきます。

• まずattentionとawarenessは説明のレベルが別だから、同じものか別のものかを議論するのはそもそもカテゴリーエラーである。(20070710)
• Binocular rivalryでのITの応答はほぼ100%のcellで見えと一致しているが(見えたときに活動する)、V4では逆向きのもの(見えたときに活動が抑制される)も同じくらいある。だから、ITの活動は内的なrepresentationを反映していて、V4の活動はselectionのprocessにおける中間表現を反映しているのではないか。 (20071212)
• David MarrのVisionに書いてあるrepresentationとprocessの関係についてまとめて、脳内の活動にもrepresentationとしての活動とprocessとしての活動があるのではないか、さらに[順モデル-逆モデル]とを[process-representation]と対応づけることができるのではないか。 (20071213)

それをいま読み返してみたのだけれど、あのとき、ITの活動はrepresentationで、V4は processと書いたけど、あれは間違いだった。どっちともコードとして読みとる限りはrepresentationであって、processはニューロンとニューロンの間での変換過程にしかない。格好つけて表現すれば、processは不可視である。

そこで、計算機科学に興味がわく。Eval-applyによってprocess-representationの違いを飛び越すということの意味をもっと知りたい。Processは不可視だけれど、それはすぐに名前が与えられ、representationになる。Evalによってrepresentationがprocessに変換される。(スピード感出すために、expression-procedureをrepresentation-processと同一視しました。正しいかどうかはあとで確認。) 余談だけど、SICP読んでると(<-読むな)、フレーズがかっこよすぎて震える。"The Metacircular Evaluator"とか。メタ! サーキュラー!! エヴァリュエーター!!! アクセル!!!!みたいな。

それで、ここからが本題なのだけれど、20071213でほんのすこしベイトソンに言及した。ここをもう少し先に進めてみる。

ベイトソンは「精神と自然」において、process-representaionがブーツストラップしてどんどんメタになってゆく図式を示している。(以前書いたレジメ)

もうちょっと正確に書くと、ベイトソンは7章の"from classification to process"において、クラスからクラスのクラスへとメタに扱うときには、「名付けられる現象」(process) <- 「分類したクラス」(form) <- 「クラス間の相互作用」(process) <- 「相互作用の分類」(form)というふうにprocessとformとが互い違いに関連していく図式を書いている。名付けることによってprocessからformに論理レベルを一つ上るところがrepresentationであって、processとnameとのmapping(=ベイトソンの表現で言うとトートロジー)のことだ。(図式を書いている時間はないので省略。)

さらにこの図式を使ってMittelstadtのcalibration-feedbackの弁証法的関係も説明している。calibration-feedback!!! 内部モデルと繋がった!!! キタキタ!!! そりゃそうだ。Mittelstadtはvon Holstとの共著でefference copyの概念をはじめて導入した人ですからね。(同時期にSperryのcollorary dischargeがあり、概念そのものはHelmholtzのときからあった。) いっぽうで、ベイトソンはメイシー会議にも出席した、サイバネティクスの時代の人だし。(ちなみに原書で読むと、どうやらベイトソンはvon HolstとMittelstadtが別人であることをわかってない節がある。 )

興奮してないで説明を続けると、targetへのreachingを例に取ります。手を伸ばしながら、targetとのずれをオンラインで補正しながら正確にtargetにたどり着く。これはfeedback。このようなactionの統計的データ(actionのクラス)に基づいてreachingの向きを学習、補正するのがcalibration (feedforward)。よって、feedbackで行っていることと比べて、calibrationで行っていることはよりメタなものを取り扱っている。さらに、ここでのfeedback-calibrationがprocess-formの関係と同義であるとベイトソンは主張している。ここはとてもエキサイティングだ。このようなジグザグの階段の関係がperceptionにも当てはまるとして、エアコンのサーモスタットによる温度調節(物理的コントロール)からその部屋にいる人間の地位(社会性)までつなげた図式を書いている(「精神と自然」図11)。

では、これを使って、以前書いたMarrの3x2の静的構造(三つのレベル * process/representation)を、弁証法的にメタに上っていけるような構造として捉え直すことができるんではないか、なんてことをわたしは考えた。まだかなり生煮えなアイデアなのだけれど、書いてみましょう。書いてると整理できてくる。

長くなったのでここでいったん切ります。つづく。

■ あるカレー屋の思い出

岡崎に住むようになって10年以上経つんですけど、ものすごく好きなわけではないのだけれど、たまに行きたくなるインド料理屋があります。東岡崎の駅前にあって、正直言って流行ってない。グルメ特集で取り上げられたりすることもない。ただ、特色は、経営者の方針でしょうか、お店をやってる人(インド/パキスタン系)が定期的にどんどん入れ替わってくんです。
初めて行った頃はまだわたしが独身のときで、外食ばかりしていたんで、そのローテーションのひとつだったのですけど、明らかに店員にやる気がない。それでもインド料理屋がほかになかったので、我慢して通ってました。あるときなんか、レジ打ちの女の人がなんかレジ場で私的な電話をしてて、そっちがなんかこじれたらしくて電話相手と激高して話をしてて、こっちがいつまで待ってても会計ができない。こりゃひどいと思って、さすがに通うのを止めました。
なんかそのあとくらいでしばらく店じまいしてた気がする。
でもってもうすっかり店の存在を忘れていたのですが、久しぶりにその前を通ったら店が営業してる。期待せずに店に入ってみたら、あいかわらずおいしくない。でも、こんどは店の人がやたらとフレンドリーで、どんどん話しかけてくる。いつのまにか店の人と身の上話とかしたりしてて、土曜日の午後とかはなんかサロンみたいになって、外国人客が集まってなんか2時間とかだらだら話をするような場所になった。ちょっと日本ぽくないところが気に入ってた。インド料理屋と書いてあるけど、お店の人はネパールの人だって言ってたような。
でもってそのときはけっこう通っていたのだけれど、またなんとなく忘れていて、ひさしぶりに店に入ってみたら、また違う人になってる。こんどの人はまじめでおとなしいかんじの人で、バイトを雇わずにひとりで切り盛りしてる。今度の人は確かバングラディシュの人だったかで、前の人は国に帰ったって言ってた。
でもって前の人のときの緩い空気が店からなくなってたんで、まあ、これはもう行かないかなと最初は思ったんだけど、じつは料理がうまくなってることに気づいた。昼は基本ランチバイキングだけで、3種類のカレーが並べてあって、セルフサービスで好きに取ってよくて750円ってかんじなのだけれど、ローテーションの一つでたまに出てくるバターチキンマサラがすばらしい。クリーミーかつスパイシー。
うまくなったと思ったのは私だけではなかったようで、明らかに客層が変わった。OLとか、レストラン通いが好きそうなおばさんグループとか、そういった人たちが増えた。この店が満席になってるのをはじめて見た。850円に値上げされたけど、それでも充分行く価値があると思った。
そういうわけで私も通っていたのだけれど、やっぱカレーはカロリー高いんで、ダイエット始めてからはちょっと控えるようにしてた。
で、しばらく行かないでいたのだけれど、たまにはいいよね(AA略)とか思って店に入ってみたら、また店の人が変わってたorz これが今日の話。とりあえず今日のところは様子見だ。とりあえずお昼どきなのにお客が私しかいないという時点で危険信号。あとは、バターチキンマサラが出る日を見て判断するしかない。
いまでは岡崎中心部にも「スバカマナ」という良い店ができて、いつもスイーツな人たちで満員なんで、うまいものを食べたかったらそちらに行けばいい。俺もここのチーズナン大好き。だけれども、クソオタの俺にとっては、なんかこっちの、東岡崎駅前の、寂れた店のほうが気持ちが落ち着くんだ。(さいごまで店の名前を書くつもりはない)
さて、君たちはどう生きるか。(<-へんな終わり方。)

■ シェイピングの十の法則

私たちの実験で非常に重要だけど体系化されていないものに、被験者のトレーニングがあります。

基本的にオペラント条件で教えてゆくので、スキナーの行動分析について知っておく必要があるのだけれど、トレーニングに特化したものというのがないんです。それで、みんな試行錯誤でそれぞれにやり方を確立してゆくというところがあって、体系化されていません。

一時期いい教科書がないか論文などをあさってみたことがあるのだけれど、ほぼ皆無です。(採血を自発的にやる方法を確立したViktor Reinhardtの仕事などはありますが、システム神経科学でcognitiveな課題遂行中のニューロン活動を記録するためのトレーニングというのはほとんど見たことがありません。)

私が唯一知っているのは、一般書ですが、「うまくやるための強化の原理」カレン・プライア著 というものです。

カレン・プライアはイルカのトレーニングにオペラント心理学に基づいた方法を導入し、犬でのクリッカートレーニングなどでも本を出してます。たしかに、犬のしつけ法とかのあたりも参考になりそうだ。

でもって、この本あんまり見かけないんで(わたしはbookoffで100円で買った)、このなかにある「シェイピングの十の法則」というのをメモっておくことにしましょう。

1. 十分な数の強化が得られるように、基準を少しずつ上げよ。
2. 一時に一つのことだけを訓練せよ。
3. 基準を上げる前に、現在の段階の行動を変動強化で強化せよ。
4. 新しい基準を導入するときには、古い基準を一時的にゆるめよ。
5. 相手をたえず観察せよ。
6. 一つの行動は一つのトレーナーが教えよ。
7. 一つのシェイピング手続きをやっていて進歩しないときには、べつにやり方を見つけよ。
8. 訓練をむやみに中断してはいけない。
9. 一度できた行動でも、またできなくなることがある。そのときは、前の基準に戻れ。
10. 一回の訓練は、できれば調子が出ているときに止めよ。

これはどれも自分の経験と照らし合わせて、だいたい納得がいきます。基本はなにより「相手をたえず観察せよ。」ですけどね。

このくらいであっさり終了とします。ではまた。

追記：神経科学者SNSのほうにもpostしておきました。

追記：こちらにも類似したことが書いてありました：ABA（応用行動分析）

■ Google Chart Tools のAPIで数式

Google Chart Tools のAPIで数式
via Okumura's Blog
これまではmimeTeXをレンタルサーバに入れてそこから動かしていたのだけれど、なんかの拍子に動かなくなっていました。GoogleのAPIを呼べば、画像が返ってくる。なるほど、これは簡単。

たしかに成功。

お勧めエントリ

• 細胞外電極はなにを見ているか(1) 20080727 (2) リニューアル版 20081107
• 総説 長期記憶の脳内メカニズム 20100909
• 駒場講義2013 「意識の科学的研究 - 盲視を起点に」20130626
• 駒場講義2012レジメ 意識と注意の脳内メカニズム(1) 注意 20121010 (2) 意識 20121011
• 視覚、注意、言語で3*2の背側、腹側経路説 20140119
• 脳科学辞典の項目書いた 「盲視」 20130407
• 脳科学辞典の項目書いた 「気づき」 20130228
• 脳科学辞典の項目書いた 「サリエンシー」 20121224
• 脳科学辞典の項目書いた 「マイクロサッケード」 20121227
• 盲視でおこる「なにかあるかんじ」 20110126
• DKL色空間についてまとめ 20090113
• 科学基礎論学会 秋の研究例会 ワークショップ「意識の神経科学と神経現象学」レジメ 20131102
• ギャラガー＆ザハヴィ『現象学的な心』合評会レジメ 20130628
• Marrのrepresentationとprocessをベイトソン流に解釈する (1) 20100317 (2) 20100317
• 半側空間無視と同名半盲とは区別できるか？(1) 20080220 (2) 半側空間無視の原因部位は？ 20080221
• MarrのVisionの最初と最後だけを読む 20071213

月別過去ログ

[2024]

5|

4|

3|

2|

1|

[2023]

12|

11|

10|

9|

8|

7|

6|

5|

4|

3|

2|

1|

[2022]

12|

11|

10|

9|

8|

7|

6|

5|

4|

3|

2|

1|

[2021]

12|

11|

10|

9|

8|

7|

6|

5|

4|

3|

2|

1|

[2020]

12|

11|

10|

9|

8|

7|

6|

5|

4|

3|

2|

1|

[2019]

12|

11|

10|

9|

8|

7|

6|

5|

4|

3|

2|

1|

[2018]

12|

11|

10|

9|

8|

7|

6|

5|

4|

3|

2|

1|

[2017]

12|

11|

10|

9|

8|

7|

6|

5|

4|

3|

2|

1|

[2016]

12|

11|

10|

9|

8|

7|

6|

5|

4|

3|

2|

1|

[2015]

12|

11|

10|

9|

8|

7|

6|

5|

4|

3|

2|

1|

[2014]

12|

11|

10|

9|

8|

7|

6|

5|

4|

3|

2|

1|

[2013]

12|

11|

10|

9|

8|

7|

6|

5|

4|

3|

2|

1|

[2012]

12|

11|

10|

9|

8|

7|

6|

5|

4|

3|

2|

1|

[2011]

12|

11|

10|

9|

8|

7|

6|

5|

4|

3|

2|

1|

[2010]

12|

11|

10|

9|

8|

7|

6|

5|

4|

3|

2|

1|

[2009]

12|

11|

10|

9|

8|

7|

6|

5|

4|

3|

2|

1|

[2008]

12|

11|

10|

9|

8|

7|

6|

5|

4|

3|

2|

1|

[2007]

12|

11|

10|

9|

8|

7|

6|

5|

4|

3|

2|

1|

[2006]

12|

11|

10|

9|

8|

7|

6|

5|

4|

3|

2|

1|

[2005]

12|

11|

10|

9|

8|

7|

6|

5|

4|

3|

2|

1|

[2004]

12|

11|

10|

9|

8|

7|

6|

5|

4|

3|

2|

1|

[2003]

12|

11|

8|

7|

[2001]

10|

8|

6|

5|

4|

2|

[2000]

12|

9|

8|

7|

6|

3|

2|

1|

[1999]

9|

8|

7|