シナプスの過剰生産とミエリン形成の波が次々と進むのに同調して、学習の感受期は、関係する脳の 領域によって、始まったり終わったりする時期が変わる。(スタニスラス・ドゥアンヌ(1965-))

学習感受期

シナプスの過剰生産とミエリン形成の波が次々と進むのに同調して、学習の感受期は、関係する脳の 領域によって、始まったり終わったりする時期が変わる。(スタニスラス・ドゥアンヌ(1965-))

 「特筆すべきことに、このシナプス過剰生産と刈り込みの波は、どこでも同時に起きるのではない。一 次視覚野は、他の感覚野と同様、もっと高次の皮質領域よりもずっと速く成熟する。早期の感覚野で は、皮質の編成を停止することによって脳の入力を速やかに安定させる一方で、高次の領域はずっと長 期にわたって変化できるようにしておく、という原則らしい。たとえば、前頭前皮質のような高い階層 にある皮質領域は、なかなか安定しない。それは思春期にもそれ以後にも変化し続ける。ヒトという種 では、シナプス過剰生産のピークは視覚野では二歳頃に終わり、聴覚野では三歳あるいは四歳、前頭前野では五歳から一〇歳の間となる。 軸索を絶縁体でくるむミエリン形成という過程も同じパターンを たどる。 生後何か月かは、まず感覚野のニューロンが、ミエリンという絶縁膜の恩恵を受ける。その結果、視覚情報処理は劇的に加速する。網膜から視覚野への情報伝達の時間差は生後数週間で、 四分の一 秒から十分の一秒へと短縮される。この絶縁が、抽象的思考や注意や計画の中枢である前頭野へと伸び る線維束にまで及ぶのは、これよりさらに遅れる。幼児の脳は、何年かの間、ハイブリッドになってい る。感覚回路と運動回路は相当に成熟しているが、高次の領野はまだミエリン形成が進んでいない低速の回路での動作が続く。その結果、生まれてから一年の間は、顔が見えているといった基本的情報を察 知するまでにかかる時間は大人の四倍にもなる。

　シナプスの過剰生産とミエリン形成の波が次々と進むのに同調して、学習の感受期は、関係する脳の 領域によって、始まったり終わったりする時期が変わる。 入口の感覚野がまっさきに学習能力を失う。 ヒトでも動物でもよく調べられているのが両眼視の例だ。 視覚系は、奥行きを計算するために、両方の 眼からの情報を融合する。しかしそのような「両眼融合」が起きるのは、視覚野が明瞭な感受期にある 間に両眼から高品質の入力を受け取ればこそのことだ。この時期はネコで数か月、ヒトで数年続く。こ の時期の間、一方の眼が閉ざされたり、ぼやけたり、重症の斜視のせいで方向がそろっていなかったり すると、両眼融合担当の皮質回路が形成されず、その結果、融合は恒久的に失われる。「弱視」と呼ば れるこの状況は、生まれた後の早い時期 理想的には三歳になる前に修正しなければならない。 に損なわれたままになる。」

(スタニスラス・ドゥアンヌ(1965-),『脳はこうして学ぶ』,第2部 脳はいかにして学習するか,第5章　今育ちの出る幕,pp.146-147,森北出版,2021,松浦利輔,中村仁洋)

脳はこうして学ぶ [ スタニスラス・ドゥアンヌ ]

内部生成モデルには、進化を通じて継承されてきた仮説の集合(生得的な知識、ベイズ理論の事前分布)と、こうした仮説を個人的な経験によって修正した仮説の集合(事後分布)とがある。(スタニスラス・ドゥアンヌ(1965-)

 生得的な仮説と、経験による修正

内部生成モデルには、進化を通じて継承されてきた仮説の集合(生得的な知識、ベイズ理論の事前分布)と、こうした仮説を個人的な経験によって修正した仮説の集合(事後分布)とがある。(スタニスラス・ドゥアンヌ(1965-)

「脳をこのように見ることによって、成人の判断は、二つのレベルの洞察、つまり、人類に備わった 生得の知識 (ベイズ理論では事前分布と言い、ここでは進化を通じて継承されている信頼できそうな仮説の集合のこと) と、個人的な経験(事後分布、つまりそうした仮説の、生涯に得られた推論すべてに基づく修正のこと)を組み合わ せる。この分業は古典的な「生まれと育ち」の論争を終わらせる。私たちの脳の組織は、強力なスター トアップ・キットとやはり強力な学習装置を提供するのだ。すべての知識がこの二つの構成要素に基づ いていなければならない。まず、環境とのやりとりに先立つ事前の想定の集合と、何らかの現実のデー タと遭遇したときの、事後の妥当性に従って前提群を整理する能力との二つだ。 

　ベイズ方式が学習には最善であることを、数学的に明らかにすることができる。一回ごとの学習のまさにエッセンスを引き出して、それを最大に利用するには、この方式しかない。チューリングがエ ニグマ暗号に見出したわずかな偏りが合致するというようなわずかな情報でさえ、学習には十分な 場合もある。 システムがそれを、辛抱強く証拠を積み重ねる一人前の統計学者のように処理すれば、いずれ必然的に、ある理論は斥け、別の理論は妥当と判断できるだけのデータが得られる。

　脳は本当にそういうふうに動いているのだろうか。脳は生まれたときから、選択することを学習する もととなる広大な仮説の領域を生み出せるのだろうか。それは観察されたデータがどれほど支持するか によって仮説を選ぶ消去法で進むのだろうか。 子どもは生まれた瞬間から、賢明な統計学者のようにふ るまい、学習経験のたびにできるだけ多くの情報を引き出せるのか。次は赤ちゃんの脳についての実験的データをもっと詳しく見ることにしよう。」

(スタニスラス・ドゥアンヌ(1965-),『脳はこうして学ぶ』,第1部 学習とは何か,第2章　今のマシンより脳の方がうまく学習する理由,pp.78-79,森北出版,2021,松浦利輔,中村仁洋)

脳はこうして学ぶ [ スタニスラス・ドゥアンヌ ]

私たちの脳は、 内部で現実を再構築することによって、日中の、必然的に限られた経験を増やす。睡眠は、訓練用に使 えるデータが乏しいという、あらゆる学習アルゴリズムが直面する問題を解決するらしい。また、こうした思考実験の間に、私たちは時として何かを発見する。(スタニスラス・ドゥアンヌ(1965-))

思考実験としての睡眠

 私たちの脳は、 内部で現実を再構築することによって、日中の、必然的に限られた経験を増やす。睡眠は、訓練用に使 えるデータが乏しいという、あらゆる学習アルゴリズムが直面する問題を解決するらしい。また、こうした思考実験の間に、私たちは時として何かを発見する。(スタニスラス・ドゥアンヌ(1965-))

「この考え方によれば、夢は強化されたトレーニング用イメージの集合に他ならない。私たちの脳は、 内部で現実を再構築することによって、日中の、必然的に限られた経験を増やす。睡眠は、訓練用に使 えるデータが乏しいという、あらゆる学習アルゴリズムが直面する問題を解決するらしい。今の人工 ニューラルネットワークが学習するために必要とするデータセットは膨大だが、人生はあまりに短 く、私たちの脳は日中に集められる限られた量の情報でやりくりしなければならない。睡眠は、脳が一生かかっても実際に経験するには足りそうにない無数の出来事を、高速化した形でシミュレーションす るために見出した解決策なのかもしれない。

　こうした思考実験の間に、私たちは時として何かを発見する。そこに魔法はない。私たちの頭の シミュレーションエンジンが動いている間、ときどき予想外の結果に行き当たる。 チェスを指す人 が、ルールをおぼえてしまえば、そのルールから得られる結果を何年かにわたって研究できるというの にちょっと似ている。実際、人類は、頭の中のイメージのおかげで科学上の大発見のいくつかを得た たとえば光に乗ることを夢想したアインシュタインや、リンゴのように地球に落ちる月を見 ニュートンのように。」

(スタニスラス・ドゥアンヌ(1965-),『脳はこうして学ぶ』,第3部 学習の四本柱,第10章　定着,p.302,森北出版,2021,松浦利輔,中村仁洋)

脳はこうして学ぶ [ スタニスラス・ドゥアンヌ ]

学習とは、外の世界を表す内部生成モデルの構築にある。覚醒状態では、ボトムアップ処理により予測された内部モデルを、感覚データで検証することでモデルを修正し、睡眠状態では、トップダウン処理で内部モデルを生成し、トレーニングする。(スタニスラス・ドゥアンヌ(1965-))

 学習

学習とは、外の世界を表す内部生成モデルの構築にある。覚醒状態では、ボトムアップ処理により予測された内部モデルを、感覚データで検証することでモデルを修正し、睡眠状態では、トップダウン処理で内部モデルを生成し、トレーニングする。(スタニスラス・ドゥアンヌ(1965-))

「将来、知能を持ったマシンも、私たちと同様に眠らなければならなくなるのだろうか。 ばかげた質問 に見えるが、それでも私は、ある意味でそうなると思っている。 マシンの学習アルゴリズムはおそらく、人間が睡眠と呼ぶものと似た定着の仕掛けを組み込むことになるだろう。実際、計算機科学者はす でに睡眠/覚醒の循環をまねる学習アルゴリズムをいくつか設計している。このアルゴリズムは、私が 本書で唱えている、学習とは外の世界を表す内部生成モデルの構築にあるとする、新しい学習観を体現 する刺激的なモデルとなる。私たちの脳には大量の内部モデルがあり、頭の中の実物以上に本物らしい イメージや、いかにもありそうな会話や、意味のある推理を、いろいろと繰り返し合成してみることが できる。覚醒状態では、こうしたモデルを私たちの環境用に合わせる。外の世界から得る感覚データを 使って、身のまわりの世界とよく合うモデルの方を選ぶ。この段階では、学習はまずもってボトムアッ プでの作業となる。 予想外の感覚信号が入り、それが内部モデルの予想とは相反するとき、その信号 は予測誤差信号を発生させ、 それが皮質の階層を上り、各段階で統計的な重みを調節する。それによっ て、トップダウンのモデルはだんだん正確さを増すようになる。

　新しい考え方では、脳は睡眠中に逆の、トップダウンからボトムアップへと移るように動作する。夜 間には、私たちは生成モデルを使って、もともと予想されてなかった新たな像を合成し、脳の一部はこ の実体のないところから生み出された一連の像に基づいて自らトレーニングする。この強化されたトレーニング用のイメージ集合によって、私たちはボトムアップの結合を改良できるようになる。 生成モデルのパラメータと、それが感覚にどう影響するかは知られているので、今では両者間のつながりはずいぶん発見しやすくなっている。こうして私たちは、ますます、特定の感覚入力の背後にある抽象的な情報を引き出すのがうまくなる。夜間ぐっすり眠った後なら、ごくわずかな手がかりからでも、現実に ついて、どれほど抽象的であっても最善のメンタルモデルを特定できる。」

(スタニスラス・ドゥアンヌ(1965-),『脳はこうして学ぶ』,第3部 学習の四本柱,第10章　定着,pp.301-302,森北出版,2021,松浦利輔,中村仁洋)

脳はこうして学ぶ [ スタニスラス・ドゥアンヌ ]

メタ認知とは、認知についての認知、つまり心的過程を監視する、レベルがさらに上の認知装置の集合のことを言う。好奇心のギャップ理論によれ ば、 メタ認知装置は絶えず自分の学習を監督し、自分が知っていること、知らないこと、自分が間違っているかどうか、速いか遅いか、等々を評価する。(スタニスラス・ドゥアンヌ(1965-))

メタ認知

メタ認知とは、認知についての認知、つまり心的過程を監視する、レベルがさらに上の認知装置の集合のことを言う。好奇心のギャップ理論によれ ば、 メタ認知装置は絶えず自分の学習を監督し、自分が知っていること、知らないこと、自分が間違っているかどうか、速いか遅いか、等々を評価する。(スタニスラス・ドゥアンヌ(1965-))

 「そのように好奇心を見ることで、子どもが好奇心旺盛であるためには、自分にはまだ知らないことが あるのを知っていなければならないという、興味深い予想ができる。言い換えると、子どもには早い段 階でメタ認知能力がなければならないのだ。「メタ認知」とは、認知についての認知、つまり私たちの 心的過程を監視する、レベルがさらに上の認知装置の集合のことを言う。好奇心のギャップ理論によれ ば、 メタ認知装置は絶えず自分の学習を監督し、自分が知っていること、知らないこと、自分が間違っ ているかどうか、速いか遅いか、等々を評価しなければならない。メタ認知は私たちが自分の心につ いて知っていることすべてに及ぶ。

　メタ認知は好奇心の中心的な役割を果たす。実際、好奇心を持つとは、知りたいということであり、 それはつまり、自分が何をまだ知らないかを知るということだ。そしてあらためて言えば、 最近の実験 では、一歳あるいはたぶんそれよりも前から、子どもは自分の知らない事物があるのを理解しているこ とが確かめられている。確かにその年齢の赤ちゃんは、一人で問題を解決できないときには必ずすぐに 保育者の方を向く。自分が知らないということを知っていればこそ、子どもはもっと情報を求める。こ れが知的好奇心、つまり、知りたいという抵抗しがたい欲の早期の表れだ。」

(スタニスラス・ドゥアンヌ(1965-),『脳はこうして学ぶ』,第3部 学習の四本柱,第8章　能動的関与,p.254,森北出版,2021,松浦利輔,中村仁洋)

脳はこうして学ぶ [ スタニスラス・ドゥアンヌ ]

好奇心は、私たちの脳がすでに知っていることと、これから知りたくなること(潜在的な学習領域)とのギャップを検出したときに必ず生じる。私たちはいつ何どきでも、自分がとりうる様々な動作から、この知識のギャップを埋めて有益な情報が得られそうなものを選ぶ。(スタニスラス・ドゥアンヌ(1965-))

好奇心

好奇心は、私たちの脳がすでに知っていることと、これから知りたくなること(潜在的な学習領域)とのギャップを検出したときに必ず生じる。私たちはいつ何どきでも、自分がとりうる様々な動作から、この知識のギャップを埋めて有益な情報が得られそうなものを選ぶ。(スタニスラス・ドゥアンヌ(1965-))

 「何人かの心理学者が、人間の好奇心を支えるアルゴリズムを特定しようとしてきた。実際、この学習 には欠かせない成分がもっとよく理解できれば、それを操ることができたり、さらにはいずれ人類のす ることを模倣するようなマシン、つまり好奇心を持ったロボットに再現できたりするかもしれない。

　このアルゴリズム方式は実を結び始めている。ウィリアム・ジェームズやジャン・ピアジェやドナル ド・ヘップといった大心理学者が、好奇心を支える心の動き方がどういうものかについて推測してき た。こうした心理学者によると、好奇心は、子どもが世界を理解してそのモデルを構築しようという意 欲が直接に表れたものだ。好奇心は、私たちの脳がすでに知っていることと、これから知りたくなること——潜在的な学習領域――とのギャップを検出したときに必ず生じる。私たちはいつ何どきでも、自 分がとりうる様々な動作から、この知識のギャップを埋めて有益な情報が得られそうなものを選ぶ。 この説によれば、好奇心は、サイバネティクス装置のように学習を制御する。蒸気機関で蒸気圧を調節 して一定の速さを保つために弁を開閉する、有名なワットの調速器のようなものだ。好奇心は脳の調速 器、つまり一定の学習圧力を維持しようとする調節装置なのだ。好奇心は私たちを、自分に学習できる と思うことへと導く。 逆の退屈状態になると、人はすでに知っていること、あるいは、 過去の経験からしてもう教えられることが残っていそうにない領域を放棄する。」

(スタニスラス・ドゥアンヌ(1965-),『脳はこうして学ぶ』,第3部 学習の四本柱,第8章　能動的関与,p.250,森北出版,2021,松浦利輔,中村仁洋)

脳はこうして学ぶ [ スタニスラス・ドゥアンヌ ]

不確実な世界では情報の価値は高く、好奇心は生と死を分けることもある。(スタニスラス・ドゥアンヌ(1965-))

好奇心

不確実な世界では情報の価値は高く、好奇心は生と死を分けることもある。(スタニスラス・ドゥアンヌ(1965-))

 「好奇心は生物の根本的な衝動であり、飢えや渇きや安全確保や生殖の欲求と同じように、私たちを行 動に向かわせる推進力だ。それは生存にとってどんな役割を演じているだろう。 環境の状況をもっとよ く知るために探り回るのは、ほとんどの動物種(哺乳類だけでなく、鳥類や魚類の多くも)の関心事だ。巣、 隠れ処、地下道、巣穴、穴ぐら、住処、いずれにしても周囲を確かめずに設けるのは危ない。捕食者が 住む不安定な世界では、好奇心は生と死を分けることもある 。だからたいていの動物は恒常的に縄張 りを見回り、変わったことがないか確かめ合おう、新奇な音や光景等々を調べるのだ。好奇心があればこそ、 動物は知識を得るために安全地帯から出ようとする。不確実な世界では情報の価値は高く、結局はあの ダーウィン的進化の通貨、すなわち生存を対価としなければならない。

　したがって好奇心は私たちに探索を促す力だと言える。この見方からすると、好奇心は餌や配偶者を 求める衝動に似ているが、情報の獲得という触知できない価値を動機にしているところが違う。実際、 神経生物学的研究によれば、私たちの脳では、それまで知られていなかった情報を発見することがドー パミン回路を起動し、当の発見自体が報酬となっている。この回路は餌や薬物やセックスに応じて発火 する回路であることを思い出そう。霊長類では、またおそらくすべての動物で、この回路はただ物質的 な報酬だけでなく、新しい情報に反応する。ドーパミン作動性ニューロンは、将来の情報獲得を知らせ る。まるで新奇な情報を得られると予想するだけで喜びが得られるかのように。この仕組みのおかげで、ラットを餌や薬物だけでなく、目新しさによって条件づけることができる。何も変わったことが起 きない退屈な場所よりも、新しい物がある場所の方をすぐに好むようになり、それによって好奇心を満 たす。私たちが目に映る景色を変えるために都会へ移るときも、最新のゴシップを求めてフェイスブッ クやツイッターをせっせと見て回るときも、まったく同じことをしている。」

(スタニスラス・ドゥアンヌ(1965-),『脳はこうして学ぶ』,第3部 学習の四本柱,第8章　能動的関与,pp.247-248,森北出版,2021,松浦利輔,中村仁洋)

脳はこうして学ぶ [ スタニスラス・ドゥアンヌ ]