色々面白いところはあるんだけれども、まずはやっぱり筆者の経歴よねぇ。ＡＩの研究に打ち込みたい、でも金がない、まではまあわかるんだけれど、そこからシリコンバレーでPalmを立ち上げて成功して資金面の心配をなくしてしまう、とかもうマジで全く意味がわからん……そして何よりそれをスッパリと捨てて研究に打ち込んで、しかもこんな世界的に影響のある理論をぶち上げちゃうわけでしょ。いやー、すごすぎる……
内容的には今オレが読みたかったものにそのままぶち当たってめちゃくちゃ満足。理屈はとても納得感があるんだけど、いくつか疑問に思うところがあった。
まず、脳が世界のモデルを持っていて、予測と外れるものに注意を払うようになるメカニズムは納得できたけれど、そこから未来予測ができるようになる仕組みがよくわからない。人間の脳には、単純な未来の予測だけでなく、モデル内で「AがBするとCになる」という因果関係を結ぶ作業を行っているはずで、それがどのように引き起こされるのかが大変気になる。
あと、機械の知能が人類に反旗を翻す恐れはない、と強調するあたりの理屈もなんか納得がいかない。機械が人間の脳を模すとして、古い脳と大脳新皮質の関係は継承しないのだろうか？ 古い脳が本能として生存に有利な行動を「目的」として設定しても、大脳新皮質はその目的に逆らうことができるわけで、そのメタファーだと人間が機械に設定する「目的」が絶対に裏切られない保証は内容に思える。
あとは「機械に意識が生じることに疑問の余地はない」みたいなくだりも大変気になる。もし意識が生じるとして、それは一体どこで見分けることができるのか、というのが一番知りたいところなんだよなあ。物理的な反応を追いかけていったところで、「私」という意識が生まれる瞬間は捉えられるのか？ っつーかそんなこと言ったら、意志疎通の手段を持たないだけで、例えば地球だってある種の意識をすでに持っているかもしれないしなあ……
