シンギュラリティ教徒への論駁の書

"Enjoying science fiction is not the same thing as doing science or making science policy." - Dale Carrico

ロドニー・ブルックス氏の『超知能へ向けたステップ』の翻訳

いちおうの告知ですが、ロドニー・ブルックス氏のブログ記事合計4件を翻訳してQiitaに投稿しました。

安易で安直な人工知能ユートピア/ディストピア的なシンギュラリティ論に与せず、また人工知能研究の第一人者としてのオプティミズムを保ちながら人工知能において本当に困難な問題に取り組むように鼓舞する素晴しい論考ですので、人工知能に興味のある方は読んでほしいと思います。

ここでは、ちょっとした訳者後書き的に、訳しながら考えたことを散漫に書いてみようと思います。

確率統計的・機械学習的な知能観について

シンボリックAIに対して極めて批判的なことで知られるブルックス氏ですが、このエッセイでは確率統計的、ビッグデータ的、機械学習的な「人工知能」観に対してもやや懐疑的なスタンスを取っています。

よく考えてみると、「統計と知能は別物」というのは当然で、天然知能は必ずしも確率統計的なアプローチを取っていません。色一貫性に関する人間の認知は、それを示す非常に良い事例ではないかと思います。

私が色一貫性を取り上げたポイントは、単にオンラインの画像を大量に閲覧することだけから、知的な機能が自然に発生するわけではないことを示すためである。色一貫性は、現実世界で自然淘汰のビルディングメカニズムから生じたものであり、物体の本質的な色は、たとえその物体に当たる光の色が変わったとしても、実際には不変であるという事実を補償するものである。

超知能へ向けたステップ Part 4 「汎用人工知能実現のために今やるべきこと」

 

我々が当然と思う認識は、実は人間としての認知的な制約に強く依存しています。そこで、現在耳目を集めている確率統計的、ビッグデータ的な人工知能技術だけではなく、生得的な知能モジュールのあり方にも注目するべきであり、それが汎用人工知能実現のための近道なのだという指摘は極めて説得力があると感じました *1

ただし、その一方でペドロ・ドミンゴス氏が『The Master Algorithm』の中で指摘している通り、「データは知能を代替できないが、知能もデータを代替できない」ことも事実です。

そもそも人間は確率・統計的な思考が極めて不得手であり、まさにそれがビッグデータ機械学習を有用な技術にしている理由です。そして、近年では医療から商業から教育に至るまで、さまざまな分野でデータと統計の利用が変革を起こしつつあります。一方で、世論操作のために悪用されたり社会的な不平等の原因となるなど、統計、データと機械学習の誤用によるマイナスの影響も生じています。

ゆえに、データの利用や機械学習技術に対して注目しなければならないことに疑問はありません。それでも、(マイケル・ジョーダン氏の用語を使うなら)、未だ想像上の存在でしかない、将来の「人間に似た人工知能」に関する議論と、今現在の現実として出現しつつある「知能インフラ (II)」の議論は区別するべきであると言えます。

自律的な知能観とその裏の世界観について

そして、もう一点、ブルックス氏の議論の特徴としては、「自律的なエージェント」としての知能観を強調していることが挙げられます。不完全で不確実な情報な情報しかなくても、世界の中で自律的に自己完結した行動を取れる、それこそが「知能」であるのだという考えを持っているようです。

ここには、裏を返すと、「シンボリックAI/統計的機械学習型AI」と、「振る舞いに基づくアプローチ型のAI」それぞれの、いわば世界観の違いが存在しているように感じます。

  • シンボリックAI/統計的機械学習型AI
    知的エージェント(人間)は、世界の「客観的実在」とその基本法則を完全に認識でき、その正確なモデルが構築できる。または、大量のデータを取得すればいくらでもそこに漸近できる。ゆえに、不完全で非自律的な知的エージェントであったとしても、正確なモデルや大量のデータが存在すれば「正しい」行動と予測が可能である。
  • 振る舞いに基づくアプローチ型のAI
    知的エージェントは、世界の「客観的実在」を認識することはできず、どれほど大量のデータがあってもなお未来の予測はできない。それでも、知的なエージェントは低レベルの刺激に対する反応をもとにして「ロバストな」行動と予測が可能である。

おそらくこれが、Part1の文中で述べられている、「暗黙的に基礎を成す哲学的な立場」ではないかと考えているのですが、ブルックス氏の次回のエッセイを待ちたいと思います。

関連記事

過去、私が訳したブルックス氏のエッセイです。 

 

ブルックスの知能ロボット論―なぜMITのロボットは前進し続けるのか?

ブルックスの知能ロボット論―なぜMITのロボットは前進し続けるのか?

 

*1:当然、この議論には、「生物は、自然淘汰と進化を通して、統計的に知能を発達させてきたのだ」という反論がありうると思いますが、おそらく進化を通して入力されるデータの量は昨今の「ビッグデータ」とは比較にならないほどに多いでしょう