シンギュラリティ教徒への論駁の書

"Unending exponential growth? What drugs are those people on?" - Linus Torvalds

クラークの三法則に関する断章 (1) 「可能でもできないコト」

テクノロジーの進歩に関する語りにおいて、頻繁に引用されるフレーズがあります。映画「2001年宇宙の旅」の原作者としても知られる、アーサー・C・クラークが述べた「クラークの三法則」です。

  1. 高名だが年配の科学者が可能であると言った場合、その主張はほぼ間違いない。また不可能であると言った場合には、その主張はおそらく間違っている。
  2. 可能性の限界を測る唯一の方法は、不可能であるとされるところまで進んでみることである。
  3. 十分に発達した科学技術は、魔法と見分けがつかない。

 

この「法則」は、厳密な意味での科学法則や経験則と呼べるものではなく、ちょっとした気のきいたアフォリズムのようなものです。おそらく、クラーク自身も厳密な「法則」を定義したとは考えていなかったでしょう。それゆえ、これから私が述べるつもりの分析は、非常に野暮なツッコミでしかないかもしれません。

けれども、この「法則」は、人工知能や未来技術について語る際にはよく引用されており、また、未来予測に関する誤りについて説明するために好都合な題材ですので、一種の余談として考察してみたいと思います。

 

第一法則 可能でもできないコト

『高名だが年配の科学者が可能であると言った場合、その主張はほぼ間違いない。また不可能であると言った場合には、その主張はおそらく間違っている。』
When a distinguished but elderly scientist states that something is possible, he is almost certainly right. When he states that something is impossible, he is very probably wrong.

まずは第一法則について検討します。実際のところ、この「法則」の前半部にはちょっとした注意が必要です。高名な科学者が「可能である」と言ったことであっても、実現していない技術は数多く存在しているからです。

 

核融合発電は、この好例でしょう。原理的には可能であり、長期間研究が続けられているのに、全く実現できていない技術であるからです。

1920~30年代の原子核物理学の発展、1950年代の水素核融合爆弾の実現により、人工的な原子核融合は理論上のみならず現実的にも可能であることが示され、いずれは核融合から有用なエネルギーを取り出せるはずだという確信が広まりました。

実際、核融合の研究は核分裂炉の実用化とほぼ同時に開始されており、多数の物理学者とエンジニアが、10~20年以内に核融合発電が実現できると信じていました。1960年代〜70年代に書かれた未来予測を読んでみると、1980年代ごろには核融合による発電所が実用化されると予想されており、人類は無尽蔵のエネルギーを自由に利用できると信じられていたようです。

けれども、1980年代には、実用化の時期は21世紀初頭に伸び、21世紀初頭である現在では、今世紀後半から22世紀初頭とまで言われています。つまり、研究が進めば進むほど、逆に実用化までの目処は遠ざかり続けています。

1930年代には、原子核物理学の進歩により核分裂の理論が確立され、ウラン核分裂は1938年に実証されています。1942年にはシカゴ大学で世界最初の原子炉が構築され、1945年には核分裂反応を利用した原子爆弾も作られました。そして、最初の商業原子炉は1956年に稼動しています。一方、水素核融合の発見は1920年代であり、水素核融合爆弾は1952年に成功しています。けれども、現在に至るまで、核融合からエネルギーを取り出すどころか、連続運転できる核融合炉すら存在していません。

投資の規模と費用も巨大化し続けています。現在建造されている国際的な核融合研究装置「ITER」は、もはや一国の予算ではまかないきれず、国際的な協力がなければ建設すらできません。

実際のところ、核融合から有意義な (=爆発以外の) エネルギーを取り出す技術が開発できるのかは分かりません。けれども、これまで優に半世紀以上に渡って核融合研究は人々の期待を裏切り続けてきました。現在の核融合研究もそれと同じである可能性は非常に高いでしょう。


あるいは、現在私が検討している人工知能研究自体も第一法則の1文目の反例です。最初期の、かつてダートマスに結集した「高名な」研究者たちも、繰り返し繰り返し人工知能に関する楽観的すぎる予測を述べています。

おそらく人類で最初に思考機械に関する詳細な思考実験を行い、「チューリングテスト」にもその名を残している数学者、計算機科学者であるアラン・チューリングは、「21世紀までには計算機で模倣ゲームをうまくやれるようになるだろう
*1」と述べていました。

1958年には、ハーバート・サイモンとアレン・ニューウェルは「10年以内にデジタルコンピュータはチェスの世界チャンピオンに勝つ」そして「10年以内にデジタルコンピュータは新しい重要な数学の定理を発見し証明する」と述べています。

その後もハーバート・サイモンは「20年以内に人間ができることは何でも機械でできるようになるだろう」(1965年)、マービン・ミンスキー「一世代のうちに人工知能を生み出す問題のほとんどは解決されるだろう」(1967年)、マービン・ミンスキー「3年から8年の間に、平均的な人間の一般的知能を備えた機械が登場するだろう」(1970年)

 

そして、現在進行中の第三次人工知能ブームも、確実に期待が過剰な状態であり、いずれバブルが弾けることは確実だろうと考えています。過去のブームにおいて問題となった、フレーム問題、自然言語の意味理解、常識的推論などの問題について、大きな進展があるようには見えないからです。

私が思うに、「人工知能はまだ言語の意味を理解できず、意味のある対話ができない」ということが理解されたとき、現在のブームは終了するだろうと予測しています。(そして、最悪の状況は、過剰な期待の裏返しにより日本の人工知能研究が萎縮・停滞し、逆に米国や中国では実用的な”機械学習”の研究と実用化が進み続け、更に日本と他国との差が広がることです。)

フェイスブック社で人工知能研究所の所長を務めるヤン・ルカン氏は、2013年のブログ投稿で、過剰な期待の危険性について厳しく警告しています。

人工知能は過去50年間に期待過剰のため4度"死んだ"。人々は大言壮語し (しばしば将来の投資家やファンドの注目を引くために)、けれども実現せず、その後に反動が続いた。ニューラルネットにおいても既に2度同じことが起こっている。1回目は60年代後半、2回目は90年代半ばである。*2


確かに、科学の発展によって、以前には不可能と思われていたことが可能となること自体は事実です。けれども、人間は原理的に可能であると言われたこと全てを実現してきたわけではありません。

認知科学者のスティーブン・ピンカーは、シンギュラリティに関するインタビューの中で次のように述べています。

人間の想像力の中で未来を想像できるということは、それが実現する見込が高い、あるいはそもそも実現可能であるということの証拠にはならない。*3


つまり、私はクラークの法則の最初の文は、以下の通り書き換えるべきであると考えています。

『高名だが年配の科学者が可能であると言った場合でも、その主張は正しいとは限らない。』