シンギュラリティ教徒への論駁の書

"Unending exponential growth? What drugs are those people on?" - Linus Torvalds

知能爆発派における超知能の出現について

シンギュラリティ論における重要な論点は、ひとたび汎用人工知能が作られると、何らかの形で「超知能」が発生し、それが科学技術や社会を高速で変化させることによって、予測不能かつ断絶的な進歩が起きるという仮定です。

前回のエントリでは、主にカーツワイル氏の説である「収穫加速派」における超知能について検討しました。


今回は、残りの「事象の地平線派」および「知能爆発派」における超知能の出現について扱います。この2つの派閥に分類されるシンギュラリティ論においては、だいたい以下のようなプロセスを通して「シンギュラリティ」が到来すると主張されています。

  1. 超知能体の出現
    テクノロジーの進歩により、何らかの「人間よりも優れた超知能」を持つ存在が作り出される。
  2. 超知能体による超々知能体の設計
    「人間よりも優れた超知能」を持つ存在は、「自身よりも更に優れた超々知能」を設計し、作り出すことができる。
  3. 知能爆発と断絶的な進歩
    2.のプロセスが無限に繰り返され、超知能体が急速かつ自律的に成長することによって超越的な知能が出現し、現在の人間には理解不能で予測不可能な断絶的な進歩がもたらされる。

(実際のところ、「シンギュラリティ論」と聞いて多くの人が思い浮かべるのは、カーツワイル氏の説ではなくヴァーナー・ヴィンジ氏らが唱えたこちらのタイプではないでしょうか)


この一連の議論には、私にはあまり自明ではない仮定が含まれているように見えます。人間や人工知能が、自分自身よりも更に知能の高い人工知能を作り出すことが可能である、という仮定です。シンギュラリティに関する議論においては、この仮定は当然の前提として扱われていますが、実証的にも論理的にも、この仮定が成立するかどうかは検討する必要があります。

 

以前のエントリでも述べた通り、人間は、人間を超えるどころか人間以下の汎用的な知能を持つ人工物でさえ未だに作成できていません。すなわち、この問題は実証的な意味では「未解決」の問題です。

それでは、純粋に論理的な思考実験として、「自分自身の知能を超える人工的な知能を作ることができる存在」は可能なのでしょうか?

 

自動車や飛行機は人間の身体的能力を超えているし、囲碁では既に人間は機械に負けているのだから、あらゆる面で人間を凌駕する人工知能も作り出せるはずだ、という指摘があるかもしれません。

けれども、自動車や飛行機は人間によって作り出されたものです。それゆえ、人間 *1 は、自動車や飛行機の構造や動作メカニズム全体に知悉しています。一方で、自動車や飛行機の側では、人間の思考や知能のメカニズムを認識しているわけではありません。(おそらく)

これは、人間に囲碁で勝利したAlphaGoについても同様のことが言えます。AlphaGoのプログラム自体は人間によって作り出されたものであり、学習過程や学習結果の入出力の対応ではなく、ソフトウェアの構造や動作メカニズムや学習手法、あるいは機械の「知能」そのものについては、人間側が完全に把握しています。それゆえ、たとえば囲碁プログラムがいきなり将棋を学び始めるとか、あるいは機械翻訳を始めるなど、設計者の意図を超えて動作するということは起こりえず、出力 (の範囲) は人間が定めた空間に留まります。

 

現在のところ、人間は機械の「知能」を把握しており、機械の側では人間の知能を把握できていないと言えます。つまり、人間は機械に対して「メタ」に立っているということです。たとえて言うならば、人間の創造主の存在を仮定すると、人間の側では創造主の思考や知能を理解できないことと同様であり、人間の思考力は機械の「思考力」を包含しています。

設計的な超知能の作成

現在の状況に関しては上記の通りですが、それでは、この関係が逆転することはあるのでしょうか。すなわち、「超知能」と「人間」との間に、現在の「人間」と「機械」との関係が成り立ち、あらゆる意味で機械が人間のメタに立つことはあるのでしょうか。

仮に、人間 (ないし人工知能) が、自身より知能の高い超人工知能を設計的に作成できると仮定するとすると、一種の自己言及のパラドックスめいた矛盾が生じます。元の人間は、自身が作るべき人工知能の思考メカニズムを把握していなければ、意図的に人工知能を作成することはできません。(ここで私が問題にしているのは、一部の機能において元の存在を超える人工知能ではなく、あらゆる能力において自分自身を凌駕する存在なのですから) とすれば、元の人間は、作られた人工知能と同等 (以上) の知能を予め持っている必要があります

「全知全能の存在が居るとしたら、その存在は『自分が持ち上げられないほど重い石』を創造することはできるのか」という有名な神学論争がありますが、ここではこの問題と似た状況が発生します。人間が設計して作れるものであれば、人間はその思考メカニズムを理解できていなければならないからです。(しつこいようですが、ここで私が問題にしているのは、単一の性能において人間を超えるものではなく、あらゆる能力において人間を超えるものだからです) ゆえに、作られた人工知能は、製造者である人間や人工知能と同等程度の知能、人間が理解できる範囲の思考メカニズムしか持てないことになります。ここでは、1.の「人間が超人工知能を作る」プロセスを検討しましたが、全く同一の議論が2.の「超人工知能が超々人工知能を作る」プロセスにも適用できます。

結局のところ、設計的な方法によって自分自身よりも知能の高い人工知能を作り出すということが、いかなる方法であるのか、私にはよく分かりません。

創発による超知能の発生

さて、ここで「いや、設計的な方法によって人間が超知能を作ることは困難かもしれないが、創発によって、すなわち単純な要素の相互作用が複雑に組織化されることで、元の人間には理解できない超越的な知能が生じる可能性はあるではないか」という指摘はあるかと思います。

人間の知能は進化を通して複雑に組織化された単純な神経細胞から生じているものであり、個別の要素の機能からは想像もできない複雑な知能が「創発」していることは事実です。

現在のところ、いかなるメカニズムによって知能が「創発」するのか解明されていないという問題はさておくとしても、仮に人工物から新たな知能が創発したとしても、それが人間よりも優れたものになる必然性は存在しません。もちろん、計算力の量的向上により、思考が高速化できたり並列的に頭数を増加させられることは確かです。けれども、カーツワイル氏の主張を検討した前回のエントリでも述べた通り、高速化や並列化によって超越性が発生するという根拠はありません

更に言えば、創発現象を理解するためには長い時間と調査・研究を要します。創発から生じた人間の天然知能は、未だ自分自身の知能や言語を完全に理解するには至っていないのですから。同様に、創発的な超知能も自分自身の知能を理解するために、より長い探究の時間を必要とする可能性は否定できませんし、その上、創発による知能向上が再帰的に適用可能であるという根拠もなく、シンギュラリティで想定されているような無限の知能向上が可能であるとも想定できません。

 

実際のところ、私には超知能が出現するという主張が何を意味しているのか、また、どのような方法でそれが可能なのかはよく理解できません。「それが理解できないからこその超知能なのだ」という反論はもっともですが、最初の人工知能、知能爆発の「種 (シード)」となるAIは、人間が作り出す必要があるものです。シードAIを作り出す実効的な方法と、知能の拡大が可能であるという根拠が示されない限りは、「事象の地平線」ないし「知能爆発」パターンのシンギュラリティ論も、空想の範疇を出ないものであると考えます。

まとめ

私自身は、近い将来において人間と同程度の人工知能が作られる可能性は、決して否定できないと考えています。けれども、「ひとたび人工知能が作られると、人工知能は更に知能の高い超人工知能を作り出すことができる」「そのプロセスは無限に (あるいは少なくとも膨大な回数) 続くことができ、最終的には人間に理解不能な超越的な知能が発生する」という仮定は、実証的・論理的な根拠に基いていない単なる信念に過ぎず、科学的な議論ではありません。

 

人工知能が変える仕事の未来

人工知能が変える仕事の未来

*1:正確に言えば、一人の人間ではなく自動車メーカー、航空機メーカーや材料、部品メーカーに勤務する人間集団の全体