シンギュラリティ教徒への論駁の書

"Unending exponential growth? What drugs are those people on?" - Linus Torvalds

シンギュラリティとは何か?

本書では「シンギュラリティ」について考えていくつもりですが、まず初めにシンギュラリティとは何であるのかについて説明します。

この言葉がもともと使われていた数学分野での「特異点」という用語は、一般的な法則が適用できなくなる点、典型的には関数の不連続点や微分が不可能な点を意味しています。たとえば、y=1/x という式を考えてみると、x=0においてはyの値も極限値も計算できないため、x=0は特異点(シンギュラリティ)です。
また、物理学分野では、一般的な物理法則が成立しなくなる点を意味しており、特に一般相対性理論においては、重力と空間の曲率が無限大となり理論が成り立たなくなる点、ブラックホールを指しています。 

f:id:liaoyuan:20170525215655p:plain

図:y = 1/xのグラフ。x=0が特異点


しかし、私がここで議論したいシンギュラリティは、特に技術的特異点(technological singularity)と呼ばれる、テクノロジーの進歩と、テクノロジーがもたらす未来社会の姿についての仮説です。

産業革命以来、テクノロジーは人間社会を大きく変化させてきました。このままのペースで進歩が続けば、いずれ人間自身によって生み出されるテクノロジーが人間の社会と文明のあり方を変貌させ、人類の歴史に断絶的な進化がもたらされる。特にコンピューターの開発と普及後、そのような思想が一定の説得力を持って主張されるようになりました。

「シンギュラリティ」という言葉は、各々の論者が異なる定義で用いており、この混乱もシンギュラリティ論における巨大な混乱の一因となっています。私はここでは、「人類史における断絶的な進歩が発生する時点」という、原義に近い意味で使用します。また、シンギュラリティが発生する原因あるいはプロセスとしては、だいたい下記のように主張されています。

  1. 超知能体の出現
    テクノロジーの進歩により、何らかの「人間よりも優れた超知能」を持つ存在が生み出される。
  2. 超知能体による超々知能体の設計
    「人間よりも優れた超知能」を持つ存在は、「自身よりも更に優れた超々知能」を設計し、作り出すことができる。
  3. 知能爆発と断絶的な進歩
    2.のプロセスが無限に繰り返され、超知能体が急速かつ自律的に成長することによって、現在の人間には理解不能な断絶的な進歩がもたらされる。

 

ヴァーナー・ヴィンジの説

上記の意味での「シンギュラリティ」という言葉を使用し世間に広く紹介したのは、アメリカの数学者でありSF作家でもあるヴァーナー・ヴィンジであると言われています。
ヴィンジ氏は、1993年に『The Coming Technological Singularity: How to Survive in the Post-Human Era (来たるべき技術的特異点: ポスト人類時代をどのように生き延びるか)』 というエッセイを発表し、その中で「30年以内に人間は超人間的知性を創造する方法を生み出し、その後すぐに人間の時代は終わるだろう」と主張しました。
ただし、そこで描写されたシンギュラリティ後の未来は、現在盛んに宣伝されていような技術の発展による明るい未来ではなく、人間とは一切無関係に超知能体が指数関数的な成長を続け、人間は介入はおろか認識すらできないという、どちらかと言えば悲観的な世界像です。

人類より優れた知性体が進化していくとき、その進化のスピードは圧倒的に速いものになるだろう。より優れた知性体をより短い時間で作り上げていくことは疑いようがない。…人間から見れば、それこそ一瞬のうちにそれまでのルールはすべて廃棄され、あらゆる希望もコントロールも失ったまま、指数関数的成長を続けるだろう。

ヴィンジ氏は、シンギュラリティという言葉を、文字通りの意味、すなわち「現在の人間の認識能力を超越した、予想することも語ることも無意味である点」と捉えているようで、このエッセイの発表後はシンギュラリティに関してはほぼ沈黙を保っています。

2013年(邦訳は2015年)に出版された、ジェイムズ・バラットによる『人工知能 人類最悪にして最後の発明』に掲載されたインタビューで、ヴィンジ氏はこう述べています。

人間の1000倍や100万倍知能が高い存在は、ゲームの展開を永遠に変えてしまうだろう。我々の身にはいったい何が起こるのだろうか?

そう聞かれてヴィンジはケラケラと笑った。「シンギュラリティーがどんなものになるかしつこく質問されたとき、一番よく使う逃げの手はこう言い返すことだ。『どうして僕がシンギュラリティーって名づけたんだと思う?』 (p.158)

なお、ヴィンジ氏が超人間知性体を創造する方法として提示している仮説上の方法は、人工知能のみでありません。薬剤や遺伝子工学による人間の知能増強、いわゆるポストヒューマンによるものや、地球規模のインターネットに「意識」が宿ることなどが提示されています。

人工知能 人類最悪にして最後の発明

人工知能 人類最悪にして最後の発明

 

レイ・カーツワイルの説

現在のシンギュラリティに関する議論において、そのあり方や時期予測に関してほぼ必ず参照されるのは、アメリカの発明家であり未来学者であるレイ・カーツワイルの議論です。カーツワイル氏は、1947年ニューヨーク生まれの天才的な発明家・起業家であり、音楽用シンセサイザーOCR機器などさまざまな革新的商品の開発によって起業家としての名声を得て、その後1990年代ごろから人類の未来予測に関する考察を発表し始めました。2008年には、「シンギュラリティ・ユニバーシティ」という、シンギュラリティ説に基いた未来予測をベースとする、ある種のベンチャーキャピタル的な私設教育機関を立ち上げ、現在はGoogle社でAI技術開発のディレクターを務めています。

カーツワイル氏は、1999年に『The Age of Spiritual Machines (スピリチュアル・マシーンの時代)』で未来予測を発表し、彼が「収穫加速の法則」と呼ぶ、人間と宇宙の進化に関する「法則」を提示しました。ただし、この本ではまだシンギュラリティには特別に注目しておらず、22世紀までの人類の進歩予想を提示しています。2005年(邦訳は2007年)に出版した、『Singularity is Near (ポスト・ヒューマン誕生)』では、収穫加速の法則や未来予測を洗練させ、シンギュラリティという概念を議論の中心に持ち出しました。

すなわち、2045年には1000ドルで購入できる1台のPCの性能が人類全体の知能を超え、「人間の生活が後戻りできないほどに変容」してしまうのに十分なコンピューターの性能が得られると主張しています。いささか数字だけが独り歩きしている感もありますが、よく言われる「2045年にシンギュラリティが起こる」という説は、本書におけるカーツワイル氏の主張から取られています。

そして、シンギュラリティ後の世界では、テクノロジーと人間が融合し人間の身体や知能が増強され、あるいはコンピューター上に自分の自我を移すことができ、ついには人間の知性が全宇宙を満たすとも主張されています。

 

なお、あまり指摘されることはありませんが、カーツワイル氏は、ヴィンジ氏やそれ以前の人達が使っていた「シンギュラリティ」という用語の意味を、換骨奪胎と言ってよいほど変更してしまっています。つまり、ヴィンジ氏はシンギュラリティの先について、人間は全く見通せず考えることも語ることも無意味である点、言うなればブラックホールのような暗黒の世界として扱っています。けれども、カーツワイル氏は、シンギュラリティ後の世界を十分に想像ができるものであり、むしろ人類の目標とするべき明るい未来像として扱っています。

以下の論では、カーツワイル氏の『ポスト・ヒューマン誕生』での主張に的を絞って議論するつもりですが、必要に応じてそれ以外の書籍や他のシンギュラリティ論者の本を参照します。