ここまで、約7か月間（！）に渡って、主にカーツワイル氏の主張するシンギュラリティ論の根拠について検証してきました。このブログ、『シンギュラリティ教徒への論駁の書』で取り上げた論点は、非常に多岐に渡っています。けれども、私のシンギュラリティに対する懐疑論の根幹は、次の3点に要約できると考えています。
- 収穫加速の法則、科学技術全体が指数関数的に加速するという主張は、根拠が無い
- 汎用人工知能（AGI）の実現時期の見積もりは、過少である可能性が高い
- 仮にAGIが実現できるとしても、AGIが自身の知能を再帰的に拡大し、科学技術を高速で進歩させられるという仮定は、妥当ではない
指数関数的成長論と収穫加速の法則
もちろん、半導体のムーアの法則やゲノムシーケンシングの所要時間とコスト効率のように、ある特定の要素技術が、限られた期間において、指数関数的な (実際のところは、シグモイド関数的な) 成長を遂げるという観察は事実でしょう。そして、カーツワイル氏が主張する通り、指数関数的な成長をするテクノロジーがしばしば人々の予想を裏切る発展を見せることがあるという指摘は、ある程度は傾聴に値するものです。
けれども、その種の指数関数的成長をあらゆるテクノロジーの発展に一般化し、その前提から全ての将来予測を導き出す手法は妥当であるとは言い難く、巨大な疑問符が付く主張であると言えます。
私は、カーツワイル氏の著書の中で「収穫加速の法則」がどのような意味で使用されているかを分類しましたが、実に4通りもの意味で使われており、その定義は全く明確ではありません。また、収穫加速の法則の中で使用されている「パラダイム・シフト」という語も、実際にはどのような事象を指しているのか完全に不明であり、いかなる事象でも「パラダイム・シフト」と主張できてしまうため、将来予測どころか過去の分析としてすら成立していないものです。
そこで、「パラダイム」という主観的で曖昧な指標ではなく、客観的に定義・検証が可能な指標を用いた場合、特に直近の過去においては指数関数的な成長は確認できず、それどころか近年ではイノベーションの速度が低下しているかもしれないという懸念を表明する経済学者も存在しています。他にも、科学研究が次第に困難になる傾向を指摘する主張もあります。
総合的に見れば、科学技術総体が指数関数的に成長しているというカーツワイル氏の主張は、それを裏付ける根拠を欠いています。
汎用人工知能の実現時期見積もり
序文から何度も述べているとおり、私自身は汎用人工知能の実現は必ずしも不可能であるとは考えていません。(また、実現可能性を否定することは論理的には非常に困難です) けれども、AGIの実現時期の見積もりは全く妥当であるとは言えず、それゆえ、AGIの実現までには想像よりも長い時間を要する可能性が高いでしょう。
カーツワイル氏がAGIの実現を見積もる根拠は、「拡張ムーアの法則」と「脳のニューロンとシナプスの数」です。「拡張ムーアの法則」とは、ムーアの法則から予測される計算力のコスト効率の向上が、コンピュータにおける「パラダイムシフト」の継続によって、将来も継続されるという仮定です。この「拡張ムーアの法則」と、「人間の脳の機能、ないしニューロンとシナプスをリアルタイムでシミュレーションするために必要な計算力」の2つから、AGIの実現時期は2029年と推定されています。
けれども、半導体集積回路に対するムーアの法則は、2000年代から既に停滞しはじめている上、新たな「パラダイム」の登場が必然であるという根拠は何もありません。「拡張ムーアの法則」が継続されるためには、現在の「パラダイム」が限界を迎えるよりも10年以上前の時点で、次のパラダイムの技術が発明され、市場投入されている必要があります。2020年初頭にはシリコン半導体に対するムーアの法則が完全に終焉を迎えると予測されていますが、現在のところ、新たな計算原理の研究は道半ばであり、また量子コンピュータが実現したとしてもあらゆる計算困難な問題が計算できるようになるわけでもありません。他の計算素子を見ても、計算機に必要なトレードオフを考慮すると、シリコン製の集積回路を置き換えるほどの速度で発展している「パラダイム」は存在しないように見えます。
また、精神転送（マインドアップロード）の実現可能性を検証した連載を通して、カーツワイル氏は遺伝子の情報や脳自体の複雑性を極度に過少評価していること、脳スキャンの空間分解能は未だ個々のニューロンとシナプスを詳細に観察するにはほど遠いこと、生物の情報処理の原理は、ニューロンではなく分子のレベルに存在する可能性が高いことなどを指摘しました。それゆえ、人間の脳を愚直にエミュレーションする手法を通したAGIの実現や精神転送の実現は、我々が想像するよりも莫大な時間を要するでしょう。特に精神転送について言えば、この種の「不死技術」実現までの期間の予測は、人々の不死を望む感情によって大きく歪められているように見えます。
もちろん、脳のエミュレーションとは異なる方法によって、人工知能が実現される可能性はあります。高いレイヤーの「知能の原理」の研究と理解を通して、人工知能を作り上げる方法です。ちょうど、人間が飛行機を作成する際、鳥のように羽ばたく機械を作るのではなく、「飛行の原理」である航空力学の知識を通してプロペラやジェットエンジンを作るように。
けれども、この種のアプローチを取る上での大きな問題は、現在のところ、「知能の原理」について、何が分かっていないのかすら不明である (未知の不確定要素がある) ということです。もちろん、単一のタスクや機能で人間の「能力」を上回る「性能」を発揮するシステムは既に存在し、これからも作られるでしょう。知能の問題に対する不確定要素の量や難易度の見積もりによって、実現時期の予測は多少前後するかもしれません。けれども、汎用性人工知能、人間と同等以上の存在を作り上げることは、計算力のコスト効率を向上させ続ければ自動的に解決するという種類の問題ではありません。
そもそも、人間の知能は単一の機能、単一の尺度ではなく、また人工知能の「知能」や研究の進捗を測定する方法すら存在していないため、人工知能の研究が指数関数的に成長しているという根拠は何もありません。人工知能の研究は、不連続で散発的なブレイクスルーと停滞の繰り返しです。もちろん、将来にも不連続なブレイクスルーが発生しうるでしょうが、それがいつ、いかなる形で起きるかを予測する法則はありません。
ゆえに、カーツワイル氏によるAGIの実現時期予測、2029年という見積もりは妥当ではなく、おそらく過少である可能性が高く、それよりもずっと長い期間を要するだろうと考えています。
知能の拡大と思考主義
シンギュラリティ論においては、ひとたび汎用人工知能が作られると、その人工知能は何らかの形で自身の知能を拡大することができ、「超知能」が発生するとされています。また、その「超知能」は、科学技術の問題に限らず、社会問題や経済問題までをも即座に解決できると想定されています。けれども、（収穫加速説、知能爆発説の双方において）超知能がいかなるプロセスを通して出現するかはあまり明らかではありません。
そして、仮に超越的な知能が出現したとしても、科学技術の進歩には現実世界での実験やプロトタイプ構築を必要とするため、即座に超越的な科学技術の進歩が達成されるわけではありません。知能は問題解決における小さな一要素でしかなく、「進歩の障害となるものはただ知能の高さのみである」という考え方は誤りであり、ケヴィン・ケリー氏はこの誤謬を「思考主義」と命名しています。同様に、仮に超越的に「知能」の高い人工知能であっても、既に社会に存在している物理的な物体を変化させられるわけではなく、また政治・経済・社会的な問題を解決できるわけではないでしょう。
そして、カーツワイル氏の言うGNR革命、すなわち遺伝子工学、ナノテクノロジー、ロボティクスの研究を概観しましたが、それらの分野の研究は、コンピュータやAIの研究とは異なり、必ずしもカーツワイル氏の予測通りに進んでいるわけでは無いと言えます。特に、遺伝子工学について言えば、進歩の速度は細胞分裂、生殖、寿命の時間によって本質的に制限されます。穏当な材料化学や分子生物学の応用分野としてのナノテクノロジーではなく、分子サイズの機械で分子を操作する「分子ナノテクノロジー」のビジョンは、理論上不可能であるとは断定できませんが、実際のところ提唱当時より他の研究者から実現可能性に関しての疑問が提示されています。
汎用人工知能が実現すれば超知能が出現し、それが科学技術の高速な進歩をもたらすという仮定は、論理的に妥当でないように思えます。
まとめ
私の主張は、現時点で利用可能な根拠を用いた暫定的なものであり、いくつかは将来において誤りと判明するかもしれないことを認めましょう。
もしかすると、明日からあらゆる科学技術が指数関数的に成長していくかもしれません。もしかすると、今年にも実用的な量子コンピュータが市場投入され、ムーアの法則が継続される可能性もあるでしょう。あるいは、数年後に量子力学を用いた斬新な計測手法が開発され、生体脳スキャンの分解能がいきなりナノメートル単位に達する可能性を否定することはできません。将来、人工知能の「知能」を測定する巧妙な手法が考案され、人工知能研究が指数関数的に進捗していくかもしれません。もしくは、未来の汎用人工知能は、現実世界に働きかける何らかの手法を編み出すかもしれません。
また、懐疑論者としての私の立場においては、論理的に、シンギュラリティ論を一撃の元に葬り去るような決定的な反駁の存在は、望むべくもないでしょう。そして、この文章を書き、読んでいる人々全員が死んだ後の遼遠の未来において、カーツワイル氏が予測した精神転送、分子ナノテクノロジーや宇宙進出のような技術が出現する可能性までも否定するつもりはありません。
けれども、シンギュラリティ論の全体を通して検証してみると、個々の主張を繋げる推論は、全く妥当性を欠いているものであると言わざるを得ません。ゆえに、数十年というごく短期間のうちに超越的人工知能が発生し、断絶的な高速の進歩をもたらすというシンギュラリティの主張を妥当な将来予測として捉えることは不可能であり、科学研究、技術開発と社会政策の指針とすることはできません。
