シンギュラリティ教徒への論駁の書

"Enjoying science fiction is not the same thing as doing science or making science policy." - Dale Carrico

レイ・カーツワイル『スピリチュアル・マシーン』を読んで、シンギュラリティ論への違和感の原因が理解できた

私が『ポスト・ヒューマン誕生』でのカーツワイル氏のシンギュラリティ論を読んだ時、疑問を感じたことがあります。

カーツワイルの未来予測において根幹を成す仮定は、「宇宙の"秩序"が指数関数的に加速する」という原理、「収穫加速の法則」です。一方で、「特異点(シンギュラリティ)」とは、原義を辿れば、既存の法則が破綻するような特別な点を意味しています。ところが、指数関数のグラフはなめらかで連続した自己相似形の曲線を描くため、「特異点」と呼べるような特別な点はどこにも存在しません

仮に、カーツワイル氏の予測の根拠である「ムーアの法則の外挿による計算力のコスト効率の指数関数的な成長予測」と「ヒトの脳機能を、ないしニューロンとシナプスを、リアルタイムでシミュレーションするために必要な計算力の見積り」を受け入れるとしても「1000ドルのコンピュータが全人類(100億人)と等しい"知能"を持つ時期」において、そのような「劇的な転換点」が到来するという設定は、あまりに恣意的すぎると感じました。他のシンギュラリタリアンよるシンギュラリティの定義でも、「"秩序" の形成 (ないしは「科学技術」や「知能」の成長速度と言われることも) が (主観的に) 無限大となるとき」といったような、木に竹を継いだような主張が見られます。

もしも仮に、ヒトの脳の機能を完全に模倣できるソフトウェアが作成できるならば、実質的に無制限のコピーが可能であるため、その「人数」はあまり大きな意味を持たないはずです。実際に、I.J.グッド、ヴァーナー・ヴィンジやエリエゼル・ユドカウスキーなどによって唱えられてきたシンギュラリティ論はこのタイプ (知能爆発説) ですし、日本でも、齋藤元章氏や山川宏氏のように、カーツワイル説からの影響を受けながらも"先祖返り"しているような主張も見られます。知能爆発説においては、人間の完全な上位互換である汎用人工知能が作られると、以降の宇宙の進歩は人類の後継者たる汎用人工知能たちによって担われるようになるため、その後は一切見通せないのだと主張されています。こちらの考え方は「特異点」のイメージによく合致しているように感じられます。

この「指数関数的な成長論」と「特異点」の不整合の原因は、『スピリチュアル・マシーン』を読めば理解できます。端的に言えば、カーツワイル氏の議論で「シンギュラリティ」は後付けであり、元々の主張は「指数関数的成長論」のみであるからです。

スピリチュアル・マシーン―コンピュータに魂が宿るとき

スピリチュアル・マシーン―コンピュータに魂が宿るとき

既にこのブログでも何度か取り上げていますが、本書『スピリチュアル・マシーン』の原書は1999年に発表されました。日本語版は2001年に発売されています。

彼の主張の根底を成す世界観は、「秩序」と「カオス」の二元論的な対立です。カーツワイル氏の信奉者の間ですら現在ではほとんど言及されることはありませんが、彼は「カオス増大の法則」を提示しています。

カオス増大の法則--カオスが指数関数的に増大すると、時間は指数関数的に遅くなる。(つまり、新たに大きな出来事が起きるまでの時間感覚は時間の経過とともに長くなる)。 (p.43)

宇宙におけるカオス増大を統べる原理である「熱力学第二法則」、「エントロピー増大の法則」は知られているものの、それだけしか存在しないのであれば、秩序立った「知能」が発生することはできないはずである。しかるに、生命と知能という秩序は事実存在するのであるから、「秩序」を統べる創造主たる原理が存在しなければならない。そこから、「秩序」の原理である「収穫加速の法則」の存在が論証?されています。(第1章) そして、知能とはDNAの信号であるため、優れたテクノロジーがあれば脳をスキャンし、知能を再構築できるとされています。更に、知能を再現するための構成要素として既存のテクノロジーを論じています。

彼の主張が妥当であるかはともかく(というより、推測や仮定、論理の飛躍があまりに多く、議論展開はかなり怪しいのですが)、感情的に訴えかける非常に強い力があり、少なくとも「面白い」ものであることは確かです。

本書の第III部には、「未来」という題が付けられており、カーツワイルは未来の予測を提示しています。当初彼が「シンギュラリティ」に注目していなかった一つの傍証としては、彼の予測は2099年まで続いていることが挙げられます。少なくともこの本では、現在言われている通りの「2045年」という年には特別な注意は払われていません。

実際に予測の内容を確認してみても、あくまで指数関数的な成長が継続されることにより社会が変化していくという主張であり、いずれかの時点で急激な転換点が訪れるとは考えていなかったようです。

ミハイル・アニシモフといった別の (カーツワイル以前の) シンギュラリタリアンの中には、カーツワイルは「シンギュラリタリアン」という語を乗っ取」り、「将来予測と平行して霊的で神秘的な哲学を押し進め、必然的・宿命論的な雰囲気をまとわせて」、「当然の嘲笑を引きつけた」としてカーツワイルを批判する人もいます。

シンギュラリティに関する議論では、各々がさまざまに異なる定義にもとづいているため巨大な混乱が引き起こされていますが、その原因の一端はカーツワイルによる「シンギュラリティ」という語の誤用にあると考えています。

合わせて読みたい

本書『スピリチュアルマシーン』の中でのカーツワイル氏の予測 (1999年時点で2009年と2019年を予測したもの) の検証は、以下の記事をご覧ください。