シンギュラリティ教徒への論駁の書

"Unending exponential growth? What drugs are those people on?" - Linus Torvalds

カーツワイルのシンギュラリティ説とその批判

前回のエントリで述べた通り、レイ・カーツワイル氏のシンギュラリティ説は、必ずしもそれ以前のシンギュラリタリアンの説を踏まえたものとは言えません。けれども、カーツワイル氏の説は最も広く普及しており、現在シンギュラリティについて論じる上で議論の前提となっています。また、カーツワイル氏はシンギュラリティまでの期間を提示しており、数十年という比較的短期間でそれが現実化すると述べています。そのため、本論ではカーツワイル氏のシンギュラリティ論に注目して議論し、特に期間の見積もりが過少である可能性が高いことを示します。

そのカーツワイル氏の主著であり、「収穫加速の法則」とシンギュラリティ説を詳細に述べた『ポスト・ヒューマン誕生』ですが、この本は決して読みやすい本であるとは言えません。

ポスト・ヒューマン誕生 コンピュータが人類の知性を超えるとき

ポスト・ヒューマン誕生 コンピュータが人類の知性を超えるとき


邦訳で700ページ近い大著であり、膨大な事実とデータ、カーツワイル氏による考察と願望、何段階かの仮定を積み上げた将来のテクノロジー進歩に関する予測、そして、過去の人物、未来人や架空の人物との寸劇風の会話文などの中に、有用な議論と無意味な散文が散りばめられており、論旨を読み解くことは簡単ではありません。長大かつ難解であるためか、2016年には日本で縮約版が出版されています。

シンギュラリティは近い[エッセンス版] 人類が生命を超越するとき

シンギュラリティは近い[エッセンス版] 人類が生命を超越するとき

 

認知科学者であり計算機科学者のダグラス・ホフスタッターは、カーツワイルに対する辛辣な批判者でもありますが、彼はアメリカン・サイエンティスト誌のインタビューでこう述べています*1

それはゴミと良いアイデアの密接な混合物であり、その2つを分離することは非常に難しい。なぜならば、彼ら [ハンス・モラベックとレイ・カーツワイル] は賢い人たちであり、馬鹿ではないからだ*2

この本に対する評価は脇に置くとして、『ポスト・ヒューマン誕生』に含まれたさまざまなデータと装飾と付属物とを取り除いてみると、カーツワイル氏の議論の論旨は次のようにまとめることができるでしょう。

  1. あらゆるテクノロジーは、指数関数的に成長する。
  2. 単独のテクノロジーに関する成長曲線のみならず、複数のテクノロジーで表される「パラダイム・シフト」も指数関数的に加速する。 (収穫加速の法則)
  3. 人間の脳をコンピューターとして見ると、その性能は1秒間に10の16乗回(CPS)計算できるコンピューターと等しく、この性能を持つスパコンは2013年までに開発され、1000ドルのPCでも2020年にはこの性能を超える。2045年までには1台のPCに収まるAIの計算能力が人類全体の脳の計算能力を超える。
  4. 脳の機能を模倣するソフトウェアは2030年までに開発され、1人の人間と同等の知能と意識を持つAIが生じる。上記3.の前提に従いAIの知能が指数関数的に進歩する。
  5. それと平行して、G・N・R (遺伝子工学ナノテクノロジー、ロボティクス) の3つの分野も指数関数的に進歩し、人間がテクノロジーと融合することにより指数関数的に人間が進化する。
  6. 宇宙が覚醒し、超AI知性体が宇宙へ光速 (もしくは亜光速) で拡散していく。

上記のカーツワイル氏の主張に対する私の批判は、以下の通りです。

  1. ほとんどのテクノロジーは指数関数的に成長していない。
  2. 「収穫加速の法則」も「パラダイム」の定義も曖昧なため、指数関数的なテクノロジーの進化を立証できていない。また、「収穫加速」どころかテクノロジーの成長が停滞している可能性を示す実証的な証拠も存在する。
  3. ムーアの法則は既に停滞しつつある上、新しい「パラダイム」が必然的に誕生すると考える根拠は無い。そもそも、知能は計算力ではなく計算力は知能ではない。計算速度のコスト効率向上が人工知能の実現をもたらすとは言えない。
  4. 脳をエミュレーションする困難さを低く見積りすぎている。
  5. そもそも知能が拡大可能であるという証拠は何もなく、まして無限の知能拡大が可能であるとは言えない。
    いかなる超知性体であっても、思考のみでは現実世界の問題を解決できない。遺伝子工学ナノテクノロジーの研究は、必ずしも予想通りに進んでいない。
  6. 宇宙の覚醒と光速での知性の拡大は、現在のところ宇宙のいかなる場所でも観測されていない。

次回以降の章では、この流れに沿って批判を展開していきたいと考えています。

*1:ただし、私はホフスタッター氏も決して読みやすい本を書く著者だとは思いませんが…

*2:https://www.americanscientist.org/bookshelf/pub/douglas-r-hofstadter