シンギュラリティ教徒への論駁の書

"It's tough to make predictions, especially about the future." - Yogi Berra

書評:来世としての『全脳エミュレーションの時代』(ロビン・ハンソン)

 

全脳エミュレーションの時代(上):人工超知能EMが支配する世界の全貌

全脳エミュレーションの時代(上):人工超知能EMが支配する世界の全貌

全脳エミュレーションの時代(下):人工超知能EMが支配する世界の全貌

全脳エミュレーションの時代(下):人工超知能EMが支配する世界の全貌

 

著者のロビン・ハンソン氏は、現在では経済学の教授を務めていますが、物理学と哲学の修士号も持ち、ロッキード社とNASA人工知能開発のキャリアを積んだ後、社会科学の博士号を取得したという多彩な経歴を持つ人物です。本書『全脳エミュレーションの時代 (The Age of Em: Work, Love and Life when Robots Rule the Earth)』は、いわゆるポストヒューマニズム/トランスヒューマニズムものであり、現在の人類の後継者となる未来の超人類「エム」の姿とその社会や経済について、学際的な視点からの「予測」を試みた本です。

 

ハンソン氏の主張の中で特に際立っている点は、他のシンギュラリタリアンやトランスヒューマニストとは異なり、いわゆる「汎用人工知能」の実現可能性と、知能爆発型のシンギュラリティ仮説に対して極めて懐疑的であることでしょう。プログラマによってハンドコーディングされた「汎用人工知能」の実現はきわめて困難であり、過去の進捗状況を外挿すると、人工知能の実現までには400年から800年を要するかもしれないと述べています。

そこで、ハンソンが超知能の出現方法として想像している方法が、本書の邦題でもある「全脳エミュレーション」あるいは「マインドアップローディング」です。マインドアップローディングは近い将来 (1世紀以内) にも可能となり、脳エミュレーションをベースとしたソフトウェアである超知能「エム」が未来社会を形作るのであると主張しています。

これは、極めて奇妙な主張であると感じます。私自身は、汎用人工知能はいずれ実現してもおかしくない (ただし、現在想像されているよりもはるかに時間を要するだろう) と考えていますが、マインドアップローディングは遠い未来に渡ってもほぼ実現不可能であると、かなり強く確信しています。

 

既に本書の過去の連載でその理由を説明しましたが、ここで簡単にポイントを要約します。

まず第一に、マインドアップローディングの提唱者は、脳の情報処理機構がニューロンシナプスといった細胞レベルの構造に存在すると主張する傾向にあります。けれども、私は脳の情報処理機構は細胞にではなく分子のレベルにあり、完全な「アップロード」のためには分子レベルの構造を再現する必要があると考えています。

その傍証は、体内の分子が論理回路として動作することを示す研究があること、神経細胞を持たない単細胞生物も原始的な知能や記憶の存在を示すこと、人間のような多細胞生物も進化の過程を通して分子の情報処理機構を保持し続けていることです。

生物の情報処理機構が分子レベルに存在するならば、その動作を再現できるハードウェアも、エミュレーションに必要な初期状態を取得できる脳の測定手法、あるいは分子機械も、妥当な将来の技術進歩のはるか範囲外にあります。

第二に、人間の精神活動と脳機能においては、明確な抽象レイヤーが存在しないことです。

上記の通り、分子レベルの情報処理は人間の精神活動において本質的な役割を担っていると考えられます。そのため、分子レベルの情報処理を抽象化して扱うことはおそらく不可能です。天気予報のシミュレーションにおいて大気の分子を統計的に扱うこと、あるいは論理回路の設計において半導体の物性を無視できることとは異なります。なぜならば、人間の脳は進化の産物であり、その情報処理においてはハードウェアとソフトウェアの処理が密接に絡み合っているからです。

第三に、仮に前提となる技術開発がなされたとしても、マインドアップローディングの成功判定という哲学的な問題が残ります

全く処理方法の異なるハードウェアに脳を移し替えた場合、コピーしたファイルの差分や同期を取るようにして成功を判定することはできません。また、精神疾患患者が自身の異常性を認識できない(病識がない)場合があるように、アップローディング被験者自身ですら主観的に自分自身の異常を検知できない可能性もあります。被験者の内観と自己申告ですら信頼できないという問題は、たとえ脳の一部を少しずつ人工物に入れ替えていくといった方法を取ったとしても解決できません。

どんな手法、指標、タイムスパンで成功判定ができるのか定義できない限りは、人間を対象とした臨床実験としてマインドアップローディングを実施できる可能性は完全にゼロです。


そしてもう一点、ハンソンは現在の社会科学がほぼそのまま「エム」の社会に対しても適用できると主張しており、社会科学をベースとして「エム」社会の組織、労働、政治、経済などの予測を試みています。他のトランスヒューマニストは、超知能の出現は「特異点」であり、その後は予測不可能であると (ある意味潔く) 放棄していることと比較すると、この点もハンソンの特徴的な議論と言えます。

けれども、社会科学の観点からも「予測」に説得力があるとは感じませんでした。

とりわけ問題含みと思われるのが、「狩猟採集民」「農民」の価値観の二分法です。ハンソンは、人類の価値観は、個人主義的、自由主義的でリベラルな「狩猟採集民」から、集団主義的、権威主義的、保守的な「農民」へと移り代わってきたと主張しています。そして、現代の「工業」時代において一時的に「狩猟採集民」の価値観が復興したものの、「エム」の時代においては再び「農民」の価値観が支配的になるかもしれないと言います。「エム」は増殖が容易であるため比較的短期間にリソースを喰い潰し過酷な競争に陥り、ほとんどの「エム」の生活は最低生活水準近くまで落ち込み、一種の農奴、奴隷のような生活を送るとされているからです。

ところが、「狩猟採集民」がリベラルな価値観を持つという主張の実証的な根拠は乏しいと言えます。狩猟採集民は自らの歴史を書き残さず、有史時代において存在していた狩猟採集民のうちで周囲の「農民」から影響を受けていない集団はごく僅かであり、彼らの価値観を記録した「農民」の学者は自身の価値観からのバイアスを受けています。

考古学的な観点から言えば、「先史時代の平等主義的な小規模社会」という見方には疑問が示されています。たとえば、考古学者キャスリーン・キャメロンは、先史時代の小規模コミュニティにおいてすら集団襲撃、虐殺と (特に生殖可能な若年女性の) 誘拐が珍しいものではなく、捕虜として扱われる人が存在していたこと、捕虜の存在による権力偏在と富の蓄積が初期の都市国家を生み出す基盤となった可能性があることを示しています。

比較的史料が残っている「農民」時代と近現代の「工業民」の歴史を見ても、その価値観や社会制度はさまざまです。科学技術の点ではハンソンが極めてラディカルでドラスティックな進歩と変化を予測していることを考慮すれば、社会科学的な方法論がほぼそのまま適用可能であるという主張には説得力がありません。

より端的に言えば、ソフトウェア化され自分自身の改造すら可能な「エム」が、何故旧来の人間の価値観に縛られると考えているのか、理解できませんでした

 

全体を通して見れば、前提となる技術的・社会科学的な根拠は極めて疑わしく、ハンソンの詳細かつ緻密な未来予測は成功していないと考えます。


未来予測ではないとすれば、この本は一体何なのでしょうか? 私は、この本は来世を描いた本であると捉えました。

マインドアップローディング劇的な寿命延長の実現可能性は著しく過大評価され歪められていること、その裏に人間の不死を望む感情があることを、これまでにも指摘してきました。そして、本書の中でハンソン自身もクライオニクスの予約者であることを述べています。クライオニクスとは、将来のテクノロジーの進歩による復活を期待し、死体を冷凍保存する技術 (あるいは、ちょっと風変わりな新興宗教に基づいた遺体の埋葬儀礼) です。

論拠の怪しさと、にもかかわらずその「社会予測」のディテールを考えると、これはハンソンが信仰し、ハンソン自身が生きる (ことになると信じている) 来世の姿であると考えると納得ができます。

ハンソンの描く「来世」のあり方は、伝統的宗教の天国とは多くの点で異なっています。労働環境や経済競争は厳しく、純粋な知性のみに基いた超能力主義社会であり、計算能力を購入して自身の動作速度を向上させられる少数のエリート以外は、数兆人のエムがかつての農奴のような生活を送るのだと言います。

 

このような「来世」の姿は、現代社会のいかなる状況を反映しているのだろうか、と考えざるにはいられません。