シンギュラリティ教徒への論駁の書

シンギュラリティは宗教だ!

目次

第一部 「シンギュラリティ」

  1. 序文
  2. シンギュラリティとは何か?
  3. ほとんどのテクノロジー成長は指数関数的ではない
  4. 収穫加速の幻影
  5. ムーアの法則と人工知能
    5.1. ムーアの法則
    5.2. 精神転送
    5.3. 機械学習
    5.4. 全脳アーキテクチャ
  6. 思考主義批判と知能の拡大
  7. 宇宙の覚醒
  8. 予言は外れた
  9. なぜシンギュラリティに反対するか
  10. 後書き

第二部 「没落と崩壊の未来史」

  1. ハバートの法則と没落加速の法則
  2. 進歩教

(以下構想中…)

 

本ブログは、カーツワイル氏のシンギュラリティ説と「収穫加速の法則」を批判的に検証するものです。もともと書籍の企画として執筆し始めたものであるため、序文から順番に議論を展開していますが、各エントリは独立して読めるように構成しています。

小鳥遊りょうさんへの返信 -「20世紀全体」と「2000年〜2014年」で等しい量

以下の私の記事に対して意見がありましたので、返信します。

この記事の中で私が検討したカーツワイル氏の主張は次の通りです。

わたしのモデルを見れば、パラダイム・シフトが起こる率が10年ごとに2倍になっていることがわかる。(中略) 20世紀の100年に達成されたことは、西暦2000年の進歩率に換算すると20年で達成されたことに相当する。この先、この西暦2000年の進歩率による20年分の進歩をたったの14年でなしとげ(2014年までに)、その次の20年分の進歩をほんの7年でやってのけることになる。別の言い方をすれば、21世紀では、100年分のテクノロジーの進歩を経験するのではなく、およそ2万年分の進歩をとげるのだ(これも今日の進歩率で計算する)。もしくは、20世紀で達成された分の1000倍の発展をとげるとも言える。

ここで、「わたしのモデル」と呼ばれているものは「収穫加速の法則」を指しています。カーツワイル氏が原著を発表した時点の2005年では、まだこの主張は未来の予測でしかありませんでした。けれども、発表後12年経過した2017年現在においては、既にこの主張は過去のものです。それゆえ、実証的な根拠にもとづいて、定量的に「収穫加速の法則」の成否に関する議論が可能であるはずだと考えています。

私は、人類のパラダイム・シフトの総量を間接的に推定できる量からは、この主張の成立は確認できないと述べました。

なお、私の立場を明確に述べておきます。私は、科学技術の進歩に対して反対するラッダイトではありませんし、現在でも科学技術は進んでいると考えています。ただし、その速度はカーツワイル氏やシンギュラリタリアンが主張するような指数関数的な速度ではない、と考えています。

続きを読む

精神転送は不可能である (縮約版)

精神転送に関して、私の主張を要約します。個々の主張の根拠や詳細な議論は、個別エントリを参照してください。

関連記事

続きを読む

シリコン製の天国と来世

ここまで、精神転送の実現可能性について計算機科学と脳神経科学の観点から検討してきました。

再度、私の結論を繰り返すと「原理的には精神転送は不可能ではないにせよ、カーツワイル氏やシンギュラリタリアンの議論においては、その実現の困難さが相当に低く見積もられており、今生きている私たちの寿命のタイムスパンで実現される可能性は相当に低い」と考えています。


実際のところ、精神転送は現在の計算神経科学においてメインストリームの研究テーマではありませんし、多くの人も「数十年以内に脳をコンピュータにアップロードできるようになる」という主張は、ありえないレベルで馬鹿馬鹿しい主張だと一笑に付すでしょう。

けれども、ここで私が精神転送を強く批判したのは理由があります。精神転送は、宗教の持つ力が弱まった現代において、来世と永遠の生命のイメージを強く喚起するものであるからです。

続きを読む

精神転送の改善的手法あるいはテセウスの船

通常、新しく開発される技術は、最初から完全であることは稀です。おそらく、精神転送についても同じことが言えるでしょう。通常の技術であればプロトタイプ的な手法から、完成形へ向かってだんだんと改善していく方法が取られますが、精神転送という特殊な技術を考えると、他の技術では存在しない特有の問題が発生します。

精神転送は動物実験も改善もできない

新薬開発や通常の医療処置であれば、動物実験臨床試験を通して改善することができます。けれども、精神転送の動物実験はあまり意味のあることではありません。動物がいかなる内的意識体験を持っているのか不明ですし、動物は自分の意識体験を言葉で説明することが不可能であるからです。

結局のところ、精神転送の実験は最初から人間を対象として実施する必要がありますが、その場合には倫理的な問題が生じます。おそらく、最初に脳をコピーし再現する手段が開発されるとき、その手法が破壊的方法であること、つまり、人間の脳に対して何らかの恒久的なダメージを与える手法である可能性は非常に高いということです。端的に言えば、対象者は複製される前に死にます。

対象者に対する倫理的な問題は、死刑囚を使うなり、死期の迫った病人からの献体として扱えば、解決できるかもしれません。
けれども、最初から完全な人間の脳の複製ができると想定することはできません。最初の手法では、不完全なコピーしかできない可能性、たとえば、過去の記憶が再現できなかったり、新しい記憶を学ぶことができない精神体が発生するかもしれませんし、転送直後は正常であっても一定の時間が経過すると人格が崩壊するというような状況が発生する可能性もあります。そして、前回のエントリで述べた通り、どのような不具合が生じているかを対象者自身ですら意識できない可能性もあります。その場合、複製された(不完全な)精神をどのように扱うべきかという、更に巨大な倫理的問題が生じます。

この問題を防ぐためには、精神転送は漸次的な改善的手法を取るのではなく、最初から完璧な技術として完成されていなければなりません。けれども、精神転送という巨大で複雑な技術が、最初から完全な形で得られることは想像しにくいです。


テセウスの船

ここまで、精神転送を「人間の脳機能と精神活動を、人工物の上で完全に再現する手法」として扱ってきました。このプロセスを一度に実行しようとすると、これまで述べてきた通りとてつもなく巨大な問題が発生します。

けれども、精神転送の提唱者は、別種の (仮説的な) 方法を用意しています。神経細胞と同等の活動ができるナノマシンを用いて、少しづつ人間の脳を入れ替えていき、最終的に完全な人工物で脳を置換するという方法です。ギリシャの伝説的なパラドックスならい、「テセウスの船」型の精神転送と呼ぶことにします。

なるほど確かに、神経細胞は常に死滅しており、またシナプスは常時作り変えられ、神経細胞を構成する分子は新陳代謝により入れ替わっています。

けれども、生命進化における前提条件である新陳代謝と、人為的な変更を同列に扱うことはできません。人間の高次な精神活動、認知、記憶や判断の機能を強化したり代替したりする手法が遠い将来において開発される可能性は否定しませんが、前回のエントリで述べた通り、「人間は自分が異常であるか正常であるかを確実に判断できない」という制限は、テセウスの船型の手法を取るにせよ付きまといます。
この制限がある以上、仮にナノマシンが開発されたとしても、人間への適用は相当保守的にならざるを得ません。人間の寿命のタイムスパンで長期的な悪影響が発生しないことを確認しながら、何世代にも渡ってゆっくりと改善していくという方法が必要になります。


まとめ

ここまで、精神転送の実現可能性を詳細に検討してきました。そもそも、精神転送に必要となる計算機、脳を観察するためのナノテクノロジーの実現と脳神経科学の知見、その3つにおいて巨大なイノベーションがなければ前提条件を満たすことすら不可能です。カーツワイル氏の主張する指数関数的な成長がこの3分野で発生すると仮定してさえなお1, 2世紀の時間を要するでしょうし、常識的かつ妥当と思われる科学の進歩と技術開発の速度を前提とした場合、一体いつ人類が必要な技術と知識を手に入れられるのかは全く不明です。

そして、仮に技術的に可能になったとしても、成功判定に関する哲学的な問題が解決されない以上、合法的な医療処置として精神転送を受けられる可能性はありません。

 

2017年現在において生きており、この文章を書き、読んでいる「私」や「あなた」が精神転送を受けることはありません。私はそう結論づけます。

あなたの正気を保証するもの

ここまで、精神転送について、計算機科学と脳神経科学の両面からその実現可能性を検討してきました。私は、この2つの分野においてとてつもないイノベーションが発生しなければ、そもそも精神転送に必要な前提条件を満たすことさえ不可能であると考えています。何ら実証的根拠を持たない「収穫加速の法則」による科学の進歩を前提としてさえ、必要な技術を人類が手に入れるまでにはなお数世紀以上の時間を要することでしょう。

けれども、これまでに挙げた問題はあくまで技術的・科学的な問題です。私は技術者であり、技術的・科学的な問題はいずれ解決しうるだろうと考えています。(タイムスパンの問題は存在しますが) 遠い将来において、人類は精神転送の実現のために必要な計算機と脳神経科学の知見を得ることができる、かもしれません。


さて、サイエンス・フィクションのギミックや心の哲学の思考実験として精神転送が取り上げられる場合、「仮に精神転送が可能になったらどういったことが起こるか」という検討がされることが多いようです。たとえば、精神転送は「転送」なのか「複製」なのかという問題があります。おそらく、この種の問題に関心のある人であれば一度は聞いたことがあると思いますので、ここでは取り上げません。

けれども、現実の人間を対象とする医療処置として精神転送を捉えようとすれば、「精神転送が可能になるまでにどういった問題が起こるか」という点を考慮する必要があります。

そこで、実際に人間を対象として精神転送を実行するという段階になったとき、ある巨大な認識論的な難問アポリアが立ちふさがります。それは、精神転送の成功・失敗をどのような操作的な手順 (実行可能な一連の手続き) によって判定するのかという問題です。

続きを読む

脳の階層性:カーツワイル氏は創造論者か

前回述べた通り、生物の情報処理の基本原理は分子であるため、ニューロンシナプスのレベルでの動作メカニズムの解明のみでは、精神転送の実現に十分ではないと考えられます。

けれども、カーツワイル氏はこの点に対する反論を用意しています。曰く、脳には階層性が見られるため、高次のレイヤーでの動作原理を解明し模倣できれば良く、分子レベルでの動作機構の再現は不要である、と主張しています。

・脳の領域の設計は、ニューロンの設計よりも単純だ。
モデルは、高次のレベルに行くにつれ、複雑になるのではなく、単純になる。コンピュータの例を考えてみよう。トランジスタをモデル化するには、半導体の詳細な物理特性を理解することが必須だ。それに、ひとつのトランジスタを支えている方程式は、とても複雑だ。ところが、二つの数を掛け合わせるだけのデジタル回路は、数百個のトランジスタが載っているにもかかわらず、数個の公式だけで、もっと簡単にモデル化できる。数十億個のトランジスタを搭載したコンピュータ丸ごと一台でも、命令セットとレジスタ記述部を用いてモデル化することができ、ほんの数ページのテキストと数学の変換式だけで記述できる。*1 

 

けれども、生物に対して言えば、この考え方は完全な誤りです。確かに、デジタル回路については階層性が存在し、低位のレイヤーの動作原理 (半導体の物性) は高位のレイヤーの動作 (論理演算) を考える上では無視できます。

けれども、偶然に、あるいは必然的に階層化された抽象レイヤーが生じるわけではありません。人間がトランジスタ論理回路をそのように設計したからです。

*1:『ポスト・ヒューマン誕生』p.179-180

続きを読む