シンギュラリティ教徒への論駁の書

"Unending exponential growth? What drugs are those people on?" - Linus Torvalds

序文

いずれ、人類によって、あらゆる人間の知能を超えた超AIが開発され、その超AIがさらに賢い超々AIを作り続けることによってAIの知能が爆発的に拡大し、人類の歴史に断絶--すなわち、特異点シンギュラリティ--がもたらされる。


数年ほど前から、このようなシンギュラリティに関する議論が盛んになり、日本でも一般向けの雑誌や新聞で言及されることが多くなりました。

ソフトバンク孫正義社長は、2016年に自身の引退計画を撤回したときに、「シンギュラリティが近づいている」ことが経営を続ける理由であると説明し、この言葉が注目を集めました*1Google, Amazon, FacebookMicrosoftなど、アメリカの大手IT企業が発表するAIや機械学習に関するニュースが報道されない日はありません。トヨタリクルートドワンゴといった日本企業も、相次いで人工知能に関する研究所を設立しました。ドワンゴ社は、人工知能研究所の設立の趣旨として「人と同じかそれ以上に知的な機械、つまり超人的人工知能(AI)を創造」することを目標に掲げています*2。また、書店に行けば「人工知能」や「シンギュラリティ」を冠した本を多数目にすることができます。


私が観察する限り、決して少なくない人が「テクノロジーの進歩によって、『人知を超越した何か』が出現する」と強く信じているように見えます。けれども、まず初めに私の立場を述べると、シンギュラリティ論に対しては若干懐疑的な考えを持っています。

より正確に述べるなら、私はテクノロジーの進歩には楽観的な期待を持っており、いずれは人間の知能を (機能的に) 超えるAIが実現すると信じています。そして、現在ですらAIや機械学習技術が社会経済的に、特に人間の労働に大きな影響を与えていることも確実だと考えています。けれども、そのAIが知能爆発と科学の爆発的な進歩、そしてマインドアップロード、不老不死といったできごとと「私たちの知る世界の終わり」を引き起すとは考えていません。

当初日本でシンギュラリティ論が注目を集め始め、私が議論を認識した5年ほど前には、私はシンギュラリティに魅力を感じ、それがもたらす未来を望んでいました。けれども、その将来予測について自身で考え検討していくうちに、非論理的な前提と推論に基礎を置いていることに気付き、私はシンギュラリティ懐疑派へと転向していきました。

一方で、その議論は空虚なデタラメと切り捨てることができない説得力を持っているとも感じ、また、暗黙の前提としている信仰 (こう言って悪ければ、信念) を、宗教的な観点で考察することは大変面白いテーマであるとも考えたため、日本語と英語圏におけるシンギュラリティに関する議論を、できるだけ中立的な視点で収集してきました。


シンギュラリティという考え方が、単に社会の周縁部に位置する熱狂的な個人と集団に限られた信念に留まるのであれば、私自身はことさら何かを言うつもりはありませんでした。けれども、シンギュラリティ論が一部の熱狂的集団を超えて社会へ広まり、企業による投資、アカデミックな工学研究者のテーマ設定、そして行政の政策にまで若干の影響を与え始めているのを見て、これは無視できない悪影響を社会全体に対して与え始めていると感じるようになりました。

そこで、私はシンギュラリティに懐疑的な立場から意見を述べたいと考えています。

 

 第一部において、シンギュラリティおよびその前提となる「収穫加速の法則」を検証します。

特に、この分野を代表する論者であるレイ・カーツワイル氏の著作を取り上げ、彼の著書の主張に沿って私の反論を提示します。総論としてカーツワイル氏が主張するテクノロジーと人類文明の指数関数的成長が本当に発生しているのか検証し、また各論としてコンピュータ、脳科学人工知能などの進歩の見通しが妥当なものであるかを検討します。

第一部の最後では、なぜシンギュラリティ論にもとづいて社会の政策を論じることに反対するのかを述べ、現実的に何を検討しなければならないのかを提言したいと思います。

また、第二部においては、「我々の未来予測に関するバイアス」を明らかにするため、シンギュラリティ論の前提を用いて、私なりの歴史観と未来予想、すなわち「文明のベル型カーブ仮説」と循環する未来世界のスケッチを提示してみたいと思います。


本論を述べるにあたって、私のバックグラウンドを簡潔に紹介します。

私は2005年に大学に入学し、工学部で修士までコンピューターアーキテクチャとプログラミングについて学びました。機械学習人工知能に関しては、(当時の)情報系学部生レベルの一般知識はあるつもりですが、専門分野ではありません。
また、卒業後はシステムエンジニアリング会社で、インフラ系(いわゆる「クラウド」)の研究開発エンジニアとして働いています。業務上では機械学習などに触れる機会はありませんが、上記の通り、この分野に関しては興味を持って情報収集をしてきました。

また、少し特殊な私の属性としては、ユダヤ、キリスト、イスラーム一神教の系譜に連なる、ある新興宗教の信者でもあります。神と預言、世界の創造と終焉、最後の審判と来世における永遠の生命を、基本的な部分においては信じています。(ただし、上記宗教の伝統的信者からは、おそらく私は異端と見なされるでしょう。) 中高生のころから宗教的な議論に関心を持ち、おそらく他の人よりは多くの宗教書、宗教思想書を読んできましたが、伝統的宗教教育を受けたことはなく、また宗教を対象とする人文科学を専門として学んだことはありません。

私の信仰上の立場からシンギュラリティ論に反対するという動機が存在しており、それについては私自身も自覚しています。けれども、特に必要が無い限り、宗教者としての言葉ではなく技術者としての言葉をもって議論したいと考えています。

 

テクノロジーの進歩は、人間が世界を捉える方法、世界観に対して確実に影響を与えています。

もしもあなたが信仰者であり、(特に日本において) 神に対する道を正しく説こうとするのであれば、テクノロジーが人々の世界観に与える影響を、無視・軽視するのでも敵対するのでもなく真正面から捉え、信仰の世界観とテクノロジーの世界観を融和させることが必要であると考えています。

また、もしあなたがシンギュラリティの到来を信じるシンギュラリタリアンであるのならば、盲信ではなくデータと常識的判断にもとづいた健全な懐疑と批判は、科学的な議論に不可欠のものであると申し上げましょう。

また、それ以外の大多数の方、いわゆる無宗教の日本人にとっても、自分が無意識のうちに何を信じており、どのような世界観を持っているかを一種「外部」の視点から明らかにすることは、社会にとって大きな意義のあることであると考えています。