シンギュラリティ教徒への論駁の書

"It's tough to make predictions, especially about the future." - Yogi Berra

社会の慣性の法則:変化には長い時間を要する

シンギュラリティ論においては、ひとたび人間を超える人工知能が作られると、その人工知能は自身の知能を再帰的に指数関数的に成長させるのみならず、物質的貧困や紛争といった社会のさまざまな問題までもたちどころに解決できると主張されています。

この種の根拠のない信念、すなわち、「知能の高さや思考の量のみが進歩におけるボトルネックである」という「思考主義」の考え方について、前回のエントリで検討し批判しました。

もちろん、純粋な思考力のみによっては科学研究や技術開発を進歩させることは不可能です。それだけではなく、開発されたテクノロジーを社会に展開し、テクノロジーが社会を変化させるためにも、やはり長い時間を要します。物理的な物体を置き換えるには時間とエネルギーを要し、現に存在する過去の進歩の成果が未来の進歩への障壁となるからです。

 

先進的なIT企業におけるプロダクト開発の事例においては、1年や1ヶ月といった単位ではなく、1週間、1日、あるいは1時間単位で新たなコードがデプロイされることが一般的になっています。たとえば、Amazon.comでは、多いときには一時間に1000回以上ものデプロイが行なわれたと公表されています。

このようなソフトウェア産業界の高速の発展が、他の産業においても同じように適用でき、同様の高速の進歩が発生することが期待されているようです。けれども、ソフトウェアにおける高速の進歩は、ソフトウェアの限界費用がほぼゼロであることから生じる、ごく特殊な事例に過ぎません。

対称的に、ハードウェアは、比較的大きな限界費用を必要とし、長期間に渡って利用されるため、進歩の速度はごく低速です。たとえば、現在普通に販売されている自動車の大多数は、自動運転車ではなくソフトウェア制御もされていないものです。この先、自動運転車の開発と普及がどれほど高速で進んだとしても、同種の自動車は今後10年以上に渡って販売が続くことは確実です。そして、現在の自動車の耐用年数 (10〜15年) を考慮すれば、2045年になっても相当の数の非自動運転車が走行していることに疑いはありません。この在来型自動車の存在によって、将来の自動運転車の普及速度は本質的な限界を定められます。

同様に、今年建設された家屋やビル、道路や鉄道、上下水道といったインフラは、(巨大災害でも無い限り) 半世紀後にも変わらず建っていることは確実でしょう。私が今住んでいる借家は、1970年代に建設された築50年近く経過している建物です。階段が急である、一部の扉の高さが私の身長よりも低いなどの構造上の古さはあるものの、何度かリフォームされているため内装や機能上の問題はありません。他のインフラも同様に長期間使用されるため、私たちの暮らしの本質的な部分は、50年後、100年後も変化していないでしょう。

 

物理的な物体に対する資本コストが、テクノロジーの展開速度に対する根本的な限界を定めます。そして、これは私たちの日常生活のみならず、企業、国家や軍事の分野でも同様に適用されます。

MIT人工知能研究所の元所長であるロドニー・ブルックス氏は、戦略爆撃機や核ミサイル発射装置といった国家の存続に関わる兵器でさえ、旧式のテクノロジーを使用していると指摘しています。

アメリカ空軍は、未だにB-52の派生型であるB-52H型爆撃機を飛行させている。このバージョンは1961年に導入され、既に56年間運用されている。最新版は1963年に生産され、機齢はたったの54歳である。現在のところ、これらの爆撃機は2040年、あるいはもっと先までの運用が予定されており、100歳に達するのではないかと言われている 。

地上発射型の大陸間弾道ミサイル (ICBM) はミニットマンIIIの派生型を利用しており、1970年に導入された。現在450基が存在する。発射システムは8インチフロッピードライブに頼っており、発射手順のデジタル通信はアナログの有線電話回線を使用するものも存在している。

[FoR&AI] The Seven Deadly Sins of Predicting the Future of AI 

 シンギュラリティの提唱者たちが信じている世界の中では、既に世間はデジタル化・ソフトウェア化されており、あとは超知能を持った人工知能が作られさえすれば、ソフトウェアアップデートのみでAIをデプロイすることができ、そのAIが社会の指数関数的な変化をもたらすと考えられているようです。

もちろん、それは誤りです。ブルックス氏も取り上げている自動運転車の歴史が好例でしょう。多くの人は、ここ数年でいきなり自動運転技術が進歩したかのような印象を受けているかもしれません。けれども、実際のところ、自動運転技術の研究には半世紀近い歴史があります。1980年代には欧州でEUREKAプロメテウス計画として自動運転の研究が開始されており、1987年には自動で時速90kmで高速道路を20kmに渡り走行するデモが行なわれています。1995年には、アメリカ、カーネギーメロン大学の研究チームが、ピッツバーグからサンディエゴまでの3000kmを、人間の運転なしで走破し北アメリカ大陸横断を実現しています。GoogleとWaymoは8年間に渡って大規模な自動運転車の社会実験を行なっていますが、未だ社会経済的に意味のある規模での自動運転は普及していません。完全な自動運転の実用化と普及、在来型自動車の置き換えまでには、まだ数十年を要するという予測は、何ら悲観的な予測ではありません。

 

すなわち、どんな超テクノロジーが存在しようと、あるいはどのような超知能であろうとも、社会には固有の慣性が存在するため、物理世界への働きかけには時間とエネルギーを要し、現に存在する資本の更新は政治・経済・社会的な要因によって制限を受けます。その進歩の速度は爆発的で不連続なものではなく、連続的で比較的低速の、現在の進歩の速度とさほど変わらないものになるでしょう。

ゆえに、知能爆発説のシンギュラリティ論の根本的な仮定、超知能の出現により不連続な爆発的な進歩が起こるという仮定は、完全な誤りです。