シンギュラリティ教徒への論駁の書

"Unending exponential growth? What drugs are those people on?" - Linus Torvalds

指数関数的に成長する無知

指数関数的な成長の議論において、カーツワイル氏 (あるいはシンギュラタリアン) は、非常に重要なポイントを見落としています。知識が指数関数的に増加するにつれて、無知も指数関数的に成長していく場合があるということです。

カーツワイル氏は、ゲノムのシーケンシング (遺伝子情報の塩基配列の読み取り) が、期間、コスト効率の両方の観点において指数関数的に成長していることを例に挙げています*1

たとえば、「ヒトの遺伝子の塩基配列をすべて解析する」というヒトゲノム計画。このプロジェクトは、1%の解析が終わるまでに7年を要しました。多くの科学者や批評家たちは、「1%の解析に7年かかったのだから、すべてを解析するにはその100倍、700年かかる」と予測した。線形思考ですね。

しかし、私は、「1%終わったのなら、もうほとんど終わりに近づいている」と考えました。この分野の研究は、毎年倍々で結果が伸びていくから、次の年には2%、その次の年には4%、その次の年には8%……つまりあと7年で解析は終わりだ、と。実際そのようになりました。

AIが人類を超える意味——カーツワイルの予言 - Yahoo!ニュース

 

けれども、ゲノムのシーケンシングの速度やコスト効率が指数関数的に成長したのは、ただ問題が線形的な性質を持っていたからです。

f:id:liaoyuan:20170611231112p:plain

図: 複雑な問題と線形な問題。複雑な問題では新要素の発見が多数の相互作用を生み、新たな問題を複数生じさせる。

 

線形的な性質の問題とは、問題の構成要素が均一であり、要素間の相互作用がないため、ある場所で開発した手法が別の場所でもそのまま使用できるという性質です。ゲノムのシーケンシングは、典型的な線形的な性質を持つ問題です。つまり、ゲノムの塩基配列はATCGの4種類しかなく、ある場所の塩基配列を読み取る上で別の塩基から受ける影響を考慮する必要はありません。そのため、ゲノムのシーケンシングが進み新しい手法が開発されていくにつれて、解読までの期間とコストは累積的に減少していきました。

一方で、他の問題、たとえば脳神経科学自然言語処理、老化や死への理解、あるいは宇宙開発や核融合炉の建設は、研究と技術開発が遅々として進んでいないことを考えると、問題自体が非線形的で指数関数的な複雑な性質を持っているのではないかと考えています。

複雑な性質の問題とは、逆に、問題の構成要素が異なっており、個々の構成要素が多数相互作用しており、問題の規模が変わるごとに研究手法を根本的に変化させなければならず、研究を進めれば進めるほどより困難な課題が発生し、新たな発見が得られるとしばしばそれ以前の知識を書き換えなければならない問題です。

この種の問題の典型例は、人間社会が挙げられます。各々の人間は異なっており、複雑な相互作用を行なっています。また、一人の人間の調査からはヒトという生物種の生理、生態や言語などを理解できるかもしれませんが、人間社会はそれだけでは理解できません。法律、経済、権力関係などの社会を構成する要素を理解する必要があり、それにはヒト単体を扱う医学、生態学言語学などとは別の研究手法が求められます。

複雑な性質の問題では、1つの要素における発見や理解が別の場所で複数の課題を産み出します。さらには、マクロ的な構造をミクロのレベルから基礎付けるために、また別の研究も必要となります。それゆえ、研究が進めば進むほど (短中期的には) まだ理解できない、未知の要素も指数関数的に増えていくことになるため、見かけ上研究の進捗はオフセットされ、停滞して見えることになります。

ゲノムの解読は一つの大きな科学的課題であり、その解決は大きな科学的進歩であることに疑いはありません。けれども、個々のゲノムが生体内でどのように機能して、身体や臓器や脳が発生し、タンパク質を構成し、どのようにして病気や老化や死を引き起こすかはまだ理解が進んでいないように見えます。それらを理解するためには、また別の課題を研究し解決する必要があります。

そして、脳や言語、死や老化の問題、あるいは核融合炉の建設は、指数関数的に複雑な性質を持った問題だと考えています。

 

f:id:liaoyuan:20170611233941p:plain

(wikimedia commonsより)

 

たとえば、19世紀以来、脳の研究は精力的に進められていますが、未だアルツハイマー病やパーキンソン病など、よく知られた器質性脳疾患の完全な治療薬も存在しませんし、加齢に伴う記憶力や認知能力の低下に対する治療法や根本原因はおろか、効果的な対症療法すらよく分かっていないというのが現状です。統合失調症のように、脳に何ら器質的な病変を生じないにもかかわらず、劇的な症状を見せる精神疾患も存在します。人間の認知や身体の行動制御などの研究も、まだ緒に就いたばかりです。もちろん、基礎研究分野では画期的な発見も続いており、脳研究自体が停滞しているわけではありません。けれども、画期的な発見は未だ基礎研究の範囲に留まっており、新薬開発や脳型コンピューターの開発など、実用的な応用研究にまでは至っていないように見えます。

また、後で述べる通り、人間の寿命の伸びはカーツワイル氏の予想する通りの指数関数的な伸びを見せていません。国際的な核融合炉の実験プロジェクトであるITERは、最低でも6000億円以上のコスト超過と5年以上のスケジュール遅延が発生しており、やはり指数関数的な進捗は全く見られません*2
私はシステムエンジニアとして情報システムの設計や構築業務に携わっていますが、情報システムは多数の要素の組み合わせであり、機器やプログラムの同士の相互作用によって予期しない不具合が発生し、プロジェクトの進捗が遅れることも珍しくありません。

そもそも、脳や老化や死については、人間はまだ「何が分かっていないのかが分かっておらず、ゴールがどこにあるのか分からない」状態にあります。ゲノムのシーケンシングのように、「解決しなければならない問題が全体で何個あり、そのうちのいくつが解決されている」と言える状態ではありません。カーツワイル氏は、「1%終わったのなら、もうほとんど終わりに近づいている。」と主張していますが、そのように進捗状況を定量的に判定できる問題はごく少数です。

そのため、ゲノムのシーケンシングの指数関数的な進捗を、他の科学研究プロジェクトに対して適用することは不可能です。

 

序文で述べた通り、私は人間よりも優れた人工知能の開発は不可能ではないと考えていますし、今後数10年の間に開発されうると考えています。また、その人工知能が (爆発的にではないにせよ) 科学を進歩させることも確実でしょう。けれども、本質的に指数関数的な複雑性を持つ問題、たとえば人間の脳、老化や死については、たとえどれほど優れた人工知能が存在したとしても、近い将来には決して解決されないだろうと考えています。

*1:ポスト・ヒューマン誕生 P.88 にも同趣旨の記述あり

*2:追加負担は500億円規模 ITER、計画遅延で | US Frontline News