シンギュラリティ教徒への論駁の書

"Enjoying science fiction is not the same thing as doing science or making science policy." - Dale Carrico

思考主義批判:知能は問題解決のごく小さな部分に過ぎない

シンギュラリティ論、特に知能爆発説のシンギュラリティ仮説においては、ひとたび人間を超える人工知能が作られると、その人工知能は自身の知能を再帰的に指数関数的に成長させることができると主張されています。

更には、その超人的人工知能は、自身の知能を指数関数的に成長させるのみならず、科学やテクノロジーの未解決問題、果ては貧困や紛争といった社会問題までもを、短期間のうちに解決することができると信じられているようです。

けれども、この信念、すなわち「進歩の障害となるものは思考力の量、あるいは知能の高さのみである」という考え方は、論理的には完全な誤りであり、ケヴィン・ケリー氏はこれに「思考主義(Thinkism)」という名前を付けています。実際のところ、科学やテクノロジーの進歩においては思考以外の要素が必要となるからです。

少し長くなりますが、ケヴィン・ケリー氏の言葉を引用します。

ガンを治す、あるいは寿命を延ばすことを考えてみよう。これは思考だけで解決できる問題ではない。どれだけ思考主義が頑張っても、どのように細胞が老化するのか、どのようにテロメアが脱落するのかわからない。どの知能でも、たとえどんなにすごい知能であっても、世界中の既知の科学文献をすべて読んで熟考するだけで、人体がどのように機能しているかを解明することはできない。どんな超越した人工知能でも、過去と現在の核分裂実験について思考するだけでは、すぐに核融合を実用化することはできない。

物事の仕組みがわからないところから始めて、仕組みがわかるまでには、思考主義では越えられないほどの差がある。実用に耐える正しい仮説を構築するためには、現実世界での大量の実験と、さらにその実験から得られる山ほどのデータが必要である。予測したデータについて考えても、正しいデータは生まれてこない。思考は科学の一部分、もしかしたら、ごく小さい部分であるにすぎない。私たちは死の問題の解決に近づくことができるほどの正確なデータを十分には持っていない。しかも生物の場合には、このような実験はたいていカレンダー単位の時間がかかる。結果が出るまでに何年か、何ヶ月か、あるいは少なくとも何日か必要になる。思考主義は超越した人工知能にとって瞬時のことかもしれないが、実験結果は瞬時には得られない。


最も優秀な物理学者が今の千倍賢くなったとしても、コライダー(衝突型加速器)がなければ何も新しい発見はできない。たしかに、原子の計算機シミュレーションは可能である(いつかは細胞も)。しかし、そのシミュレーションのいろいろな要素を速くすることはできても、モデルの実験や調査や検証は、その対象物の変化速度に合わせて、やはりカレンダー単位の時間がかかる。

有用であるためには、人工知能は実世界に構築されなければならない。そして、たいていの場合、人工知能による進歩の速度はその世界によって決まる。思考主義だけでは十分ではない。実験を実施し、プロトタイプを構築し、失敗を重ねて、現実に立脚していなければ、知能が思考しても結果を得ることはありえない。知能は実世界の問題を解決するための方法を考えることができない。人間よりも賢い人工知能が現れたその時間に、その日に、その年に、ただちに発見があるわけではない。うまくいけば、発見の速度は著しく速くなるだろう。もっとうまくいけば、超越した人工知能は、人間には思いつかない疑問を発するだろう。しかし、一例を挙げれば、不死を得るという困難な成果を得るまでに、人間に限らず、生物についての実験にはいくつもの世代を要する。

「思考主義」: 七左衛門のメモ帳

 

また、私が以前に翻訳して取り上げたフランソワ・ショレ氏は、非常にIQの高い人が専門分野で高い業績を挙げられるという根拠はなく、また、IQと社会的成功の間の相関はIQが一定値を超えると成立しなくなることを指摘しています。また、ファインマンやジェイムズ・ワトソンといった科学史に名を残す研究者のIQは120〜130程度である一方、今日生きているIQ170以上の人々はさして突出した問題解決者ではないことを述べています。

 

ここから示唆される事実は、思考力は問題解決における一つの要素でしかなく、おそらくごく小さな部分を占めるに過ぎないということです。科学の進歩、あるいは機能するテクノロジーの構築には、実験と観測と測定を通した仮説の立案、そして仮説検証のために更に洗練された実験を必要とします。そして、実験には対象の反応速度や規模に合わせた時間やエネルギーを要し、どれほど高速で深い思考力があったとしても、必ずしも進歩は高速化できません。


序文から何度か書いている通り、私は汎用人工知能の実現は決して不可能ではないと思っていますし、おそらく人間を超える人工知能も (いつかは) 実現できるでしょう。そして、仮に汎用人工知能ができれば、科学の進歩が高速化されることに疑いはありません。知能の無いコンピュータによるシミュレーションでさえ科学の進歩を加速させているのですから。

シミュレーションによる加速

確かに、私たちはコンピュータで原子核反応や分子や細胞のシミュレーションを行うことができ、またシミュレーション自体も計算力の向上によって高速化することが可能です。とあるシンギュラリタリアンは、スーパーコンピュータを用いた仮説の立案と検証により、科学技術研究を高速で進歩させることができると主張しています。けれども、次に挙げる2つの要因によって、現実の問題解決に対するシミュレーションの有用性は本質的に制限されています。

以前に、精神転送と「脳のシミュレーション」について検討した記事の中で、私は「モデルを用いたシミュレーション」と「決定論的シミュレーション」、すなわち「基礎方程式を数値計算するシミュレーション」ないし「現象をそのまま再現するシミュレーション」を分類して取り上げました。

1点目の「モデルを用いたシミュレーション」は、現実を捨象したモデルを使用します。このシミュレーションは高速に実行することができ、パラメータを変化させることで最も有望な方向を発見し、現実世界での試行錯誤の回数を減らすことができるため、進歩の速度を高速化できます。けれども、モデルそのものを構築するためには、現実世界を観察しモデルを検証することが必要であり、この検証作業はやはり現実世界の時間によって制限されます。更には、単純化されたモデルによる検証は、何らかの影響を見落としてしまう可能性があります。一例を挙げれば、新薬の副作用や遺伝子改変の長期的影響は、コンピュータシミュレーションのみでは確認できず、必ず臨床実験を通して検証する必要があります。(この検証もやはり時間を要します)

それでは、シミュレーションを詳細化することで、「現象をそのまま再現するシミュレーション」を構築すれば良いのではないか、という疑問があるかもしれません。
けれども、モデルとシミュレーションを詳細化し強化するにつれて、シミュレーションは現実と同じ程度の速度でしか動作しなくなってしまいます。100%完全なシミュレーションは、現実の世界よりも高速で動作することはありません。(これが「現実」の定義の一つです) もしも仮に、細胞内の分子と人体の細胞全てをシミュレーションすることができたとしても、このシミュレーションは現実の人体程度の速度しか持ちません。

つまり、現実であろうとシミュレーションであろうと、その実験と検証には長い時間を必要とします。そもそもそれ以前の話として、たとえば人体の細胞内の分子と全ての細胞をシミュレーションできるほどに生物のメカニズムは理解されていないのですから。


つまりは、問題解決には知能の高さのみならず現実の世界における実験、検証を必要とし、それには時間とエネルギーを要します。すなわち、どれほど強力な思考力があったとしても、それだけで直ちに高速の、指数関数的な進歩が約束されるわけではなく、「思考主義」の基本的な前提は根本的に誤りです。

参考文献

以下はどちらもwired誌の創刊編集者、ケヴィン・ケリー氏によるエッセイです

ケヴィン・ケリー著作選集 1

ケヴィン・ケリー著作選集 1

〈インターネット〉の次に来るもの 未来を決める12の法則

〈インターネット〉の次に来るもの 未来を決める12の法則