シンギュラリティ教徒への論駁の書

"Unending exponential growth? What drugs are those people on?" - Linus Torvalds

クラークの三法則に関する断章 (3) 「十分に発達して"いない"科学技術は、魔法と見分けがつかない」

今回は、クラークの三法則の最後の法則であり、おそらく最も広く知られているであろうこの法則を扱います。

『十分に発達した科学技術は、魔法と見分けがつかない。』
" Any sufficiently advanced technology is indistinguishable from magic."

この法則は、ロドニー・ブルックス氏が述べている通り、次のように言うべきでしょう。

『十分に発達して"いない"科学技術は、魔法と見分けがつかない。』

 ブルックス氏は「アイザック・ニュートンが、仮に17世紀から現代にタイムマシンで連れられてきたとして、iPhoneを見てその動作原理を理解できるだろうか」というたとえ話を挙げています。ニュートン電磁気学が確立する以前の時代の科学者であるため、彼ほどの天才であろうとも、充電の必要性などのiPhoneの制約については理解できなかっただろう、と言うのです。このたとえ話で述べられているのは、「未来に発明されるかもしれないテクノロジーを予想するとき、現時点でその限界を明確に示すことは非常に困難であるため、しばしばテクノロジーが『魔法』のように限界が無いものとして扱われてしまう」という問題です。『もしそれが魔法と見分けがつかないとすれば、誰が何と言おうと、もはや反証は不可能だ。』というわけです。

 

私自身も、ブルックス氏と同様に、未来技術とシンギュラリティに関する議論において、この問題に悩まされてきました。未来技術に関する議論の際には、シンギュラリティ”信者”は、常にこの種の魔術的な未来技術の可能性を持ち出すからです。

前回述べた通り、何かが不可能であると示すことには、多くの場合困難を伴います。まして、今存在しない技術、実用化できるかどうかすら定かではない未来技術について、その限界を示すことは原理的に不可能です。未来において発明されるかもしれないテクノロジーの限界は、現時点で存在しているテクノロジーからは理解できません。

そして、懐疑論者が未来技術の限界を説明できないこと、不可能性を示せないことをもって、シンギュラリティが発生する可能性があると主張する人間が存在します。私も「あなたは汎用人工知能の能力を理解していない」、「あなたは分子コンピュータやDNAコンピュータや○○コンピュータの可能性について検討していない」と言う「指摘」を受けることが頻繁にあります。けれども、たとえばこれらの技術が実現されるまでの見通しはどれくらいか、どんな特性と限界があるのか、これらの技術を用いてどう汎用人工知能を実現するのか関して、妥当な根拠が挙げられていることはありません。

 

結局のところ、これは「魔法に限界はない」という主張と大差はなく、反証不可能な信念の表明です。

もちろん、科学技術は魔法ではなく、現実に存在する技術には、必ず限界が存在します。現時点で限界が示せないことは、限界が存在しないことの証拠にはなりえません。更には、懐疑論者に対して未来技術の限界を示すように求めることは、挙証責任の完全な放棄であり、全く科学的な議論では無いと断じることができるでしょう。

 

関連項目

参考サイト

[FoR&AI] The Seven Deadly Sins of Predicting the Future of AI – Rodney Brooks

シンギュラリティは来ない、AIの未来予想でよくある7つの勘違い