シンギュラリティ教徒への論駁の書

"Unending exponential growth? What drugs are those people on?" - Linus Torvalds

シンギュラリティ3つの学派

前回のエントリでは、カーツワイル氏によって「シンギュラリティ」という言葉の使い方が、ヴィンジ氏以前のシンギュラリティ論者の意味と180度転換されてしまっているということを指摘しました。

「シンギュラリティ」という言葉は、様々な論者がいろいろな意味で使用しており、シンギュラリティの到来を信じるシンギュラリタリアンの内部ですら、議論の前提に食い違いが見られることがあります。ここで、言葉の意味の多様性を考える上で有用な分類があります。AI研究者でありシンギュラリタリアンであるエリエゼル・ユドコウスキー氏が、シンギュラリティの考え方の違いを大きく3つの学派に分類しています*1

すなわち、「事象の地平線派 (Event Horizon)」、「知能爆発派 (Intelligence Explosion)」そして「収穫加速派 (Accelarating Change)」です。私なりにこの3学派を分類してみると、以下のような階層構造で表現ができると考えています。

f:id:liaoyuan:20170528113652p:plain

断絶説

この図式の中では、ヴィンジ氏やそれ以前の元々のシンギュラリティ説は、「断絶説 (事象の地平線派)」に分類されます。すなわち、現状のテクノロジーの成長が継続されていき、ある「閾値」ないしは「臨界点」を超えると、その先は一切見通せなくなるという考え方です。

断絶説における「特異点」は、人間を超えた超知性体が人間によって作成される、ある一瞬のできごとです。超知性体のあり方は、コンピューター技術の発展によるAIや遺伝子工学による人間の知能増強などが想定されていますが、何らかの超知性体が発生した後には、人間社会や科学技術の発達は超知性体によって担われることになると主張されています。犬やチンパンジーが人間の社会的活動を理解できないのと同様に、人間は超知能体の活動を理解することができないため、シンギュラリティの先の世界は合理的に予測することができず、これまで人間が担ってきた歴史は超知性体とその産物によって進められることになると考えられています。

連続説

一方で、私の図式の中で「連続説」に分類される「知能爆発派」と「収穫加速派」は、シンギュラリティが不連続な「点」ではなく連続的なものであり、断続的に継続されるプロセスであると見なす立場です。

「知能爆発派」においては、鍵となるのは「自己改善可能な人工的な知性」が発生するタイミングです。ユドカウスキー氏は、例として自身のソースコードにアクセスしてその再帰的な改善が可能なAIを挙げています。このAIは、あくまで自己の改善が可能であれば良く、必ずしも人間には理解できない超知性体である必要はありません。本質的に重要な機能である「自己の改善」が可能でありさえすれば良く、原理的には人間よりも低い能力からスタートするものであっても問題はありません。

ユドカウスキー氏自身を含め、シンギュラリティ論に肯定的な多数の人工知能研究者、およびI.J.グッドやニック・ボストロムといった論者の立場が「知能爆発派」に分類できるでしょう。


最後に、カーツワイル氏の立場であり、また近年論じられているシンギュラリティ説が「収穫加速派」です。この立場の根本原理である前提は、「テクノロジーの発展は、更に他のテクノロジーと結び付いて発達を促すため、テクノロジーの発展が加速していく」という考え方です。

カーツワイル氏の「収穫加速派」は、テクノロジーの進歩が連続的であり予測可能なものであると見なしている点で、他の2派とはやや赴きを異にしています。テクノロジーの進歩は、典型的には指数関数的な曲線を取ると想定されており、この想定を元にカーツワイル氏は特異点後の世界を予測し、人類の進歩のポジティブなマイルストーンとして提示しています。

カーツワイル氏の予測では、2029年に1人の人間と等しい能力を持ったAIが作成される、2045年に人類全て(100億人)と同等の能力を持つ超AIが誕生するとされています。「2029年」や「2045年」といった数字だけが独り歩きし、これらの年に何らかの劇的な革命的な変化が起こるかのように宣伝されていますが、カーツワイル氏の主張はやや異なります。あくまで彼は、テクノロジーの指数関数的な加速が続いていき、その過程で新しく大きな変革が発生する頻度が向上していくことによって、人間と社会の変化がますます加速されていくと主張しています。

3学派の共通点

ここまで、「事象の地平線派」、「知能爆発派」と「収穫加速派」の3学派の差異を強調してきましたが、実際には、3つの説において共通する主張も多く、1人のシンギュラリタリアンでさえ複数の説に分類されうるということは述べておきたいと考えています。

たとえば、ヴィンジ氏は便宜上「事象の地平線派」に分類しましたが、一方で彼はテクノロジーの発展は指数関数的であると述べており、カーツワイル氏のシンギュラリティ論である「収穫加速派」にも大きな影響を与えています。また、連続的な発展を予測する「知能爆発派」や「収穫加速派」であっても、連続的な発展が「ある閾値」を超えることによって非連続な断絶を迎えると主張するものもあります。「収穫加速」の中での1つのプロセスとして、「知能爆発」が発生すると考える人も居ます。

けれども、3つ全てのシンギュラリティ説において、未来に対する見方は共通しています。すなわち、未来における変化は、過去や現在の変化よりも大きく、高頻度であり、現時点とは抜本的に異なる大きく発展した社会体制やライフスタイルが出現すると予想されています。

まとめ

もう一度、シンギュラリティ説の3学派の違いを表でまとめておきます。この3つの学派は、未来の発展が連続的であるか、未来が予測可能なものであるかについて、見解の相違が存在しています。

学派 進歩は連続的か? 未来は予測可能か?
事象の地平線 × ×
知能爆発 ×
収穫加速

近年のシンギュラリティに関する議論で大きく注目を集めているのは、カーツワイル氏による「収穫加速派」です。けれども、未来を予測可能であると捉えているという意味において、「収穫加速派」はシンギュラリティ説内部では傍流に属します。

おそらくカーツワイル氏の説が主流となった理由は、他2派が「未来は予想できず、未来において人間の果たす役割は無い」という身も蓋もない結論を提示しているのに対して、カーツワイル氏の説は、キャッチーな未来予想図を提示できるためメディア受けが良く、ビジネス上の投資を呼び込むのに有利であるという実利的な理由があると考えています。