シンギュラリティ教徒への論駁の書

"Unending exponential growth? What drugs are those people on?" - Linus Torvalds

人工知能の「知能」とは何か。指数関数的に成長しているのか。

近年では、特にディープラーニングの発達によって人工知能 (機械学習) の技術が目覚しい速度で発展しています。そして、人工知能技術の進歩は指数関数的であり、このままのペースで進歩が続けば、人間を越える人工知能が近い将来にでも出現するはずだ、という主張を頻繁に耳にします。

 

けれども、少し立ち止まってよく考えてみてほしいのですが、人工知能研究において一体何の量が指数関数的に、つまり一定間隔のうちに倍々に増えているのでしょうか。

人工知能の研究ないし「知能」が指数関数的に増加しているという証拠は、全く何もありません。いかなる基準で人工知能研究の進捗を測定できるのか誰も定義できていませんし、まして、人工知能の「知能」をどのように測るのか、その方法はまったく不明であるからです。

コンピュータ分野において指数関数的増加を実証的に確認できるのは、ムーアの法則をはじめとする、人工知能を作成するためのリソース、インプットの量だけです。そのアウトプットであるある種のタスク、特定の機能に対する性能は、目覚しい改善を見せているものも存在します。けれども、汎用的・普遍的な「知能」の定量的な定義は存在せず、人工知能の能力が指数関数的に増えていることを示す実証的な証拠は存在しません

 

それどころか、人工知能の研究は線形にさえ進んでいないように見えます。過去の人工知能研究の歴史を見ると、何らかのアイデアによって目覚しい発展が見られる時期がある一方で、全く進歩が停滞し学術的にも産業的にもほとんど省みられない冬の時代が続いたこともあります。

近年注目されているディープラーニング (ニューラルネット) においても同様です。ニューラルネットの発明は1950年代にまで遡りますが、現在広く使われるようになるまでには、何度も失望され注目を失なってきた歴史がありました。フェイスブック社の人工知能研究所所長であるヤン・ルカン氏は、ニューラルネットは過去2度、誇大広告と期待過剰のために「死んだ」と述べています。近年のディープラーニングの隆盛も、ムーアの法則などの指数関数的な成長とは関連も因果関係もない、独立した事象です。もちろん、将来においてもまた別の独立した進歩の事象が発生しないということは考えにくいことですが、ロドニー・ブルックス氏が指摘している通り、独立した進歩の事象がいかなる頻度で発生するかを予測する法則はありません。

 

実際、カーツワイル氏自身でさえ、人工知能の進歩が指数関数的ではないということを認めています。

「計算力とアルゴリズム複雑性の両方において指数関数的な成長が起こっており、新たなレベルの階層を付け加えている…それゆえ、我々は新たなレベルが線形に増加していくと期待できる。というのは、新たな層を加えるためには、指数関数的な複雑性の増加が必要であるからだ。そして、我々はその能力において実際に指数関数的に進歩している。大脳新皮質の能力と比較すれば、我々はそう遠くない階層に位置している。だから、私の2029年という予測は、妥当性を失なっていないと考える。」

The Myth of a Superhuman AI | WIRED

 

実際のところ、ここでカーツワイル氏が挙げている指数関数的成長の実例は、計算力とソフトウェアの複雑性のみであり、人工知能研究は必ずしも指数関数的に成長していないことを認めています。そして、これは以前私が指摘したことと全く同じです。つまり、必要となる労力や資源が指数関数的に増加してしまうため、指数関数的な成長をオフセットしてしまい、人工知能の「知能」は線形(以下)にしか増えていないということです。これは、人工知能の知能爆発という想定とは全く相容れない主張です。

もちろん、将来において人工知能認知科学の分野で何かのブレイクスルーがあり、人工知能の「知能」を定義する方法が開発され、それが指数関数的に成長していく可能性はあります。けれども、これまでの過去において、人工知能の知能が指数関数的に増えているという根拠はないため、未来においても指数関数的な増加が始まると考える理由は無いように思います。