シンギュラリティ教徒への論駁の書

"Unending exponential growth? What drugs are those people on?" - Linus Torvalds

「原理的には」人工知能は不可能ではない

近年の「シンギュラリティ」に関する議論では、この言葉が「人間の能力を超えた (汎用) 人工知能が作られるタイミング」を指すという誤解があるようです。けれども、これまで述べてきた通り、「シンギュラリティ」の元々の使用法から言えば、この言葉が意味するところは「人類史において断絶的な進歩が発生する点」を指していますので、私もその意味で使用しています。

さて、人工知能の可能性と限界に関して検討していると、「人間という実例が存在する以上、人工知能が不可能であるという根拠は無い」という反論を受けることがあります。
私自身の立場としては、人間と同等の知的能力を持つ人工物が「原理的には」可能であることを否定しません。人間の脳は有限の大きさの物体であり、物理法則に従って動作しています。機械論の立場から、人間と同等の機能を持つ人工物の構成は「原理的には」不可能であるとは断言できません。個人的には、人工知能の実現は相当に「困難」だろうという感覚を持っていますが、けれども、たとえば熱力学の法則から永久機関が不可能である、というような意味で人工知能の不可能性が示されているわけではありません。

けれども、ここで私が検討しているのは、原理的な可能性ではなく、実際に実現されるまでの時間の見通しが妥当であるかどうかです。

カーツワイル氏は、2029年までに1人の人間と同レベルの人工知能が実現されると予測しています。この予測の根拠は、人間の脳の「機能」に関する大雑把な推算と、拡張ムーアの法則に基いた1000ドル当たりの計算速度の向上の傾向を外挿したものです。ムーアの法則が既に2000年代に破綻していることは以前述べた通りですが、この議論には更に巨大な問題が含まれています。実際のところ、知能は計算力ではなく、また計算力は知能ではないため、計算力向上と汎用人工知能の実現の間に直接的な因果関係は存在しないからです。

汎用人工知能の研究分野においては、研究者の間で合意された「知能」の理論は存在せず、一切の概念実証もなく、どのようにすれば人工知能が実現できるかが明確には分かっていません。人工知能の実現は、「方法は分かっているが実現するための計算力が足りない」という状況ではありません。そもそも、汎用的な人工知能の実現方法自体があまり分かっていない、という状況にあります。

現実に、汎用的な人工知能が実際に構築できるようになるまでにどれだけの時間が必要であるのかは全く不明です。MIT人工知能研究所の元所長であるロドニー・ブルックス氏のように、今後100年以上は汎用人工知能の実現は不可能であると考えている人工知能の専門家も存在しています*1。けれども、確実に言えることは、人間の脳の機能あるいは人間の脳のニューロンシナプスの数と拡張ムーアの法則から汎用人工知能の実現時期を見積もるカーツワイル氏の推定は、全く根拠も妥当性も無いということです*2

 

さて、汎用人工知能の実現時期については確実な予測は不可能ですが、仮に汎用人工知能が実現されたとして、それが「シンギュラリティ」と呼べる断絶的な高速の進歩をもたらすかどうかは更に検討する必要があります。すなわち、人工知能が更に「知能」の高い超人工知能を拡大再生産できるのか、そして、高い知能を持った人工知能が科学技術を高速で進歩させられるかどうか、という2点です。

この2つの論点に関しては、次の章で扱います。

*1:[FoR&AI] The Seven Deadly Sins of Predicting the Future of AI – Rodney Brooks

*2:非常に細かいですが、私は「2030年までにヒトレベル人工知能の実現は不可能である」と主張しているわけではなく、「2030年までにヒトレベル人工知能の実現が可能であるという見通しには根拠が無い」と述べていることに注意してください