シンギュラリティ教徒への論駁の書

シンギュラリティは宗教だ!

強いAI/弱いAI、汎用人工知能

人工知能 (Artificial Intelligence)」という言葉は、ドミニク・チェン氏が指摘している通り、人間に対して2種類の問いを投げかけるものです。すなわち、「知能」を人工的に再構築することができるのかという問いと、そもそも「知能」とは一体何であるのか、という問いです。

未だ人間は「人間の知能」とは何であるかを、厳密な意味において定義できていません。それゆえに、「人工知能」という言葉自体も、「知能」と「人工知能」の研究の進捗に従って、その意味は変化を続けています。


さて、人工知能に関わる言葉の中でも、大きな混乱と意味の変化と誤用(?)が生じている言葉があります。タイトルでも取り上げた、「強いAI/弱いAI (Strong AI/Weak AI)」と「汎用人工知能 (Artificial General Intelligence; AGI)」という単語です。これらの言葉は、サイエンスフィクションや一般向けの科学解説記事などでは、「人間に匹敵するすごいAI」くらいの意味で使われているように見えます。

強いAIというのは「本当の」AIで、フィクションでいえば HAL9000 とかスカイネットターミネーターとか ドラえもんとか鉄腕アトムとか、そういった存在です。*1

けれども、これらの言葉の元々の意味を調べていくと、現在一般的に使われている意味とはやや異なる意味を持っていたということが分かります。

 ジョン・サールと「中国語の部屋」論文

まず、「強いAI/弱いAI」という分類は、アメリカの哲学者ジョン・サールが1980年に発表した「Minds, Brains, and Programs(脳、心、プログラム)*2」という論文の中で提示した言葉です。一般的には、「中国語の部屋」という思考実験を提案した論文として知られています。

サールがこの論文の中で「強いAI/弱いAI」を定義している記述は、次の通りです。

I find it useful to distinguish what I will call "strong" AI from "weak" or "cautious" AI (Artificial Intelligence).

According to weak AI, the principal value of the computer in the study of the mind is that it gives us a very powerful tool. For example, it enables us to formulate and test hypotheses in a more rigorous and precise fashion.

But according to strong AI, the computer is not merely a tool in the study of the mind; rather, the appropriately programmed computer really is a mind, in the sense that computers given the right programs can be literally said to understand and have other cognitive states. In strong AI, because the programmed computer has cognitive states, the programs are not mere tools that enable us to test psychological explanations; rather, the programs are themselves the explanations.

(私訳) 私は、「強い」 AIと私が呼ぶものと「弱い」または「慎重な」AIを区別することは有用であると思う。
弱いAIによると、心の研究におけるコンピュータの主要な価値は、それが私たちにとって有用な道具であることなのだ。たとえば、コンピュータを使えば、より厳格で正確な形で仮説を定式化したり検証することができる。
けれども、強いAIによれば、コンピュータは心の研究における単なる道具などではない。むしろ、適切にプログラムされたコンピュータは、本当に心となるのだ。つまりは、適切なプログラムを与えられたコンピュータは、文字通り理解したり他の種類の認知的な状態を持つと言えるという意味において。強いAIにおいては、プログラムされたコンピュータは認知的状態を持つため、プログラムは心理学的な仮説の検証を可能にする単なる道具ではない。むしろ、プログラムそれ自体が仮説なのである。

ここでは、「強いAI/弱いAI」の区別は、「何かが可能なAI」や「何かの状態を持つAI」として定義されているのではなく、むしろAIを研究する人の主張ないし立場を指しているように読めます。つまり、弱いAIとは、心の研究において、コンピュータを道具として扱う立場ないし主張であり、強いAIとは、適切にプログラムされたコンピュータが「心 *3」を持つと考える立場ないし主張、仮説を指しています。

サールはAIに関する「強い主張(立場)」と「弱い主張」を区別し、「弱い主張」を取る研究者によって実現された成果の実用性と有用性を素直に賞賛しており、(弱い) AI技術の成功や今後の発展可能性については特に疑問を挟んでいません。

その上で、サールは論文では「強い主張」のみを検討すると明確に宣言しています。つまりは、現時点で実用化された科学技術の成果と、それよりも深遠な哲学的な主張、プログラムが「心」を持つかという問題を明確に区別していると読めます。

そしてこの後、有名な「中国語の部屋」の思考実験を取り上げ、「強いAI」の主張は成立しえないと論駁しています。つまり、認知主義的な、人間の精神を記号の論理的操作に還元する主張は誤りであり、いかなる手法を用いても、どれほど洗練されたプログラムを使用しても人間の「理解」に相当することは実現できない、と主張しています。

サールの議論の詳細を検討することはできませんが、私はこの主張は一定の説得力を持っているように感じました。

汎用人工知能 (Artificial General Intelligence)

「強いAI/弱いAI」の区別は、もともとは哲学分野で使われたものですが、汎用人工知能 (Artificial General Intelligence) の用語は、軍事と外交政策において、自律兵器がもたらす影響に関する議論から生まれたもののようで*4、比較的近年(1990年代)に提案されたものです。つまり、「汎用人工知能」という言葉は、哲学的・工学的に厳密に定義されたものではなく、むしろAIの社会的影響を論じる文脈で登場したものです。

実際のところ、多少調べた限りでは、AGIという言葉の明確な定義はあまり分かりませんでした。けれども、必ずしもAGIは「人間と同等」ということを意味するわけでも、「意識」、「心」を持つものを指すわけではないようです。また、「汎用性」はどれだけ多様な認知タスクに対応できるか、という指標として工学的に定義しうる指標です。言うなれば、「汎用性」は連続量であり、どこまでが特化型人工知能であり、どこからが汎用人工知能であるか、という線引きは難しいように思われます。

現在広く使われている意味においては、「汎用人工知能」とは、実用化、商用化が進んでいる人工知能技術 (機械学習) と区別し、人間レベルの「知能」の実現を目指す研究全般を指す言葉となっています。

実際問題として、意識や心は持たなくとも、それなりに広範なタスクに対応できる「汎用人工知能」の実現は近い将来において不可能ではないと想定され、またそれは社会的・経済的に大きなインパクトを持つだろうと考えられます。

まとめ

冒頭で述べた通り、人工知能の研究とは「知能」の再現を通して「知能」の定義自体にフィードバックをもたらすものです。そのため、「人工知能(AI)」という言葉が意味する対象は常に移り代わってきましたし、言葉の意味が変化してくことは自然な成り行きであるとも言えます。けれども、「人工知能」という言葉で表される「何か」を実現しようと検討し、その可能性と限界について議論する際には、言葉のもともとの定義に立ち返って考えることが必要となるように感じられます。

 

シンギュラリティ:人工知能から超知能へ

シンギュラリティ:人工知能から超知能へ