強いAI/弱いAI、汎用人工知能

「人工知能 (Artificial Intelligence)」という言葉は、ドミニク・チェン氏が指摘している通り、人間に対して2種類の問いを投げかけるものです。すなわち、「知能」を人工的に再構築することができるのかという問いと、そもそも「知能」とは一体何であるのか、という問いです。

未だ人間は「人間の知能」とは何であるかを、厳密な意味において定義できていません。それゆえに、「人工知能」という言葉自体も、「知能」と「人工知能」の研究の進捗に従って、その意味は変化を続けています。

さて、人工知能に関わる言葉の中でも、大きな混乱と意味の変化と誤用(?)が生じている言葉があります。タイトルでも取り上げた、「強いAI/弱いAI (Strong AI/Weak AI)」と「汎用人工知能 (Artificial General Intelligence; AGI)」という単語です。これらの言葉は、サイエンスフィクションや一般向けの科学解説記事などでは、「人間に匹敵するすごいAI」くらいの意味で使われているように見えます。

強いAIというのは「本当の」AIで、フィクションでいえば HAL9000 とかスカイネットやターミネーターとか ドラえもんとか鉄腕アトムとか、そういった存在です。*1

けれども、これらの言葉の元々の意味を調べていくと、現在一般的に使われている意味とはやや異なる意味を持っていたということが分かります。

 ジョン・サールと「中国語の部屋」論文

まず、「強いAI/弱いAI」という分類は、アメリカの哲学者ジョン・サールが1980年に発表した「Minds, Brains, and Programs（脳、心、プログラム）*2」という論文の中で提示した言葉です。一般的には、「中国語の部屋」という思考実験を提案した論文として知られています。

サールがこの論文の中で「強いAI/弱いAI」を定義している記述は、次の通りです。

I find it useful to distinguish what I will call "strong" AI from "weak" or "cautious" AI (Artificial Intelligence).

According to weak AI, the principal value of the computer in the study of the mind is that it gives us a very powerful tool. For example, it enables us to formulate and test hypotheses in a more rigorous and precise fashion.

But according to strong AI, the computer is not merely a tool in the study of the mind; rather, the appropriately programmed computer really is a mind, in the sense that computers given the right programs can be literally said to understand and have other cognitive states. In strong AI, because the programmed computer has cognitive states, the programs are not mere tools that enable us to test psychological explanations; rather, the programs are themselves the explanations.

(私訳) 私は、「強い｣ AIと私が呼ぶものと「弱い」または「慎重な」AIを区別することは有用であると思う。
弱いAIによると、心の研究におけるコンピュータの主要な価値は、それが私たちにとって有用な道具であることなのだ。たとえば、コンピュータを使えば、より厳格で正確な形で仮説を定式化したり検証することができる。
けれども、強いAIによれば、コンピュータは心の研究における単なる道具などではない。むしろ、適切にプログラムされたコンピュータは、本当に心となるのだ。つまりは、適切なプログラムを与えられたコンピュータは、文字通り理解したり他の種類の認知的な状態を持つと言えるという意味において。強いAIにおいては、プログラムされたコンピュータは認知的状態を持つため、プログラムは心理学的な仮説の検証を可能にする単なる道具ではない。むしろ、プログラムそれ自体が仮説なのである。

ここでは、「強いAI/弱いAI」の区別は、「何かが可能なAI」や「何かの状態を持つAI」として定義されているのではなく、むしろAIを研究する人の主張ないし立場を指しているように読めます。つまり、弱いAIとは、心の研究において、コンピュータを道具として扱う立場ないし主張であり、強いAIとは、適切にプログラムされたコンピュータが「心 *3」を持つと考える立場ないし主張、仮説を指しています。

サールはAIに関する「強い主張(立場)」と「弱い主張」を区別し、「弱い主張」を取る研究者によって実現された成果の実用性と有用性を素直に賞賛しており、(弱い) AI技術の成功や今後の発展可能性については特に疑問を挟んでいません。

その上で、サールは論文では「強い主張」のみを検討すると明確に宣言しています。つまりは、現時点で実用化された科学技術の成果と、それよりも深遠な哲学的な主張、プログラムが「心」を持つかという問題を明確に区別していると読めます。

そしてこの後、有名な「中国語の部屋」の思考実験を取り上げ、「強いAI」の主張は成立しえないと論駁しています。つまり、認知主義的な、人間の精神を記号の論理的操作に還元する主張は誤りであり、いかなる手法を用いても、どれほど洗練されたプログラムを使用しても人間の「理解」に相当することは実現できない、と主張しています。

サールの議論の詳細を検討することはできませんが、私はこの主張は一定の説得力を持っているように感じました。

汎用人工知能 (Artificial General Intelligence)

「強いAI/弱いAI」の区別は、もともとは哲学分野で使われたものですが、汎用人工知能 (Artificial General Intelligence) の用語は、軍事と外交政策において、自律兵器がもたらす影響に関する議論から生まれたもののようで*4、比較的近年(1990年代)に提案されたものです。つまり、「汎用人工知能」という言葉は、哲学的・工学的に厳密に定義されたものではなく、むしろAIの社会的影響を論じる文脈で登場したものです。

実際のところ、多少調べた限りでは、AGIという言葉の明確な定義はあまり分かりませんでした。けれども、必ずしもAGIは「人間と同等」ということを意味するわけでも、「意識」、「心」を持つものを指すわけではないようです。また、「汎用性」はどれだけ多様な認知タスクに対応できるか、という指標として工学的に定義しうる指標です。言うなれば、「汎用性」は連続量であり、どこまでが特化型人工知能であり、どこからが汎用人工知能であるか、という線引きは難しいように思われます。

現在広く使われている意味においては、「汎用人工知能」とは、実用化、商用化が進んでいる人工知能技術 (機械学習) と区別し、人間レベルの「知能」の実現を目指す研究全般を指す言葉となっています。

実際問題として、意識や心は持たなくとも、それなりに広範なタスクに対応できる「汎用人工知能」の実現は近い将来において不可能ではないと想定され、またそれは社会的・経済的に大きなインパクトを持つだろうと考えられます。

まとめ

冒頭で述べた通り、人工知能の研究とは「知能」の再現を通して「知能」の定義自体にフィードバックをもたらすものです。そのため、「人工知能(AI)」という言葉が意味する対象は常に移り代わってきましたし、言葉の意味が変化してくことは自然な成り行きであるとも言えます。けれども、「人工知能」という言葉で表される「何か」を実現しようと検討し、その可能性と限界について議論する際には、言葉のもともとの定義に立ち返って考えることが必要となるように感じられます。

シンギュラリティ:人工知能から超知能へ

*1:人工知能は Deep Learning によって成されるのか？ - Sideswipe

*2:http://cogprints.org/7150/1/10.1.1.83.5248.pdf

*3:ここでの心は「心身問題」や「心脳問題」における「心」と同様の哲学的なテクニカルタームです

*4:Artificial general intelligence - Wikipedia

不可能、困難、未解決

これまでの私の議論では、「できない」「不可能である」または「難しい」という言葉を安易に使用してきましたが、改めてこれらの言葉が何を意味しているのかを明確に定義しておきたいと思います。

「できない」という言葉は、次の3つの意味に分類できます。すなわち、不可能、困難、未解決です。

まず、「不可能」であるとは、言葉の意味や論理、形式的手法、物理法則などの原理から絶対に「できない」ということが示されているものです。たとえば、「円である三角形」や「独身の既婚者」の存在が不可能であることは、円や三角形の性質や現実世界の既婚者を調べなくても (「円」、「三角形」や「既婚者」という単語の意味さえ定義されていれば) 分かります。あるいは、永久機関が不可能であることは熱力学の法則から明言することができます。

次に、「困難」であるとは、原理的には否定されていないものの、コスト、資源、規模、工数などの観点から、実現する上での課題が存在するために「できない」ことを意味しています。具体例としては、超音速飛行機のコンコルドのように一度は実現された後で廃止されたものから、核融合炉の建設や地球外惑星の植民のように、未だ実現の目処すら立っていないものまで、幅広い範囲の問題が存在しています。

最後に、「未解決」であるとは、証明も反証もされていない問題、存在しないことが明確に示せない問題 (いわゆる悪魔の証明)、原理的にも実際的にもできないとは言い切れないものの、未だ実現されていない問題です。この種の問題の具体例としては、地球外生命体の存在証明や汎用人工知能の作成などが挙げられます。

ここで、現在私が論じている問題との関連について述べておきます。

私は「マインドアップロード」は「不可能」であると考えています。正確に言えば、マインドアップロードの成功判定については、原理的に「不可能」であり、脳神経科学の知見獲得と脳を再現するハードウェアの実現については、相当に高いレベルで「困難」であると捉えています。

また、現状の「機械学習」技術を延長して「汎用人工知能」が実現できるか、という問題については、私は「困難」寄りの「未解決」であると考えています。理由は後で述べますが、人間と同水準の「知能」や「言語の意味理解」ができるアルゴリズムを設計的・構成的に作る方法が全く存在しないからです。

そして、何らかのアルゴリズムと人間の脳の構成を組み合わせたアプローチによる「汎用人工知能」の実現については、現在のところ「未解決」の問題であると言えるでしょう。

小鳥遊りょうさんへの返信 -「20世紀全体」と「2000年〜2014年」で等しい量

以下の私の記事に対して意見がありましたので、返信します。

この記事の中で私が検討したカーツワイル氏の主張は次の通りです。

わたしのモデルを見れば、パラダイム・シフトが起こる率が10年ごとに2倍になっていることがわかる。(中略) 20世紀の100年に達成されたことは、西暦2000年の進歩率に換算すると20年で達成されたことに相当する。この先、この西暦2000年の進歩率による20年分の進歩をたったの14年でなしとげ(2014年までに)、その次の20年分の進歩をほんの7年でやってのけることになる。別の言い方をすれば、21世紀では、100年分のテクノロジーの進歩を経験するのではなく、およそ2万年分の進歩をとげるのだ(これも今日の進歩率で計算する)。もしくは、20世紀で達成された分の1000倍の発展をとげるとも言える。

ここで、「わたしのモデル」と呼ばれているものは「収穫加速の法則」を指しています。カーツワイル氏が原著を発表した時点の2005年では、まだこの主張は未来の予測でしかありませんでした。けれども、発表後12年経過した2017年現在においては、既にこの主張は過去のものです。それゆえ、実証的な根拠にもとづいて、定量的に「収穫加速の法則」の成否に関する議論が可能であるはずだと考えています。

私は、人類のパラダイム・シフトの総量を間接的に推定できる量からは、この主張の成立は確認できないと述べました。

なお、私の立場を明確に述べておきます。私は、科学技術の進歩に対して反対するラッダイトではありませんし、現在でも科学技術は進んでいると考えています。ただし、その速度はカーツワイル氏やシンギュラリタリアンが主張するような指数関数的な速度ではない、と考えています。

精神転送(マインドアップローディング)は不可能である (縮約版)

精神転送に関して、私の主張を要約します。個々の主張の根拠や詳細な議論は、個別エントリを参照してください。

関連記事

• 精神転送は不可能である「はじめに」

• エミュレーション、シミュレーション、モデリング

• 脳の複雑さ：カーツワイル対PZマイヤーズ論争

• コネクトーム：脳の中をのぞきこむ？

• 生物の情報処理の原理は分子の相互作用である

• 脳の階層性：カーツワイル氏は創造論者か

• あなたの正気を保証するもの

• 精神転送の改善的手法あるいはテセウスの船

• シリコン製の天国と来世

シリコン製の天国と来世

ここまで、精神転送の実現可能性について計算機科学と脳神経科学の観点から検討してきました。

再度、私の結論を繰り返すと「原理的には精神転送は不可能ではないにせよ、カーツワイル氏やシンギュラリタリアンの議論においては、その実現の困難さが相当に低く見積もられており、今生きている私たちの寿命のタイムスパンで実現される可能性は相当に低い」と考えています。

実際のところ、精神転送は現在の計算神経科学においてメインストリームの研究テーマではありませんし、多くの人も「数十年以内に脳をコンピュータにアップロードできるようになる」という主張は、ありえないレベルで馬鹿馬鹿しい主張だと一笑に付すでしょう。

けれども、ここで私が精神転送を強く批判したのには理由があります。精神転送は、宗教の持つ力が弱まった現代において、来世と永遠の生命のイメージを強く喚起するものであるからです。

精神転送の改善的手法あるいはテセウスの船

通常、新しく開発される技術は、最初から完全であることは稀です。おそらく、精神転送についても同じことが言えるでしょう。通常の技術であればプロトタイプ的な手法から、完成形へ向かってだんだんと改善していく方法が取られますが、精神転送という特殊な技術を考えると、他の技術では存在しない特有の問題が発生します。

精神転送は動物実験も改善もできない

新薬開発や通常の医療処置であれば、動物実験や臨床試験を通して改善することができます。けれども、精神転送の動物実験はあまり意味のあることではありません。動物がいかなる内的意識体験を持っているのか不明ですし、動物は自分の意識体験を言葉で説明することが不可能であるからです。

結局のところ、精神転送の実験は最初から人間を対象として実施する必要がありますが、その場合には倫理的な問題が生じます。おそらく、最初に脳をコピーし再現する手段が開発されるとき、その手法が破壊的方法であること、つまり、人間の脳に対して何らかの恒久的なダメージを与える手法である可能性は非常に高いということです。端的に言えば、対象者は複製される前に死にます。

対象者に対する倫理的な問題は、死刑囚を使うなり、死期の迫った病人からの献体として扱えば、解決できるかもしれません。けれども、最初から完全な人間の脳の複製ができると想定することはできません。最初の手法では、不完全なコピーしかできない可能性、たとえば、過去の記憶が再現できなかったり、新しい記憶を学ぶことができない精神体が発生するかもしれませんし、転送直後は正常であっても一定の時間が経過すると人格が崩壊するというような状況が発生する可能性もあります。そして、前回のエントリで述べた通り、どのような不具合が生じているかを対象者自身ですら意識できない可能性もあります。その場合、複製された(不完全な)精神をどのように扱うべきかという、更に巨大な倫理的問題が生じます。

この問題を防ぐためには、精神転送は漸次的な改善的手法を取るのではなく、最初から完璧な技術として完成されていなければなりません。けれども、精神転送という巨大で複雑な技術が、最初から完全な形で得られることは想像しにくいことです。

テセウスの船

ここまで、精神転送を「人間の脳機能と精神活動を、人工物の上で完全に再現する手法」として扱ってきました。このプロセスを一度に実行しようとすると、これまで述べてきた通りとてつもなく巨大な問題が発生します。

けれども、精神転送の提唱者は、別種の (仮説的な) 方法を用意しています。神経細胞と同等の活動ができるナノマシンを用いて、少しづつ人間の脳を入れ替えていき、最終的に完全な人工物で脳を置換するという方法です。ギリシャの伝説的なパラドックスにならい、「テセウスの船」型の精神転送と呼ぶことにします。

なるほど確かに、神経細胞は常に死滅しており、またシナプスは常時作り変えられ、神経細胞を構成する分子は新陳代謝により入れ替わっています。

けれども、生命進化における前提条件である新陳代謝と、人為的な変更を同列に扱うことはできません。人間の高次な精神活動、認知、記憶や判断の機能を強化したり代替したりする手法が遠い将来において開発される可能性は否定しませんが、前回のエントリで述べた通り、「人間は自分が異常であるか正常であるかを確実に判断できない」という制限は、テセウスの船型の手法を取るにせよ付きまといます。
この制限がある以上、仮にナノマシンが開発されたとしても、人間への適用は相当保守的にならざるを得ません。人間の寿命のタイムスパンで長期的な悪影響が発生しないことを確認しながら、何世代にも渡ってゆっくりと改善していくという方法が必要になります。

まとめ

ここまで、精神転送の実現可能性を詳細に検討してきました。そもそも、精神転送に必要となる計算機、脳を観察するためのナノテクノロジーの実現と脳神経科学の知見、その3つにおいて巨大なイノベーションがなければ前提条件を満たすことすら不可能です。カーツワイル氏の主張する指数関数的な成長がこの3分野で発生すると仮定してさえなお1, 2世紀の時間を要するでしょうし、常識的かつ妥当と思われる科学の進歩と技術開発の速度を前提とした場合、一体いつ人類が必要な技術と知識を手に入れられるのかは全く不明です。

そして、仮に技術的に可能になったとしても、成功判定に関する哲学的な問題が解決されない限りは、合法的な医療処置として精神転送を受けられる可能性はありません。

2017年現在において生きており、この文章を書き、読んでいる「私」や「あなた」が精神転送を受けることはありません。私はそう結論づけます。

あなたの正気を保証するもの

ここまで、精神転送について計算機科学と脳神経科学の両面からその実現可能性を検討してきました。私は、この2つの分野においてとてつもないイノベーションが発生しなければ、そもそも精神転送に必要な前提条件を満たすことさえ不可能であると考えています。何ら実証的な根拠を持たない「収穫加速の法則」による科学の進歩を前提としてさえ、必要な技術を人類が手に入れるまでにはなお数世紀以上の時間を要することでしょう。

けれども、これまでに挙げた問題はあくまで技術的・科学的な問題です。私は技術者であり、技術的・科学的な問題はいずれ解決しうるだろうと考えています。(タイムスパンの問題は存在しますが) 遠い将来において、人類は精神転送の実現のために必要な計算機と脳神経科学の知見を得ることができる、かもしれません。

さて、サイエンス・フィクションのギミックや心の哲学の思考実験として精神転送が取り上げられる場合、「仮に精神転送が可能になったらどういったことが起こるか」という検討がされることが多いようです。たとえば、精神転送は「転送」なのか「複製」なのかという問題があります。つまり、私の分身ができたとしても、なお現在の「私」はやはり変わらず存在しつづけるのではないか、という問題です。おそらく、この種の問題に関心のある人であれば、一度は聞いたことがあると思いますのでここでは取り上げません。

けれども、現実の人間を対象とする医療処置として精神転送を捉えようとすれば、「精神転送が可能になるまでにどういった問題が起こるか」という点を考慮する必要があります。

そこで、実際に人間を対象として精神転送を実行するという段階になったとき、ある巨大な認識論的な難問アポリアが立ちふさがります。それは、精神転送の成功・失敗をどのような操作的な手順 (実行可能な一連の手続き) によって判定するのかという問題です。