知能爆発派における超知能の出現について

シンギュラリティ論における重要な論点は、ひとたび汎用人工知能が作られると、何らかの形で「超知能」が発生し、それが科学技術や社会を高速で変化させることによって、予測不能かつ断絶的な進歩が起きるという仮定です。

前回のエントリでは、主にカーツワイル氏の説である「収穫加速派」における超知能について検討しました。

今回は、残りの「事象の地平線派」および「知能爆発派」における超知能の出現について扱います。この2つの派閥に分類されるシンギュラリティ論においては、だいたい以下のようなプロセスを通して「シンギュラリティ」が到来すると主張されています。

1. 超知能体の出現
   テクノロジーの進歩により、何らかの「人間よりも優れた超知能」を持つ存在が作り出される。
2. 超知能体による超々知能体の設計
   「人間よりも優れた超知能」を持つ存在は、「自身よりも更に優れた超々知能」を設計し、作り出すことができる。
3. 知能爆発と断絶的な進歩
   2.のプロセスが無限に繰り返され、超知能体が急速かつ自律的に成長することによって超越的な知能が出現し、現在の人間には理解不能で予測不可能な断絶的な進歩がもたらされる。

(実際のところ、「シンギュラリティ論」と聞いて多くの人が思い浮かべるのは、カーツワイル氏の説ではなくヴァーナー・ヴィンジ氏らが唱えたこちらのタイプではないでしょうか)

この一連の議論には、私にはあまり自明ではない仮定が含まれているように見えます。人間や人工知能が、自分自身よりも更に知能の高い人工知能を作り出すことが可能である、という仮定です。シンギュラリティに関する議論においては、この仮定は当然の前提として扱われていますが、実証的にも論理的にも、この仮定が成立するかどうかは検討する必要があります。

収穫加速派における超知能の出現について

シンギュラリティ論における重要な論点は、ひとたび汎用人工知能が作られると、何らかの形で「超知能」が作られ、それが科学技術や社会を高速で変化させることによって、予測不能かつ断絶的な進歩が発生する、という仮定です。

なお、この超知能に関する議論においては、以前に私が取り上げたユドコウスキー氏の分類における「事象の地平線派」および「知能爆発派」と、主にカーツワイル氏が唱える「収穫加速派」のそれぞれに対して別の議論が必要となります。

ここでは、まずカーツワイル氏の「収穫加速派」について扱います。

カーツワイル氏は「シンギュラリティ」を「生物学的な人間の脳の限界を、機械と統合された超越的な知能が超えていく点」とイメージしており、それは2045年に発生すると考えられています。

以前にも取り上げた通り、カーツワイル氏は、汎用人工知能の設計と実装について何ら具体的な方針を示していませんでした。ゆえに、2045年に出現するとされる「超知能」に関しても、それがどの程度のもので、いかなる性質を持つのかについても具体的な説明はありません。

「1年間に創出される知能は、今日の人間のすべての知能よりも約十億倍も強力 (パワフル) になる」という記述はありますが、実際のところ、この文章の意味は私にはよく理解できません。

カーツワイル氏が、人工知能に関する時期予測の前提としている仮定は、次の2つのものでした。

• 「拡張ムーアの法則」による計算能力のコスト効率の指数関数的な成長が、今後も継続されること
• 大脳新皮質のリアルタイムシミュレーションまたはエミュレーションに必要な計算力の見積り

この2つの仮定に基いて、カーツワイル氏は、2045年には1000ドルで購入できるコンピュータにより100億人の知能を再現できるようになる、と主張しています。つまり、ここで想定されているのは、知能の質的な拡大・向上ではなく、あくまで (人数的な意味での) 量的な拡大に過ぎません。

(拡張) ムーアの法則の成立や脳のエミュレーション・シミュレーションの実現可能性について、カーツワイル氏の根拠が薄弱であることは既に延々と述べてきた通りです。けれども、それらのことを棚に上げて、汎用人工知能が実現すると仮定したとしても、なお超越的な知能が出現するという主張の根拠は全く存在しないように見えます。ここで言われているのは、突き詰めれば知能の頭数が増えるということでしかないからです。

もちろん、量的変化が質的変化に転換する可能性は、完全に無いとは言い切れません。けれども、ネズミを何匹集めても群れ全体の知能は向上せず、ゴリラをいくら集めても人間の言語を理解できるようにならないのと同様に、人間のシミュレーションをいくら大量に高速で並列に動作させたとしても、人間を超える超知能が発生すると考える理由はありません。(カーツワイル氏は、亜光速での宇宙飛行などを可能にするような、全く新しい物理法則を発見できる、文字通りの意味で質の異なる「超知能」を想定しているのですから)

はっきりと言えば、カーツワイル氏の超知能に関する主張は、妄想、あるいは良く言ってもせいぜいが願望というべきものであり、全く科学的な考察に耐えないものであると言わざるを得ません。

ジェフ・ホーキンス氏のシンギュラリティ観

以前の記事で、私は2種類のシンギュラリティ、すなわち人間を超える超知能が作られる時と、超知能がテクノロジーを高速かつ断絶的に発展させる時を区別しました。

私は、第一のシンギュラリティは起きてもおかしくはない (ただし時期は分からない) けれども、本来の意味でのシンギュラリティというような事象が起きることは全くありえない、と考えています。

実際のところ、いわゆる汎用人工知能、人間と同等の人工知能の実現を目指し、研究開発に従事している人であっても、同様の見方をしている人は珍しくありません。

その中の一人が、ジェフ・ホーキンス氏です。ホーキンス氏はPDA (携帯情報端末) を開発したパーム社の共同創業者ですが、現在はGoogleに所属しているほか、自身で創業した人工知能企業であるヌメンタ社の代表を務め、人工知能に関する研究開発をしています。ホーキンス氏が開発したアルゴリズム「階層型時間メモリ (HTM)」は、汎用人工知能の研究に関して名前が挙がることも多いため、知っている人も多いかと思います。

さて、そのホーキンス氏は、2008年に科学雑誌IEEE Spectrumのシンギュラリティに関する特集の中で、以下のように発言しています。 

シンギュラリティを、『知能を持つ機械が知能を持つ機械を設計することで、極めて知能の高い機械が短時間の間に出現する時点、つまり、指数関数的な知能向上が起きる時』と定義するのならば、それは決して起こらないだろう。知能の大部分は、経験と訓練によって定義されるもので、脳の大きさやアルゴリズムによるものではない。またそれはソフトウェアを書くだけの問題でもない。知能を持つ機械は、人間と同じく、特定の領域での専門的なノウハウを訓練する必要がある。それには時間を要し、また機械に持たせようとする特定の知識に対して計画的な注目が必要となるだろう。

私は、テクノロジーに対して『シンギュラリティ(特異点)』という用語を使うことは好みではない。特異点とは、何かの値や指標が無限大となり、物理法則がもはや適用できない状態となることである。たとえば、ブラックホールの中心部における時空の曲率のように。私の知る限り、生物学やテクノロジーにおいては”特異点”は存在しない。たとえ、人間が新しいウィルス(生物学的なものであれ非生物的なものであれ)を創造し、地球上の生命全てを高速で死滅させたとしても、それはシンギュラリティではない。とても不幸な出来事であるけれども、それは特異点ではない。

『シンギュラリティ』という用語が人工知能に対して使われる時には、人工知能が自分自身よりも更に賢い人工知能を作ることができるようになり、人工知能の知能が指数関数的に成長することによって、知能が無限の (あるいは少なくとも極めて巨大な) 「特異点」に至ることを意味している。この考え方は、知能の本質に対する素朴な理解による信念に基いている。
アナロジーとして、自分自身よりも高速なコンピュータを設計できる (チップ、システムやソフトウェア) ようなコンピュータを想像してみよう。そのようなコンピュータが存在したら、無限に高速なコンピュータや、あるいは人間が作るいかなるコンピュータよりも高速なコンピュータが作られるだろうか。そんなことはない。そのようなコンピュータは、しばらくの間は改善の速度を加速させられるだろうが、結局のところ、コンピュータの大きさや速度には制限が存在する。我々も同じ場所に落ち着くだろう。多少は高速化できるかもしれないが、シンギュラリティは存在しない。

指数関数的な成長には、指数関数的な資源の消費 (物質、エネルギーや時間) を必要とする。そして、消費できる資源には常に限りがある。なぜ、人工知能に関しては限界が無いと考えるのだろうか? 我々は、人間よりも「知的な」機械を作るだろうし、それはすぐに起きるかもしれない。けれども、それはシンギュラリティではなく、知能の爆発的成長も存在しない。今日のコンピュータと同じように、未来の人工知能も多数の異なった問題に適用されるために、多様な形と種類を持つことになるだろう。

知的な機械は、感情的にも物理的にも、人間に似たものである必要はない。極めて知的な機械は、人間が持つような感情を備えている必要はない。我々がそれを意図しない限りは。ある日、人工知能が『目覚め』、『私の創造主を奴隷にしてやろう』と言うようなことは起こらない。同様の懸念は蒸気機関の発明の際にも表明されていたが、そんなことは起こらなかった。知的な機械の時代は始まったばかりである。過去のあらゆる技術的革命と同様に、多くの人が参加し、テクノロジーが改善されるにつれて加速していくだろう。それでも、シンギュラリティや、テクノロジー自体が我々から逃げ出していく時などというものは存在しないだろう。

Tech Luminaries Address Singularity - IEEE Spectrum

人間至上主義と進化論について

私がシンギュラリティに対して懐疑的な主張を唱えていると、反論者から「お前は人間至上主義者だ」という形のレッテル貼りめいた非難を受けることがしばしばありました。

この種の主張が何を意図しているのかよく理解できていませんでしたし、単なるレッテル貼りに対して回答する意味もないので無視していましたが、ここでは少しだけこの種の主張について検討してみます。

さて、シンギュラリティ論に対する反対者を「人間至上主義者」と呼ぶ人は、以下の2つのことを前提としているように見えます。

1. あらゆる観点において、人間より知能の高い超知能が存在することは可能である
2. それゆえ、必然的に人間を超えた超知能が出現する

1点目の仮定に関しては、私も同意します。確かに、あらゆる能力、あらゆる観点において人間よりも知能が勝り、人間の知的な行為全てを人間よりもうまく遂行する超知能的な存在を考えることは可能ですし、実際にそのような超知能が存在することを阻む理由はなさそうです。

けれども、2点目の仮定に関してはやや注意が必要でしょう。

超知能は、勝手にどこかから出現するようなものではなく、人間が作り出す必要があるものです。そして、人間を越えた知能の存在が原理的には可能であるからといって、人間がそれを作り出せるとは限りません。生命体や核融合など、自然界に実例があり、理論上は可能でありながらも (まだ) 人間が完全に工学的に作り出せていない現象は多数存在します。また、たびたび例に出している超音速飛行機や宇宙旅行のように、技術的に可能であり実際に実証されながらも、経済的・リソース的な意味で困難なため広く普及していない技術も存在しています。

実際のところ、私は「人間が一番優れているから」人間を越える人工知能は存在しないと考えているわけではありません。私の考えはもう少し悲観的なもので、「人間は、汎用的な知能を作り出せるほどには知能が高くないから」、人間を越える汎用人工知能は作れないのだろう、と考えています*1。

おそらくゴリラはハムスターよりも知能が高いですが、ハムスターよりも高いゴリラの知能ではハムスターレベルの知能を作り出すには十分ではありません。新しい汎用知能を作り出すためにはどれだけの知能の高さが必要なのかは不明であり、未解決の問題です。人間は人間よりも知能の高い存在を想像できるから、人間は超知能を作ることは可能だと信じられているようですが、現在までそれを証明する事実は存在しません。もしかすると、人間の知能は新しい知能を作り出すのに十分ではない可能性はあります。実際のところ、未だ超知能どころかハムスターレベルの汎用知能ですら実現されていないからです。

進化論的に言えば、私たちの知能は新しい知能を作ることを目的として発生したわけではありません。およそ100万年前のサバンナで、食料を発見し敵から逃れ、あるいは他の人と協力し敵対するために、進化を通して獲得されたものです。数学敵な能力や論理的思考力は、生物学的な時間からすれば極めてわずかな歴史しかなく、知能自体の解明や新しい知能を作る能力が人間に欠けているとしても何ら不思議ではありません。

実際には、人間が超知能を作り出す能力を持つと考えるほうが人間の知能を過大評価している可能性があると言えます。

もう1点、「非人間至上主義者」を自称する人は、生物の進化に対して誤った想定を持っているように見えます。生物進化を、梯子のような一直線の階梯のように捉えていることです。

この種の考え方では、生物の進化は一次元に進むもので、原始的な単細胞生物から人間に至るまでの直線の上にあらゆる生物が配置されるというモデルを想定しているように見えます。生命の進化は直線的に進むものであるため、現在は人間がトップに立っているものの、いずれは別の人工知能ないしは機械と融合したポストヒューマンが新たに先頭に立つのだ、と想定されているようです。

けれども、進化論の観点からはこの主張は完全な誤りであると言えます。収穫加速の法則やマインドアップローディングに関する記事でも度々取り上げていますが、生命の進化は進歩ではなく、ある環境内における生き残り (適応) のプロセスです。そこには一切の方向性もランク付けも存在しません。進化論的な観点から言えば、今日生存しているあらゆる生命は等しく「進化」しています。約30億年前、最初の生命が誕生した時から現在に至るまで、全ての生命は生殖の連鎖を途切れずに受け継ぎ、「進化」してきているからです。

生物種の自然進化をより適切に表す図は、以下のようなものです。この図は、テキサス大学のデイヴィッド・ヒルス教授によって考案されたもので、DNAの類縁性に基づいています。

この図の中心部が原始の生命であり、外側に向かうに従って現在に近付いていき、最外周部が現存している生物種を表しています。ここには、いかなる階層性もランク付けも存在しません。あらゆる生物は、約30億年の間に等しく進化しています。この観点に立てば、人間が進化の先頭であるという考え方、人間よりも更に「進化」したポストヒューマンが出現するという考え方には意味がありません。

動物の知能も、この図と同じように、一直線の大小関係に乗せられるようなものではなく、多次元的な位置を持っていると言えます。たとえば、ある種のリスは数百個のドングリを埋めた場所を一冬の間記憶しておくことができ、人間をはるかに超えています。また、(ロドニー・ブルックス氏が論文のタイトルにした通り) 象はチェスをしないものの、高い知能を持っています。犬は人間には感知できないレベルの臭いを嗅ぎ分け、記憶することができ、渡り鳥の一種であるキョクアジサシは北極から南極まで、何のガイドもなく移動できます。

けれども、これらの動物が人間を超えているとか優れているという言い方は意味をなさないでしょう。人工知能の「知能」も、ある意味ではこれと同じです。人工知能の知能が高い、低い、人間よりも優れているという比較は意味をなさず、端的に方向性が異なるものです。

実際のところ、人間は何ら特別ではありません。ただし、直線的な一次元的な意味ではなく、複線的・二次元的な意味において。

動物の賢さがわかるほど人間は賢いのか

*1:ただし、これは私の個人的な信念であり、実証的な根拠に基いたものではありません

知能は単一の尺度ではない

人工知能の「知能」に関する議論において最もよくある誤解は、人工知能の知能が「向上」ないし「拡大」し、「人間を越える」という考え方です。この種の誤解の裏にある前提は、「知能を測定する単一の尺度が存在する」という仮定であると言えます。

いや、人間の知能を測る知能指数 (IQ; Intelligence Quotient) が定義されているではないか、と思う人もいるかもしれません。けれども、そもそもIQの数値は知能の定義を回避した指数であると言えます。

人間の知能を測定する知能指数には、大きく2種類存在します。子供の知能の発達を、生活年齢 (実年齢) と精神年齢 (知的能力から換算される年齢) の比で表した従来のIQと、同一年齢集団内での偏差値に相当する偏差知能指数 (DIQ; Deviation IQ) です。これらの知能指数は年齢に対する発達の度合い、あるいは集団内における相対的な位置を測定するものであり、知能そのものを直接測定するものではありません。また、この2つはどちらも年齢や集団などが定義できない人工知能には、適用できない指数です。

また、IQテストをうまく処理できるコンピュータは、必ずしも普通の人がイメージするような意味で「知能が高い」とは言い難いことにも注意が必要です。たとえば、ある種のIQテストの項目には、数字の列を暗唱したり暗算をさせるテストがあります。人間の場合であれば、数字の暗唱や暗算は、多数の情報を一度に扱う能力や学習能力を測る目安となります。一方、数値の記憶や計算はコンピュータにとってはたやすいものですが、けれども、電卓に「知能がある」と思う人はいないでしょう。

人間の知能は、さまざまに異なる機能を果たすモジュールの寄せ集めであり、単一の尺度で測定できるような量ではありません。実際のところ、人間の知能は多次元量、つまり、それぞれ異なる多数の指標によって測定される量であると言えます。

知能を測定する単一の指標は存在しないため、「人間を越える人工知能」という言い方は意味のある表現ではありません。実際のところ、コンピュータはいくつかの点において既に人間を越えています。計算力においては、既に100年以上も前から人間はコンピュータに勝つことはできませんし、検索エンジンは人間よりもはるかに多数のウェブページや画像を「記憶」することができます。

これは、物理的な力についても同様のことが言えます。産業革命は200年以上前であり、あらゆる機械を合わせた集合は、人間の走る速度、物を持ち上げる腕力、物を切断する力などにおいて人間を負かすことができます。けれども、一人の人間ができる全てのタスクにおいて、人間を打ち負かす機械は存在しません。コンピュータの「知能」も同様です。

知能は単一の基準ではないため、コンピュータが持つ「知能」に関しての正しい捉え方は、人間とは異なるタイプの新たな「知能」、しかもそれぞれが様々に異なる種類の「知能」が多数生まれてくるというものでしょう。

さて、そうは言っても「あらゆる点において人間を越える人工知能」が存在し、更なる知能爆発を引き起こすことは想像できるではないか、という反論はありうると思いますので、次回以降のエントリでは、「知能爆発」について考えてみたいと思います。

知能の拡大と思考主義批判

前章の5章において、私はカーツワイル氏の主張の2つのキーポイント —ムーアの法則と脳のリバースエンジニアリング— および、カーツワイル氏の主張とは直接関係ないものの、現在研究が進んでいる人工知能 (あるいは機械学習) の技術について検討しました。

結論だけを繰り返すと、カーツワイル氏の主張にはあまり根拠がなく、おそらくヒトと同等の人工知能を作り出せるようになる時期は2030年よりも先であると考えています。ただし、私自身は人工知能が作り出される時期について、明確な予測を述べることはできません。そして、それは現在人工知能の研究に従事している研究者であっても同様だろうと考えています。

けれども、もし仮にヒトと同等の人工知能が作られたとして、それが「シンギュラリティ」と呼べるような断絶的かつ高速の進歩を起こすのかという点については、更に検討する必要があると考えています。

ヒトと同等の人工知能が「本来のシンギュラリティ」を起こすという主張の裏には、いかなる実証的な根拠にも基いていない、ある2つの信念に基づいた仮定が存在しているように感じられます。すなわち、1点目は「知能が無限に (あるいは少なくとも普通の人間より遥かに) 向上し拡大できる」という仮定、もう1点は「知能が高い存在は、あらゆる問題を即座に解決することができる」という仮定です。6章では、この2つの論点を扱います。

また、現在のシンギュラリティに関する議論ではあまり取り上げられることはありませんが、カーツワイル氏はコンピューターとAIの進歩のみによってシンギュラリティが発生するとは主張していません。彼が「GNR」と呼ぶ分野、すなわち遺伝子工学(Genetics), ナノテクノロジー(Nanotechnology*1 ), ロボティクス (Robotics *2 ) の3つの分野が同時並行で指数関数的に成長していくことによって人間と社会の革命的な変化が進み、人間がテクノロジーと融合していくのだと主張しています。

遺伝子工学とナノテクノロジーに関するカーツワイル氏の主張にはほとんどまともな根拠もなく、あえて真面目に取り上げて検証するべきことはそれほど多くありませんが、いくつかの論点に関してもこの6章で同時に扱おうと考えています。

*1:ここでは分子レベルで物質の操作ができる分子ナノテクノロジー Molecule nanotechnology, MNTを指す

*2:ここでは単なるロボットではなく意識を持つ「強い」人工知能を指す

人工知能の「知能」とは何か。指数関数的に成長しているのか。

近年では、特にディープラーニングの発達によって人工知能 (機械学習) の技術が目覚しい速度で発展しています。そして、人工知能技術の進歩は指数関数的であり、このままのペースで進歩が続けば、人間を越える人工知能が近い将来にでも出現するはずだ、という主張を頻繁に耳にします。

けれども、少し立ち止まってよく考えてみてほしいのですが、人工知能研究において一体何の量が指数関数的に、つまり一定間隔のうちに倍々に増えているのでしょうか。

人工知能の研究ないし「知能」が指数関数的に増加しているという証拠は、全く何もありません。いかなる基準で人工知能研究の進捗を測定できるのか誰も定義できていませんし、まして、人工知能の「知能」をどのように測るのか、その方法はまったく不明であるからです。

コンピュータ分野において指数関数的増加を実証的に確認できるのは、ムーアの法則をはじめとする、人工知能を作成するためのリソース、インプットの量だけです。そのアウトプットであるある種のタスク、特定の機能に対する性能は、目覚しい改善を見せているものも存在します。けれども、汎用的・普遍的な「知能」の定量的な定義は存在せず、人工知能の能力が指数関数的に増えていることを示す実証的な証拠は存在しません。

それどころか、人工知能の研究は線形にさえ進んでいないように見えます。過去の人工知能研究の歴史を見ると、何らかのアイデアによって目覚しい発展が見られる時期がある一方で、全く進歩が停滞し学術的にも産業的にもほとんど省みられない冬の時代が続いたこともあります。

近年注目されているディープラーニング (ニューラルネット) においても同様です。ニューラルネットの発明は1950年代にまで遡りますが、現在広く使われるようになるまでには、何度も失望され注目を失なってきた歴史がありました。フェイスブック社の人工知能研究所所長であるヤン・ルカン氏は、ニューラルネットは過去2度、誇大広告と期待過剰のために「死んだ」と述べています。近年のディープラーニングの隆盛も、ムーアの法則などの指数関数的な成長とは関連も因果関係もない、独立した事象です。もちろん、将来においてもまた別の独立した進歩の事象が発生しないということは考えにくいことですが、ロドニー・ブルックス氏が指摘している通り、独立した進歩の事象がいかなる頻度で発生するかを予測する法則はありません。

実際、カーツワイル氏自身でさえ、人工知能の進歩が指数関数的ではないということを認めています。

「計算力とアルゴリズム複雑性の両方において指数関数的な成長が起こっており、新たなレベルの階層を付け加えている…それゆえ、我々は新たなレベルが線形に増加していくと期待できる。というのは、新たな層を加えるためには、指数関数的な複雑性の増加が必要であるからだ。そして、我々はその能力において実際に指数関数的に進歩している。大脳新皮質の能力と比較すれば、我々はそう遠くない階層に位置している。だから、私の2029年という予測は、妥当性を失なっていないと考える。」

The Myth of a Superhuman AI | WIRED

実際のところ、ここでカーツワイル氏が挙げている指数関数的成長の実例は、計算力とソフトウェアの複雑性のみであり、人工知能研究は必ずしも指数関数的に成長していないことを認めています。そして、これは以前私が指摘したことと全く同じです。つまり、必要となる労力や資源が指数関数的に増加してしまうため、指数関数的な成長をオフセットしてしまい、人工知能の「知能」は線形(以下)にしか増えていないということです。これは、人工知能の知能爆発という想定とは全く相容れない主張です。

もちろん、将来において人工知能と認知科学の分野で何かのブレイクスルーがあり、人工知能の「知能」を定義する方法が開発され、それが指数関数的に成長していく可能性はあります。けれども、これまでの過去において、人工知能の知能が指数関数的に増えているという根拠はないため、未来においても指数関数的な増加が始まると考える理由は無いように思います。