シンギュラリティ教徒への論駁の書

"Unending exponential growth? What drugs are those people on?" - Linus Torvalds

ジェフ・ホーキンス氏のシンギュラリティ観

以前の記事で、私は2種類のシンギュラリティ、すなわち人間を超える超知能が作られる時と、超知能がテクノロジーを高速かつ断絶的に発展させる時を区別しました。

 

私は、第一のシンギュラリティは起きてもおかしくはない (ただし時期は分からない) けれども、本来の意味でのシンギュラリティというような事象が起きることは全くありえない、と考えています。

実際のところ、いわゆる汎用人工知能、人間と同等の人工知能の実現を目指し、研究開発に従事している人であっても、同様の見方をしている人は珍しくありません。

その中の一人が、ジェフ・ホーキンス氏です。ホーキンス氏はPDA (携帯情報端末) を開発したパーム社の共同創業者ですが、現在はGoogleに所属しているほか、自身で創業した人工知能企業であるヌメンタ社の代表を務め、人工知能に関する研究開発をしています。ホーキンス氏が開発したアルゴリズム「階層型時間メモリ (HTM)」は、汎用人工知能の研究に関して名前が挙がることも多いため、知っている人も多いかと思います。

さて、そのホーキンス氏は、2008年に科学雑誌IEEE Spectrumのシンギュラリティに関する特集の中で、以下のように発言しています。 

シンギュラリティを、『知能を持つ機械が知能を持つ機械を設計することで、極めて知能の高い機械が短時間の間に出現する時点、つまり、指数関数的な知能向上が起きる時』と定義するのならば、それは決して起こらないだろう。知能の大部分は、経験と訓練によって定義されるもので、脳の大きさやアルゴリズムによるものではない。またそれはソフトウェアを書くだけの問題でもない。知能を持つ機械は、人間と同じく、特定の領域での専門的なノウハウを訓練する必要がある。それには時間を要し、また機械に持たせようとする特定の知識に対して計画的な注目が必要となるだろう。

私は、テクノロジーに対して『シンギュラリティ(特異点)』という用語を使うことは好みではない。特異点とは、何かの値や指標が無限大となり、物理法則がもはや適用できない状態となることである。たとえば、ブラックホールの中心部における時空の曲率のように。私の知る限り、生物学やテクノロジーにおいては”特異点”は存在しない。たとえ、人間が新しいウィルス(生物学的なものであれ非生物的なものであれ)を創造し、地球上の生命全てを高速で死滅させたとしても、それはシンギュラリティではない。とても不幸な出来事であるけれども、それは特異点ではない。

『シンギュラリティ』という用語が人工知能に対して使われる時には、人工知能が自分自身よりも更に賢い人工知能を作ることができるようになり、人工知能の知能が指数関数的に成長することによって、知能が無限の (あるいは少なくとも極めて巨大な) 「特異点」に至ることを意味している。この考え方は、知能の本質に対する素朴な理解による信念に基いている。
アナロジーとして、自分自身よりも高速なコンピュータを設計できる (チップ、システムやソフトウェア) ようなコンピュータを想像してみよう。そのようなコンピュータが存在したら、無限に高速なコンピュータや、あるいは人間が作るいかなるコンピュータよりも高速なコンピュータが作られるだろうか。そんなことはない。そのようなコンピュータは、しばらくの間は改善の速度を加速させられるだろうが、結局のところ、コンピュータの大きさや速度には制限が存在する。我々も同じ場所に落ち着くだろう。多少は高速化できるかもしれないが、シンギュラリティは存在しない。

指数関数的な成長には、指数関数的な資源の消費 (物質、エネルギーや時間) を必要とする。そして、消費できる資源には常に限りがある。なぜ、人工知能に関しては限界が無いと考えるのだろうか? 我々は、人間よりも「知的な」機械を作るだろうし、それはすぐに起きるかもしれない。けれども、それはシンギュラリティではなく、知能の爆発的成長も存在しない。今日のコンピュータと同じように、未来の人工知能も多数の異なった問題に適用されるために、多様な形と種類を持つことになるだろう。

知的な機械は、感情的にも物理的にも、人間に似たものである必要はない。極めて知的な機械は、人間が持つような感情を備えている必要はない。我々がそれを意図しない限りは。ある日、人工知能が『目覚め』、『私の創造主を奴隷にしてやろう』と言うようなことは起こらない。同様の懸念は蒸気機関の発明の際にも表明されていたが、そんなことは起こらなかった。知的な機械の時代は始まったばかりである。過去のあらゆる技術的革命と同様に、多くの人が参加し、テクノロジーが改善されるにつれて加速していくだろう。それでも、シンギュラリティや、テクノロジー自体が我々から逃げ出していく時などというものは存在しないだろう。

Tech Luminaries Address Singularity - IEEE Spectrum