シンギュラリティ教徒への論駁の書

"Enjoying science fiction is not the same thing as doing science or making science policy." - Dale Carrico

わたしもシンギュラリタリアンだ! (あるいは特異点論者のカーツワイル批判)

ここまで、私はレイ・カーツワイル氏の主張を検討し、また強く批判してきました。

確かに、近年では「シンギュラリティ」あるいは「シンギュラリタリアン」という言葉は、カーツワイル氏の個人的主張と強く結び付いています。「2029年」や「2045年」という彼の予測年も、特に前提が省みられることなく広く流布しているように見えます。

けれども、最初に私が書いた通り、「シンギュラリティ」に関連する思想の起源、そしてかつてのカーツワイル氏の主張の双方を辿っていくと、彼のもともとの思想は「シンギュラリティ」とはあまり関係がありません。(私が見落している可能性はありますが、『スピリチュアル・マシーン』の中では「シンギュラリティ」という言葉は使われていないようです。) 彼の主張の根幹は、あくまで「科学技術が指数関数的に進歩する」という仮説であるからです。

 

実際のところ、「シンギュラリタリアン」を自称する人々の中でも、カーツワイルの主張に対して否定的なスタンスを取る人もいます。そのうちの一人が、若手のフューチャリストであるミハイル・アニシモフでしょう。*1

彼は、自身のブログ『Accelerating Future』(閉鎖済み)で以下の通り述べています。

The word “Singularitarian”, as defined in the Singularitarian Principles (2000), basically just means someone that encourages the pursuit of smarter-than-human intelligence. Nothing less, nothing more. It’s worth pondering on how innocuous this is.

With his 2005 book, Kurzweil hijacked the term “singularitarian” and has tried to apply it to his highly complex, occasionally doubtful claims. I reject this redefinition, and identify with the older, innocuous definition.

Besides semantic differences, there are actually distinct groups associated with each. I identify with the former group (which is relatively small, only consisting of maybe a thousand people) and don’t identify with the latter group (which may consist of a large percentage of people who read Kurzweil’s book).

You may criticize Kurzweil if you’d like, but the point I’m making is that there are many “singularitarians” (in the 2000 definition sense) that never bought into all of his claims.

Accelerating Future » Response to Dr. Richard A.L. Jones’ IEET Spectrum Piece: ‘Rupturing the Nanotech Rapture’ (アーカイブ)

「シンギュラリタリアン」という言葉は、[ユドコウスキーの]「Singularitarian Principles (2000)」で定義された通り、基本的には、単に人間よりも賢い (smarter-than-human) 知能の追求を奨励する人、という意味しかない。それ以上でもそれ以下でもない。これがどれだけ害のないものであるか、考える価値があると思う。

2005年の書籍で、カーツワイルは「シンギュラリタリアン」という語を乗っ取った。そして、彼の極めて複雑な、疑わしい部分もある主張に適用しようと試みている。私はこの再定義を拒否する。私は原義の、無害な定義におけるシンギュラリタリアンである。

言葉の意味上の違いを棚に上げるとしても、実際に、それぞれの主張に関連付けられた異なるグループが存在している。私自身は前者のグループ (相対的に小さく、おそらく1000人程度で構成されている) と考えており、後者のグループ (その多くがカーツワイルの書籍を読んだ人間で構成されている) に属するとは考えていない。

カーツワイルを批判したければ、そうしても構わない。しかし、ここで私が主張したいのは、彼の主張全てを肯定していない「シンギュラリタリアン」 (2000年の定義において) も多数存在するということである。

 
また、彼は2008年に、リチャード・ジョーンズ氏のブログでの議論の中で、こうも述べています。

Some futurists that predict a major near-future transition justifiably attract ridicule.

Ray Kurzweil has a demonstrated tendency to extrapolate with great certainty, push a spiritual-mystical philosophy alongside predictions, present his own predictions with an air of inevitability or predetermination, and engage in other controversial actions that leads to an “either you love him or you hate him” dynamic.

Some mystics, far less scientific and careful than Kurzweil, predict a major apocalypse in the year 2012, based on the turnover of the Mayan calendar, and even point to artificial intelligence as a possible cause of this allegedly imminent transition.

Coming soon (or not) – Soft Machines

近い将来における巨大な変革を予測するフューチャリストは、当然のごとく嘲笑を引きつけている。

その最も顕著な例であるレイ・カーツワイルは、大きな確信をもって未来を外挿し、将来予測と平行して霊的で神秘的な哲学を押し進め、必然的・宿命論的な雰囲気をまとわせて彼自身の予想を提示し、その他の論争的な言動によって、単なる「好き嫌い」のダイナミクスを引き起すなどの傾向を示している。

カーツワイルよりも非科学的で浅慮である神秘主義者は、マヤ歴のサイクルにもとづいて、2012年に大惨事が発生すると予想している。[注:これが書かれたのは2008年] この差し迫った移行の原因として、人工知能を取り上げることすらある。

 

あるいは、トランスヒューマニストであるニック・ボストロムも著書『スーパーインテリジェンス』の中で、「シンギュラリティ」という語が技術ユートピア論と不可分に結びついているため、この単語を使用しないと述べています。


実際のところ、私自身も「遠い未来には、何らかのテクノロジーによって人間の機能が再現できるだろうし、汎用人工知能も作れるんじゃないの? 」と考えるという意味では「シンギュラリタリアン」だと言えます。ただし、それがいつ、どんな技術で可能になるのかは分からないし、科学的ブレイクスルーの本質として、いついかなる形で実現するかを予測することは全く不可能である (もし、今現在それが理解できるのなら既に実現できるはず) と考えています。

また、私自身もわりと「人工知能モノ」のサイエンスフィクション作品が好きですし、この種のSF的な思考実験が思考の範疇に留まる限りは、さして危険視する必要もないと思います。

けれども、これまで見てきた通り、カーツワイル氏の主張はあまりに荒唐無稽であり、また極めて霊的・神秘主義的な要素があります。(それ自体が悪いことだとは思いませんが) この種のオカルティックな主張が私たちの未来に対する言説を歪曲し、科学技術の研究開発の方針や政策を歪め、今現在の現実に影響を与えることは、あまり望ましくないと考えています。

 

スーパーインテリジェンス 超絶AIと人類の命運

スーパーインテリジェンス 超絶AIと人類の命運

*1:ちなみに、彼の言葉は『ポスト・ヒューマン誕生』第六章の冒頭にも引用されています