シンギュラリティ教徒への論駁の書

“Anyone who believes that exponential growth can go on forever in a finite world is either a madman or an economist.” - Kenneth Boulding

わたしもシンギュラリタリアンだ! (あるいは特異点論者のカーツワイル批判)

ここまで、私はレイ・カーツワイル氏の主張を検討し、また強く批判してきました。

確かに、近年では「シンギュラリティ」あるいは「シンギュラリタリアン」という言葉は、カーツワイル氏の個人的主張と強く結び付いています。「2029年」や「2045年」という彼の予測年も、特に前提が省みられることなく広く流布しているように見えます。

けれども、最初に私が書いた通り、「シンギュラリティ」に関連する思想の起源、そしてかつてのカーツワイル氏の主張の双方を辿っていくと、彼のもともとの思想は「シンギュラリティ」とはあまり関係がありません。(私が見落している可能性はありますが、『スピリチュアル・マシーン』の中では「シンギュラリティ」という言葉は使われていないようです。) 彼の主張の根幹は、あくまで「科学技術が指数関数的に進歩する」という仮説であるからです。

 

実際のところ、「シンギュラリタリアン」を自称する人々の中でも、カーツワイルの主張に対して否定的なスタンスを取る人もいます。そのうちの一人が、若手のフューチャリストであるミハイル・アニシモフでしょう。*1

彼は、自身のブログ『Accelerating Future』(閉鎖済み)で以下の通り述べています。

The word “Singularitarian”, as defined in the Singularitarian Principles (2000), basically just means someone that encourages the pursuit of smarter-than-human intelligence. Nothing less, nothing more. It’s worth pondering on how innocuous this is.

With his 2005 book, Kurzweil hijacked the term “singularitarian” and has tried to apply it to his highly complex, occasionally doubtful claims. I reject this redefinition, and identify with the older, innocuous definition.

Besides semantic differences, there are actually distinct groups associated with each. I identify with the former group (which is relatively small, only consisting of maybe a thousand people) and don’t identify with the latter group (which may consist of a large percentage of people who read Kurzweil’s book).

You may criticize Kurzweil if you’d like, but the point I’m making is that there are many “singularitarians” (in the 2000 definition sense) that never bought into all of his claims.

Accelerating Future » Response to Dr. Richard A.L. Jones’ IEET Spectrum Piece: ‘Rupturing the Nanotech Rapture’ (アーカイブ)

「シンギュラリタリアン」という言葉は、[ユドコウスキーの]「Singularitarian Principles (2000)」で定義された通り、基本的には、単に人間よりも賢い (smarter-than-human) 知能の追求を奨励する人、という意味しかない。それ以上でもそれ以下でもない。これがどれだけ害のないものであるか、考える価値があると思う。

2005年の書籍で、カーツワイルは「シンギュラリタリアン」という語を乗っ取った。そして、彼の極めて複雑な、疑わしい部分もある主張に適用しようと試みている。私はこの再定義を拒否する。私は原義の、無害な定義におけるシンギュラリタリアンである。

言葉の意味上の違いを棚に上げるとしても、実際に、それぞれの主張に関連付けられた異なるグループが存在している。私自身は前者のグループ (相対的に小さく、おそらく1000人程度で構成されている) と考えており、後者のグループ (その多くがカーツワイルの書籍を読んだ人間で構成されている) に属するとは考えていない。

カーツワイルを批判したければ、そうしても構わない。しかし、ここで私が主張したいのは、彼の主張全てを肯定していない「シンギュラリタリアン」 (2000年の定義において) も多数存在するということである。

 
また、彼は2008年に、リチャード・ジョーンズ氏のブログでの議論の中で、こうも述べています。

Some futurists that predict a major near-future transition justifiably attract ridicule.

Ray Kurzweil has a demonstrated tendency to extrapolate with great certainty, push a spiritual-mystical philosophy alongside predictions, present his own predictions with an air of inevitability or predetermination, and engage in other controversial actions that leads to an “either you love him or you hate him” dynamic.

Some mystics, far less scientific and careful than Kurzweil, predict a major apocalypse in the year 2012, based on the turnover of the Mayan calendar, and even point to artificial intelligence as a possible cause of this allegedly imminent transition.

Coming soon (or not) – Soft Machines

近い将来における巨大な変革を予測するフューチャリストは、当然のごとく嘲笑を引きつけている。

その最も顕著な例であるレイ・カーツワイルは、大きな確信をもって未来を外挿し、将来予測と平行して霊的で神秘的な哲学を押し進め、必然的・宿命論的な雰囲気をまとわせて彼自身の予想を提示し、その他の論争的な言動によって、単なる「好き嫌い」のダイナミクスを引き起すなどの傾向を示している。

カーツワイルよりも非科学的で浅慮である神秘主義者は、マヤ歴のサイクルにもとづいて、2012年に大惨事が発生すると予想している。[注:これが書かれたのは2008年] この差し迫った移行の原因として、人工知能を取り上げることすらある。

 

あるいは、トランスヒューマニストであるニック・ボストロムも著書『スーパーインテリジェンス』の中で、「シンギュラリティ」という語が技術ユートピア論と不可分に結びついているため、この単語を使用しないと述べています。


実際のところ、私自身も「遠い未来には、何らかのテクノロジーによって人間の機能が再現できるだろうし、汎用人工知能も作れるんじゃないの? 」と考えるという意味では「シンギュラリタリアン」だと言えます。ただし、それがいつ、どんな技術で可能になるのかは分からないし、科学的ブレイクスルーの本質として、いついかなる形で実現するかを予測することは全く不可能である (もし、今現在それが理解できるのなら既に実現できるはず) と考えています。

また、私自身もわりと「人工知能モノ」のサイエンスフィクション作品が好きですし、この種のSF的な思考実験が思考の範疇に留まる限りは、さして危険視する必要もないと思います。

けれども、これまで見てきた通り、カーツワイル氏の主張はあまりに荒唐無稽であり、また極めて霊的・神秘主義的な要素があります。(それ自体が悪いことだとは思いませんが) この種のオカルティックな主張が私たちの未来に対する言説を歪曲し、科学技術の研究開発の方針や政策を歪め、今現在の現実に影響を与えることは、あまり望ましくないと考えています。

 

スーパーインテリジェンス 超絶AIと人類の命運

スーパーインテリジェンス 超絶AIと人類の命運

*1:ちなみに、彼の言葉は『ポスト・ヒューマン誕生』第六章の冒頭にも引用されています

シンギュラリタリアンの認知的不協和と合理化

前回、「認知的不協和の理論」および、その不協和を解消する「合理化」について説明しました。

 

現在のカーツワイル氏とシンギュラリタリアンの議論においてさえ、「テクノロジーの発展が指数関数的ではない」という現実を合理化する議論の存在を指摘できます。

指数関数の「立ち上がり」

曰く、指数関数の成長は一次関数よりも遅いと主張するものです。指数関数の初期には成長はごく僅かであり、線形な予測による期待を下回ることさえある。指数関数は、あるポイント、「立ち上がりの点」を過ぎなければ爆発的に成長しない。ゆえに、投資家や起業家は、世間の人々の期待をコントロールし、テクノロジーヘの投資を絶やさないように社会を説得し続けなければならない、と説かれています。

f:id:liaoyuan:20180324100718p:plain

図 指数関数と交差する線形関数と「立ち上がりの点」

 

一見もっともらしく聞こえる説明であり、なかなか芽の出ない技術者や起業家を勇気付ける物語としてはよくできています。既に指摘した通り、指数関数は自己相似形であり、特別な『立ち上がりの点』は存在しません。更にもう一点指摘しておくと。指数関数は下に凸で単調増加する関数です。*1 つまり、成長率を測定し接線を引いた場合(線形に成長率を予測した場合)、指数関数のグラフはその接線よりも必ず上に位置します。

つまり、仮にテクノロジーの成長が指数関数的であった場合、成長率の線形な予測と指数関数的が交差するような現象は、発生しないということです。

宇宙開発や核融合発電の技術開発は、必ずしも過去の予測通りに進んでおらず、むしろ人々の予測以下の進捗でしかないと、これまでにも私は指摘してきました。そのような時にも、「技術開発は指数関数的だから遅いのだ」という合理化が頻繁に使われています。

連続するS字曲線

けれども、カーツワイル氏の議論の中には、既に更なる合理化の方法が準備されています。

曰く、テクノロジーの成長曲線は、連続するS字曲線 (シグモイド曲線) を取るというものです。

単独のテクノロジーが指数関数的に成長するわけではなく、停滞と「パラダイムシフト」を挟んだ連続するS字曲線が続いていくために、全体として見ればやはり大きな指数関数的な成長曲線を遂げる、という主張です。

f:id:liaoyuan:20180324100210p:plain
図 連続するS字曲線

 

なるほど確かに、将来いつかの時点で指数関数的な成長が再開されるという主張は、未来の話である限り、完全には否定できないものです。現在停滞しているテクノロジーであっても、また新たにS字曲線が立ち上がり、指数関数的な成長が続いていくという可能性は存在するでしょう。

 

けれども、先に取り上げたカーツワイル氏の過去の予測実績人間の寿命予測を思い出してください。過去の実績を見れば、S字曲線の次の「立ち上がり」がいつであるかは、カーツワイル氏自身ですら予測不可能だったと言えます。仮に「情報テクノロジーと融合したテクノロジーは指数関数的な成長を遂げる」という仮定を受け入れるとしても、「それがいつ発生するか」は分かりません。コンピューティングの次のパラダイムや、劇的な寿命延長が将来開始されるかもしれません。けれども、10年後なのか100年後なのか、それは分かりません。

そして、この連続するS字曲線を信じる限りは、永久に「現在の停滞は、あくまで一時的なものである」と言い続けられるでしょう。つまり、カーツワイル氏の元々のモデル自体に、既に合理化のための手法が含まれていると言えます。

そして、今後、カーツワイル氏の予測が外れるに従って、さらにクリエイティブな合理化のための説明がたくさん考案されるでしょう。

*1:下に凸⇔接線の傾きが減少しない⇔二階微分が非負

感想文: AI vs. 教科書が読めない子どもたち

「東ロボくんプロジェクト」と「リーディングスキルテスト(RST)」で一躍時の人となった感のある新井紀子氏の新刊。

AI vs. 教科書が読めない子どもたち

AI vs. 教科書が読めない子どもたち

 

実を言えば、この本はあまり紹介するつもりはありませんでした。話題の書であるためわざわざ取り上げるまでもなく、著者本人による内容紹介も他の人による書評もあちこちで出ていますし、何より私は新井先生をシンギュラリティ懐疑論者のライバルだと思っているので(笑)

とはいえ、一応私の「感想」を散漫にまとめておきたいと思います。詳細な内容紹介や書評は別の方に譲ります。

--

前半部分は、コンピュータに東大入試問題を解かせる「東ロボくんプロジェクト」の報告をベースにして、現在のAI技術と機械学習に関する解説を行なっています。

シンギュラリティ懐疑論としての議論は簡潔かつ妥当で、説得力のあるものだと思います。たびたび出てくる『この「だから」は論理的ではありませんが』という言葉には笑ってしまいました。

--

私が思うに、著者が断固たるシンギュラリティ懐疑論者となったのは、2016年の内閣府タスクフォース*1での齋藤元章氏との接触がきっかけではないかと思います 。その点を考慮すると、本書の説明は「現状の技術の延長線上にシンギュラリティはない」ことの説明になっていても、齋藤氏が唱えるシンギュラリティ説 (と、そのベースになったカーツワイル氏の説) を正面から捉えた反論にはなっていないと感じました。

収穫加速の法則、つまり『「パラダイムシフト」なるものが指数関数的に加速するため、将来、現時点の想像を超えた新しい技術が開発される速度が上がる』という仮定が齋藤・カーツワイル説の核心であるからです。もちろん、彼らの言う「収穫加速の法則」にも「パラダイムシフト」にはまったく定義も根拠もなく、そもそも実証的な議論の対象にすらできない主張であるのは確かです。一方で、この種の与太話が注目を集め、産業界の投資や科学技術政策にすら若干の悪影響を及ぼしている現状を考えると、やはり発信力のある方にこの主張をきちんと論駁してほしいと感じました。

--

本筋とまったく関係ないですが、『働きたくないイタチと言葉がわかるロボット』、『自動人形の城』などの川添愛氏がオントロジーの作成で東ロボくんプロジェクトにかかわっていたそうです。

--
後半部分では、小学生から高校生の読解力を測定した「リーディングスキルテスト(RST)」の手法説明とその結果の考察、および労働の将来に対する警告が論じられています。(むしろこっちがメイン)「読解力」はとらえどころがなく、分からないことも多いけど、分からない能力を測定するための実態に即した手法を作り出し、エビデンスをもとに着実に論考を進めていく流れはとても面白いものです。

--

たぶん、著者は「読解力」や「人間の能力」が対象としているものが何 (what) なのか誰も理解していないのにもかかわらず、それらをどうすれば (how) 再現したり伸ばしたりできるのかが議論される、ナイーブなAI論と教育論の現状を強く警戒しているのでしょう。

whatを無視したままhowだけを問題にする議論は、AIの議論にも見られますし、教育論でも同様の主張があるようです。たとえば、AI技術で言えば、「なぜ人間が視覚的に物体を認識できるのか」、「言葉の意味とは一体何なのか」、「あるスコアが測定している人間の能力とは一体何なのか」を真剣に考察しないまま、「画像分類タスクの正答率がxx%で人間を超えた」、「機械翻訳のスコアが人間を超えた」などという宣伝があります。また、教育論でも「このドリルを使えば"読解力"が上がります」「スクリーンリーダ(文章読み上げ機)を使って文章を音声化すれば"読解力"が上がる」といった主張があります。

そして、「対象が何なのか分からない」ということを率直に認めているという点において、著者はとても知的に誠実だと思う。

--

考えてみれば、人間の「話し言葉」は何らかの障害がない限り、誰もが誰からも教えられずとも習得できるのに対して、書き言葉は現在でさえ教育を受けなければ習得できないものです。そう考えると、文章を書けない・読めない人間が居るのは何も不思議ではないし、むしろ人間が「言葉」を使えることのほうが不思議です。

--

ふと思ったのは、「読解力」について日本語以外の外国語話者の場合はどうなんだろうということ。英語のように綴りと発音の対応が悲惨になっている言語、表意文字を使う言語、アラビア語のように書き言葉と話し言葉がまるで別物になってしまっている言語など、世界の言語には読む力の妨げになりそうな特徴を持つ言語も多くあります。言語の表記体系の違いによって、「読解力」のスコアに差異は発生するのだろうか…と思いました。(条件を揃えて国際比較するのは難しそうだけど)

--

そして、AI技術が将来の働き方に対して与える影響を論じた部分について。著者には、(ソフトな) 技術決定論者の傾向があるように思います。(一方ではシンギュラリティ懐疑論者で、この組み合わせを唱える論者は日本では結構珍しい) 技術の決定力に対する確信が強いため、現実の就業構造や経済情勢や労働法制にはそれほど関心がないのかな、という印象を受けます。とはいえ、私自身も技術的失業は(複合的な要因の一つとして)問題となるだろうと考える立場であり、結論に大きな異論はないのですが。

--

細かいツッコミはあれど、非常に良い問題提起の本なので是非読みましょう。悔しいけど(笑)

シンギュラリタリアンの『予言がはずれるとき』

これまでの記事で、私は現時点で既にカーツワイル氏の予言の大部分が外れていることを示しました。

 

今後、時間が経過するにつれて、ますます多くの予言が外れていることが明白となり、2040年、2050年代になっても「シンギュラリティ」なる事象が到来しないことが明確になるだろうと考えています。私は、未来学者を名乗るつもりはありませんが、その時にカーツワイル氏とシンギュラリティ教徒に起こることを予言します。

「予測が外れれば外れるほど、逆に彼らはシンギュラリティの到来をますます固く信じ、ますます強くシンギュラリティを宣伝するようになるだろう。」

一見すると奇妙な主張に聞こえるかもしれませんが、将来予測に関係した社会運動の帰結を考える上で、参考になる先行事例が存在しています。1950年代に書かれた宗教社会学におけるフィールドワーク研究の古典的名著『予言がはずれるとき (When Prophecy Fails: A Social and Psychological Study of a Modern Group that Predicted the End of the World)』です。

予言がはずれるとき

f:id:liaoyuan:20180321110259j:plain

ヴィクトル・ヴァスネツォフ 『黙示録の騎士』(1887)

 

古来より、多数の宗教教団が「この世界が終わる」という予言を発してきました。けれども、これまでのところ、世界が文字通りの意味において終末を迎えたことは一度もありません。私自身も個人的には世界の終末を信じていますが、世界の終末の期日はただ神のみがご存知であり、何らかの予兆はあるにせよ、具体的な期日を定めた終末の予言は、全て神の権能を犯すものであると信じています。

予言された世界の終末は、これまでのところ全て外れてきました。けれども、不思議なことに、終末予言が外れたにもかかわらず信者の信仰が深まり、教団の勢力が拡大する事例は珍しくありません。『予言がはずれるとき』においては、古くはユダヤ教に対するキリスト教もこの事例に当てはまるとされています。記録が残っている近現代を見ても、この理論にあてはまる終末予言を行なった宗教運動の事例が多数挙げられています。日本からは、オウム真理教も事例に含められるでしょう。

認知的不協和の理論

この一見矛盾した奇妙な事象を説明する理論が、「認知的不協和の理論」です。これは「自らの価値観や信念と矛盾した出来事に対して、人間はどう心理的に折り合いを付けるのか」を説明するものです。

本書の著者であるフェスティンガーは、この認知的不協和理論の提唱者です。幸運にも彼らの研究グループは、「明確になされた予言が実際にはずれた後、このグループの布教活動が全体的に以前より活発化するという、理論的に予測された逆説的な現象」を、実証的に観察する機会に恵まれます。

 

1954年12月21日に世界中が大洪水で押し流されるが、警告を信じる一部の人たちだけが宇宙人の乗ったUFOに乗せられ救済され、新たな世界を創るための使命を受ける。本書では「キーチ夫人」という偽名で記されているドロシー・マーティンという女性がそんな終末予言を行ったことを知り、著者らの研究グループは信者を装い夫人のグループに接触します。そこで、予言が外れるまでの一部始終を観察し記録するのです。

当然ながら予言は外れ、12月21日を過ぎても洪水は起こらず、UFOも現れませんでした。予言された期日が過ぎてもひたすらUFOの到来を待ち続けるキーチ夫人と信奉者たちの描写は、強固な信念を抱いた人間が持つコミカルな哀しさを感じさせます。

けれども、予言が外れた後も、キーチ夫人や何人かの中心的なメンバーは動揺することなく確固たる信念を抱き続けました。本書の邦訳出版時点(1995年)における訳者解説では、キーチ夫人は1970年代後半にも宗教的活動を継続していたと報告されています。

それではなぜ、終末予言が外れても信者の信仰は強まり、教団の勢力が拡大する場合すらあるのでしょうか。

不協和と合理化

「ある日に世界が終わる」という信念と「現実の世界は期日を過ぎても存続している」という歴然たる事実は両立しえないため、メンバーの心理に強い矛盾、不協和を生み出し、耐え難い苦痛を引き起こします。この不協和を解消する最も簡単な方法は、外れた予言を捨て去り、予言を信じる以前の日常生活へ戻っていくことです。実際に、キーチ夫人の予言が外れた後、信奉者の何人かがグループとの関係を断ったと記されています。けれども、信念体系へのコミットメントが非常に強い場合、たとえば、終末の日に備えるために仕事を辞めたり財産を処分していた場合は、信念の放棄自体が強烈な苦痛を引き起こします。そのため、むしろそのまま不協和に堪え忍ぶことが選択されることがあります。

明白に間違いが示された信念を保ち続ける場合に不協和を軽減する手段は、予言が外れた理由を合理的に説明し、自らを納得させることです。たとえば、終末の期日の計算が間違っていた。邪悪な悪魔によって妨害を受けている。我々の祈りが通じて終末が延期された、あるいは、実は我々が生きている現在の世界こそが既に終末後の世界なのである、などと理由付けを行い、予言は外れたが信念自体はなお有効であると「合理化」を行うのです。

けれども、どのような説明がなされようとも、依然として十分ではありません。予言の誤りは明白であり、自分の備えは全て無駄だったと信者自身も理解しているからです。不協和はあまりにも重大であり、合理化によっては不協和を除去できません。けれども、それでも不協和を軽減しうる方法はあります。本書では、その方法は次のように説明されています。

「もし、その信念体系の正しいことが次第に多くの人々に納得されるとすれば、結局のところ、明らかにそれは正しいに違いないのである。」

私の言葉で簡単に言い換えるとこうなります。多数の人が信じていることは正しい。なぜ正しいかと言えば、それは多数の人が信じているからだ。外れた予言をなお信じ続けている人々はこう考え、より多くの人を自身の信念へと勧誘していきます。首尾よく支持者を集めることができれば、同じ考えを持つ人が現実への緩衝材となり、たとえ不協和が存在していても折り合っていける程度まで不協和を低減できます。これが、終末予言が外れた後、信仰が深まり教団の勢力が拡大する理由です。

シンギュラリタリアンの不協和

認知的不協和の理論を、シンギュラリティ論に対して適用し考察してみます。

私がこれを書いている時点ですら、私の文章を読み「収穫加速の法則」の根拠が存在しないこと、その予測が今現在においてさえ外れていることを示されてもなお、収穫加速の法則とシンギュラリティを信じ、カーツワイルの敬虔な信徒であり続けている人が多数観察できます。

「堅固な信念を持っている人の心を変えるのはむずかしい。…その人に事実や数字を示したとしても、その出所に疑問を呈すだろう。論理に訴えたとしても、その人は肝心な点を理解できないことであろう。」

まさに、『予言がはずれるとき』に書かれている通りです。

今後も、科学とテクノロジーの発展が続くことに疑いはありません。けれども、たとえばマインドアップロード不老不死や労働からの解放、あるいは無尽蔵のエネルギーと貨幣経済の終焉というユートピア、そして宇宙が「精霊」で満たされ覚醒するなど、「世俗的なテクノロジーの語彙で語られた終末と来世」としてのシンギュラリティは、いつまで待っても到来しないでしょう。そのような場合、コミットメントが低い人々は、シンギュラリティ論そのものを捨て去るだろうと思います。けれども、コミットメントの強い人たちは、認知的不協和の理論から予測される通り、自身が間違っていたことを認めるよりは、不協和と共に生きていくことを選択するだろうと考えています。

その時には、さまざまな合理化のための説明がされるだろうことは間違いありません。期日の設定が誤っていただけで、2070年にはやはりシンギュラリティに到達するのだ。ネオ・ラッダイト運動によりテクノロジーの進歩が遅らされてしまっている。政府によるテクノロジーへの投資が少なく成長が阻害されているのだ。実は我々が生きている現在の世界こそが既にシンギュラリティ後の世界なのである、等々。


というよりも、今の時点でさえ、テクノロジーの進歩が指数関数的ではないことに対する合理化のための説明を発見することができます。

次回は、シンギュラリティ論における合理化の手段を紹介し、指摘してみたいと思います。

予言がはずれるとき―この世の破滅を予知した現代のある集団を解明する (Keiso communication)

予言がはずれるとき―この世の破滅を予知した現代のある集団を解明する (Keiso communication)

  • 作者: L.フェスティンガー,S.シャクター,H.W.リーケン,Leon Festinger,Stanley Schachter,Henry W. Riecken,水野博介
  • 出版社/メーカー: 勁草書房
  • 発売日: 1995/12/01
  • メディア: 単行本
  • 購入: 1人 クリック: 36回
  • この商品を含むブログ (4件) を見る

 

責任ある未来予測

ここまで、私はカーツワイル氏が約20年前に述べた未来予測を評価してきました。

  

私個人の評価によれば、出版から10年後の予測は正答率55%、20年後については22%という結果でした。比較的短期の予測にはそこそこの正答率を示している一方で、長期トレンドについてはかなり予測を外しています。カーツワイル氏は、出版当時開発中だった技術動向をベースとした、短期のトレンドをよく見極めていたようです。一方で、彼が主張する長期的な、指数関数的な成長の世界観は、端的に誤りであると示されているのではないかと思います。

ただし、彼の正答率が高いのか低いのかについては、私には判断がつきかねます。短期的な、限定された技術分野や業界の予測や計画を述べる人は多数存在しますが、このような超長期かつ包括的な未来予測を提示する人はごく少なく、比較対象が少ないからです。参考までに、ハーマン・カーンとアンソニー・ウィーナーの共著で1968年に出版された『紀元2000年――33年後の世界』中の未来予測を2002年に評価した調査では、全体を合計した正答率は約50%程度であるとされています*1。10年単位の長期的な将来予測の妥当性は、話半分程度に捉えておくのが良いのかもしれません。

けれども、ちゃぶ台返しのような言い方になりますが、私は未来予測の正答率を挙げることには、それほど意味がないかもしれないと考えています。結局のところ、未来は誰にも分からないものです。また、未来予測にはある意味で「呪術的な」要素があります。つまりは、未来予測の存在自体が人々の行動を変える場合があるということです。未来予測が未来への「目標」や「計画」となって自己成就的に何かを達成したり (半導体業界におけるムーアの法則はこの好例でしょう)、あるいは逆に、破滅的な暗い未来像が人々への警告となり、予告された悪い結果の回避に繋がる事例もあります (この事例は、前世紀末の西暦2000年問題、西暦を下2桁で表現していた古いコンピュータが暴走し停止するという予測と、それに対する緊急対策ではないかと思います)。

この意味において、不確かな未来のビジョンを描き出すことを試み、世間に働きかけ、将来をより良いものにしようと考える人々を、私は尊敬します。それは、カーツワイル氏をはじめとして楽観的・夢想的な未来像を提示する人、逆に『成長の限界』のような悲観的・破滅的なシナリオを提示する人、両方です。

けれども、未来予測を述べる人は、ある責任からは逃れられないと考えています。それは、「過去の未来予測を振り返り、その正しさに対する評価を受ける」という責任です。

未来予測の責任とは何か

今まで、私がシンギュラリティ論の未来予測を検証し妥当性を考察する間に、主にシンギュラリティの信奉者から次のような批判めいたコメントを受け取ることがありました。曰く、「あなたの予測が外れ、シンギュラリティ論 (あるいは収穫加速) が正しかった場合に、対策が遅れた責任を取れるのか」と。

この批判は意味が無いものです。なぜならば、誰であっても、いかなる予測を述べようとも「未来予測に対する (結果)責任」を取ることはできないからです。(そもそも、「責任」という言葉は極めて多様な意味を持つ多義語であり、ここではどんな意味で使われているのかあまり分かりません。) 先に紹介したジョン・レニー氏が指摘している通り、カーツワイル氏も、自身の非現実的なまでに楽観的な予測を信じて事業に失敗した起業家に対して責任を取れるわけではないでしょう。

唯一、未来予測に対する責任というものが存在するならば、それは未来の予測が過去となった時点で検証し、正解と誤りをつまびらかにして、予測発表時点で前提としていた事実と仮定と理論とを更新することにあるのではないかと思います。

「予言は、それが歴史になったときに注視せよ」(トーマス・ブラウン) 

 

成長の限界―ローマ・クラブ「人類の危機」レポート

成長の限界―ローマ・クラブ「人類の危機」レポート

 

翻訳:レイ・カーツワイルのあいまいな未来予測

この文章は、アメリカン・サイエンティスト誌の元編集長ジョン・レニー氏が、2010年11月にIEEE Spectrumのサイト上で発表したエッセイ"Ray Kurzweil’s Slippery Futurism"の翻訳です。 

レイ・カーツワイルのあいまいな未来予測

今日、もしも自分のコンピュータを探して見つけられなかったとしても、パニクらないでほしい。それは、テクノロジーの専門家であるレイ・カーツワイルが予測していたことであり、今年[訳注:2010年]コンピュータは小型化により消滅するとされている。2005年2月に、彼がTEDのカンファレンスで述べていた通りである。

2010年までには、コンピュータは消えるだろう。コンピュータはとても小さくなり、洋服や環境に普通に組み込まれている。映像は我々の網膜に対して直接投影され、完全没入型のバーチャルリアリティ強化現実 (オーグメンテッド・リアリティ) を生み出す。我々は仮想パーソナリティとかかわっているだろう。

もし、今現在の世界について違った印象を受けるというのならば、カーツワイルは自分の予測は技術的には正しいのだと言うかもしれない。もし世界の誰もがそれでは不十分だと考えるのならば、間違っているのは世界のほうなのだ。

もちろん、カーツワイルは全てのコンピュータが実際に消え去ると言うつもりではなかったのだろう。そうではなく、組み込みのマイクロプロセッサによって、以前はコンピュータだけが実行していた機能の多くが、携帯電話、タブレット、コンピュータ、そして自動車、洋服、キーホルダーにさえ普及するという意味だったのかもしれない。そしてある意味、2010年には実際にカーツワイルの予言の正しさが証明されつつあると言えるだろう。なぜなら、スマートフォンiPadはどこにでもあるからだ。

けれども、少し考えれば、カーツワイルの拡大解釈はさして意味のないものであると結論づけざるをえないだろう。その理由は、同種のデバイスは2005年に製品として既に多数存在していたからである。スタイラスを使ったコンピュータインターフェイスは1980年代ごろから存在し、マイクロソフト社は携帯とタブレット版のWindowsを2000年と2001年に発売している。スマートフォンPDAは1990年代半ばに登場した。ハンドスプリング社はPalmOS Treo*1を2002年に発売した。RIMブラックベリースマートフォンも2002年である。

ゆえに、カーツワイルの不明瞭な定義によれば、彼が舞台に立った2005年には、既にコンピュータは消え去っていたと言える。実際のところ、TEDの聴衆も類似のデバイスをポケットに入れていたかもしれない。「2010年までにコンピュータが消える」というレトリックが文字通りの解釈を意図していないなら、カーツワイルの主張は、本質的にはスマートフォンやの他のデジタルデバイスが、よりスマートに、小さくなり、もっと普及するということでしかない。これでは、高得点を与えられる予測とは言いがたい。

この点において、テクノロジー預言者としてのカーツワイルのブランドに対するフラストレーションが横たわっている。厳密に検証すれば、カーツワイルの最も明快かつ正確な予測は、たいていオリジナリティや深遠さを欠いている。そして、彼の予測の大部分にはとても多くの抜け穴があり、不正解との境界線上に位置していることもある。けれども、彼の言葉はテクノロジーの神託として真剣に受け止められ続けるだろう。高価なカンファレンスで高額の講演料を徴収し、ベストセラー本を執筆し、シンギュラリティ大学を運営するために。そこでは、企業のエグゼクティブなどがかなりの大金を支払って、消えつつあるコンピュータが人間を時代遅れにし不死身にする日に備える方法を学んでいるのだ。

レイ・カーツワイルの天性の才能には異論はない。彼はナショナル・メダル・オブ・テクノロジー、レメルソンMIT賞、そしてその他の国際的な栄誉・名誉学位を授与され、全米発明家殿堂入りも果たしている。高校在学中、彼はクラシック音楽家のスタイルで作曲するソフトウェアを書いた (それにより1965年にテレビゲームショー"I've Got a Secret"に出演している) 。彼は、どんなフォントでも読取可能な世界初の光学スキャナを発明し、更に初のCCDフラットスキャナと文章読み上げ用の音声合成機の作成を指揮し、視覚障害者向けのカーツワイル・リーディング・マシーンの開発に継がった。彼は世界中で使われている商用の音声認識システムを開発し、いくつもの会社を立ち上げ、ヘッジファンドも設立している。

けれども、発明の才に対する賞賛を集める一方で、カーツワイルはテクノロジーの未来予測者としても有名である (あるいは、悪名高い)。彼の予測は、ベストセラー本『インテリジェント・マシーンの時代 (The Age of Intelligent Machine) (1990)』『スピリチュアル・マシーンの時代 (The Age of Spiritual Machine) (1999)』『ポスト・ヒューマン誕生 (The Singularity is Near) (2005)』で説明されている。端的に言えば、これらの本では彼が発見した「収穫加速の法則」が説明されており、それはテクノロジーの進歩を支配するものであるという。カーツワイルの主張によれば、コンピュータの知能と他のテクノロジーは指数関数的な速度で進化していくため、真の人工知能、人間の不死、途方もないナノエンジニアリングの能力が、数十年以内に実現するのだという。1世紀以内に、テクノロジーは歴史の流れを技術的特異点に押し上げ、文字通りに想像を超えるできごとが起こるとされている。

カーツワイルは、たとえば、2029年までには研究者が人間の脳をリバースエンジニアリングし、人間と同等のAIが構築されると強く信じている。(彼は、コンピュータのパイオニアであるミッチ・ケイパーとこの予想に対して20,000ドルの賭けをしており、ロング・ベット・ウェブのサイトに掲載されている。) 神経科学者、AI研究者などは彼の予想に反論している。今日、そのような偉業を達成する方法についてはごくわずかにすら理解されておらず、それゆえ彼の時期予測は極めて非現実的であると言う。カーツワイルは、これらの反論を全て却下している。ムーアの法則と止まることのない加速するテクノロジーによって、間違いなく障害は溶け去っていくだろう、と。

カーツワイル自身の話によれば、テック企業のビジネスが失敗する主な原因は、意図した通りの製品を製造できなかったからではなく、タイミングが間違っていたからだと気付いたのだという。そのため、彼はテクノロジーの変化速度に関する研究を始めたのだそうだ。企業のイノベーションが市場に登場した時には、時期が早すぎたり、的はずれなものとなっていたり、あるいは他の人や物に市場を押さえられている、など。収穫加速の福音を広められるように、カーツワイルと起業家のピーター・ディアマンディスはカリフォルニアにシンギュラリティ大学を設立した。これは、9日間のエグゼクティブ・トレーニングのコース (費用は15,000ドル) と10週間の「大学院」の研究 *2 (費用は25,000ドル) を提供しており、指数関数的に進歩するテクノロジーを理解しマスターする方法を学ぶのである。

これら全ての事業は、カーツワイルのビジョンの信頼性の上に成り立っている。彼は20年前から予測を発表しているため、現在までの彼の予測の正確性を評価することは意味があるだろう。残念なことに、カーツワイルの予言を評価するのは、困難で論争的なものとなる。

カーツワイルの神託の卓越性に対する賛歌は、通常1990年の彼の本「インテリジェント・マシーンの時代」から始まる。本の中で、カーツワイルは公衆通信、商業、教育、娯楽のメディアとしてのインターネットの台頭を予測していた。「次世紀の初頭までには、パーソナル・コンピュータはポータブルなラップトップ型デバイスとなるだろう。それは、人と機械両方に対する携帯電話のテクノロジーもしくはワイヤレスコミュニケーションを搭載している。我々のポータブルコンピュータは国際的な図書館、データベースと情報サービスへのゲートウェイとなるだろう…」と彼は記していた。

世界銀行の推定によれば、1990年代にインターネットにアクセスしていたのはたった200万人であった。2000年までには、革新的かつ猛烈なワールドワイドウェブの台頭により、その利用者数は1億2400万人に増加した。これだけを見れば、カーツワイルの予測は宝石のように見えるかもしれない。しかし、いくつかの事実がその光沢を傷つけている。

第一に、1990年代に日常業務のためにコンピュータ・ネットワークを使用する社会を見ていたならば、将来を予測するために預言者である必要はない。フランス人であればそれを知っていただろう。フランス政府は、1981年に電話契約者に対してダム端末を無料配布し、有料のミニテル・オンライン情報サービス (あるいはビデオテックス) の利用を奨励していた。ミニテルを利用すれば、電話番号の検索、電車・飛行機チケットの購入、掲示板やデータベースの利用、メール注文を通した商品の購入などが可能であった。

「フランス人は、およそ300万台のコンピュータ・ターミナルを使って、電話番号の電子的な検索、あるいは「電子独身バー」なるものを通じて身知らぬ人とコミュニケーションを取ることなどに利用している。」1987年9月15日のアンドリュー・ポラックによるニューヨークタイムズの記事はそう報道している。

この記事は、アメリカ合衆国の現状に対する落胆から始まっている。「消費者がニュースを読んだり、自宅のコンピュータ上で支払いや飛行機の予約を取るといった電子社会のビジョンは、幻想的なものである。」 つまりは、カーツワイルの出版の3年前には、オンライン社会の到来を想像していた人が存在していたのである。のみならず、アメリカもオンライン社会にキャッチアップできるかどうか懸念を抱いていた人さえ存在していたのだ。とはいえ、1980年代後半までには、CompuServe、GEnie、Prodigy、Dow Jones News/Retrieval *3 や他の商用サービスが、メール、チャット、情報とエンターテインメントのサービスを利用者のパーソナルコンピュータに提供していた。それらは、特別なサービスを得るために1分毎に最大12ドルを喜んで支払う人のためのものではあったが。

1987年、ビデオテックス・インダストリー・アソシエーションは、およそ40種類のオンラインサービスが75万人の消費者に提供されていたと推定している。加えて、何百も、あるいは何千もの非商用の電子掲示板が、様々な興味を持った人々に電話回線を通して提供されていた。

これらのサービスがメインストリームで成功を収められなかった理由は、高いコストと技術的な難易度のためである。ポラックの記事は、業界紙インタラクティビティ・リポートの発行者であるゲリー・アーレンの言葉を引用し、ビデオテックスは「衰退しており、誰もが次のブレイクスルーを待っている」と述べられている。

そのブレイクスルーとは、ご存知の通りワールドワイドウェブである。WWWは、ティム・バーナーズ=リーが1989年に提案し、1993年12月に一般公開された。ウェブは、インターネットをより容易に、安価に、そしてより多数のユーザに対応できるように作り変えた。しかし、アーリーアダプター層の一般人は、それより数年前からオンラインサービスを渇望していたのだ。

1980年代のポップカルチャーの中にも、高度にコンピュータ化されネットワーク化された社会のビジョンには事欠かない。それらのほとんどは、ウィリアム・ギブソン1984年の小説『ニューロマンサー』にまで遡ることができるだろう。「サイバーパンク」シリーズの作品によって、「サイバースペース」という単語が一般化したのである。よく知られている通り、ギブソンが語るところでは、ニューロマンサーを執筆したとき彼はコンピュータについてほとんど何も知らなかったという。そのため、彼のビジョンはテクノロジーに対する深い洞察から得られたものではない。1982年の『ブレードランナー』や『トロン』といった映画、あるいはブルース・スターリングの1988年の受賞作『ネットの中の島々』や1989年の日本の漫画シリーズ 『攻殻機動隊』など、当時既に広まっていたアイデアを取り上げたにすぎないのだ。

カーツワイルの予測以前に、多くの人々が既にオンライン社会の発展を予期していたという事実は、彼の予測の信頼性を損なうものではない。けれども、彼のアイデアを独創的だと賞賛した場合、それ以前の全ての人の予測を過少評価することになりかねない。

カーツワイルは多くの予測を立てている。彼は1999年に『スピリチュアル・マシーンの時代』で大きく躍進を遂げた。この本には2009年の生活についての具体的な主張が含まれている。(そしてこれは始まりにすぎない。本書は2099年までのシナリオを提示し、更には今から1000年後、宇宙が知能で満たされる方法も想像している)

カーツワイルの予測はかなり正しい。けれども、一つ一つ取り上げてみると、明白に正しい予測にも多少ズレた文章が付属している。それはまるで魚眼レンズを通して見た世界の説明のようだ。

「時は2009年。人々はおもにポータブル・コンピュータを使っている。それは10年前のノート型よりはるかに軽くて薄い。コンピュータは、その大きさ形とも、さまざまな種類があり、」このようにカーツワイルは記述している。ここで文章が終わっていたら、誰にも異論はなかっただろう。しかし、次のように続く「洋服や、腕時計、指輪、イヤリングといった装飾品に普通に組み込まれている。高品位なビジュアル・インターフェイスを備えたコンピュータは、指輪、ブローチ、クレジットカードから薄い本のものまで、いろいろある。」更に、「ほとんどの人が少なくとも10個のコンピュータを身につけており、それらは「ボディーLAN」(ローカル・エリア・ネットワーク) でネットワーク化されている。」

本当だろうか? スマートフォン、音楽プレイヤー、さらにはICチップ搭載のクレジットカードも、マイクロプロセッサを含んでいるのだからコンピュータと見なすことにしよう。そして、これらは広い意味で洋服や、腕時計、指輪、装飾品と呼べるかもしれない。そうだとしても、何人がこれらの「コンピュータ」を少なくとも10個も身につけているだろうか? ブルートゥース接続の携帯電話とイヤホン以外に、どれだけの機器がネットワーク化されているだろうか? 「高品位なビジュアル・インターフェイス」はいくつあるだろう?

あるいは、カーツワイルが教育について述べている部分を検討しよう。彼は、教室におけるテクノロジーの役割が拡大すると正しく予測しており、遠隔授業や教育ソフトウェアのトレンドが進んでいくことも予想していた。しかし、彼はまた、「あらゆる年齢の学生が自分のコンピュータを所有」するとされており、それは「主に声と鉛筆に似たデバイスによってインタラクションする、重さ500グラム以下のコンピュータ」であるという。教師は「生徒のやる気 (モチベーション)、精神的安定、社会性といった問題にまず目を向けるようになっている」一方で、授業を担当するのはソフトウェアだという。これは今日の学校の姿の正確な描写だろうか?

また彼は、抗血管形成剤という抗腫瘍剤に対して10年前に大きな期待を寄せていたようだ。脚注には、1998年5月3日のニューヨークタイムズ紙の一面記事が示されている。これは、研究の将来性を過大評価していることでサイエンスライターの間では悪名高い記事である。彼の書籍の本文中の議論では、カーツワイルは単に抗血管形成剤が癌の軽減に有用であるかもしれないと示唆しているに過ぎない。しかし、カーツワイルが「モーリー」という架空の未来のインタビューアと会話している珍妙な章では、彼はモーリーに次のように言わせている。「ガンが減るっておっしゃってたけど、ちょっと説明が足りないと思うの。生物工学的治療、とくに腫瘍が必要とする毛細血管の成長を妨げる抗血管形成剤のおかげで、ほとんどのガンが撲滅されたわ。」カーツワイルの返事は「控えめな予言にとどめておきたかったんだ。」というものである。

日付の解釈についてある程度のブレを許容するのは公平であると思われる。しかし、その場合もカーツワイルの予測の正確さや間違いを定義するのは困難である。

しかし、カーツワイル自身にとってはこんな困難は存在しないだろう。彼は自分がどれくらいうまく予測できていたかを正確に知っているだろうから。昨年1月、同じくフューチャリストのミハイル・アニシモフは、自身のブログ「Accelerating Future」で、2009年のカーツワイルの予測のうち7つが間違っていると指摘する記事をポストしている。カーツワイルは、『スピリチュアル・マシーン』中の108件の予測のうち、たった7件だけの予測の誤りを取り上げるのは間違っていると反論した。

「私は現在これらの予測1件1件に対する分析を執筆しているところである。もうすぐ公開できるし、あなたにも差し上げたいと思う。」と彼は書いた。*4 「しかし、要約すれば、全体で108件の予測のうち、89件は2009年の終わりまでには完全に正しいことが分かるだろう。」他13件は、「本質的に正しい」つまり、これらの予測はあと数年以内に実現するだろうということだ。「他3件は部分的に正しく、2件は10年以上先のことであると思う。あと1つは、ともかく、心にもないことを言えば、間違いであった。」と彼は書いている。つまり、彼自身による評価では、正確性は94.4%であるということだ。

カーツワイルはまだ自己評価を公表していないため*5、彼の2009年の予測のいくつかをどう考えているのかは分からない。--たとえば、インテリジェントな道路による自動運転車、癌の減少、2019年までの株式市場と経済の連続的な成長など-- おそらく、これらは「心にもないこと」なのかもしれないし、彼はこれらを真の予測だと考えていないのかもしれない。さもなければ、これら全てが部分的に正しい、あるいは本質的に正しいと見なしているのかもしれない。読者自身が判断してほしい。

しかし、アニシモフが疑問視した項目に対するカーツワイルの自己弁護から考えると、彼の分析は批判者を満足させることはないだろうと思われる。たとえば、カーツワイルは2009年には三次元の半導体チップが一般的になると主張していた。「今日製造された半導体の多くは、実際に垂直積層技術を使用した三次元チップである」と彼は主張している。「明らかに、これはより広範なトレンドの始まりにすぎないが、しかし三次元チップは今日一般的に使われている。」

実際のところ、現在の三次元集積回路は極めてニッチな製品であり、DRAM、イメージセンサや少数のアプリケーションでの使用に限られている。フランス、リヨンのヨール・ディベロップメント社が実施した2008年の市場調査によると、2015年までに三次元デバイスがメモリ市場の約25%、それ以外の半導体市場の約6%を占めると予測されている。カーツワイルの言うとおり、今後数年間に三次元チップが広く普及するのは間違いない。しかし、現在既に普及しているという主張は、端的に誤りである。

また、カーツワイルは、コンピュータディスプレイが眼鏡に組み込まれ、ユーザの目に映像を投影するという予測を擁護している。なぜならば、このようなシステムは確かに存在するからだという。「この予測は、全てのディスプレイがこのようになるとも、多数を占めるとも、あるいは一般的であるとも主張しているわけではない。」同様に、「電話の翻訳ソフトウェアが「一般的に使われる」ようになり、異なる言語を通したコミュニケーションができるようになる」という主張について、2009年の終わりに登場したスマートフォンのアプリを取り上げて自身の主張を弁護している。どれほど「一般的」であるかについて、屁理屈を述べているようである。

「これまでのところ、私にはカーツワイルが正直に自身の誤りを認めていないように見える。私が思うに、彼がそうすることで利益を得ているからではないだろうか。」ブログ記事でアニシモフはそう指摘する。彼はカーツワイルを賞賛しているようだが、フューチャリストは自身の予測について責任を持つべきであるとも考えているようだ。

カーツワイルによる返信では、彼はフューチャリストとしての責任に賛同すると述べている。「しかし、このようなレビューはバイアスから自由で公平であるべきだ。選択バイアスを避け、言葉の用法と現在の現実の双方に対する近視眼的な解釈を避けるべきである。」それでも、アニシモフの反論を「近視眼的」と退け、法律家じみた字義解釈によって正確な言葉づかいをねじ曲げ、日常言語の意味に対するクリエイティブな解釈をもとに自身の主張を擁護することは困難であろう。

カーツワイルは開発中のテクノロジーについて熟知しており、テクノロジーがどのように相互作用しながら進んでいくかを深く洞察している。特に、短期的なトレンドについては正確である。彼は技術開発のトレンドを見極めており、その予測はとても刺激的だ。彼の話を聞き、また本を読む人々にとっては、おそらくそれで十分だろう。

一方で、ビジネスの失敗の主な原因はテクノロジー変化のタイミングを見誤ったことである、というカーツワイルの洞察が正しいのであれば、誰も厳密な意味で額面通りに彼の予測を受け取ることを望まないだろう。10年前の90年代中に、サイバネティック運転手やリアルタイム音声翻訳の普及に依存する製品やサービスを市場に投入しようと考えた人は、問題に陥っている可能性がある。

それでも、「収穫加速の法則」に対する揺るぎない自信によって、矛盾した事実や視点は一時的な不具合だと無視することができるだろう。1年後も、10年後も。永遠の真理によって支配されたテクノロジーの収穫加速が、その途中にある全てのものをなぎ倒し、人間の想像を超えたシンギュラリティへと進んでいくだろう。-- レイ・カーツワイルは、これまでも、これからも常に正しいのだ。

いずれにせよ、少なくとも今のところ、94.4%は。

*1:訳注:Palm Treo - Wikipedia

*2:訳注:シンギュラリティ大学は「大学」を名乗っているものの、大学として認定を受けていない私企業である

*3:訳注:全て、かつてアメリカに存在していたインターネット以前の商用パソコン通信サービス

*4:訳注:2010年10月にカーツワイル自身による予測の評価が公開されている。http://www.kurzweilai.net/images/How-My-Predictions-Are-Faring.pdf

*5:訳注:上述の通り、本記事公開後に公表された

カーツワイル氏の将来予測についての考察

以前の2つの記事で、私は1999年時点でのカーツワイル氏による2009年、2019年の予測を検討しました。

全体を通して予測の印象を述べると、以下の通りです。

  • コンピュータ関連のテクノロジー自体に関する予測は先見の明がある
  • テクノロジーの使われ方に関する予測は、必ずしも正しいとは言えない
  • テクノロジーの「発明」と「普及」の間にある隔りを無視している
  • 臨床医療についての予測はほとんど外れている
  • 政治、経済、社会の予測は考慮範囲が狭すぎる
  • 全体的にあいまいで時期予測は楽観的すぎる

 

続きを読む