シンギュラリティ教徒への論駁の書

“Anyone who believes that exponential growth can go on forever in a finite world is either a madman or an economist.” - Kenneth Boulding

翻訳:レイ・カーツワイルのあいまいな未来予測

この文章は、アメリカン・サイエンティスト誌の元編集長ジョン・レニー氏が、2010年11月にIEEE Spectrumのサイト上で発表したエッセイ"Ray Kurzweil’s Slippery Futurism"の翻訳です。 

レイ・カーツワイルのあいまいな未来予測

今日、もしも自分のコンピュータを探して見つけられなかったとしても、パニクらないでほしい。それは、テクノロジーの専門家であるレイ・カーツワイルが予測していたことであり、今年[訳注:2010年]コンピュータは小型化により消滅するとされている。2005年2月に、彼がTEDのカンファレンスで述べていた通りである。

2010年までには、コンピュータは消えるだろう。コンピュータはとても小さくなり、洋服や環境に普通に組み込まれている。映像は我々の網膜に対して直接投影され、完全没入型のバーチャルリアリティ強化現実 (オーグメンテッド・リアリティ) を生み出す。我々は仮想パーソナリティとかかわっているだろう。

もし、今現在の世界について違った印象を受けるというのならば、カーツワイルは自分の予測は技術的には正しいのだと言うかもしれない。もし世界の誰もがそれでは不十分だと考えるのならば、間違っているのは世界のほうなのだ。

もちろん、カーツワイルは全てのコンピュータが実際に消え去ると言うつもりではなかったのだろう。そうではなく、組み込みのマイクロプロセッサによって、以前はコンピュータだけが実行していた機能の多くが、携帯電話、タブレット、コンピュータ、そして自動車、洋服、キーホルダーにさえ普及するという意味だったのかもしれない。そしてある意味、2010年には実際にカーツワイルの予言の正しさが証明されつつあると言えるだろう。なぜなら、スマートフォンiPadはどこにでもあるからだ。

けれども、少し考えれば、カーツワイルの拡大解釈はさして意味のないものであると結論づけざるをえないだろう。その理由は、同種のデバイスは2005年に製品として既に多数存在していたからである。スタイラスを使ったコンピュータインターフェイスは1980年代ごろから存在し、マイクロソフト社は携帯とタブレット版のWindowsを2000年と2001年に発売している。スマートフォンPDAは1990年代半ばに登場した。ハンドスプリング社はPalmOS Treo*1を2002年に発売した。RIMブラックベリースマートフォンも2002年である。

ゆえに、カーツワイルの不明瞭な定義によれば、彼が舞台に立った2005年には、既にコンピュータは消え去っていたと言える。実際のところ、TEDの聴衆も類似のデバイスをポケットに入れていたかもしれない。「2010年までにコンピュータが消える」というレトリックが文字通りの解釈を意図していないなら、カーツワイルの主張は、本質的にはスマートフォンやの他のデジタルデバイスが、よりスマートに、小さくなり、もっと普及するということでしかない。これでは、高得点を与えられる予測とは言いがたい。

この点において、テクノロジー預言者としてのカーツワイルのブランドに対するフラストレーションが横たわっている。厳密に検証すれば、カーツワイルの最も明快かつ正確な予測は、たいていオリジナリティや深遠さを欠いている。そして、彼の予測の大部分にはとても多くの抜け穴があり、不正解との境界線上に位置していることもある。けれども、彼の言葉はテクノロジーの神託として真剣に受け止められ続けるだろう。高価なカンファレンスで高額の講演料を徴収し、ベストセラー本を執筆し、シンギュラリティ大学を運営するために。そこでは、企業のエグゼクティブなどがかなりの大金を支払って、消えつつあるコンピュータが人間を時代遅れにし不死身にする日に備える方法を学んでいるのだ。

レイ・カーツワイルの天性の才能には異論はない。彼はナショナル・メダル・オブ・テクノロジー、レメルソンMIT賞、そしてその他の国際的な栄誉・名誉学位を授与され、全米発明家殿堂入りも果たしている。高校在学中、彼はクラシック音楽家のスタイルで作曲するソフトウェアを書いた (それにより1965年にテレビゲームショー"I've Got a Secret"に出演している) 。彼は、どんなフォントでも読取可能な世界初の光学スキャナを発明し、更に初のCCDフラットスキャナと文章読み上げ用の音声合成機の作成を指揮し、視覚障害者向けのカーツワイル・リーディング・マシーンの開発に継がった。彼は世界中で使われている商用の音声認識システムを開発し、いくつもの会社を立ち上げ、ヘッジファンドも設立している。

けれども、発明の才に対する賞賛を集める一方で、カーツワイルはテクノロジーの未来予測者としても有名である (あるいは、悪名高い)。彼の予測は、ベストセラー本『インテリジェント・マシーンの時代 (The Age of Intelligent Machine) (1990)』『スピリチュアル・マシーンの時代 (The Age of Spiritual Machine) (1999)』『ポスト・ヒューマン誕生 (The Singularity is Near) (2005)』で説明されている。端的に言えば、これらの本では彼が発見した「収穫加速の法則」が説明されており、それはテクノロジーの進歩を支配するものであるという。カーツワイルの主張によれば、コンピュータの知能と他のテクノロジーは指数関数的な速度で進化していくため、真の人工知能、人間の不死、途方もないナノエンジニアリングの能力が、数十年以内に実現するのだという。1世紀以内に、テクノロジーは歴史の流れを技術的特異点に押し上げ、文字通りに想像を超えるできごとが起こるとされている。

カーツワイルは、たとえば、2029年までには研究者が人間の脳をリバースエンジニアリングし、人間と同等のAIが構築されると強く信じている。(彼は、コンピュータのパイオニアであるミッチ・ケイパーとこの予想に対して20,000ドルの賭けをしており、ロング・ベット・ウェブのサイトに掲載されている。) 神経科学者、AI研究者などは彼の予想に反論している。今日、そのような偉業を達成する方法についてはごくわずかにすら理解されておらず、それゆえ彼の時期予測は極めて非現実的であると言う。カーツワイルは、これらの反論を全て却下している。ムーアの法則と止まることのない加速するテクノロジーによって、間違いなく障害は溶け去っていくだろう、と。

カーツワイル自身の話によれば、テック企業のビジネスが失敗する主な原因は、意図した通りの製品を製造できなかったからではなく、タイミングが間違っていたからだと気付いたのだという。そのため、彼はテクノロジーの変化速度に関する研究を始めたのだそうだ。企業のイノベーションが市場に登場した時には、時期が早すぎたり、的はずれなものとなっていたり、あるいは他の人や物に市場を押さえられている、など。収穫加速の福音を広められるように、カーツワイルと起業家のピーター・ディアマンディスはカリフォルニアにシンギュラリティ大学を設立した。これは、9日間のエグゼクティブ・トレーニングのコース (費用は15,000ドル) と10週間の「大学院」の研究 *2 (費用は25,000ドル) を提供しており、指数関数的に進歩するテクノロジーを理解しマスターする方法を学ぶのである。

これら全ての事業は、カーツワイルのビジョンの信頼性の上に成り立っている。彼は20年前から予測を発表しているため、現在までの彼の予測の正確性を評価することは意味があるだろう。残念なことに、カーツワイルの予言を評価するのは、困難で論争的なものとなる。

カーツワイルの神託の卓越性に対する賛歌は、通常1990年の彼の本「インテリジェント・マシーンの時代」から始まる。本の中で、カーツワイルは公衆通信、商業、教育、娯楽のメディアとしてのインターネットの台頭を予測していた。「次世紀の初頭までには、パーソナル・コンピュータはポータブルなラップトップ型デバイスとなるだろう。それは、人と機械両方に対する携帯電話のテクノロジーもしくはワイヤレスコミュニケーションを搭載している。我々のポータブルコンピュータは国際的な図書館、データベースと情報サービスへのゲートウェイとなるだろう…」と彼は記していた。

世界銀行の推定によれば、1990年代にインターネットにアクセスしていたのはたった200万人であった。2000年までには、革新的かつ猛烈なワールドワイドウェブの台頭により、その利用者数は1億2400万人に増加した。これだけを見れば、カーツワイルの予測は宝石のように見えるかもしれない。しかし、いくつかの事実がその光沢を傷つけている。

第一に、1990年代に日常業務のためにコンピュータ・ネットワークを使用する社会を見ていたならば、将来を予測するために預言者である必要はない。フランス人であればそれを知っていただろう。フランス政府は、1981年に電話契約者に対してダム端末を無料配布し、有料のミニテル・オンライン情報サービス (あるいはビデオテックス) の利用を奨励していた。ミニテルを利用すれば、電話番号の検索、電車・飛行機チケットの購入、掲示板やデータベースの利用、メール注文を通した商品の購入などが可能であった。

「フランス人は、およそ300万台のコンピュータ・ターミナルを使って、電話番号の電子的な検索、あるいは「電子独身バー」なるものを通じて身知らぬ人とコミュニケーションを取ることなどに利用している。」1987年9月15日のアンドリュー・ポラックによるニューヨークタイムズの記事はそう報道している。

この記事は、アメリカ合衆国の現状に対する落胆から始まっている。「消費者がニュースを読んだり、自宅のコンピュータ上で支払いや飛行機の予約を取るといった電子社会のビジョンは、幻想的なものである。」 つまりは、カーツワイルの出版の3年前には、オンライン社会の到来を想像していた人が存在していたのである。のみならず、アメリカもオンライン社会にキャッチアップできるかどうか懸念を抱いていた人さえ存在していたのだ。とはいえ、1980年代後半までには、CompuServe、GEnie、Prodigy、Dow Jones News/Retrieval *3 や他の商用サービスが、メール、チャット、情報とエンターテインメントのサービスを利用者のパーソナルコンピュータに提供していた。それらは、特別なサービスを得るために1分毎に最大12ドルを喜んで支払う人のためのものではあったが。

1987年、ビデオテックス・インダストリー・アソシエーションは、およそ40種類のオンラインサービスが75万人の消費者に提供されていたと推定している。加えて、何百も、あるいは何千もの非商用の電子掲示板が、様々な興味を持った人々に電話回線を通して提供されていた。

これらのサービスがメインストリームで成功を収められなかった理由は、高いコストと技術的な難易度のためである。ポラックの記事は、業界紙インタラクティビティ・リポートの発行者であるゲリー・アーレンの言葉を引用し、ビデオテックスは「衰退しており、誰もが次のブレイクスルーを待っている」と述べられている。

そのブレイクスルーとは、ご存知の通りワールドワイドウェブである。WWWは、ティム・バーナーズ=リーが1989年に提案し、1993年12月に一般公開された。ウェブは、インターネットをより容易に、安価に、そしてより多数のユーザに対応できるように作り変えた。しかし、アーリーアダプター層の一般人は、それより数年前からオンラインサービスを渇望していたのだ。

1980年代のポップカルチャーの中にも、高度にコンピュータ化されネットワーク化された社会のビジョンには事欠かない。それらのほとんどは、ウィリアム・ギブソン1984年の小説『ニューロマンサー』にまで遡ることができるだろう。「サイバーパンク」シリーズの作品によって、「サイバースペース」という単語が一般化したのである。よく知られている通り、ギブソンが語るところでは、ニューロマンサーを執筆したとき彼はコンピュータについてほとんど何も知らなかったという。そのため、彼のビジョンはテクノロジーに対する深い洞察から得られたものではない。1982年の『ブレードランナー』や『トロン』といった映画、あるいはブルース・スターリングの1988年の受賞作『ネットの中の島々』や1989年の日本の漫画シリーズ 『攻殻機動隊』など、当時既に広まっていたアイデアを取り上げたにすぎないのだ。

カーツワイルの予測以前に、多くの人々が既にオンライン社会の発展を予期していたという事実は、彼の予測の信頼性を損なうものではない。けれども、彼のアイデアを独創的だと賞賛した場合、それ以前の全ての人の予測を過少評価することになりかねない。

カーツワイルは多くの予測を立てている。彼は1999年に『スピリチュアル・マシーンの時代』で大きく躍進を遂げた。この本には2009年の生活についての具体的な主張が含まれている。(そしてこれは始まりにすぎない。本書は2099年までのシナリオを提示し、更には今から1000年後、宇宙が知能で満たされる方法も想像している)

カーツワイルの予測はかなり正しい。けれども、一つ一つ取り上げてみると、明白に正しい予測にも多少ズレた文章が付属している。それはまるで魚眼レンズを通して見た世界の説明のようだ。

「時は2009年。人々はおもにポータブル・コンピュータを使っている。それは10年前のノート型よりはるかに軽くて薄い。コンピュータは、その大きさ形とも、さまざまな種類があり、」このようにカーツワイルは記述している。ここで文章が終わっていたら、誰にも異論はなかっただろう。しかし、次のように続く「洋服や、腕時計、指輪、イヤリングといった装飾品に普通に組み込まれている。高品位なビジュアル・インターフェイスを備えたコンピュータは、指輪、ブローチ、クレジットカードから薄い本のものまで、いろいろある。」更に、「ほとんどの人が少なくとも10個のコンピュータを身につけており、それらは「ボディーLAN」(ローカル・エリア・ネットワーク) でネットワーク化されている。」

本当だろうか? スマートフォン、音楽プレイヤー、さらにはICチップ搭載のクレジットカードも、マイクロプロセッサを含んでいるのだからコンピュータと見なすことにしよう。そして、これらは広い意味で洋服や、腕時計、指輪、装飾品と呼べるかもしれない。そうだとしても、何人がこれらの「コンピュータ」を少なくとも10個も身につけているだろうか? ブルートゥース接続の携帯電話とイヤホン以外に、どれだけの機器がネットワーク化されているだろうか? 「高品位なビジュアル・インターフェイス」はいくつあるだろう?

あるいは、カーツワイルが教育について述べている部分を検討しよう。彼は、教室におけるテクノロジーの役割が拡大すると正しく予測しており、遠隔授業や教育ソフトウェアのトレンドが進んでいくことも予想していた。しかし、彼はまた、「あらゆる年齢の学生が自分のコンピュータを所有」するとされており、それは「主に声と鉛筆に似たデバイスによってインタラクションする、重さ500グラム以下のコンピュータ」であるという。教師は「生徒のやる気 (モチベーション)、精神的安定、社会性といった問題にまず目を向けるようになっている」一方で、授業を担当するのはソフトウェアだという。これは今日の学校の姿の正確な描写だろうか?

また彼は、抗血管形成剤という抗腫瘍剤に対して10年前に大きな期待を寄せていたようだ。脚注には、1998年5月3日のニューヨークタイムズ紙の一面記事が示されている。これは、研究の将来性を過大評価していることでサイエンスライターの間では悪名高い記事である。彼の書籍の本文中の議論では、カーツワイルは単に抗血管形成剤が癌の軽減に有用であるかもしれないと示唆しているに過ぎない。しかし、カーツワイルが「モーリー」という架空の未来のインタビューアと会話している珍妙な章では、彼はモーリーに次のように言わせている。「ガンが減るっておっしゃってたけど、ちょっと説明が足りないと思うの。生物工学的治療、とくに腫瘍が必要とする毛細血管の成長を妨げる抗血管形成剤のおかげで、ほとんどのガンが撲滅されたわ。」カーツワイルの返事は「控えめな予言にとどめておきたかったんだ。」というものである。

日付の解釈についてある程度のブレを許容するのは公平であると思われる。しかし、その場合もカーツワイルの予測の正確さや間違いを定義するのは困難である。

しかし、カーツワイル自身にとってはこんな困難は存在しないだろう。彼は自分がどれくらいうまく予測できていたかを正確に知っているだろうから。昨年1月、同じくフューチャリストのミハイル・アニシモフは、自身のブログ「Accelerating Future」で、2009年のカーツワイルの予測のうち7つが間違っていると指摘する記事をポストしている。カーツワイルは、『スピリチュアル・マシーン』中の108件の予測のうち、たった7件だけの予測の誤りを取り上げるのは間違っていると反論した。

「私は現在これらの予測1件1件に対する分析を執筆しているところである。もうすぐ公開できるし、あなたにも差し上げたいと思う。」と彼は書いた。*4 「しかし、要約すれば、全体で108件の予測のうち、89件は2009年の終わりまでには完全に正しいことが分かるだろう。」他13件は、「本質的に正しい」つまり、これらの予測はあと数年以内に実現するだろうということだ。「他3件は部分的に正しく、2件は10年以上先のことであると思う。あと1つは、ともかく、心にもないことを言えば、間違いであった。」と彼は書いている。つまり、彼自身による評価では、正確性は94.4%であるということだ。

カーツワイルはまだ自己評価を公表していないため*5、彼の2009年の予測のいくつかをどう考えているのかは分からない。--たとえば、インテリジェントな道路による自動運転車、癌の減少、2019年までの株式市場と経済の連続的な成長など-- おそらく、これらは「心にもないこと」なのかもしれないし、彼はこれらを真の予測だと考えていないのかもしれない。さもなければ、これら全てが部分的に正しい、あるいは本質的に正しいと見なしているのかもしれない。読者自身が判断してほしい。

しかし、アニシモフが疑問視した項目に対するカーツワイルの自己弁護から考えると、彼の分析は批判者を満足させることはないだろうと思われる。たとえば、カーツワイルは2009年には三次元の半導体チップが一般的になると主張していた。「今日製造された半導体の多くは、実際に垂直積層技術を使用した三次元チップである」と彼は主張している。「明らかに、これはより広範なトレンドの始まりにすぎないが、しかし三次元チップは今日一般的に使われている。」

実際のところ、現在の三次元集積回路は極めてニッチな製品であり、DRAM、イメージセンサや少数のアプリケーションでの使用に限られている。フランス、リヨンのヨール・ディベロップメント社が実施した2008年の市場調査によると、2015年までに三次元デバイスがメモリ市場の約25%、それ以外の半導体市場の約6%を占めると予測されている。カーツワイルの言うとおり、今後数年間に三次元チップが広く普及するのは間違いない。しかし、現在既に普及しているという主張は、端的に誤りである。

また、カーツワイルは、コンピュータディスプレイが眼鏡に組み込まれ、ユーザの目に映像を投影するという予測を擁護している。なぜならば、このようなシステムは確かに存在するからだという。「この予測は、全てのディスプレイがこのようになるとも、多数を占めるとも、あるいは一般的であるとも主張しているわけではない。」同様に、「電話の翻訳ソフトウェアが「一般的に使われる」ようになり、異なる言語を通したコミュニケーションができるようになる」という主張について、2009年の終わりに登場したスマートフォンのアプリを取り上げて自身の主張を弁護している。どれほど「一般的」であるかについて、屁理屈を述べているようである。

「これまでのところ、私にはカーツワイルが正直に自身の誤りを認めていないように見える。私が思うに、彼がそうすることで利益を得ているからではないだろうか。」ブログ記事でアニシモフはそう指摘する。彼はカーツワイルを賞賛しているようだが、フューチャリストは自身の予測について責任を持つべきであるとも考えているようだ。

カーツワイルによる返信では、彼はフューチャリストとしての責任に賛同すると述べている。「しかし、このようなレビューはバイアスから自由で公平であるべきだ。選択バイアスを避け、言葉の用法と現在の現実の双方に対する近視眼的な解釈を避けるべきである。」それでも、アニシモフの反論を「近視眼的」と退け、法律家じみた字義解釈によって正確な言葉づかいをねじ曲げ、日常言語の意味に対するクリエイティブな解釈をもとに自身の主張を擁護することは困難であろう。

カーツワイルは開発中のテクノロジーについて熟知しており、テクノロジーがどのように相互作用しながら進んでいくかを深く洞察している。特に、短期的なトレンドについては正確である。彼は技術開発のトレンドを見極めており、その予測はとても刺激的だ。彼の話を聞き、また本を読む人々にとっては、おそらくそれで十分だろう。

一方で、ビジネスの失敗の主な原因はテクノロジー変化のタイミングを見誤ったことである、というカーツワイルの洞察が正しいのであれば、誰も厳密な意味で額面通りに彼の予測を受け取ることを望まないだろう。10年前の90年代中に、サイバネティック運転手やリアルタイム音声翻訳の普及に依存する製品やサービスを市場に投入しようと考えた人は、問題に陥っている可能性がある。

それでも、「収穫加速の法則」に対する揺るぎない自信によって、矛盾した事実や視点は一時的な不具合だと無視することができるだろう。1年後も、10年後も。永遠の真理によって支配されたテクノロジーの収穫加速が、その途中にある全てのものをなぎ倒し、人間の想像を超えたシンギュラリティへと進んでいくだろう。-- レイ・カーツワイルは、これまでも、これからも常に正しいのだ。

いずれにせよ、少なくとも今のところ、94.4%は。

*1:訳注:Palm Treo - Wikipedia

*2:訳注:シンギュラリティ大学は「大学」を名乗っているものの、大学として認定を受けていない私企業である

*3:訳注:全て、かつてアメリカに存在していたインターネット以前の商用パソコン通信サービス

*4:訳注:2010年10月にカーツワイル自身による予測の評価が公開されている。http://www.kurzweilai.net/images/How-My-Predictions-Are-Faring.pdf

*5:訳注:上述の通り、本記事公開後に公表された

カーツワイル氏の将来予測についての考察

以前の2つの記事で、私は1999年時点でのカーツワイル氏による2009年、2019年の予測を検討しました。

全体を通して予測の印象を述べると、以下の通りです。

  • コンピュータ関連のテクノロジー自体に関する予測は先見の明がある
  • テクノロジーの使われ方に関する予測は、必ずしも正しいとは言えない
  • テクノロジーの「発明」と「普及」の間にある隔りを無視している
  • 臨床医療についての予測はほとんど外れている
  • 政治、経済、社会の予測は考慮範囲が狭すぎる
  • 全体的にあいまいで時期予測は楽観的すぎる

 

続きを読む

カーツワイル氏の過去の予測を検証する ─ 2019年 (結果)

こちらは、フューチャリストレイ・カーツワイル氏が、1999年 (邦訳は2001年) の著書『スピリチュアルマシーン』の中で発表した、20年後 (2019年) の将来予測の検証です。

本文は、以下の記事をご覧ください。


概要

f:id:liaoyuan:20180317100007p:plain

注意事項

  • 予測文の区切りは、意味の区切りに従い私が独自に定めたものです。
  • 評価は、1 (正しい)、2 (やや正しい)、3 (判定不能/判断保留)、4 (やや誤り)、5 (誤り) の5段階の主観評価です。
  • 2019年はまだ「未来」であるため、私の判定自体にも予測が含まれます。約2年後の2020年時点で、もう一度予測の成否を判定してみたいと思います 。
続きを読む

カーツワイル氏の過去の予測を検証する ─ 2009年 (結果)

こちらは、フューチャリストレイ・カーツワイル氏が、1999年 (邦訳は2001年) の著書『スピリチュアルマシーン』の中で発表した、10年後 (2009年) の将来予測の検証です。

本文は、以下の記事をご覧ください。


概要

f:id:liaoyuan:20180311155323p:plain

注意事項

  • 予測文の区切りは、条件を合わせて比較するため、以前取り上げたスチュアート・アームストロング氏の区切りに従いました。
  • 評価は、1 (正しい)、2 (やや正しい)、3 (判定不能)、4 (やや誤り)、5 (誤り) の5段階の主観評価です。
  • 可能な限り、2009年時点の技術レベルおよび社会情勢に基づいて評価するように試みましたが、現在2018年時点における技術開発、社会情勢の変化も含めて評価しています。
続きを読む

書評:来世としての『全脳エミュレーションの時代』(ロビン・ハンソン)

 

全脳エミュレーションの時代(上):人工超知能EMが支配する世界の全貌

全脳エミュレーションの時代(上):人工超知能EMが支配する世界の全貌

全脳エミュレーションの時代(下):人工超知能EMが支配する世界の全貌

全脳エミュレーションの時代(下):人工超知能EMが支配する世界の全貌

 

著者のロビン・ハンソン氏は、現在では経済学の教授を務めていますが、物理学と哲学の修士号も持ち、ロッキード社とNASA人工知能開発のキャリアを積んだ後、社会科学の博士号を取得したという多彩な経歴を持つ人物です。本書『全脳エミュレーションの時代 (The Age of Em: Work, Love and Life when Robots Rule the Earth)』は、いわゆるポストヒューマニズム/トランスヒューマニズムものであり、現在の人類の後継者となる未来の超人類「エム」の姿とその社会や経済について、学際的な視点からの「予測」を試みた本です。

 

ハンソン氏の主張の中で特に際立っている点は、他のシンギュラリタリアンやトランスヒューマニストとは異なり、いわゆる「汎用人工知能」の実現可能性と、知能爆発型のシンギュラリティ仮説に対して極めて懐疑的であることでしょう。プログラマによってハンドコーディングされた「汎用人工知能」の実現はきわめて困難であり、過去の進捗状況を外挿すると、人工知能の実現までには400年から800年を要するかもしれないと述べています。

そこで、ハンソンが超知能の出現方法として想像している方法が、本書の邦題でもある「全脳エミュレーション」あるいは「マインドアップローディング」です。マインドアップローディングは近い将来 (1世紀以内) にも可能となり、脳エミュレーションをベースとしたソフトウェアである超知能「エム」が未来社会を形作るのであると主張しています。

これは、極めて奇妙な主張であると感じます。私自身は、汎用人工知能はいずれ実現してもおかしくない (ただし、現在想像されているよりもはるかに時間を要するだろう) と考えていますが、マインドアップローディングは遠い未来に渡ってもほぼ実現不可能であると、かなり強く確信しています。

 

既に本書の過去の連載でその理由を説明しましたが、ここで簡単にポイントを要約します。

まず第一に、マインドアップローディングの提唱者は、脳の情報処理機構がニューロンシナプスといった細胞レベルの構造に存在すると主張する傾向にあります。けれども、私は脳の情報処理機構は細胞にではなく分子のレベルにあり、完全な「アップロード」のためには分子レベルの構造を再現する必要があると考えています。

その傍証は、体内の分子が論理回路として動作することを示す研究があること、神経細胞を持たない単細胞生物も原始的な知能や記憶の存在を示すこと、人間のような多細胞生物も進化の過程を通して分子の情報処理機構を保持し続けていることです。

生物の情報処理機構が分子レベルに存在するならば、その動作を再現できるハードウェアも、エミュレーションに必要な初期状態を取得できる脳の測定手法、あるいは分子機械も、妥当な将来の技術進歩のはるか範囲外にあります。

第二に、人間の精神活動と脳機能においては、明確な抽象レイヤーが存在しないことです。

上記の通り、分子レベルの情報処理は人間の精神活動において本質的な役割を担っていると考えられます。そのため、分子レベルの情報処理を抽象化して扱うことはおそらく不可能です。天気予報のシミュレーションにおいて大気の分子を統計的に扱うこと、あるいは論理回路の設計において半導体の物性を無視できることとは異なります。なぜならば、人間の脳は進化の産物であり、その情報処理においてはハードウェアとソフトウェアの処理が密接に絡み合っているからです。

第三に、仮に前提となる技術開発がなされたとしても、マインドアップローディングの成功判定という哲学的な問題が残ります

全く処理方法の異なるハードウェアに脳を移し替えた場合、コピーしたファイルの差分や同期を取るようにして成功を判定することはできません。また、精神疾患患者が自身の異常性を認識できない(病識がない)場合があるように、アップローディング被験者自身ですら主観的に自分自身の異常を検知できない可能性もあります。被験者の内観と自己申告ですら信頼できないという問題は、たとえ脳の一部を少しずつ人工物に入れ替えていくといった方法を取ったとしても解決できません。

どんな手法、指標、タイムスパンで成功判定ができるのか定義できない限りは、人間を対象とした臨床実験としてマインドアップローディングを実施できる可能性は完全にゼロです。


そしてもう一点、ハンソンは現在の社会科学がほぼそのまま「エム」の社会に対しても適用できると主張しており、社会科学をベースとして「エム」社会の組織、労働、政治、経済などの予測を試みています。他のトランスヒューマニストは、超知能の出現は「特異点」であり、その後は予測不可能であると (ある意味潔く) 放棄していることと比較すると、この点もハンソンの特徴的な議論と言えます。

けれども、社会科学の観点からも「予測」に説得力があるとは感じませんでした。

とりわけ問題含みと思われるのが、「狩猟採集民」「農民」の価値観の二分法です。ハンソンは、人類の価値観は、個人主義的、自由主義的でリベラルな「狩猟採集民」から、集団主義的、権威主義的、保守的な「農民」へと移り代わってきたと主張しています。そして、現代の「工業」時代において一時的に「狩猟採集民」の価値観が復興したものの、「エム」の時代においては再び「農民」の価値観が支配的になるかもしれないと言います。「エム」は増殖が容易であるため比較的短期間にリソースを喰い潰し過酷な競争に陥り、ほとんどの「エム」の生活は最低生活水準近くまで落ち込み、一種の農奴、奴隷のような生活を送るとされているからです。

ところが、「狩猟採集民」がリベラルな価値観を持つという主張の実証的な根拠は乏しいと言えます。狩猟採集民は自らの歴史を書き残さず、有史時代において存在していた狩猟採集民のうちで周囲の「農民」から影響を受けていない集団はごく僅かであり、彼らの価値観を記録した「農民」の学者は自身の価値観からのバイアスを受けています。

考古学的な観点から言えば、「先史時代の平等主義的な小規模社会」という見方には疑問が示されています。たとえば、考古学者キャスリーン・キャメロンは、先史時代の小規模コミュニティにおいてすら集団襲撃、虐殺と (特に生殖可能な若年女性の) 誘拐が珍しいものではなく、捕虜として扱われる人が存在していたこと、捕虜の存在による権力偏在と富の蓄積が初期の都市国家を生み出す基盤となった可能性があることを示しています。

比較的史料が残っている「農民」時代と近現代の「工業民」の歴史を見ても、その価値観や社会制度はさまざまです。科学技術の点ではハンソンが極めてラディカルでドラスティックな進歩と変化を予測していることを考慮すれば、社会科学的な方法論がほぼそのまま適用可能であるという主張には説得力がありません。

より端的に言えば、ソフトウェア化され自分自身の改造すら可能な「エム」が、何故旧来の人間の価値観に縛られると考えているのか、理解できませんでした

 

全体を通して見れば、前提となる技術的・社会科学的な根拠は極めて疑わしく、ハンソンの詳細かつ緻密な未来予測は成功していないと考えます。


未来予測ではないとすれば、この本は一体何なのでしょうか? 私は、この本は来世を描いた本であると捉えました。

マインドアップローディング劇的な寿命延長の実現可能性は著しく過大評価され歪められていること、その裏に人間の不死を望む感情があることを、これまでにも指摘してきました。そして、本書の中でハンソン自身もクライオニクスの予約者であることを述べています。クライオニクスとは、将来のテクノロジーの進歩による復活を期待し、死体を冷凍保存する技術 (あるいは、ちょっと風変わりな新興宗教に基づいた遺体の埋葬儀礼) です。

論拠の怪しさと、にもかかわらずその「社会予測」のディテールを考えると、これはハンソンが信仰し、ハンソン自身が生きる (ことになると信じている) 来世の姿であると考えると納得ができます。

ハンソンの描く「来世」のあり方は、伝統的宗教の天国とは多くの点で異なっています。労働環境や経済競争は厳しく、純粋な知性のみに基いた超能力主義社会であり、計算能力を購入して自身の動作速度を向上させられる少数のエリート以外は、数兆人のエムがかつての農奴のような生活を送るのだと言います。

 

このような「来世」の姿は、現代社会のいかなる状況を反映しているのだろうか、と考えざるにはいられません。

未来予測をどう読むか

これから先の記事で、カーツワイル氏による過去の将来予測を取り上げ、彼の「収穫加速の法則」を元にした予測の精度を検証してみたいと考えています。ただし、本題に入る前に、未来予測の検証において、注意しておくべきことを挙げたいと思います。(これには自戒の意味もあります)

  • 予測の一部だけを取り上げない
    カーツワイル氏による2009年、2019年の予測は、かなり分量が多いものです。そのため、発言の一部だけを恣意的に取り上げれば、当たっている、または外れていると主張することができてしまいます。未来予測を評価する際には、発言の一部分だけを取り上げるのではなく、予測の全体を通した印象あるいは正答率を元にして検討する必要があると考えます。(これは、肯定派・懐疑派双方共に言えることです。)

  • 後知恵バイアスに注意する
    『スピリチュアル・マシーン』におけるカーツワイル氏の予測は、2018年現在時点から見れば、ごく当たり前のことを言っているようにしか聞こえないものもあります。たとえば、2009年の予測、「人々はおもにポータブル・コンピュータを使っている。」「ほとんどのポータブル・コンピュータにはキーボードがない。」といった予測などが挙げられます。これらの予測は瑣末で当然だとして、低い評価を下す人もいます。けれども、1999年時点ではこれらの予測は「ごく当然」であるとは言えなかったはずです。現在時点での知識を元に、過去の予測を「瑣末なものでしかない」と切り捨てることは避けなければいけません。

    何かが起こった後で、それは予測可能だったと考えてしまう傾向は「後知恵バイアス」と呼ばれています。
    一方で、また別の方向への後知恵バイアスも存在します。外れた予測に対して、「予測の方向性は正しい」、「本質的には正しい」という擁護がなされることがありますし、実際にカーツワイル氏の自己評価の中にもこのタイプの自己弁護が見られます。一例を挙げれば、2009年には「ほとんどの人が少なくとも10個のコンピューターを身につけており、それらは「ボディーLAN」でネットワーク化されている」という予測が挙げられるでしょう。この予測は、文字通りに捉えれば正しいとは言い難いものですが、「スマートフォンには10個以上の機能が搭載されているから、本質的には予測は正しいのだ」という擁護がされることがあります。

    けれども、時間の経過後でないと理解できず、後の時代において何らかの解釈を必要とする言葉は、将来予測として意義があるとは言えません。これもまた別種の「後知恵バイアス」であり、未来予測の帰結を評価する際には注意するべきものです。

  • あいまいさに注意を払う
    カーツワイル氏の予測を注意して読んでみると、予測のほとんどは定量的ではありませんし、「多くの」、「日常的に」といった量を表す修飾語や現在進行形が頻繁に用いられており、かなりのあいまいさが含まれています。
    実際、カーツワイル氏自身が発表した2009年時点の予測の振り返りの中でも、「メガネに組み込まれたコンピュータ・ディスプレイも使用されている。」という予測に対して、「私はこの種の技術が普及するとも一般的になるとも言っていない」という言い訳が使われています。これらの予測を都合良く解釈するのではなく、あいまいさが存在していたということを認識し明らかにする必要があります。

  • タイミングは重要である
    カーツワイル氏自身が何度も述べている通り、技術の未来予測において時期は非常に重要です。早すぎれば技術は普及せず、遅すぎれば利益を失います。また、失敗した予測に対して「今後実現する可能性がある」と言って時期を後倒しすれば、予測が外れたことを認めずいつまでも判断を先延ばしすることができるでしょう。
    特に、カーツワイル氏の予測手法において、そして「2045年にシンギュラリティを迎える」という予測などにおいても、テクノロジーの指数関数的な成長をベースとした方法を採っているため、方向性のみならずタイミングも予測成否に対する判定の重要な要素であると考えます。
    (ただし、2019年の予測はまだ「未来」のことであるため、私の判定自体にも予測が含まれます。約2年後の2020年時点で、もう一度予測の成否を判定してみたいと思います)


総合的には、以前にも取り上げたアームストロング氏が言う通り、未来予測もまたコミュニケーションであると言えます。未来の予測は、発表の時点で同時代の人々に理解され、何らかの行動や対策に繋げられてこそ意味があります。極端な例を挙げれば、ノストラダムスの謎めいた四行詩を後から解釈した「予言」のように、その時点では何を言っているのか理解できず、事象が起きた後でしか理解できない「予測」は無意味です。

端的に言えば、正確に予測を検証するためには、予測発表時点で読まれた通りに読む必要があります。

カーツワイル氏の過去の予測を検証する ─ 2019年

以下の引用は、フューチャリストレイ・カーツワイル氏が、1999年 (邦訳は2001年) の著書『スピリチュアルマシーン』の中で発表した、20年後 (2019年) の将来予測です。

予測の評価結果は、以下の記事をご覧ください。

 

 

コンピュータ

コンピュータはほとんど目に見えない。壁、テーブル、机、椅子、衣類、宝石、そして身体など、いたるところに組み込まれている。

 

人々はごく普通にメガネやコンタクトレンズに組み込まれた三次元ディスプレイを使用している。この「ダイレクト・アイ・ディスプレイ」はきわめてリアルな仮想環境をつくり出し、それを「現実の」環境上に投影する。このディスプレイ技術は、人間の網膜に直接イメージを投影するものだ。そのイメージは、人間の視覚感度の限界を超えるぐらい高品位なため、視覚障害の有無とは関係なく広く利用されている。

ダイレクト・アイ・ディスプレイには、つぎの3つのモードがある。

1. ヘッド追従モード
(...)
2. 仮想現実重ね合わせモード
(...)
3. 現実環境遮断モード
(...)
[引用注 : 詳細説明は省略。現在、1.はいわゆる三次元仮想ディスプレイ、2.は拡張現実(AR)、3.は仮想現実(VR)と呼ばれているもの]

 

この工学的レンズに加えて聴覚的「レンズ」もある。これは三次元環境の特定の場所に、正確に高品位の音を流す。メガネに組み込んだり、宝石として身につけたり、耳管に移植したりすることができる。

 

キーボードはまだ存在するが、ほとんどお目にかからない。コンピュータとの対話は、おもに手、指、顔の表情によるジェスチャーや、自然言語を使った双方向の会話をとおして行なわれる。つまり、われわれが言葉や仕草で人間のアシスタントとコミュニケーションを取るのと同じ方法で、コンピュータとコミュニケーションを取る。

 

コンピュータ・アシスタントの「人格」がかなり注目されている。ユーザーは、自分自身を含めた実在の人物をモデルにしたり、または有名人、友人、同僚などの特徴を自由に組み合わせてモデルにしたりして、コンピュータ・アシスタントに人格をもたせることができる。

 

人々は特別な「パーソナル・コンピュータ」をたった1台もっているわけではない。とは言え、コンピュータはひじょうにパーソナルである。コンピュータと超広帯域幅の通信装置はいたるところに埋め込まれている。ケーブル類はほとんどなくなった。

 

4000ドル (1999年のドル価) のコンピュータの計算能力は、人間の脳 (毎秒2000万x10億回の計算) とほぼ等しい。すべての人間の脳の全計算能力と、コンピュータを足し合わせると、そのうちの10パーセント以上を非人間の計算能力が占めることになる。

 

回転型記憶装置をはじめとする電気機械的なコンピュータ装置は、いまや完全に電子的な装置と置き換わっている。三次元のナノチューブ格子が、コンピュータ回路の一般的な形である。

 

コンピュータによる計算の大半が、大規模に並列的なニューラルネット遺伝的アルゴリズムに使われている。

 

スキャニングを基本にした脳の逆工学が目覚しい進歩を遂げている。脳は数多くの専門化された領域からなっており、それぞれが独自の構造をしたニューロン間結合をもっていることがよく理解されている。また、脳の大規模に並列的なアルゴリズムが解明されはじめており、それらの成果がコンピュータを基礎にしたニューラルネットの設計に応用されている。どの領域のニューロン間結合も遺伝情報によって規定されてはいないこと、また、遺伝情報がセットしているのは急速な進化のプロセスであって、その中でニューロン間結合が決まり生存競争が繰り広げられることが認識されている。コンピュータにおけるニューラルネット結合の標準的なプロセスも、同じような遺伝的・進化的アルゴリズムを使っている。

 

量子ベースの回折装置を使用した、コンピュータ制御の新しい光イメージング技術によって、ほとんどのレンズが、どんな角度の光も検出する小さな装置に取って代わる。こうした針の頭ほどのカメラが、いたるところにある。


ナノ・エンジニアリングによる自律的マシーンはみずからの動きを制御することができ、かなりの計算エンジンを有する。こうしたマイクロ・マシーンは、とくに製造業やプロセス制御において商業的に応用されはじめたが、まだ主流にはなっていない。

教育

ハンドヘルド・ディスプレイはひじょうに薄く、高品位な画像、そして重さはわずか数十グラムだ。人々は文書をこのハンドヘルド・ディスプレイで読むか、さらに一般的には、いまやどこにでもあるダイレクト・アイ・ディスプレイを使って、仮想現実に文章を投影して読む。紙の本や文書はほとんど利用されない。20世紀の重要な紙文書はほとんどがスキャンされ、ワイヤレス・ネットワークを通じて入手できる。

 

学習はほとんど、インテリジェント・ソフトウェアによる模擬教師を使って行なわれている。人間の教師が教える場合も、教師は生徒の近くにいない場合が多い。教師は学習や知識の源というよりも、助言者やカウンセラーの役割を担っている。

 

生徒たちは、アイデアを交換したり交友を深めるために集まるが、じつはこの集まりでさえ、物理的、地理的に離れている場合がしばしばある。

 

すべての学生がコンピュータを使っている。コンピュータはどこにでもあるので、自分のコンピュータをもっていなくてもまず問題はない。

 

労働者のほとんどは、新しい技能と知識の習得のためにかなりの時間を割いている。

障害者

視覚障害者は、メガネ型のリーディング・ナビゲーション・システムを使用している。このシステムには、デジタル制御された新しい高分解光センサーが組み込まれている。これを使うと、現実世界のテキストを読むことができる。ほとんどの文書が電子的になり、印字文朗読はそれほど必要とされていない。このシステムのナビゲーション機能は10年ほど前に登場したが、完全に実用化されている。こういった自動リーディング・ナビゲーション・アシスタントは、音声と触覚インジケーターを通じて視覚障害者に文章内容に伝える。このシステムは視覚世界を高画質で映し出すので、視覚障害者以外の人にも広く利用されている。

 

網膜や視覚神経の移植が行なわれるようになったが、まだいくつか制限があり、少数の視覚障害者にしか利用されていない。

 

聾唖者は、聴覚障害者用レンズ・ディスプレイを通して話の内容を読む。また、音楽のような別の聴覚体験を視覚的・触覚的に解釈するシステムもある。ただし、このようなシステムが健聴者に匹敵するほどの聴覚体験をどの程度提供できるかどうかは、さまざまな議論がある。聴力を向上させるための蝸牛殻やその他の移植がひじょうに効果的で、広く行なわれている。


両下肢や四肢を麻痺している人々が、コンピュータ制御の神経刺激装置や外骨格ロボット装置によって歩いたり階段をのぼったりしている。

通信 (コミュニケーション)

物理的距離に関係なく、だれとでもあらゆることができる。これを可能にする技術は使いやすく、どこにでもある。

 

「電話」にはダイレクト・アイ・ディスプレイと聴覚レンズにより投影される高画質の三次元イメージがついている。三次元ホログラフィ・ディスプレイも登場した。両者とも、相手が実際にそばにいるように感じることができる。解像度は人間の視覚と同等かそれ以上になる。相手が実際にそばにいるのかそれとも電子通信によって投影されているのか区別がつかない。「会う」という行為は、ほとんどの場合、実際に近くにいる必要はない。

 

日常的に利用できる通信技術に質の高い会話翻訳があり、ほとんどの主要言語の組み合わせが可能だ。

 

本、雑誌、新聞、ウェブの文書などを読む、テレビや映画のような三次元動画を観る、三次元テレビ電話をかける、一人または地理的に離れているだれかと一緒に仮想環境に入る、あるいは、これらを組み合わせる ─ こうしたことは、すでに日常となっているコミュニケーション・ウェブをとおして行なわれる。ただし、何か特別な機器や装置は必要ない。身に着けているもの、移植されているもの、それだけで十分だ。

 

体全体を包み込む触覚環境が広く利用されており、できもよい。その感度は人間の触覚に並ぶか、それを上回る。この触覚環境は、圧力、温度、手ざわり、湿気など、あらゆる種類の触覚刺激をシミュレートする。視覚的・聴覚な仮想環境においては、ダイレクト・アイ・レンズや聴覚レンズなど、身に着けたり体内に組み込まれた装置のみが必要となる。

 

これに対して完全な触覚環境を体験するには、仮想現実ブースに入らなければならない。これらの技術は、健康診断や、本物の人間のパートナーや仮想パートナーとの性行為などによく使われている。性行為については、快感やさらに安全性が高まるという理由で、人間のパートナーがたとえそばにいても好まれる。

ビジネスと経済

急速な経済発展と繁栄がつづいている。

業務のほとんどに模擬人間がかかわっている。この模擬人間の特徴は、リアルなイメージ・キャラクタ、そして高度な自然言語処理を用いた双方向コミュニケーションである。業務に人間がかかわっていないことも多い。担当者は業務を自動アシスタントに代行させて、別の自動アシスタントとやりとりさせている。これらのアシスタントは自然言語を省略し、業務と関連する知識構造そのものを直接やり取りしている。

 

掃除などの雑用をこなす家庭用ロボットは、いまや広く普及し、頼りにされている。

 

自動運転システムは高い信頼性を得ており、そのシステムはほとんどすべての道路に設置されている。一般道路でなら人間が運転することも許可されてはいるものの (高速道路では許可されていない)、自動運転システムはつねに関与しており、事故回避が必要なときは、自動運転システムが介入するようになっている。

 

マイクロフラップ (小型の下げ翼) を利用した効率的な自家用飛行機が実証されており、おおむねコンピュータで制御されている。交通事故はまれにしか起こらない。

政治と社会

人々は「自動パーソナリティ」の友人、教師、管理人、恋人とかかわるようになっている。この自動パーソナリティは、いくつかの点で人間よりも優れている。たとえば、ひじょうに信頼性の高い記憶力をもっており、希望すれば、予測したりプログラムしたりすることも可能だ。機微という点では、人間ほどではないと見られているが、見解はさまざまだ。

 

機械知能の影響に対しては、人々に何かしらの不安のようなものがある。人間と機械知能には依然として異なる部分があるが、人間の知能の方が優れていると明言するのは難しくなっている。コンピュータ知能は文化のメカニズムに完全に組み込まれている。表面上は人間の指示に従うよう設計されており、人間の業務や意思決定においては、最初は完全に知能機械に依存していたとしても、法律により人間が責任をもつよう決められている。しかし現実には、機械知能の多大な関与と助言なしに意思決定がなされることはほとんどない。

 

公共の場もプライベート空間も、暴力事件がおこらないよう機械知能によって監視されている。人々は解読不能な暗号技術を使って自身のプライバシーを守ろうとしているが、各個人の実際の行動は、どこかにあるデータベースに保存されており、プライバシーの問題は依然として大きな政治的・社会的問題となっている。

 

下層階級の存在も、なお大きな問題だ。経済を大きくゆがめることなく、基本的に必要なもの (とりわけ、安全な住まいと食料) を提供するだけの経済的繁栄はあるものの、責務と出世という古くからある論争は、あいかわらず存在している。この問題を複雑にしているのが、大半の仕事が従業員の学習と技能習得にかかわっているという、徐々に表面化しつつある問題だ。つまり、「生産的に」従事している従業員とそうでない人との区別が、必ずしも明確でないということである。

アート

すべての分野に仮想アーティストが登場し、人々もそれを真剣に受け入れている。これらサイバネティック・ビジュアル・アーティスト、サイバネティック・ミュージシャン、サイバネティック作家は、たいてい、各知識ベースやテクニックに貢献した人間や組織と密接に結びついている。しかし、こうした創造的マシーンがつくる作品への関心は、マシーンが創造的であるという物珍しさの域をすでに超えている。

 

人間のアーティストによる美術や音楽、文学作品は、ほとんどが人間と機械知能との共同でつくられている。

 

一番需要の多いアートとエンタテイメント関連の製品は依然として仮想体験ソフトであり、それらは現実の体験をシミュレーションするものから、この世にはほとんど存在しない、あるいはまったく存在しない抽象的環境をシミュレートするものまで、さまざまある。

戦争

国家の安全に対する第一の脅威は、解読不可能な暗号技術を使用して人間と機械知能を合体させるいくつかの小集団からくる。そうした脅威には、

1. ウイルス・ソフトを使いながら公的な情報チャネルの破壊
2. 生物工学的につくりだされた病原体

などがある。

 

ほとんどの飛行兵器はひじょうに小型だが(昆虫ほどの大きさのものもある)、さらにミクロの飛行兵器も研究されている。

健康と医療

ヒトゲノムに暗号化されている生命のプロセスの多くは10年以上前に解読されたが、現在おもにそれらは、老化現象の、あるいはガンや心臓病のような変性症状の根底にある、情報処理メカニズムとともに理解されている。最初の産業革命(1780年〜1900年)と二番目の第一期(20世紀)の結果として、人間の寿命は40歳弱からほぼ2倍に伸びたが、現在ふたたび大きく伸び、100歳を超えている。

 

生物工学技術の広範な普及による危険性が、次第に認識されつつある。大学院生と同程度の知識と能力さえあれば、潜在的に大きな破壊力をもつ病原体をだれでもつくることができる。そうした危険性は、生物工学による抗ウィルス治療の恩恵を考えれば、ある程度相殺されるとする考えが不安をまねいている。

 

急性・慢性の両症状を診断してくれる、コンピュータ処理によるヘルス・モニターが広く利用されている。このモニターは、腕時計、宝石、衣服などに組み込まれており、診断だけでなく、治療や処置のさまざまなアドバイスもする。

哲学

コンピュータがチューリングテストに合格したという報告が相次いでいるが、有識者がつくった基準 (人間による判定の緻密さ、インタビュー時間の長さ、等々に関する基準) を満たすまでにはいたっていない。コンピュータは未だ有効なチューリングテストに合格していない、という合意があるが、これに関していま議論が高まりつつある。

 

コンピュータ知能の主観的経験が真剣に論じられているが、機械知能の権利については大きな議論になっていない。機械知能は依然として人間と機械との共同の産物であるが、それをつくり出した人間への従属関係を維持するようにプログラムされている。

 

スピリチュアル・マシーン―コンピュータに魂が宿るとき

スピリチュアル・マシーン―コンピュータに魂が宿るとき