製薬業界の反特異点

新薬の開発は、2329年には完全に停止します。

製薬業界の研究開発コストに対するリターンは、過去60年間、定常的に指数関数的に低下し続けてきました。シェフィールド大学物理学科教授リチャード・ジョーンズ氏によると、西暦2339年には1件の新薬開発に要するコストが (2013年時点での) 全世界のGDPを超えてしまい、新しい薬品を作ることが完全に不可能となってしまうのだそうです。

2010年までに、失敗に終わった新薬開発の費用を含めて、1つの新薬を開発するために平均で21億7,000万ドルの研究開発費用が費されていました。新薬開発の費用は、収穫加速の法則よりはむしろプランクの原理に従っており、1950年以来、1年に7.6%の割合で指数関数的に増加しています。単純計算では、9〜10年で新薬開発に要する費用が倍になるということを意味します。

もちろん、(ジョーンズ氏自身が認めている通り)、こんな外挿は馬鹿げていますが、根底にある問題は深刻です。

過去60年の間には、半導体に対するムーアの法則が完全に機能しており、情報処理の速度は凄まじい勢いで発展し続け、バイオインフォマティクスという新分野も誕生しました。生命科学、バイオテクノロジーそのものについても、ヒトゲノム計画の完了、遺伝子組み換えからゲノム編集に至るまで、革命的な進歩がありました。

情報テクノロジーと化学、生命科学の全ての進歩にもかかわらず、製薬業界では、研究開発の加速度的な低下が続いており、新薬の開発や人間の健康そのものには、必ずしも繋っていません。

後の8章でカーツワイル氏の過去の予測を検証する際にも取り上げるつもりですが、人間の寿命 (余命) に関するカーツワイル氏の予測は、過去20年程度を通してことごとく外れ続けており、やはり指数関数的な向上は全く見られません*1。

もちろん、製薬業界や医療において将来新たなイノベーションが発生し、何らかの形で指数関数的な加速がいずれ始まる可能性は否定しません。けれども、過去の実績を確認する限りにおいてはむしろこの分野の研究開発は減速しており、シンギュラリタリアンに倣って過去の結果を未来へと外挿するのであれば、将来を必ずしも楽観することはできません。

ここから私たちが学び取らなければならないことは、あらゆるテクノロジーが一様に指数関数的に進歩しているわけではないということです。

宗教家であり、文明批評に関する著作もあるジョン・マイケル・グリアは、次のように述べています。

“There’s no such thing as technology in the singular, only technologies in the plural.”
「単数形のテクノロジーなどというものはない。存在するのは、複数形のテクノロジー(たち)だけである。」 

過去半世紀の半導体のように、一部では目覚しい指数関数的な速度で進歩するテクノロジーも存在していることは確かです。けれども、たとえば航空機の速度のように成長の速度が穏やかになった技術、医薬品や人間の寿命のように指数関数的に減速しているもの、原子力や核融合発電のように、歩みを止めたどころか後退しているようにさえ見えるテクノロジーも存在しています。

「あらゆるテクノロジーの情報化による指数関数的成長」などという空疎なたわ言を口にするのを止め、どのようなテクノロジーが存在しており、それぞれがどんな速度で進歩しているのか、どのような分野へどれだけの投資が必要であるのか、定量的に議論する必要があると言えます。

参考文献

• Decelerating change in the pharmaceutical industry – Soft Machines

*1:未来学者レイ・カーツワイル氏の不老不死に関するでたらめな予測

遺伝子改造によるトランスヒューマン誕生

近年のシンギュラリティに関する議論ではほとんど注目されることはありませんが、ヴァーナー・ヴィンジ氏が1993年に提唱したシンギュラリティ論においては、いわゆる汎用人工知能の発明以外にも、薬剤や遺伝子工学による人間の知能増強が、シンギュラリティを引き起こす仮説上の超知能の発生方法として提唱されていました。

近年では、CRISPR-Cas9など、生物のゲノムを人工的に操作し、人為的に意図した通りに単独の遺伝子を編集する技術が開発されています。既に2015年には、中国でヒトの受精卵に対するゲノム編集が行なわれています*1。(ただし、これは純粋な学術実験であり、妊娠・出産を目的としたものではありません)  2017年現在のゲノム編集技術からすると、明日にでもゲノム編集を受けたデザイナーベビーが妊娠中である (または既に誕生した)、というニュースがあってもおかしくありません。

もちろん、この種のゲノム編集技術が潜在的に非常に大きな可能性と脅威を秘めており、技術的な問題のみならず倫理的な価値判断と社会制度の設計まで含めた広範な議論が必要であることは確かです。けれども、ことシンギュラリティ論に限った観点から言えば、現実的な意義と脅威はそれほど大きくありません。端的に言えば、人間を人工的に強化できるほど遺伝学の知見は進んでいないということ、そして、この種の手法の効果と副作用の検証には、人間の寿命のタイムスパンを要するからです。

現在では、重篤な疾患を発生させる単独の遺伝子欠損については、ある程度の知識が蓄積されています。けれども、たとえば知能の増強、身体的能力の向上、外見的な美貌の向上などについては、単独ないし少数の遺伝子のみの作用で可能であるという根拠はありません。

現代の生物学では、ゲノムは単一で働くものではなく、ネットワークを形成しその中で複数の役割を担っているという理解が一般的になっています。それゆえ、その中に特定の身体や知能の形質形成において特異的に関わるような専用の遺伝子が存在している、と考えるのは困難です。更には、遺伝子の発現においては、身体 (それ自体が多数の遺伝子が協調して働いた結果の産物) と環境からなる複雑な相互作用が影響していると考えられています。

近年の生物学の研究により、かつて考えられていたように遺伝子に特権的な役割を認める見方は揺らぎ始めています。たとえば、米イリノイ大学のジーン・ロビンソン教授の研究によると、気性が穏やかなイタリアミツバチの幼虫を、キラー・ビーと呼ばれる人を刺し殺すこともある獰猛なミツバチの巣に移して育てさせると、イタリアミツバチも獰猛な性格を持つようになったことが報告されています*2*3。

ここでは、ミツバチの攻撃性に作用するタンパク質を生成する遺伝子が、周囲の「養親」であるキラー・ビーの警戒フェロモンが引き金となって働き始めたことが示されています。遺伝と環境との間に介在する仕組みは、「エピジェネティクス」と呼ばれ、近年では活発に研究が進められています。人間の身体や知能についても同様に、身体や知能の何らかの一つの要素をつかさどる特定の遺伝子が存在すると前提する見方は、無根拠に認めることは困難です。

更に言えば、仮に動物実験や理論研究によって何らかの「増強遺伝子」が発見されたとしても、それをヒトの受精卵 (あるいは成人) に適用した上で、致命的な障害が発生せず、意図した通りの効果を得ることができると検証するためには、少なくとも人間の寿命のタイムスパンに渡る試行錯誤、多数の被験者に対する追跡調査と統計的なデータの処理が必要になります*4。一般に、人間を対象とする医療処置の検証と許認可には長い時間を要し、医療目的以外の人間の強化などはそれ以上に長い時間を要することは、精神転送に関連するエントリでも述べた通りです。もちろん、(本質的ではありませんが) 安全性や倫理的な問題も存在します。けれども、たとえ安全性や倫理の問題を全く無視するような非人間的なマッドサイエンティストであったとしても、(少なくとも現状では) 細胞分裂の速度を早めることはできず、人間の成長を早めることは不可能です。

もちろん、実際問題としては、科学者や医師が倫理的問題を無視して研究を進めることは不可能であると考えられます。ヒトの遺伝子改変については、一般の倫理的な嫌悪感・忌避感がきわめて強く、既に各国で法規制が始まりつつあります。仮に、無許可で非医療目的でのヒトの遺伝子改変が行なわれたとして、患者や胎児が何らかの重大な障害を負った場合、民事上の損害賠償や刑事罰、病院や研究所の許認可や医師免許の剥奪といった行政処分、あるいは研究者コミュニティからの排除といったさまざま罰が研究者や医師に科される可能性はごく高いでしょう。(実際のところ、この種の議論は30年以上前に遺伝子組み換えの技術が開発された時から続いています)

スタンフォード大学の法学・生物倫理研究所所長であるハンク・グリーリー氏は、2015年のブログ記事で次のように述べています。

…非医療的な [訳注：遺伝子改変の] 需要は、少なくともかなりの期間は少ないままに留まるだろう。私は、ほとんどの人の本当の恐怖はこれだと考えている —すなわち、遺伝子改変された超人類である。しかし、何億ドルも研究費が費された後でさえ、我々が病理遺伝学について分かっていることは驚くほど少ない。そして、我々は「エンハンスメント[強化]」に関する遺伝学については、ほぼ何も分かっていない。

私は、非病原性の1つの対立遺伝子について、他のものよりも実質的な利点を与える可能性が高い単一の非病的形質に関して、自信を持って断言することができない。もちろん、将来には新たな発見が有りえるだろう。しかし、どれくらいの速さだろうか。私の考えは、どちらの場合においても、それほど速くはないというものだ。

…ヒトの生殖系列のゲノム編集については、長い間、激しい論争が続いている。どれくらいの数の将来の親が、どれほどの企業が、どれだけの病院が、それほどの小さな報酬のためにその論争を引き受けたいだろうか？

Of Science, CRISPR-Cas9, and Asilomar - Law and Biosciences Blog - Stanford Law School

 
最初に述べた通り、近年のゲノム編集技術の進歩は目覚しく、潜在的に大きな可能性と問題を秘めています。けれども、それが超知能人類を生み出すことはありません。仮にあったとしても、それは数百年、もしくは千年単位での遥か遠い遠い未来のことになるでしょう。

デザイナー・ベビー ゲノム編集によって迫られる選択

CRISPR(クリスパー) 究極の遺伝子編集技術の発見

*1:CRISPR/Cas9-mediated gene editing in human tripronuclear zygotes

*2:Honey bee aggression supports a link between gene regulation and behavioral evolution

*3:環境と遺伝子の間：あなたのエピジェネティクスは常に変化している｜WIRED.jp

*4:もちろん、人体実験で基礎実験を行うことはあり得ないでしょうが一種の思考実験です

翻訳：カーツワイル氏による科学論文の不正確な引用

以下はイギリス、シェフィールド大学物理学科教授リチャード・ジョーンズ氏のブログ Soft Machines の記事 "Brain interfacing with Kurzweil" の翻訳です。

シンギュラリティ大学におけるレイ・カーツワイル氏のやや誇張された計画について [訳注：ジョーンズ氏の過去記事コメント欄にて] 進行中の議論において、私はもう一度彼の本『シンギュラリティは近い』を読み返すように薦められた。また、ダグラス・ホフスタッター氏のやや侮蔑的なコメント、ガーディアン紙上で公表され私も以前の記事で引用した文について、その全ての文脈を見返すようにも薦められた。ホフスタッター氏の発言は、このインタビューで読むことができる。[リンク切れ]

「それは確実で優れたアイデアと狂ったアイデアの奇妙な混合物である。まるで、素晴しい食事と犬の排泄物を混ぜ合わせ、何が良くて何が悪いものであるか見分けられないようにしたもののようだ。それはゴミと良いアイデアの密接な混合物であり、その2つを分離することは非常に難しい。なぜならば、彼ら [ハンス・モラベックとレイ・カーツワイル] は賢い人たちであり、馬鹿ではないからだ。」

もう一度この本を見返してみると、ホフスタッター氏の指摘は適切だったということは明白である。難点の1つは、カーツワイル氏は現在の科学技術開発を数多く参照していることであり、ほとんどの読者はカーツワイル氏の技術開発に関する説明が正確であると信じていることだろう。しかし、あまりにも頻繁に、カーツワイル氏が論文から引き出した結論と、実際に論文が述べていることの間には大きな乖離が存在しているのだ。

これは、以前私の記事で説明した「約束の経済 (The Economy of Promises)」の極端な事例であろう。つまり、「将来のあいまいな可能性が、近い将来における確実な結果へと変換されてしまう」というプロセスである。

ここでは、ランダムに選択したものではあるが、重要な例を挙げよう。

カーツワイル氏の予測において、2030年には(私の版ではp.313) [日本語版 『ポスト・ヒューマン誕生』p.404]「ナノロボット・テクノロジーは、現実そのもの、完全に見る者を取り込むヴァーチャル・リアリティ空間を作りだす。」と予測されている。この予測の根拠は何だろうか。「既にニューロンと双方向で情報伝達する電子デバイスを作る技術があり、それは直接ニューロンと物理的に接触する必要はない。たとえば、ドイツのマックス・プランク研究所の科学者が開発している「ニューロン・トランジスタ」は、近くのニューロンの発火を検出するか、あるいは、発火を起こしたり抑止したりできる。これは、電子工学に基づいたニューロン・トランジスタとニューロンの間での双方向の情報伝達に等しい。」

この主張には脚注が記されており、科学文献に対する印象的な参照が示されている。唯一の問題は、参照された文献を読まないことには、カーツワイル氏が述べていることと、研究者が実際に行なったことが食い違っていると理解できないことだ。

「マックス・プランク研究所の科学者」とは、ペーター・フロムヘルツ氏を指している。彼は、神経細胞と電子デバイス -正確には電界効果トランジスタ(FET)- とのインターフェイスを積極的に研究している。私はこの研究について以前の記事 -脳チップ- で議論した。カーツワイル氏が引用している論文は、ウェイス氏とフロムヘルツ氏によって発表された論文である。(アブストラクト)

フロムヘルツ氏の研究では、確かにニューロンとトランジスタの双方向伝達が実証されている。しかし、明らかに、これはニューロンとの物理的な接触を必要としない方法ではない。ニューロンは、FETのゲートと直接接触している必要がある。また、これはin-situ [対象のトランジスタ上その場] でニューロンを培養することによって実現されている。つまり、この方法は特別に培養された2次元のニューロン網のみにしか使用できず、実際の脳に適用できる方法ではない。この方法がin-vivo [生体内] で機能するかは実証されておらず、実際にこの方法を生体で検証することも非常に困難だろう。

フロムヘルツ氏自身が述べている通り、「もちろん、バイオ電子ニューロコンピュータと電子的人工神経の夢想的な希望は避けがたいもので、また刺激的なものでもある。しかし、われわれは多数の実際的な問題を無視してはならない。」

(後略)

もちろん、カーツワイル氏は研究者ではなく、また彼の本は科学論文ではなく将来の予測と夢を記述したものであるため、論文の引用が不適切であるからといって直ちに信頼性が失なわれるということはありませんが、この主張がやや誇張めいたものであることは明白でしょう。

実際のところ、私自身でさえ、この種の恣意的で不正確な科学論文の引用による被害を受けたことがあります。

ネット上の有象無象の (消極的) シンギュラリタリアンから吹っかけられる議論を読んで私が奇妙に感じるのは、彼らの多くが自分自身で研究開発を進めるどころか公表された研究成果に自身でアクセス・読解し、調査する最低限の科学的素養すら欠いており、そもそも実際の科学技術研究のあり方と方法論に対してあまり関心も敬意も払っていないように見えることです。

おそらく彼らは、自分の希望的観測を満たす妄想の材料としてしか科学技術を見ていないのだろうと感じられます。

GNR革命： 生命、物質、情報

最近のシンギュラリティに関する議論ではあまり注目されることはありませんが、カーツワイル氏は、コンピュータと人工知能の進歩のみによってシンギュラリティという事象が発生すると主張しているわけではありません。

彼がG・N・Rと呼ぶ分野、すなわち遺伝子工学 (Genetics)、ナノテクノロジー (Nanotechnology*1 ), ロボティクス (Robotics*2 ) の3つの分野が同時並行で指数関数的に発展していくことによって、人間と社会の革命的な変化が進んでいくのだと主張しています。

以前のエントリで私が指摘した通り、カーツワイル氏が主張するあらゆるテクノロジーの指数関数的成長は現在のところ実証的には観察できず、指数関数的に成長しているものは情報テクノロジーに限られています。けれども、ここでは遺伝子工学は生命を、ナノテクノロジーは物質そのものを情報テクノロジーの配下に置き、指数関数的な成長を発生させようとする試みであると位置付けることができるでしょう。

ただし、ここで私は遺伝子工学とナノテクノロジーに関して、あまり詳細に取り上げるつもりはありません。

人工知能に関するカーツワイル氏の将来予測においては、「拡張されたムーアの法則」と「ヒトの脳のニューロン、シナプスの数」という、荒っぽくはあっても定量的な根拠が一応存在していました。けれども、遺伝子工学とナノテクノロジーの研究に関しては実証的な将来予測の論拠は存在しません。ただ「あらゆるテクノロジーが情報テクノロジーと融合する」という特に根拠のない信念をもとに、いずれ指数関数的な成長が始まると述べて、その原理をもとにして2005年当時の研究成果から将来への外挿を述べているのみです。この2つの分野で、実際に何が指数関数的に成長しているのか、どのような原理によって情報テクノロジーと融合するのか、いつ指数関数的な成長が開始されるのか、などはあまり明確に示されていません。

よって、ここで敢えて取り上げる必要がある論点はそもそも多くありませんが、いくつかの技術と将来予測の妥当性、また、ケヴィン・ケリー氏が思考主義と呼ぶ考え方、すなわち「知能が高い存在は、あらゆる問題を即座に解決することができる」という信念について検討してみたいと思います。

*1:ここでは分子レベルで物質を操作・製造する分子ナノテクノロジー Molecule nanotechnology (MNT) ないし分子機械を意味する

*2:ここでは単なるロボットではなく意識を持つ"強い"AIを指す

知能爆発派における超知能の出現について

シンギュラリティ論における重要な論点は、ひとたび汎用人工知能が作られると、何らかの形で「超知能」が発生し、それが科学技術や社会を高速で変化させることによって、予測不能かつ断絶的な進歩が起きるという仮定です。

前回のエントリでは、主にカーツワイル氏の説である「収穫加速派」における超知能について検討しました。

今回は、残りの「事象の地平線派」および「知能爆発派」における超知能の出現について扱います。この2つの派閥に分類されるシンギュラリティ論においては、だいたい以下のようなプロセスを通して「シンギュラリティ」が到来すると主張されています。

1. 超知能体の出現
   テクノロジーの進歩により、何らかの「人間よりも優れた超知能」を持つ存在が作り出される。
2. 超知能体による超々知能体の設計
   「人間よりも優れた超知能」を持つ存在は、「自身よりも更に優れた超々知能」を設計し、作り出すことができる。
3. 知能爆発と断絶的な進歩
   2.のプロセスが無限に繰り返され、超知能体が急速かつ自律的に成長することによって超越的な知能が出現し、現在の人間には理解不能で予測不可能な断絶的な進歩がもたらされる。

(実際のところ、「シンギュラリティ論」と聞いて多くの人が思い浮かべるのは、カーツワイル氏の説ではなくヴァーナー・ヴィンジ氏らが唱えたこちらのタイプではないでしょうか)

この一連の議論には、私にはあまり自明ではない仮定が含まれているように見えます。人間や人工知能が、自分自身よりも更に知能の高い人工知能を作り出すことが可能である、という仮定です。シンギュラリティに関する議論においては、この仮定は当然の前提として扱われていますが、実証的にも論理的にも、この仮定が成立するかどうかは検討する必要があります。

収穫加速派における超知能の出現について

シンギュラリティ論における重要な論点は、ひとたび汎用人工知能が作られると、何らかの形で「超知能」が作られ、それが科学技術や社会を高速で変化させることによって、予測不能かつ断絶的な進歩が発生する、という仮定です。

なお、この超知能に関する議論においては、以前に私が取り上げたユドコウスキー氏の分類における「事象の地平線派」および「知能爆発派」と、主にカーツワイル氏が唱える「収穫加速派」のそれぞれに対して別の議論が必要となります。

ここでは、まずカーツワイル氏の「収穫加速派」について扱います。

カーツワイル氏は「シンギュラリティ」を「生物学的な人間の脳の限界を、機械と統合された超越的な知能が超えていく点」とイメージしており、それは2045年に発生すると考えられています。

以前にも取り上げた通り、カーツワイル氏は、汎用人工知能の設計と実装について何ら具体的な方針を示していませんでした。ゆえに、2045年に出現するとされる「超知能」に関しても、それがどの程度のもので、いかなる性質を持つのかについても具体的な説明はありません。

「1年間に創出される知能は、今日の人間のすべての知能よりも約十億倍も強力 (パワフル) になる」という記述はありますが、実際のところ、この文章の意味は私にはよく理解できません。

カーツワイル氏が、人工知能に関する時期予測の前提としている仮定は、次の2つのものでした。

• 「拡張ムーアの法則」による計算能力のコスト効率の指数関数的な成長が、今後も継続されること
• 大脳新皮質のリアルタイムシミュレーションまたはエミュレーションに必要な計算力の見積り

この2つの仮定に基いて、カーツワイル氏は、2045年には1000ドルで購入できるコンピュータにより100億人の知能を再現できるようになる、と主張しています。つまり、ここで想定されているのは、知能の質的な拡大・向上ではなく、あくまで (人数的な意味での) 量的な拡大に過ぎません。

(拡張) ムーアの法則の成立や脳のエミュレーション・シミュレーションの実現可能性について、カーツワイル氏の根拠が薄弱であることは既に延々と述べてきた通りです。けれども、それらのことを棚に上げて、汎用人工知能が実現すると仮定したとしても、なお超越的な知能が出現するという主張の根拠は全く存在しないように見えます。ここで言われているのは、突き詰めれば知能の頭数が増えるということでしかないからです。

もちろん、量的変化が質的変化に転換する可能性は、完全に無いとは言い切れません。けれども、ネズミを何匹集めても群れ全体の知能は向上せず、ゴリラをいくら集めても人間の言語を理解できるようにならないのと同様に、人間のシミュレーションをいくら大量に高速で並列に動作させたとしても、人間を超える超知能が発生すると考える理由はありません。(カーツワイル氏は、亜光速での宇宙飛行などを可能にするような、全く新しい物理法則を発見できる、文字通りの意味で質の異なる「超知能」を想定しているのですから)

はっきりと言えば、カーツワイル氏の超知能に関する主張は、妄想、あるいは良く言ってもせいぜいが願望というべきものであり、全く科学的な考察に耐えないものであると言わざるを得ません。

ジェフ・ホーキンス氏のシンギュラリティ観

以前の記事で、私は2種類のシンギュラリティ、すなわち人間を超える超知能が作られる時と、超知能がテクノロジーを高速かつ断絶的に発展させる時を区別しました。

私は、第一のシンギュラリティは起きてもおかしくはない (ただし時期は分からない) けれども、本来の意味でのシンギュラリティというような事象が起きることは全くありえない、と考えています。

実際のところ、いわゆる汎用人工知能、人間と同等の人工知能の実現を目指し、研究開発に従事している人であっても、同様の見方をしている人は珍しくありません。

その中の一人が、ジェフ・ホーキンス氏です。ホーキンス氏はPDA (携帯情報端末) を開発したパーム社の共同創業者ですが、現在はGoogleに所属しているほか、自身で創業した人工知能企業であるヌメンタ社の代表を務め、人工知能に関する研究開発をしています。ホーキンス氏が開発したアルゴリズム「階層型時間メモリ (HTM)」は、汎用人工知能の研究に関して名前が挙がることも多いため、知っている人も多いかと思います。

さて、そのホーキンス氏は、2008年に科学雑誌IEEE Spectrumのシンギュラリティに関する特集の中で、以下のように発言しています。 

シンギュラリティを、『知能を持つ機械が知能を持つ機械を設計することで、極めて知能の高い機械が短時間の間に出現する時点、つまり、指数関数的な知能向上が起きる時』と定義するのならば、それは決して起こらないだろう。知能の大部分は、経験と訓練によって定義されるもので、脳の大きさやアルゴリズムによるものではない。またそれはソフトウェアを書くだけの問題でもない。知能を持つ機械は、人間と同じく、特定の領域での専門的なノウハウを訓練する必要がある。それには時間を要し、また機械に持たせようとする特定の知識に対して計画的な注目が必要となるだろう。

私は、テクノロジーに対して『シンギュラリティ(特異点)』という用語を使うことは好みではない。特異点とは、何かの値や指標が無限大となり、物理法則がもはや適用できない状態となることである。たとえば、ブラックホールの中心部における時空の曲率のように。私の知る限り、生物学やテクノロジーにおいては”特異点”は存在しない。たとえ、人間が新しいウィルス(生物学的なものであれ非生物的なものであれ)を創造し、地球上の生命全てを高速で死滅させたとしても、それはシンギュラリティではない。とても不幸な出来事であるけれども、それは特異点ではない。

『シンギュラリティ』という用語が人工知能に対して使われる時には、人工知能が自分自身よりも更に賢い人工知能を作ることができるようになり、人工知能の知能が指数関数的に成長することによって、知能が無限の (あるいは少なくとも極めて巨大な) 「特異点」に至ることを意味している。この考え方は、知能の本質に対する素朴な理解による信念に基いている。
アナロジーとして、自分自身よりも高速なコンピュータを設計できる (チップ、システムやソフトウェア) ようなコンピュータを想像してみよう。そのようなコンピュータが存在したら、無限に高速なコンピュータや、あるいは人間が作るいかなるコンピュータよりも高速なコンピュータが作られるだろうか。そんなことはない。そのようなコンピュータは、しばらくの間は改善の速度を加速させられるだろうが、結局のところ、コンピュータの大きさや速度には制限が存在する。我々も同じ場所に落ち着くだろう。多少は高速化できるかもしれないが、シンギュラリティは存在しない。

指数関数的な成長には、指数関数的な資源の消費 (物質、エネルギーや時間) を必要とする。そして、消費できる資源には常に限りがある。なぜ、人工知能に関しては限界が無いと考えるのだろうか? 我々は、人間よりも「知的な」機械を作るだろうし、それはすぐに起きるかもしれない。けれども、それはシンギュラリティではなく、知能の爆発的成長も存在しない。今日のコンピュータと同じように、未来の人工知能も多数の異なった問題に適用されるために、多様な形と種類を持つことになるだろう。

知的な機械は、感情的にも物理的にも、人間に似たものである必要はない。極めて知的な機械は、人間が持つような感情を備えている必要はない。我々がそれを意図しない限りは。ある日、人工知能が『目覚め』、『私の創造主を奴隷にしてやろう』と言うようなことは起こらない。同様の懸念は蒸気機関の発明の際にも表明されていたが、そんなことは起こらなかった。知的な機械の時代は始まったばかりである。過去のあらゆる技術的革命と同様に、多くの人が参加し、テクノロジーが改善されるにつれて加速していくだろう。それでも、シンギュラリティや、テクノロジー自体が我々から逃げ出していく時などというものは存在しないだろう。

Tech Luminaries Address Singularity - IEEE Spectrum