分子ナノテクノロジーの予測とナノハイプ

私は、カーツワイル氏によるナノテクノロジーに関する予測は、もはや議論に値するものであるとは考えていません。『ポスト・ヒューマン誕生』におけるナノテクノロジーに関する予測が既に外れていることはほぼ明らかであり、現在ですら議論が古びており、その影響力は既に失なわれているからです。

たとえば、『ポスト・ヒューマン誕生』におけるカーツワイル氏の予測では (分子) ナノテクノロジーの発展は「強い」人工知能の開発よりも先行するとされており、2010年代からナノテクノロジーの実用化が進み初め、2025年頃には完全に普及すると主張していました*1 *2。

また、カーツワイル氏は、ナノテクノロジーによって2020年までにエネルギー供給の指数関数的的な加速が開始されると主張していました。*3

また、2010年を予測した記述には「2010年代が始まるころには、コンピュータは基本的にはその姿を隠すようになっているだろう。つまり、衣服の中に編み込まれたり、家具や環境の中に埋め込まれたりしているのだ。*4」とあります。

そして、現在のシンギュラリティに関する議論において、機械学習研究者、計算機科学者や脳神経生理学者ではなく、ナノテクノロジー研究者が何か発言を求められることがどれだけあるでしょうか？ シンギュラリティを題したシンポジウムやカンファレンスに、どれほどのナノテクノロジー研究者が出席しているでしょうか？

これら全ての記述を、どれだけの人がリアリティを持って受け止め、真剣に考えているでしょうか。端的に言えば、ナノテクノロジーに関するカーツワイル氏の記述は、既にテクノロジーの将来に対するビジョンとしての力を失なっています。

そして、現在のナノテクノロジーの主流な研究においては、ドレクスラー型の分子ナノテクノロジーのビジョンはほとんど共有されていないように見えます。現在主流の研究は、穏当な材料工学の一分野であるか、あるいは生物が分子を扱う原理とそれほど異ならない、リチャード・ジョーンズ氏が呼ぶところの「柔らかい(ソフトな)」ナノテクノロジーであるからです。

ナノ・ハイプ

けれども、ここで私がナノテクノロジーについて取り上げることには別の意図があります。現在の人工知能に関するハイプ -誇大広告と過剰期待- を考える上で、ナノテクノロジー研究の歴史と発展が極めて有用な題材となるからです。

つまり、有用な技術開発よりもサイエンス・フィクション的な想像力が先行して大衆的イメージが作り上げられ、ある種のトリックスターによる空想めいた書物がハイプを更に加速させ、ありとあらゆる種類のステークホルダー、官僚、政治家、産学界のリーダー、投資家、環境活動家などが自身の利益のために期待と恐怖のハイプを煽り、その後、急速に膨れ上がった期待の裏返しにより大衆の熱狂が冷め研究者がしっぺ返しを喰らい、しばらく経ってからハイプとは無関係な形で有用な技術が開発されるという傾向が見られるからです。

「ナノテクノロジー」に関する物語とその分析は、登場人物を「人工知能」に変更すれば、そのまま現在でも通用するものであるように見えます。そこで、私はここではナノテクノロジーを通して、テクノロジーに対するハイプのあり方を探ってみたいと考えています。

なお、ここでのナノテクノロジーに関する議論は、リチャード・ジョーンズ氏による反トランスヒューマニズムの電子書籍『Against Transhumanism』と『ナノ・ハイプ狂騒』を参考にしました。

 (『ナノ・ハイプ狂騒』は、テクノロジーとハイプを考える上で極めて有用な書籍なので、広く読まれてほしいと願います)

ナノ・ハイプ狂騒(上)アメリカのナノテク戦略

ナノ・ハイプ狂騒(下)アメリカのナノテク戦略

*1:『ポスト・ヒューマン誕生』p.332

*2:近年のインタビュー記事では、いわゆる汎用人工知能の開発後にナノテクノロジーが進歩すると述べていますが、予測を変更した理由に関しては何も述べられていません

*3:近年では確かに太陽光発電の進歩が続いていますが、これを「分子」ナノテクノロジーの功績に含めるのはやや後講釈が過ぎる感があります

*4:『ポスト・ヒューマン誕生』p.402

ナノテクノロジーとは何か

ナノテクノロジーとは、物質をナノメートルの単位、すなわち、十億分の一メートルという原子や分子の単位で扱う技術の総称です。つまり、微小スケールを対象とする量子物理学、材料化学、分子生物学、および機械的加工技術、計測技術などにまたがる学際的な研究分野を指しており、ナノテクノロジーという何らかの単一の技術分野が存在するわけではありません。

技術雑誌『ザ・ニュー・アトランティス』の編集者であるアダム・カイパー氏によれば、「今日ナノテクノロジーとして受け取られているものは、実際にはただの材料工学である。主流のナノテクノロジー、つまり何百もの企業に実践されているものは、従来の化学工学と新たに手にしたナノスケールの力との知的成果にすぎない。」とされています。実際のところ、材料ナノテクノロジーは何ら目新しいものではなく、「ルネサンス期の芸術家はナノ粒子によって魅力的な色と光彩を得た絵の具やうわぐすりを用いた。古代人もすすのナノ粒子の利用法を見つけていた。*1」とも述べられています。

分子ナノテクノロジー

けれども、私がここで取り上げるつもりの、カーツワイル氏をはじめとするシンギュラリタリアンやトランスヒューマニストによって想像されている「ナノテクノロジー」は、分子機械・分子製造あるいは総称して分子ナノテクノロジー (Molecule Nanotechnology; MNT) と呼ばれる、より「過激な」種類のナノテクノロジーです。

化学の基礎知識によれば、人間の身体も含め、私たちが手に取ったり口にしたり身に付けたりするあらゆる物質は、限られた種類の原子から構成されています。これまでに知られている原子の種類は100を超える程度で、日常的に私たちが扱う物質においては、原子の種類はせいぜい数十種類でしょう。ゆえに、ナノスケールの機械を用いて原子を望みのままに配置することができれば、原理的には、原子から分子を、そしてあらゆる種類の物質を作り出すことが可能である、と主張されています。

こうしたナノスケールの製造機械の概念を「万能（ユニバーサル）アセンブラー」と名づけ、著書を通して広く普及させたエリック・ドレクスラーは以下のように述べています。

「アセンブラーは、もくろみどおりに原子を配列することができるので、自然の法則の許す限り、何でも作り上げることができる。我々がデザインできるものがあればどんなものでも、アセンブラーは実現してくれるので、このようなアセンブラーがもたらす影響ははかりしれない。…だからアセンブラーを使えば、我々の世界を再構築することも可能だし、破壊することもできる。」*2

この種の分子ナノテクノロジーの実現によって、カーツワイル氏をはじめとするシンギュラリタリアンやトランスヒューマニストが目指していることは、まず手始めに、物質的な欠乏の終焉であると言えます。あらゆる食料、衣服、家具から複雑な工業製品までを、ちょうど現在インターネットから音楽をダウンロードしスマートフォンで聞くように、手近な原材料からソフトウェア的に構成することで、望みの物質を何でも手にすることができる、と夢想されています。

…実際、海外のテレビで放映されたナノテクノロジーの特集番組にこんなシーンがあった。ドレクスラー本人が出演して、電子レンジの中に牛の食べ物である牧草と空気と水を入れ、ボタンを押す。チンと鳴ってふたを開けると、何とステーキの出来上がり!という趣向である。もちろん映像のトリックだが、ドレクスラーは、こうしたフィクションのような世界がナノテクノロジーによって実現できると主張したのである。あまりにも荒唐無稽で、科学の範疇から逸脱していると思うかもしれないが、このドレクスラーの考え方は、物理法則として間違ってはいない。確かに一見SF的だが、実はこれと同じようなことが，生物の体内では日常的に起こっているからである。*3

ナノテクノロジーと医療

そして、ナノテクノロジーによって変貌すると予想されているのは、外部のモノの世界だけではありません。人体も当然、原子から構成されているため、ナノテクノロジーを医療に応用することによって、肉体や生物学上の制限すら取り払われると言われています。ナノスケールのロボット (ナノボット、ナノマシン) を体内に注入することで、病原菌や癌細胞を除去し、あるいは脳や身体の機能を強化し、老化を防止し若返りすることすら想像されています。ドレクスラーが想像した「レストーラー」というナノマシンは、肉体の細胞組織を修復することで、若い頃の健康を取り戻させることができるだろう、と主張されていました。

また、精神転送に関する記事でも取り上げた通り、脳のコネクトームと分子状態をスキャンすることで、自身の自我をコンピュータ上にアップロードすることさえ想像されています。

端的に言えば、シンギュラリタリアンやトランスヒューマニストのビジョンにおけるナノテクノロジーとは、人体も含めたあらゆる物質の世界を情報テクノロジーの支配下に収めてソフトウェア化し、指数関数的な成長を物質世界にもたらす手段であると言えます。

ナノテクノロジー―極微科学とは何か (PHP新書)

創造する機械―ナノテクノロジー

*1:The Nanotechnology Revolution - The New Atlantis

*2:エリック・ドレクスラー(1992) 相沼益男(訳)『創造する機械―ナノテクノロジー』

*3:川合 知二(2003)『ナノテクノロジー 極微科学とは何か』p.51

製薬業界の反特異点

新薬の開発は、2329年には完全に停止します。

製薬業界の研究開発コストに対するリターンは、過去60年間、定常的に指数関数的に低下し続けてきました。シェフィールド大学物理学科教授リチャード・ジョーンズ氏によると、西暦2339年には1件の新薬開発に要するコストが (2013年時点での) 全世界のGDPを超えてしまい、新しい薬品を作ることが完全に不可能となってしまうのだそうです。

2010年までに、失敗に終わった新薬開発の費用を含めて、1つの新薬を開発するために平均で21億7,000万ドルの研究開発費用が費されていました。新薬開発の費用は、収穫加速の法則よりはむしろプランクの原理に従っており、1950年以来、1年に7.6%の割合で指数関数的に増加しています。単純計算では、9〜10年で新薬開発に要する費用が倍になるということを意味します。

もちろん、(ジョーンズ氏自身が認めている通り)、こんな外挿は馬鹿げていますが、根底にある問題は深刻です。

過去60年の間には、半導体に対するムーアの法則が完全に機能しており、情報処理の速度は凄まじい勢いで発展し続け、バイオインフォマティクスという新分野も誕生しました。生命科学、バイオテクノロジーそのものについても、ヒトゲノム計画の完了、遺伝子組み換えからゲノム編集に至るまで、革命的な進歩がありました。

情報テクノロジーと化学、生命科学の全ての進歩にもかかわらず、製薬業界では、研究開発の加速度的な低下が続いており、新薬の開発や人間の健康そのものには、必ずしも繋っていません。

後の8章でカーツワイル氏の過去の予測を検証する際にも取り上げるつもりですが、人間の寿命 (余命) に関するカーツワイル氏の予測は、過去20年程度を通してことごとく外れ続けており、やはり指数関数的な向上は全く見られません*1。

もちろん、製薬業界や医療において将来新たなイノベーションが発生し、何らかの形で指数関数的な加速がいずれ始まる可能性は否定しません。けれども、過去の実績を確認する限りにおいてはむしろこの分野の研究開発は減速しており、シンギュラリタリアンに倣って過去の結果を未来へと外挿するのであれば、将来を必ずしも楽観することはできません。

ここから私たちが学び取らなければならないことは、あらゆるテクノロジーが一様に指数関数的に進歩しているわけではないということです。

宗教家であり、文明批評に関する著作もあるジョン・マイケル・グリアは、次のように述べています。

“There’s no such thing as technology in the singular, only technologies in the plural.”
「単数形のテクノロジーなどというものはない。存在するのは、複数形のテクノロジー(たち)だけである。」 

過去半世紀の半導体のように、一部では目覚しい指数関数的な速度で進歩するテクノロジーも存在していることは確かです。けれども、たとえば航空機の速度のように成長の速度が穏やかになった技術、医薬品や人間の寿命のように指数関数的に減速しているもの、原子力や核融合発電のように、歩みを止めたどころか後退しているようにさえ見えるテクノロジーも存在しています。

「あらゆるテクノロジーの情報化による指数関数的成長」などという空疎なたわ言を口にするのを止め、どのようなテクノロジーが存在しており、それぞれがどんな速度で進歩しているのか、どのような分野へどれだけの投資が必要であるのか、定量的に議論する必要があると言えます。

参考文献

• Decelerating change in the pharmaceutical industry – Soft Machines

*1:未来学者レイ・カーツワイル氏の不老不死に関するでたらめな予測

遺伝子改造によるトランスヒューマン誕生

近年のシンギュラリティに関する議論ではほとんど注目されることはありませんが、ヴァーナー・ヴィンジ氏が1993年に提唱したシンギュラリティ論においては、いわゆる汎用人工知能の発明以外にも、薬剤や遺伝子工学による人間の知能増強が、シンギュラリティを引き起こす仮説上の超知能の発生方法として提唱されていました。

近年では、CRISPR-Cas9など、生物のゲノムを人工的に操作し、人為的に意図した通りに単独の遺伝子を編集する技術が開発されています。既に2015年には、中国でヒトの受精卵に対するゲノム編集が行なわれています*1。(ただし、これは純粋な学術実験であり、妊娠・出産を目的としたものではありません)  2017年現在のゲノム編集技術からすると、明日にでもゲノム編集を受けたデザイナーベビーが妊娠中である (または既に誕生した)、というニュースがあってもおかしくありません。

もちろん、この種のゲノム編集技術が潜在的に非常に大きな可能性と脅威を秘めており、技術的な問題のみならず倫理的な価値判断と社会制度の設計まで含めた広範な議論が必要であることは確かです。けれども、ことシンギュラリティ論に限った観点から言えば、現実的な意義と脅威はそれほど大きくありません。端的に言えば、人間を人工的に強化できるほど遺伝学の知見は進んでいないということ、そして、この種の手法の効果と副作用の検証には、人間の寿命のタイムスパンを要するからです。

現在では、重篤な疾患を発生させる単独の遺伝子欠損については、ある程度の知識が蓄積されています。けれども、たとえば知能の増強、身体的能力の向上、外見的な美貌の向上などについては、単独ないし少数の遺伝子のみの作用で可能であるという根拠はありません。

現代の生物学では、ゲノムは単一で働くものではなく、ネットワークを形成しその中で複数の役割を担っているという理解が一般的になっています。それゆえ、その中に特定の身体や知能の形質形成において特異的に関わるような専用の遺伝子が存在している、と考えるのは困難です。更には、遺伝子の発現においては、身体 (それ自体が多数の遺伝子が協調して働いた結果の産物) と環境からなる複雑な相互作用が影響していると考えられています。

近年の生物学の研究により、かつて考えられていたように遺伝子に特権的な役割を認める見方は揺らぎ始めています。たとえば、米イリノイ大学のジーン・ロビンソン教授の研究によると、気性が穏やかなイタリアミツバチの幼虫を、キラー・ビーと呼ばれる人を刺し殺すこともある獰猛なミツバチの巣に移して育てさせると、イタリアミツバチも獰猛な性格を持つようになったことが報告されています*2*3。

ここでは、ミツバチの攻撃性に作用するタンパク質を生成する遺伝子が、周囲の「養親」であるキラー・ビーの警戒フェロモンが引き金となって働き始めたことが示されています。遺伝と環境との間に介在する仕組みは、「エピジェネティクス」と呼ばれ、近年では活発に研究が進められています。人間の身体や知能についても同様に、身体や知能の何らかの一つの要素をつかさどる特定の遺伝子が存在すると前提する見方は、無根拠に認めることは困難です。

更に言えば、仮に動物実験や理論研究によって何らかの「増強遺伝子」が発見されたとしても、それをヒトの受精卵 (あるいは成人) に適用した上で、致命的な障害が発生せず、意図した通りの効果を得ることができると検証するためには、少なくとも人間の寿命のタイムスパンに渡る試行錯誤、多数の被験者に対する追跡調査と統計的なデータの処理が必要になります*4。一般に、人間を対象とする医療処置の検証と許認可には長い時間を要し、医療目的以外の人間の強化などはそれ以上に長い時間を要することは、精神転送に関連するエントリでも述べた通りです。もちろん、(本質的ではありませんが) 安全性や倫理的な問題も存在します。けれども、たとえ安全性や倫理の問題を全く無視するような非人間的なマッドサイエンティストであったとしても、(少なくとも現状では) 細胞分裂の速度を早めることはできず、人間の成長を早めることは不可能です。

もちろん、実際問題としては、科学者や医師が倫理的問題を無視して研究を進めることは不可能であると考えられます。ヒトの遺伝子改変については、一般の倫理的な嫌悪感・忌避感がきわめて強く、既に各国で法規制が始まりつつあります。仮に、無許可で非医療目的でのヒトの遺伝子改変が行なわれたとして、患者や胎児が何らかの重大な障害を負った場合、民事上の損害賠償や刑事罰、病院や研究所の許認可や医師免許の剥奪といった行政処分、あるいは研究者コミュニティからの排除といったさまざま罰が研究者や医師に科される可能性はごく高いでしょう。(実際のところ、この種の議論は30年以上前に遺伝子組み換えの技術が開発された時から続いています)

スタンフォード大学の法学・生物倫理研究所所長であるハンク・グリーリー氏は、2015年のブログ記事で次のように述べています。

…非医療的な [訳注：遺伝子改変の] 需要は、少なくともかなりの期間は少ないままに留まるだろう。私は、ほとんどの人の本当の恐怖はこれだと考えている —すなわち、遺伝子改変された超人類である。しかし、何億ドルも研究費が費された後でさえ、我々が病理遺伝学について分かっていることは驚くほど少ない。そして、我々は「エンハンスメント[強化]」に関する遺伝学については、ほぼ何も分かっていない。

私は、非病原性の1つの対立遺伝子について、他のものよりも実質的な利点を与える可能性が高い単一の非病的形質に関して、自信を持って断言することができない。もちろん、将来には新たな発見が有りえるだろう。しかし、どれくらいの速さだろうか。私の考えは、どちらの場合においても、それほど速くはないというものだ。

…ヒトの生殖系列のゲノム編集については、長い間、激しい論争が続いている。どれくらいの数の将来の親が、どれほどの企業が、どれだけの病院が、それほどの小さな報酬のためにその論争を引き受けたいだろうか？

Of Science, CRISPR-Cas9, and Asilomar - Law and Biosciences Blog - Stanford Law School

 
最初に述べた通り、近年のゲノム編集技術の進歩は目覚しく、潜在的に大きな可能性と問題を秘めています。けれども、それが超知能人類を生み出すことはありません。仮にあったとしても、それは数百年、もしくは千年単位での遥か遠い遠い未来のことになるでしょう。

デザイナー・ベビー ゲノム編集によって迫られる選択

CRISPR(クリスパー) 究極の遺伝子編集技術の発見

*1:CRISPR/Cas9-mediated gene editing in human tripronuclear zygotes

*2:Honey bee aggression supports a link between gene regulation and behavioral evolution

*3:環境と遺伝子の間：あなたのエピジェネティクスは常に変化している｜WIRED.jp

*4:もちろん、人体実験で基礎実験を行うことはあり得ないでしょうが一種の思考実験です

翻訳：カーツワイル氏による科学論文の不正確な引用

以下はイギリス、シェフィールド大学物理学科教授リチャード・ジョーンズ氏のブログ Soft Machines の記事 "Brain interfacing with Kurzweil" の翻訳です。

シンギュラリティ大学におけるレイ・カーツワイル氏のやや誇張された計画について [訳注：ジョーンズ氏の過去記事コメント欄にて] 進行中の議論において、私はもう一度彼の本『シンギュラリティは近い』を読み返すように薦められた。また、ダグラス・ホフスタッター氏のやや侮蔑的なコメント、ガーディアン紙上で公表され私も以前の記事で引用した文について、その全ての文脈を見返すようにも薦められた。ホフスタッター氏の発言は、このインタビューで読むことができる。[リンク切れ]

「それは確実で優れたアイデアと狂ったアイデアの奇妙な混合物である。まるで、素晴しい食事と犬の排泄物を混ぜ合わせ、何が良くて何が悪いものであるか見分けられないようにしたもののようだ。それはゴミと良いアイデアの密接な混合物であり、その2つを分離することは非常に難しい。なぜならば、彼ら [ハンス・モラベックとレイ・カーツワイル] は賢い人たちであり、馬鹿ではないからだ。」

もう一度この本を見返してみると、ホフスタッター氏の指摘は適切だったということは明白である。難点の1つは、カーツワイル氏は現在の科学技術開発を数多く参照していることであり、ほとんどの読者はカーツワイル氏の技術開発に関する説明が正確であると信じていることだろう。しかし、あまりにも頻繁に、カーツワイル氏が論文から引き出した結論と、実際に論文が述べていることの間には大きな乖離が存在しているのだ。

これは、以前私の記事で説明した「約束の経済 (The Economy of Promises)」の極端な事例であろう。つまり、「将来のあいまいな可能性が、近い将来における確実な結果へと変換されてしまう」というプロセスである。

ここでは、ランダムに選択したものではあるが、重要な例を挙げよう。

カーツワイル氏の予測において、2030年には(私の版ではp.313) [日本語版 『ポスト・ヒューマン誕生』p.404]「ナノロボット・テクノロジーは、現実そのもの、完全に見る者を取り込むヴァーチャル・リアリティ空間を作りだす。」と予測されている。この予測の根拠は何だろうか。「既にニューロンと双方向で情報伝達する電子デバイスを作る技術があり、それは直接ニューロンと物理的に接触する必要はない。たとえば、ドイツのマックス・プランク研究所の科学者が開発している「ニューロン・トランジスタ」は、近くのニューロンの発火を検出するか、あるいは、発火を起こしたり抑止したりできる。これは、電子工学に基づいたニューロン・トランジスタとニューロンの間での双方向の情報伝達に等しい。」

この主張には脚注が記されており、科学文献に対する印象的な参照が示されている。唯一の問題は、参照された文献を読まないことには、カーツワイル氏が述べていることと、研究者が実際に行なったことが食い違っていると理解できないことだ。

「マックス・プランク研究所の科学者」とは、ペーター・フロムヘルツ氏を指している。彼は、神経細胞と電子デバイス -正確には電界効果トランジスタ(FET)- とのインターフェイスを積極的に研究している。私はこの研究について以前の記事 -脳チップ- で議論した。カーツワイル氏が引用している論文は、ウェイス氏とフロムヘルツ氏によって発表された論文である。(アブストラクト)

フロムヘルツ氏の研究では、確かにニューロンとトランジスタの双方向伝達が実証されている。しかし、明らかに、これはニューロンとの物理的な接触を必要としない方法ではない。ニューロンは、FETのゲートと直接接触している必要がある。また、これはin-situ [対象のトランジスタ上その場] でニューロンを培養することによって実現されている。つまり、この方法は特別に培養された2次元のニューロン網のみにしか使用できず、実際の脳に適用できる方法ではない。この方法がin-vivo [生体内] で機能するかは実証されておらず、実際にこの方法を生体で検証することも非常に困難だろう。

フロムヘルツ氏自身が述べている通り、「もちろん、バイオ電子ニューロコンピュータと電子的人工神経の夢想的な希望は避けがたいもので、また刺激的なものでもある。しかし、われわれは多数の実際的な問題を無視してはならない。」

(後略)

もちろん、カーツワイル氏は研究者ではなく、また彼の本は科学論文ではなく将来の予測と夢を記述したものであるため、論文の引用が不適切であるからといって直ちに信頼性が失なわれるということはありませんが、この主張がやや誇張めいたものであることは明白でしょう。

実際のところ、私自身でさえ、この種の恣意的で不正確な科学論文の引用による被害を受けたことがあります。

ネット上の有象無象の (消極的) シンギュラリタリアンから吹っかけられる議論を読んで私が奇妙に感じるのは、彼らの多くが自分自身で研究開発を進めるどころか公表された研究成果に自身でアクセス・読解し、調査する最低限の科学的素養すら欠いており、そもそも実際の科学技術研究のあり方と方法論に対してあまり関心も敬意も払っていないように見えることです。

おそらく彼らは、自分の希望的観測を満たす妄想の材料としてしか科学技術を見ていないのだろうと感じられます。

GNR革命： 生命、物質、情報

最近のシンギュラリティに関する議論ではあまり注目されることはありませんが、カーツワイル氏は、コンピュータと人工知能の進歩のみによってシンギュラリティという事象が発生すると主張しているわけではありません。

彼がG・N・Rと呼ぶ分野、すなわち遺伝子工学 (Genetics)、ナノテクノロジー (Nanotechnology*1 ), ロボティクス (Robotics*2 ) の3つの分野が同時並行で指数関数的に発展していくことによって、人間と社会の革命的な変化が進んでいくのだと主張しています。

以前のエントリで私が指摘した通り、カーツワイル氏が主張するあらゆるテクノロジーの指数関数的成長は現在のところ実証的には観察できず、指数関数的に成長しているものは情報テクノロジーに限られています。けれども、ここでは遺伝子工学は生命を、ナノテクノロジーは物質そのものを情報テクノロジーの配下に置き、指数関数的な成長を発生させようとする試みであると位置付けることができるでしょう。

ただし、ここで私は遺伝子工学とナノテクノロジーに関して、あまり詳細に取り上げるつもりはありません。

人工知能に関するカーツワイル氏の将来予測においては、「拡張されたムーアの法則」と「ヒトの脳のニューロン、シナプスの数」という、荒っぽくはあっても定量的な根拠が一応存在していました。けれども、遺伝子工学とナノテクノロジーの研究に関しては実証的な将来予測の論拠は存在しません。ただ「あらゆるテクノロジーが情報テクノロジーと融合する」という特に根拠のない信念をもとに、いずれ指数関数的な成長が始まると述べて、その原理をもとにして2005年当時の研究成果から将来への外挿を述べているのみです。この2つの分野で、実際に何が指数関数的に成長しているのか、どのような原理によって情報テクノロジーと融合するのか、いつ指数関数的な成長が開始されるのか、などはあまり明確に示されていません。

よって、ここで敢えて取り上げる必要がある論点はそもそも多くありませんが、いくつかの技術と将来予測の妥当性、また、ケヴィン・ケリー氏が思考主義と呼ぶ考え方、すなわち「知能が高い存在は、あらゆる問題を即座に解決することができる」という信念について検討してみたいと思います。

*1:ここでは分子レベルで物質を操作・製造する分子ナノテクノロジー Molecule nanotechnology (MNT) ないし分子機械を意味する

*2:ここでは単なるロボットではなく意識を持つ"強い"AIを指す

知能爆発派における超知能の出現について

シンギュラリティ論における重要な論点は、ひとたび汎用人工知能が作られると、何らかの形で「超知能」が発生し、それが科学技術や社会を高速で変化させることによって、予測不能かつ断絶的な進歩が起きるという仮定です。

前回のエントリでは、主にカーツワイル氏の説である「収穫加速派」における超知能について検討しました。

今回は、残りの「事象の地平線派」および「知能爆発派」における超知能の出現について扱います。この2つの派閥に分類されるシンギュラリティ論においては、だいたい以下のようなプロセスを通して「シンギュラリティ」が到来すると主張されています。

1. 超知能体の出現
   テクノロジーの進歩により、何らかの「人間よりも優れた超知能」を持つ存在が作り出される。
2. 超知能体による超々知能体の設計
   「人間よりも優れた超知能」を持つ存在は、「自身よりも更に優れた超々知能」を設計し、作り出すことができる。
3. 知能爆発と断絶的な進歩
   2.のプロセスが無限に繰り返され、超知能体が急速かつ自律的に成長することによって超越的な知能が出現し、現在の人間には理解不能で予測不可能な断絶的な進歩がもたらされる。

(実際のところ、「シンギュラリティ論」と聞いて多くの人が思い浮かべるのは、カーツワイル氏の説ではなくヴァーナー・ヴィンジ氏らが唱えたこちらのタイプではないでしょうか)

この一連の議論には、私にはあまり自明ではない仮定が含まれているように見えます。人間や人工知能が、自分自身よりも更に知能の高い人工知能を作り出すことが可能である、という仮定です。シンギュラリティに関する議論においては、この仮定は当然の前提として扱われていますが、実証的にも論理的にも、この仮定が成立するかどうかは検討する必要があります。