シンギュラリティ教徒への論駁の書

"Enjoying science fiction is not the same thing as doing science or making science policy." - Dale Carrico

第6章

「人工知能」は人間の利害対立を解決できるか

既に述べてきた通り、たとえ超人的な人工知能が作られたとしても、科学やテクノロジーがすぐに超越的な進歩を遂げるわけではなく、また既に存在する物理的な資本を更新するためには時間とコストを要するため、シンギュラリティ論において想定されているよう…

社会の慣性の法則:変化には長い時間を要する

シンギュラリティ論においては、ひとたび人間を超える人工知能が作られると、その人工知能は自身の知能を再帰的に指数関数的に成長させるのみならず、物質的貧困や紛争といった社会のさまざまな問題までもたちどころに解決できると主張されています。 この種…

思考主義批判:知能は問題解決のごく小さな部分に過ぎない

シンギュラリティ論、特に知能爆発説のシンギュラリティ仮説においては、ひとたび人間を超える人工知能が作られると、その人工知能は自身の知能を再帰的に指数関数的に成長させることができると主張されています。 更には、その超人的人工知能は、自身の知能…

分子ナノテクノロジー

ここまでのナノテクノロジーに関する議論において、私は「分子ナノテクノロジーはそもそも可能なのか」という議論を避けてきましたが、このビジョンの実現可能性を改めて検討してみたいと思います。 確かに、我々は、ごく限られた状況において、個々の分子の…

グレイ・グーとシンギュラリティのリスクマネジメント論

シンギュラリタリアンやトランスヒューマニストが (分子) ナノテクノロジーの重要な応用先としてみなしているのは、医療分野であるということをこの連載の最初に述べました。 そこでは、分子スケールで動作するナノマシンを体内に注入することによって、たと…

人工知能とサイエンスフィクション

前回のエントリでは、ナノテクノロジー概念の起源を探っていく中で、その系譜がサイエンスフィクションと魔術へと辿れることを指摘しました。 そして、ここで私が問題にしている人工知能とシンギュラリティ論の起源が、サイエンスフィクションに由来すること…

ナノテクノロジーの奇妙なオカルト的起源

ナノテクノロジーについての歴史が書かれる際には、遡及的に、物理学者リチャード・ファインマンによる1959年の講演『底にはたっぷり空きがある』から始められる場合が多いようです。 けれども、概念としてのナノテクノロジーの起源はもう少し以前にまで遡り…

分子ナノテクノロジーの予測とナノハイプ

私は、カーツワイル氏によるナノテクノロジーに関する予測は、もはや議論に値するものであるとは考えていません。『ポスト・ヒューマン誕生』におけるナノテクノロジーに関する予測が既に外れていることはほぼ明らかであり、現在ですら議論が古びており、そ…

ナノテクノロジーとは何か

ナノテクノロジーとは、物質をナノメートルの単位、すなわち、十億分の一メートルという原子や分子の単位で扱う技術の総称です。つまり、微小スケールを対象とする量子物理学、材料化学、分子生物学、および機械的加工技術、計測技術などにまたがる学際的な…

製薬業界の反特異点

新薬の開発は、2329年には完全に停止します。 製薬業界の研究開発コストに対するリターンは、過去60年間、定常的に指数関数的に低下し続けてきました。シェフィールド大学物理学科教授リチャード・ジョーンズ氏によると、西暦2339年には1件の新薬開発に要す…

遺伝子改造によるトランスヒューマン誕生

近年のシンギュラリティに関する議論ではほとんど注目されることはありませんが、ヴァーナー・ヴィンジ氏が1993年に提唱したシンギュラリティ論においては、いわゆる汎用人工知能の発明以外にも、薬剤や遺伝子工学による人間の知能増強が、シンギュラリティ…

翻訳:カーツワイル氏による科学論文の不正確な引用

以下はイギリス、シェフィールド大学物理学科教授リチャード・ジョーンズ氏のブログ Soft Machines の記事 "Brain interfacing with Kurzweil" の翻訳です。 シンギュラリティ大学におけるレイ・カーツワイル氏のやや誇張された計画について [訳注:ジョーン…

GNR革命: 生命、物質、情報

最近のシンギュラリティに関する議論ではあまり注目されることはありませんが、カーツワイル氏は、コンピュータと人工知能の進歩のみによってシンギュラリティという事象が発生すると主張しているわけではありません。 彼がG・N・Rと呼ぶ分野、すなわち遺伝…

知能爆発派における超知能の出現について

シンギュラリティ論における重要な論点は、ひとたび汎用人工知能が作られると、何らかの形で「超知能」が発生し、それが科学技術や社会を高速で変化させることによって、予測不能かつ断絶的な進歩が起きるという仮定です。 前回のエントリでは、主にカーツワ…

収穫加速派における超知能の出現について

シンギュラリティ論における重要な論点は、ひとたび汎用人工知能が作られると、何らかの形で「超知能」が作られ、それが科学技術や社会を高速で変化させることによって、予測不能かつ断絶的な進歩が発生する、という仮定です。 なお、この超知能に関する議論…

人間至上主義と進化論について

私がシンギュラリティに対して懐疑的な主張を唱えていると、反論者から「お前は人間至上主義者だ」という形のレッテル貼りめいた非難を受けることがしばしばありました。 この種の主張が何を意図しているのかよく理解できていませんでしたし、単なるレッテル…

知能は単一の尺度ではない

人工知能の「知能」に関する議論において最もよくある誤解は、人工知能の知能が「向上」ないし「拡大」し、「人間を越える」という考え方です。この種の誤解の裏にある前提は、「知能を測定する単一の尺度が存在する」という仮定であると言えます。 いや、人…

知能の拡大と思考主義批判

前章の5章において、私はカーツワイル氏の主張の2つのキーポイント —ムーアの法則と脳のリバースエンジニアリング— および、カーツワイル氏の主張とは直接関係ないものの、現在研究が進んでいる人工知能 (あるいは機械学習) の技術について検討しました。 結…

人工知能の「知能」とは何か。指数関数的に成長しているのか。

近年では、特にディープラーニングの発達によって人工知能 (機械学習) の技術が目覚しい速度で発展しています。そして、人工知能技術の進歩は指数関数的であり、このままのペースで進歩が続けば、人間を越える人工知能が近い将来にでも出現するはずだ、とい…

シンギュラリティ再考:「人間を越える人工知能の開発」が「シンギュラリティ」ではない

このブログを書いている間に私に対して寄せられた議論と質問と反論を読むなかで、「シンギュラリティ」という言葉は、明確な定義がなく各自が勝手な意味で使用しており、シンギュラリタリアンの間ですらその定義に違いがあるため、それゆえ議論に大変な混乱…