シンギュラリティ教徒への論駁の書

"Unending exponential growth? What drugs are those people on?" - Linus Torvalds

目次

第一部 「シンギュラリティ」 序文 シンギュラリティとは何か?- カーツワイルのシンギュラリティ説とその批判 ほとんどのテクノロジー成長は指数関数的ではない 収穫加速の幻影 ムーアの法則と人工知能5.1. ムーアの法則5.2. 精神転送5.3. 人工知能研究と機…

リスクアセスメントの特異点 無限大x微小値問題あるいはパスカルの賭け

以前の記事で、私は遠い将来の不確かな未来予測に対して、リスクマネジメントの考え方を適用することを批判しました。 この論点は重要だと考えるので、再度、該当する議論をまとめておきます。 標準的なリスクマネジメントの方法論において、「リスク」とは…

翻訳:シンギュラリティは来ない 〜進歩の速度に関して

この文章は、Google社の機械学習研究者 François Chollet氏が、2012年にサイトSphere Engineeringのブログで公開したエッセイ "The Singularity is not coming On the speed of progress" の翻訳です。なお、原文はリンク切れのためアーカイブを用いました。

翻訳:知能爆発の不可能性

この文章は、Google社の機械学習研究者 François Chollet氏がサイトMedium上で公開したエッセイ "The impossibility of intelligence explosion" の翻訳です。 知能爆発の不可能性 1965年、I.J.グッドは、人工知能 (AI) に関連して、「知能爆発」に関する考…

グレイ・グーとシンギュラリティのリスクマネジメント論

シンギュラリタリアンやトランスヒューマニストが (分子) ナノテクノロジーの重要な応用先としてみなしているのは、医療分野であるということをこの連載の最初に述べました。 そこでは、分子スケールで動作するナノマシンを体内に注入することによって、たと…

人工知能とサイエンスフィクション

前回のエントリでは、ナノテクノロジー概念の起源を探っていく中で、その系譜がサイエンスフィクションと魔術へと辿れることを指摘しました。 そして、ここで私が問題にしている人工知能とシンギュラリティ論の起源が、サイエンスフィクションに由来すること…

ナノテクノロジーの奇妙なオカルト的起源

ナノテクノロジーについての歴史が書かれる際には、遡及的に、物理学者リチャード・ファインマンによる1959年の講演『底にはたっぷり空きがある』から始められる場合が多いようです。 けれども、概念としてのナノテクノロジーの起源はもう少し以前にまで遡り…

分子ナノテクノロジーの予測とナノハイプ

私は、カーツワイル氏によるナノテクノロジーに関する予測は、もはや議論に値するものであるとは考えていません。『ポスト・ヒューマン誕生』におけるナノテクノロジーに関する予測が既に外れていることはほぼ明らかであり、現在ですら議論が古びており、そ…

ナノテクノロジーとは何か

ナノテクノロジーとは、物質をナノメートルの単位、すなわち、十億分の一メートルという原子や分子の単位で扱う技術の総称です。つまり、微小スケールを対象とする量子物理学、材料化学、分子生物学、および機械的加工技術、計測技術などにまたがる学際的な…

製薬業界の反特異点

新薬の開発は、2329年には完全に停止します。 製薬業界の研究開発コストに対するリターンは、過去60年間、定常的に指数関数的に低下し続けてきました。シェフィールド大学物理学科教授リチャード・ジョーンズ氏によると、西暦2339年には1件の新薬開発に要す…

遺伝子改造によるトランスヒューマン誕生

近年のシンギュラリティに関する議論ではほとんど注目されることはありませんが、ヴァーナー・ヴィンジ氏が1993年に提唱したシンギュラリティ論においては、いわゆる汎用人工知能の発明以外にも、薬剤や遺伝子工学による人間の知能増強が、シンギュラリティ…

翻訳:カーツワイル氏による科学論文の不正確な引用

以下はイギリス、シェフィールド大学物理学科教授リチャード・ジョーンズ氏のブログ Soft Machines の記事 "Brain interfacing with Kurzweil" の翻訳です。 シンギュラリティ大学におけるレイ・カーツワイル氏のやや誇張された計画について [訳注:ジョーン…

GNR革命: 生命、物質、情報

最近のシンギュラリティに関する議論ではあまり注目されることはありませんが、カーツワイル氏は、コンピュータと人工知能の進歩のみによってシンギュラリティという事象が発生すると主張しているわけではありません。 彼がG・N・Rと呼ぶ分野、すなわち遺伝…

知能爆発派における超知能の出現について

シンギュラリティ論における重要な論点は、ひとたび汎用人工知能が作られると、何らかの形で「超知能」が発生し、それが科学技術や社会を高速で変化させることによって、予測不能かつ断絶的な進歩が起きるという仮定です。 前回のエントリでは、主にカーツワ…

収穫加速派における超知能の出現について

シンギュラリティ論における重要な論点は、ひとたび汎用人工知能が作られると、何らかの形で「超知能」が作られ、それが科学技術や社会を高速で変化させることによって、予測不能かつ断絶的な進歩が発生する、という仮定です。 なお、この超知能に関する議論…

ジェフ・ホーキンス氏のシンギュラリティ観

以前の記事で、私は2種類のシンギュラリティ、すなわち人間を超える超知能が作られる時と、超知能がテクノロジーを高速かつ断絶的に発展させる時を区別しました。 私は、第一のシンギュラリティは起きてもおかしくはない (ただし時期は分からない) けれども…

人間至上主義と進化論について

私がシンギュラリティに対して懐疑的な主張を唱えていると、反論者から「お前は人間至上主義者だ」という形のレッテル貼りめいた非難を受けることがしばしばありました。 この種の主張が何を意図しているのかよく理解できていませんでしたし、単なるレッテル…

知能は単一の尺度ではない

人工知能の「知能」に関する議論において最もよくある誤解は、人工知能の知能が「向上」ないし「拡大」し、「人間を越える」という考え方です。この種の誤解の裏にある前提は、「知能を測定する単一の尺度が存在する」という仮定であると言えます。 いや、人…

知能の拡大と思考主義批判

前章の5章において、私はカーツワイル氏の主張の2つのキーポイント —ムーアの法則と脳のリバースエンジニアリング— および、カーツワイル氏の主張とは直接関係ないものの、現在研究が進んでいる人工知能 (あるいは機械学習) の技術について検討しました。 結…

人工知能の「知能」とは何か。指数関数的に成長しているのか。

近年では、特にディープラーニングの発達によって人工知能 (機械学習) の技術が目覚しい速度で発展しています。そして、人工知能技術の進歩は指数関数的であり、このままのペースで進歩が続けば、人間を越える人工知能が近い将来にでも出現するはずだ、とい…

シンギュラリティ再考:「人間を越える人工知能の開発」が「シンギュラリティ」ではない

このブログを書いている間に私に対して寄せられた議論と質問と反論を読むなかで、「シンギュラリティ」という言葉は、明確な定義がなく各自が勝手な意味で使用しており、シンギュラリタリアンの間ですらその定義に違いがあるため、それゆえ議論に大変な混乱…

人間に似た人工知能は、人間と似た制限を持つ(のでは?)

既に繰り返して述べている通り、私は「人間と同等の知能を持つ人工物」を実現することが不可能だと示されているわけではないことは肯定します。ただし、その「人工物」が実現されるまでには、現在喧伝されているよりも、ずっと長い期間を要するだろうと考え…

脳を模倣するアプローチ

直前の2節で、私は「脳の再現」と「機械学習」の手法による人工知能の実現の可能性について検討してきました。もちろん、汎用人工知能 (ヒトと同等の人工知能) を作成するためのアプローチは、この2つのみではありません。近年では、ある程度大まかに脳の核…

クラークの三法則に関する断章 (3) 「十分に発達して"いない"科学技術は、魔法と見分けがつかない」

今回は、クラークの三法則の最後の法則であり、おそらく最も広く知られているであろうこの法則を扱います。 『十分に発達した科学技術は、魔法と見分けがつかない。』 " Any sufficiently advanced technology is indistinguishable from magic." この法則は…

クラークの三法則に関する断章 (2) 「不可能性の自己欺瞞」

今回も、前回に引き続いてクラークの三法則の第二法則を扱います。 『可能性の限界を測る唯一の方法は、不可能であるとされるところまで進んでみることである。』 "The only way of discovering the limits of the possible is to venture a little way past…

クラークの三法則に関する断章 (1) 「可能でもできないコト」

テクノロジーの進歩に関する語りにおいて、頻繁に引用されるフレーズがあります。映画「2001年宇宙の旅」の原作者としても知られる、アーサー・C・クラークが述べた「クラークの三法則」です。 高名だが年配の科学者が可能であると言った場合、その主張はほ…

人工知能と天然知能の違い

これまで何度か述べてきた通り、私は必ずしも「人間と同様の知能を持つ人工物」が不可能であるとは考えていません。けれども、人間と同様の知能を持つ「人工物」は、おそらく現在の「コンピュータ」ではなく、また、それが実現されるまでには現在想像されて…

ことばの意味と画像:ディープラーニングは言語の意味を理解したのか

最近では、ディープラーニングの進歩によって、パターン認識の分野で大きな発展が起きています。特に、画像認識が急速に発達し認識率が高まったことによって、この手法を使い画像と言語を対応させることによって、言語の意味の理解も可能になるはずだ、とい…

機能と手段:潜水艦は泳げるのか

「コンピュータは考えることができるか?という問いは、潜水艦は泳げるか、という問いと同じようなものだ」 - エドガー・ダイクストラ 人工知能について語るとき、よく次のようなことが言われます。 「自動車は馬のように走るわけではなく、飛行機は鳥のよう…

「原理的には」人工知能は不可能ではない

近年の「シンギュラリティ」に関する議論では、この言葉が「人間の能力を超えた (汎用) 人工知能が作られるタイミング」を指すという誤解があるようです。けれども、これまで述べてきた通り、「シンギュラリティ」の元々の使用法から言えば、この言葉が意味…