シンギュラリティ教徒への論駁の書

シンギュラリティは宗教だ!

目次

第一部 「シンギュラリティ」 序文 シンギュラリティとは何か? ほとんどのテクノロジー成長は指数関数的ではない 収穫加速の幻影 ムーアの法則と人工知能5.1. ムーアの法則5.2. 精神転送5.3. 機械学習5.4. 全脳アーキテクチャ 思考主義批判と知能の拡大 宇宙…

小鳥遊りょうさんへの返信 -「20世紀全体」と「2000年〜2014年」で等しい量

以下の私の記事に対して意見がありましたので、返信します。 この記事の中で私が検討したカーツワイル氏の主張は次の通りです。 わたしのモデルを見れば、パラダイム・シフトが起こる率が10年ごとに2倍になっていることがわかる。(中略) 20世紀の100年に達成…

精神転送は不可能である (縮約版)

精神転送に関して、私の主張を要約します。個々の主張の根拠や詳細な議論は、個別エントリを参照してください。 関連記事 精神転送は不可能である「はじめに」 エミュレーション、シミュレーション、モデリング 脳の複雑さ:カーツワイル対PZマイヤーズ論争 …

シリコン製の天国と来世

ここまで、精神転送の実現可能性について計算機科学と脳神経科学の観点から検討してきました。 再度、私の結論を繰り返すと「原理的には精神転送は不可能ではないにせよ、カーツワイル氏やシンギュラリタリアンの議論においては、その実現の困難さが相当に低…

精神転送の改善的手法あるいはテセウスの船

通常、新しく開発される技術は、最初から完全であることは稀です。おそらく、精神転送についても同じことが言えるでしょう。通常の技術であればプロトタイプ的な手法から、完成形へ向かってだんだんと改善していく方法が取られますが、精神転送という特殊な…

あなたの正気を保証するもの

ここまで、精神転送について、計算機科学と脳神経科学の両面からその実現可能性を検討してきました。私は、この2つの分野においてとてつもないイノベーションが発生しなければ、そもそも精神転送に必要な前提条件を満たすことさえ不可能であると考えています…

脳の階層性:カーツワイル氏は創造論者か

前回述べた通り、生物の情報処理の基本原理は分子であるため、ニューロンとシナプスのレベルでの動作メカニズムの解明のみでは、精神転送の実現に十分ではないと考えられます。 けれども、カーツワイル氏はこの点に対する反論を用意しています。曰く、脳には…

生物の情報処理の原理は分子の相互作用である

生物の情報処理において、何らかの統一的な基礎原理が存在するとすれば、それは分子の相互作用であると言えます。すなわち、生体内の分子同士と外部の環境に存在する分子が相互に作用し合い、巨視的な行動や記憶の保持を担っているのです。実際に、分子レベ…

コネクトーム:脳の中をのぞきこむ?

前回のエントリでは、カーツワイル氏の脳に対する理解が誤っており、脳の複雑さに対する推定が過少であるという生物学者からの指摘を紹介しました。 けれども、公平のため述べておくと、カーツワイル氏も脳を再現するためには脳自体を観察する必要があること…

脳の複雑さ:カーツワイル対PZマイヤーズ論争

脳の複雑性に対するカーツワイル氏の理解は非常に問題が多く、生物学者から批判を受けています。彼は、脳の複雑性を著しく過小評価しており、脳のリバースエンジニアリングと精神転送のために必要な研究の労力に対する見積もりは過少であると言えます。 まず…

エミュレーション、シミュレーション、モデリング

科学者は、物理現象を理解し説明するために「モデル」を作成します。あるいは、工学においては現象の予測や複雑な構造物の設計のために「シミュレーション」を行ないます。コンピュータを用いた数値シミュレーションは、既に科学や工学における確固たる手法…

精神転送は不可能である「はじめに」

今回から、6, 7回の連載を通して「精神転送」あるいは「マインドアップロード」の実現可能性について検討します。検討を始めるにあたって、最初に議論対象の定義と私の主張、および議論の前提を整理しておきます。 ここで扱う「精神転送」の定義としては、「…

汎用人工知能に関するカーツワイル氏の将来予測

前節において、半導体集積回路に関する「ムーアの法則」を取り上げ、それが近年では停滞しつつあることを指摘しました。また、カーツワイル氏の主張する「収穫加速の法則 = 拡張ムーアの法則」についても、実証的・論理的に、今後も必然的に継続されると信…

コンピュータ産業の未来

本論では、技術開発の将来性に対するネガティブな見通しばかり述べていますので、少しばかり前向きな話もしておきましょう。 私は、おそらく2020年代初頭に半導体ロジックメーカー各社が微細化と集積化のペース (狭義のムーアの法則) の維持を断念し、公式に…

書評:『そろそろ、人工知能の真実を話そう』ジャン=ガブリエル・ガナシア

そろそろ、人工知能の真実を話そう 作者: ジャン=ガブリエルガナシア,伊藤直子,小林重裕 出版社/メーカー: 早川書房 発売日: 2017/05/26 メディア: 単行本(ソフトカバー) この商品を含むブログを見る この本の著者であるガナシア氏は、パリ第6大学のコンピ…

ムーアの法則の延命策

よくよく考えてみると、私たちはトランジスタを構成する半導体 (シリコン) という物質に対して、極めて都合の良い要求をしていると言えます。 以前にも述べた通り、トランジスタはスイッチです。つまり、電源オフの間は電気が溜められ、オンになると電気が流…

ムーアの法則の次に来るもの「量子コンピュータ」

ムーアの法則の終了後、次に来たるべき「パラダイム」として、ここ数年、量子コンピュータが盛んに取り上げられています。特に、米Google社傘下のD-wave社が生産、販売している量子コンピュータの名前は、おそらくテック系のメディアをチェックしている人で…

未来は既に我々の手の中にある(はず)

最新テクノロジーに関するインターネットメディアの報道を見ていると、多数のテクノロジーの研究開発が進んでおり、明日にでも研究室という滑走路を離陸して、市場の大空へ飛び立って世間に普及するかのように喧伝されています。 けれども、実際に技術開発に…

ムーアの法則は一般化できるか

このエントリは少し長くなってしまったため、最初に結論を述べておきましょう。 『(拡張) ムーアの法則』の過去の実績は、将来に渡ってそれが継続するということの証明にはならない (拡張) ムーアの法則は自然法則ではなく、将来に渡って単一の基準で継続す…

自然法則と歴史性

自然科学や工学分野には、さまざまな法則や経験則が存在しています。けれども、「ムーアの法則」と一般的な科学・工学法則とを比較すると、やや異なる性質を持っていることが分かります。ムーアの法則は歴史性を、つまり人間の意思や目的、外的環境によって…

半導体微細化の限界

ここで、(狭義の)ムーアの法則の限界、すなわち半導体プロセスの微細化の限界について述べておきます。また誤読されると思うので予め断わっておきますが、このエントリは、集積回路のトランジスタ密度向上について述べた(狭義の)ムーアの法則に関する限界で…

小鳥遊りょうさんへの返信

小鳥遊りょうさん (@jaguring1) から、何件か私の記事へのコメントを頂きましたので、いくつかの点、主に「特異点へのカウントダウン」のグラフと「収穫加速の法則」について返信します。 べき関数か指数関数か まず渡辺さんは「両対数グラフで直線になれば…

空飛ぶ不可視のティーポット

シンギュラリティに関する懐疑論を書いていると、しばしば「シンギュラリティが発生しないという証拠を示せ」「○○という技術が実現不可能であるという根拠を、あなたは挙げられないじゃないか」という反論を受け取ることがあります。 けれども、このような主…

ムーアの法則には既に意味はない

前回のエントリでは、「ムーアの法則」の定義を確認し、半導体業界による「プロセスルール」の微細化はこの法則を論じる上では不適切な値であることを述べました。 ムーアの法則を「トランジスタの集積密度の指数関数的向上」という意味として捉えるならば法…

ムーアの法則とは何か

ここで、今までも何度か取り上げた「ムーアの法則」について、改めて検討します。 この言葉も、「シンギュラリティ」や「収穫加速の法則」といった用語と同様にさまざまな意味で用いられており、コンピュータの性能やコスト効率が指数関数的に向上するという…

ムーアの法則と人工知能

第3章でカーツワイル氏の指数関数的なテクノロジーの成長に対する事実認識の誤りを、第4章では「収穫加速の法則」の定義のあいまいさ、非論理性と実証的基盤の欠如に関して批判してきました。

収穫加速の法則 vs.成果増大に関するプランクの原理

科学技術の指数関数的な成長を予測する「収穫加速の法則」を支える原理として、次のような主張がされています。 「一つの重要な発明は他の発明と結びつき、次の重要な発明の登場までの期間を短縮し、イノベーションの速度を加速する。」 なるほど確かに、直…

趣味や興行としての将棋や囲碁はAIがあっても残る

今年5月、世界最強と言われる囲碁棋士・柯潔氏と、Google傘下のDeepMindが開発する人工知能(AI)「AlphaGo」による対局で、AlphaGoが柯潔氏に対して3連勝を収めて注目を集めました。 また、日本でもプロの将棋棋士とAIの対戦が2012年から開催されていますが…

収穫加速の幻影 補遺

これまでも度々取り上げた、カーツワイル氏が宇宙、生命と人類史の指数関数的成長を例証したと主張するアイコニックなこのグラフですが、このグラフに対する批判もまとめておきます。 そもそも、「生命」、「人類史」と「テクノロジー」を時間という単一の指…

収穫加速の幻影

カーツワイル氏は、コンピュータや機械学習などのみの単独のテクノロジーだけが指数関数的に成長すると主張しているわけではありません。そうではなく、「収穫加速の法則」に従い、「パラダイム・シフト」が発生するまでの間隔が指数関数的に短縮されており…

ムーアの法則は収穫加速の法則ではない

先日、あるシンギュラリタリアンの方とネット上で議論をする機会があったのですが、議論を通して彼らが何を考え、どのような内的な論理で「収穫加速の法則」を捉えているのかを理解できたように感じています。 そして、なぜ、これまでの私の議論がシンギュラ…

未来学者モディス氏による収穫加速の法則への批判

カーツワイル氏が宇宙、生命、人類史とテクノロジーに渡る指数関数的な成長を示した「収穫加速の法則」のグラフについて、事象の発生間隔が指数関数的に短縮されるという結論を示すため、「パラダイム」が恣意的に選択されている、という批判を既に述べまし…

帰納的推論:(これまで)無限は存在しなかった

私たちが住む、現実の、この世界において、「無限大」は (これまで) どこにも存在しませんでした。(今までのところ) 無限は、ただ人間の頭の中、観念の中にだけ存在します。 図: y=1/xのグラフ 「シンギュラリティ」の本来の意味を説明するために、シンギュ…

収穫加速の法則批判 「恣意的なパラダイム」

カーツワイル氏の主張する宇宙の始まりからテクノロジーに至る指数関数的成長は幻影であり、このグラフは何ら意味のある内容を述べておらず、このグラフを用いて将来を予測することはできません。

指数関数とシグモイド曲線は区別できない

カーツワイル氏の未来予測それ自体とはあまり関係がない数学的 (あるいは哲学的) 事項を、もう1点指摘しておきます。 何らかの物理量の「過去の増加傾向」を観察して、それが指数関数的に増加していることが確認できたとしても、今後もその傾向が永続し指数…

収穫加速の法則批判 「減速する加速」

本エントリにおいては、「収穫加速の法則」は、「一定期間における『進歩量』の指数関数な増大」の意味で使用します。 前項で述べた、「収穫加速の法則」においてパラダイムが定義されていないという問題も無視しがたいものですが、けれども、実際のところ、…

指数関数に特異点はない

カーツワイル氏の未来予測の本質とはあまり関係がない、瑣末な数学的事項ですが1点指摘をしておきます。指数関数には、他の点と区別されるような特別な点、すなわち特異点は存在しません。シンギュラリタリアンは下記のようなグラフを使用して、ごく近いうち…

収穫加速の法則批判 「未定義のパラダイム」

カーツワイル氏が未来を予測する根拠である「収穫加速の法則」ですが、彼がその「法則」を例証していると主張するグラフが、以下の「特異点へのカウントダウン」と名づけられたグラフです。 なお、本エントリにおいては、「収穫加速の法則」は「『パラダイム…

多義的で曖昧な「収穫加速の法則」の定義

カーツワイル氏がシンギュラリティを予測する根拠である「収穫加速の法則」ですが、彼はこの「法則」を複数の意味で使っており、非常に多義的で曖昧な、対象が定量的ではなく分かりづらい「法則」となっています。 そもそも、(シンギュラリティに関する議論…

収穫加速の法則とは何か

ここまでカーツワイル氏のシンギュラリティ論に関する議論で、あらゆるテクノロジーが指数関数的に成長しているわけではないこと、指数関数的な成長が観察されているのは、ただ情報テクノロジーの隣接分野に限られることを説明しました。 けれども、「単独の…

情報の持つ不思議な性質

前回のエントリでは、指数関数的な成長はただ「情報」を扱うテクノロジーに限られた現象であると述べました。 現代の社会では、既に「情報」が広く扱われて売買されており、情報産業は既に巨大な分野になっています。けれども、改めて「情報」について考えて…

指数関数的成長はごく稀である

前々回のエントリで、飛行機の巡航速度、充電池の容量、そしてエネルギー消費量とナノテクノロジーの特許数の推移について取り上げてきましたが、そのどれを取っても必ずしも指数関数的な成長は観察できませんでした。上記以外にも、指数関数的な成長をして…

指数関数的に成長する無知

指数関数的な成長の議論において、カーツワイル氏 (あるいはシンギュラタリアン) は、非常に重要なポイントを見落としています。知識が指数関数的に増加するにつれて、無知も指数関数的に成長していく場合があるということです。 カーツワイル氏は、ゲノムの…

ほとんどのテクノロジー成長は指数関数的ではない 2

前回のエントリで述べた通り、「あらゆるテクノロジーが指数関数的な成長を遂げる」という観察が、カーツワイル氏による主張の根本原理となっています。けれども、ほとんどのテクノロジーにおいて指数関数的な成長は見られません。

ほとんどのテクノロジー成長は指数関数的ではない 1

カーツワイル氏は、あらゆるテクノロジーは指数関数的に成長していると主張しています。(『ポスト・ヒューマン誕生』 p.24, p.87) *1 けれども、現実の世界においては指数関数的な成長が観察できるテクノロジーは多くありません。また指数関数的に成長するテ…

カーツワイルのシンギュラリティ説とその批判

前回のエントリで述べた通り、レイ・カーツワイル氏のシンギュラリティ説は、必ずしもそれ以前のシンギュラリタリアンの説を踏まえたものとは言えません。けれども、カーツワイル氏の説は最も広く普及しており、現在シンギュラリティについて論じる上で議論…

2045年問題とは何か

2045年問題という言葉を「2045年に人間を超える人工知能 (AI) が作られる」と捉えている人が居るようですが、これは誤りです。カーツワイル氏は、1人の人間と同等のAIが作られる時期は、2020年代の終わりまでであると予測しています。

シンギュラリティ3つの学派

前回のエントリでは、カーツワイル氏によって「シンギュラリティ」という言葉の使い方が、ヴィンジ氏以前のシンギュラリティ論者の意味と180度転換されてしまっているということを指摘しました。「シンギュラリティ」という言葉は、様々な論者がいろいろな意…

シンギュラリティとは何か?

本書では「シンギュラリティ」について考えていくつもりですが、まず初めにシンギュラリティとは何であるのかについて説明します。 この言葉がもともと使われていた数学分野での「特異点」という用語は、一般的な法則が適用できなくなる点、典型的には関数の…

序文

いずれ、人類によって、あらゆる人間の知能を超えた超AIが開発され、その超AIがさらに賢い超々AIを作り続けることによってAIの知能が爆発的に拡大し、人類の歴史に断絶--すなわち、特異点(シンギュラリティ)--がもたらされる。 数年ほど前から、このような…