シンギュラリティ教徒への論駁の書

«Il n'y a rien qui ressemble plus à une exponentielle que le début d'une sigmoïde.» —Yann LeCun

ジェフ・ホーキンス氏のシンギュラリティ観

以前の記事で、私は2種類のシンギュラリティ、すなわち人間を超える超知能が作られる時と、超知能がテクノロジーを高速かつ断絶的に発展させる時を区別しました。 私は、第一のシンギュラリティは起きてもおかしくはない (ただし時期は分からない) けれども…

人間至上主義と進化論について

私がシンギュラリティに対して懐疑的な主張を唱えていると、反論者から「お前は人間至上主義者だ」という形のレッテル貼りめいた非難を受けることがしばしばありました。 この種の主張が何を意図しているのかよく理解できていませんでしたし、単なるレッテル…

知能は単一の尺度ではない

人工知能の「知能」に関する議論において最もよくある誤解は、人工知能の知能が「向上」ないし「拡大」し、「人間を越える」という考え方です。この種の誤解の裏にある前提は、「知能を測定する単一の尺度が存在する」という仮定であると言えます。 いや、人…

知能の拡大と思考主義批判

前章の5章において、私はカーツワイル氏の主張の2つのキーポイント —ムーアの法則と脳のリバースエンジニアリング— および、カーツワイル氏の主張とは直接関係ないものの、現在研究が進んでいる人工知能 (あるいは機械学習) の技術について検討しました。 結…

人工知能の「知能」とは何か。指数関数的に成長しているのか。

近年では、特にディープラーニングの発達によって人工知能 (機械学習) の技術が目覚しい速度で発展しています。そして、人工知能技術の進歩は指数関数的であり、このままのペースで進歩が続けば、人間を越える人工知能が近い将来にでも出現するはずだ、とい…

シンギュラリティ再考:「人間を越える人工知能の開発」が「シンギュラリティ」ではない

このブログを書いている間に私に対して寄せられた議論と質問と反論を読むなかで、「シンギュラリティ」という言葉は、明確な定義がなく各自が勝手な意味で使用しており、シンギュラリタリアンの間ですらその定義に違いがあるため、それゆえ議論に大変な混乱…

人間に似た人工知能は、人間と似た制限を持つ(のでは?)

既に繰り返して述べている通り、私は「人間と同等の知能を持つ人工物」を実現することが不可能だと示されているわけではないことは肯定します。ただし、その「人工物」が実現されるまでには、現在喧伝されているよりも、ずっと長い期間を要するだろうと考え…

脳を模倣するアプローチ

直前の2節で、私は「脳の再現」と「機械学習」の手法による人工知能の実現の可能性について検討してきました。もちろん、汎用人工知能 (ヒトと同等の人工知能) を作成するためのアプローチは、この2つのみではありません。近年では、ある程度大まかに脳の核…

クラークの三法則に関する断章 (3) 「十分に発達して"いない"科学技術は、魔法と見分けがつかない」

今回は、クラークの三法則の最後の法則であり、おそらく最も広く知られているであろうこの法則を扱います。 『十分に発達した科学技術は、魔法と見分けがつかない。』 " Any sufficiently advanced technology is indistinguishable from magic." この法則は…

クラークの三法則に関する断章 (2) 「不可能性の自己欺瞞」

今回も、前回に引き続いてクラークの三法則の第二法則を扱います。 『可能性の限界を測る唯一の方法は、不可能であるとされるところまで進んでみることである。』 "The only way of discovering the limits of the possible is to venture a little way past…

クラークの三法則に関する断章 (1) 「可能でもできないコト」

テクノロジーの進歩に関する語りにおいて、頻繁に引用されるフレーズがあります。映画「2001年宇宙の旅」の原作者としても知られる、アーサー・C・クラークが述べた「クラークの三法則」です。 高名だが年配の科学者が可能であると言った場合、その主張はほ…

人工知能と天然知能の違い

これまで何度か述べてきた通り、私は必ずしも「人間と同様の知能を持つ人工物」が不可能であるとは考えていません。けれども、人間と同様の知能を持つ「人工物」は、おそらく現在の「コンピュータ」ではなく、また、それが実現されるまでには現在想像されて…

ことばの意味と画像:ディープラーニングは言語の意味を理解したのか

最近では、ディープラーニングの進歩によって、パターン認識の分野で大きな発展が起きています。特に、画像認識が急速に発達し認識率が高まったことによって、この手法を使い画像と言語を対応させることによって、言語の意味の理解も可能になるはずだ、とい…

機能と手段:潜水艦は泳げるのか

「コンピュータは考えることができるか?という問いは、潜水艦は泳げるか、という問いと同じようなものだ」 - エドガー・ダイクストラ 人工知能について語るとき、よく次のようなことが言われます。 「自動車は馬のように走るわけではなく、飛行機は鳥のよう…

「原理的には」人工知能は不可能ではない

近年の「シンギュラリティ」に関する議論では、この言葉が「人間の能力を超えた (汎用) 人工知能が作られるタイミング」を指すという誤解があるようです。けれども、これまで述べてきた通り、「シンギュラリティ」の元々の使用法から言えば、この言葉が意味…

人工知能研究小史

(9/26追記 この記事は多数誤りを指摘されていますので、後で全面的に改稿する予定です。) ここでは、簡単に人工知能と機械学習の研究に関する歴史を振りかえっておきます。 第一次人工知能ブーム 〜「演繹」の時代〜 近代的な人工知能研究は、広く普及してい…

人工知能研究と機械学習

前節では、精神転送 (マインドアップローディング) の実現可能性を検討することを通して、人間の脳の再現によって人工的な知能を構成する方法について検討しました。条件を緩和して、「ある個人の人格そのものの複製」という方法ではなく「一般的なヒトの脳…

nanoMRIに関する覚書

私の記事を読んだ方から、「IBMとスタンフォード大の共同研究で、既にMRIでナノメートル単位の解像度が実現されている」という指摘がありました。 ナノスケールなMRI画像を得る手法が開発される(2009)https://t.co/rYgfcYgY6N『解像度4nmのMRI技術「NanoMR…

強いAI/弱いAI、汎用人工知能

「人工知能 (Artificial Intelligence)」という言葉は、ドミニク・チェン氏が指摘している通り、人間に対して2種類の問いを投げかけるものです。すなわち、「知能」を人工的に再構築することができるのかという問いと、そもそも「知能」とは一体何であるのか…

不可能、困難、未解決

これまでの私の議論では、「できない」「不可能である」または「難しい」という言葉を安易に使用してきましたが、改めてこれらの言葉が何を意味しているのかを明確に定義しておきたいと思います。 「できない」という言葉は、次の3つの意味に分類できます。…

小鳥遊りょうさんへの返信 -「20世紀全体」と「2000年〜2014年」で等しい量

以下の私の記事に対して意見がありましたので、返信します。 この記事の中で私が検討したカーツワイル氏の主張は次の通りです。 わたしのモデルを見れば、パラダイム・シフトが起こる率が10年ごとに2倍になっていることがわかる。(中略) 20世紀の100年に達成…

精神転送(マインドアップローディング)は不可能である (縮約版)

精神転送に関して、私の主張を要約します。個々の主張の根拠や詳細な議論は、個別エントリを参照してください。 関連記事 精神転送は不可能である「はじめに」 エミュレーション、シミュレーション、モデリング 脳の複雑さ:カーツワイル対PZマイヤーズ論争 …

シリコン製の天国と来世

ここまで、精神転送の実現可能性について計算機科学と脳神経科学の観点から検討してきました。 再度、私の結論を繰り返すと「原理的には精神転送は不可能ではないにせよ、カーツワイル氏やシンギュラリタリアンの議論においては、その実現の困難さが相当に低…

精神転送の改善的手法あるいはテセウスの船

通常、新しく開発される技術は、最初から完全であることは稀です。おそらく、精神転送についても同じことが言えるでしょう。通常の技術であればプロトタイプ的な手法から、完成形へ向かってだんだんと改善していく方法が取られますが、精神転送という特殊な…

あなたの正気を保証するもの

ここまで、精神転送について計算機科学と脳神経科学の両面からその実現可能性を検討してきました。私は、この2つの分野においてとてつもないイノベーションが発生しなければ、そもそも精神転送に必要な前提条件を満たすことさえ不可能であると考えています。…

脳の階層性:カーツワイル氏は創造論者か

前回述べた通り、生物の情報処理の基本原理は分子であるため、ニューロンとシナプスのレベルでの動作メカニズムの解明のみでは、精神転送の実現のためには十分ではないと考えられます。 けれども、カーツワイル氏はこの点に対する反論を用意しています。曰く…

生物の情報処理の原理は分子の相互作用である

生物の情報処理において、何らかの統一的な基礎原理が存在するとすれば、それは分子の相互作用であると言えます。すなわち、生体内の分子同士と外部の環境に存在する分子が相互に作用し合い、巨視的な行動や記憶の保持を担っているのです。実際に、分子レベ…

コネクトーム:脳の中をのぞきこむ?

前回のエントリでは、カーツワイル氏の脳に対する理解が誤っており、脳の複雑さに対する推定が過少であるという生物学者からの指摘を紹介しました。 けれども、公平のため述べておくと、カーツワイル氏も脳を再現するためには脳自体を観察する必要があること…

脳の複雑さ:カーツワイル対PZマイヤーズ論争

脳の複雑性に対するカーツワイル氏の理解は非常に問題が多く、生物学者から批判を受けています。彼は、脳の複雑性を著しく過小評価しており、脳のリバースエンジニアリングと精神転送のために必要な研究の労力に対する見積もりは過少であると言えます。 まず…

エミュレーション、シミュレーション、モデリング

科学者は、物理現象を理解し説明するために「モデル」を作成します。あるいは、工学においては現象の予測や複雑な構造物の設計のために「シミュレーション」を行ないます。コンピュータを用いた数値シミュレーションは、既に科学や工学における確固たる手法…