目次

第一部 「シンギュラリティ」

1. 序文
2. シンギュラリティとは何か?
   - カーツワイルのシンギュラリティ説とその批判 
3. ほとんどのテクノロジー成長は指数関数的ではない
4. 収穫加速の幻影
5. ムーアの法則と人工知能
   5.1. ムーアの法則
   5.2. 精神転送
   5.3. 人工知能研究と機械学習
   5.4. 全脳アーキテクチャ
6. 知能の拡大と思考主義批判
7. 宇宙の覚醒
   - まとめ
8. 予言は外れた
9. テクノ・ハイプ論：なぜシンギュラリティは問題か
10. 後書き

第二部 「進歩と崩壊と没落の未来史」

1. 序文
2. ハバートの法則と没落加速の法則
3. 没落してゆく世界のスケッチ
4. 崩壊概論
5. 進歩の神話
6. 崩壊教と進歩教
7. ディセンサスの流儀
8. 後書き

(執筆中…)

第三部 「技術的超越の思想史(仮題)」

(構想中…)

本ブログは、カーツワイル氏のシンギュラリティ説と「収穫加速の法則」を批判的に検証するものです。もともと書籍の企画として執筆し始めたものであるため、序文から順番に議論を展開していますが、各エントリは独立して読めるように構成しています。

初めての方向けの概要としては、カーツワイルのシンギュラリティ説とその批判 (短め) およびまとめ (やや長め)、および雑記ブログの自選10記事もご覧ください。

2030年の完全自動運転車についての賭け

Doom, Quakeなど著名なFPSゲームのプログラマであり起業家としても知られるジョン・カーマックと、Stack Overflowの創業者ジェフ・アトウッドは、2030年1月1日までにレベル5完全自動運転が実現するか否かについての賭けをしていることを公表しています。

blog.codinghorror.com

アトウッドは実現不可能であると賭けており、カーマックは実現することに賭けています。敗者は、勝者側の選んだ任意の事前団体に1万ドルの寄付をするという条件での賭けです。

私自身は、個人的にはレベル5自動運転が実現することは永久にありえないと思っているので、アトウッド側を支持しています。

この賭けについても継続的にウォッチし、2030年に結果を確認したいと思います。

2029年の人工知能には不可能な5つ(+1)のこと

イーロン・マスク氏が、2029年までに汎用人工知能 (AGI) が実現していなければ驚きだ、と述べたことが注目を集めています。

2029 feels like a pivotal year. I’d be surprised if we don’t have AGI by then. Hopefully, people on Mars too.

— Elon Musk (@elonmusk) 2022年5月30日

この発言に対して、認知科学者のゲイリー・マーカス、AI研究者のメラニー・ミッチェルらが反論し、イーロン・マスクに対して賭けを提案しています。賭けの条件として、マーカスは2029年までに人工知能には実行が不可能だと予想されるタスクを5つ挙げています。

• 映画を見て、何が起きているかを正確に説明すること (マーカスが主張する「理解度チャレンジ」)  たとえば、登場人物は誰か？ 登場人物たちの葛藤や動機は何か？ 
• 小説を読み、あらすじ、登場人物、葛藤や動機などについての質問に正確に回答すること
• あらゆる厨房で有能な料理人として働くこと (ウォズニアックのコーヒーテストの拡張)
• 自然言語による仕様書、または非専門家ユーザーとの会話を通じて、1万行以上のバグのないプログラムコードを生成すること (既存のライブラリを組み合わせることは含まない)
• 自然言語で書かれたあらゆる数学的証明を、形式的検証が可能な形に書き換えること

ゲイリー・マーカスは、もしも2029年までにこの5つのうち3つが実現された場合は10万ドル (約1300万円) を払うと述べています。マスクはこの賭けに応じていないため、この未来予測の賭けに関する詳細な条件は定められていません。(たとえば、映画や小説とはどれくらいの長さがあるものなのか、研究レベルのデモが実現すれば良いのか、など) とはいえ、私自身はこの不可能性の予測はかなり妥当であるように感じます。

たぶんマスク氏はこの賭けに応じないでしょうが、私は2029年にこの予想の結果を確認したいと思います。

さて、ここで私自身の予測も1つ挙げておきます。

• 2029年には、事務員を代替可能なほどに書類作成ができる人工知能は存在しない
  つまり、任意のフォーマットの書類について、自然言語で指示された内容を適切に記入でき、また不明点については依頼者に質問ができるような人工知能は、2029年までには実現できない

追記

その後、ゲイリー・マーカスの挑戦はかなりの注目を集めています。カーネギーメロン大学のAI教授であるヴィヴェック・ワファは、賭けの金額を50万ドル (約6500万円) に増額することを宣言しました。また、作家でフューチャリストのケヴィン・ケリーは、レイ・カーツワイルとミッチ・ケイパーによるAGIに関する賭けと同様に、Long Betサイトでこの賭けを検証することを申し出ています。AIに関するカンファレンス World Summit AIは討論会の開催を提言しました。

イーロン・マスクはまだこの提案についていかなる返答もしていないようですが、せっかくなので私自身も賭けに乗りたいと思います。2029年にマーカスがこの賭けに負けた場合には、私も金 (ゴールド) 50g に相当する額を何らかの慈善団体に寄付します。

レイ・カーツワイルが予言した2019年はどこまで実現したのか？ (2021年版)

この記事は、2018年3月17日に本ブログに投稿した記事を2020年末に再評価したものです。
---

こちらは、フューチャリストのレイ・カーツワイル氏が、1999年 (邦訳は2001年) の著書『スピリチュアルマシーン』の中で発表した、20年後 (2019年) の将来予測の検証です。

約3年前の2018年に元の記事を投稿して以来、世界は激変しました。新型コロナウィルスの登場は、誰にも予測不可能であり、そこを過ぎたら世界の有り様が一変してしまうという意味において、シンギュラリティと呼びうるかもしれません。そして、2021年1月現在でさえ、我々はその真っ只中を通り抜けている途中であるとも言えます。

テクノロジーに関しては、コロナ禍はある面で研究・開発・普及を妨げ、別の面では -ワクチン、テレビ会議など- 研究や普及を促進した部分もあります。とは言っても、私はこの評価を大きく書き直す必要性を感じませんでした。結局のところ、カーツワイル氏が予測の基盤とする原理、収穫加速の法則が完全に誤っているからです。

もちろん、私とは意見の異なる方も居るかと思いますが、オープンな議論、指摘は歓迎します。

概要

評価

注意事項

• 予測文の区切りは、意味の区切りに従い私が独自に定めたものです。
• 評価は、1 (正しい)、2 (やや正しい)、3 (判定不能/判断保留)、4 (やや誤り)、5 (誤り) の5段階の主観評価です。
• 3年前から変化した値、評価については、アンダーラインで変更を示しています。

「AIの父」ヤン・ルカン、GPT-3への過剰な期待に警鐘を鳴らす

このブログを読んでいる人であれば、おそらく、OpenAI が開発した言語モデル、GPT-3 について耳にしたことがあるのではないかと思います。GPT-3は 、流暢な文章を生成できるのみならず、コードやデザインまでも生成でき、ごく一部では、言語を解す汎用人工知能の萌芽であるとも評価されているようです。

けれども、Facebook社の副社長兼チーフAIサイエンティストで、ディープラーニング開発の功績により2018年のチューリング賞を受賞したヤン・ルカン氏は、Facebook上で短いエッセイ を公表して、GPT-3 に対する過剰な期待に対して警鐘を鳴らしています。

ルカン氏の論拠は、医療テック系ベンチャー Nabla社が公表したGPT-3 の検証実験です。この実験では、GPT-3 がヘルスケア現場で実際に使用可能であるのかを確かめるため、複数のテストシナリオを GPT-3 に対して実施しています。

その結果は、惨々たる大失敗であるとしか言えません *1。GPT-3は、診察の予約や支払い計算などに必要となるごく簡単な論理的推論や短期記憶の保持すらできず、完全に誤った診断や薬の用法を提示し、パラメータを変化させると質問の度に一貫性のない答えを返し、あまつさえ、自殺を勧めさえするのです！

このデモは、GPT-3 のような統計的言語モデルの限界を明晰に示しています。

GPT-3 は言語モデルである。つまりは、テキストを入力してその続きを予測するように命じると、一度に1つの単語を出力する。GPT-3は、現実の世界がどのようなものであるかという知識をまったく持っていない。GPT-3がいくらかの背景知識を持っているように見えるのは、ただテキストの統計中に表された知識を得ているからだけである。けれども、その知識は極めて表面的でしかなく、基礎となる現実からはかけ離れている。

もちろん、このデモは、GPT-3 がまったくの無価値なゴミ生成機だということを意味するわけではありません。GPT-3 との対話は楽しいものですし、おそらく、クリエイティブな支援についてはいくらか有用であるかもしれません。けれども、統計的な言語モデルをスケールアップすることで汎用人工知能を実現しようとする試みは、ルカン氏が指摘する通り、高高度飛行機の性能を向上させることで月への着陸を目指すような、不毛な試みであると言えるでしょう。

*1:公平のために言うならば、OpenAI社はGPT-3を医療分野に適用することを推奨していない

渡辺正峰さんの「20年以内に人間の意識をコンピュータにアップロードできる」説

脳科学者で東大大学院准教授の渡辺正峰さんは、20年以内に人間の意識をコンピュータにアップロードできるようになると主張しています。

ただし、渡辺正峰さんは、ここ3年ほど、同じ主張を繰り返しています。

・2018年8月20日

グーグルでＡＩ研究を率いるレイ・カーツワイル氏は、今世紀半ばには人の意識の機械への移植が実現することを予言しています。私自身、外部の方と協力して意識移植のベンチャーを立ち上げようとしています。いくつかの仮説が正しければ、技術的な障壁はそれほどありません。マウスを使っての実験で５～６年、その後により人に近い猿で実験。トントン拍子で進めば、２０年後に人での実用化もまったくの夢ではありません。

脳と機械の一体化を研究「私の意識は永遠に生き続ける」：朝日新聞デジタル

・2019年5月20日

人間の意識を機械に移植する研究を進めている。米グーグルでAI（人工知能）研究を率いるレイ・カーツワイル氏は、今世紀半ばにはこれが実現すると予言している。私自身は、3月に始動したスタートアップなどを通じて、20年後メドの成功を目指している。令和のうちに、人間が機械の中で永遠に生き続ける時が来るかもしれない。

「意識の移植」が問う倫理 脳科学者・渡辺正峰氏: 日本経済新聞

・2020年8月19日

20年以内に「人間の意識を機械にアップロードすること」の実現を目指し、ベンチャー企業・株式会社MinD in a Deviceの技術顧問としても同様の研究を行っている。

意識を機械にアップロードして“不老不死”を実現!? 東大准教授が提唱する可能性とは | 国内 | ABEMA TIMES

渡辺さんは、過去3年間ずっと「20年後に意識のアップロードができる」という主張を繰り返しています。もちろん、2018年から見た20年後 (2038年) はまだ到来していないため、この予測が完全な誤りであるとは言い切れません。

私は、今後20年間、渡辺正峰さんを注視していきたいと思います。

---

追記

・2021年2月28日

2021年6月5日

www.nikkei.com

渡辺准教授は「可能性は十分にある」と断言する。「最終的には自分の脳で確認する。あと20年ぐらいで実現したい」（渡辺准教授）

2022年2月15日

20年後の意識のアップロードに向けて—コネクトーム・学習・BMI・生成モデルの観点から (生体の科学 73巻1号) | 医書.jp

レイ・カーツワイルが予言した2019年はどこまで実現したのか？

この記事は、2018年3月17日に本ブログに投稿した記事を2019年2月4日に再掲したものです。備忘のため、2019年一杯はトップ表示しておきます。2020年に、改めて内容の検証を行うつもりです。

---

こちらは、フューチャリストのレイ・カーツワイル氏が、1999年 (邦訳は2001年) の著書『スピリチュアルマシーン』の中で発表した、20年後 (2019年) の将来予測の検証です。

本文は、以下の記事をご覧ください。

概要

注意事項

• 予測文の区切りは、意味の区切りに従い私が独自に定めたものです。
• 評価は、1 (正しい)、2 (やや正しい)、3 (判定不能/判断保留)、4 (やや誤り)、5 (誤り) の5段階の主観評価です。
• 2019年はまだ「未来」であるため、私の判定自体にも予測が含まれます。約2年後の2020年時点で、もう一度予測の成否を判定してみたいと思います 。