シンギュラリティ教徒への論駁の書

“Anyone who believes that exponential growth can go on forever in a finite world is either a madman or an economist.” - Kenneth Boulding

目次

第一部 「シンギュラリティ」

  1. 序文
  2. シンギュラリティとは何か?
    - カーツワイルのシンギュラリティ説とその批判 
  3. ほとんどのテクノロジー成長は指数関数的ではない
  4. 収穫加速の幻影
  5. ムーアの法則と人工知能
    5.1. ムーアの法則
    5.2. 精神転送
    5.3. 人工知能研究と機械学習
    5.4. 全脳アーキテクチャ
  6. 知能の拡大と思考主義批判
  7. 宇宙の覚醒
    - まとめ
  8. 予言は外れた
  9. テクノ・ハイプ論:なぜシンギュラリティは問題か
  10. 後書き

第二部 「進歩と崩壊と没落の未来史」

  1. 序文
  2. ハバートの法則と没落加速の法則
  3. 没落してゆく世界のスケッチ
  4. 崩壊概論
  5. 進歩の神話
  6. 崩壊教と進歩教
  7. ディセンサスの流儀
  8. 後書き

(執筆中…)

第三部 「技術的超越の思想史(仮題)」

(構想中…)

 

本ブログは、カーツワイル氏のシンギュラリティ説と「収穫加速の法則」を批判的に検証するものです。もともと書籍の企画として執筆し始めたものであるため、序文から順番に議論を展開していますが、各エントリは独立して読めるように構成しています。

初めての方向けの概要としては、カーツワイルのシンギュラリティ説とその批判 (短め) およびまとめ (やや長め)、および雑記ブログの自選10記事もご覧ください。

レイ・カーツワイルが予言した2019年はどこまで実現したのか?

この記事は、2018年3月17日に本ブログに投稿した記事を2019年2月4日に再掲したものです。備忘のため、2019年一杯はトップ表示しておきます。2020年に、改めて内容の検証を行うつもりです。

---

こちらは、フューチャリストレイ・カーツワイル氏が、1999年 (邦訳は2001年) の著書『スピリチュアルマシーン』の中で発表した、20年後 (2019年) の将来予測の検証です。

本文は、以下の記事をご覧ください。


概要

f:id:liaoyuan:20180317100007p:plain

注意事項

  • 予測文の区切りは、意味の区切りに従い私が独自に定めたものです。
  • 評価は、1 (正しい)、2 (やや正しい)、3 (判定不能/判断保留)、4 (やや誤り)、5 (誤り) の5段階の主観評価です。
  • 2019年はまだ「未来」であるため、私の判定自体にも予測が含まれます。約2年後の2020年時点で、もう一度予測の成否を判定してみたいと思います 。
続きを読む

後書き - シンギュラリティ死の五段階説

過去2年程度、私がこのブログを書いている間に、第三次AIブームとシンギュラリティ論はお決まり通りの興亡の道を辿った。その軌跡は、スイス系アメリカ人精神医学者でありグリーフケアの第一人者、そしてスピリチュアリストでもあるエリザベス・キューブラー=ロスのモデルを通して理解できる。もちろん、彼女が語っていたことは、余命宣告というリアリティに直面したときに人々が辿る5つの心理段階についてであるが、それはある信念体系が死を迎える過程についても同様に適用することができる。

最初の段階は、"否認" である。突然の余命宣告を受けた人は、通常の場合、「それは何かの間違いだ」、「自分にこんなことが起こるはずがない」として、発生した事象の認識を拒否する。シンギュラリティ論の場合で言えば、私のブログ、あるいは新井紀子氏の書籍のような、懐疑論の存在を一切無視し言及しないという形で表れていた。

第二の段階は、"怒り" である。キューブラー=ロスによれば、現実の否認がもはや困難になると、「どうして私なんだ!」という感情から、周囲の身内、友人知人、あるいは医師や世間などに対する怒りの爆発が生じるのである。このブログと、その敵対者を見守っていた人であれば、議論のなかで突発的に、不合理に激怒する人々がいたことを記憶しているだろうと思う。

第三段階は "取引"である。キューブラー=ロスの著作では、余命宣告された人々が、神や家族や医者に対して、罪を改め清い生き方をするという約束をする事例が取り上げられている。もちろん、彼女が指摘する通り、この"取引"は現実をわずかなりとも変化させることはない。けれども、"取引"は、何らかの望ましくない事象が発生したことを認識し受け入れるために必要となるステップである。シンギュラリティ論の場合で言えば、私 (渡辺) は嘘つきで不誠実なバカでありその主張は信頼に値しないとか、カーツワイルの予測は社会の予測としては外れていても情報分野においてはまだ有効だと主張するとか、あるいは、自分自身ではもはや信じていない未来予想に「予防原則」を持ち出して、社会に多大な影響を与える可能性があるのだから警告と対処が必要であるとかの心理的な"取引"を通して、信念体系の中心部分を守り続けようとしている人が観察できるだろう。

第四段階は、"抑鬱" である。喪失感が強まり、感情の起伏が無くなっていく。「シンギュラリタリアン」としてソーシャルメディア上で活発に活動していた人々が多数、アカウントを削除して消えていったり、アクティブな活動を止めてしまったのは、この抑鬱段階として捉えることができる。

最後の第五段階は、"受容" である。キューブラー=ロスが注意する通り、"受容" は喜びではない。むしろ、諦観 - あきらめの気持ちと言ったほうが正しい。これは世界が変わってしまったという事実に折り合いを付けるプロセスであり、以前までの段階には存在しなかった見返りをもたらす。新たなリアリティについて何らかの意義のある行動を取れるようになるのだ。余命宣告を受けた人の場合では、死を迎える場所や自分の死後の埋葬方法などを家族と検討したり、遺言を遺すなどの実際的な準備を行なえるようになる。私が見たところ、シンギュラリティ論の場合では"受容" 段階を迎えた人を観察できないのだが、それには充分な理由がある。

キューブラー=ロスの批判者が指摘してきた通り、余命宣告を受けた人すべてがこの通りの心理的段階を経るわけではない。病状の進行速度によっては複数の段階を行き来する場合もあるし、ごく少数ながら死を迎える直前まで "否認" 段階に留まる人もいる。以前に指摘した通り、信念体系は否定されればされるほど強化されるという性質を備える。そのような人々の実例も簡単に見つけられるだろう。生物学的な死とは異なり、信念の死は明確に定義できない。特に、その信念体系が未来についての予測である場合にはなおさらだ。予測が外れた場合にも、更に予測を先送りし後倒しすることで信念を保ち続けることができる。

その意味で、シンギュラリティ論は決して死ぬことはないだろう。今から25年後、50年後、あるいは100年後にも、世界がどのような形になっていたとしても、我々自身の似姿を創造し、神の役割を演じようとする試みは決して途絶えることはないだろう。(ダートマス会議の時代の計算機の性能を考えてみれば、現状の計算機と比較すればごくささいな計算力を使用してさえ、人間のさまざまな認知機能を模倣できることが分かる。) どのような未来の世界であっても、超越的な知能による報われない現実からの救済、あるいは破滅の願望を託す人々が存在し続けるであろうことは疑いがない。

それでも、我々はそろそろ先へ進むべきなのではないかと思う。テクノロジーの指数関数的進歩によるユートピア、あるいはディストピアという思考のトラップの間を進み、異なる複数の未来のあり方を想像して、そのような状況下でも我々が取りえる建設的な行動は何であるかを探ってみたい。

「AIによる政治」を怖れるべき理由

私の別ブログの翻訳プロジェクトで、本ブログのテーマとも関連のある興味深い記事を翻訳した。

この記事で、ジョン・マイケル・グリアは、科学者が政治問題について愚かな主張をしてしまう2つの原因を説明している。それは、「利害」と「価値観」を科学の議論から排除する慣習、そして、妥協を許さず唯一の「真理」を追求する姿勢である。この2つの態度は、科学研究には必須ではあるけれども、政治問題に対してナイーブに適用された場合はとてつもなくバカげた主張をもたらす場合がある。

このような科学者・技術者の政治的愚かさが最大限に発揮されている最近の事例は、「AIによる政治」、「根拠エビデンス  にもとづく政策決定」についての議論だろう。


近年の政治不信とAI技術の発展により、AIを用いた政治の改革が語られている。中には、サイエンスフィクションめいた超知能AIによる哲人政治を提唱する主張もあるが、それほど空想的ではなくても、エビデンス (とそれを利用した機械学習) にもとづく政策決定の導入を訴えるものもある。ただし、どのような主張であれ、それを裏付ける前提には「人間は偏見から逃れられない一方で、AIは公平無私であり人間同士の利害と価値観の対立から逃れられている」、「社会の問題について、何らかの中立的で公平な(唯一の)解が存在する (そして、AIはその解に近付くことができる)」という考え方があるように見える。*1

ところが、多少なりとも考えてみれば、その前提が二重に幻想であることが理解できる。「公平」、「平等」、「自由」といった価値観を、本当に人間と同様の意味で内的に理解しているAIシステムは存在せず、近い将来に実現するという見込みすらない。それをひとまず棚に上げたとしても更なる問題がある。本当にささいな政治的な利害の調整ですら、暗黙的に「公平」、「平等」といった価値観についての根本的な疑問を含んでいるため、単なるエビデンスについての問題には還元できず、完全に中立的な立場など存在しないからだ。

 

f:id:liaoyuan:20190605224321j:plain

ローマ水道の遺跡 ( wikimedia commonsより)

ここで、利害調整にからむ価値観の問題を検討するために、例として、ある社会の構成員がお金を出し合って個人では不可能な何らかの事業を営むことを考えてみよう。生命保険、年金でも道路の建設でも戦争でも何でもよいが、ここではどこかの都市国家で灌漑 (農業) 用の上水道を建設することを取り上げる。

このような水道を建設するための資金を集める方法は、複数考えられる。市民全員が (資産の多寡によらず) 一定の額を拠出するのでも良いし、あるいは資産額に応じた一定割合の金額を納めるという方法もある。あるいは、水の使用量に比例する使用料を支払うという方式でも良いだろう。*2

ここには「唯一絶対的に正しい方法」は存在しない。ただし、もちろん、各々の立場によって損をする・得をする政策が存在するため、各々の利害に応じた「望ましい」政策はありうる。たとえば、貧しい農民は、おそらく資産額に応じた一定の割合での支払いを求めるだろう。逆に、広大な農地を抱える裕福な地主は、すべての市民が一律の金額を支払うことが「平等」であると主張するかもしれない。一方で、(水にそれほど依存しない) 商売を営む裕福な商人は、大量に水を使う農場主と同じ割合の負担を求められるのは「不公平」であるからとして、水の使用量に応じた支払いを求めるかもしれない。

もう一度言っておくと、この問題に唯一絶対の解はない。いかなる負担の分配が妥当であるのか、また社会の構成員がおおむね妥協できるであろう政策は、複数考えられる。ただし、その政策が社会の「公平」、「平等」の概念に著しく反する場合には、その政策に従わない集団が現れるかもしれない。また、その裏にある「一定額の支払い」と「一定割合の支払い」のどちらが「公平」で「平等」であるのかという疑問にも唯一の解答はない。これは事実に関する問題ではなく、「価値観」についての問題であるため、どれほどのエビデンスを集めて統計処理を行なったとしても、いかなる二重盲検対照試験を行なったとしても証明も反証もできないものである。*3

これほど単純化した事例でさえ、政治的な利害調整には、「公平性」、「平等性」をどのように捉えるか、それらを社会でどのように実現していくかという、価値観についての根本的な疑問を考慮する必要がある。そして、その裏には「どのような社会が望ましいか」という個々人のビジョンが存在している。非常に多くの場合、鋭い対立を生む政治問題の背景には、個々人のビジョンの違いが存在している。


さて、前置きが長くなった。「AIによる政治」について、私はサイエンスフィクションじみた「超知能AIによる人間の統治」のような問題を懸念しているわけではない。既に述べた通り通り、人間と同じように、人間と同等の意味で「公平」、「平等」などの価値観を理解しているAIシステムは存在せず、近い将来に実現できるという見込みすらない。また、もしもそのような人間と同等以上の人工知能が実現できたとしても、単一の公共空間で生身の人間集団を相手にする限りは、人間の政治家とまったく同じように問題に直面するだろう。

「AIによる政治」について私が懸念しているのは、もっと卑近で現実的な問題である。つまり、ごく近い将来、あるいは現在、政治分野にAI技術が持ち込まれる場合には、「公平無視なAIの判断」を装って、AI作成者の「利害」と「価値観」を唯一の真理であるかのように提示し、それらを社会全体に強制するための手段として用いられるだろう。また、そのようなAIは、既に社会に存在する不正義と不平等を構造的に強化するように機能するだろう。

そのようなAIを作成するのは、現在既に十分すぎるほどに強大な権力を持っている国家と超グローバル企業であることに疑いはない。


ここで述べた問題は、一部は既に起こっている現実の問題である。キャシー・オニールの『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』を読んでほしい。

*1:例として、次の記事を参照 『AIとバイアス

*2:一応断わっておくと、ここでは歴史的な正確さは考慮しないので、ここで挙げたような方法で資金を集めて水道を建設した都市があるのかは分からない。

*3:もちろん、「ヨソではみんなこんなふうにやっていますよ」というエビデンスが、政治的な議論のレトリックとして説得に有効である可能性はある。しかし、それは何らかの「正しさ」を証明するものではない。

あの技術ニュースはどうなった!? テスラの完全自動運転車

2019年4月、アメリカの自動車会社テスラ社の投資家向けイベント「オートノミー・インベスター・デイ」で、同社CEOのイーロン・マスクは、自動運転車についての予想を述べた。それによれば、来年の終わりまでに、公道上で、自動運転用ハードウェアを備えた100万台の自動車を「誰も注意を払う必要がないと感じるほどの信頼性レベルで」走行させるという。つまりは、レベル5の自律性が実現でき、またそれらの車両はオーナー自身が乗車しない時間には自動の無人タクシーとして運用可能であり、勝手にお金を稼いでくれるのだという。

イーロン・マスクが自動運転車の未来についてやや過剰な主張をするのは、何も今回が初めてのことではない。

2014年には、マスクは完全自動運転車が5〜6年で完成と予想していた。2015年には、『完全な自動運転の実現までに「技術的には3年でできるが、規制緩和にさらに数年かかる」』という見方を示していた。既に3年が経過したものの、完全自動運転は実現しておらず、それゆえ当局の規制緩和も実現していない。2016年には、2017年までにロサンゼルスからニューヨークまで、北米大陸を横断する完全自動走行を実施すると述べていたが、今に至るまで北米大陸横断運転は行われていない。2017年には、2年以内に完全自律走行のテスラ車の中で安全に眠れるだろうと予測していた。言うまでもないが、2019年現在、いかなる車両であれ居眠り運転は極めて危険な行為である。2018年1月には、その年の夏までに完全自動運転が実現し、ソフトウェアアップデートを通してすべての車両に展開されると述べていたが、それも実現しなかった。また、同2018年10月には、過去2年程度販売されてきた未来の「完全自動運転」オプション *1 の販売が停止された (その後復活した)。

イーロン・マスクの自動運転に関する計画あるいは予想は、毎年毎年、株価暴落と経済危機の発生を予測する経済アナリストを彷彿とさせる。

これまでにも、マスクの過大な将来予測 (あるいは、自動運転実現までの期間の過少評価) には、もちろん批判もあった。けれどもそれ以上に、大胆さ、チャレンジ精神、ポジティブネス、諦めを知らぬ不屈の精神など、あいまいに肯定的な価値観と共に語られることが多かったようである。ところが、今回のマスクの予測に向けられたコメントは、懐疑的なものから完全なる揶揄と嘲笑まで、かなり否定的な論調のコメントが目立つ。 

ロドニー・ブルックスは、テスラのイベントについて次のようにツイートした。

2020年12月31日に、本当に自律 (人間のセーフティードライバーなし) であるテスラ社のタクシー (一般の人々が目的地と料金を選択できる) が、公道 (同じ道路上に、制限を受けていない人間の運転する車がある) で何台走行しているかを数えてみよう。100万台には達しないだろう。私の予想: ゼロ。そのときになったら数えてリツイートする。

上記のブルックスのツイートに対して、AI投資家であるカイフ・リーは次のように引用ツイートした。

もしも、2020年に路上で100万台のテスラロボタクシーが走行していたら、私はそれらを食べるだろう。もしかしたら、ロドニー・ブルックスも一緒に半分食べてくれるだろうか?

ここには、完全自動運転の将来性に対する世間の受け止め方が既に完全に変化したことが示されている。また、マスクの大胆な発言が、態度と価値観の相違という範囲を超えて、社会的・法的な責任を問われるレベルにまで達したこととも無関係ではあるまい。(後者の問題については、ツイッターハッシュタグ  #fundingsecured を参照してほしい。) 振り返って考えると、自動運転に対する世間の受け止め方のターニングポイントは、2018年3月のUberによる自動運転車実験の死亡事故であったように思う。ほとんどの自動車会社や自動運転スタートアップ (テスラを除く) は、自動運転の実現予測を後退させ、世間の期待をコントロールしようと努力している。多数の例があるので一部を取り上げておくと、ウェイモのジョン・クラフチックCEOは、2018年11月「自律性には必ず何らかの制約が伴う」と述べ、かつて2018年初頭までは2019年中の自動運転車の量産開始を宣言していたフォード、GMといった米大手自動車メーカーも、現在では自動運転車の販売開始時期の明言を避けている

テスラの株価について付け加えておくと、同社の株価は「オートノミー・インベスター・デイ」以前から下落を続けており、この記事を書いている時点で年初来4割安の値を付けている。更なる株価下落と他企業による買収を予測するアナリストもいる (ところで、非自動型の電気自動車生産および事業黒字化は、完全自動運転車の量産化よりもはるかにたやすいはずであると思う)。

もちろん、ついに今度こそイーロン・マスクは自動運転の解決策を見出し、完全自動運転車を販売できるのかもしれない。彼が以前語っていた通り、明日にでも突然に自動運転車の能力が指数関数的に向上を始め、2020年のデッドラインにすべり込めるかもしれない。未来は誰にも分からない。2021年1月1日に経過を調べ、もう一度記事を投稿したいと思う。

*1:注: 自動運転が可能となった時点で、ソフトウェアアップデートにより自動運転の機能が有効化されるオプション

あの技術ニュースはどうなった!? Moley Robotics のロボットキッチン

2015年ごろ、一流シェフ並みの自動調理ができるとうたうロボットキッチンのデモンストレーションが、大きな注目を集めました。

www.youtube.com

デモに対する当時の反応を見てみると、すぐにでもあらゆる家事が自動化され我々は雑事から解放されるのだという夢想めいた主張もあり、あるいは、飲食店のウェイターや料理人がすぐにでも職を失うだろうという悲観的な予想も立てられていたようです。

実際に、GIGAZINEの記事 (2015年4月14日) では、2年以内にロボットキッチンの一般向け販売が開始され、販売価格は1万ポンド (約180万円) を想定していると書かれていました。自動調理ロボットの誕生と普及がすぐ間近に迫っていると多くの人が感じたのも、無理のないことでしょう。

 

それでは、ロボットキッチンの製造元ベンチャー企業であるモリーロボティクス社のサイトを確認してみます。

Moley – The world's first robotic kitchen

私がこの記事を書いている時点で、GIGAZINEの記事公開から4年近く経過していますが、ロボットキッチンは未だ発売されていません。

それどころか、サイトの中を見ても、ロボットキッチンの技術的仕様や価格はおろか、発売予定日すら記載がありません。4年前と比べても、ロボットキッチンの実用化にはあまり近づいていないように見えます。

デモから製品化へ

最近でも、家庭用ロボットの印象的なデモンストレーションが数多く行われています。そのようなデモの記事を見ると、相変わらず、すぐにでも我々の職業が自動化されるという期待と恐怖を煽るような反応が多いようです。

けれども、約4年前のロボットキッチンの実例から示されている通り、技術的デモンストレーションの実現から製品化と一般への普及の道のりは、想像以上に長い時間を要します。物理世界と直接的なインタラクションを行うロボットは、情報のみを処理するソフトウェア製品とは異なる要求を満たす必要があるからです。

これらのロボットを一般に向けた製品として開発する場合には、特定の限定された環境下での1つのサブタスクではなく、数十万、数百万の異なる環境で汎用的にタスクを遂行する必要があります。加えて、機能以外の要件として、信頼性・保守性 (壊れにくく、壊れた場合にも修理しやすいこと) 、安全性やユーザビリティなどさまざまな要件を考慮する必要もあります。こういった問題は「ディープラーニング」や「AI」を適用することで一挙に解決できる問題ではなく、地道で地味なエンジニアリングが必要になるものであり、解決には大きな費用と時間を要します。

技術ニュースの記憶喪失

また、ここで技術ニュースの素材には極めて楽観的なバイアスが存在していることも指摘しておきたいと思います。

未来予測や製品化時期についての公式発表は、たとえ夢想的で根拠を欠くものであったとしても、我々の関心を惹き、メディアで大きく取り上げられる傾向があります。研究開発に関するニュースの中では、「革命的な技術開発に繋がる可能性がある」、「〇年以内に実用化を目指したい」といった言葉は決まり文句としてお馴染みで、ともすればこれらの言葉だけが切り取られ、未来への夢想的な期待をかき立てることも頻繁にあります。

一方、ここで取り上げたロボットキッチンのように、過去のニュースやリリースを検証し、開発が停滞・遅延している、中断された、あるいはうまく進んでいないという事実はめったに報道され注目されることがありません。結果、古いニュースへの熱狂が薄れて世間の記憶が失われた後で、再び類似のニュースが話題となり、未来への期待が先送りされる状況も珍しくないようです。

我々は第三次AIブームの開始からおおよそ4, 5年程度のところに居て、当時の想像と今現在の世界を比較できる時期に差し掛かっています。もしも真摯に未来について考えようとするのであれば、最先端の技術ニュースを追い検証不能な「未来」を求め続けるばかりではなく、過去の未来予測を振り返り、何が的中し外れたかを検証する必要があります。その上で、なぜ予測が的中したか、あるいは外れたかを考え、予測発表時点で前提としていた仮定や理論と現在世界の実状との差異を考え、理論と予測を更新しなければなりません。

2019年の衝撃的な未来予測

1年の始まりに、世間では、今年何が起こるかの予測が活発にされているようです。

けれども、ご存知の通り、私は極めて後ろ向きな人間なので、過去になされた2019年に関する予測を紹介し検討してみたいと思います。

 

2017年1月に公開された2019年についての予測

1999年に公開された2019年についての予測

もちろん、2019年はまだ365日間残っているので、これらの予測が最終的に真であると判明する可能性はゼロではありません。来年2020年に、もう一度これらの予測を見返してみたいと思います。

それでは、本年もどうぞよろしくお願いいたします。