シンギュラリティ教徒への論駁の書

“Anyone who believes that exponential growth can go on forever in a finite world is either a madman or an economist.” - Kenneth Boulding

目次

第一部 「シンギュラリティ」

  1. 序文
  2. シンギュラリティとは何か?
    - カーツワイルのシンギュラリティ説とその批判 
  3. ほとんどのテクノロジー成長は指数関数的ではない
  4. 収穫加速の幻影
  5. ムーアの法則と人工知能
    5.1. ムーアの法則
    5.2. 精神転送
    5.3. 人工知能研究と機械学習
    5.4. 全脳アーキテクチャ
  6. 知能の拡大と思考主義批判
  7. 宇宙の覚醒
    - まとめ
  8. 予言は外れた
  9. テクノ・ハイプ論:なぜシンギュラリティは問題か
  10. 後書き

第二部 「進歩と崩壊と没落の未来史」

  1. 序文
  2. ハバートの法則と没落加速の法則
  3. 没落してゆく世界のスケッチ
  4. 崩壊概論
  5. 進歩の神話
  6. 崩壊教と進歩教
  7. ディセンサスの流儀
  8. 後書き

(執筆中…)

第三部 「技術的超越の思想史(仮題)」

(構想中…)

 

本ブログは、カーツワイル氏のシンギュラリティ説と「収穫加速の法則」を批判的に検証するものです。もともと書籍の企画として執筆し始めたものであるため、序文から順番に議論を展開していますが、各エントリは独立して読めるように構成しています。

初めての方向けの概要としては、カーツワイルのシンギュラリティ説とその批判 (短め) およびまとめ (やや長め)、および雑記ブログの自選10記事もご覧ください。

レイ・カーツワイルが予言した2019年はどこまで実現したのか?

この記事は、2018年3月17日に本ブログに投稿した記事を2019年2月4日に再掲したものです。備忘のため、2019年一杯はトップ表示しておきます。2020年に、改めて内容の検証を行うつもりです。

---

こちらは、フューチャリストレイ・カーツワイル氏が、1999年 (邦訳は2001年) の著書『スピリチュアルマシーン』の中で発表した、20年後 (2019年) の将来予測の検証です。

本文は、以下の記事をご覧ください。


概要

f:id:liaoyuan:20180317100007p:plain

注意事項

  • 予測文の区切りは、意味の区切りに従い私が独自に定めたものです。
  • 評価は、1 (正しい)、2 (やや正しい)、3 (判定不能/判断保留)、4 (やや誤り)、5 (誤り) の5段階の主観評価です。
  • 2019年はまだ「未来」であるため、私の判定自体にも予測が含まれます。約2年後の2020年時点で、もう一度予測の成否を判定してみたいと思います 。
続きを読む

あの技術ニュースはどうなった!? Moley Robotics のロボットキッチン

2015年ごろ、一流シェフ並みの自動調理ができるとうたうロボットキッチンのデモンストレーションが、大きな注目を集めました。

www.youtube.com

デモに対する当時の反応を見てみると、すぐにでもあらゆる家事が自動化され我々は雑事から解放されるのだという夢想めいた主張もあり、あるいは、飲食店のウェイターや料理人がすぐにでも職を失うだろうという悲観的な予想も立てられていたようです。

実際に、GIGAZINEの記事 (2015年4月14日) では、2年以内にロボットキッチンの一般向け販売が開始され、販売価格は1万ポンド (約180万円) を想定していると書かれていました。自動調理ロボットの誕生と普及がすぐ間近に迫っていると多くの人が感じたのも、無理のないことでしょう。

 

それでは、ロボットキッチンの製造元ベンチャー企業であるモリーロボティクス社のサイトを確認してみます。

Moley – The world's first robotic kitchen

私がこの記事を書いている時点で、GIGAZINEの記事公開から4年近く経過していますが、ロボットキッチンは未だ発売されていません。

それどころか、サイトの中を見ても、ロボットキッチンの技術的仕様や価格はおろか、発売予定日すら記載がありません。4年前と比べても、ロボットキッチンの実用化にはあまり近づいていないように見えます。

デモから製品化へ

最近でも、家庭用ロボットの印象的なデモンストレーションが数多く行われています。そのようなデモの記事を見ると、相変わらず、すぐにでも我々の職業が自動化されるという期待と恐怖を煽るような反応が多いようです。

けれども、約4年前のロボットキッチンの実例から示されている通り、技術的デモンストレーションの実現から製品化と一般への普及の道のりは、想像以上に長い時間を要します。物理世界と直接的なインタラクションを行うロボットは、情報のみを処理するソフトウェア製品とは異なる要求を満たす必要があるからです。

これらのロボットを一般に向けた製品として開発する場合には、特定の限定された環境下での1つのサブタスクではなく、数十万、数百万の異なる環境で汎用的にタスクを遂行する必要があります。加えて、機能以外の要件として、信頼性・保守性 (壊れにくく、壊れた場合にも修理しやすいこと) 、安全性やユーザビリティなどさまざまな要件を考慮する必要もあります。こういった問題は「ディープラーニング」や「AI」を適用することで一挙に解決できる問題ではなく、地道で地味なエンジニアリングが必要になるものであり、解決には大きな費用と時間を要します。

技術ニュースの記憶喪失

また、ここで技術ニュースの素材には極めて楽観的なバイアスが存在していることも指摘しておきたいと思います。

未来予測や製品化時期についての公式発表は、たとえ夢想的で根拠を欠くものであったとしても、我々の関心を惹き、メディアで大きく取り上げられる傾向があります。研究開発に関するニュースの中では、「革命的な技術開発に繋がる可能性がある」、「〇年以内に実用化を目指したい」といった言葉は決まり文句としてお馴染みで、ともすればこれらの言葉だけが切り取られ、未来への夢想的な期待をかき立てることも頻繁にあります。

一方、ここで取り上げたロボットキッチンのように、過去のニュースやリリースを検証し、開発が停滞・遅延している、中断された、あるいはうまく進んでいないという事実はめったに報道され注目されることがありません。結果、古いニュースへの熱狂が薄れて世間の記憶が失われた後で、再び類似のニュースが話題となり、未来への期待が先送りされる状況も珍しくないようです。

我々は第三次AIブームの開始からおおよそ4, 5年程度のところに居て、当時の想像と今現在の世界を比較できる時期に差し掛かっています。もしも真摯に未来について考えようとするのであれば、最先端の技術ニュースを追い検証不能な「未来」を求め続けるばかりではなく、過去の未来予測を振り返り、何が的中し外れたかを検証する必要があります。その上で、なぜ予測が的中したか、あるいは外れたかを考え、予測発表時点で前提としていた仮定や理論と現在世界の実状との差異を考え、理論と予測を更新しなければなりません。

2019年の衝撃的な未来予測

1年の始まりに、世間では、今年何が起こるかの予測が活発にされているようです。

けれども、ご存知の通り、私は極めて後ろ向きな人間なので、過去になされた2019年に関する予測を紹介し検討してみたいと思います。

 

2017年1月に公開された2019年についての予測

1999年に公開された2019年についての予測

もちろん、2019年はまだ365日間残っているので、これらの予測が最終的に真であると判明する可能性はゼロではありません。来年2020年に、もう一度これらの予測を見返してみたいと思います。

それでは、本年もどうぞよろしくお願いいたします。

翻訳:Uber、ムーアの法則、テクノフィックスの限界 (カート・コブ)

この記事は、エネルギー・環境問題のジャーナリストであるカート・コブのブログ記事 "Uber, Moore's Law and the limits of the technofix" の翻訳です。

 

Uberはテック界に愛され続けている。個人用自動車とその所有者の未使用のキャパシティを認識したディスラプティブなスタートアップと見なされている。Uberは、携帯電話テクノロジーを使って世界中の都市でそのキャパシティを解き放ち、従来型のタクシーや公共交通機関を利用していたかもしれない顧客に安価な輸送サービスを提供したのだ。

スタートアップがたき火のごとく資金を燃焼させるのは当然のことだ。けれども、世界規模の企業となってから9年間経過して、Uberは未だに資金を燃やし続けている。直近の四半期では10億ドル、2017年全体では45億ドル[の赤字]である。

悲惨な財務状況にもかかわらず、なぜUberが投資家とテック界を魅了し続けられるのかを理解するためには、多少の背景知識が必要だ。テック界での支配的なメタファーは、ムーアの法則である。ムーアの法則は、半導体のパイオニアであるゴードン・ムーアにちなんで名付けられた。彼は、2年毎に集積回路上のトランジスター数が倍増することを述べたのだ。この急速な進歩は、速度、メモリと計算力についてコンピュータの能力の急速な発展を導き、同時に価格も劇的に低下していった。携帯電話、カメラや他のデジタルデバイスなど、電子回路を搭載する実質的にあらゆるものの性能でもこのような進歩が見られた。

ウィキペディアに書かれている通り、ムーアの法則は物理法則ではない; 単なる半導体業界の歴史的トレンドの観察である。けれども、ムーアの法則は、我々の日常生活のデジタル化に対して広く影響を与えているため -- たとえば、携帯電話はパワフルに、カメラ付きのポータブルなミニチュアネットワークコンピュータとなった-- ムーアの法則は、テック業界によって現代社会に解き放たれた神秘的な力の一種であると信じ込んでしまう傾向があるようだ。

他の点では知的な人々が、半導体業界のようには機能していない日常生活の領域にムーアの法則と類似の法則を適用することにより、不可能を信じるまでに至った。テック起業家でありフューチャリストであるレイ・カーツワイルは、太陽光発電のエネルギー市場シェアが2028年まで毎年倍々に増加することにより、12年後に太陽光発電が世界のエネルギー生産を占めるようになると2016年に予想していた。そのときには、太陽光がすべての世界のエネルギーの100%を供給すると考えられている。

カーツワイルが引用しているのが2016年の電力市場のデータであり、液体燃料市場のデータではないということは脇に置くとしても、電力についてさえ彼の予測が実現する可能性は極めて低い。以前の記事で説明した通り、エネルギートランジションには時間を、長い時間を要する。歴史的には、苦痛なまでのゆっくりとしたペースでしか動かなかったが、それには理由がある。エネルギーインフラの長期の寿命、政治的な力と結びついた複雑な経済的利害、新たなインフラ建設に対する物資的・財政的な制約などが挙げられる。

ムーアの法則の誤用によって生じたまた別の事例としては、1990年代半ばに私がミシガン州立大学 [MSU] の大学院生であったときに起こった。MSUの最大のライバル、ミシガン大学は、インターネットテクノロジーと組み合わせたいわば「遠隔学習」を展開し、100万人の組織となるだろうことをアナウンスしたのである。私は懐疑的だった。

結果的に、2018年秋のミシガン大学の総入学者数は46,761名であった。ミシガン大学は、現在MOOC[大規模公開オンライン講座]と呼ばれるものを公開している。けれども、これらの講座は100万人を入学させるところまではまったく近づいていないように見える。

ではここでUberの話題に戻ろう。最初に指摘しておきたいのは、優れたアプリを作り、それをタクシーサービスに接ぎ木したとしてもテクノロジー企業が生まれるわけではないということだ。自動車は半導体ではなく、道路は電子回路ではなく、Uberのドライバーは電気エンジニアではない (少なくとも、それらの多くは)

我々みんなが住んでいる物理的世界には実際上の速度制限があり、その速度は光速度よりも著しく低い。Uberのドライバーは、アメリカで車に乗る人すべてが直面するのと同じ交通状況に直面する。それらのドライバーは、所与の交通状況に対する最適な経路を予測するソフトウェアを用いて、少しだけ優位に立てるかもしれない。それでも、そのような優位性は平均移動時間を、言うなれば半分に削減するような種類の改善ではない。単純に、(現在の制限速度に違反せず) 都市路上を安全に高速で移動することはできないのだ。

Uberが顧客の輸送のために所有している車両は少数であるけれども、その輸送ビジネスは実際のところ資本集約的である。単に、この場合の資本はほぼ完全にドライバーが所有しているというだけだ。Uberは、そのため、他の輸送サービスと同じく情報ベースの企業ではない。Uberは、何らかの新しい、革命的な都市間の旅客輸送方法を編み出したわけではない。直接的な競合企業と同じく、自動車ベースの企業である。(明らかに、他のライバルたちと同じく乗合バスや地下鉄と競合している。)

明らかに、典型的な自動車はそれほど多くの人を乗せられない。通常の場合、後部座席に3人、前部に2人の5人である。だから、サービスの拡大にはより多くの車とドライバーを必要とする。ここでは規模の経済はそれほど働かない。 (Uberが直面している問題の優れた分析としては、ニューヨークマガジン誌に掲載されたアイブス・スミスの最近の記事を読んでほしい。)

ここで、ボーモルのコスト病に簡単に触れておきたい。ウィリアム・ボーモルはエコノミストであり、生産性向上が低いまたはまったくない職業の労働者の賃金も、製造業のような生産性向上の高い分野の賃金上昇に沿って上昇していることを発見した。それらの生産性が低成長である分野には、芸術、教育、医療ケアや公的サービスなどが含まれる; 実際のところ、意義ある個人サービスが必要となるあらゆる分野が、おそらくボーモルのコスト病の対象となる。

ボーモルの結論によれば、もしも我々が社会としてそれらの分野で人々を働かせたいと思うのなら、彼らに対して充分な賃金を支払う必要がある。さもなければ、彼らは高賃金の生産性の高い職へと逃げてしまうだろう。プロの弦楽四重奏団の過去100年間の生産性成長率はゼロであるが、しかし100年前と同じ賃金でライブ演奏を提供しているわけではない。演奏者たちは、今日の妥当な生活水準と見なされる生活を送れるだけの支払いを要求する。そうでなければ、彼らは生活のために何か別のことをするだろう。

我々は、たとえば、オペラ楽団がチケットの売上のみでは成り立たないということを受け入れるようになった。民間の寄付であれ公的資金であれ、補助金が必要である。けれども、それ以外の人間依存の職業では、少なくとも部分的にはムーアの法則を満たすことができるという幻想が抱かれ続けている。また、確かに一部の職業は自動化から多大な影響を受けているものの、そのような職業の大部分であっても、タスクは部分的にしか自動化できないということが明らかになった。自動化は、人間に対する需要を代替することなく人間を支援するのである。

ATMを考えてみてほしい。ATMは多くのルーチン的な取引を行なえる。けれども、その開発から40年経過しても、未だに多数の銀行窓口係が存在しており、我々を手伝っている。

そこで、私はUberはテック企業ではないと結論付けたい。Uberは単にテック企業に偽装したタクシー会社である。ニューヨークマガジン誌でアイブス・スミスが述べた理由により、Uberが遠い将来にまで生き延びられる可能性は低い。

今のところUberの利点として言えることは、利用者に対して安価な輸送サービスを提供していることだろう。それは、投資家の資金を消費し、また自身の車のランニングコストをカバーするのにも不足する額しか支払われていないと理解していないドライバーを搾取することで成立しているのだ。(Uberの乗客を輸送する追加の職務の結果として、当然、車両を通常より早く買い替えなければならないだろう。)

Uberの乗客は、引き続き、安価な輸送サービスの利益を享受する可能性が高い。計画中の株式公開の間に、現在のUberの投資家が持つ株式を、猜疑心の薄い「より愚かな」投資家に売りつけるまでは。けれども、証券取引委員会 (Securities and Exchange Commission) が要求する監査のもとでそのビジネスモデルの欠陥が明らかになったときに、同社が引き続き投資を引き付けることができるとは思えない。そして、ひとたび追加投資が枯渇すると、投資家の残存資本のすべてと共に同社も消滅していくため、おそらくUberの利用者は短期間のうちに別のどこかで輸送サービスを見つけることを強いられるだろう。


 

上記記事から参照されている、ニューヨークマガジン誌の記事も興味深いです。

 

記事の一部を引用・翻訳。

The only advantage Uber might have achieved is taking advantage of its drivers’ lack of financial acumen — that they don’t understand the full cost of using their cars and thus are giving Uber a bargain. There’s some evidence to support that notion. Ridester recently published the results of the first study to use actual Uber driver earnings, validated by screenshots. Using conservative estimates for vehicle costs, they found that that UberX drivers (...) earn less than $10 an hour. They would do better at McDonald’s.

Uberが達成した唯一のアドバンテージと言えるのは、ドライバーの財政的な洞察力の欠如を活用していることだ — ドライバーは、自身の車を使用するコストすべてを理解しておらず、それゆえUberに有利な取引をしている。この考えを支持する根拠もある。Ridesterは最近、実際のUberドライバーの報酬について初めての調査結果を公表した。結果はスクリーンショットにより検証された。控え目な車両コストの見積りを使用しても、UberXのドライバーは時給10ドル以下しか稼いでいないことが判明した。マクドナルドで働いたほうが良いかもしれない。

 

シンギュラリティ論を真剣に捉えて批判するべき10個の理由

  1. シンギュラリタリアン/トランスヒューマニストはバカで間違っているとしても、バカの間違いを公然と指摘することは必ずしもバカげてはおらず、間違いでもない。
  2. 科学技術の成果の過剰誇張と将来の可能性に対する誇大広告は、現状の技術的アチーブメントの到達水準を深刻に見誤らせている。この種の誤解と過信は、自動運転車 (実際は運転支援機能付き自動車) の事故でも見られるように、それ自体が危険である。また、その結果として本当に必要となる地味で長期的な投資を必要とする研究開発への関心と投資を削ぐ。
  3. 現在、情報テクノロジーの発展により現実に様々な問題が発生している。我々の倫理的関心と公的な議論空間は希少な資源であるため、願望成就ファンタジーに耽りそれらを乱費するのではなく、テクノロジーの現実の姿と妥当な将来見通しをベースにして公的な議論が行なわれる必要がある。特に、一部のテック系超巨大企業は、現在生じている問題から世間の眼を逸らすため、意図的に夢想的/破滅的な未来像を利用しているとも見なせる。
  4. トランスヒューマニズム/シンギュラリタリアニズム的なナラティブは、困難で、曖昧で、複雑な現実の科学技術の研究開発の実体よりもはるかに魅力的であり、皮相的でセンセーショナリスティックなマスメディアの報道で注目を集める傾向がある。更に、一部の研究者・技術者・企業経営者は、一般大衆の注目と支持とをベースにして政策決定者へ働きかけ科学技術政策をねじ曲げるために、また資金を集めるためにこれらのストーリーを利用している。
  5. トランスヒューマニズム/シンギュラリタリアニズム的なナラティブは、アメリカ的な理念、すなわち世俗的でプラグマティックなテクノロジーの発展と社会変革を通して、千年王国の超越的理想社会をこの現世において打ち立てることができるという半ば宗教的な信念を反映している。そのため、シンギュラリティ的なナラティブの分析は、アメリカの動作原理に関する分析と理解に役立つ。
  6. 日本の科学技術を取り巻く状況--かつての科学技術立国というイメージと、今やその立場から滑り落ちつつあるという危機感--は、悪辣な詐欺師の欺瞞的なセールスピッチに対して極めて脆弱である。(ところで、「負けが込んだ状態での一発逆転狙いの乾坤一擲の勝負」は、第二次大戦での日本の負けパターンを連想する)
  7. 世界を変革するという狂った信念を強固に信じた発信力のある狂信的エリート集団により、世界にどれほどの悪影響がもたらされるかを決して過小評価するべきではない。
  8. 危険な詐欺を詐欺として告発することは何ら誤りではない。
  9. 科学を疑似科学から守護し、真なる信念に対する懐疑精神を推奨することは良いことである。
  10. 必ずしも必要ではないときでさえ、バカをおちょくることはしばしば楽しい。

***

この記事は、デール・キャリコによる"Ten Reasons to Take Seriously the Transhumanists, Singularitarians, Techno-Immortalists, Nano-Cornucopiasts and Other Assorted Robot Cultists and White Guys of "The Future" を参照し、一部を翻訳し改変したものです。

追記あり:レイ・カーツワイル新刊情報 『Danielle』および『Singularity is Nearer』について

レイ・カーツワイル氏が、2019年1月1日に新刊『Danielle: Chronicles of a Superheroine(ダニエル:スーパーヒロイン物語)』を発売するとのことです。「ダニエル」という名前の女の子が、自身の知性と勇気とテクノロジーの力を使い世界の難問に挑戦していく成長物語だそうです。

 

本書の特設サイト上では、小説の一部が公開されています。

https://www.danielleworld.com/

なお、本書の特設サイトから予約した場合の特典として、約数年前から発売が予告されているカーツワイル氏の次回作『The Singularity is Nearer』のサイン入りコレクターズエディションがあります。(ただし、『The Singularity is Nearer』の発売時期についての情報は得られませんでした)

どちらの本も、発売されたらこのサイトでレビューしてみたいと思います。

追記

上記特設サイトPC版からは、『The Singularity is Nearer』の特典に関する記述が確認できないという指摘がありました。スマートフォン版サイトには現在でも記載があります。(2018/11/19 20:00頃 確認済み)

f:id:liaoyuan:20181119200410p:plain

サイト上では『The Singularity is Nearer』の書影も確認できます。

f:id:liaoyuan:20181119200402j:plain

なお、本エントリの投稿時、『ダニエル』の公式Twitterアカウント宛てに質問をしていたのですが、回答がありませんでした。

 引き続き、更新があれば追記します。

追記2

当初の予定では、Kindle版の発売日が2019年1月1日とのことでしたが、電子版の発売日は1月31日、紙版は4月の予定となっています。