シンギュラリティ教徒への論駁の書

“Anyone who believes that exponential growth can go on forever in a finite world is either a madman or an economist.” - Kenneth Boulding

翻訳:Uber、ムーアの法則、テクノフィックスの限界 (カート・コブ)

この記事は、エネルギー・環境問題のジャーナリストであるカート・コブのブログ記事 "Uber, Moore's Law and the limits of the technofix" の翻訳です。

 

Uberはテック界に愛され続けている。個人用自動車とその所有者の未使用のキャパシティを認識したディスラプティブなスタートアップと見なされている。Uberは、携帯電話テクノロジーを使って世界中の都市でそのキャパシティを解き放ち、従来型のタクシーや公共交通機関を利用していたかもしれない顧客に安価な輸送サービスを提供したのだ。

スタートアップがたき火のごとく資金を燃焼させるのは当然のことだ。けれども、世界規模の企業となってから9年間経過して、Uberは未だに資金を燃やし続けている。直近の四半期では10億ドル、2017年全体では45億ドル[の赤字]である。

悲惨な財務状況にもかかわらず、なぜUberが投資家とテック界を魅了し続けられるのかを理解するためには、多少の背景知識が必要だ。テック界での支配的なメタファーは、ムーアの法則である。ムーアの法則は、半導体のパイオニアであるゴードン・ムーアにちなんで名付けられた。彼は、2年毎に集積回路上のトランジスター数が倍増することを述べたのだ。この急速な進歩は、速度、メモリと計算力についてコンピュータの能力の急速な発展を導き、同時に価格も劇的に低下していった。携帯電話、カメラや他のデジタルデバイスなど、電子回路を搭載する実質的にあらゆるものの性能でもこのような進歩が見られた。

ウィキペディアに書かれている通り、ムーアの法則は物理法則ではない; 単なる半導体業界の歴史的トレンドの観察である。けれども、ムーアの法則は、我々の日常生活のデジタル化に対して広く影響を与えているため -- たとえば、携帯電話はパワフルに、カメラ付きのポータブルなミニチュアネットワークコンピュータとなった-- ムーアの法則は、テック業界によって現代社会に解き放たれた神秘的な力の一種であると信じ込んでしまう傾向があるようだ。

他の点では知的な人々が、半導体業界のようには機能していない日常生活の領域にムーアの法則と類似の法則を適用することにより、不可能を信じるまでに至った。テック起業家でありフューチャリストであるレイ・カーツワイルは、太陽光発電のエネルギー市場シェアが2028年まで毎年倍々に増加することにより、12年後に太陽光発電が世界のエネルギー生産を占めるようになると2016年に予想していた。そのときには、太陽光がすべての世界のエネルギーの100%を供給すると考えられている。

カーツワイルが引用しているのが2016年の電力市場のデータであり、液体燃料市場のデータではないということは脇に置くとしても、電力についてさえ彼の予測が実現する可能性は極めて低い。以前の記事で説明した通り、エネルギートランジションには時間を、長い時間を要する。歴史的には、苦痛なまでのゆっくりとしたペースでしか動かなかったが、それには理由がある。エネルギーインフラの長期の寿命、政治的な力と結びついた複雑な経済的利害、新たなインフラ建設に対する物資的・財政的な制約などが挙げられる。

ムーアの法則の誤用によって生じたまた別の事例としては、1990年代半ばに私がミシガン州立大学 [MSU] の大学院生であったときに起こった。MSUの最大のライバル、ミシガン大学は、インターネットテクノロジーと組み合わせたいわば「遠隔学習」を展開し、100万人の組織となるだろうことをアナウンスしたのである。私は懐疑的だった。

結果的に、2018年秋のミシガン大学の総入学者数は46,761名であった。ミシガン大学は、現在MOOC[大規模公開オンライン講座]と呼ばれるものを公開している。けれども、これらの講座は100万人を入学させるところまではまったく近づいていないように見える。

ではここでUberの話題に戻ろう。最初に指摘しておきたいのは、優れたアプリを作り、それをタクシーサービスに接ぎ木したとしてもテクノロジー企業が生まれるわけではないということだ。自動車は半導体ではなく、道路は電子回路ではなく、Uberのドライバーは電気エンジニアではない (少なくとも、それらの多くは)

我々みんなが住んでいる物理的世界には実際上の速度制限があり、その速度は光速度よりも著しく低い。Uberのドライバーは、アメリカで車に乗る人すべてが直面するのと同じ交通状況に直面する。それらのドライバーは、所与の交通状況に対する最適な経路を予測するソフトウェアを用いて、少しだけ優位に立てるかもしれない。それでも、そのような優位性は平均移動時間を、言うなれば半分に削減するような種類の改善ではない。単純に、(現在の制限速度に違反せず) 都市路上を安全に高速で移動することはできないのだ。

Uberが顧客の輸送のために所有している車両は少数であるけれども、その輸送ビジネスは実際のところ資本集約的である。単に、この場合の資本はほぼ完全にドライバーが所有しているというだけだ。Uberは、そのため、他の輸送サービスと同じく情報ベースの企業ではない。Uberは、何らかの新しい、革命的な都市間の旅客輸送方法を編み出したわけではない。直接的な競合企業と同じく、自動車ベースの企業である。(明らかに、他のライバルたちと同じく乗合バスや地下鉄と競合している。)

明らかに、典型的な自動車はそれほど多くの人を乗せられない。通常の場合、後部座席に3人、前部に2人の5人である。だから、サービスの拡大にはより多くの車とドライバーを必要とする。ここでは規模の経済はそれほど働かない。 (Uberが直面している問題の優れた分析としては、ニューヨークマガジン誌に掲載されたアイブス・スミスの最近の記事を読んでほしい。)

ここで、ボーモルのコスト病に簡単に触れておきたい。ウィリアム・ボーモルはエコノミストであり、生産性向上が低いまたはまったくない職業の労働者の賃金も、製造業のような生産性向上の高い分野の賃金上昇に沿って上昇していることを発見した。それらの生産性が低成長である分野には、芸術、教育、医療ケアや公的サービスなどが含まれる; 実際のところ、意義ある個人サービスが必要となるあらゆる分野が、おそらくボーモルのコスト病の対象となる。

ボーモルの結論によれば、もしも我々が社会としてそれらの分野で人々を働かせたいと思うのなら、彼らに対して充分な賃金を支払う必要がある。さもなければ、彼らは高賃金の生産性の高い職へと逃げてしまうだろう。プロの弦楽四重奏団の過去100年間の生産性成長率はゼロであるが、しかし100年前と同じ賃金でライブ演奏を提供しているわけではない。演奏者たちは、今日の妥当な生活水準と見なされる生活を送れるだけの支払いを要求する。そうでなければ、彼らは生活のために何か別のことをするだろう。

我々は、たとえば、オペラ楽団がチケットの売上のみでは成り立たないということを受け入れるようになった。民間の寄付であれ公的資金であれ、補助金が必要である。けれども、それ以外の人間依存の職業では、少なくとも部分的にはムーアの法則を満たすことができるという幻想が抱かれ続けている。また、確かに一部の職業は自動化から多大な影響を受けているものの、そのような職業の大部分であっても、タスクは部分的にしか自動化できないということが明らかになった。自動化は、人間に対する需要を代替することなく人間を支援するのである。

ATMを考えてみてほしい。ATMは多くのルーチン的な取引を行なえる。けれども、その開発から40年経過しても、未だに多数の銀行窓口係が存在しており、我々を手伝っている。

そこで、私はUberはテック企業ではないと結論付けたい。Uberは単にテック企業に偽装したタクシー会社である。ニューヨークマガジン誌でアイブス・スミスが述べた理由により、Uberが遠い将来にまで生き延びられる可能性は低い。

今のところUberの利点として言えることは、利用者に対して安価な輸送サービスを提供していることだろう。それは、投資家の資金を消費し、また自身の車のランニングコストをカバーするのにも不足する額しか支払われていないと理解していないドライバーを搾取することで成立しているのだ。(Uberの乗客を輸送する追加の職務の結果として、当然、車両を通常より早く買い替えなければならないだろう。)

Uberの乗客は、引き続き、安価な輸送サービスの利益を享受する可能性が高い。計画中の株式公開の間に、現在のUberの投資家が持つ株式を、猜疑心の薄い「より愚かな」投資家に売りつけるまでは。けれども、証券取引委員会 (Securities and Exchange Commission) が要求する監査のもとでそのビジネスモデルの欠陥が明らかになったときに、同社が引き続き投資を引き付けることができるとは思えない。そして、ひとたび追加投資が枯渇すると、投資家の残存資本のすべてと共に同社も消滅していくため、おそらくUberの利用者は短期間のうちに別のどこかで輸送サービスを見つけることを強いられるだろう。


 

上記記事から参照されている、ニューヨークマガジン誌の記事も興味深いです。

 

記事の一部を引用・翻訳。

The only advantage Uber might have achieved is taking advantage of its drivers’ lack of financial acumen — that they don’t understand the full cost of using their cars and thus are giving Uber a bargain. There’s some evidence to support that notion. Ridester recently published the results of the first study to use actual Uber driver earnings, validated by screenshots. Using conservative estimates for vehicle costs, they found that that UberX drivers (...) earn less than $10 an hour. They would do better at McDonald’s.

Uberが達成した唯一のアドバンテージと言えるのは、ドライバーの財政的な洞察力の欠如を活用していることだ — ドライバーは、自身の車を使用するコストすべてを理解しておらず、それゆえUberに有利な取引をしている。この考えを支持する根拠もある。Ridesterは最近、実際のUberドライバーの報酬について初めての調査結果を公表した。結果はスクリーンショットにより検証された。控え目な車両コストの見積りを使用しても、UberXのドライバーは時給10ドル以下しか稼いでいないことが判明した。マクドナルドで働いたほうが良いかもしれない。

 

シンギュラリティ論を真剣に捉えて批判するべき10個の理由

  1. シンギュラリタリアン/トランスヒューマニストはバカで間違っているとしても、バカの間違いを公然と指摘することは必ずしもバカげてはおらず、間違いでもない。
  2. 科学技術の成果の過剰誇張と将来の可能性に対する誇大広告は、現状の技術的アチーブメントの到達水準を深刻に見誤らせている。この種の誤解と過信は、自動運転車 (実際は運転支援機能付き自動車) の事故でも見られるように、それ自体が危険である。また、その結果として本当に必要となる地味で長期的な投資を必要とする研究開発への関心と投資を削ぐ。
  3. 現在、情報テクノロジーの発展により現実に様々な問題が発生している。我々の倫理的関心と公的な議論空間は希少な資源であるため、願望成就ファンタジーに耽りそれらを乱費するのではなく、テクノロジーの現実の姿と妥当な将来見通しをベースにして公的な議論が行なわれる必要がある。特に、一部のテック系超巨大企業は、現在生じている問題から世間の眼を逸らすため、意図的に夢想的/破滅的な未来像を利用しているとも見なせる。
  4. トランスヒューマニズム/シンギュラリタリアニズム的なナラティブは、困難で、曖昧で、複雑な現実の科学技術の研究開発の実体よりもはるかに魅力的であり、皮相的でセンセーショナリスティックなマスメディアの報道で注目を集める傾向がある。更に、一部の研究者・技術者・企業経営者は、一般大衆の注目と支持とをベースにして政策決定者へ働きかけ科学技術政策をねじ曲げるために、また資金を集めるためにこれらのストーリーを利用している。
  5. トランスヒューマニズム/シンギュラリタリアニズム的なナラティブは、アメリカ的な理念、すなわち世俗的でプラグマティックなテクノロジーの発展と社会変革を通して、千年王国の超越的理想社会をこの現世において打ち立てることができるという半ば宗教的な信念を反映している。そのため、シンギュラリティ的なナラティブの分析は、アメリカの動作原理に関する分析と理解に役立つ。
  6. 日本の科学技術を取り巻く状況--かつての科学技術立国というイメージと、今やその立場から滑り落ちつつあるという危機感--は、悪辣な詐欺師の欺瞞的なセールスピッチに対して極めて脆弱である。(ところで、「負けが込んだ状態での一発逆転狙いの乾坤一擲の勝負」は、第二次大戦での日本の負けパターンを連想する)
  7. 世界を変革するという狂った信念を強固に信じた発信力のある狂信的エリート集団により、世界にどれほどの悪影響がもたらされるかを決して過小評価するべきではない。
  8. 危険な詐欺を詐欺として告発することは何ら誤りではない。
  9. 科学を疑似科学から守護し、真なる信念に対する懐疑精神を推奨することは良いことである。
  10. 必ずしも必要ではないときでさえ、バカをおちょくることはしばしば楽しい。

***

この記事は、デール・キャリコによる"Ten Reasons to Take Seriously the Transhumanists, Singularitarians, Techno-Immortalists, Nano-Cornucopiasts and Other Assorted Robot Cultists and White Guys of "The Future" を参照し、一部を翻訳し改変したものです。

追記あり:レイ・カーツワイル新刊情報 『Danielle』および『Singularity is Nearer』について

レイ・カーツワイル氏が、2019年1月1日に新刊『Danielle: Chronicles of a Superheroine(ダニエル:スーパーヒロイン物語)』を発売するとのことです。「ダニエル」という名前の女の子が、自身の知性と勇気とテクノロジーの力を使い世界の難問に挑戦していく成長物語だそうです。

 

本書の特設サイト上では、小説の一部が公開されています。

https://www.danielleworld.com/

なお、本書の特設サイトから予約した場合の特典として、約数年前から発売が予告されているカーツワイル氏の次回作『The Singularity is Nearer』のサイン入りコレクターズエディションがあります。(ただし、『The Singularity is Nearer』の発売時期についての情報は得られませんでした)

どちらの本も、発売されたらこのサイトでレビューしてみたいと思います。

追記

上記特設サイトPC版からは、『The Singularity is Nearer』の特典に関する記述が確認できないという指摘がありました。スマートフォン版サイトには現在でも記載があります。(2018/11/19 20:00頃 確認済み)

f:id:liaoyuan:20181119200410p:plain

サイト上では『The Singularity is Nearer』の書影も確認できます。

f:id:liaoyuan:20181119200402j:plain

なお、本エントリの投稿時、『ダニエル』の公式Twitterアカウント宛てに質問をしていたのですが、回答がありませんでした。

 引き続き、更新があれば追記します。

追記2

当初の予定では、Kindle版の発売日が2019年1月1日とのことでしたが、電子版の発売日は1月31日、紙版は4月の予定となっています。

レイ・カーツワイル『スピリチュアル・マシーン』を読んで、シンギュラリティ論への違和感の原因が理解できた

私が『ポスト・ヒューマン誕生』でのカーツワイル氏のシンギュラリティ論を読んだ時、疑問を感じたことがあります。

カーツワイルの未来予測において根幹を成す仮定は、「宇宙の"秩序"が指数関数的に加速する」という原理、「収穫加速の法則」です。一方で、「特異点(シンギュラリティ)」とは、原義を辿れば、既存の法則が破綻するような特別な点を意味しています。ところが、指数関数のグラフはなめらかで連続した自己相似形の曲線を描くため、「特異点」と呼べるような特別な点はどこにも存在しません

仮に、カーツワイル氏の予測の根拠である「ムーアの法則の外挿による計算力のコスト効率の指数関数的な成長予測」と「ヒトの脳機能を、ないしニューロンとシナプスを、リアルタイムでシミュレーションするために必要な計算力の見積り」を受け入れるとしても「1000ドルのコンピュータが全人類(100億人)と等しい"知能"を持つ時期」において、そのような「劇的な転換点」が到来するという設定は、あまりに恣意的すぎると感じました。他のシンギュラリタリアンよるシンギュラリティの定義でも、「"秩序" の形成 (ないしは「科学技術」や「知能」の成長速度と言われることも) が (主観的に) 無限大となるとき」といったような、木に竹を継いだような主張が見られます。

もしも仮に、ヒトの脳の機能を完全に模倣できるソフトウェアが作成できるならば、実質的に無制限のコピーが可能であるため、その「人数」はあまり大きな意味を持たないはずです。実際に、I.J.グッド、ヴァーナー・ヴィンジやエリエゼル・ユドカウスキーなどによって唱えられてきたシンギュラリティ論はこのタイプ (知能爆発説) ですし、日本でも、齋藤元章氏や山川宏氏のように、カーツワイル説からの影響を受けながらも"先祖返り"しているような主張も見られます。知能爆発説においては、人間の完全な上位互換である汎用人工知能が作られると、以降の宇宙の進歩は人類の後継者たる汎用人工知能たちによって担われるようになるため、その後は一切見通せないのだと主張されています。こちらの考え方は「特異点」のイメージによく合致しているように感じられます。

この「指数関数的な成長論」と「特異点」の不整合の原因は、『スピリチュアル・マシーン』を読めば理解できます。端的に言えば、カーツワイル氏の議論で「シンギュラリティ」は後付けであり、元々の主張は「指数関数的成長論」のみであるからです。

スピリチュアル・マシーン―コンピュータに魂が宿るとき

スピリチュアル・マシーン―コンピュータに魂が宿るとき

既にこのブログでも何度か取り上げていますが、本書『スピリチュアル・マシーン』の原書は1999年に発表されました。日本語版は2001年に発売されています。

彼の主張の根底を成す世界観は、「秩序」と「カオス」の二元論的な対立です。カーツワイル氏の信奉者の間ですら現在ではほとんど言及されることはありませんが、彼は「カオス増大の法則」を提示しています。

カオス増大の法則--カオスが指数関数的に増大すると、時間は指数関数的に遅くなる。(つまり、新たに大きな出来事が起きるまでの時間感覚は時間の経過とともに長くなる)。 (p.43)

宇宙におけるカオス増大を統べる原理である「熱力学第二法則」、「エントロピー増大の法則」は知られているものの、それだけしか存在しないのであれば、秩序立った「知能」が発生することはできないはずである。しかるに、生命と知能という秩序は事実存在するのであるから、「秩序」を統べる創造主たる原理が存在しなければならない。そこから、「秩序」の原理である「収穫加速の法則」の存在が論証?されています。(第1章) そして、知能とはDNAの信号であるため、優れたテクノロジーがあれば脳をスキャンし、知能を再構築できるとされています。更に、知能を再現するための構成要素として既存のテクノロジーを論じています。

彼の主張が妥当であるかはともかく(というより、推測や仮定、論理の飛躍があまりに多く、議論展開はかなり怪しいのですが)、感情的に訴えかける非常に強い力があり、少なくとも「面白い」ものであることは確かです。

本書の第III部には、「未来」という題が付けられており、カーツワイルは未来の予測を提示しています。当初彼が「シンギュラリティ」に注目していなかった一つの傍証としては、彼の予測は2099年まで続いていることが挙げられます。少なくともこの本では、現在言われている通りの「2045年」という年には特別な注意は払われていません。

実際に予測の内容を確認してみても、あくまで指数関数的な成長が継続されることにより社会が変化していくという主張であり、いずれかの時点で急激な転換点が訪れるとは考えていなかったようです。

ミハイル・アニシモフといった別の (カーツワイル以前の) シンギュラリタリアンの中には、カーツワイルは「シンギュラリタリアン」という語を乗っ取」り、「将来予測と平行して霊的で神秘的な哲学を押し進め、必然的・宿命論的な雰囲気をまとわせて」、「当然の嘲笑を引きつけた」としてカーツワイルを批判する人もいます。

シンギュラリティに関する議論では、各々がさまざまに異なる定義にもとづいているため巨大な混乱が引き起こされていますが、その原因の一端はカーツワイルによる「シンギュラリティ」という語の誤用にあると考えています。

合わせて読みたい

本書『スピリチュアルマシーン』の中でのカーツワイル氏の予測 (1999年時点で2009年と2019年を予測したもの) の検証は、以下の記事をご覧ください。

 

日米シンギュラリティ論比較 知能爆発説 vs. 収穫加速説

過去数年間、日本とアメリカの (英語で書かれた) シンギュラリティ論を追っていくなかで気がついた、興味深い若干の差異があります。

アメリカのシンギュラリティ論では、知能爆発説、つまり「将来のある時点で人間を超えるシードAIが作成される。そのAIは爆発的に成長し、創造主たる人間が想像可能な範疇を超越する」というロジックを取る人が多いようです。そして、私も紹介したフランソワ・ショレ氏ケヴィン・ケリー氏をはじめとする懐疑論者も、知能爆発説を前提として反論の論理を組み立てています。確かに、彼ら2人も「指数関数的な成長論」について多少言及していますが、指数関数的成長論への懐疑は必ずしも主張の根幹ではなく、どちらかと言えば「知能」の捉え方に対する誤解の指摘がメインであると言えます。

一方で、日本におけるシンギュラリティ論の場合では、しばらく前に話題になった斎藤元章氏などを筆頭に『科学技術は指数関数的に加速しており*1 、将来のある時点で速度が「垂直(無限大)」に発散する*2』というタイプの主張、「収穫加速説」が多いように見えます。

f:id:liaoyuan:20161025144315j:plain

「最強の科学技術基盤出現と、到来する前特異点・特異点」

そこで、私自身のシンギュラリティ懐疑論は「収穫加速」への検討から初めたわけです。また、「将来、シードAIが作られる」という主張は検証不能な未来の事象であり、証明も反証も原理的に困難であるのに対し、「過去、指数関数的に"収穫加速"してきている」という主張は、経験的根拠に基いて比較的容易に論駁可能だというテクニカルな理由もあります。

シンギュラリティ論は、ヴァーナー・ヴィンジから数えてもせいぜい30年程度の歴史しかありませんが、既にこのような分派が発生していることは面白いです。

*1:あるいは「計算力」や人工知能の「知能」が指数関数的に成長していると主張されることもある

*2:「主観的に」無限大という言い方がされる場合もある

論文紹介:ナノテクノロジーの20年 科学の未来をどう語るか (リチャード・ジョーンズ)

本ブログでも過去に何度か取り上げている、イギリス、シェフィールド大学の物理天文学科教授でナノテクノロジーの専門家であるリチャード・ジョーンズ氏が、過去のナノテクノロジーおよび科学技術一般の将来予測に関する論説を IEEE Nanotechnology Materials and Devices Conference (NMDC) に投稿し、自身のブログで一般公開しています。過去20年間のナノテクにまつわる言説を振り返りその予測を検証し、また科学技術の将来予測を語ることの困難さを述べるものです。ここでの対象はナノテクノロジーですが、ジョーンズ氏自身が述べている通り、近年のあらゆる新興テクノロジーについても同様の議論が当てはまるものであるため、ここで一部訳して紹介したいと思います。

Between promise, fear and disillusion: two decades of public engagement around nanotechnology – Soft Machines


科学のコミュニケーターと教育者は、ナノテクノロジーのような新興テクノロジーについて大衆に話す際にはジレンマに直面する。ナノテクノロジーの可能性について話す時、必然的に、未来を予測することに関わらなければならない。確立された科学について語る時には、比較的に確実さをもって扱うことができる。けれども、テクノロジーの未来について話す場合には、我々は、必然的に未来に対する人々の希望と恐怖に関わらなければならず、また我々が語ることは我々自身の見方の色合いを反映する。我々のテクノロジーの未来についての議論は、容易に極端な見方が最も注目を集めてしまう。-- ユートピア的あるいはディストピア的なビジョンが。地に足の付いた評価をすれば、現実を反映していないものであってさえである。

予測に挑戦することは難しい。なぜならば、いかなる瞬間においても、未来は文字通り不可知であるからだ。古いジョークがある。これは残念なことに現在でも正しいのだが、「核融合は20年後の未来である。そして常にそうあり続けるだろう。」というものだ。

ここでジョーンズ氏は、既存の科学やテクノロジーを語る場合と、未来の科学やテクノロジーについて語る場合には、異なる心構えと方法論が求められることを指摘しています。もちろん、ここには未来を知ることはできないために、未来予測は経験的な証拠を持ち出して決着を付けられないという理由もありますが、更に大きな理由として、未来のビジョンは人々の感情を強く刺激する傾向があり、また未来を語る科学者・技術者自身の感情も強く反映したものとなるからです。

20年間の科学コミュニケーションとパブリック・エンゲージメントを経て、おそらく我々は何らかの一般的な教訓を学べる場所にいるだろう。未来の教育とナノテクノロジーアウトリーチのみならず、ほかの新興テクノロジーにおいても、我々はこれらの教訓を心に留めておくべきである。さもなければ、新しい分野 --合成生物学、量子技術、計算論的神経科学、人工知能-- においても、同じ誤りが犯される危険がある。


これら新興テクノロジーの共通点としては、「約束の経済」と呼ばれるものの中で機能するという点が挙げられる。現在における資金供給は、必然的に、未来に関する主張によって正当化されなければならない。そして、これらの主張はあまりに容易く過剰誇張されてしまう。


これらの主張は、経済的インパクトであることもあるし、--3兆ドルのマーケット-- あるいは持続可能エネルギーや薬剤といった分野での革命と言われることもある。なぜ研究に対する資金供給が必要であるのか、何らかの議論ができることは不可欠であるし、我々がすることの影響を予期するための努力は健全である。しかし、おそらく不可避なのかもしれないが、これらの主張された利益のバブルを膨らませる不健全な傾向が存在する。


科学者は、これらの主張が助成金申請や論文には不可欠だと感じており、またメディアは壮大で根拠のない主張を注目を集めるために必要とする。研究の社会的・倫理的な側面を検討するプロセスや、パブリック・エンゲージメントに従事することでさえ、最もスペキュレーティブな可能性に対して信憑性を与える効果を持つことがある。


ナノテクノロジーのような分野では、既存技術の比較的漸進的な開発が、かなりラディカルな可能性と共存しており、この共存が緊張を導いている:将来の約束は、壮大なビジョンと壮大なメタファーを元に売り込まれる。しかしそのアチーブメントは、大部分が過去からの延長線上にあるテクノロジーに基づいている。

未来を語る上での本質的な困難さに加えて、更にこの問題を複雑にする傾向があります。近年では、研究への助成や企業への投資において、しばしば科学者・技術者自身が途方もなく壮大な未来のビジョンを主張する場合があることです。これには様々な複合的要因があり、項を改めて書きたいと思いますが、現在の科学研究・技術開発の場では、将来の可能性への過大な売り込みは常態化しています。

すべてのバブルにまつわる問題は、当然、果たされなかった約束に現実が追い付くということだ(…)、またこんな環境では、人々は、いかなるテクノロジーであれ直面するハードな制約の現実をあまり許容してくれなくなる。"約束" を過剰摂取した場合、資金供給者、政府関係者、投資家や大衆の間に幻滅が生じる。これは、テクノロジーが可能とするであろう真正のアチーブメントに対する信用を失なわせさえするかもしれない。たぶん、革命的イノベーションに対する絶え間ない注目によって、漸進的なイノベーションの本当のアチーブメントに対して盲目的になっているのかもしれない。

このような途方もない将来のビジョンが起こす問題としては、当然、科学者や技術者の発言が「オオカミ少年」化するという点が挙げられます。また、当該分野そのものに対する信頼を失なわせ、より微妙で長期的な投資を必要とする分野への注目を削ぐという問題もあります。

一般に流通する、科学界のコンセンサスを反映していない壮大なビジョンに対するアプローチとして、ジョーンズ氏は単に無視するのでも却下するのでもなく、敬意を持って応対することを提唱しています。

ナノテクノロジーの事例では、エリック・ドレクスラーが提唱したナノテクのスペキュレーティブなビジョンにいかにして関わるべきか、という特有の問題が存在する。そのようなビジョンが、妥当なタイムスケールの範囲で実現可能であるとみなしておらず、科学界のコンセンサスを反映させたいと望む者にとっては、3つのアプローチが存在する。


最初のアプローチは、単純にそれを無視するというものだ。ナノテクノロジーを扱う一般向け書籍や記事のなかには、ドレクスラーをこのテーマの歴史から排除するものもある。これは満足のいく方法とは言い難いと思う --一般大衆はこれらのアイデアに激しく晒されているため、省略は混乱を招くかもしれない。2つ目のアプローチは、科学の権威に訴えてそれらを却下するというものだ。晩年のリチャード・スモーリーによるコメントが、しばしばこの方法として用いられる場合がある。これまで以上に専門家の権威に対して疑問が抱かれるようになった世界では、これはサイエンスコミュニケーションの賢明なアプローチではないように思える。


私自身のアプローチ、2004年の書籍『ソフト・マシーンズ』、多数の公開講義、ブログ投稿や記事で取っている方法は、その主張に正面から向き合って、必要であれば技術的ディテールにも関わり、またその主張の支持者にも敬意を払う(そうあることを願う)ことである。これは、科学の性質をより誠実に反映しているように私には思える。

この記事では取り上げませんでしたが、ナノテクノロジーに関する過去の予測とその評価も一読の価値があると思いますので、ぜひ原文を確認してみてください。

関連項目

ジョーンズ氏は、専門分野のナノテクだけではなく、科学コミュニケーション・科学技術政策のあり方についても提言しており、シンギュラリタリアニズム/トランスヒューマニズムについても、やや懐疑的な立場から考察した小冊子を公表しています。

Against Transhumanism – the e-book – Soft Machines

過去に私が紹介したジョーンズ氏による記事です。

ロドニー・ブルックス氏の『超知能へ向けたステップ』の翻訳

いちおうの告知ですが、ロドニー・ブルックス氏のブログ記事合計4件を翻訳してQiitaに投稿しました。

安易で安直な人工知能ユートピア/ディストピア的なシンギュラリティ論に与せず、また人工知能研究の第一人者としてのオプティミズムを保ちながら人工知能において本当に困難な問題に取り組むように鼓舞する素晴しい論考ですので、人工知能に興味のある方は読んでほしいと思います。

ここでは、ちょっとした訳者後書き的に、訳しながら考えたことを散漫に書いてみようと思います。

確率統計的・機械学習的な知能観について

シンボリックAIに対して極めて批判的なことで知られるブルックス氏ですが、このエッセイでは確率統計的、ビッグデータ的、機械学習的な「人工知能」観に対してもやや懐疑的なスタンスを取っています。

よく考えてみると、「統計と知能は別物」というのは当然で、天然知能は必ずしも確率統計的なアプローチを取っていません。色一貫性に関する人間の認知は、それを示す非常に良い事例ではないかと思います。

私が色一貫性を取り上げたポイントは、単にオンラインの画像を大量に閲覧することだけから、知的な機能が自然に発生するわけではないことを示すためである。色一貫性は、現実世界で自然淘汰のビルディングメカニズムから生じたものであり、物体の本質的な色は、たとえその物体に当たる光の色が変わったとしても、実際には不変であるという事実を補償するものである。

超知能へ向けたステップ Part 4 「汎用人工知能実現のために今やるべきこと」

 

我々が当然と思う認識は、実は人間としての認知的な制約に強く依存しています。そこで、現在耳目を集めている確率統計的、ビッグデータ的な人工知能技術だけではなく、生得的な知能モジュールのあり方にも注目するべきであり、それが汎用人工知能実現のための近道なのだという指摘は極めて説得力があると感じました *1

ただし、その一方でペドロ・ドミンゴス氏が『The Master Algorithm』の中で指摘している通り、「データは知能を代替できないが、知能もデータを代替できない」ことも事実です。

そもそも人間は確率・統計的な思考が極めて不得手であり、まさにそれがビッグデータ機械学習を有用な技術にしている理由です。そして、近年では医療から商業から教育に至るまで、さまざまな分野でデータと統計の利用が変革を起こしつつあります。一方で、世論操作のために悪用されたり社会的な不平等の原因となるなど、統計、データと機械学習の誤用によるマイナスの影響も生じています。

ゆえに、データの利用や機械学習技術に対して注目しなければならないことに疑問はありません。それでも、(マイケル・ジョーダン氏の用語を使うなら)、未だ想像上の存在でしかない、将来の「人間に似た人工知能」に関する議論と、今現在の現実として出現しつつある「知能インフラ (II)」の議論は区別するべきであると言えます。

自律的な知能観とその裏の世界観について

そして、もう一点、ブルックス氏の議論の特徴としては、「自律的なエージェント」としての知能観を強調していることが挙げられます。不完全で不確実な情報な情報しかなくても、世界の中で自律的に自己完結した行動を取れる、それこそが「知能」であるのだという考えを持っているようです。

ここには、裏を返すと、「シンボリックAI/統計的機械学習型AI」と、「振る舞いに基づくアプローチ型のAI」それぞれの、いわば世界観の違いが存在しているように感じます。

  • シンボリックAI/統計的機械学習型AI
    知的エージェント(人間)は、世界の「客観的実在」とその基本法則を完全に認識でき、その正確なモデルが構築できる。または、大量のデータを取得すればいくらでもそこに漸近できる。ゆえに、不完全で非自律的な知的エージェントであったとしても、正確なモデルや大量のデータが存在すれば「正しい」行動と予測が可能である。
  • 振る舞いに基づくアプローチ型のAI
    知的エージェントは、世界の「客観的実在」を認識することはできず、どれほど大量のデータがあってもなお未来の予測はできない。それでも、知的なエージェントは低レベルの刺激に対する反応をもとにして「ロバストな」行動と予測が可能である。

おそらくこれが、Part1の文中で述べられている、「暗黙的に基礎を成す哲学的な立場」ではないかと考えているのですが、ブルックス氏の次回のエッセイを待ちたいと思います。

関連記事

過去、私が訳したブルックス氏のエッセイです。 

 

ブルックスの知能ロボット論―なぜMITのロボットは前進し続けるのか?

ブルックスの知能ロボット論―なぜMITのロボットは前進し続けるのか?

 

*1:当然、この議論には、「生物は、自然淘汰と進化を通して、統計的に知能を発達させてきたのだ」という反論がありうると思いますが、おそらく進化を通して入力されるデータの量は昨今の「ビッグデータ」とは比較にならないほどに多いでしょう