シンギュラリティ教徒への論駁の書

«Il n'y a rien qui ressemble plus à une exponentielle que le début d'une sigmoïde.» —Yann LeCun

目次

第一部 「シンギュラリティ」

  1. 序文
  2. シンギュラリティとは何か?
    - カーツワイルのシンギュラリティ説とその批判 
  3. ほとんどのテクノロジー成長は指数関数的ではない
  4. 収穫加速の幻影
  5. ムーアの法則と人工知能
    5.1. ムーアの法則
    5.2. 精神転送
    5.3. 人工知能研究と機械学習
    5.4. 全脳アーキテクチャ
  6. 知能の拡大と思考主義批判
  7. 宇宙の覚醒
    - まとめ
  8. 予言は外れた
  9. テクノ・ハイプ論:なぜシンギュラリティは問題か
  10. 後書き

第二部 「進歩と崩壊と没落の未来史」

  1. 序文
  2. ハバートの法則と没落加速の法則
  3. 没落してゆく世界のスケッチ
  4. 崩壊概論
  5. 進歩の神話
  6. 崩壊教と進歩教
  7. ディセンサスの流儀
  8. 後書き

(執筆中…)

第三部 「技術的超越の思想史(仮題)」

(構想中…)

 

本ブログは、カーツワイル氏のシンギュラリティ説と「収穫加速の法則」を批判的に検証するものです。もともと書籍の企画として執筆し始めたものであるため、序文から順番に議論を展開していますが、各エントリは独立して読めるように構成しています。

初めての方向けの概要としては、カーツワイルのシンギュラリティ説とその批判 (短め) およびまとめ (やや長め) をご覧ください。

翻訳:シリコンバレーのシンギュラリティ大学はいくつかの深刻な現実の問題を抱えている

この文章は、Bloomberg Businessweekの記事、"Silicon Valley’s Singularity University Has Some Serious Reality Problems" の翻訳です。

シリコンバレーのシンギュラリティ大学はいくつかの深刻な現実の問題を抱えている

Googleからの資金供給の喪失、暴行と詐欺の訴えへの対応

宣伝文句はシンプルだった。認定大学院は忘れて、シンギュラリティ大学で大きく考えよう。Googleの共同創業者ラリー・ペイジフューチャリストレイ・カーツワイルといった人たちが、シンギュラリティ大学の卒業研究プログラム講師の中にいるかもしれません。大学の名前の由来は、いつの日にか人間が機械と融合するという概念だ。あなたはシンクタンクとスタートアップインキュベーターを組み合わせたようなところで働くことになり、再生可能エネルギー宇宙旅行といった壮大な課題に挑戦するのです。カーツワイルは2009年のTEDトークでこのプログラムを発表し、シンギュラリティ大学チームがNASAからキャンパスを借りたことも付け加えた。キャンパスは、カリフォルニア州マウンテン・ビューのNASAの歴史的な第一格納庫 (ハンガー・ワン) のすぐ東にある。その年の終わりに、チームは最初の40クラスに対して1200通の出願を受け取った。

現実は誇大広告と一致していなかった。過去の未公開警察資料、他の文書、そして現在と過去の生徒と職員に対するインタビューによって、ほとんど開校直後から、シンギュラリティ大学の何名かのスタッフは自身の最悪の衝動を抑えることができなかったと暴露されている。講師は元生徒に対する性的暴行容疑を訴えられ、役員は15000ドル以上を横領し、元職員は性差別と障害者差別を訴えている。そして、シンギュラリティ大学は170名の職員のうち14人を解雇し、GSP、現在の呼び方はグローバルソリューションプログラムを中断した。それは昨年Googleが資金提供を終了した後のことである。

営利目的のシンギュラリティ大学は、カンファレンスとエグゼクティブセミナーを行う平凡なオーガナイザーになりつつある、と卒業生は述べている。同社は、セミナー企業のAbundance 360の買収を検討している。その企業はシンギュラリティ大学の共同創立者であるPeter Diamandisが起業したものだ。「シンギュラリティ大学は理念を失なってしまった」とVivek Wadhwaは語る。彼は2013年まで教職員を務め、現在はカーネギーメロン大学に勤務している。「いやま金儲けの会社になった。」

 

もしも我々が真のインパクトを生み出したいのなら… 持続可能な方法で行う必要がある

 

一方で、シンギュラリティ大学はコミュニティの安全と関連する訴えを真剣に受け止めていると述べ、これらの問題のほとんどは遠い過去のことなのです、と最高経営責任者のRob Nailは語る。彼によれば、GSPの一時停止と再評価は、Googleが年次の援助を打ち切る以前から既に計画されていたものであるという。Googleからの援助はプログラムのおよそ半分のコストをまかなっており、その使途は受領者に任されている。Googleのシニア・マネージャであるJen Phillipsは、昨年末にシンギュラリティ大学の相談役を辞任しており、Google社は、その代わりにシンギュラリティ大学の起業プログラムに注力する計画であると述べている。

Nailによれば、GSPの大部分はオンラインで再開されるかもしれないが、カンファレンスとエグゼクティブ向け教育 (学費:1週間のプログラムで14,500ドル) がシンギュラリティ大学の活動の大部分となるという。昨年、シンギュラリティ大学は10件のカンファレンスを開催し、2018年には18件が計画されている。2月15日には、ボーイング社と投資会社WestRiverグループに率いられるベンチャーファンドから3200万ドルの資金を調達したことを公表した。WestRiver社のCEOであるErik Andesonは、Diamandisの後任としてシンギュラリティ大学の代表者となった。これらの変化は、会社が利益を上げ、そしてそれゆえにより多くの人を援助するために役立つだろうとNailは述べている。「もしも我々が真のインパクトを生み出したいのなら、持続可能な方法で行う必要があるのです」と彼は言う。

シンギュラリティ大学とNASAのコネクションは、建物の賃貸のみではない。初期のGSPの学生は、元宇宙飛行士のDan Barryの講義を高く評価している。彼は、13回の不合格の後にスペースシャトルプログラムに参加した医師である。何名かは彼がメンターを務めたと述べている。Barryは、2013年以来GSPの生徒を教えていない。当時、Yasemin Baydarogluという2011年にGSPに参加したフランス人学生への性的暴行の疑いで、会社は彼を調査したのだ。

Baydarogluによれば、Barryは2013年にパリでミートアップを企画した。彼らは自転車ツーリングに行き、そのとき彼女は背中の痛みを訴えた。その後、彼女はBarryのホテルへ行って会話した。彼は自分が医者であるとほのめかし、厳密な医学用語を用いた話しぶりでマッサージをすると申し出たという。彼はメンターであったので、彼女はBarryを信用した。--彼女が言うには、彼が胸部と性器に触れるまでは。彼女は逃げた。「私は本当にそんなことが起こると予想していなかったし、私はとても慎重です」と彼女は言う。「そのときはガードが低かったのです。」数日後、彼女はこの事件を警察に通報し、その後医師の診断を受けた。

Barryは「私は彼女の告発を完全に否定している」と述べ、その後に続いた取り調べが「私と妻にとって苦難の時」につながったと付け加えた。

Bloomberg Businessweek誌が確認した2013年5月31日の医師の診断書のコピーによると、Baydarogluは精神的苦痛の兆候を示しており、彼女の主張ではそれは身体的暴行に関連しているものだと言う。フランスの検察局から送付された手紙のコピーによると、当局がBarryを発見できなかったため、事件の捜査を取り止めたとされている。

シンギュラリティ大学は、Baydarogluが別途同社に対して暴行容疑を報告した後、内部調査を開始した。Barryは6月にその夏のプログラムを去った。彼の妻は病気であり、同社は学生に対して、彼は個人的事情によって辞任したと説明した。Bloomberg Businessweek誌が確認した2013年6月22日のBaydaroglu宛てメールにおいて、シンギュラリティ大学の人事代表者は、「意に沿わない性的接触の核心的な主張に関連する事実は、確定的なものではない」とNailは信じている、と書いた。また、NailはBarryに対して、この状況は「稚拙な判断」を示していると伝えたという。シンギュラリティ大学の代表者はメールでBarryは2013年のGSPの残りの期間に出席しないと記し、Baydorogluに対してこの件を他の関係者と話さないよう求めた。

メールでは、キャンパスでスタッフが「潜在的に親密な状況」に置かれる可能性を減らすために、シンギュラリティ大学が実施しつある施策の概略が説明されていた。その中には、プログラム日の終了時にスタッフが生徒と一人で居ることを禁止することや、教室を監視するためにウェブカメラを設置することが含まれていた。Baydarogluは、シンギュラリティ大学の反応は、憂鬱な、裏切られた感情を残したと語る。特にいらだたしいのは、彼女が言うには、「私にそのことについて話をしないように求めたことです。」会社は、2013年以来Barryは現役の講師ではないと言う以外は、この件についてのコメントを避けた。

シンギュラリティ大学のリーダーには、ずさんな財務的活動の歴史がある。2009年、組織が初期段階にある頃、財務管理者だったAlicia Isaacは、会社のクレジットカードを13,500ドルの個人的支払いに使用した。また、後の警察報告によれば、彼女は2000ドルの現金をシンギュラリティ大学宛ての小切手から引き出したとされている。更に彼女は、人工知能研究所の所長による約80,000ドルの横領未遂を幇助したという。警察は2009年にIsaacを逮捕した。彼女は、重大な詐欺行為の容疑に対して何も否認しなかった。Isaacはコメント要請に応じなかった。

別の初期のシンギュラリティ大学の立案者であるBruce Kleinは、2012年にアラバマ州で信用詐欺行為を働いたとして有罪判決を受けた。彼はもはや同社と関係がない。取締役のNaveen Jainは、2003年にインサイダー取引で有罪判決を受けた。彼は2億4700万ドルの判定を訴え、最終的には和解した。

Nailは、かつて自動化企業の設立を支援していたが、最高戦略責任者 (Chief Strategy Officer) であるGabriel Bladinucciと共に2011年に着任した。Gabriel Bladinucciは、以前はVirginグループの役員だった。すぐに彼らはシンギュラリティ大学を非営利組織からB営利企業へと変更した。これは、民間の認定者によって一定の社会的・経済的な基準を満たしていると証明されたことを意味している。

数年間、Bladinucciと近しいスタッフは、カリフォルニア州AthertonとWoodsideにあるSU Villaと呼ばれる一連の賃貸住宅で、彼と共に住んでいたという。他の従業員は、そのグループは好意的な扱いを受けており、一般的な雰囲気は女性にとって友好的なものではなかったと語る。

Kastner Kim LLPの弁護士であるEleanor Schuermannは、ある女性職員の代理人を務めている。女性職員は、シンギュラリティ大学によって性別と障害を理由とした差別を受け、同等のポジションの男性よりも少ない給与しか支払われず、異議申し立てに対して報復を受けたと主張している。弁護士が州の規制当局者に提出した書類は、これは訴訟に向けた最初の段階であるが、まだ公表されていない。Schuermannは、クライアントの名前は挙げなかったものの、シンギュラリティ大学の他の職員2名から同様の訴えを受けていると明かした。会社はこの件に関するコメントを拒否したが、女性を支援するために強く努力していると述べた。

シンギュラリティ大学は、2009年以来の長い道程にある。当時、最初のGSPがGetaroud社の創業につながったのである。Getaround社はカーシェア企業であり、トヨタ自動車を含む投資家から8500万ドルを調達した。「ここで起こった全てのことは驚きだ。」Googleラリー・ペイジは、翌年のプログラムの開会式でそう語った。「それは私の期待全てを超えた。」最近では、ペイジはシンギュラリティ大学に関与していない。カーツワイルはこのことについて議論しておらず、彼は取締役会に出席しているもののほとんど発言していないという。

新しい代表者のAndersonは、同社が収益と社会的目標とを達成することを期待していると語っている。Nailは、国連の飢餓撲滅運動を引用し、シンギュラリティ大学はその壮大な野望のいくらかに対してよくやっていると述べる。けれども、彼が言うには、シンギュラリティ大学はもっと上手くできるだろうという。「我々の生徒が話す通りに、10億人の人々にインパクトを与えることからはほど遠い。」

 

結論 シンギュラリティ大学は3200万ドルの命綱を利用して、一連の重役向けセミナーとカンファレンスのプログラムを強力に推し進めている。

カーツワイル氏の予測的中率は本当に86%なのか?

カーツワイル氏は、1990年代から未来予測を発表しているため、一部の予測の期限は既に到来しています。彼の予測手法は、直近の過去におけるテクノロジーの進歩のトレンドを、未来へと外挿するという手法です。それゆえ、カーツワイル氏が過去に発表した予測と、現在2018年時点における予測の結果を見ることによって、今後の将来予測の妥当性を検討する上で重要な示唆を得られると考えています。

実際のところ、カーツワイル氏自身も、過去の予測の的中率を評価しています。1999年の書籍『スピリチュアル・マシーン』中の予測について、2010年に評価を行なったものです。この自己評価はウェブ上で公開されていますが、147件の予測のうち127件が的中しており、すなわち予測の的中率は86%であると主張しています。この的中率は、カーツワイル氏を紹介する記事においても広く引用されています。この数字だけを見れば、カーツワイル氏は未来をかなり正しく予測していたように聞こえるかもしれません。

けれども、また別の見方もあります。近年の認知心理学が教えるところによれば、人間の知能が持つ大きな機能として、「自己正当化」があるとされています。さまざまな心理的バイアスによって、自分自身の評価と他者からの評価が食い違うことはしばしば見られる状況であり、それはカーツワイル氏も例外ではないでしょう。単に人々に夢を見させるための未来予想ではなく、実証的根拠に基いた妥当な未来予測を目指すのであれば、自己評価のみではなく、第三者からの視点を用いた評価が必要となります。

実際に、カーツワイル氏の予測に対する第三者の主観評価は、既に実施されています。これは、シンギュラリタリアンでもあるエリエゼル・ユドコウスキー氏が主催するコミュニティサイトLess Wrong上で、人工知能研究者・フューチャリストスチュアート・アームストロング氏によって、2013年に実施されたものです。

評価の手法としては、カーツワイル氏が『スピリチュアル・マシーン』の中で、2009年 (刊行からおよそ10年後) の未来予測として提示した文章を1文ごとに区切り、合計172件についてそれぞれ予測の成否を判定するというものです。また、判定の分類としては「True (正しい)」、「Weakly True (やや正しい)」、「Cannot decide (判定不能)」、「Weakly False (やや誤り)」、「False (誤り)」の5段階で評価を行ないます。評価を行なった対象者は9名で、各対象者は172件の予測の一部または全部を評価しています。(なお、詳細な評価手法については原文を参照してください)

f:id:liaoyuan:20180130231457p:plain

図:全ての評価の平均値

f:id:liaoyuan:20180130231535p:plain

図:全ての評価者の平均値 (評価者が評価した個数の差異による影響を除くためのもの)

f:id:liaoyuan:20180130231820p:plain

図:別サイト (Youtopia) で募集されたボランティアによる評価

 

結果を見ると、カーツワイル氏の予測的中率は「正しい」、「やや正しい」の2つを合わせても50%程度に留まっています。また、誤りとして判定されている予測は調査によって40%〜50%程度となっています。また、特筆するべきはどのアンケートを見ても10%程度「判定不能」という評価があることです。


もちろん、アームストロング氏も述べている通り、カーツワイル氏が試みている将来予測は有限の事象に対するものではありません。つまり、コインの裏表や競馬の着順のように有限個の選択肢から1つを選ぶものではなく、またあるいは株価予想のように1つの数値の大小を予測するものでもなく、限り無く存在する未来世界の姿を予想するものです。この種の予測において、的中率が低いからと言って未来予測者としての能力に劣っているとか、予測手法が誤りであると断定するつもりはありません。

そして、以前私が述べた通り未来予測の本当の目的は、現在時点における人々の認識を変えることであるとするならば、予測の的中率は問題ではなく、自身の予測を広く世間に広めることができれば目的は達成されていると言えるかもしれまえん。少なくとも、未来の世界をある程度説得的かつ魅力的に語り、それを広く届けることができるカーツワイル氏は、優れたフューチャリストであると言えるでしょう。

けれども、ここで1つだけ強調しておきたいのは、カーツワイル氏自身による評価と、第三者による評価が大きく食い違っていることです。「予測者としての能力はともかく、自己評価と他者からの判定は異なっている」と評価せざるを得ないですし、少なくとも「的中率86%」という主張を額面通りに受け取ることは難しいと考えています。

さて、次回は私自身も『スピリチュアルマシーン』中の未来予測を具体的に紹介し、その内容を検証してみたいと思います。

参考

Assessing Kurzweil: the results - Less Wrong

Assessing Kurzweil: the gory details - Less Wrong Discussion

カーツワイル氏の不老不死に関する何度も何度も外れた予言

カーツワイル氏は、20年後には人類の平均寿命は100歳を超え、30年後には120歳を超えると主張しています。

ただし、これは1999年の『スピリチュアル・マシーン』の中の予測です。つまり、ここで言われている「20年後」は2019年、「30年後」とは2029年を意味しています。2018年現在の平均寿命を確認してみれば、先進国に限っても85歳程度に留まっており、近い将来において平均寿命が10年単位で伸びる合理的な理由を想像することはできません。

そして、カーツワイル氏は、更に大胆に「10年以内に、人間の余命は1年ごとに1年以上延長され、死は遠ざかっていくと信じている。」と発言しています。

これは、2002年の発言です *1。既にこの発言から15年以上経過していますが、裕福な先進国、あるいはもっと小規模で健康的な集団を考えてみても「1年間に余命が1年以上伸びていく」という現象は観察できません。

同様に2001年にも、エッセイ『収穫加速の法則』において、10年以内に人間は「寿命の脱出速度」を迎える、すなわち、全ての人の平均余命*2が1年経過するごとに1年以上伸びていくため、その年まで生存していられれば不慮の事故がない限り望むだけ長く生きていられるようになる、と予測していました。

そして、2003年にも、2005年*3にも、2009年*4にも、2013年*5にも、最近の2016年*6にも「寿命の脱出速度」到達と「実質的な不老不死」の実現まであと10年〜20年程度必要と述べています。

もちろん、最近の発言については、未だその期限が到来していない予測もあります。けれども、近い将来において「寿命の脱出速度」へ達することができるという合理的な見込みは存在せず、10年後も20年後も、あるいはカーツワイル氏が生きている限り「あと10〜20年必要」と主張していることでしょう。

私は、「寿命の脱出速度到達」が永遠に無理だとは断言しませんが、直近の数十年程度というタイムスパンで実現する見込みは完全にゼロだと考えています。現在の医学的知見に基づく限りは、長期的には120歳程度までは十分に寿命が延長されうるでしょう。けれども、予見できる範囲の近い将来においては、何ら定義も実証的根拠もない収穫加速の法則を安直に適用する以外に、寿命が望むだけ延長されると考える合理的な理由はありません。*7

結局のところ、カーツワイル氏は「死を克服して無限に生き続ける」ということに強い執着心を持っているため、医療技術に対して全く正確な評価ができていないように見えます。これまでも何度か取り上げた、カーツワイル氏に対する辛辣な批判者であるダグラス・ホフスタッター氏は、2008年に自身の新刊に関するインタビューの中で以下のように述べています。

レイ・カーツワイルは、自分が死ぬ運命にあるのを恐れており、死を避けたくてたまらないのだろう。彼の生命への執着は私も理解するし、執念の強烈さにはいくらか心を動かされるけれども、それが彼のものの見方を歪めてしまっているのだと思う。私が考えるに、カーツワイルの絶望的な望みは、彼の科学的客観性を深刻に曇らせてしまっている。*8

こと医療と人間の寿命に限って言えば、カーツワイル氏の予測は完全な誤りであり、自分が間違えた理由を理解しておらず、過去に間違えた予測と同じことを繰り返し、何度も何度も同じ間違いを犯しているように見え、最低限の知的な誠実ささえ欠いているように見えます。

実際のところ、フューチャリストとしてのカーツワイル氏の能力と知的誠実さに私が疑いを持った理由は、不老不死に関する過去の予測が何度も何度も外れているだけでなく、予測が外れた理由について何ら振り返っていないことです。

以前、マインドアップローディングに関連した記事において、この種の不死技術が実現されるまでの時間が過少評価され、しばしば予測者の寿命前後 (誕生から約100年以内) に実現すると「予測」される傾向があることを指摘しました。カーツワイル氏は、まさにこの罠にはまっているように見えます。

医療と寿命に関する「予測」においては、「願望」と「目標」と「予測」が著しく混同されているように見えます。永遠に生きたいという願望を持つことそれ自体は、否定できるものではないでしょう。そして、実現できないかもしれない高い目標を掲げ、そこへ向かって努力すること自体も、悪いことであるとは思いません。けれども、自分の願望や目標を未来の「予測」として提示することは、誤りというだけではなく、極めて不誠実な行為であると考えています。

スピリチュアル・マシーン―コンピュータに魂が宿るとき

スピリチュアル・マシーン―コンピュータに魂が宿るとき

予測をするのは難しい。未来についてはなおさらだ。

ニューヨークヤンキースの偉大な監督ヨギ・ベラ (大リーグの長嶋茂雄さんみたいな人) が言う通り、予測をするのは難しく、特に未来についての予測はなおさら難しいものです。未来予測は、ほとんど外れます。これは、よく指摘される「30年以内に石油が枯渇する」「空を飛ぶ機械ができるまでには何百年も掛かる」といった、悲観的・否定的な未来予測だけに限らず、楽観的な未来予測についても同様です。

ジョン・フォン・ノイマンは、1950年代にこう述べたと伝えられています。「数十年後には、エネルギーはおそらく無料で手に入るようになる。従量課金などされない空気のように*1」 1950年代、60年代の人々に聞けば、専門家も一般人も含めて、2018年になっても核融合発電が実用化できないなどという未来予想は、誰一人として信じなかったでしょう。

その当時に書かれた未来予測を読んでみると、核融合から無尽蔵のエネルギーがもたらされ、超音速旅客機や宇宙旅行は当たり前のもので、皆が空を飛ぶ車やジェットパックで移動し、食料や商品も無限に供給される世界が想像されていたようです。その一方で、コンピューターはパンチカードや磁気テープで計算し、自宅に据え置かれた巨大なテレビ電話が最先端の未来技術であるかのように扱われており、一人一人が当時のスパコンを超える高度な電子機器を持つ未来はほとんど想像されていなかったように見えます。

過去の将来予測では、エネルギーや運送技術の成長については大きく過大評価されており、また情報技術については過小評価しているか無視しているとさえ言えます。


SF作家のウィリアム・ギブソンは「SFは、未来世界の姿を通して現在の世界について語るものだ」と述べていますが、これは未来予測についても同様に言えるのではないかと思います。つまり、未来予測は、ある時代の常識をもとに同時代人に向けて語られるものであり、その目的は、希望を提示して前へ進むよう鼓舞したり、あるいは悲観的な世界像を用いて現在の社会問題に対して警鐘を鳴らすものです。つまり、将来において読み返されることは実際のところ未来予測の本来の目的ではなく、現在の時点で人々の認識を変えたり課題への注目を集めることこそが、未来予測の本来の意義であると言えます。

けれども、もしも真摯に未来の世界のあり方について考えようとするのであれば、過去の未来予測を振り返り、何が的中し外れたかを検証する必要があります。その上で、なぜ予測が的中したか、あるいは外れたかを考え、予測発表時点で前提としていた仮定や理論と現在世界の実状との差異を考え、理論と予測を更新することは避けて通れないステップです。


さて、カーツワイル氏は1990年代から将来予測を発表しているため、予測時期の一部は既に到来しています。カーツワイル氏の理論においては過去の傾向を見ることで未来の予測ができるとされているため、過去の予測のうち何が当たり、何が当たらなかったかを考えることを通して、今後の予測の妥当性を考える上での重要な示唆を得られると考えています。

 

この項続きます。

*1:『ナノ・ハイプ狂騒』下巻 p.285

翻訳:ロドニー・ブルックス氏の将来予測

この記事は、ロドニー・ブルックス氏が自身のブログで発表した記事、"My dated predictions"の抄訳です。文意の変わらない範囲で意訳および省略、要約している部分があります。原文もご覧ください。

目次

私の将来予測

あらゆる新しいテクノロジーには、人類にとってどの程度良いものになるのか、または悪いものになるのかという予測が付きまとう。私が眼にしてきたよくある脅威は、新しいテクノロジーのコンセプトデモンストレーションの後、現実に実用化されるまでの期間が過少評価される傾向にあるということだ。私の以前の記事『AIの未来予測に関する7つの大罪*1の中で、7番目の誤りとして指摘した通りである。

たとえば、初期のインターネットに対するテクノ・ユートピア主義では、インターネットを通じた素晴しい世界の実現を予想する主張があった。しかし、結局は予期された通りには進まず、予測は残念な結果を迎えた。そして、予測された輝かしい未来が実現するまでに、いかに長い時間を要するかについて議論が起こっている。テクノロジーの誕生期における楽観主義は、大抵このような道を辿る。

過去数ヶ月に渡って、現状の人工知能(AI)と機械学習(ML)に関するハイプと思われる主張に対して、私は冷や水を浴びせかけてきた。しかし、私は自分自身をテクノロジー悲観主義者だとは考えていない。むしろ私はテクノロジー現実主義者なのだ。

私が思うに、新しいアイデアを思いつくことは簡単である。アイデアを実現することは難しい。アイデアを大規模に展開することは、更に困難である。そして、この観点から成功の可能性を評価することによって、テクノロジーとテクノロジーの普及に対するアイデアを、比較的簡単なものから困難なものまで並べられると考えている。

しかし、正解か誤りかに責任を負わない予想を吐き出すことは、むしろ容易なことだろう。これは何も私自身にだけではなく、物理学者から起業家、学者まで、AIやMLについて奔放な予測を述べている専門家にも当てはまる。

1年の始まりに、今年何が起こるかについて多数の予測がなされている。この機会に私自身も予測を示してみたいと思う。ただし、今年だけではなく将来32年に関する予測である。私はこの記事で、明確な時期を添えて予測を述べるつもりである。そして、私の予測はこのブログに残り続け、記事の複製はサイバースペースのどこかで誰もが閲覧することができるだろう。私は自分が述べたことに対する責任を持ち、正解か誤りかを他の人々が判断できるようにしたいと思う。もしも私がごまかしをするようなことがあれば、いくつかの私の予測は、ある時点で日付が変わったように見えるかもしれない!

私は32年間という期間を選んだが、そのとき私は95歳になっているだろう。その時には予想について議論を続けるには、私は少し歳を取りすぎていているのではないかと思う。また、32は2のべき乗であり、とても良い数字だ。そこで、私は2050年1月1日までを考慮するつもりである。つまり、この記事では今世紀の前半を予測することを意味している。

ここでは3通りの異なる方法で日付を指定する:

  • NIML つまり "Not In My Lifetime"、2050年1月1日よりも早くなることはないということを意味する
  • NET  [以降]、つまり "No Earlier Than"、その年よりも早くなることはないということを意味する
  • BY [までに]、 その年までに、ということを意味する

予測のルール

私は、予測内容と時期を非常に精緻なものにすることを試みたい。現実的には、このレベルでの正確さはほとんど不可能だろう。それにもかかわらず、私は予測に挑戦してみたいと思う。

非常に最近の経験から、私が思い知らされたことがある。人々が抱いているテクノロジーへの先入観、テクノロジーがもたらすはずの人類の繁栄に対する先入観に対して挑戦し、考えを変えさせることは困難であるということだ。私はこんなことをツイートした。(@rodneyabrooks)

次に人類が月に着陸する際には、多くの、多くの人工知能機械学習システムの助けを受けることだろう。

前回、我々はAIもMLも使わずに月へ行って帰ってきた。

このツイートの意図は、今日のAIとMLは非常に強力で有用なものではあるけれども、ものごとを遂行するための唯一の手段ではないということだ。このことは覚えておく価値があるだろう。AIやMLによって、魔法のように世界の全てが突然に変化するわけではないのだ。

私のツイートに対する返信の中で、何度も何度もリツイートされたものには、カルマンフィルタが宇宙船の軌道を計算するために使用されたという主張があった。確かにカルマンフィルタは使われていたが、それは特定のプロセスから得られた複数の[不正確な]データを元にして、データが表す真の値を精度良く推定するものであり、何らかの値を保存するなどの学習を行なわない。ゆえに、カルマンフィルタは機械学習ではない。だから、我々が前回月へ到達した際には、機械学習は使用されていない。たとえ、機械学習は全ての技術進歩の鍵であると、どれほど信じたいと望んだとしてもである。

これが、私が具体的な予測をする意図である。また、確実に、未来のある時点より以前に起きることはないと私が予測した事項について、それは既に実現していると主張する人と議論しなければならないからである。私はそんな主張をする人々が現れることを予測する!

簡単なことと困難なこと

電気自動車や再利用可能ロケットを製造することは簡単である。飛行自動車、ハイパーループシステム (あるいはパレット化された地下輸送ネットワーク) の製造は困難である。

違いは何だろうか?

自動車は、およそ1世紀以上の間量産され普及している。ガソリン車ではなく電気自動車を作りたいのであれば、発明が必要な部品はそれほど多くないが、大規模に展開する方法は考えなければならない。

フロントガラスのワイパー、ブレーキ、ホイール、タイヤ、ステアリングシステム、上下動する窓、シート、シャーシなども100年以上に渡るエンジニアリングと製造技術が存在する。デジタル運行する電車の大規模生産も、20年以上に渡る歴史がある。

大規模に、競争力がある価格で、優れた電気自動車を製造するには、洗練された技術と大資本が必要とされるかもしれない。けれども、電気自動車の製造にあたって変更しなければならないことは、恐ろしく多いというわけではない。何十年もの間、世界中の多数の人々が自動車部品を扱っており、自動車部品や製造ラインの専門家も多数存在している。

再利用可能ロケットというアイデアも革命的に聞こえるかもしれないが、ここにも先行技術と経験がある。今日のすべての液体燃料ロケットの主要な部品と機能は、ヴェルナー・フォン・ブラウンによってヒトラーのために製造されたV-2ロケットに依拠している。V-2ロケットは、高圧のターボポンプ(580馬力!)で液体燃料を噴射し、エンジン部品を冷却するために燃料を使用し、ロケット自体が液体酸素を運搬するため、大気圏外を飛行することができる。V-2ロケットはわずか75年以上前に初めて製造された。そして、[強制収容所の] 奴隷労働を用いて大量生産され、わずか2年間に5200発が生産された。

以来、世界中で20種類以上の液体燃料ロケットファミリーが開発されている。その中には50年以上の運用実績のあるロケットもある。何百という異なる種類の構成が存在し、多くのパラメータとトレードオフのバリエーションが検討されている。50歳のソユーズロケットファミリーは、発射時に20種類の液体燃料をスラストチャンバー内で燃焼させる。デルタロケットファミリーのデルタIVヘビー型は、本質的に同一のコアを水平に並べている。そのコアは全てが先行するデルタIVの第一段階である。

ジェットエンジンスラスタを利用した地球上でのソフトランディングの技術は、1950年代からロールスロイス社の「フライング・ベッドステッド(空飛ぶ寝台)」を中心として行なわれてきた。その後、より大規模に、ハリアー戦闘機が垂直離着陸を実現している。1960年代に開始された有人月面着陸には、大気の無い環境での垂直離陸用ロケットエンジンが利用されていた。

今日のファルコンロケットは、打ち上げ場所やロケット回収船に帰還する際の第一段階で、グリッドフィン [折りたたみ式の垂直翼] を用いる。グリッドフィンは1950年代ロシアでSergey Belotserkovskiyによって開発され、1970年以来多くのミサイル、弾道ミサイル、誘導爆弾、巡航ミサイル、そして有人のソユーズカプセルの緊急脱出システムに使用されてきた。ロケットの開発には巨額の資金が投じられており、多くの有用な技術、多くのノウハウ、多数の飛行経験に繋がっている。

つまりは、ある程度の規模で電気自動車や再利用可能ロケットを開発することは、無謀で、困難な、信じがたいほどに独創的な仕事ではないということだ。むしろ、先行するたくさんの実績の上に構築されるものであるため、成功する可能性が高いと考えられる。そこには経験があるのだ。全ての問題にではないにせよ、ロケット開発に関する多くの、多くの問題には既知の解決策が存在する。一見革命的に見えるコンセプトも、改善的なアイデアをもとにした、多くの真剣で賢明な思考から生じるものであり、もちろんそれを実行に移す勇気と決断が必要となる。

そこで、これらのテクノロジーが技術的に実現され大規模に展開可能になるまでの期間を、ある程度の自信を持って見積もることができる。ところが、完全に新しいアイデアの場合は、展開可能になるまでの時間を予測することは難しくなる。

1950年代以降、核融合発電所建設に関する実際上の問題に取り組むプロジェクトが継続されている。我々は、持続的な核融合が「機能する」ことを知っている。核融合によって太陽と他の全ての星々が輝いているのだから。そして、65年前には、人類は最初の熱核爆弾「アイビー・マイク」によって、短時間の核融合反応を生み出している。しかし、人類は未だに核融合を爆発以外の目的に使用する方法を見つけだしていない。私が思うに、もはや多くの人々は核融合発電の実現時期についての予測を信じないだろう。これは本当に難しい問題だから。

ハイパーループ*2のコンセプトは、複数のスタートアップの関心と投資を集めている。実運用以前に、実証された類似のコンセプトすら全く存在しないのにもかかわらずである。数百マイルにも及ぶ超安定したシリンダーを開発する方法に加えて、カプセルの気密性、乗降車の方法、駅以外で異常停止した際の脱出手続き、カプセルとの通信、安全性のための座席とベルト、窓のない密閉空間における移動中のユーザエクスペリエンス、経路の土地権利、地震からの保護、保険と運賃設定、などを考慮し開発しなければならない。

ハイパーループの全ての構成要素について、極めて多くの新しいテクノロジーと、新しい設計開発を必要とするだろう。上記の全てはこれまで存在していなかったものであり、実証もされておらず、それどころか今日解決するべき課題として取り上げられてすらいない。全ての問題を把握し、安定したシステムを構築し、あらゆるコンポーネントに必要なエンジニアリングを施すには、長い時間を要する。更には、全ての技術的課題が解決されたとしても、利用者の心理的抵抗があるため普及までには長い時間を要するだろう。

したがって、今後32年間に何件かの大きなデモンストレーションがあるかもしれないものの、前述のタイムフレームの中では、商業的に成立する顧客輸送システムとしてのハイパーループは存在しないだろうと私は確信している。

さまざまなイノベーションの時期を予測するために、このフレームワークを使用する。あるアイデアが、未だ研究室の中ですら実証されていない場合、たとえ理論上問題の無いものであったとしても、その実現までには長い、長い時間を要する。プロトタイプが実証されているだけの場合も、実現までにはやはり長い時間を要する。同種のテクノロジーが既に普及しており、必要となるのは既存の改善のみである場合は、普及までにあまり時間を必要としないかもしれない。しかし、その場合でも、誰もそのテクノロジーを利用したいと思わないかもしれない。そうであれば、開発に携わる技術者がどれほどの熱意を持っていたとしても、普及は進まないだろう。

テクノロジーの採用について

新しいテクノロジーの採用には、予想よりもはるかに長い時間を要する。今日のインターネットでは32ビットのアドレスが使用されているため、ネットワーク上のデバイス合計で40億の一意のアドレスしか使用できない。このプロトコルIPv4インターネットプロトコル バージョン4と呼ばれている。1990年代初頭までには、あらゆるデバイスがネットワークに参加するようになり(個人用デバイスだけではなく、電気メータ、工業用センサ、交通センサや制御装置、テレビ、電灯のスイッチ(!) などなど)、世界のアドレス空間は不足すると考えられていた。

1996年には、新しいプロトコルIPv6インターネットプロトコルバージョン6が定義された。アドレス空間は32ビットから128ビットに増加し、7.9x10^28個のデバイスをネットワークに搭載することが可能となる。

1996年以来、ネットワーク上のトラフィック全てがIPv4ではなくIPv6を使用する目標時期について、様々な日付が設定されてきた。2010年には、目標日は2012年だった。しかし、2014年には、ネットワークトラフィック全体の実に99%がIPv4を使用し続けていた。多くのエッジシステムが、洗練された方法で40億以上のデバイスを40億個のアドレス空間につめ込んでいたのだ。2017年の終わりまでに、IPv6上を流れるネットワークトラフィックは、計測方法によって2%以下から20%を超える程度の範囲に留まっている。IPv6が完全に採用されるまでには、未だほど遠い。

技術的には、IPv6の採用を阻害する問題は存在しない。それどころか、その逆の状況である。[多くの企業や団体がIPv6の導入と採用を推進している] しかし、インターネットへの接続を望むデバイスの数が増加するに従って、IPv6が採用されるのではなく、逆にIPv4を延命させるための巧妙なイノベーションと回避策も増えていったのである。
この記事での予測に使うつもりのヒューリスティック手法 (装備の代替速度、技術的ソリューションの成熟度、技術の結果に対する真の需要) を適用してみると、私は2010年ごろまでにはIPv6が広く普及すると予測してしまっていたことだろう。私は過度に楽観的だったということになる。

「常に想像よりも長い時間がかかる」ということについて

Space X社は、2011年4月にFalcon Heavyロケットを公表し、2011年6月にはカリフォルニア州ヴァンデンバーグ空軍基地で事業を開始した。そして当時、初飛行は2013年に計画されていた。ロケットは、2017年12月28日に初めてフロリダ州ケネディ宇宙センターの発射台39Aに移動され、現在のところ、2018年中の初飛行を予定している。これまでのところ、開発期間は2年から7年に延長されている。

常に想像よりも長い時間がかかるものである。

自動運転車に関する予測

下記の表の最初3つの項目は、空飛ぶ車に関するものである。私は、実用的な飛行車は、飛行中のほとんどの間自動運転する必要があると考えている。そのため、飛行車もこのカテゴリに含めている。飛行車 (flying car) とは、自動車が走行可能な場所はどこでも走行でき、飛行も可能な乗り物を意味している。でなければ、車とは呼べないだろう。飛行車に乗る人間は、パイロットの免許は必要としないものの、数時間程度の特別な訓練が必要となるかもしれない。[特別な装備は必要なく、] オフィスで着るのに相応しい程度の普通の服を着て乗り込むことができ、ほとんどの行程を飛行して、100マイルでも移動可能な乗り物であるとする。特別な飛行計画の設定や登録は要求されず、必要な操作はせいぜいスマートフォン上の地図アプリを使って目的地までの道順を検索する程度ものであるとする。つまりは、追加の訓練を除けば、今日の一般人が旧来型の自動車で100マイル移動することと同じ程度のものであるということだ。

それでは自動運転車について話そう。私は、2017年の初めに無人車について2つのブログ記事を書いた。最初の記事は、自動運転車による予期しない帰結について語ったものである。歩行者や他のドライバーは、有人自動車と無人車とでは異なった形でインタラクションする。そして、無人車は他の人間からの反社会的な行動を誘発することもある。また、自動運転車の所有者は、従来型の自動車を運転する場合には絶対に行なわないような行動を取る場合があり、時として反社会的な行動をする可能性があると指摘した。次の記事では、都市の環境において自動車が遭遇する可能性のある、特殊な事例について取り上げた。たとえば、運転手が読み取らなければならない一時的な標識 [道路工事の際の通行止めの看板など]、法律の字義通りの意味に従っていては走行できない場合 [通行止め回避のために一方通行の道路を逆走するなど]、タクシーなどの運送サービスがどの程度まで乗客にコントロールを許可するかという問題、パトカーやレッカー車と無人車との通信、規則や権威の無い状況での他の人間とのコミュニケーションなどである。

私には明白だと思えるのだが、無人自動車は、通常の自動車から単に運転者を除いただけのものではない。そうではなく、無人車は、異なる使用方法をされ、世界の中で異なる位置を占める、根本的に異質な存在となるだろう。

馬のない馬車は、単に馬が引く馬車を一つ一つ置き換えていったわではない。舗装道路という新しいインフラストラクチャ、完全に新しい所有権のモデル、完全に異なる利用モデル、完全に異なる燃料とメンテナンス手法、別種の搭乗者死亡率、異なるレベルの利便性などを、自動車は必要とした。そして、究極的には郊外という非常に異なる都市構造を生み出した。

一般的な解釈では、無人車は人間が乗った自動車を単に1台1台置き換えていくものであると考えられているようだ。私は、そんなことが起こるとは考えていない。我々の都市の側が変更を受け、無人車用の特別車線、無人車と有人車を分離するジオフェンシング [仮想的な柵]、乗降車場所の自由度に対する規範の変更、駐車違反の規則の変更などがなされるだろう。我々の都市に対してあらゆる種類の小さな段階的変更が行なわれるだろう。

しかし、まずは無人車の普及速度について話そう。

7つの大罪』に関する記事の中で私が指摘した通り、1987年にはドイツで自動運転の実証実験が行なわれている。もちろん車内には人間が乗っていたものの、運転はしていなかった。過去30年の研究を通して、自動車が公道を自動走行する能力が向上したことは確かであるが、ほとんどの研究は走行に関するものであった。[他の自動車や歩行者との] インタラクション、乗降車、他のサービスや規制、車内の乗客とのインターフェイスなどに関する研究はごく僅かである。これら全てのことが、自動運転の実現には重要である。

ある意味では、過去30年の間には、非常に、非常に、非常に遅々とした漸進的な進歩しか見られなかった。自動走行というごく狭い領域の問題に注力していたにもかかわらずである。アリゾナ州フェニックスで、本当に誰も乗っていないWaymoの自動車を見かけるようになったのは、ここ数週間程度のことでしかない。

けれども、普及までには未だ道半ばである。センサの価格は更に低下する必要があり、自動車と歩行者のインタラクションに関するあらゆる運用上の問題も解決される必要があり、それ以前に、実環境における法規制と事故時の責任に関する規則が制定される必要があるだろう。いくらかの制約は残るものの、最終的にはこれらの問題は解決されると考えている。しかし、解決までの時間は、多くの人が予期するよりも遅いものとなるだろう。 無人車の可能性が真に試されるのは、試験やデモンストレーションではなく、無人タクシーやライドシェアリング事業や無人駐車場のオーナーが、エンドユーザから何らかの利益を得たときである。これは、徐々に、地理的に限られた範囲の市場でしか起こらないだろう。以下に記した私の予測におけるマイルストーンは、デモンストレーションではなく持続可能なビジネスの可能性に関するものである。そうでなければ、無人車の普及は決して離陸することはないだろう。 私が考えるに、現実に無人車が採用される方法は、無人車だけ存在し特定の走行だけが許可される区画を区切って、その近辺では人間が運転する自動車が存在しない環境で行われるというものだ。更に言えば、無人車の使用は、最初のうちは、ある都市または都市の中の一区域に限定されるだろう。そして、おそらく、一日のうちの特定の時刻、特定の気象条件下に限定されることもあるかもしれいない。つまりは、しばらくの期間、最初の無人車による移動サービス(現在のUberLyftのようなサービス)は、時々しか自動走行モードでしか動作せず、それ以外の時には人間の運転手を必要とするだろう。

 

予測(自動運転車) 時期 コメント
十分なお金があればアメリカ市民は誰でも空飛ぶ車を買えるようになる 2036年以降 2050年になるまで実現しない可能性も高い
空飛ぶ車はアメリカの総自動車台数の0.01%に達する 2042年以降 現在の総自動車台数から言えば約26,000台
空飛ぶ車はアメリカの総自動車台数の0.1%に達する NIML  
高速道路上で、真に自動運転モードの自動車のみが走行できる専用車線が作られる 2021年以降 これは、今日のHOVレーン[乗合レーン]と似たものである。私の予想では、サンフランシスコ・シリコンバレー間の国道101号線の最左車線だろう。(現在のところ、いずれの場合でもほとんどが高スピードのテスラ車の領域である)専用車線に入るまでは、人間が運転する必要がある。
自動車同士が通信でき、人間が運転する車よりも車間距離を詰められ、制限速度が高い専用車線 2024年以降  
アメリカの主要都市における最初の無人"タクシー"サービス。乗降車場所は指定され、天候と時刻に制限がある 2022年以降 乗降車場所は駐車場ではないが、バス停のようにマークされ、それ以外の目的には使用できない
アメリカの10大都市において、時々は人間の運転手が運転する、拡大された地理的範囲での無人"タクシー"サービス 2028年以降 予測の重要なポイントは、いつの時点でセンサが十分に安価になり、運転手付きの車を使うことよりも、この種のセンサを利用することが経済的に意味を持つようになるかである
上記の"タクシー"サービスがアメリカ最大の100都市のうち50都市で利用されるようになる 2028年以降 これは非常に遅いスタートと普及速度となるだろう。指定された乗降車ポイントは複数の企業によって使用され、相互の通信によって自動車の入出庫をスケジューリングされる
アメリカの主要都市の非常に限られた地域で、専用の無人貨物配送車が利用される 2023年以降 道路の幅が十分に広く、他のドライバーが停止した無人車を避けて通行できる地域でなければならない
特定車種の自動車を入口に停めると、人間が存在しない環境の駐車場で車が自動で停車を行うような(利益を上げられる) 駐車場 2023年以降 経済的なインセンティブは、駐車密度の向上である。また、これには自動車と駐車場インフラ間の通信を必要とするだろう
アメリカ主要都市における無人"タクシー"サービス 地理的な範囲は限定されていても、任意の場所で乗降車が可能である 2032年以降 これはUberLyftや現在のタクシーサービスが今日可能なことである
マサチューセッツ州キャンブリッジポートニューヨーク州グリニッジビレッジにある全ての道路で無人タクシーサービスが運用される 2035年以降 それ以前に路上駐車と人間の運転者がこのエリアで禁止されていない限りは。
1つの主要都市の大部分で路上駐車と人間の運転する自動車が禁止され、そのエリア内では自動運転車が自由に走行できる 2027年以降
2031年までに
これは自動運転車へと向かう潮流の開始地点となる
アメリカの主要都市の中心街は上記のような規則のもとにある 2045年以降  
電気自動車は、アメリカの自動車販売数の30%を占める 2027年以降  
電気自動車は、実質的にアメリカの自動車販売数の100%を占める 2038年以降  
個人所有の自動車は地下のパレットに乗り、地下道を通って都市の別の場所へ時速100マイル以上で移動できる NIML 小さなデモンストレーションプロジェクトはあるかもしれないが、単にデモだけのものであり実現せず、有用なマス市場へのサービスにはならないだろう
ロッコ問題に対する解決策のいくつかのバージョンを装備した自動車が、実際に機能を使用する必要がある事故に初めて遭遇する NIML このバリエーションが、映画「I, Robot」のプロットの重要な側面であったことを思い出そう。そこでは、交通事故が発生した際にロボットはウィル・スミス演じるキャラクターを救い、若い少女を見殺しにするのである。

 

ロボット、AIとMLに関する予測 

「ロボットと人工知能に関する将来」についての私のブログ記事を読んできた読者は既にご存知のことと思うが、AIに熱中している人や恐怖を抱いている人々が信じているよりも、テクノロジーが現実世界で大規模に展開されるまでには時間を要するのである。 以下の予測は、AIに関する一般の認識(過去3年の間にAI分野で生じた変化のうち最大の事象)に関するもの、技術的なアイデアに関するもの、普及に関するものを含んでいる。

これらの予測はランダムで関連性のないものと感じられるかもしれない。しかし、これがロボット、AIとMLの分野における進歩の進み方なのである。突然に、人間(あるいはチンパンジー)ができること全てを上手くこなす汎用知能が出現するということはない。とても長い、長い間に渡って、単一機能のソリューションしか出現しないだろう。 人間レベルの知能と身体能力を構築することは、本当に、本当に困難である。過去5年間でほんの少しの爆発的な進歩があり、あまりに多くの人が、必要なこと全てが既に成し遂げられたと考えているようだ。現実には、我々は未だ道程の1%以下に居て、どうすれば5%へ辿り着けるのかというアイデアも存在していない。そして、私は進捗率のパーセンテージを述べたものの、この値を本当に正当化することは不可能である。もしかすると、私は進捗率を10倍以上に誇張しているかもしれない。その場合は、私は謝罪の言葉を述べたい。

 

予測(AIとML) 時期 コメント
学術界で、ディープラーニングの限界に関する疑惑が起こる 2017年までに あぁ、これは既に起きている… ペースは加速するだろう。
技術系メディアはディープラーニングの限界、ゲームプレイに対する強化学習の限界を報道し始める 2018年までに  
一般紙で、ディープラーニングの時代は終わったという話が開始される 2020年までに  
ベンチャーキャピタルは、投資には“X+ディープラーニング”以上のものが必要であると認識する 2021年までに ここでは私は少しシニカルである。もちろん、正確にこのような変化が起こる時期を予測することはできない。
AI分野で、ディープラーニングを超えた「次の大きなもの」の出現が広く認識される 2023年以降
2027年までに
これが何になるにせよ、既に研究がされており、既に関連する論文が出版されている。2023年以前にも、ディープラーニングの次の技術だという主張があるだろうが、うまく行かないだろう。
報道機関や研究者が成熟し、いわゆる「チューリングテスト」やアシモフロボット三原則を乗り越え、それらがAIやMLの進歩を測定する妥当な方法であると見なされることがなくなる 2022年以降 私は願っている。本当に。
器用なロボットハンドが一般的に利用可能になる 2030年以降
2040年までに
印象的な研究室でのデモはあったものの、実際のところ過去40年間に広く普及したロボットハンドやエンドエフェクタに進歩は見られない。
アメリカのどんな家の中でも自由に動き回れるロボット。階段、散らかった部屋、家具の間の狭い隙間なども含む

研究室デモ
 2026年以降
高価な製品
 2030年以降
手頃な製品
 2035年以降

人間にとって容易なことは、未だロボットには非常に、非常に難しい
単独のソリューションではなく、複数のタスク(ベッドからの起床、洗濯、トイレの使用など)について高齢者の身体的補助が可能なロボット 2028年以降 単独のソリューションを提供するロボットは存在するかもしれないが、すぐに高齢者の家はロボットで埋め尽くされてしまうだろう。
庭の最後10メートル程度の範囲で荷物を運ぶロボット。乗り物から荷物を受け取り、家の玄関内部までそれを運ぶ 研究室デモ
 2025年以降
一般用システム
 2028年以降
 
長期的なコンテキストを保持し、容易に認識可能な繰り返しパターンに陥ることのない会話エージェント

研究室デモ
 2023年以降
一般用システム
 2025年以降

既に会話応答システム (Google HomeAmazon Echo)が存在するため、デモから普及までの期間は速いだろう
ネズミ程度の、継続した意識を持つAIシステム 2030年以降 これを説明するためには完全に別のブログ記事が必要になる…
犬と同等に知的で、注意深く、忠実に見えるロボット 2048年以降 ほとんどの人が想像するよりも困難である--多くの人は、既に実現されていると考えている。私は全くそう思わない。
自身の存在について何らかの真の概念を持つロボット、または、6歳児と同等のレベルで人間について理解しているロボット NIML  

宇宙旅行に関する予測

幼い頃から、私は宇宙旅行のファンであった。当時、私の父は毎週アデレードからウーメラ、南オーストラリア州へと飛び、エウロパと呼ばれたヨーロッパの衛星打ち上げイニシアチブにおいて第一段階エンジンの開発に携わっていた。 数か月ごとに、金曜の夜、私は父と一緒にロケット愛好家クラブの会合に参加していた。そこでは、NASAからの最新のフィルム映像を見て、議論がかわされていた。

当時、私の生涯の夢は、いつかは他の惑星に住むことであった。これまでのところは、死ぬ前に地球を離れるという夢に向かって大きく前進している。現実的には、最終的には私の夢は果たされないだろうということが分かった。

それでは、宇宙旅行に関する私の予測を述べよう。私が望むほどには楽観的ではないが、しかし現実的なものだと思う。

 

予測(宇宙旅行) 時期 コメント
民間企業による有人弾道飛行ロケット(テストパイロットと技術者)の打ち上げ 2018年までに  
ごく一握りの消費者に対する上記の商業宇宙飛行 2020年までに  
週次以下の周期での定期的な宇宙飛行 2022年以降
2026年まで
 
周回軌道への定期的な商業飛行 2027年以降 ロシアは、かつてISSへの民間向け有料飛行を行なっていたが、8回のフライトのみ(7人の旅行者)であった。現在では無期限中断されている。
アメリカ製ロケットによる次の有人周回軌道への打ち上げ 2019年以降
2021年までに
2022年までに
(2つの企業による)
現在のスケジュールでは2018年とされている。
ファルコンヘビーロケットを用いた月周回軌道への商業飛行 2020年以降 最新の予測では2018年第4四半期である。計画通りには行かないだろう。
後に到着する人間のための、火星への貨物船着陸 2026年以降 SpaceXは2022年までにと宣言している。私は2026年という予測は楽観的であると考えているものの、実用的な理由ではなく、火星着陸が実現可能だと宣言するために追求されるかもしれない。
火星に人間が着陸し、事前に着陸した貨物船の物資を利用する 2032年以降 残念ではあるが、皆が予期するよりも長い時間を要するだろう。
最初の「恒久的な」火星上の有人基地 2036年以降 それができるならば、人類にとって魔法のように見えることだろう。我々全員にインスピレーションを与えるはずだ。
BFロケットを用いた地球上の一地点から別の地点までの輸送 NIML これは起こらないだろう。現在の我々には思いもよらない、何らかの新しく大きなブレイクスルーがなければ。
2都市間を結ぶハイパーループの定期便 NIML チャック・イェーガーマーキュリー計画を評した「肉の缶詰」という言葉を思い出さずにはいられない。*3

 

*1:訳注:MIT Technology Reviewによる和訳あり(有料)

*2:訳注:真空ないし減圧されたトンネル内を、圧縮空気の噴出により高速で移動する交通手段

*3:チャック・イェーガーは米空軍のテストパイロットで、初めて超音速飛行を行った。マーキュリー計画には批判的であった。重大事故が起きた場合には、狭いカプセルに閉じ込められたまま、搭乗者はひき肉のようになってしまうだろう、という意味。

まとめ —シンギュラリティ教徒への論題—

ここまで、約7か月間(!)に渡って、主にカーツワイル氏の主張するシンギュラリティ論の根拠について検証してきました。このブログ、『シンギュラリティ教徒への論駁の書』で取り上げた論点は、非常に多岐に渡っています。けれども、私のシンギュラリティに対する懐疑論の根幹は、次の3点に要約できると考えています。

  • 収穫加速の法則、科学技術全体が指数関数的に加速するという主張は、根拠が無い
  • 汎用人工知能(AGI)の実現時期の見積もりは、過少である可能性が高い
  • 仮にAGIが実現できるとしても、AGIが自身の知能を再帰的に拡大し、科学技術を高速で進歩させられるという仮定は、妥当ではない

 指数関数的成長論と収穫加速の法則

もちろん、半導体ムーアの法則ゲノムシーケンシングの所要時間とコスト効率のように、ある特定の要素技術が、限られた期間において、指数関数的な (実際のところは、シグモイド関数的な) 成長を遂げるという観察は事実でしょう。そして、カーツワイル氏が主張する通り、指数関数的な成長をするテクノロジーがしばしば人々の予想を裏切る発展を見せることがあるという指摘は、ある程度は傾聴に値するものです。

けれども、その種の指数関数的成長をあらゆるテクノロジーの発展に一般化し、その前提から全ての将来予測を導き出す手法は妥当であるとは言い難く、巨大な疑問符が付く主張であると言えます。

私は、カーツワイル氏の著書の中で「収穫加速の法則」がどのような意味で使用されているかを分類しましたが、実に4通りもの意味で使われており、その定義は全く明確ではありません。また、収穫加速の法則の中で使用されている「パラダイム・シフト」という語も、実際にはどのような事象を指しているのか完全に不明であり、いかなる事象でも「パラダイム・シフト」と主張できてしまうため、将来予測どころか過去の分析としてすら成立していないものです。

そこで、「パラダイム」という主観的で曖昧な指標ではなく、客観的に定義・検証が可能な指標を用いた場合、特に直近の過去においては指数関数的な成長は確認できず、それどころか近年ではイノベーションの速度が低下しているかもしれないという懸念を表明する経済学者も存在しています。他にも、科学研究が次第に困難になる傾向を指摘する主張もあります。

総合的に見れば、科学技術総体が指数関数的に成長しているというカーツワイル氏の主張は、それを裏付ける根拠を欠いています

汎用人工知能の実現時期見積もり

序文から何度も述べているとおり、私自身は汎用人工知能の実現は必ずしも不可能であるとは考えていません。(また、実現可能性を否定することは論理的には非常に困難です) けれども、AGIの実現時期の見積もりは全く妥当であるとは言えず、それゆえ、AGIの実現までには想像よりも長い時間を要する可能性が高いでしょう。

カーツワイル氏がAGIの実現を見積もる根拠は、「拡張ムーアの法則」と「脳のニューロンとシナプスの数」です。「拡張ムーアの法則」とは、ムーアの法則から予測される計算力のコスト効率の向上が、コンピュータにおける「パラダイムシフト」の継続によって、将来も継続されるという仮定です。この「拡張ムーアの法則」と、「人間の脳の機能、ないしニューロンシナプスをリアルタイムでシミュレーションするために必要な計算力」の2つから、AGIの実現時期は2029年と推定されています。

けれども、半導体集積回路に対するムーアの法則は、2000年代から既に停滞しはじめている上、新たな「パラダイム」の登場が必然であるという根拠は何もありません。「拡張ムーアの法則」が継続されるためには、現在の「パラダイム」が限界を迎えるよりも10年以上前の時点で、次のパラダイムの技術が発明され、市場投入されている必要があります。2020年初頭にはシリコン半導体に対するムーアの法則が完全に終焉を迎えると予測されていますが、現在のところ、新たな計算原理の研究は道半ばであり、また量子コンピュータが実現したとしてもあらゆる計算困難な問題が計算できるようになるわけでもありません。他の計算素子を見ても、計算機に必要なトレードオフを考慮すると、シリコン製の集積回路を置き換えるほどの速度で発展している「パラダイム」は存在しないように見えます。

また、精神転送(マインドアップロード)の実現可能性を検証した連載を通して、カーツワイル氏は遺伝子の情報や脳自体の複雑性を極度に過少評価していること、脳スキャンの空間分解能は未だ個々のニューロンとシナプスを詳細に観察するにはほど遠いこと、生物の情報処理の原理は、ニューロンではなく分子のレベルに存在する可能性が高いことなどを指摘しました。それゆえ、人間の脳を愚直にエミュレーションする手法を通したAGIの実現や精神転送の実現は、我々が想像するよりも莫大な時間を要するでしょう。特に精神転送について言えば、この種の「不死技術」実現までの期間の予測は、人々の不死を望む感情によって大きく歪められているように見えます。

 

もちろん、脳のエミュレーションとは異なる方法によって、人工知能が実現される可能性はあります。高いレイヤーの「知能の原理」の研究と理解を通して、人工知能を作り上げる方法です。ちょうど、人間が飛行機を作成する際、鳥のように羽ばたく機械を作るのではなく、「飛行の原理」である航空力学の知識を通してプロペラやジェットエンジンを作るように。

けれども、この種のアプローチを取る上での大きな問題は、現在のところ、「知能の原理」について、何が分かっていないのかすら不明である (未知の不確定要素がある) ということです。もちろん、単一のタスクや機能で人間の「能力」を上回る「性能」を発揮するシステムは既に存在し、これからも作られるでしょう。知能の問題に対する不確定要素の量や難易度の見積もりによって、実現時期の予測は多少前後するかもしれません。けれども、汎用性人工知能、人間と同等以上の存在を作り上げることは、計算力のコスト効率を向上させ続ければ自動的に解決するという種類の問題ではありません。 

そもそも、人間の知能は単一の機能、単一の尺度ではなく、また人工知能の「知能」や研究の進捗を測定する方法すら存在していないため、人工知能の研究が指数関数的に成長しているという根拠は何もありません。人工知能の研究は、不連続で散発的なブレイクスルーと停滞の繰り返しです。もちろん、将来にも不連続なブレイクスルーが発生しうるでしょうが、それがいつ、いかなる形で起きるかを予測する法則はありません。

ゆえに、カーツワイル氏によるAGIの実現時期予測、2029年という見積もりは妥当ではなく、おそらく過少である可能性が高く、それよりもずっと長い期間を要するだろうと考えています。 

知能の拡大と思考主義

シンギュラリティ論においては、ひとたび汎用人工知能が作られると、その人工知能は何らかの形で自身の知能を拡大することができ、「超知能」が発生するとされています。また、その「超知能」は、科学技術の問題に限らず、社会問題や経済問題までをも即座に解決できると想定されています。けれども、(収穫加速説知能爆発説の双方において)超知能がいかなるプロセスを通して出現するかはあまり明らかではありません。

そして、仮に超越的な知能が出現したとしても、科学技術の進歩には現実世界での実験やプロトタイプ構築を必要とするため、即座に超越的な科学技術の進歩が達成されるわけではありません。知能は問題解決における小さな一要素でしかなく、「進歩の障害となるものはただ知能の高さのみである」という考え方は誤りであり、ケヴィン・ケリー氏はこの誤謬を「思考主義」と命名しています。同様に、仮に超越的に「知能」の高い人工知能であっても、既に社会に存在している物理的な物体を変化させられるわけではなく、また政治・経済・社会的な問題を解決できるわけではないでしょう。

そして、カーツワイル氏の言うGNR革命、すなわち遺伝子工学ナノテクノロジー、ロボティクスの研究を概観しましたが、それらの分野の研究は、コンピュータやAIの研究とは異なり、必ずしもカーツワイル氏の予測通りに進んでいるわけでは無いと言えます。特に、遺伝子工学について言えば、進歩の速度は細胞分裂、生殖、寿命の時間によって本質的に制限されます。穏当な材料化学や分子生物学の応用分野としてのナノテクノロジーではなく、分子サイズの機械で分子を操作する「分子ナノテクノロジー」のビジョンは、理論上不可能であるとは断定できませんが、実際のところ提唱当時より他の研究者から実現可能性に関しての疑問が提示されています。

汎用人工知能が実現すれば超知能が出現し、それが科学技術の高速な進歩をもたらすという仮定は、論理的に妥当でないように思えます。

まとめ

私の主張は、現時点で利用可能な根拠を用いた暫定的なものであり、いくつかは将来において誤りと判明するかもしれないことを認めましょう。

もしかすると、明日からあらゆる科学技術が指数関数的に成長していくかもしれません。もしかすると、今年にも実用的な量子コンピュータが市場投入され、ムーアの法則が継続される可能性もあるでしょう。あるいは、数年後に量子力学を用いた斬新な計測手法が開発され、生体脳スキャンの分解能がいきなりナノメートル単位に達する可能性を否定することはできません。将来、人工知能の「知能」を測定する巧妙な手法が考案され、人工知能研究が指数関数的に進捗していくかもしれません。もしくは、未来の汎用人工知能は、現実世界に働きかける何らかの手法を編み出すかもしれません。

また、懐疑論者としての私の立場においては、論理的に、シンギュラリティ論を一撃の元に葬り去るような決定的な反駁の存在は、望むべくもないでしょう。そして、この文章を書き、読んでいる人々全員が死んだ後の遼遠の未来において、カーツワイル氏が予測した精神転送、分子ナノテクノロジー宇宙進出のような技術が出現する可能性までも否定するつもりはありません。

 

けれども、シンギュラリティ論の全体を通して検証してみると、個々の主張を繋げる推論は、全く妥当性を欠いているものであると言わざるを得ません。ゆえに、数十年というごく短期間のうちに超越的人工知能が発生し、断絶的な高速の進歩をもたらすというシンギュラリティの主張を妥当な将来予測として捉えることは不可能であり、科学研究、技術開発と社会政策の指針とすることはできません。