シンギュラリティ教徒への論駁の書

"Unending exponential growth? What drugs are those people on?" - Linus Torvalds

書評:『そろそろ、人工知能の真実を話そう』ジャン=ガブリエル・ガナシア


そろそろ、人工知能の真実を話そう

そろそろ、人工知能の真実を話そう

この本の著者であるガナシア氏は、パリ第6大学のコンピュータサイエンス学部で教授を務める哲学者であり、本書は、人工知能などの知性が人間を超越し、現在の人間には想像もできない超越的なテクノロジーの進歩をもたらすとするシンギュラリティ説と、その信奉者を批判するものです。

 

もはや私の自己紹介の必要は無いかもしれませんが、私はシンギュラリティ論には懐疑的な考え方を持っており、かつ、それが現在実践されているテクノロジーの研究開発に対して、現実的な悪影響を与えていると捉えている者です。
その意味では、私の立場は著者のガナシア氏と同一であると言え、基本的には私はガナシア氏の主張に賛成しています。けれども、私にとっては本書の議論は全く満足の行くものではありませんでした*1

私が考える本書の難点は3つあります。

  • シンギュラリティ論への反論としては、内容が薄い。
  • シンギュラリティとグノーシス主義の類似点を論じているが、信奉者が直接的にグノーシス主義から影響を受けたとは考えにくい。
  • 大企業がシンギュラリティ論を後援する動機を非難したところで、彼らの主張が誤っているとは言えない。

 

まず、1点目は、特にカーツワイル氏のシンギュラリティ論そのものへの批判と反論としては極めて簡素であり、内容が薄いということです。ガナシア氏は、ムーアの法則と「収穫加速の法則」を取り上げ、指数関数的な成長をあらゆるテクノロジーへと一般化するカーツワイル氏の主張を批判しています。その批判は完全に妥当であり、私自身の主張とも一部重なる部分があります。けれども、彼の議論はかなり簡素であり、個別のテクノロジーの詳細にはあまり立ち入っていません。

私自身もこれまで述べてきた通り、シンギュラリティ仮説と「収穫加速の法則」には何ら科学的、実証的な根拠がなく、可能性や蓋然性を論じる前に信憑性すら疑われる主張であり、いくつかの相異なる仮説と比較するという科学的な手続きを全く踏まえておらず、「あまりにありそうもないことであるため、真面目に検討するに値しない(p.117)」と考えている点ではガナシア氏と同様です。

けれども、シンギュラリティの提唱者の中には起業家や研究者など、社会的に無視できない影響力を持つ人も含まれており、その主張には一定の信頼が寄せられています。彼らが心から信じているのか、それとも研究資金や投資を得る方便として利用しているだけなのかは分かりません。けれども、シンギュラリティ論がアカデミアの研究、企業の技術開発投資と行政の政策に対して影響を与え、方向性を歪めていることは今現在現実に発生している脅威です。
だからこそ、私はどんなにありえなさそうなことであっても真面目に取り上げ、主張の1件1件を検証し論駁すべきであると考えています。


次に、2点目として、ガナシア氏はグノーシス主義とシンギュラリティ論の類似性を取り上げています。けれども、カーツワイル氏をはじめとするシンギュラリタリアンが、直接的にグノーシス主義から影響を受けたということは考えにくいことです。確かに、グノーシス主義とシンギュラリティ論に共通点があるという着眼点は極めて興味深く、またその議論に完全に説得力が無いわけではありません。

けれども、思想的な影響を論じるのであれば、米国ベビーブーマー世代により強く直接的な影響を与えたであろうニューエイジ思想に注目するべきだと私は考えます。

宗教家であり思想史家でもあるジョン・マイケル・グリア氏は、グノーシス主義ニューエイジ思想との間にある類似点として、主流派宗教思想 (キリスト教) への反発、霊的な選民思想、物質的世界の否定と知性・知能に対する崇拝という極端な心身二元論、宇宙 (至高神) との合一による自己の救済を目指すことなどが挙げられると指摘しています。そして、これらの要素はシンギュラリタリアンの中にも見出すことができます。
米IT系企業の関係者がニューエイジ思想から影響を受けているという、いくつかの具体例が存在します。Apple創業者のスティーブ・ジョブズ氏の愛読書が、超常現象を起こしたと主張するヨガ聖者の自伝『あるヨギの自叙伝』であったことは有名ですし、米国IT系企業の重鎮の中にも若い頃にヒッピー運動にコミットしていた人は珍しくありません。

実際のところ、私はカーツワイル氏やシンギュラリタリアンのスピリチュアリティについて、詳細に語る根拠を持っていません。けれども、グノーシス主義よりはニューエイジ思想、そしてその淵源である神智学など19世紀のスピリチュアリズム運動のほうがはるかに直接的で大きな影響を及ぼしていると言えるのではないでしょうか。


3点目として、ガナシア氏は、大手IT系企業がAIの本当の有用性と悪影響を隠し、社会的責任から逃れるための目くらましとして、シンギュラリティ論を用いていると非難しています。確かに、非現実的な期待と恐怖によって、テクノロジーの将来性に関する冷静な議論が歪められているという主張は首肯できるものです。けれども、シンギュラリティを提唱するIT企業幹部の真の動機を知る術はなく、実際のところガナシア氏の主張は検証不可能です。

また、邪悪な動機からなされる正しい主張も、高潔な動機からなされる馬鹿げた主張も、論理的にはどちらも存在しえるものです。結局のところ、シンギュラリティ提唱者の主張の成否は、彼らの主張それ自体を取り上げて検証する必要があると考えています。


もっとも、これまで各分野の専門家が散発的に批判するのみであったシンギュラリティ論に対して、ある程度まとまった形での論考が出版されたことは意義のあることでしょう。けれども、シンギュラリティに対する批判はまだ全く足りていないだろう、と私は考えています。

*1:だからこそ私のブログの存在価値がまだ保たれているという面もあるので複雑な感情を抱いているのですが…