シンギュラリティ教徒への論駁の書

«Il n'y a rien qui ressemble plus à une exponentielle que le début d'une sigmoïde.» —Yann LeCun

「人工知能」は人間の利害対立を解決できるか

既に述べてきた通り、たとえ超人的な人工知能が作られたとしても、科学やテクノロジーがすぐに超越的な進歩を遂げるわけではなく、また既に存在する物理的な資本を更新するためには時間とコストを要するため、シンギュラリティ論において想定されているような高速の進歩が発生するわけではありません。

それ以外にも、超人的人工知能でも解決できないであろう問題は存在します。人々の利害対立の調整や、あるいはゲーム理論で「協調問題」と呼ばれる問題です。

たとえば、ゴミ処理施設、原発、墓地や火葬場の建設などの問題、徴税制度の設計などがあります。これらの施設は社会に必ず必要となるものですが、誰しも自分の家の裏庭にこのような施設が存在することは望まないでしょう。また、公共的なサービス提供のためには税金の徴収が必要となりますが、税金が上がることを喜ぶ人はいないと思います。

社会の広い範囲の人々が利益を享受する一方、その負担は特定の人に集中するような問題の場合、感情的・情緒的な説得と納得のプロセスが必要であり、知能の高ければ簡単に解決できるというわけではありません。

このタイプの問題は、テクニカルには、負担を受ける人を最小化し社会全体の利益を最大化するような最適化問題として設定することも想定できますし、他人を説得する技法において人間よりも優れた人工知能を想定することも可能でしょう。けれども、それによって負担を強いられる人間が説得されるかどうかは、また別の問題です。

負担を強いられる特定の層の人々が、その決定に納得できない場合には、サボタージュや裁判といった合法的な方法から暴力的な武力闘争に至るまで、様々な抵抗の手段があります。そして、この種の実力行使に対して人工知能がうまく対処できると考える理由は特にありません --ターミネーターのような戦闘ロボットが現れると考えるのでもない限りは。

これ以外にも、テクノロジーの進歩だけでは解決できそうにない、政治・経済・社会的な利害対立は無数に存在します。知能の高い存在に『「今の中東情勢を解決する施策を出せ」と言って何らかの答えを出したとしても、逆に人間の社会は大混乱に陥ってしまうのではないかと思います』そもそもそれ以前の問題として、考案されたその施策を中東において実行に移す手法は存在しません。


むしろ、短中期的な将来において私たちが警戒しなければならないのは、特定の立場の人や企業の価値感が、公平無私で中立不偏を装った「人工知能アルゴリズム」によって、社会の政策や制度に侵入することです。

 

アルゴリズムはプログラムと数学に埋め込まれた誰かの価値観であり、公平性や正義について考慮することはできず、統計データに従って過去の傾向に沿った予測を返すのみのものです。

アルゴリズムはプログラムと数学に埋め込まれた誰かの価値観であり、公平性や正義について考慮することはできず、統計データに従って過去の傾向に沿った予測を返すのみのものです。

人工知能という名の統計と機械学習アルゴリズムを過度に擬人化し、ことさらに「人間」vs.「人工知能」という対立を強調する言説は、現状の統計と機械学習アルゴリズムの機能を過大評価し、現在存在する利害の対立を覆い隠すという点で、きわめて望ましくないものであると考えています。(この議論については、後の章でなぜ私がシンギュラリティ論を問題視するのかを説明する際にもう一度取り上げようと思います)