シンギュラリティ教徒への論駁の書

“Anyone who believes that exponential growth can go on forever in a finite world is either a madman or an economist.” - Kenneth Boulding

「AIによる政治」を怖れるべき理由

私の別ブログの翻訳プロジェクトで、本ブログのテーマとも関連のある興味深い記事を翻訳した。

この記事で、ジョン・マイケル・グリアは、科学者が政治問題について愚かな主張をしてしまう2つの原因を説明している。それは、「利害」と「価値観」を科学の議論から排除する慣習、そして、妥協を許さず唯一の「真理」を追求する姿勢である。この2つの態度は、科学研究には必須ではあるけれども、政治問題に対してナイーブに適用された場合はとてつもなくバカげた主張をもたらす場合がある。

このような科学者・技術者の政治的愚かさが最大限に発揮されている最近の事例は、「AIによる政治」、「根拠エビデンス  にもとづく政策決定」についての議論だろう。


近年の政治不信とAI技術の発展により、AIを用いた政治の改革が語られている。中には、サイエンスフィクションめいた超知能AIによる哲人政治を提唱する主張もあるが、それほど空想的ではなくても、エビデンス (とそれを利用した機械学習) にもとづく政策決定の導入を訴えるものもある。ただし、どのような主張であれ、それを裏付ける前提には「人間は偏見から逃れられない一方で、AIは公平無私であり人間同士の利害と価値観の対立から逃れられている」、「社会の問題について、何らかの中立的で公平な(唯一の)解が存在する (そして、AIはその解に近付くことができる)」という考え方があるように見える。*1

ところが、多少なりとも考えてみれば、その前提が二重に幻想であることが理解できる。「公平」、「平等」、「自由」といった価値観を、本当に人間と同様の意味で内的に理解しているAIシステムは存在せず、近い将来に実現するという見込みすらない。それをひとまず棚に上げたとしても更なる問題がある。本当にささいな政治的な利害の調整ですら、暗黙的に「公平」、「平等」といった価値観についての根本的な疑問を含んでいるため、単なるエビデンスについての問題には還元できず、完全に中立的な立場など存在しないからだ。

 

f:id:liaoyuan:20190605224321j:plain

ローマ水道の遺跡 ( wikimedia commonsより)

ここで、利害調整にからむ価値観の問題を検討するために、例として、ある社会の構成員がお金を出し合って個人では不可能な何らかの事業を営むことを考えてみよう。生命保険、年金でも道路の建設でも戦争でも何でもよいが、ここではどこかの都市国家で灌漑 (農業) 用の上水道を建設することを取り上げる。

このような水道を建設するための資金を集める方法は、複数考えられる。市民全員が (資産の多寡によらず) 一定の額を拠出するのでも良いし、あるいは資産額に応じた一定割合の金額を納めるという方法もある。あるいは、水の使用量に比例する使用料を支払うという方式でも良いだろう。*2

ここには「唯一絶対的に正しい方法」は存在しない。ただし、もちろん、各々の立場によって損をする・得をする政策が存在するため、各々の利害に応じた「望ましい」政策はありうる。たとえば、貧しい農民は、おそらく資産額に応じた一定の割合での支払いを求めるだろう。逆に、広大な農地を抱える裕福な地主は、すべての市民が一律の金額を支払うことが「平等」であると主張するかもしれない。一方で、(水にそれほど依存しない) 商売を営む裕福な商人は、大量に水を使う農場主と同じ割合の負担を求められるのは「不公平」であるからとして、水の使用量に応じた支払いを求めるかもしれない。

もう一度言っておくと、この問題に唯一絶対の解はない。いかなる負担の分配が妥当であるのか、また社会の構成員がおおむね妥協できるであろう政策は、複数考えられる。ただし、その政策が社会の「公平」、「平等」の概念に著しく反する場合には、その政策に従わない集団が現れるかもしれない。また、その裏にある「一定額の支払い」と「一定割合の支払い」のどちらが「公平」で「平等」であるのかという疑問にも唯一の解答はない。これは事実に関する問題ではなく、「価値観」についての問題であるため、どれほどのエビデンスを集めて統計処理を行なったとしても、いかなる二重盲検対照試験を行なったとしても証明も反証もできないものである。*3

これほど単純化した事例でさえ、政治的な利害調整には、「公平性」、「平等性」をどのように捉えるか、それらを社会でどのように実現していくかという、価値観についての根本的な疑問を考慮する必要がある。そして、その裏には「どのような社会が望ましいか」という個々人のビジョンが存在している。非常に多くの場合、鋭い対立を生む政治問題の背景には、個々人のビジョンの違いが存在している。


さて、前置きが長くなった。「AIによる政治」について、私はサイエンスフィクションじみた「超知能AIによる人間の統治」のような問題を懸念しているわけではない。既に述べた通り通り、人間と同じように、人間と同等の意味で「公平」、「平等」などの価値観を理解しているAIシステムは存在せず、近い将来に実現できるという見込みすらない。また、もしもそのような人間と同等以上の人工知能が実現できたとしても、単一の公共空間で生身の人間集団を相手にする限りは、人間の政治家とまったく同じように問題に直面するだろう。

「AIによる政治」について私が懸念しているのは、もっと卑近で現実的な問題である。つまり、ごく近い将来、あるいは現在、政治分野にAI技術が持ち込まれる場合には、「公平無視なAIの判断」を装って、AI作成者の「利害」と「価値観」を唯一の真理であるかのように提示し、それらを社会全体に強制するための手段として用いられるだろう。また、そのようなAIは、既に社会に存在する不正義と不平等を構造的に強化するように機能するだろう。

そのようなAIを作成するのは、現在既に十分すぎるほどに強大な権力を持っている国家と超グローバル企業であることに疑いはない。


ここで述べた問題は、一部は既に起こっている現実の問題である。キャシー・オニールの『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』を読んでほしい。

*1:例として、次の記事を参照 『AIとバイアス

*2:一応断わっておくと、ここでは歴史的な正確さは考慮しないので、ここで挙げたような方法で資金を集めて水道を建設した都市があるのかは分からない。

*3:もちろん、「ヨソではみんなこんなふうにやっていますよ」というエビデンスが、政治的な議論のレトリックとして説得に有効である可能性はある。しかし、それは何らかの「正しさ」を証明するものではない。