シンギュラリティ教徒への論駁の書

"Unending exponential growth? What drugs are those people on?" - Linus Torvalds

知能は単一の尺度ではない

人工知能の「知能」に関する議論において最もよくある誤解は、人工知能の知能が「向上」ないし「拡大」し、「人間を越える」という考え方です。この種の誤解の裏にある前提は、「知能を測定する単一の尺度が存在する」という仮定であると言えます。

いや、人間の知能を測る知能指数 (IQ; Intelligence Quotient) が定義されているではないか、と思う人もいるかもしれません。けれども、そもそもIQの数値は知能の定義を回避した指数であると言えます。

人間の知能を測定する知能指数には、大きく2種類存在します。子供の知能の発達を、生活年齢 (実年齢) と精神年齢 (知的能力から換算される年齢) の比で表した従来のIQと、同一年齢集団内での偏差値に相当する偏差知能指数 (DIQ; Deviation IQ) です。これらの知能指数は年齢に対する発達の度合い、あるいは集団内における相対的な位置を測定するものであり、知能そのものを直接測定するものではありません。また、この2つはどちらも年齢や集団などが定義できない人工知能には、適用できない指数です。

また、IQテストをうまく処理できるコンピュータは、必ずしも普通の人がイメージするような意味で「知能が高い」とは言い難いことにも注意が必要です。たとえば、ある種のIQテストの項目には、数字の列を暗唱したり暗算をさせるテストがあります。人間の場合であれば、数字の暗唱や暗算は、多数の情報を一度に扱う能力や学習能力を測る目安となります。一方、数値の記憶や計算はコンピュータにとってはたやすいものですが、けれども、電卓に「知能がある」と思う人はいないでしょう。

人間の知能は、さまざまに異なる機能を果たすモジュールの寄せ集めであり、単一の尺度で測定できるような量ではありません。実際のところ、人間の知能は多次元量、つまり、それぞれ異なる多数の指標によって測定される量であると言えます。

 

知能を測定する単一の指標は存在しないため、「人間を越える人工知能」という言い方は意味のある表現ではありません。実際のところ、コンピュータはいくつかの点において既に人間を越えています。計算力においては、既に100年以上も前から人間はコンピュータに勝つことはできませんし、検索エンジンは人間よりもはるかに多数のウェブページや画像を「記憶」することができます。

これは、物理的な力についても同様のことが言えます。産業革命は200年以上前であり、あらゆる機械を合わせた集合は、人間の走る速度、物を持ち上げる腕力、物を切断する力などにおいて人間を負かすことができます。けれども、一人の人間ができる全てのタスクにおいて、人間を打ち負かす機械は存在しません。コンピュータの「知能」も同様です。

知能は単一の基準ではないため、コンピュータが持つ「知能」に関しての正しい捉え方は、人間とは異なるタイプの新たな「知能」、しかもそれぞれが様々に異なる種類の「知能」が多数生まれてくるというものでしょう。

 

さて、そうは言っても「あらゆる点において人間を越える人工知能」が存在し、更なる知能爆発を引き起こすことは想像できるではないか、という反論はありうると思いますので、次回以降のエントリでは、「知能爆発」について考えてみたいと思います。

知能の拡大と思考主義批判

前章の5章において、私はカーツワイル氏の主張の2つのキーポイント —ムーアの法則と脳のリバースエンジニアリング— および、カーツワイル氏の主張とは直接関係ないものの、現在研究が進んでいる人工知能 (あるいは機械学習) の技術について検討しました。

結論だけを繰り返すと、カーツワイル氏の主張にはあまり根拠がなく、おそらくヒトと同等の人工知能を作り出せるようになる時期は2030年よりも先であると考えています。ただし、私自身は人工知能が作り出される時期について、明確な予測を述べることはできません。そして、それは現在人工知能の研究に従事している研究者であっても同様だろうと考えています。

けれども、もし仮にヒトと同等の人工知能が作られたとして、それが「シンギュラリティ」と呼べるような断絶的かつ高速の進歩を起こすのかという点については、更に検討する必要があると考えています。

ヒトと同等の人工知能が「本来のシンギュラリティ」を起こすという主張の裏には、いかなる実証的な根拠にも基いていない、ある2つの信念に基づいた仮定が存在しているように感じられます。すなわち、1点目は「知能が無限に (あるいは少なくとも普通の人間より遥かに) 向上し拡大できる」という仮定、もう1点は「知能が高い存在は、あらゆる問題を即座に解決することができる」という仮定です。6章では、この2つの論点を扱います。


また、現在のシンギュラリティに関する議論ではあまり取り上げられることはありませんが、カーツワイル氏はコンピューターとAIの進歩のみによってシンギュラリティが発生するとは主張していません。彼が「GNR」と呼ぶ分野、すなわち遺伝子工学(Genetics), ナノテクノロジー(Nanotechnology*1 ), ロボティクス (Robotics *2 ) の3つの分野が同時並行で指数関数的に成長していくことによって人間と社会の革命的な変化が進み、人間がテクノロジーと融合していくのだと主張しています。

遺伝子工学ナノテクノロジーに関するカーツワイル氏の主張にはほとんどまともな根拠もなく、あえて真面目に取り上げて検証するべきことはそれほど多くありませんが、いくつかの論点に関してもこの6章で同時に扱おうと考えています。

*1:ここでは分子レベルで物質の操作ができる分子ナノテクノロジー Molecule nanotechnology, MNTを指す

*2:ここでは単なるロボットではなく意識を持つ「強い」人工知能を指す

人工知能の「知能」とは何か。指数関数的に成長しているのか。

近年では、特にディープラーニングの発達によって人工知能 (機械学習) の技術が目覚しい速度で発展しています。そして、人工知能技術の進歩は指数関数的であり、このままのペースで進歩が続けば、人間を越える人工知能が近い将来にでも出現するはずだ、という主張を頻繁に耳にします。

 

けれども、少し立ち止まってよく考えてみてほしいのですが、人工知能研究において一体何の量が指数関数的に、つまり一定間隔のうちに倍々に増えているのでしょうか。

人工知能の研究ないし「知能」が指数関数的に増加しているという証拠は、全く何もありません。いかなる基準で人工知能研究の進捗を測定できるのか誰も定義できていませんし、まして、人工知能の「知能」をどのように測るのか、その方法はまったく不明であるからです。

コンピュータ分野において指数関数的増加を実証的に確認できるのは、ムーアの法則をはじめとする、人工知能を作成するためのリソース、インプットの量だけです。そのアウトプットであるある種のタスク、特定の機能に対する性能は、目覚しい改善を見せているものも存在します。けれども、汎用的・普遍的な「知能」の定量的な定義は存在せず、人工知能の能力が指数関数的に増えていることを示す実証的な証拠は存在しません

 

それどころか、人工知能の研究は線形にさえ進んでいないように見えます。過去の人工知能研究の歴史を見ると、何らかのアイデアによって目覚しい発展が見られる時期がある一方で、全く進歩が停滞し学術的にも産業的にもほとんど省みられない冬の時代が続いたこともあります。

近年注目されているディープラーニング (ニューラルネット) においても同様です。ニューラルネットの発明は1950年代にまで遡りますが、現在広く使われるようになるまでには、何度も失望され注目を失なってきた歴史がありました。フェイスブック社の人工知能研究所所長であるヤン・ルカン氏は、ニューラルネットは過去2度、誇大広告と期待過剰のために「死んだ」と述べています。近年のディープラーニングの隆盛も、ムーアの法則などの指数関数的な成長とは関連も因果関係もない、独立した事象です。もちろん、将来においてもまた別の独立した進歩の事象が発生しないということは考えにくいことですが、ロドニー・ブルックス氏が指摘している通り、独立した進歩の事象がいかなる頻度で発生するかを予測する法則はありません。

 

実際、カーツワイル氏自身でさえ、人工知能の進歩が指数関数的ではないということを認めています。

「計算力とアルゴリズム複雑性の両方において指数関数的な成長が起こっており、新たなレベルの階層を付け加えている…それゆえ、我々は新たなレベルが線形に増加していくと期待できる。というのは、新たな層を加えるためには、指数関数的な複雑性の増加が必要であるからだ。そして、我々はその能力において実際に指数関数的に進歩している。大脳新皮質の能力と比較すれば、我々はそう遠くない階層に位置している。だから、私の2029年という予測は、妥当性を失なっていないと考える。」

The Myth of a Superhuman AI | WIRED

 

実際のところ、ここでカーツワイル氏が挙げている指数関数的成長の実例は、計算力とソフトウェアの複雑性のみであり、人工知能研究は必ずしも指数関数的に成長していないことを認めています。そして、これは以前私が指摘したことと全く同じです。つまり、必要となる労力や資源が指数関数的に増加してしまうため、指数関数的な成長をオフセットしてしまい、人工知能の「知能」は線形(以下)にしか増えていないということです。これは、人工知能の知能爆発という想定とは全く相容れない主張です。

もちろん、将来において人工知能認知科学の分野で何かのブレイクスルーがあり、人工知能の「知能」を定義する方法が開発され、それが指数関数的に成長していく可能性はあります。けれども、これまでの過去において、人工知能の知能が指数関数的に増えているという根拠はないため、未来においても指数関数的な増加が始まると考える理由は無いように思います。

シンギュラリティ再考:「人間を越える人工知能の開発」が「シンギュラリティ」ではない

このブログを書いている間に私に対して寄せられた議論と質問と反論を読むなかで、「シンギュラリティ」という言葉は、明確な定義がなく各自が勝手な意味で使用しており、シンギュラリタリアンの間ですらその定義に違いがあるため、それゆえ議論に大変な混乱と誤解が生み出されていることに気付きました。

そこで、再度この言葉の定義を確認しておきたいと思います。

 

「シンギュラリティ」という言葉は、原義に遡って考えれば、既存の法則や規則が成立しなくなる点を指しています。そして、私がここで取り上げている「technological singularity (技術的特異点)」とは、「テクノロジーの進歩によって人類史において断絶的な高速の進歩が起きて妥当な未来予測が成り立たなくなる時 (あるいはその将来予測自体)」を指しています。

最近のシンギュラリティに関する議論においては、人工知能の発展のみが取り上げられることが多いですが、原義を辿ると、人工知能とシンギュラリティ論の繋がりは必ずしも強いものではありません。たとえば、ヴァーナー・ヴィンジ氏のシンギュラリティ論においては、薬品や遺伝子改造による人間の知能増強、インターネットに「意識」が宿ることなどが、仮説上の超知能の出現方法として議論されていました。

とは言え、近年では汎用人工知能の実現を通したシンギュラリティの到来を予測する議論が多いようです。

そこで、この2種類の予測を区別する用語を定義しておきます。第一のシンギュラリティと言った場合には、「汎用人工知能 (1人のヒトと同等の人工知能) が作られる時」を指します。そして第二のシンギュラリティないし本来のシンギュラリティと呼ぶ場合には、(これまで通り) 「人類史において断絶的な進歩が発生する点」を指すことにします。

シンギュラリティの到来を信じそのあり方を議論するシンギュラリタリアンの間でも、第一と第二のシンギュラリティに対する考え方は異なります。両方がほぼ同時に、またはごく短い間隔で発生すると考える人も居れば、第一のシンギュラリティは認めても第二の意味でのシンギュラリティは否定する人も居ます。
なお、この定義のもとでカーツワイル氏の予測を説明するのであれば、第一のシンギュラリティは2029年、第二の(本来の)シンギュラリティは2045年であると述べています。

私のスタンスとしては、第一のシンギュラリティは発生してもおかしくない、ただしその時期を見積もる妥当な根拠は無い、そして、本来のシンギュラリティに関しては、何ら実証的な根拠に基いた予測ではなく、まったくありえないと考えます。

 

この6章では、特に第二のシンギュラリティについて検討していく予定です。

人間に似た人工知能は、人間と似た制限を持つ(のでは?)

既に繰り返して述べている通り、私は「人間と同等の知能を持つ人工物」を実現することが不可能だと示されているわけではないことは肯定します。ただし、その「人工物」が実現されるまでには、現在喧伝されているよりも、ずっと長い期間を要するだろうと考えています。

 

改めて、カーツワイル氏は『ポスト・ヒューマン誕生』において、汎用人工知能の設計と実装について、何ら具体的な指針や方針を示していないということは指摘しておきたいと思います。以前確認した通り、カーツワイル氏は、拡張ムーアの法則に基いた計算力のコスト効率の指数関数的な向上と、脳の機能の一部をシミュレーションするために必要な計算力から、汎用人工知能が作成可能となる時期を2029年と見積っていました。それ以外には、出版当時研究されていた機械学習の手法をいくつか挙げ、これらの方法を使うことで人工知能が作れるかもしれない、と推測を述べているのみです。

けれども、狭義のムーアの法則は既に破綻していること、脳の非侵襲スキャンとリバースエンジニアリングは、必ずしもカーツワイル氏の予想する通りの指数関数的成長を示しているわけではないこと、更には計算力向上と知能の間に直接的な因果関係が存在しないことは、既にここまで私が指摘してきた通りです。それゆえ、汎用人工知能が実現されるまでには、おそらくカーツワイル氏の予想よりも長い時間を要するでしょう。

私は、現在のノイマン型コンピュータでヒトと同等の人工知能を実現することは、コスト効率と規模の面から現実的には困難だろうと信じています。


それでは、非ノイマン型コンピュータ、つまり、現在のコンピュータとは根本的に異なる原理で計算を行なうコンピュータであれば、ヒトと同等の知能を持つ機械ができるのではないか、という指摘があるかもしれません。実際に、2014年には、IBM社が「TrueNorth」という半導体チップを開発したことを発表しています。これは、人間のニューロンの働きをハードウェア的に (緩く) 模倣した「ニューロモーフィックチップ」と呼ばれる半導体です。

この種のアプローチを更に進めて、人間に類似したウェットなハードウェアを作ることができれば、人間と同等の知能を持つ機械が作れるだろうという主張があります。このようなハードウェア技術は、未だサイエンス・フィクションかせいぜいが概念実証の範疇を出ないものですが、一種の思考実験としてここで取り上げてみます。

確かに、機械論の立場を取る限り、人間の脳とまったく同等のコピーを (ハードウェア的にであれソフトウェア的にであれ) 作ることができれば、原理的には人間と同じ知的能力を持つ人工知能が作成できることは否定しません。そして、ヒトの脳の完全な再現ができなくとも、いくらかそれに類似した機械が人間と似た知的能力を発揮できる可能性は十分にあると考えられます。けれども、この種の未来技術の想像が持ち出される場合には、意図的に無視されている論点があります。人間に似た人工知能は、人間と似た制限を持つかもしれないという可能性です。

人間の天然知能は、ごくわずかな食料でも動作することができ、エネルギー効率の点で優れています。けれども、人間の知能には特有の欠点と制約が存在することも事実です。

  • 連想記憶や事象の間の関連性を発見することには優れるものの、ものごとを正確に記録し再現することには不向きである
  • 言語を用いた情報伝達ができるものの、情報処理と記憶にはハードウェア的な処理とソフトウェア的な処理が混合されており、外部から容易に記録を読み出したり書き込んだりすることができない
  • 直感的な状況把握や計画には優れるものの、論理的な思考や大量のデータの統計的処理は不得手である
  • 有用な活動に従事できるようになるまでに、10〜20年の育成、教育と訓練を必要とする

未来の技術にどれだけの可能性があるのか、現時点で明確に予測することは困難です。同様に、未来技術にどのような制約があるのかについても、現時点で実証的に明確に述べることは困難でしょう。人間に似せたハードウェアは、上で挙げたような人間に似た制限を持つ可能性は否定できません。更に言うならば、あえて人間と同等の能力と制約を持つ機械をわざわざ作り出すメリットは薄いように感じられます。人間を人工的に再現するのではなく、生物的に人間そのものを生み出すための方法は、既に太古の昔から存在しているからです。

結局のところ、人間が持つ知能と機械が持つ知能は種類が異なるものです。この種類の違いは、制限ではなくむしろ特長として捉えるべきです。また、人間と機械の知能は異なるものであるため、単純な優劣の比較には意味がないと言えるでしょう。

脳を模倣するアプローチ

直前の2節で、私は「脳の再現」と「機械学習」の手法による人工知能の実現の可能性について検討してきました。もちろん、汎用人工知能 (ヒトと同等の人工知能) を作成するためのアプローチは、この2つのみではありません。近年では、ある程度大まかに脳の核部位の機能を機械学習器によって模倣したモジュールを作成し、個々のモジュールを結合することによって人工知能を実現するアプローチが提案されており、世界中で盛んに研究が進んでいます。


本論では私は、この種のアプローチの有用性と限界と将来性について詳細に述べるつもりはありません。私自身がこの分野の専門ではなく知識が無いということもありますし、未だ存在しない未来技術の特性と限界について考察することは難しいという理由もあります。更には、既に何度も述べている通り、私は原理的な汎用人工知能の実現可能性自体は否定していないからです。そして、未知の事象や技術について研究する真摯な科学的営み自体を否定したり批判したりすることは、本論の目的でもないからです。

人工知能研究者の主張と予測はやや楽観的すぎる傾向がありますが、現代の研究資金配分に対する競争的な制度のもとでは、研究者が自身の研究の有用性と将来性を (嘘ではない範囲で) 過大に宣伝することは、褒められた行為ではないにせよ、強く非難するべきことでもないと考えています。

私がここで批判しているのは、本当のテクノロジーについて知る努力もせず技術進歩と未来に対して希望的観測を投影する無知蒙昧な愚か者どもと、自分ですら信じていない嘘を口にすることで研究資金、投資や注目を得ようとする詐欺師と扇動者だけであるということは、明確に述べておきたいと思います。


さて、公平のために述べておくならば、人間と同等の汎用人工知能が実現されるまでの時間予想について、カーツワイル氏を擁護する人は決して少数ではありません。2010年に人工知能の専門家に対して行なわれたインタビューでは、ここ10〜20年の間に汎用人工知能が実現できると考えている人も多く存在していることが示されています*1
ただし、別の調査では、過去の専門家による外れた予測においても、予測時点から相対的に20年後程度の未来の人工知能実現を予測していたことが述べられています*2

ウーバー社傘下のAIベンチャー、ジオメトリック・インテリジェンス社の共同創業社である認知心理学脳科学研究者、ゲイリー・マーカス(Gary Marcus)氏はこう述べています。
「この世紀の終わりまでには、機械はおそらく我々人間よりも賢くなるだろう——チェスや雑学クイズだけでなく、数学や工学から科学や薬学までのあらゆることについて*3


概して言えば、短期的な人工知能の実現可能性について、コンピュータ科学者は楽観的である傾向があり、認知心理学者、生物学者、脳科学者や哲学者はやや懐疑的である傾向が多いようです。いくつかの有用そうなアプローチはあるものの、研究者コミュニティで合意された人工知能の作り方に関する理論はなく、何が一番大きな問題であるのかについても研究者間で意見の相違が存在しています。

 

私自身の率直な感想を述べるなら、人工知能の将来予測は壮大な水掛け論でしかないという印象を受けます。

人工知能の楽観論者は、脳のシミュレーションは細部まで生物学的に忠実に模倣する必要は無い、と主張しています。飛行機は鳥のように翼を羽ばたかせはしないではないか、と言うのです。すると、懐疑論者は、「翼とプロペラ」を作れるほど、知能に対する「航空力学」はまったく理解できていないではないか、と指摘します。いやいや、ライト兄弟は高校を中退した無学な自転車屋で、高度な数学と航空力学など頼らなくとも、実験に基いてともかく作ってみるというアプローチで飛行機を作ったではないか。脳に似せた機械から知能が創発する可能性は、作ってみなければ否定できないだろう、と楽観論者は更に反論するでしょう。実際のところ、議論は延々と平行線を辿っています。

結局のところ、人工知能の実現可能性を判断するためには、クラークの第二法則が述べる通り、研究を続けていく以外にないのだろうと私は考えています。

 

ロボットの脅威??人の仕事がなくなる日

ロボットの脅威??人の仕事がなくなる日

 

 

クラークの三法則に関する断章 (3) 「十分に発達して"いない"科学技術は、魔法と見分けがつかない」

今回は、クラークの三法則の最後の法則であり、おそらく最も広く知られているであろうこの法則を扱います。

『十分に発達した科学技術は、魔法と見分けがつかない。』
" Any sufficiently advanced technology is indistinguishable from magic."

この法則は、ロドニー・ブルックス氏が述べている通り、次のように言うべきでしょう。

『十分に発達して"いない"科学技術は、魔法と見分けがつかない。』

 ブルックス氏は「アイザック・ニュートンが、仮に17世紀から現代にタイムマシンで連れられてきたとして、iPhoneを見てその動作原理を理解できるだろうか」というたとえ話を挙げています。ニュートン電磁気学が確立する以前の時代の科学者であるため、彼ほどの天才であろうとも、充電の必要性などのiPhoneの制約については理解できなかっただろう、と言うのです。このたとえ話で述べられているのは、「未来に発明されるかもしれないテクノロジーを予想するとき、現時点でその限界を明確に示すことは非常に困難であるため、しばしばテクノロジーが『魔法』のように限界が無いものとして扱われてしまう」という問題です。『もしそれが魔法と見分けがつかないとすれば、誰が何と言おうと、もはや反証は不可能だ。』というわけです。

 

私自身も、ブルックス氏と同様に、未来技術とシンギュラリティに関する議論において、この問題に悩まされてきました。未来技術に関する議論の際には、シンギュラリティ”信者”は、常にこの種の魔術的な未来技術の可能性を持ち出すからです。

前回述べた通り、何かが不可能であると示すことには、多くの場合困難を伴います。まして、今存在しない技術、実用化できるかどうかすら定かではない未来技術について、その限界を示すことは原理的に不可能です。未来において発明されるかもしれないテクノロジーの限界は、現時点で存在しているテクノロジーからは理解できません。

そして、懐疑論者が未来技術の限界を説明できないこと、不可能性を示せないことをもって、シンギュラリティが発生する可能性があると主張する人間が存在します。私も「あなたは汎用人工知能の能力を理解していない」、「あなたは分子コンピュータやDNAコンピュータや○○コンピュータの可能性について検討していない」と言う「指摘」を受けることが頻繁にあります。けれども、たとえばこれらの技術が実現されるまでの見通しはどれくらいか、どんな特性と限界があるのか、これらの技術を用いてどう汎用人工知能を実現するのか関して、妥当な根拠が挙げられていることはありません。

 

結局のところ、これは「魔法に限界はない」という主張と大差はなく、反証不可能な信念の表明です。

もちろん、科学技術は魔法ではなく、現実に存在する技術には、必ず限界が存在します。現時点で限界が示せないことは、限界が存在しないことの証拠にはなりえません。更には、懐疑論者に対して未来技術の限界を示すように求めることは、挙証責任の完全な放棄であり、全く科学的な議論では無いと断じることができるでしょう。

 

関連項目

参考サイト

[FoR&AI] The Seven Deadly Sins of Predicting the Future of AI – Rodney Brooks

シンギュラリティは来ない、AIの未来予想でよくある7つの勘違い