知能の拡大と思考主義批判

前章の5章において、私はカーツワイル氏の主張の2つのキーポイント —ムーアの法則と脳のリバースエンジニアリング— および、カーツワイル氏の主張とは直接関係ないものの、現在研究が進んでいる人工知能 (あるいは機械学習) の技術について検討しました。

結論だけを繰り返すと、カーツワイル氏の主張にはあまり根拠がなく、おそらくヒトと同等の人工知能を作り出せるようになる時期は2030年よりも先であると考えています。ただし、私自身は人工知能が作り出される時期について、明確な予測を述べることはできません。そして、それは現在人工知能の研究に従事している研究者であっても同様だろうと考えています。

けれども、もし仮にヒトと同等の人工知能が作られたとして、それが「シンギュラリティ」と呼べるような断絶的かつ高速の進歩を起こすのかという点については、更に検討する必要があると考えています。

ヒトと同等の人工知能が「本来のシンギュラリティ」を起こすという主張の裏には、いかなる実証的な根拠にも基いていない、ある2つの信念に基づいた仮定が存在しているように感じられます。すなわち、1点目は「知能が無限に (あるいは少なくとも普通の人間より遥かに) 向上し拡大できる」という仮定、もう1点は「知能が高い存在は、あらゆる問題を即座に解決することができる」という仮定です。6章では、この2つの論点を扱います。

また、現在のシンギュラリティに関する議論ではあまり取り上げられることはありませんが、カーツワイル氏はコンピューターとAIの進歩のみによってシンギュラリティが発生するとは主張していません。彼が「GNR」と呼ぶ分野、すなわち遺伝子工学(Genetics), ナノテクノロジー(Nanotechnology*1 ), ロボティクス (Robotics *2 ) の3つの分野が同時並行で指数関数的に成長していくことによって人間と社会の革命的な変化が進み、人間がテクノロジーと融合していくのだと主張しています。

遺伝子工学とナノテクノロジーに関するカーツワイル氏の主張にはほとんどまともな根拠もなく、あえて真面目に取り上げて検証するべきことはそれほど多くありませんが、いくつかの論点に関してもこの6章で同時に扱おうと考えています。

*1:ここでは分子レベルで物質の操作ができる分子ナノテクノロジー Molecule nanotechnology, MNTを指す

*2:ここでは単なるロボットではなく意識を持つ「強い」人工知能を指す

人工知能の「知能」とは何か。指数関数的に成長しているのか。

近年では、特にディープラーニングの発達によって人工知能 (機械学習) の技術が目覚しい速度で発展しています。そして、人工知能技術の進歩は指数関数的であり、このままのペースで進歩が続けば、人間を越える人工知能が近い将来にでも出現するはずだ、という主張を頻繁に耳にします。

けれども、少し立ち止まってよく考えてみてほしいのですが、人工知能研究において一体何の量が指数関数的に、つまり一定間隔のうちに倍々に増えているのでしょうか。

人工知能の研究ないし「知能」が指数関数的に増加しているという証拠は、全く何もありません。いかなる基準で人工知能研究の進捗を測定できるのか誰も定義できていませんし、まして、人工知能の「知能」をどのように測るのか、その方法はまったく不明であるからです。

コンピュータ分野において指数関数的増加を実証的に確認できるのは、ムーアの法則をはじめとする、人工知能を作成するためのリソース、インプットの量だけです。そのアウトプットであるある種のタスク、特定の機能に対する性能は、目覚しい改善を見せているものも存在します。けれども、汎用的・普遍的な「知能」の定量的な定義は存在せず、人工知能の能力が指数関数的に増えていることを示す実証的な証拠は存在しません。

それどころか、人工知能の研究は線形にさえ進んでいないように見えます。過去の人工知能研究の歴史を見ると、何らかのアイデアによって目覚しい発展が見られる時期がある一方で、全く進歩が停滞し学術的にも産業的にもほとんど省みられない冬の時代が続いたこともあります。

近年注目されているディープラーニング (ニューラルネット) においても同様です。ニューラルネットの発明は1950年代にまで遡りますが、現在広く使われるようになるまでには、何度も失望され注目を失なってきた歴史がありました。フェイスブック社の人工知能研究所所長であるヤン・ルカン氏は、ニューラルネットは過去2度、誇大広告と期待過剰のために「死んだ」と述べています。近年のディープラーニングの隆盛も、ムーアの法則などの指数関数的な成長とは関連も因果関係もない、独立した事象です。もちろん、将来においてもまた別の独立した進歩の事象が発生しないということは考えにくいことですが、ロドニー・ブルックス氏が指摘している通り、独立した進歩の事象がいかなる頻度で発生するかを予測する法則はありません。

実際、カーツワイル氏自身でさえ、人工知能の進歩が指数関数的ではないということを認めています。

「計算力とアルゴリズム複雑性の両方において指数関数的な成長が起こっており、新たなレベルの階層を付け加えている…それゆえ、我々は新たなレベルが線形に増加していくと期待できる。というのは、新たな層を加えるためには、指数関数的な複雑性の増加が必要であるからだ。そして、我々はその能力において実際に指数関数的に進歩している。大脳新皮質の能力と比較すれば、我々はそう遠くない階層に位置している。だから、私の2029年という予測は、妥当性を失なっていないと考える。」

The Myth of a Superhuman AI | WIRED

実際のところ、ここでカーツワイル氏が挙げている指数関数的成長の実例は、計算力とソフトウェアの複雑性のみであり、人工知能研究は必ずしも指数関数的に成長していないことを認めています。そして、これは以前私が指摘したことと全く同じです。つまり、必要となる労力や資源が指数関数的に増加してしまうため、指数関数的な成長をオフセットしてしまい、人工知能の「知能」は線形(以下)にしか増えていないということです。これは、人工知能の知能爆発という想定とは全く相容れない主張です。

もちろん、将来において人工知能と認知科学の分野で何かのブレイクスルーがあり、人工知能の「知能」を定義する方法が開発され、それが指数関数的に成長していく可能性はあります。けれども、これまでの過去において、人工知能の知能が指数関数的に増えているという根拠はないため、未来においても指数関数的な増加が始まると考える理由は無いように思います。

シンギュラリティ再考：「人間を越える人工知能の開発」が「シンギュラリティ」ではない

このブログを書いている間に私に対して寄せられた議論と質問と反論を読むなかで、「シンギュラリティ」という言葉は、明確な定義がなく各自が勝手な意味で使用しており、シンギュラリタリアンの間ですらその定義に違いがあるため、それゆえ議論に大変な混乱と誤解が生み出されていることに気付きました。

そこで、再度この言葉の定義を確認しておきたいと思います。

「シンギュラリティ」という言葉は、原義に遡って考えれば、既存の法則や規則が成立しなくなる点を指しています。そして、私がここで取り上げている「technological singularity (技術的特異点)」とは、「テクノロジーの進歩によって人類史において断絶的な高速の進歩が起きて妥当な未来予測が成り立たなくなる時 (あるいはその将来予測自体)」を指しています。

最近のシンギュラリティに関する議論においては、人工知能の発展のみが取り上げられることが多いですが、原義を辿ると、人工知能とシンギュラリティ論の繋がりは必ずしも強いものではありません。たとえば、ヴァーナー・ヴィンジ氏のシンギュラリティ論においては、薬品や遺伝子改造による人間の知能増強、インターネットに「意識」が宿ることなどが、仮説上の超知能の出現方法として議論されていました。

とは言え、近年では汎用人工知能の実現を通したシンギュラリティの到来を予測する議論が多いようです。

そこで、この2種類の予測を区別する用語を定義しておきます。第一のシンギュラリティと言った場合には、「汎用人工知能 (1人のヒトと同等の人工知能) が作られる時」を指します。そして第二のシンギュラリティないし本来のシンギュラリティと呼ぶ場合には、(これまで通り) 「人類史において断絶的な進歩が発生する点」を指すことにします。

シンギュラリティの到来を信じそのあり方を議論するシンギュラリタリアンの間でも、第一と第二のシンギュラリティに対する考え方は異なります。両方がほぼ同時に、またはごく短い間隔で発生すると考える人も居れば、第一のシンギュラリティは認めても第二の意味でのシンギュラリティは否定する人も居ます。
なお、この定義のもとでカーツワイル氏の予測を説明するのであれば、第一のシンギュラリティは2029年、第二の(本来の)シンギュラリティは2045年であると述べています。

私のスタンスとしては、第一のシンギュラリティは発生してもおかしくない、ただしその時期を見積もる妥当な根拠は無い、そして、本来のシンギュラリティに関しては、何ら実証的な根拠に基いた予測ではなく、まったくありえないと考えます。

この6章では、特に第二のシンギュラリティについて検討していく予定です。

人間に似た人工知能は、人間と似た制限を持つ(のでは？)

既に繰り返して述べている通り、私は「人間と同等の知能を持つ人工物」を実現することが不可能だと示されているわけではないことは肯定します。ただし、その「人工物」が実現されるまでには、現在喧伝されているよりも、ずっと長い期間を要するだろうと考えています。

改めて、カーツワイル氏は『ポスト・ヒューマン誕生』において、汎用人工知能の設計と実装について、何ら具体的な指針や方針を示していないということは指摘しておきたいと思います。以前確認した通り、カーツワイル氏は、拡張ムーアの法則に基いた計算力のコスト効率の指数関数的な向上と、脳の機能の一部をシミュレーションするために必要な計算力から、汎用人工知能が作成可能となる時期を2029年と見積っていました。それ以外には、出版当時研究されていた機械学習の手法をいくつか挙げ、これらの方法を使うことで人工知能が作れるかもしれない、と推測を述べているのみです。

けれども、狭義のムーアの法則は既に破綻していること、脳の非侵襲スキャンとリバースエンジニアリングは、必ずしもカーツワイル氏の予想する通りの指数関数的成長を示しているわけではないこと、更には計算力向上と知能の間に直接的な因果関係が存在しないことは、既にここまで私が指摘してきた通りです。それゆえ、汎用人工知能が実現されるまでには、おそらくカーツワイル氏の予想よりも長い時間を要するでしょう。

私は、現在のノイマン型コンピュータでヒトと同等の人工知能を実現することは、コスト効率と規模の面から現実的には困難だろうと信じています。

それでは、非ノイマン型コンピュータ、つまり、現在のコンピュータとは根本的に異なる原理で計算を行なうコンピュータであれば、ヒトと同等の知能を持つ機械ができるのではないか、という指摘があるかもしれません。実際に、2014年には、IBM社が「TrueNorth」という半導体チップを開発したことを発表しています。これは、人間のニューロンの働きをハードウェア的に (緩く) 模倣した「ニューロモーフィックチップ」と呼ばれる半導体です。

この種のアプローチを更に進めて、人間に類似したウェットなハードウェアを作ることができれば、人間と同等の知能を持つ機械が作れるだろうという主張があります。このようなハードウェア技術は、未だサイエンス・フィクションかせいぜいが概念実証の範疇を出ないものですが、一種の思考実験としてここで取り上げてみます。

確かに、機械論の立場を取る限り、人間の脳とまったく同等のコピーを (ハードウェア的にであれソフトウェア的にであれ) 作ることができれば、原理的には人間と同じ知的能力を持つ人工知能が作成できることは否定しません。そして、ヒトの脳の完全な再現ができなくとも、いくらかそれに類似した機械が人間と似た知的能力を発揮できる可能性は十分にあると考えられます。けれども、この種の未来技術の想像が持ち出される場合には、意図的に無視されている論点があります。人間に似た人工知能は、人間と似た制限を持つかもしれないという可能性です。

人間の天然知能は、ごくわずかな食料でも動作することができ、エネルギー効率の点で優れています。けれども、人間の知能には特有の欠点と制約が存在することも事実です。

• 連想記憶や事象の間の関連性を発見することには優れるものの、ものごとを正確に記録し再現することには不向きである
• 言語を用いた情報伝達ができるものの、情報処理と記憶にはハードウェア的な処理とソフトウェア的な処理が混合されており、外部から容易に記録を読み出したり書き込んだりすることができない
• 直感的な状況把握や計画には優れるものの、論理的な思考や大量のデータの統計的処理は不得手である
• 有用な活動に従事できるようになるまでに、10〜20年の育成、教育と訓練を必要とする

未来の技術にどれだけの可能性があるのか、現時点で明確に予測することは困難です。同様に、未来技術にどのような制約があるのかについても、現時点で実証的に明確に述べることは困難でしょう。人間に似せたハードウェアは、上で挙げたような人間に似た制限を持つ可能性は否定できません。更に言うならば、あえて人間と同等の能力と制約を持つ機械をわざわざ作り出すメリットは薄いように感じられます。人間を人工的に再現するのではなく、生物的に人間そのものを生み出すための方法は、既に太古の昔から存在しているからです。

結局のところ、人間が持つ知能と機械が持つ知能は種類が異なるものです。この種類の違いは、制限ではなくむしろ特長として捉えるべきです。また、人間と機械の知能は異なるものであるため、単純な優劣の比較には意味がないと言えるでしょう。

脳を模倣するアプローチ

直前の2節で、私は「脳の再現」と「機械学習」の手法による人工知能の実現の可能性について検討してきました。もちろん、汎用人工知能 (ヒトと同等の人工知能) を作成するためのアプローチは、この2つのみではありません。近年では、ある程度大まかに脳の核部位の機能を機械学習器によって模倣したモジュールを作成し、個々のモジュールを結合することによって人工知能を実現するアプローチが提案されており、世界中で盛んに研究が進んでいます。

本論では私は、この種のアプローチの有用性と限界と将来性について詳細に述べるつもりはありません。私自身がこの分野の専門ではなく知識が無いということもありますし、未だ存在しない未来技術の特性と限界について考察することは難しいという理由もあります。更には、既に何度も述べている通り、私は原理的な汎用人工知能の実現可能性自体は否定していないからです。そして、未知の事象や技術について研究する真摯な科学的営み自体を否定したり批判したりすることは、本論の目的でもないからです。

人工知能研究者の主張と予測はやや楽観的すぎる傾向がありますが、現代の研究資金配分に対する競争的な制度のもとでは、研究者が自身の研究の有用性と将来性を (嘘ではない範囲で) 過大に宣伝することは、褒められた行為ではないにせよ、強く非難するべきことでもないと考えています。

私がここで批判しているのは、本当のテクノロジーについて知る努力もせず技術進歩と未来に対して希望的観測を投影する無知蒙昧な愚か者どもと、自分ですら信じていない嘘を口にすることで研究資金、投資や注目を得ようとする詐欺師と扇動者だけであるということは、明確に述べておきたいと思います。

さて、公平のために述べておくならば、人間と同等の汎用人工知能が実現されるまでの時間予想について、カーツワイル氏を擁護する人は決して少数ではありません。2010年に人工知能の専門家に対して行なわれたインタビューでは、ここ10〜20年の間に汎用人工知能が実現できると考えている人も多く存在していることが示されています*1。
ただし、別の調査では、過去の専門家による外れた予測においても、予測時点から相対的に20年後程度の未来の人工知能実現を予測していたことが述べられています*2。

ウーバー社傘下のAIベンチャー、ジオメトリック・インテリジェンス社の共同創業社である認知心理学と脳科学研究者、ゲイリー・マーカス（Gary Marcus）氏はこう述べています。
「この世紀の終わりまでには、機械はおそらく我々人間よりも賢くなるだろう——チェスや雑学クイズだけでなく、数学や工学から科学や薬学までのあらゆることについて*3」

概して言えば、短期的な人工知能の実現可能性について、コンピュータ科学者は楽観的である傾向があり、認知心理学者、生物学者、脳科学者や哲学者はやや懐疑的である傾向が多いようです。いくつかの有用そうなアプローチはあるものの、研究者コミュニティで合意された人工知能の作り方に関する理論はなく、何が一番大きな問題であるのかについても研究者間で意見の相違が存在しています。

私自身の率直な感想を述べるなら、人工知能の将来予測は壮大な水掛け論でしかないという印象を受けます。

人工知能の楽観論者は、脳のシミュレーションは細部まで生物学的に忠実に模倣する必要は無い、と主張しています。飛行機は鳥のように翼を羽ばたかせはしないではないか、と言うのです。すると、懐疑論者は、「翼とプロペラ」を作れるほど、知能に対する「航空力学」はまったく理解できていないではないか、と指摘します。いやいや、ライト兄弟は高校を中退した無学な自転車屋で、高度な数学と航空力学など頼らなくとも、実験に基いてともかく作ってみるというアプローチで飛行機を作ったではないか。脳に似せた機械から知能が創発する可能性は、作ってみなければ否定できないだろう、と楽観論者は更に反論するでしょう。実際のところ、議論は延々と平行線を辿っています。

結局のところ、人工知能の実現可能性を判断するためには、クラークの第二法則が述べる通り、研究を続けていく以外にないのだろうと私は考えています。

ロボットの脅威??人の仕事がなくなる日

*1:How Long Till Human-Level AI? - h+ Mediah+ Media

*2:『How We’re Predicting AI—or Failing To』(2012) https://intelligence.org/files/PredictingAI.pdf

*3:Why We Should Think About the Threat of Artificial Intelligence | The New Yorker

クラークの三法則に関する断章 (3) 「十分に発達して"いない"科学技術は、魔法と見分けがつかない」

今回は、クラークの三法則の最後の法則であり、おそらく最も広く知られているであろうこの法則を扱います。

『十分に発達した科学技術は、魔法と見分けがつかない。』
" Any sufficiently advanced technology is indistinguishable from magic."

この法則は、ロドニー・ブルックス氏が述べている通り、次のように言うべきでしょう。

『十分に発達して"いない"科学技術は、魔法と見分けがつかない。』

 ブルックス氏は「アイザック・ニュートンが、仮に17世紀から現代にタイムマシンで連れられてきたとして、iPhoneを見てその動作原理を理解できるだろうか」というたとえ話を挙げています。ニュートンは電磁気学が確立する以前の時代の科学者であるため、彼ほどの天才であろうとも、充電の必要性などのiPhoneの制約については理解できなかっただろう、と言うのです。このたとえ話で述べられているのは、「未来に発明されるかもしれないテクノロジーを予想するとき、現時点でその限界を明確に示すことは非常に困難であるため、しばしばテクノロジーが『魔法』のように限界が無いものとして扱われてしまう」という問題です。『もしそれが魔法と見分けがつかないとすれば、誰が何と言おうと、もはや反証は不可能だ。』というわけです。

私自身も、ブルックス氏と同様に、未来技術とシンギュラリティに関する議論において、この問題に悩まされてきました。未来技術に関する議論の際には、シンギュラリティ”信者”は、常にこの種の魔術的な未来技術の可能性を持ち出すからです。

前回述べた通り、何かが不可能であると示すことには、多くの場合困難を伴います。まして、今存在しない技術、実用化できるかどうかすら定かではない未来技術について、その限界を示すことは原理的に不可能です。未来において発明されるかもしれないテクノロジーの限界は、現時点で存在しているテクノロジーからは理解できません。

そして、懐疑論者が未来技術の限界を説明できないこと、不可能性を示せないことをもって、シンギュラリティが発生する可能性があると主張する人間が存在します。私も「あなたは汎用人工知能の能力を理解していない」、「あなたは分子コンピュータやDNAコンピュータや○○コンピュータの可能性について検討していない」と言う「指摘」を受けることが頻繁にあります。けれども、たとえばこれらの技術が実現されるまでの見通しはどれくらいか、どんな特性と限界があるのか、これらの技術を用いてどう汎用人工知能を実現するのか関して、妥当な根拠が挙げられていることはありません。

結局のところ、これは「魔法に限界はない」という主張と大差はなく、反証不可能な信念の表明です。

もちろん、科学技術は魔法ではなく、現実に存在する技術には、必ず限界が存在します。現時点で限界が示せないことは、限界が存在しないことの証拠にはなりえません。更には、懐疑論者に対して未来技術の限界を示すように求めることは、挙証責任の完全な放棄であり、全く科学的な議論では無いと断じることができるでしょう。

関連項目

参考サイト

[FoR&AI] The Seven Deadly Sins of Predicting the Future of AI – Rodney Brooks

シンギュラリティは来ない、AIの未来予想でよくある7つの勘違い

クラークの三法則に関する断章 (2) 「不可能性の自己欺瞞」

今回も、前回に引き続いてクラークの三法則の第二法則を扱います。

『可能性の限界を測る唯一の方法は、不可能であるとされるところまで進んでみることである。』
"The only way of discovering the limits of the possible is to venture a little way past them into the impossible."

以前にも私は類似のテーマについて記事を書いていますが、何かが「不可能である」と示すことは、多くの場合において「不可能」であると言えます。なぜならば、「不可能である」ことを示すためには、未だ誰も思いついていない方法も含めてあらゆる可能性を潰さねばならない一方で、解決策(あるいは可能性)が一つでも示されれば、「不可能である」という主張は誤りになるからです。ここには一種の労力の非対称性が存在しています。「これまであらゆる人が失敗してきた」ということは言えても、そこから「未来永劫、それは不可能である」という結論を導くことはできません。

ゆえに、何かが不可能であるかを確かめるためには、この"法則" が述べる通り、可能であることを積み上げ示していく以外にありません。けれども、クラークの第二法則を「悪用」すれば、間違った主張、間違った理論を際限なく擁護することができてしまいます。科学哲学者のラカトシュがポパーの反証主義に対して反論している通り、何らかの理論の反証となりうる事例も「それは核心的な誤りではなく、単なる実験の不備やデータの不足だ」と主張できてしまうからです。

数学者・ソフトウェア工学者であり、情報技術と社会との関わりに関する人文学的な学際研究もある林晋氏は、自身の過去の研究テーマに関する失敗についてこう述べています。

学問的な事実が実験・調査などにより示されても、それを完全に正しいと言い切ることは難しい。ある主張の不可能性を示すことは特に難しい。
すべての研究者が暗黙の了解としているために見落とされている条件があり、それが見つかって、出来るわけがないと思われていたことが、簡単に実現されてしまうことは良くある。

これを「悪用」すると、「誤差です」「ちょっと間違えていましたが修正可能です」「データが十分でないだけです」とか言って、間違えた結論を擁護し続けることができる。
だから、最後は、社会がそれを認めるか認めないか、そういう社会的レベルでの決着になることさえある。これはSTAP細胞を巡って、我々が目撃しつつあることだ。*1

 
ここでも取り上げられているSTAP細胞の研究者が良い例でしょう。彼女が実験データを適切に扱っていなかったこと、論文に他人の文章からの盗用が存在するということは示すことができます。けれども、それらの証拠はなお「STAP細胞が存在しないこと」を証明するものではありません。仮にSTAP細胞を作成する手法を本当に発見していたのであれば、実験手順やデータの不備は、誰からも注目されることもなく、後から修正すれば許されていたでしょう。

つまり、どれほど「証拠が無いこと」を示したとしても、なおそれは「無いことの証拠」ではなく、「存在しない」「不可能である」ということを示すためにはしばしば大変な困難を伴います。

シンギュラリティ論と「収穫加速の法則」の実証的な根拠を議論する際、私が常に直面してきたのもこれと同様の「不可能性の証明」に関する問題です。

本論で私は、「近い将来においてシンギュラリティが発生するという予測は妥当であるのか」を検討してきました。けれども、私が言えることは、せいぜいが「近い将来においてシンギュラリティが発生するという根拠は無い」という主張のみであり、ここから「シンギュラリティは未来永劫に渡って発生しない」と結論付けることはできません。

けれども、同様に、「シンギュラリティが発生しない」ことを私が示せないという事実は、「シンギュラリティが到来する」ことの証明ではありません。(無知論証) シンギュラリティの発生に対する妥当な未来予測の根拠を示せない限り、「原理的には不可能ではない」という主張は単なる信念の表明に過ぎず、何ら意味のある議論ではありません。

今回も、クラークの法則を言い換えて記事を終えたいと思います。

『可能性の限界を消し去る唯一の方法は、不可能であるということを認めないことである』

不可能、不確定、不完全: 「できない」を証明する数学の力 (ハヤカワ・ノンフィクション文庫―数理を愉しむシリーズ)

*1:『あるソフトウェア工学者の失敗』 http://www.shayashi.jp/myfailures.pdf