原因と結果を把握できなければ、本当に賢い人工知能とは言えない。ジュディア・パールに師事したコロンビア大学のエリアス・バレンボイム准教授は、この課題の解決を目指した研究の最前線にいる。

---

コンピューターはこの10年足らず間に、病気の診断や言語の翻訳、音声の文字起こしなどに、極めて優れた能力を発揮するようになった。複雑な戦略ゲームで人間を出し抜いたり、写真のような画像を作ったり、電子メールに有効な返答を提案したりもする。

だが、こうしたすばらしい成果とは裏腹に、人工知能（AI）には明白な弱点がある。

機械学習システムは、これまで見たことのない状況に惑わされたり、混乱したりすることがあるのだ。自律運転車は、人間が簡単に対処できるような状況に戸惑う。（例えば猫の識別のような）1つのタスクを実行するために、苦労してAIを訓練しても、別のタスク（犬の識別）を実行するには、もう一度訓練し直さなければならない。その過程で、元のタスクで習得した専門知識の一部を失ってしまう。コンピューター科学者たちは、この問題を「破滅的忘却」と呼ぶ。

こういった欠点は、AIシステムが因果関係を理解していないために引き起こされるという点で共通している。AIは、複数の事象と他の事象との関連は認識するが、直接どの事象が他の事象を引き起こしているかに関しては突き詰めない。雲があれば降水確率が上がることを知っていても、雲が雨を降らせることは知らない。

エリアス・バレンボイム准教授：AIシステムは、因果関係を理解していない

原因と結果の理解が、いわゆる「常識」の大きな側面だが、現時点でAIシステムは原因と結果を「理解できていません」というのは、エリアス・バレンボイム准教授だ。バレンボイム准教授は、新設のコロンビア大学人工知能因果推論研究所の所長として、この課題の解決を目指した研究の最前線にいる。

バレンボイム准教授は、因果関係に関する比較的新しい科学をAI研究に取り入れることを考えている。この理論の構築に大きく貢献したジュディア・パール教授は、チューリング賞受賞経験があり、バレンボイム准教授も師事していた。

バレンボイム准教授とパール教授がいうように、AIが相関関係（例えば、雲があると降水確率が上がるなど）を発見する能力は、因果推論の最も単純なレベルに過ぎないという。ここ10年のAIブームの牽引役は、深層学習として知られる技術で十分だった。深層学習では、身近な状況に関する大量のデータがあれば、非常に優れた予測を導き出せる。コンピューターは、ある症状を持つ患者が特定の病気である確率を導き出せるが、それは、同じ症状を持つ数千人、あるいは数百万人もの患者がその病気だったことを学習しているからだ。

だが、コンピューターが因果関係を見いだせるようにならなければ、AIの進歩が失速するというコンセンサスが高まっている。もし機械が物事にはつながりがあることを把握できれば、あらゆることを常に新たに学ぶ必要はなく、ある分野で学んだことを別の分野に応用できるかもしれない。そして、もし機械が常識を活用できるならば、間の抜けた判断が下されることがなくなり、もっと機械を信頼できるようになるだろう。

現在のAIには、与えられた行動から何が起こるのかを推測する能力しかない。チェスや囲碁のようなゲームを習得するために使われる強化学習では、システムが膨大な量の試行錯誤を繰り返し、勝つためにどんな動きをすればいいのかを認識する。だが、この手法は、より複雑な現実世界では機能しない。強化学習では、他のゲームをするための一般的な理解ですら習得できないのだ。

さらに高いレベルの因果思考とは、物事が起こった理由を導きだし、他の状況を仮定する「what-if型」の質問を投げかけられる能力だ。治験中の患者が死亡した場合、原因は治験薬にあるのか、それとも別の要因あるのか？ 学校のテストの成績が下がっている場合、最も改善できる政策は何だろうか？こういった思考は、現在のAIの能力をはるかに超えている。

奇跡を起こす

因果関係を推測できる能力をコンピューターに持たせる夢を抱いたバレンボイム准教授は、リオデジャネイロ連邦大学でコンピューター科学の修士号を取得し、2008年にブラジルから米国に渡って、コンピューター科学者であり統計学者でもあるジュディア・パール教授（UCLA）の下で研究する機会に飛びついた。あの因果推論の権威であるパール教授（83歳）の理論を用いれば、因果関係を理解するAIを作ることが難しい理由を説明できるはずだからだ。

経験を積んだ科学者でも、相関関係を因果関係と誤解したり、またその反対の誤った解釈をしたりしがちで、実際に因果関係がある場合でも断言するのを躊躇してしまう。例えば、1950年代には、数人の著名な統計学者が、たばこががんの原因かどうかを巡って混乱した。統計学者たちは、喫煙者と非喫煙者を無作為に抽出しなければ、ストレスや遺伝子などの未知の原因が、喫煙と肺がんの両方を引き起こす可能性を排除できないと主張した。

結局、喫煙ががんを引き起こすという事実関係が既定のものとして認められたが、そこまで時間をかける必要はなかった。以来、パール教授は他の統計学者とともに、因果関係を主張するにはどういった事実が必要かを特定する数学的アプローチを考案した。パール教授の手法は、喫煙による肺がんの罹患率を考慮すれば、独立した要因が喫煙と肺がん両方の原因となることは極めて考えにくいことを示している。

一方、パール教授の数式を用いれば、因果関係を決定するために相関関係を使えない場合を見極めることもできる。ドイツのマックス・プランク知的システム研究所（Max Planck Institute for Intelligent Systems）で因果関係を推定できるAI技術を研究するベルンハルト・ショルコプ所長は、コウノトリの生息数が分かれば、その国の出生率を予測できると指摘する。それは、コウノトリが赤ん坊を運んでくるとか、赤ん坊がコウノトリを引き寄せるからではなく、おそらく経済発展によって生まれてくる子どもたちやコウノトリが増えるからだろう。パール教授のおかげで、統計学者やコンピューター科学者たちがこういった問題に対処できるようになったとショルコプ所長はいう。

ジュディア・パール教授：彼の因果推論は科学を変えた

ほかにもパール教授の功績として、どの変数が他の変数に最も影響を与えているかを大量のデータから検出するソフトウェアである因果ベイジアンネットワークの構築が挙げられる。たとえば、マサチューセッツ州ケンブリッジにあるGNSヘルスケア（GNS Healthcare）では、この技術を用いて有望な実験について研究者に助言している。

あるプロジェクトでは、GNSヘルスケアは血液がんの一種である多発性骨髄腫の研究者と協働した。研究者たちは、この病気の患者の中に、一般的な治療法である幹細胞移植を受けた後に他の患者よりも長命な患者がいる理由を知りたがっていた。ソフトウェアは3万個の変数を計算し、特に因果関係があると思われるいくつかの変数を指摘した。生物統計学者と多発性骨髄腫の専門家たちは、患者の体内のある特定のタンパク質の水準に注目した。おかげで、研究者たちはこのタンパク質を持つ患者に対する治療効果が他の患者より大きいかどうか確認するという目的を絞った臨床試験を実施できたのだった。「この方が、研究室の中でさまざまな実験をするよりずっと早いのです」と、GNSヘルスケアの共同創業者であるイーア・カリールは話す。

だが、パール教授たちが因果関係理論においてこれだけの改善をしても、因果関係をあまり気にせずに相関関係を特定する深層学習にはまだ浸透していない。バレンボイム准教授は、コンピューターを因果関係を認識するさらに有用なツールにするという次の段階に進もうとしている。

原因と結果について深く理解しなければ、AIは真に知的にはなれないという。因果推論だけでは汎用人工知能（AGI）には不十分だろうが、認知の核心である内省を可能にするだろう。

まだベータ版だが、バレンボイム准教授のシステムの1つに、因果関係を見つけ出せるだけの十分なデータがあるかどうかの判断の手助けをするソフトウェアがある。マックス・プランク進化人類学研究所の人類学者であるリチャード・マケルリツ所長は、なぜ人間が更年期を迎えるのか（更年期を迎える類人猿は人間だけ）という研究の指針にこのソフトウェアを使っている。

立てられた仮説は、孫の世話に力を入れた女性たちが最終的に子孫を増やしたため、高齢女性の受胎の低下が初期の人類社会に恩恵を与えたというものだ。だが、祖父母がそばにいる子ども方がよく育つという主張を裏付ける証拠が現時点で存在するだろうか。人類学者は、祖父母と一緒に暮らしたことのある子どもとそうでない子どもの教育や医療の成果を比較することはできない。統計学には交絡因子というものがある。祖母たちは、助けを必要とする孫たちと一緒に住む傾向にあるのかもしれない。バレンボイム准教授のソフトウェアを用いることによって、マケルリツ所長は祖父母と同居する子どもに関するどの研究が最も交絡因子が少ないのか、また因果関係を示すのに有効なのかを判別できる。マケルリツ所長「これは大きな一歩です」と言う。

ラストマイル

バレンボイム准教授は早口で、まるで心の方程式の左辺と右辺のバランスを取ろうとしているかのようにしばしば両手を振り回す。10月にコロンビア大学のバレンボイム准教授を訪ねた時は学期の半ばだったが、オフィスはまるで引っ越してきたばかりのようだった。装飾のない壁の部屋の棚には本もなく、ただ流線型のMacと、漫画に出てきそうな方程式や図で埋め尽くされたホワイトボードだけがあった。

研究について話し合うのに忙しかったというバレンボイム准教授は、この急ごしらえの部屋を特に気にしていなかった。バレンボイム准教授は、自身の研究が因果的思考を機械に取り入れるだけでなく、人間の因果的思考を向上させる機会も提供できると主張する。

因果関係について人間にもっとよく考えさせることは、機械に因果関係を教えるよりも必ずしも簡単ではないと、バレンボイム准教授はいう。分子生物学から公共政策にいたるまで幅広い分野の研究者が、因果関係のない相関関係を発見して満足してしまうことがある。例えば、アルコールを飲むと早死にするという研究もあれば、適度な摂取は問題なく有益でさえあるという研究もあり、また別の研究では大酒飲みは酒を飲まない人よりも長生きするという。「再現性の危機」として知られるこの現象は、医学や栄養学だけでなく、心理学や経済学にも見られる。「こういった推論はすべて脆弱だということが分かると思います」と、バレンボイム准教授はいう。「数年ごとに結論が覆されています」。

バレンボイム准教授は、状況の仮定（what if）が必要な、臨床試験を行う医学研究者や、試験的プログラムを実行する社会科学者、A/Bテストを実施しようとしているWebパブリッシャーなどが、あらゆる場面でただ単にデータを収集するだけでなく、パール教授の因果論理やバレンボイム准教授が開発したソフトウェアなどを用いて、入手したデータに因果関係が存在しうるかどうかを判断し始めるべきだと主張している。因果関係に関する質問を人間が考え出し、ソフトウェアが機械学習の手法と因果推論の論理を組み合わせて合致しない質問を除外していけば、最終的に「AI科学者」が誕生するというビジョンをバレンボイム准教授は描いている。そうなれば、莫大な費用のかかる研究の打ち切りから科学者を救えるかもしれない。

2019年秋の講演を終えた後、MITスローン経営大学院のロビーに腰掛けたバレンボイム准教授は、このビジョンを私に説明してくれた。「MITのこの建物には、おそらく200人ぐらいいるでしょう」とバレンボイム准教授は言った。ここで働く社会科学者、あるいはいかなる科学者も、どの実験を続け、どのデータポイントを収集するかを決定するためにどんな方法を用いているのだろうか？直感に従っているだけなのだ。「研究者たちは、自分たちの理解に基づき、物事がどこへ行くかを追究しようとしています」。

これは本質的に限定された手法だとバレンボイム准教授はいう。なぜなら、実験を設計する人間の科学者が一度に考えつく変数は極めて少ないからだ。一方コンピューターは、数百、数千もの変数の相互作用を認識できる。パール教授の因果関係モデルの「基本原理」をコード化し、新しい変数の組合せで何が起こるかを計算すれば、AI科学者は人間の研究者がどの実験に時間を費やすべきかを正確に提案できるかもしれない。もしかしたら、テキサス州でしか機能しないとされている公共政策も、因果関係のあるいくつかの要因がより評価されれば、カリフォルニア州でも機能するかもしれない。科学者はもはや「暗闇の中で実験する」ことはなくなるだろうと、バレンボイム准教授は話す。

またバレンボイム准教授は、そう遠くない将来に実現するとも考えている。「勝利まであと1マイルです」。

仮定（what if）

最後の1マイルを完走するには、おそらく開発が始まったばかりの手法が必要となるだろう。たとえば、深層学習に関する研究で2018年にチューリング賞を受賞したモントリオール大学のコンピューター科学者ヨシュア・ベンジオ教授は、ニューラル・ネットワーク（深層学習の中心となるソフトウェア）に「メタ学習」させて、物事の原因を認識させようとしている。

現状では、ニューラル・ネットワークで人が躍っているところを検出したい場合、多くのダンサーの画像を見せるだろう。走っている人を識別するには、人が走る姿の画像を大量に見せる。AIは、人間の手や腕の位置など、画像の中で異なる特徴を識別することで、走る姿と躍る姿を区別することを学習する。だが、ベンジオ教授は、世の中に関する基本的知識は、データセット間で類似しているものや「不変」なものを分析することで得られると指摘する。ニューラル・ネットワークは、足の動きが物理的に走ることと躍ることの両方を引き起こしていると学習するかもしれない。おそらく、数十センチメートルしか地面から離れていない人々の画像を数多く見ることで、AIは最終的に重力について理解し、重力が人間の動きをどう制限するのかについて学ぶだろう。時間が経つにつれ、データセット間で一貫性のある変数についての十分にメタ学習できれば、コンピューターは多くの分野で再利用可能な因果関係の知識を得られるだろう。

一方、パール教授は、原因と結果について深く理解しなければ、AIは真に知的にはなれないという。因果推論だけでは汎用人工知能（AGI）には不十分だろうが、認知の核心である内省（自分の経験を注意深く振り返ること）を可能にするだろうと、パール教授は指摘する。『仮定（what if）』の質問は、「科学や道徳的態度、自由意志、意識の構成要素です」と、パール教授は私に言った。

コンピューターが強力な因果推論能力を持つのに、あとどれくらいかかるのかという問いに、パール教授は答えない。「私はフューチャリストではありません」。だがいずれにしても、まずデータと既存の科学的知識を組み合わせた機械学習ツールを開発することが先決だとパール教授は考える。「人間の頭の中には、まだ活用されていない知識が豊富にあります」。

＃

ブライアン・バーグスタインは、MITテクノロジーレビューの元編集者で、ボストン・グローブ紙のオピニオン担当副編集長。

---

転載元の記事はこちら

This article is provided by MIT TECHNOLOGY REVIEW Japan Copyright ©2020, MIT TECHNOLOGY REVIEW Japan. All rights reserved.