今回で8回目になります。第1回はチーミング、第2回はフィードバックループ、第3回はサイコロジカルセーフティー（心理的安全）、第4回はデザインシンキング、第5回はバイアスつまり行動経済学、第6回は「外部環境をMECEに考えるMBA的フレームワーク思考」、そして第7回はイノベーションのジレンマについて述べてきました。どの項目も経営学の基本をなす重要な叡智（ナレッジ）です。ぜひ何度も読み返して役立ててもらえればと思います。今回は「フレーム問題」を取り上げたいと思います。

ベイズ統計と「夜明けを当てる宇宙人」

このコラムが載るAIラボに掲載された、ニューヨーク大学のゲイリー・マーカス教授（ウーバーAI研究所元所長）のインタビュー「深層学習だけで作られたAIが信用できない理由」は、非常に学ぶところの多い記事でした。

気が遠くなるほどサイコロを振り、高速で最も確からしいパラメーターへと微調節していく「深層学習」はベイズ統計の理屈が用いられています。つまり、「初期値として与える確率はあてずっぽう」というヤツです。それでも、現実の社会で役に立つ統計学として世界中で用いられており、深層学習もご存じのとおりまさに世界を席巻しています。

ベイズ統計とは、例えば次のようなものです。真夜中に地球に降り立った異星人が、明日の朝、太陽が地球の地平線から昇ってくるかどうかの確率を求めるとします。最初は50％と設定するでしょう。しかし、99日過ぎる頃には、その確率は100％に限りなく近づいていきます。これがベイズ統計です。もちろん、隕石衝突による惑星消滅のような、ほぼ起こりえないイベントには対応できないのですが、どんな大災害であれ、戦争であれ、これまでの地球の歴史で明けない夜はなかったわけですから、ベイズ統計を異星人が使うことは正解なのです。しかも、なぜ太陽が地平線から必ず昇ってくるかについて、天文学の理論や莫大な計算の意味は分からなくとも、割り算を習った小学生なら明日太陽が昇る確率計算の意味を理解できるでしょう。

医療は「ソフトサイエンス」

さて、私達が対象にしている医学とはそもそも何でしょうか。理系の技術者を患者として担当すると、理詰めで話しかけられることをしばしば経験します。しかし、その観点から言うと私達はソフトサイエンスといいますか、分かっていることの底が浅すぎると感じます。それこそ相対性理論のような包括的な理論を持たない私達医学者にとって、古典的AI（特徴抽出を理論に基づいて行い、順序だてて組み上げていく機械学習）はこれまた、無限の彼方の仕事なのです。

私達のチームが開発している左右眼の識別AIアプリケーションは、2010年から古典的AIで開発に取り組んできたものです（参照：右眼と左眼を見分けるAIが実臨床で運用されるまで―眼科医・升本浩紀が語る「医療AI応用までの道のり」（3））。右眼と左眼を顕微鏡下で識別するという、がんの診断に比べると恐ろしく単純な課題ですら、古典的AIの正答率は96％程度でした。しかし、深層学習に変更した途端、その精度はいきなり100％近くにまで上昇したのです。右と左の眼の皮膚面の構造上の違いを、あらゆる人種、あらゆる個人で理論的に特徴抽出していくことは不可能です。

例えば私達の取り組みの過程で抽出された特徴のひとつが、上眼瞼と下眼瞼の睫毛の量の違いです。上眼瞼の方が睫毛が多いのです。ところが、顕微鏡映像においては、常にそれがあてはまるとは限りません。手術時に用いる感染予防の透明シールの反射や折り曲がりによって、睫毛の本数が異なってカウントされることがあるのです。そのため、反射の程度や折り曲がり方というパラメーターについても、改めて対策しなければ古典的AIの正答率は上がりません。ハッキリ言って終わりがありませんでした。こんな小さな話であってもリアルワールド感いっぱいなのです。

そんな時に深層学習が登場したわけです。あっという間に正答率が100％になりました。もちろんそれは、私達の施設で使っているツアイス製の比較的高級なレベルの顕微鏡から得た映像限定であり、違う施設の異なる室内照明下や質の悪い顕微鏡だと見事に正答率は落ちてしまいます。私達の深層学習は左右眼の違いの本質を見抜いているわけではないのです。マーカス教授、おっしゃる通り！　これがフレーム問題ですね。

深層学習は「鍋料理」

さて、私達は何のブームに巻き込まれたらダメなのか。そして、何に活路を見出すべきなのか。古典的AIの前の時代、「ANOVA（分散分析）！」とか言って喜んでいた時代からのデータベース屋でもある私にとって、マーカス教授の箴言は染み入ります。何しろ私は自分のチームと共に目の前に広がる大問題を解決する方法は、きっとデータの活用にある、とその気持ちは研修医の時からいささかも変わらないからです。

具材を何でもかんでもとりあえず入れておけば成立する「鍋料理」とも言える深層学習に科学的な叡智をどう抜け目なく取り入れればよいのか。深層学習は、ダシや麺やチャーシューの無限の組み合わせについて緻密に取り組み、再現性もその意図もキチンと説明できてしまうジャパニーズラーメンのようなものなのでしょうか。「半教師学習」という言葉の持つ別の側面に気付きをくれたマーカス教授の素晴らしいインタビュー記事でした。次回もお楽しみに。