東京大学未来ビジョン研究センター、慶應義塾大学AIメディカルセンター、エムスリー株式会社m3.com編集部は在日フランス大使館科学技術部と2019年９月27日に医療×AIセミナーシリーズ第９回「AI時代の医療とトラスト：日仏哲学対話」を開催した。日仏の医療制度の現状と課題、特に医療での個人情報の活用と規制について、両国の専門家が対話した。最後のパネルディスカッションでは、これまでに登壇した４人に、東京大学未来ビジョン研究センター特任講師の江間有沙氏と慶應義塾大学メディカルAIセンターの藤田卓仙氏の2人がディスカッサントとして加わり、６人で会場からの質問に答えたり、個人情報でもある医療情報をどうやって活用していくかについて日仏の考え方の共通点や違いなどについて話した。主な議論を以下に紹介する。

「コンセンサスを得るよりも意見の異なる相手の話を聞くことの方が重要で難しい」

フランスでの生命倫理法の改正に向けて、社会の中での合意形成で何が困難だったかを尋ねる質問が会場の聴衆からあった。それに対して、デルフレシ氏は、公開討論など一つの手法で正しい答えが分かるわけではない点を挙げた。複数の方法を駆使して社会の中にある考え方をやっと浮かび上がらせることができるという経験を踏まえた実感を語り、一方でコンセンサスを得ることよりも意見の違う相手の話を聞くことの方が重要でかつ難しいことだと指摘した。

倫理的な課題は個人の選択にも絡むが、社会全体にも影響する。そもそも生命倫理法で社会の問題をどう扱えばいいのかも議論になり、人工授精や着床前診断などの生殖補助医療では特に幅広い考え方があったという。独身女性や同性愛の女性でも法律の枠組みで人工授精を選択できるようにするのか、医療は治療だけのものなのか、それとも人の望みに応える方法であってもいいのかなど、コンセンサスは得られなかったため、最後は政治判断になるだろうとの見方を示した。

患者の医療情報を利用したAI活用の課題

また、患者個人の医療情報を利用したAIを活用する時の課題に関する質問があった。キシュネール氏は由来がわかっている品質の高いデータを集めることの重要性を指摘した。AIのアルゴリズムはそうした元のデータの質まで考慮した分析ができないため、最終的にはAIがはじき出した結果の妥当性を人間が判断する必要があるという。また、AIが導き出した結果は統計的な推測ではあっても、論理立てて説明できないこともある。人間の患者に分かる形での説明が現在はできていないことは一つの課題だとした。

こうしたフランスの状況に対して、藤田氏は２種類のトラスト（信頼）に関する課題が日本でもあるとした。１つ目はデータがどれだけ信頼できるものであるか、そのデータを使ったAIをどれくらい信頼できるかという問題だ。技術の精度だけではなく、AIの予測を患者に説明する医師をどれだけ信頼できるかなど、AIを活用する場面によって様々なトラストを考慮しなければならないとした。また、２つ目として個人情報保護の観点から、人権を侵害せずに個人の医療情報を活用できるようにするためのルール整備を挙げた。日本では来年にも個人情報保護法が改正される見通しで、フランスでもGDPR（EU一般データ保護規則）が施行されていて、データの扱い方についてはさらに議論が必要だと強調した。

デジタル技術が人々の考え方を変えていく現状

藤田氏の意見に対して羽鳥氏は、データのアノテーションとデータマイニングが今後さらに重要になるという自身の意見を付け足した。AIを組み込んだ医療機器を使うと、新しいデータがさらに追加されるが、その質に左右されて医療機器自体の精度が変わるようになる。尾藤氏も、今後10年もすれば生活環境の中に設置されたセンサーによって生活するだけで様々な個人情報が吸い上げられていくようになるため、プライバシーの保護について個人が選択できるように権利を守る必要があると指摘した。

データを個人に付随するものとして管理していくべきか、それともシェアしていく公的な資産として扱うべきか、江間氏がフランスでの議論について聞くと、キシュネール氏はデジタル技術が人々の考え方を変えていく現在の状況を指摘した。例えばインターネットで公開した画像は誰もがアクセスでき、自分の把握できないところで広まっていくこともありうる。自分自身と自分の情報という関係自体がデジタル技術の進展の影響で変化してきているという。また、デルフレシ氏はフランスで起きた薬の副作用の問題を紹介した。副作用の危険性を指摘するデータは数年前から存在したものの、データにアクセスできなかったため、専門家でも気付くのが遅くなってしまったという。個人と集団ではどっちが正しいということではないが、一方がより規制されるということになるだろうとの見方を示した。

医療機関と患者の間の情報の非対称性、今後は対等に

尾藤氏は、データを取り込んだコンピューターが何かしらの判断を出すことに感じる気持ち悪さと便利さという相反する感覚をどう受け入れていくのがいいのか、言語化していきたいとした。また、羽鳥氏も患者と医療機関が保有している医療情報が現在は非対称で、現在は医療機関側に集中しているが今後は対等な形になっていくという予想をし、それでもデータが示すことを患者に正確に理解してもらうために、まだ医師が担える役割があるはずだとした。

藤田氏は、医療データの中でも特にデリケートなゲノムデータが国際的にも共有されて研究に活用されている状況を紹介した。データの性質も大事だが、何に使うのかという目的も重要になってくると予測した。医療自体のあり方が変わる中、様々なデータが誰によってどんな医療に使われるのか、アクセスを制御する必要があるのかなど、議論はまだまだ必要だとした。