第122回日本小児科学会学術集会（会頭・谷内江昭宏金沢大学医薬保健研究域医学系小児科特任教授）が4月19～21日、金沢市内で開かれ、20日には特別企画6「AI（人工知能）と医療～AIはこれからの医療をどう変えるか？～」があった。産業技術総合研究所人工知能研究センターの中田亨副室長は「医療のヒューマンエラー対策のための人工知能技術」と題して発表し、「ヒューマンエラー対策はAIだけではなく、人とAIの二人三脚を目指すべきだ」と述べた。（MMJ編集長・吉川学）

AIを使いこなすにはワークフローの改善が鍵

中田副室長はまず、技術がヒューマンエラーを減らした事例として、電卓（計算間違い）、バーコード（識別・書き取りミス）、自動車工場での部品選び（AIが作業員を誘導）をあげた。増やした事例は3つに分類し、人間を誤解させるヒューマンインターフェース（1980年代のセラック25放射線治療器事故）、人間の意思決定と競合（1994年の名古屋空港墜落事故など）、警報乱発（1979年のスリーマイル島原発事故など）を示した。

なかでも、転落・移動検知用ベッドサイド床圧力センサーについては、設置したある病院では、転落ではなく通常に降りた場合にもセンサーが作動するなどの誤警報が多発し、看護師が多忙になり、本当の転落事故が増加したという事例を紹介した。警報の乱発は人間の足を引っ張るため、AIによる異常の監視には工夫が必要だと指摘。さらに、ナースコールを例にあげ、必要なのに遠慮してコールしない人への対策については、AIの見守り機能はまだ性能不足だとした。一方、さびしいのでコールする人にはAIが話し相手になるという方法をあげたが、倫理面からそれでよいのかと述べた。

次にヒューマンエラー対策の基本はマネジメントであるとし、個別の対応では「モグラたたき」になってしまうため、個を超えた共通原因をターゲットにするべきだと指摘。共通原因の探し方について、「3H、4M、5S」をあげたうえ、共通原因への対応としては、まず知ることが大切であると話した。3Hとは「はじめて」「久しぶり」「変更した」、4MとはMan（作業者）、Machine（機械・道具）、Material（原材料・作業対象）、Management（上司、規則）で、これらを組み合わせて、「初めての作業者」「久しぶりの機械」「規則の変更」など4Mのどれかに3Hが加われば、事故が起きる最有力候補となるため、重点的な見守りが必要になると説明した。また、5Sとは整理、整頓、清潔、清掃、しつけで、5Sができていないと事故が起こりやすくなり、事故が起きる前に5Sを徹底させることが重要だと訴えた。

多すぎて読み切れないヒヤリハット報告　AIに下読みさせては

これらから、ヒューマンエラー対策はAIだけではなく、人とAIの二人三脚を目指すべきだとし、AIはAIの得意なことを、人間は人間が得意なことを分担すればよいと述べた。AIに任せる作業として、「めんどうくさい」「まぎらわしい」「長く待たされる」「頭を使わない」などのルーチンワークを指摘した。一方、ヒューマンエラー対策には「他山の石」の活用が大切で各種のヒヤリハット報告書は役立つが、多すぎて読み切れないため、AIに下読みをさせることを提案した。航空関連のヒヤリハット文書は、年間で4469報告があったが、AIに下読みさせ分類させると、ヒヤリハットのパターンや法則性を抽出することができるとした。一方、AIは総合的な判断が苦手のため、この種の判断は人間が行うべきだとし、AIを使いこなすにはワークフローの改善が鍵になるとした。