Google、医療特化AI「Med-PaLM 2」をMayo Clinicなどで試験運用

体調不良をネットで検索すると、たいてい最悪の病名を疑う羽目になります。Googleもその限界を痛知しており、今度はより専門的でリスクの高い領域、つまり本物の医療現場へAIを持ち込もうとしています。

ウォール・ストリート・ジャーナルによると、Googleは4月からメイヨー・クリニックなどの医療機関と共同で、医療特化型AIモデル「Med-PaLM 2」の実証実験を進めています。一般的なチャットボットと異なり、各国の医師免許試験の問題や解説を重点的に学習させており、医療相談への回答やカルテの整理、膨大な健康データの要約などを担う見込みです。

医師より分かりやすいが、誤りも多い

ビッグテックにとって医療現場はクラウド事業の重要拠点です。競合のマイクロソフトは4月、電子カルテ大手のEpicと組み、ChatGPTのアルゴリズムを使って患者向け返信文を自動下書きする仕組みを打ち出しました。

Googleが5月に公開した検証結果によると、1000件以上の医療相談に対する回答を現役医師が評価したところ、9つの評価項目のうち8項目でMed-PaLM 2の回答が人間の医師よりも高く評価されました。

しかし、最大の問題は正確さです。審査した医師たちは、Med-PaLM 2が人間の医師に比べて不正確な内容や無関係な記述を含める割合が明らかに高いと指摘しました。さらに開発陣によると、不正確な情報を出さない能力自体は、昨年12月に発表された初期バージョンから大きな改善が見られていません。

プロジェクトに携わったGoogleのシニアリサーチディレクター、グレッグ・コラード氏も率直に認めています。「この技術はまだ、自分の家族の診療に関わってほしいと思えるレベルには達していない」と語りつつ、AIが有用な領域では生産性を10倍に引き上げられると説明しています。

患者データへの懸念に対し、Google側はデータが暗号化され同社からアクセスできない環境で保護され、モデルの追加学習にも使われないと強調しています。

なぜ重要か

Googleのこの動きは、先行するマイクロソフトとOpenAIの連合軍に対抗するための必然的な一歩だと私たちは考えています。

メイヨー・クリニックのような権威ある研究病院と組む手法は、過去に医療データの取り扱いで批判を浴びたGoogleにとって、信頼性を担保する賢い選択です。しかし、医療現場はエンタメや汎用検索と違い、わずかな幻覚（ハルシネーション）も許されません。自信たっぷりに誤った回答を返すというLLM固有の弱点は、今回のテストでも完全に浮き彫りになっています。

医療従事者やユーザーにとって、現時点でこのAIに診断や治療方針の助言を任せるのは時期尚早と言わざるを得ません。当面の現実的な使い道は、書類整理やカルテの要約、事務的な連絡文の下書きといったバックオフィス業務に限られます。患者の命に関わる判断ラインをAIに踏み越えさせない設計ができるかどうかが、今後の普及の絶対条件になります。