人はもうAIに健康相談している―だから安全な医療AIが必要だ
NHKでも、医療や健康相談とAIについての特集が報じられた。(NHK)
生成AIに健康相談をする人が増えている。
一方で、がん情報のような重要な医療情報では、AIが示す情報がその患者に当てはまらないケースもある。
このニュースを見て、改めて思った。
人々は、すでにAIに健康相談をしている。
体調が悪いとき。
薬の飲み合わせが気になるとき。
検査結果の意味が分からないとき。
受診すべきか迷ったとき。
医師や薬剤師に説明された内容を、もう一度確認したいとき。
ChatGPTのようなAIチャットボットに相談する人は、もう珍しくないのだと思う。
英国では、約7人に1人がGPやNHSサービスに相談する代わりにAIチャットボットを健康相談に使ったことがあると報じられている。(King’s College London)
米国でも、KFFの調査では成人の約3分の1がAIチャットボットを健康情報や助言のために使っている。(KFF)
別のWest Health-Gallup調査でも、米国成人の約4分の1がAIを医療情報・助言のために使ったとされる。(West Health-Gallup)
豪州でも、ChatGPTに限定した調査で成人の約1割が過去6か月に健康関連質問をしたと推定されている。(Medical Journal of Australia)
数字は調査ごとに違う。
設問も違う。
「医師の代わりに使った」のか、「受診前後の補助として使った」のかも違う。
だから単純比較はできない。
ただ、少なくとも言えることがある。
患者がAIに健康相談するという行動は、すでに無視できない規模になっている。
医療情報の問題は、AI以前からあった
患者が医療者以外から健康情報を得ることは、今に始まった話ではない。
Google検索。
SNS。
YouTube。
医療系ブログ。
Q&Aサイト。
家族や知人の体験談。
週刊誌やテレビの健康情報。
サプリメント広告。
自然派医療。
反ワクチン的な情報。
がん治療をめぐる怪しい情報。
医療者から見ると、「なぜそれを信じてしまうのか」と思う情報に、患者が影響されることは以前からあった。
昔、週刊誌で「飲んではいけない薬」という趣旨の記事が何回か連載されたことがある。
その時期、該当する薬について患者さんから相談を受けるケースが増えた。気になって記事を読んでみると、実際には「絶対に飲んではいけない」と書いているわけではなかった。
定期的な検査をする。
副作用の兆候を聞き取る。
併用薬を確認する。
患者背景に応じて注意する。
そうした通常の医療・薬学的な確認で管理できるリスクを、かなり大きく見せていた。完全な嘘ではない。しかし、妥当性に欠ける。
薬にはリスクがある。それは当然である。
しかし、そのリスクは患者ごとに違う。
用量、期間、併用薬、年齢、腎機能、肝機能、既往歴、治療目的によって意味が変わる。
薬の情報は、一般論だけでは判断できない。飲み合わせや副作用も、目の前の患者の処方内容や背景によって意味が変わる。疑義照会の実例については、以前デエビゴとクラリスロマイシンの相互作用の記事でも書いた。
個別性を無視して、「この薬は危ない」と見せれば、患者は不安になる。そして、その不安の尻拭いをするのは、現場の医師や薬剤師である。
記事を書いた側は、読者の不安を集めて収益化できる。
しかし、その後に患者へ説明し、不安をほどき、必要な治療を続けてもらうのは、現場の医療者である。
私は当時、その構造にかなり怒りを感じた。
AI健康相談にも、これと似た問題があると思う。
AIが示す情報は、完全なデタラメではないことも多い。
副作用も、相互作用も、注意点も、一般論としては存在する。
しかし、それが目の前の患者にどの程度当てはまるのかは別問題である。
「嘘ではないが、妥当性に欠ける」
「一般論としては正しいが、その患者には当てはまらない」
医療AIが抱える問題の一部は、ここにある。
検索するだけでも、AI医療情報に触れる時代
さらに重要なのは、本人が生成AIを使っているつもりがなくても、すでにAI医療情報に触れている可能性があることだ。
Google検索などでは、検索結果の上部にAI概要が表示されることがある。
ユーザーはChatGPTに相談しているつもりがなくても、AIがネット上の情報を要約した文章を読むことになる。
NHKの記事では、肺がん患者がAIで調べた薬を使いたいと相談した事例が紹介されていた。
しかし、その薬は、その患者がその時点ですぐ使える薬ではなかった。再発・転移があり、さらに抗がん剤が効かなくなった患者に限定して使える薬だったという。
ここに医療AIの難しさがある。
AIが示した情報が、完全なデタラメではないこともある。
薬の名前も、治療法も、一般論としては存在するかもしれない。
しかし、それが「今の自分に使える治療」かどうかは別問題である。
医療では、「存在する治療」と「自分に使える治療」は違う。
病期、検査値、既往歴、併用薬、年齢、妊娠・授乳、治療歴、保険適用。
そうした条件によって、同じ薬でも意味は変わる。
AIは、検索結果の一覧ではなく、整った文章で一つの答えを返す。
だから便利である一方、誤ったときの影響も大きい。
「AIに健康相談するな」だけでは足りない
もちろん、AI健康相談には危険がある。
誤った医療情報。
受診の遅れ。
薬の自己中止。
飲み合わせの誤判定。
がんなど重い病気での誤回答。
妊娠・授乳、小児、高齢者での過剰な一般化。
精神疾患、自傷、希死念慮での危険。
個人医療情報の入力とプライバシー。
海外情報と日本の医療制度のズレ。
どれも軽く見てよいものではない。しかし、それでも私は「AIに健康相談するな」と言うだけでは不十分だと思う。
なぜなら、患者はすでにAIに相談しているからだ。
さらに、検索するだけでもAI概要に触れる時代になっているからだ。
患者がAIに健康相談する流れは、おそらく止まらない。
であれば、考えるべきは「使うな」ではなく、どのAIを、どの範囲で、どう安全に使うかである。
ChatGPT Healthは一つの方向性かもしれない
この文脈で見ると、ChatGPT Healthのような仕組みは重要に見える。
ChatGPT Healthは、医療記録やApple Health、MyFitnessPalなどの健康アプリをつなぎ、検査結果の理解、受診準備、食事・運動の相談などを支援するものとされている。
ただし、これは診断や治療を代替するものではない。
医師や薬剤師の代わりに判断するものでもない。
ここは非常に重要だと思う。
私が医療AIに期待するのは、AIが医師の代わりに診断することではない。
患者が自分の健康情報を理解し、医療者と話す準備を助けることだ。たとえば、
症状の経過を時系列で整理する。
検査結果で分からない点をまとめる。
受診時に聞きたいことを整理する。
薬剤師に確認したいことをリスト化する。
健康アプリのデータを要約する。
不安を言語化する。
こういう使い方なら、患者にとっても医療者にとっても価値がある。
以前、「AIに任せるべきなのは判断そのものではなく、判断に必要な作業ではないか」という趣旨の記事を書いた。今回の医療AIの話も、基本的には同じ問題だと思う。
AIに任せたいのは、患者の不安や症状、検査値、聞きたいことを整理する作業であって、診断や治療判断そのものではない。
安全な医療AIに必要なもの
安全な医療AIと言うなら、最低限必要な条件がある。
診断・治療の代替ではないことを明示する。
受診すべき症状では医療機関へ誘導する。
薬の中止や変更を安易に指示しない。
回答の限界を示す。
個人医療情報を守る。
日本の制度や医薬品情報と整合させる。
高リスク領域では専用の安全策を置く。
必要なときに医療者へつなぐ。
根拠情報を示す。
患者が医療者へ説明しやすい形で整理する。
安全な医療AIに必要なのは、患者を医療から遠ざけることではない。
必要なときに、より早く、より適切に医療者へつなぐことである。
医療AIは、患者と医療者の間に入って判断を奪うものではなく、両者がよりよく話すための準備を助ける道具であってほしい。
なお、AIが処方判断そのものに近づく事例については、ユタ州のAI処方更新実験の記事で考えた。
私は、AIが処方判断と責任の境界を曖昧にする方向には慎重でありたい。一方で、患者が医療者と話す準備を助ける方向のAIには、大きな価値があると思っている。
安全な医療AIは、社会的責務になりつつある
人々がAIに健康相談する流れは、おそらく止まらない。
患者はすでにAIに健康相談している。
生成AIを直接使っていなくても、検索のAI概要でAI医療情報に触れている。
SNSやネット上の医療デマにもさらされている。
であれば、必要なのは「使うな」と言うことではなく、安全性、信頼性、プライバシー、医療者への接続を備えた医療AIを整備することだと思う。
患者を不安定な一般AIやSNS医療情報に放置するのではなく、必要なときに医療者へつなぎ、患者が自分の不安を整理できるようにする。
その方向の医療AIは、もはや単なる便利機能ではなく、社会的責務になりつつあるのではないか。
