【第36回】医療職のための個人情報ルール｜AIエージェントに患者情報を入れてはいけない理由
AIエージェントは、うまく使えば作業を助けてくれる可能性があります。
でも、医療職が最初に覚えるべきことはシンプルです。
患者情報を外部AIに入れない。
これは、AIエージェントでも同じです。
むしろ、AIエージェントの方が注意が必要です。
理由は、チャットで答えるだけでなく、ツールを使ったり、ファイルを読んだり、複数の作業を進めたりする可能性があるからです。
患者情報は名前だけではない
患者情報というと、氏名や患者IDを思い浮かべるかもしれません。
もちろん、それらは入れてはいけません。
ただ、注意すべき情報はそれだけではありません。
たとえば、次のような情報も組み合わせると個人が推測される可能性があります。
年齢
性別
検査日
病名
希少な疾患名
入院病棟
処置や手術の内容
家族構成
地域
職業
画像や検査値
予約日時
院内で使っている固有の表現
「名前を消したから大丈夫」とは限りません。
医療情報は、組み合わせで個人が見えてしまうことがあります。
AIエージェントでは情報の流れが見えにくい
普通のチャットAIでも、入力情報には注意が必要です。
AIエージェントでは、さらに情報の流れを見ます。
たとえば、AIエージェントが次のような作業をする場合です。
ファイルを読む
Web検索する
外部ツールを呼び出す
データベースを参照する
別のアプリに出力する
ログを残す
このとき、入力した情報がどこに保存されるのか、どのツールに渡るのか、誰が見られるのかを確認しなければなりません。
個人契約のAIサービスで、ここまで確認するのは難しいはずです。
だから、医療職が個人判断で業務情報を入れるのは避けるべきです。
医療職の具体例
いくつか例を見ます。
看護師の場合
今日の受け持ち患者の申し送りを短く整理して。
これは危険です。
患者情報、経過、病棟情報が含まれる可能性があります。
外部AIにそのまま入れてはいけません。
薬剤師の場合
この患者の薬剤歴から服薬指導のポイントを考えて。
これも危険です。
薬剤歴、疾患、個別判断に関わります。
AIに判断させる範囲としても重すぎます。
診療放射線技師の場合
この画像所見メモを患者向け説明にして。
画像所見、検査内容、患者背景が含まれるなら危険です。
患者説明として使う場合も、施設の確認が必要です。
医療事務の場合
この予約情報を整理して、患者さんへの案内文を作って。
予約日時、氏名、診療科、保険情報が含まれる可能性があります。
そのまま入力してはいけません。
では何なら使えるのか
医療職がAIに渡すなら、患者情報を抜いた架空例や一般化メモにします。
たとえば、危険な入力をこう変えます。
危険な入力置き換え例実際の患者の申し送り架空患者Aの一般的な状況実際の検査説明文施設名を含まない一般化した説明文実際のインシデント個人・日時・部署を除いた抽象例実際の予約情報架空の予約パターン院内マニュアル全文公開情報をもとにした一般的な確認項目
ポイントは、AIに「現実の情報」を渡すのではなく、「安全に置き換えた材料」を渡すことです。
そのまま使える置き換えプロンプト
患者情報をAIに入れないために、人間側で先に抽象化します。
以下は、AIに渡す前のメモを安全に置き換えるための確認リストです。
1. 患者氏名、ID、具体的な日時を削除したか
2. 施設名、部署名、担当者名を削除したか
3. 希少な疾患や状況で個人が推測されないか
4. 実際の検査値、画像、薬剤歴を入れていないか
5. 院内固有の手順や非公開資料を入れていないか
6. 診断、治療方針、検査適応をAIに判断させていないか
7. 架空例または一般化した内容になっているか
この確認を通してから、初めてAIに相談するかどうかを考えます。
今日のまとめ
AIエージェントに患者情報を入れてはいけない理由は、単に「ルールだから」ではありません。
患者情報は名前だけではない
組み合わせで個人が推測されることがある
AIエージェントでは情報の流れが見えにくい
外部ツールやログに情報が残る可能性がある
医療判断に近い作業へ進みやすい
便利さより先に、守るべき境界線があります。
医療職がAIエージェントを理解するなら、まずこの境界線からです。
次回は、AIに任せていい作業と任せてはいけない作業を整理します。
実務用テンプレートにするなら
患者情報を入れないためには、「気をつける」だけでは足りません。
氏名やIDだけでなく、日時、病名、希少な状況、施設名、部署名、実際の検査値などを確認する表が必要です。
今後、「医療職のためのAIエージェント安全確認テンプレート集」として、入力前の個人情報チェック表と、架空例に置き換えるための表をまとめる予定です。
まずは、AIに入れたい文章をそのまま貼る前に、「これは架空例に置き換えられるか」を確認してください。
参考URL
個人情報保護委員会: 生成AIサービスの利用に関する注意喚起等について
https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/個人情報保護委員会・厚生労働省: 医療・介護関係事業者向け個人情報ガイダンス
https://www.ppc.go.jp/personalinfo/legal/iryoukaigo_guidance/厚生労働省: 医療情報システムの安全管理に関するガイドライン
https://www.mhlw.go.jp/stf/shingi/0000516275_00006.html
本記事は、医療職が生成AI・AIエージェント利用前に確認すべき個人情報保護の考え方を整理したものです。患者情報、院内固有情報、非公開資料を外部AIに入力しないでください。施設の規程と管理者の確認を優先してください。
