【第27回】医療職がChatGPTを使う前に決めること｜患者情報を入れないコンテキスト設計
AIを仕事で使ってみたい。
でも、医療職の場合、最初にぶつかるのは「何を聞けばいいか」よりも、
何を入れてはいけないか
だと思います。
ChatGPTやClaudeは便利です。
文章を整えたり、説明文をやさしくしたり、勉強会資料の構成を作ったりできます。
ただし、患者情報、院内固有情報、非公開資料をそのまま入れてよいわけではありません。
第26回では、最新版AIでは「神プロンプト」だけでは足りず、目的、制約、根拠、出力形式、人間が確認する観点をそろえることが大事だと書きました。
今回は、その前段階です。
AIに相談する前に、まず「入れない情報」「置き換える情報」「渡してよい情報」を分けます。
最初に決める3分類
AIに入れる情報は、次の3つに分けて考えます。
分類内容医療職での例入れない情報外部AIに入力しない情報患者氏名、ID、生年月日、実際の検査結果、電子カルテ画面、院内マニュアル置き換える情報抽象化してから使う情報「80代男性」ではなく「高齢の架空患者」、「A病院」ではなく「施設X」渡してよい情報個人や施設が特定されない情報公開資料、架空例、一般化した業務メモ、自分で作った説明文のたたき台
ポイントは、「個人名を消せばよい」ではないことです。
施設名、部署名、検査日、希少な状況、院内の運用が組み合わさると、個人や施設が推測できる場合があります。
だから、AIに渡す前に一段抽象化します。
そのまま使える置き換え表
まずは、次のように置き換えます。
元の情報置き換え例患者氏名患者A、架空の患者年齢・性別必要な場合だけ「成人」「高齢者」などに丸める施設名施設X、一般的な医療機関検査名検査X、処置Y実際の検査結果数値を使わず、状況を一般化する院内マニュアル非公開部分を除き、自分の言葉で一般化する実際のインシデント個人、日時、場所、部署、機器名を外し、構造だけ残す
AIに渡すのは、現場そのものではありません。
現場から個人情報や施設固有情報を抜いた「相談用の文脈」です。
悪い例と良い例
悪い例です。
昨日、○○病院の△△病棟で、患者ID123456の検査説明がうまく伝わりませんでした。
この内容をもとに説明文を作ってください。
これは、実在の施設、患者、日付、状況が含まれています。
外部AIに入れる前提にしてはいけません。
置き換えるなら、次のようにします。
目的：
検査前の一般的な説明文を、患者さん向けにやさしくしたい。
AIに渡してよい情報：
架空の検査Xについての説明文。
実際の患者情報、施設名、日時、院内ルールは含めない。
AIに判断させないこと：
検査の適応、診断、治療方針、施設としての正式説明。
出力形式：
1. やさしい説明文
2. 誤解されやすい表現
3. 人間が確認する点
この形なら、患者情報を入れずに相談できます。
AIに何をさせないかも明確です。
AIに相談する前のチェックリスト
AIに入力する前に、最低限ここを確認します。
患者氏名、ID、生年月日が入っていないか。
実際の検査結果、画像、レポートが入っていないか。
施設名、部署名、担当者名が入っていないか。
院内マニュアルや非公開資料をそのまま貼っていないか。
実際のインシデントを特定できる形で書いていないか。
AIに診断、治療方針、投薬判断、緊急対応をさせていないか。
最後に人間が確認する前提になっているか。
このチェックを通してから、AIに相談します。
まとめ
医療職がAIを使う前に決めることは、プロンプト文そのものではありません。
まず、
入れない情報
置き換える情報
渡してよい情報
を分けることです。
最新版AIでは、長い文脈を扱えるようになっています。
しかし、それは患者情報や院内資料を貼ってよいという意味ではありません。
大事なのは、安全に渡せる文脈を作ることです。
次回は、短い指示でもAIの出力を安定させるために、「目的」と「確認基準」をどう書くかを整理します。
参考URL
個人情報保護委員会・厚生労働省: 医療・介護関係事業者向け個人情報ガイダンス
https://www.ppc.go.jp/personalinfo/legal/iryoukaigo_guidance/厚生労働省: 医療情報システムの安全管理に関するガイドライン
https://www.mhlw.go.jp/stf/shingi/0000516275_00006.htmlOpenAI: GPT-5.5 prompt guidance
https://developers.openai.com/api/docs/guides/prompt-guidance?model=gpt-5.5
本記事は、医療職が生成AIを安全に試すための一般的な考え方を整理したものです。診断、治療方針、投薬判断、検査適応、緊急対応、医療安全上の最終判断をAIに任せることを推奨するものではありません。
患者情報、院内固有情報、非公開資料、実際の検査データ、電子カルテ画面、院内システム画面を外部AIに入力しないでください。AIの出力は下書きであり、最終確認は人間が行う必要があります。
