【第64回】院内AI利用ルールを「禁止」で終わらせない｜条件付き許可の3層フォーマット

「生成AIは使用禁止」

院内のどこかに、こんな貼り紙やメールがあるかもしれません。けれど現場をよく見ると、誰かがスマホでこっそり使っている、ということが起きています。禁止が形だけになり、かえって見えないところでリスクが進む。これは多くの施設で起きていることだと思います。

結論から書きます。守るべきは安全ですが、止めるだけでは守れません。必要なのは、禁止か自由かの二択をやめて、3層で線を引くことです。前回の稟議メモが一件ずつの判断だったのに対し、今回は部署のルールそのものを設計します。

「全面禁止」も「自由」も現場を守れない

まず、よくある二択がどちらも現場を守れない理由を整理します。

全面禁止にすると、表向きは止まります。ですが、便利なものは隠れて使われます。見えない利用は、誰が何を入力したか把握できないぶん、かえって危険です。一方で、ルールのない自由にすると、患者情報を外部サービスに入れてしまうような、取り返しのつかないリスクが残ります。

どちらの極端も、現場を守るという目的を達成できません。必要なのは、白か黒かではなく、段階的な線引きです。

条件付き許可の3層フォーマット

そこで、AIの利用を3つの層に仕分けます。

・禁止層（絶対に入れない）：患者情報や院内固有の情報を、外部のAIサービスに入れる使い方です。ここは迷わず禁止にします。
・条件付き層（条件を満たせば使ってよい）：入れないデータの線引き、人間による最終確認、使用ログの記録という条件を満たせば使える領域です。前回の稟議メモ6項目が、そのまま「条件」になります。
・自由層（低リスクなので自由に使ってよい）：公開情報の要約、一般的な調べ物、文章の下書きなど、患者情報を含まない使い方です。

大事なのは、各層に自部署の具体例を3つずつ添えることです。抽象的な規定だけでは、現場は「これはどの層か」を判断できません。例があると、迷いが減ります。この3層は、以前に書いた条件付き利用の考え方を、個人の心がけから部署のルールへ落とし込んだものです。

3層を運用に落とすコツ

作った3層を実際に機能させるために、意識したいことが3つあります。

・グレーなものは、禁止ではなく条件付き層に置きます。判断に迷うものを禁止に倒しすぎると、結局は隠れて使われ、見えないリスクに戻ってしまいます。
・各層に、自部署で実際にありそうな例を3つずつ書きます。規定の文章を増やすより、具体例を示すほうが守られます。
・層は固定せず、定期的に見直します。新しいツールや制度が出てきたら、どの層に置くかを更新します。

今日からできる一歩として、「3層ルール雛形の骨子」を置いておきます。次の3欄に、自部署の例を3つずつ書き出してみてください。

・禁止層（絶対に入れない使い方）：＿＿＿／＿＿＿／＿＿＿
・条件付き層（条件を満たせば可）：＿＿＿／＿＿＿／＿＿＿
・自由層（低リスクで自由に）：＿＿＿／＿＿＿／＿＿＿

この1枚があると、委員会での議論が「禁止か許可か」の対立ではなく、「どの例をどの層に置くか」という具体的な話になります。

まとめ

・全面禁止は隠れた利用を生み、ルールなき自由は情報流出のリスクを残す
・禁止・条件付き・自由の3層に仕分けると、安全と実用を両立できる
・条件付き層の「条件」は、前回の稟議メモ6項目がそのまま使える
・グレーは条件付きに置き、各層に例を3つずつ示し、定期的に見直す

次回は、ルールが整ったあとの話です。第65回「医療AIの予算を取りに行く｜補助金申請の通し方と探し方」で、制度の追い風を予算に変える方法を扱います。

本記事の内容は筆者個人の見解であり、所属する医療機関の公式見解を代表するものではありません。記事中の情報は執筆時点のものです。院内ルールの整備にあたっては、各施設の情報管理規程・医療安全管理体制および関連法令に従い、責任者の承認を得たうえで運用してください。本記事を参考にしたことによって生じた損害・不利益について、筆者は一切の責任を負いかねます。