【第23回】自分では使えたAIツールが、同僚の前で止まった理由—最初に直すべきは機能ではなく説明だった
AIで作ったツールが、自分のPCで動いた。
ファイルを選ぶと読み込める。
ボタンを押すと計算される。
結果も表示される。
ここまで来ると、「これは使えるかもしれない」と思います。
でも、同僚に見せた瞬間に、すぐ止まりました。
ツールが止まったわけではありません。
使う人の手が止まったのです。
「これ、最初にどこを押せばいいの？」
その一言で、自分では気づけなかった問題が見えました。
機能が足りないのではなく、説明が足りなかったのです。
この記事では、AIで作ったツールを同僚に見せたときに気づいた「最初に直すべき場所」について書きます。
結論から言うと、最初に直すべきなのは新機能ではありません。
最初に何をすればいいか
入力欄に何を入れるか
結果をどう読めばいいか
エラーが出たら何を確認するか
この4つです。
はじめての方へ—この連載の流れ
この連載では、放射線技師がAIを使って業務改善ツールを作る流れを、段階的に書いています。
第17回：何をAIに頼むかを整理する
第19回：最初の1本を動かす
第20回：「動いた」と「使える」の違いを整理する
第21回：現場投入前チェックリストと改善プロンプト集
第22回：同僚に渡す前に見るべき3つの確認
今回は、第22回の続きです。
同僚に見せる前に何を確認するかを整理したうえで、実際にどこを直すと「使いやすさ」が変わるのかを具体例で書きます。
自分では問題なく使えていた
私が作っていたのは、CTの品質管理で使う計測補助ツールです。
ここでは患者画像や実データは扱いません。説明しやすいように、一般化した例として書きます。
ツールの流れはシンプルでした。
ファイルを選ぶ
画像を読み込む
ROIを確認する
計算する
結果を見る
自分では、この流れを問題なく使えていました。
なぜなら、作った本人だからです。
どのファイルを選ぶかも知っている。
どのボタンを押すかも知っている。
結果の数字が何を意味するかも知っている。
だから、画面上に説明が足りなくても困りませんでした。
でも、それは「ツールが使いやすい」という意味ではありません。
単に、自分が操作手順を覚えていただけでした。
同僚が最初に止まった場所
同僚に画面を見せて、触ってもらいました。
最初に止まったのは、ファイル選択のところでした。
「どのファイルを選べばいいの？」
こちらとしては、当然DICOMファイルを選ぶつもりで作っていました。
でも、画面にはそれが書いていませんでした。
ボタン名も「ファイル選択」だけ。
これでは、初めて触る人にはわかりません。
次に止まったのは、結果表示です。
数字は出ている。
グラフも出ている。
でも、同僚から見ると、
「この数字は何？」
「大きい方がいいの？」
「前回と比べてどうなの？」
という状態でした。
つまり、計算そのものよりも、結果の読み方が足りなかったのです。
最後に出たのが、エラーの問題です。
違う形式のファイルを選んだとき、画面には専門的なエラー文が出ました。
作った本人なら、「ああ、ファイル形式が違うんだな」とわかります。
でも、使う人にはわかりません。
「壊れたのかな」
と思われて終わりです。
直したのは、機能ではなく画面の説明
このとき、私は新しい機能を追加しようとしていました。
もっと自動化した方がいいのではないか。
グラフを増やした方がいいのではないか。
結果の保存機能を作った方がいいのではないか。
でも、最初に直すべき場所はそこではありませんでした。
まず直したのは、画面上の説明です。
具体的には、次のように変えました。
「ファイル選択」ではなく「DICOMファイルを選択」にする
画面上に「1. ファイル選択 → 2. ROI確認 → 3. 計算 → 4. 結果確認」と表示する
結果の横に単位と説明を入れる
前回値と比較できる表示を追加する
対応外ファイルを選んだときのエラー文を日本語にする
これだけです。
高度な機能を足したわけではありません。
でも、使いやすさは大きく変わりました。
なぜなら、初めて触る人が「次に何をすればいいか」を画面上で追えるようになったからです。
AIへの指示も、かなり短くてよかった
この修正は、AIにかなり短い指示で依頼できました。
たとえば、最初に出したのはこういう指示です。
このツールを初めて使う放射線技師が、上から順に操作できるように画面文言を改善してください。
改善したい点：
- ファイル選択ボタンに、選ぶべきファイル形式を明記する
- 操作手順を画面上に表示する
- 結果の横に単位と意味を表示する
- エラーが出たとき、原因と次の行動がわかる日本語にする
患者情報や実データは使わない前提です。ポイントは、「使いやすくして」とだけ言わないことです。
何に迷ったかをそのまま伝えます。
ファイル選択で迷った
結果の意味がわからなかった
エラー時に何をすればいいかわからなかった
このように書くと、AIはかなり具体的に直してくれます。
同僚からの一言は、そのまま改善プロンプトになります。
「機能追加」より先に見るべきこと
AIでツールを作っていると、つい機能を増やしたくなります。
自動保存。
グラフ追加。
PDF出力。
CSV出力。
設定画面。
もちろん、必要な機能もあります。
でも、他の人に見せる前の段階では、機能追加より先に見るべきことがあります。
それは、次の3つです。
1つ目。
最初の操作が画面上でわかるか。
2つ目。
結果の意味が説明されているか。
3つ目。
エラーが出たときに、次の行動がわかるか。
この3つがないまま機能を増やしても、使う人は迷います。
むしろ、機能が増えるほど迷いやすくなります。
ツールを育てる順番としては、
まず動かす
使う人が迷う場所を見る
画面文言とエラー文を直す
精度確認の記録を残す
必要な機能を追加する
この順番の方が進めやすいです。
同僚レビューで聞くべきこと
同僚に見てもらうときは、「どう？」と聞くだけではもったいないです。
「良いと思う」
「使えそう」
「ちょっとわかりにくい」
これだけだと、何を直せばいいかが見えません。
聞くなら、具体的に聞きます。
最初に何をすればいいかわかったか
どの入力欄で迷ったか
結果の意味はわかったか
エラーが出たとき、次に何をすればいいかわかったか
もう一度使うなら、どこを直してほしいか
この聞き方にすると、改善点がそのまま出てきます。
そして、そのままAIに渡せます。
同僚から以下のフィードバックがありました。
- 最初にどこを押すかわからなかった
- 結果の数字の意味がわからなかった
- エラーが出たときに何を確認すればいいかわからなかった
このフィードバックをもとに、画面文言、結果表示、エラーメッセージを改善してください。このくらいで十分です。
重要なのは、同僚の感想を「改善指示」に変換することです。
現場に近づけるほど、安全確認が必要になる
ここまで書いた話は、使いやすさの改善です。
ただし、医療現場で使うツールである以上、使いやすくなったからといって、そのまま本番利用できるわけではありません。
特に、診断、治療、投与量、検査条件、患者への対応に影響する使い方をする場合は、施設内ルールや責任者確認が必要です。
また、AIに相談するときに、患者情報や院内固有情報を入れてはいけません。
エラーログにも、ファイルパス、ユーザー名、施設名、患者IDなどが混ざることがあります。
貼り付ける前に、必ず確認します。
AIは便利ですが、医療安全上の最終判断を代替するものではありません。
ここは毎回、意識しておく必要があります。
まとめ
AIで作ったツールを同僚に見せると、自分では気づけなかった問題がすぐ見えます。
特に多いのは、機能不足ではなく説明不足です。
最初に何をすればいいかわからない
入力欄の意味がわからない
結果の読み方がわからない
エラー時に戻れない
この状態では、どれだけ中身が動いていても「使いにくい」と思われます。
最初に直すべきなのは、新機能ではありません。
画面の説明、結果の意味、エラー時の戻り方です。
ここを直すだけで、AIで作ったツールは「自分だけの試作品」から「同僚に試してもらえる道具」に近づきます。
第21回の有料記事では、この確認を漏れなく進めるための「現場投入前チェックリスト」と「改善プロンプト集」をまとめています。
精度、UI、エラー対処、個人情報、施設承認、同僚レビューまで、実際に確認できる形にしています。
すでにAIで動くツールがある方は、第21回のチェックリストを使って、一度点検してみてください。
本記事の内容は筆者個人の見解であり、所属する医療機関の公式見解を代表するものではありません。
本記事で紹介する内容は、AIで作成した業務補助ツールを見直すための一般的な考え方です。医療安全上の最終判断、施設内承認、情報管理規程の確認を代替するものではありません。
患者情報、院内固有情報、非公開資料、実際の検査データを外部AIに入力しないでください。AIを用いた確認は補助であり、最終確認は人間が行う必要があります。
本記事を参考にしたことによって生じた損害・不利益について、筆者は一切の責任を負いかねます。
