【第20回】「動いた」で終わらせない—AIツールを現場で使えるレベルに育てる3つの視点

先月、自分が作ったツールを同僚に使ってもらったときのことです。

「ここ、どこを押せばいいの？」「このエラー出たんだけど、どうすればいい？」「結果の数値、合ってる？」

5分で3つの質問が飛んできました。自分では問題なく使えていたのに、他の人が触った途端に「使えない」ツールだとわかりました。

前回（第19回）で、AIへの最初の指示を出して「動くもの」を作るところまでお伝えしました。でも「動いた」と「現場で使える」の間には、思っている以上の距離があります。

この記事では、AIで作ったツールを現場で使う前に確認すべき3つの視点を整理します。結論から言うと、見るべきポイントは「精度」「使いやすさ」「エラー対処」です。

これまでの流れ

この連載では、第17回から段階的に「AIでツールを作る」手順をお伝えしてきました。初見の方のために、ここまでの流れを簡単にまとめます（知っている方は読み飛ばしてOKです）。

• 第17回：業務の困りごとを3行で書き出す「業務棚卸しワークシート」（有料）

• 第18回：コードを書かずに日本語でAIに指示する「Vibe Coding」の考え方

• 第19回：ワークシートの3行をAIに渡して「最初の1本を動かす」3ステップ

まだ「何をAIに頼めばいいかわからない」という方は、第17回のワークシートから始めると、困りごとをそのままAIへの指示文に変換できます。

ここまでで「動くもの」はできました。今回はその先、「現場で使えるレベル」に仕上げる話です。

「動いた」と「使える」の間にあるもの

ツールが動いた瞬間は嬉しいものです。でも、そのまま現場に持っていくと大抵うまくいきません。

自分だけが使うなら「動く」で十分です。しかし、他の人に使ってもらう・業務に組み込む・継続的に使い続けるとなると、次の3つが足りないことに気づきます。

• 結果が正しいかどうか確認していない（精度）

• 操作がわかりにくい（使いやすさ）

• 想定外のことが起きたときに止まる（エラー対処）

この3つの視点で磨くと、ツールは「自分の実験」から「チームの道具」に近づきます。

逆に言えば、この3つを確認しないまま現場に出すと危険です。AIで作ったツールは、見た目が整っていても、計算・操作・例外処理のどこかに抜けが残っていることがあります。

視点①：精度—「だいたい合ってる」を放置しない

最初に確認すべきは、出てくる結果が正しいかどうかです。

「動いている＝正しい」ではありません。計算ロジックが間違っていても、画面には何かしらの数字が表示されます。見た目だけでは判断できません。

確認の方法はシンプルです。答えがわかっているデータで試します。

例えば私の場合、CT装置のMTF計測ツールを作ったとき、メーカーの据付時データ（既知の正解値）と突き合わせました。「この条件でMTFを計算すると、この値になるはず」という基準があるので、ツールの出力がそこに合っているかどうかを見ます。

AIに確認させることもできます。

この計算ロジックが正しいか、以下のテストデータで検証してください。

入力値：○○
期待される出力：○○
許容範囲：○○

計算過程と、期待値との差分も表示してください。

このように伝えると、AIはテスト用の入力と期待値をもとに、計算結果の差分を確認しやすい形にしてくれます。

ポイントは「何と比較して正しいと判断したか」を記録しておくことです。後から精度の根拠を聞かれたとき、「メーカー値と±2%以内だった」と言えるかどうかで、ツールの信頼度が変わります。

視点②：使いやすさ—「自分以外の人が迷わないか」を基準にする

自分が使えているから大丈夫、と思うのが一番危険です。作った本人は操作手順を知っていますが、他の人はまっさらな状態で画面を見ます。

確認すべきことは3つです。

• 何を入力すればいいかわかるか

• どの順番で操作すればいいかわかるか

• 結果が何を意味しているかわかるか

これを改善するのにコードを読む必要はありません。AIには、使う人と場面を指定して伝えます。

放射線技師が初めてこのツールを使う想定で、画面上のわかりにくい部分を改善してください。

確認したい点：
- 入力欄の意味がわかるか
- 操作順が画面上でわかるか
- 結果の単位と意味がわかるか
- エラー時に次の行動がわかるか

具体的に言えば、入力欄にラベルや初期値を入れる、ボタンの表示を「実行」から「MTF計算を開始」に変える、結果の横に単位や正常範囲を表示する。こういった小さな改善を重ねるだけで、使いやすさは大きく変わります。

1回の指示で全部直そうとする必要はありません。第19回でお伝えした「1回の指示で1つ」のルールは、ここでも同じです。

視点③：エラー対処—「壊れたときに何が起きたかわかる」ようにする

想定通りのデータを入れているうちはツールは動きます。問題は、想定外のことが起きたときです。

よくあるパターンはこのあたりです。

• ファイル形式が違う（JPEG画像を渡すべきところにPDFを渡した）

• 数値が範囲外（線量値に負の数を入れた）

• 必須の入力が空のまま実行された

• ネットワーク接続が切れている

こういった場面でツールが無言で止まると、使っている人は「壊れた」としか思えません。何が原因かわからないので、対処もできません。

AIへの指示は具体的に伝えます。

以下のケースでエラーが起きたとき、原因と次に確認すべきことがわかるメッセージを表示してください。

1. DICOMファイル以外が選択された場合
2. 必須項目が空の場合
3. 数値が0未満の場合
4. 計算に必要な列や項目が見つからない場合

エラーメッセージは、専門用語を使いすぎず、現場スタッフが次の行動を判断できる文にしてください。

パターンを列挙して渡すだけです。エラーメッセージの文言もAIに考えさせて構いません。大事なのは「黙って止まらない」ことです。「○○が原因で処理を中断しました。△△を確認してください」と画面に出れば、使う側は自分で対処できます。

現場で気づいた「育て直し」の話

私が作ったMTF計測ツールも、最初は自分だけで使っていました。動くことは確認できていたので、品質管理業務で試しに使い始めました。

ところが使い始めてすぐに「ファイル選択画面が出るまでに何回クリックすればいいかわからない」と感じました。自分で作ったのに、数日経つと手順を忘れていたのです。

結局「画面を開いたらすぐにファイル選択ダイアログが出るようにしてください」とAIに伝えて直しました。さらに「計測結果の横に、前回の値を並べて表示してください」と追加したことで、推移がひと目でわかるようになりました。

どちらもコードとしては小さな変更ですが、使い勝手は大きく変わりました。こういう改善は、実際に現場で使ってみないと気づけないものです。

重要なのは、改善点を感覚で終わらせないことです。

「なんとなく使いにくい」ではなく、「ファイル選択までのクリック数が多い」「結果の単位が表示されていない」「前回値と比較できない」と具体化する。ここまで言語化できれば、AIに修正依頼を出せます。

まとめ

• 精度：既知の正解値と突き合わせて、結果が正しいか確認する

• 使いやすさ：「初めて触る人が迷わないか」を基準にAIに改善させる

• エラー対処：想定外の入力パターンを列挙して、黙って止まらないようにする

「動いた」はゴールではなくスタートラインです。この3つの視点で磨くことで、ツールは「自分だけの実験」から「チームで使える道具」に変わります。

まだツール化する業務が決まっていない方は、第17回の「業務棚卸しワークシート」から始めるのが早いです。自分の困りごとを3行で整理し、そのままAIへの指示文に変換できます。

一方で、すでに動くツールがある方には、次の段階として「現場投入前チェックリスト」と「改善プロンプト集」が必要になります。精度確認、UI改善、エラー対処を項目ごとに確認できる形で、今後の有料記事にまとめる予定です。

この記事が現場の参考になったら、スキを押してもらえると次の記事につながります。

本記事の内容は筆者個人の見解であり、所属する医療機関の公式見解を代表するものではありません。記事中の情報は執筆時点のものです。臨床判断・業務運用にあたっては、必ず最新の公式情報（添付文書・診療ガイドライン等）をご確認ください。本記事を参考にしたことによって生じた損害・不利益について、筆者は一切の責任を負いかねます。