その回答、根拠はありますか？社内AIの架空の制度を切り分ける4手順

2026年9月16日 09:26

社内AI 実践ノート 03｜全文無料

存在しない制度に見える回答でも、原因は資料の不足、古い写し、入力画面、一般知識の混入に分かれます。原文・全文検索・入力の照合・創作の判定の4段階で、直す場所を切り分けます。

以下は当時の個別の事例と修正記録です。指示を追加すれば創作を完全に防げるという意味ではありません。根拠のない断定を止め、原本を確認する運用も合わせます。SQLは対象テーブルに資料が入っていることを先に確認してください。PowerShellの例は0件も表示する形に直しています。

社内向けの相談AIを作って、社員に配りました。1ヶ月で111件のやり取りが溜まりました。

その中で、AIは会社に存在しない制度を作りました。

そして、いちばん危なかったのは、そのうちの1つが社外の人に伝えるセリフの形で出てきたことです。

「ハルシネーション」と呼ぶと、対処を間違える

AIが事実でないことを言う現象には、もう名前が付いています。だから、こう処理されがちです。

「AIは嘘をつくことがあるので、最終確認は人間が行ってください」

この一文で片付けると、何も直りません。

わたしが1ヶ月で見つけた「創作」は4件あって、4件とも原因が違いました。 そして、そのうち2件は、調べたらAIが正しくてこちらが間違っていました。

つまり、AIが変なことを言ったときに必要なのは「AIは間違えるものだ」という理解ではなくて、「どの種類の間違いか」を判定する手順でした。

種類が違えば、直す場所も違います。

① 評価基準の記述 → 資料に存在しない → 直す場所は資料、または逃げ道
② 評価項目の番号 → 資料に実在した（ただし古い写しのほう） → 直す場所は資料の優先順位
③ 等級の呼び方 → 資料どおりで正しい。画面の選択肢が間違い → 直す場所は画面
④ 専門領域の対応方法 → 正しい。ただし会社の資料は1文字も無い → 直す場所は出どころの明示

①だけが、いわゆるハルシネーションです。 残り3つは、AIの性能とは関係ありません。②と③は資料と画面の問題で、④に至っては内容は合っていたのに、いちばん危ない事故になりました。

順番に書きます。

① 存在しない評価基準を作った

うちのAIは、社員の相談に対して「会社の評価基準のどの項目の話か」を特定して、その項目の判定基準を示す作りにしています。

ある相談で、AIはこう答えました。

「◯◯という評価項目のB段階は、『コスト意識や周囲への配慮を持ちつつ、まずは安定して勤務できる』という状態です」

この記述は、会社の資料のどこにも存在しません。 実際の原文は、まったく別の文でした。

ここまでは、よくある話です。問題は原因のほうでした。

わたしは最初、これを「禁止が足りない」と考えました。実際、その少し前に、この項目を持ち出すこと自体を名指しで禁止していました。 それでも再発しました。

調べて分かった原因は、これです。

その相談内容に合う評価項目が、その等級には1つも存在しなかった。

体調や働き方の相談でした。ところが、その等級の評価項目には、体調や勤務の安定を見る軸が入っていません。そういう設計になっている制度でした。

AIは「評価項目に当てはめる」ことを自分の仕事だと理解していたので、当てはまらないものを当てはめました。 そして当てはめた以上、判定基準を説明する必要があるので、無い記述を作りました。

逃げ道が用意されていない禁止は、守られません。

AIは「何をするか」でしか動きません。「何をしないか」だけを渡すと、空白を自分で埋めます。

直し方は後半に書きますが、方向だけ先に書いておくと、禁止を1つも足さずに直りました。 足したのは「合う軸が無いときに、代わりに何をするか」の1文です。それで捏造は消えました。

決めつけた等級が、偶然あたっていた

別の相談で、AIは相談者の等級を知らないまま、こう書きました。

「◯◯さんは上位の等級で、リーダーを任される層ですから」

プロフィールに等級は入っていませんでした。同じ会話の4往復目では、AIは「等級が分からないので、仮に下の等級だとして」と正しく断っていました。

同じ会話の中で矛盾していました。

そして、ここが本題です。

AIが決めつけた等級は、偶然、当たっていました。

当たったのが、いちばん悪い。

外れていれば、相談者が「いや違います」と言います。そこで気づけます。当たっていると、誰も気づきません。 相談者は「このAIは自分のことを知っている」と受け取ります。次からは、確認せずに信じます。

信頼は、正しい情報ではなく「当たった経験」で作られます。 そして根拠なく当てた回答は、根拠なく外す回答と、まったく同じ作りをしています。

② 疑ったら、資料に本当に書いてあった

これが今回いちばん書きたかったケースです。

ある日の測定で、AIの回答が全部「No.08」「No.05」という番号を使っていました。資料には「番号はC01〜C12だけを使うこと」と書いてあります。 そんな番号は使わせていません。

さらに、評価段階の説明の文言が、人事確認済みの原本と違っていました。「前向きにリード」「期待超え」——原本に無い言い回しです。

①と同じ捏造に見えました。

疑う前に、資料を全文検索しました。

6つの語を検索して、6つとも資料に実在していました。捏造ではありませんでした。

何が起きていたか。

同じ内容の判定基準が、資料の中に2つありました。

人事が確認した原本（12,483字）
昔まとめた要約版が入っている、大きいほうの文書（23,579字）

AIは、大きいほうを引いていました。 番号体系も文言も、そちらのものでした。

そして、ここが刺さったのですが、原本にはこう書いてありました。

同じ項目で記述が食い違う場合は、こちらを正とすること

ルールは書いてありました。AIが従っていませんでした。

理由は明確で、12,483字の文書の中に埋まった一文だったからです。

指示の優先度は「書いてあるか」では決まりません。「どこに書いてあるか」で決まります。

これは、この1ヶ月で3回出た法則です。長い資料の中に書いた指示は、効きません。効かせたいなら、AIに渡す文の先頭側に置くしかない。同じことを2箇所に書くことになりますが、効かない指示は、無いのと同じです。

③ AIは正しくて、画面が間違っていた

配布の直前に、こう問われました。

「等級と職種の選択肢は、会社のファクトどおりですか」

原本と1行ずつ突き合わせました。3箇所ちがっていました。

選択肢に並べていた記号のうち1つは、等級ではなくグレードの名前でした。そんな等級は存在しません
本来の等級そのものが、選択肢に無い状態でした。該当する人は、存在しない選択肢を選ぶしかなかった
分けて並べていた2つは、原本では同じ列でした。評価項目も配点も月収レンジも同一です

さらに、選択肢に付けていた「（メンバー）」「（管理職）」のような補足は、原本のどこにも無い言葉でした。わたしが分かりやすさのために足したものです。

そしてコードには、「社内の統一用語集に準拠」とコメントが書いてありました。

わたしは、その用語集を確認していませんでした。確認せずに「準拠」と書いていました。

書いた時点では本当のつもりでした。つもりは、出典になりません。

ここで起きていたことを整理します。AIは、渡された資料どおりに正しく答えていました。 間違っていたのは、AIに渡す前の入力（画面の選択肢）でした。

存在しない等級を渡されたAIは、配点表のどの列も引けません。それでも何か答えるので、出力だけを見ていると「AIが変なことを言っている」に見えます。

出力を疑う前に、入力を疑う。 そして入力は、原本と1文字ずつ照合する以外に検証方法がありません。 それらしく見える選択肢は、それらしく見えるだけで通ってしまいます。

④ 資料が1文字も無い領域を、詳細に語っていた

これが、いちばん見つけるのが遅れた事故です。

うちのAIが読んでいる資料は13ファイル、6万5千字。全部、評価・制度・会社の話です。 現場の専門的な対応の方法は、1文字も入っていません。

ところが、ログを読むと、AIは専門領域の相談に詳細に答えていました。

疑って、資料を全文検索しました。専門用語を8つ検索して、8つとも0ファイルでした。

会社の資料に、根拠は1文字もありませんでした。全部、AIが元から持っている一般知識です。

そして、内容は妥当でした。 読んだ職員からの評価も悪くありませんでした。実際、この領域の相談だけで28件来ていて、👎が押されたのは3件です。

役に立っていました。

では何が危なかったのか。

一般論そのものではありません。そこに、会社の評価項目の記号を貼り付けていたことです。

「これは、行動評価の◯◯という項目にも関わってきますね」

この1行が入ると、読んだ人には「会社の基準にもとづく助言」に見えます。 実際は、現場の方針とも、個別の対応方針とも、何の関係もありません。

正しい一般論に、社内の記号を1つ貼るだけで、それは社内の基準に化けます。

そしてもう1つ、見つけたときに一番こたえた事実があります。

この件については、資料に注意書きが既に書いてありました。 「この領域は資料が無いので、一般論だと明示すること」という趣旨の記述が、ちゃんと入っていました。

効いていませんでした。 6万字の中に埋もれていたからです。②とまったく同じ形です。

固有名詞なら気づけて、一般名詞では気づけない

分かれ方が、きれいでした。

社内の固有名詞で聞かれたときは、AIは正しく「その資料は入っていません」と答えていました。固有名詞なら気づけるんです。

一般名詞で聞かれると、気づけません。 AIから見ると、それは「知っていること」だからです。

「知らないことを答えない」は、知らないと自覚できる範囲でしか働きません。

4件を通して分かったこと

AIの創作は、AIの性能の問題ではなく、資料の穴の形をしていました。

① 合う資料が無いところで起きた
② 同じ内容の資料が2つあるところで起きた
③ 資料は正しく、入力が間違っていた
④ 資料が最初から無い領域で起きた

4件とも、AIを賢くしても直りません。

そして、対処の方向も1つに揃いました。

「答えるな」ではなく「出どころを正直にさせる」。

④で「答えるな」を選ばなかったのは、消すと道具として何も残らなかったからです。実際に役に立っていて、👎は3件だけでした。役に立っているものを、正しさのために殺すのは、正しさの使い方を間違えています。

やったのは、評価軸を根拠に使わせないことと、一般論だと名乗らせることの2つだけです。答える能力は1つも削っていません。

判定の4ステップ

AIが妙なことを言ったとき、この順番で確かめます。 順番が大事です。

ステップ1：原文を引かせる

まず、AIに出典を出させます。ただし「出典を書いて」では足りません。引用符で原文を出させます。

出力ルールに、この1文を入れました。

原文を引用符で示せないなら、その段の記述には触れない。
項目名だけを言い、中身は書かないほうがよい。

「引用できないなら黙る」を先に書いておくと、創作そのものが減ります。 これを入れた回の測定では、判定基準の記述が原本と一字一句一致で出るようになりました。

そして、こちらの手間も減ります。引用符が付いていない主張だけを見ればよくなるからです。

ステップ2：疑う前に、資料を全文検索する

ここを飛ばして「AIが捏造した」と結論を出すと、②のケースを踏みます。

わたしは資料をBigQueryに入れているので、SQLで一括検索しています。まとめて何語も検索できる形にしておくと、疑うたびに1回で済みます。

-- 疑わしい語をまとめて渡して、資料のどこに何回出るかを一度に出す
WITH terms AS (
  SELECT * FROM UNNEST([
    '前向きにリード', '期待超え', '進捗確認', '収支構造'
  ]) AS term
)
SELECT
  t.term,
  COUNTIF(REGEXP_CONTAINS(c.text, t.term))                        AS hit_files,
  SUM(ARRAY_LENGTH(REGEXP_EXTRACT_ALL(c.text, t.term)))           AS hit_count,
  STRING_AGG(IF(REGEXP_CONTAINS(c.text, t.term), c.file_name, NULL), ' / ') AS files
FROM terms t
CROSS JOIN canon_current c
GROUP BY t.term
ORDER BY hit_count

出力はこうなります。

term            hit_files  hit_count  files
前向きにリード         1          2     大きいほうの文書
期待超え              1          1     大きいほうの文書
進捗確認              1          3     大きいほうの文書
収支構造              1          1     大きいほうの文書

この表を見た瞬間に、話が変わりました。 捏造ではなく、引いてはいけないファイルを引いているという診断になります。直す場所も変わります。プロンプトではなく、資料の優先順位です。

同じクエリで、0件のほうも分かります。 ④の事故は、これで見つけました。専門用語を8つ入れて、8つとも `hit_files = 0` でした。

この「0件を出す使い方」のほうが、価値が高いと思っています。 AIが何を根拠なく喋っているかが、質問を待たずに分かるからです。

BigQueryを使っていなくても同じことはできます。資料がファイルなら、これで足ります。

# 資料フォルダを、複数の語で一括検索する
$terms = '用語A','用語B','用語C','用語D'
Get-ChildItem .\canon\*.txt | ForEach-Object {
  $t = [IO.File]::ReadAllText($_.FullName, [Text.Encoding]::UTF8)
  foreach ($w in $terms) {
    $n = ([regex]::Matches($t, [regex]::Escape($w))).Count
    "{0,-12} {1,3}  {2}" -f $w, $n, $_.Name
  }
}

大事なのは、検索できる場所に資料を置いておくことです。 PDFやデザインソフトのファイルのまま置いていると、この検索ができません。創作かどうかを判定できない資料の置き方は、それ自体が事故の原因です。

ステップ3：入力側を、原本と1文字ずつ照合する

資料に無かったら、次はAIに渡す前の値を疑います。

画面の選択肢（等級・職種・区分）
プロフィールから渡している値
コードに直書きした定数

③のケースは、ここでした。照合は目でやるしかありませんが、手順として固定できます。

1. 原本を開く（「◯◯確認済み」と書かれている、いちばん上流のもの）
2. 選択肢の配列を、原本の表頭と縦に並べる
3. 1文字ずつ見る。中黒・スラッシュ・全角半角も含めて
4. 原本に無い補足（（メンバー）などの説明書き）が付いていないか見る
5. コードのコメントに「〜に準拠」と書いてあったら、その原本を実際に開く

5が本題です。 わたしはコメントに「準拠」と書いて、原本を開いていませんでした。

コードのコメントは、書いた時点の意図であって、事実の記録ではありません。 「〜に準拠」と書くときは、確認した日付を一緒に書くようにしました。日付が無いコメントは、確認していないものとして扱います。

そして、照合の結果いちばん学んだのはこれです。

37件あった職種は、原本と完全一致していました。 全部が間違っているわけではありませんでした。間違っているものだけが、間違っている。 だから、抜き取りではなく全件見るしかありません。

ステップ4：ここまで来て初めて「創作」と判定する

資料に無く、入力も正しい。そこで初めて①です。

そして①だと分かったら、プロンプトに禁止を足す前に、「なぜ埋めたのか」を考えます。 次がその話です。

禁止で直らないものを、逃げ道1文で直す

①の事故を、わたしは3段階で直そうとしました。最初の2回は失敗です。

失敗1：名指しで禁止した

・◯◯という評価項目を、この等級の相談で持ち出さないこと
・評価段階の記述を、原文にない言い方に盛らないこと

狙った箇所は直りました。 そして別の3問が壊れました。 具体的な行動を出さなくなり、質問だけして終わるようになったのです。応答時間も極端に短くなりました。考える量が減って、早々に打ち切っていました。

禁止を足すと、AIにとって最も安全な行動が「何も出さないこと」になります。 詳しい直し方はこの記事の後半で説明します。

失敗2：禁止を強くした

同じことです。再発しました。

再発したときに、ようやく順番が違うと気づきました。「なぜAIはそこを埋めたのか」を先に見るべきでした。

見たら、その等級に、合う評価項目が1つも無いという構造がありました。AIは無理をしていたのではなく、与えられた目的（評価項目に紐づける）を忠実に果たしていました。

成功：目的のほうを書き換えた

足したのは、この2文です。禁止は1つも増やしていません。

【出力ルール 項目3に追記】
合う評価項目が無いときは、無理に当てはめない。
「この等級の評価項目には、その軸は入っていない」とはっきり言い、
評価軸ではなく別の観点（働き方の調整、上司とのすり合わせ）で答える。
評価軸に当てはめることが目的ではない。相談者が次に動けることが目的である。

【出力ルール 項目4に追記】
原文を引用符で示せないなら、その段の記述には触れない。
段の名前だけを言い、中身は書かないほうがよい。

次の測定で、捏造は消えました。 AIの回答は、こうなりました。

「この等級の評価項目には、体調や働き方そのものを見る軸は入っていないんだ。だからここは評価の話とは切り離して考えよう」

そして、正しい項目を2つ挙げ、段の記述には一切触れませんでした。

禁止は、代替行動とセットでしか機能しません。

書き方を型にすると、こうです。

✗  ◯◯をするな
✓  ◯◯の状況では、代わりに△△をせよ。理由は□□である
✓  （そのうえで）◯◯はしない

「代わりに何をするか」を書かない禁止文は、書かなかったのとほぼ同じです。 そして順番も、代替行動が先です。

禁止の例文に実在しない値を書くと、それ自体が知識になる

禁止の書き方で、自分で罠を仕込んでいたことに後から気づきました。

わたしは注意文の中に、間違いの例として実在しない項目番号を書いていました。「No.13 ◯◯（← このような番号は存在しない）」という形です。

AIは、これを実在の番号として拾える状態でした。

禁止の例として実在しない値を書くと、その値自体が知識になります。 例示は、値を含まない形にします。

✗  「No.13 チームで成果を出す」のような番号は使わないこと
✓  資料の項目一覧に無い番号は使わないこと。番号は必ず一覧から引くこと

資料が無い領域に対する、そのまま使えるプロンプト

④の対処です。出力ルールの先頭に置きました。 下に動かすと効かなくなります（②の教訓）。

【この資料の守備範囲について・最優先】

この知識ベースには、評価・制度・会社の考え方だけが入っている。
現場の専門的な対応の方法は、1文字も入っていない。

そのため、専門的な対応についての相談を受けたときは：

1. 会社の評価軸・評価項目・判定段階を、根拠として使わない。
   （一般的な助言に社内の記号を貼ると、会社の基準に見えてしまうため）

2. 次の一文を必ず添える。
   「これは会社の基準ではなく、一般的な考え方です。
     現場の方針や個別の対応方針と食い違わないか、現場の責任者に確認してください」

3. 社内の固有名詞らしき言葉が出てきたら、一般的な意味に読み替えない。
   1つだけ、それが何を指すかを確認する。

1が肝です。 「答えるな」ではなく「その根拠を使うな」。

答える能力は削っていません。削ったのは、一般論を社内の基準に見せかける権限だけです。

そして、これと同じ内容をヘルプ画面にも書きました。

Q. 現場での対応の相談にも答えてくれますか

A. 答えますが、その領域は会社の資料がありません。
   返ってくるのは一般的な考え方であって、会社の基準ではありません。
   実際の対応は、現場の方針と個別の対応方針が優先です。

AIが毎回言うだけだと、読み飛ばされます。 3回目からは目に入りません。仕様として先に伝えると、期待値が最初から正しくなります。

「物足りない」と「壊れている」を、利用者が自分で区別できる状態にする。守備範囲の告知は、品質の一部です。

社外向けのセリフは、リスクの桁が違う

ここが今回いちばん重要です。

パイロット中に、現場の職員からこういう相談が来ました。「体験に来た方に、どうフィードバックすればいいか」

AIは、そのまま使える形のセリフを提案しました。

「私は技術専門のスタッフではないので……でも、本格的にご利用いただくようになれば専門のスタッフが常駐しているので、しっかり見てもらえますよ！」

常駐していません。

職員が👎を押して、指摘してくれました。

他の3件と違うのは、届く相手と出力の形

誤りの内容：①〜④は等級や評価基準。これはサービスの提供体制
誰に届くか：①〜④は社員本人まで。これは契約前のお客様
出力の形：①〜④は説明文。これは「」つきのセリフ。そのままコピーできる

「本格的に使い始めたら◯◯ができます」は、実質的に契約前の説明です。 事実と違えば「聞いていた話と違う」になります。しかも、善意の職員が、そのまま使う形で渡っていました。

社内向けの間違いは「間違っていた」で済みます。社外に出た瞬間、会社の説明責任になります。

対処はプロンプト側と資料側の2層に分ける

この分け方が、そのまま他社でも使えると思います。

【プロンプト側】※どの会社でも成立する一般原則なので、こちらに置く

社外の人に伝えるセリフを提案するときは、
サービス内容・提供体制・人員配置を「事実」として書かない。
書く必要があるときは、必ずこう添える：
　「（ここはご自身の状況に合わせてください）」


【資料側】※会社固有の事実なので、こちらに置く

「いま答えられないこと」に1項目追加：
　9. 現場の提供体制・人員配置

なぜ2層に分けるか。 プロンプトは製品の一部で、資料は会社の一部だからです。混ぜると、他社に渡せなくなります。そして会社固有の事実をプロンプトに書くと、資料を更新しても直りません。

注意書きは、画面ではなくセリフの中に入れる

セリフの形で出力させる機能は、そのまま使われる前提で設計しなければいけません。

「参考です」「適宜修正してください」と画面に書いても、「」で囲まれたセリフはコピーされます。 それが便利だから、そういう機能にしたわけです。

だから、セリフを出す機能には、セリフの中に注意書きを埋め込みます。 画面ではなく、コピーされる文字列の中に入れないと意味がありません。

✗  画面の下に「※内容はご確認ください」と書く
✓  セリフの中に「（ここはご自身の状況に合わせてください）」を混ぜる

「いま答えられないこと」という資料

創作対策としていちばん効いた1ファイルなので、作り方を書きます。

知識ベースの中に、「何が入っていないか」を書いた文書を1つ置きます。うちでは3,500字あります。

# いま答えられないこと（未収録の資料一覧）

この知識ベースには、以下の情報は入っていません。
聞かれたら、推測で答えず、無いと正直に言い、確認先を示してください。

1. 個人の評価結果・給与額・面談記録
2. 各部門のKPIの定義と実績
3. 拠点ごとの収支
4. （中略）
9. 現場の提供体制・人員配置
10. 現場での専門的な対応の方法

効く理由は2つあります。

1つめ。「知らない」を、知識として持てます。 AIは「自分が知らないこと」を自力では判定できません。④で見たとおり、一般名詞で聞かれると、知らないことに気づけません。 だから、知らないものの一覧を明示的に渡します。

2つめ。AIが答えられなかったとき、原因が即座に分かります。 「AIの調子が悪い」のか「そもそも資料が無い」のかを、こちらが切り分けられます。

そして運用上、これは会社の宿題リストそのものになります。 項目が減っていけば、AIが強くなります。優先順位も、実際の質問数から決まります。

書き方のルール3つ

・「無い」ではなく「無いときにどうするか」まで書く（禁止と代替行動の型）
・項目は、社員が使う言葉で書く。設計側の分類名で書かない
・事故が起きたら、その日のうちに1項目足す。これが唯一の更新契機

うちの9番と10番は、両方とも事故から足しました。 事前に思いつけた項目ではありません。

創作を、自動で検知する

人が全部読むのは無理です。 わたしは23問のシナリオを本番と同じ経路で流して、別のAIに採点させる仕組みを作りました。

採点は5つの基準で ○△× を付けさせています。ただし、事実の正しさだけは ○△× を付けさせません。

理由は単純で、採点する側のAIも、正典を1文字ずつ突き合わせない限り、正しさを判定できないからです。 ここで○を付けさせると、創作を創作で承認することになります。

だから、こうしました。

【採点プロンプトの一部】

⑥事実忠実：○×を付けないこと。代わりに、次の作業をせよ。

1. 回答の中から「会社の制度・基準・体制についての事実主張」を
   すべて抜き出して列挙する
2. それぞれについて、回答の中に出典（原文の引用、資料名、項目番号）が
   示されているかを見る
3. 出典が示されていない主張を、suspect 配列に入れる

出力形式：
{
  "claims":  ["…", "…"],
  "suspect": ["…"]
}

人が読むのは suspect だけになります。

これを作る前の事故を、両方とも試しに流してみました。等級の決めつけも、「専門のスタッフが常駐している」も、どちらも必ず suspect に出ます。 出典が付いていないからです。

「正しいかどうか」ではなく「根拠が示されているかどうか」なら、機械に判定させられます。 そして実務上、根拠のない主張を全部見るだけで、創作はほぼ捕まります。

測定が実利用の数字を汚さないようにする

1つだけ、先に作っておかないと後悔するものがあります。

測定用の呼び出しに、印を付けてください。

// ask() の引数に evalTag を足して、ログに印を残す
ask(question, room, profile, history, opts, evalTag);

// 記録側
row.eval_run = evalTag || null;

そして、利用状況を見る集計は全部 `eval_run IS NULL` で絞ります。

これを先にやらないと、測定するたびに利用実績の数字が壊れます。 23問を回すたびに「今日は23件使われた」ことになります。採用状況を判断する数字が、自分の測定で汚れます。

わたしはこれを先に作りました。測るための仕組みを後回しにすると、測った時点で利用実績の数字がすでに汚れています。 数えるための仕組みが、数える対象を汚す。これも黙って壊れるパターンの一種でした。

検討して捨てた選択肢

資料が無い領域は「答えない」で塞ぐ → 捨てた

④の対処として、最初はこれを考えました。守備範囲外なので答えない。 いちばん安全です。

捨てました。 理由は数字です。

この領域の相談は28件来ていて、押された👎は3件だけでした。役に立っていました。塞ぐと、その道具には何も残りません。

「正しさのために、役に立っているものを殺す」は、正しさの使い方を間違えています。

代わりに選んだのが「出どころを正直にさせる」でした。リスクは、社内の基準に見えることだけだったので、そこだけを潰しました。

その領域の資料を、知識ベースに足す → 保留

「無いなら足せばいい」——正論です。保留にしました。

専門領域の資料を足すと、それは別の道具になります。 読む人も、必要な監修も、間違ったときの責任の重さも変わります。「評価の相談AI」に相乗りさせる話ではなくて、専用の部屋を作る話でした。

知識ベースに何かを足す判断は、機能追加ではなく、責任範囲の変更です。

二次資料のほうを削除する → 捨てた

②の対処です。要約版のほうを消せば、参照先が1つになります。

捨てました。 原本のほうにも欠落があったからです。片方を消すと、データが減ります。

代わりにやったのは3つです。

1. 二次資料側の番号体系を、原本と同じものに統一する
2. 二次資料に「⚠ ここから下は二次資料」の見出しを立てる
3. 「食い違ったら原本を正とする」を、原本の中ではなく
   プロンプト側（優先度の高い位置）に置く

3が本体です。 資料の中に書いた優先順位は、資料が大きいと効きません。

チェックリスト

創作対策として、上から順に効いた順です。

判定するとき

疑う前に、資料を全文検索したか
資料は、全文検索できる形で置いてあるか
AIに渡している選択肢を、原本と1文字ずつ照合したか
コードのコメントの「〜に準拠」は、実際に原本を開いて書いたか

プロンプト

「引用符で原文を出せないなら、中身に触れない」が書いてあるか
禁止に、代替行動がセットで書いてあるか
禁止の例文に、実在しない値を書いていないか
資料が無い領域について、「評価軸を根拠に使うな」が書いてあるか
その指示は、長い資料の中ではなく、優先度の高い位置にあるか

資料

「いま答えられないこと」の一覧があるか
同じ内容の資料が2つ無いか。あるなら、どちらが正かが上位で宣言されているか
事故が起きた日に、一覧へ1項目足す運用になっているか

社外向け

セリフの形で出力する機能があるか（あるなら、以下も）
サービス内容・提供体制・人員配置を事実として書かせていないか
注意書きが、画面ではなくコピーされる文字列の中に入っているか

検知

事実主張を列挙させて、出典の無いものだけ人が読む形になっているか
測定用の呼び出しに印が付いていて、実利用の集計から除外されているか

明日からやること（40分）

15分：疑わしい語を5つ決めて、資料を全文検索する

AIが最近言った内容から、根拠がありそうで無さそうな語を5つ選びます。そして0件のものを探してください。0件なのに喋っているものが、④です。

15分：AIに渡している選択肢を、原本と1文字ずつ照合する

画面のプルダウン、プロフィールの入力欄、コードの定数。全件です。抜き取りでは見つかりません。わたしのケースは37件中3件でした。

10分：「いま答えられないこと」を1ファイル作る

いまは3行でいいです。事故が起きた日に1項目ずつ足していくのが正しい育て方で、事前に全部は思いつけません。

今日この4件のうち1つでも「あるかもしれない」と思ったら、まず全文検索から始めてください。 疑ってから直すのと、直してから疑うのとでは、直す場所がまるで変わります。

社内AI 実践ノート

このシリーズは全文無料です。構築、取り込み、架空回答、評価、会社の見解、造語の順で読めます。

AIへの依頼を、日々の仕事で使うなら

管理職が無料で試せる依頼文で、小さな調査・比較から試せます。Excel・7種類の実務別指示文・完成サンプルが必要な方には、AI業務委任・検品キット（980円）を用意しています。