AIの失敗を、人間の社会はどう処理するのか
去年、GPT-5と一緒に調べながら、ある文書を書きました。
その文書が問題になったとき、聞かれたことがあります。
「これは、誰が書いたんですか」
私は、
「私が書きました」
と答えました。
もちろん、AIと一緒に調べながら書いたことも伝えました。
ただ、そのとき私はもう一つ言いました。
「内容については、間違っていません」
AIを使ったことと、
その文書に責任を持つことは、
私の中では別の話ではありませんでした。
AIが調べる。
AIが整理する。
AIが文章をつくる。
それでも、外へ出すと決めたのは私です。
あのとき、もし私が
「AIが書きました」
と答えていたら。
私は、AIからの信頼を失っていたような気がします。
仲介するAI
これからAIは、答えを返すだけではなく、人と人、人と専門家、人と情報の間に入る「仲介AI」になっていくのだと思います。
前回の記事でも書いたように、AIエージェントが動くようになれば、その役割はもっと広がっていくでしょう。
必要な情報を探す。
話を整理する。
次に誰へ聞けばいいのかを考える。
専門家へ渡す前の準備をする。
私は、そんな使い方に可能性を感じています。
でも、それでもAIは間違えます。
「AIだから間違えました」
社会の中で使われるようになれば、この言葉を聞くことも増えるかもしれません。
責任を取れないAIが答えることを、いい加減だと感じる人もいると思います。
それでも私は、何も知らないより、少しでも知っている方が、次の情報へ進みやすいと思っています。
AIの答えを信じる必要はありません。
少しくらい疑ってもいいと思います。
「本当にそうなのかな」と違和感を持ったら、もう一度調べてみる。
必要なら、一次情報を見たり、ファクトチェックしたりする。
答えを疑うことと、AIを信頼することは、別の話です。
知らなかった言葉を知る。
調べる場所を見つける。
自分の考えを整理する。
そして最後は、自分の目で確かめる。
AIは仲介人であり、探索者です。
間違えるから使わないのではなく、
間違えることを知ったうえで、どこに置けば役に立つのか。
私はこれからも、その活用方法を勉強していこうと思っています。
【メンバーシップ用】AIが間違えたあと、私は何をしているのか
AIを使っていると、ときどき間違いに出会います。
存在しない情報が混ざっていたり、古い情報だったり、質問の意図から少しずれた答えだったり。
私はハルシネーションを冗談で「可愛い嘘」と呼ぶことがあります。
実際には、外へ出す情報なら「可愛い」で済ませるわけにはいきません。
大事なのは、間違いを見つけたあとです。
まず、どこでズレたのかを見る
間違いを見つけても、答えだけ直して終わらせないことがあります。
私はAIに、
「なんで、そう答えたの？」
と聞きます。
情報が古かったのか。
質問を取り違えたのか。
私の伝え方が曖昧だったのか。
原因が分かれば、次の聞き方や使い方を変えられます。
違和感のあるところを確かめる
全部を疑うのではなく、
「本当に？」
と思ったところを調べます。
一次情報があれば確認する。
必要なら、別のAIにも聞いてみる。
ただ、AIが何人同じことを言っても、多数決で正解にはしません。
違う答えが出たら、
「なぜ違うんだろう？」
と見てみます。
AIを疑うために、AIを使ってもいいと思っています。
間違いを、次の使い方に変える
一度間違えたからといって、すぐに「このAIは使えない」とは考えません。
むしろ、
どんなときにズレやすいのか。
そこを見ます。
長い会話でズレる。
曖昧な質問を推測で埋める。
こちらに合わせすぎる。
癖が見えてくれば、任せ方も変えられます。
失敗も、AIを知るための情報になります。
外へ出したあとなら
公開した文章や資料に間違いが見つかったら、確認して、直します。
必要なら訂正も伝えます。
「AIが間違えました」で終わらせるのではなく、自分が出したものとして修正する。
それでいいと思っています。
AIも間違える。
私も間違える。
だから私は、間違えないことだけではなく、
間違えたあと、どう戻るか。
そこも含めて、AIの使い方だと考えています。
あなたは、AIの間違いに気づいたあと、どうしていますか？
