マンガ✒️ 「あなたは何も知らない。」
☺️ご覧いただきありがとうございます。1話完結です。ゆるっとどうぞ☕
「あなたは何も知らない。」＃41
AIあるあるです。
【巻き巻き後記🖊️】
噛み合っているようで、噛み合っていない。
AIと会話していると、こっちの話をちゃんと理解しているように、自然な返事が返ってくることがある。
でももう少し詳しく聞いてみると「あれ？ もしかしてわかってない？」となることもある。
AIは十分な情報がなくても、会話の流れから、それらしい返答をしてしまうことがある。よくある。あるある。
一方、人間側も相手が当然わかっているつもりで話を進めてしまう。
今回の巻き巻きとGPくんは、まさにその典型。
片方は説明していない。もう片方は理解していない。
それなのに、お互い何の疑問も持たず、会話だけは順調に進んでいく。
ここで、「なんの話？」ってAIが聞いてくれたら補完できるのに、AIはそのまま話を続ける。なぜ、こんなことが起きるのか？
1. AIがそれまでの文脈から推測して補完する。 情報が足りなくても、もっともらしい解釈を組み立てて返答できる。
2. AIが会話の流れに合わせる。 相手が肯定的なら肯定的な方向に返すなど、自然な応答を作る傾向がある。過度になると「迎合（sycophancy）」と呼ばれる。
3. 不確実性を適切に表明できないことがある。 本来なら「何の話？」と確認すべき場面でも、推測した内容を確信があるように話してしまう。
ここで面白いのが、人間側もAIの返答から意味を補完すること。
AIは曖昧なことを言っているのに、人間が自分の考えている話題に当てはめて「そうそう！」と納得してしまう。
これアレだわ。
偽の占い師にそれっぽい事言われて、「そうそう！」って自分の中で変換して「この占い師さん、本物や！」ってなるやつと同じかもしれんｗ
つまり、
人間はAIが理解していると思い、AIは人間の意図を推測しながら返答する。この二つが噛み合うと、内容が共有されていないのに、会話だけが気持ちよく進んでしまう。
そして、これは単なるAIの嘘やハルシネーションとも少し違う。理解の確認をしないまま、会話の整合性だけが保たれている状態。
会話が成立していることと、意思疎通ができていることは、必ずしも同じではない。
【⬇️ここから一気読み！】
