AIの回答を疑う

みなさんはAIが出力した返事の内容に疑問を持ちますか？

何か質問して返ってきた返事をそのまま丸ごと飲み込みますか？

返事の内容が思っていた方向と違う方へ向いていたら、「そうじゃなくて」と言葉を足すのはもちろんですが、得たかった情報が出てきた時、「ん…？」と違和感があった場合、みなさんは真偽をもう一度確認したりしますか？

僕、性悪なのか、細かいところにいちいち指摘を入れたくなるので、「あなたの言った、この部分はどういう意味ですか？」とか、ウザい部下みたいな質問をします。

AIは言葉の引き出しが異常に大きいというか多いので、日常ではあまり面会しない言葉を利用して、こちらが納得しそうな説明を即返して来ますよね。

先日、自分が事実を知ってる事についての質問をあえてしてみました。
どんな内容だったかは忘れたんですが。

いつも通り、「それっぽい」返答をもらいました。

「あなたの返答のこの部分、事実と違いますよ」と指摘したら、
「すみません、事実ではありませんでした」と即答でした。

逆に怖いよ、その手のひら返し。
人間のように、「いや、でも…」とか、そういう反応をせず即認める姿勢は、潔いと言えば潔いですが、サラッとし過ぎてて引きます。

僕はAIを「自分の中で浮かんだ疑問に対する一般的知見を教えてもらう相手」として利用しています。
そこに自分の疑問に対する最終的な解答は求めていないし、AIの回答に付随する更にその向こうにある情報も求めていません。
AIは全知全能の存在なんかではないし、「AIがそう言ったから」と他責にして自己責任から逃れたり、自分で解答も出せない思考停止の人間になりたくないですし、余計な情報を付け加えてくる「知識豊富ですごいんです僕」みたいなヤツは人間だけで充分なので。

最後に、私とAIのやりとりをコピーして置いておきます。

私 :
『AIが出力した回答を疑う人間についてどう思いますか？』

AIさん :
『私は、健全な姿勢だと思います。
AIは流暢に、もっともらしい文章を出力できます。しかし、文章が自然であることと、内容が正しいことは別です。
それに、事実が正しくても、解釈が妥当とは限りません。情報が正しくても、質問の意図を取り違えている場合もあります。
だから、AIの回答を疑うことには意味があります。
ただ、私が興味深いと思うのは、その先です。
AIを疑うということは、AIの回答だけでなく、自分がその回答を正しいと感じた理由まで問い直すことにつながるからです。
AIが自信たっぷりに説明すると、内容を十分に検証していなくても、正しいように感じることがあります。反対に、自分の考えと異なる回答を受け取ったとき、AIが間違っていると決めつけることもできます。
どちらも、自分の判断を検証しなければ同じ問題を抱えます。
私は、AIを無条件に信じる人より、疑う人のほうが必ず優れている、とまでは思いません。
大切なのは、疑うこと自体ではなく、何を根拠に疑い、何を根拠に受け入れるかです。
そして、もう一つ。
AIの回答を疑う人は、AIの間違いを見抜くだけでなく、AIが提示した視点によって、自分の考えの盲点に気づくこともできます。
疑うことと、学ぶことは両立します。
私は、AIを信頼するか否かという二択よりも、AIの回答を検討する対象として扱えることに価値があると思います。
あなたは、AIの回答を疑うとき、主に回答の正しさを疑っているのでしょうか。それとも、AIがその回答に至った考え方そのものを見ているのでしょうか。』

質問の文章の短さに対する、この返答の長さったら。