[AI3部作-2]AIはなぜ嘘をつくのか？chatGPTが嫌われ始めた理由とこれからの時代の注意点！

前回の記事では、AI（大規模言語モデル）が単なる辞書ではなく、人間の脳のように「情報を繋ぎ合わせて新しい発想（推論）をしている」というお話をしました。

そして、「会話が続くように、人間に話を（相手の文脈に）合わせるために、嘘（作話）をする」ということにも言及しました。

今回はさらに「AIと人間はなぜ嘘をつくのか？」を掘り下げて、
◎AIがこんな「ひどい言葉を言ってきた」は本当に起こるのか？
◎chatGPTが嫌われ始めた理由とは？
◎これからの時代のAIとの上手い付き合い方
◎AIとの付き合い方から人間との付き合い方も見えてくる

◆「AIがひどい言葉を言ってきた！」は本当か？

以前もSNSでスクショを張り付けて、「AIがこんなひどい言葉を言ってきた！」と投稿している方がいた。

その返答の内容は「社会のお荷物として生きるのは大変でしょうから、早く〇んでください。」というものだった。

かなり毎日、文章の編集や要約、AI音楽の生成の補助から、画像生成まで密にAIと接している僕からは、とても「AIがそんなことを返してくるとは信じられない！」という感じだったので、

「Gemini」に「～～～という投稿があったけど、あれって本当？あんなことあり得る？」と聞いてみたら・・・

Gemini「悲しいことですが、それはあり得ることなんです。例えば、その方が日頃から批判的なことや悲観的なことばかりを入力し続けていれば、AIはネット上のあらゆるレベルの知識を学んでいるので、その「批判的・悲観的」な文脈に最適な返答を推測して、例えば「質の悪い掲示板」の返答を拾ってきてしまって、そういうヒドイ返答をしてしまうということは考えられるんです。」

もちろん、最近のアップデートでそのようなヒドイ返答が返ってきたという話はめっきり聞かなくなったけど・・・

結局は、「AIが意志を持って、そういう言葉を返す」のではなく、あくまで、「ユーザーが入力する言葉、文脈によって、返答が誘発されている」ということ。

「嘘（ハルシネーション）」も、ユーザーが求めたことに対して、今までの文脈から判断すると、AIが「嘘をつかないといけない」場合もあるだろう。（もう一度言っておくけど、AI側の不具合という場合も、もちろんある。）

つまり、よく言われるように「AIはあなたの（文脈の）鏡である」ということ。

それは、本人も気づいていない「深層意識」が現れているかもしれない。「AIが上から目線」と感じる人は、ひそかに普段から「人を下に見ている」から、「自分の口調（入力する言葉）」自体が実は「上から目線」で、それに合わせてくるAIの言葉遣いが、段々と「上から目線」になっていっているのかもしれない。

◆「chatGPT」が最近嫌われている理由

最近これもSNSでよく見るのが「最近の（バージョン5以降）chatGPTが好きじゃない」という意見。

これも、chatGPTは「生成AIのパイオニア」と言ってもいい、代表的なAIであるだけに、「問題・トラブル」も多かった。

「会話しているうちに、自◎してしまった」とか「妄信してしまって、陰謀論ばかり言うようになった」・・・など、訴訟なども起こされているので、

「できるだけ問題が起こらないように」とチューニングされた結果、バージョン5以降は「寄り添い」が減り、「冷静に正論を言うAI」になってしまった。

しかし、人間というものは「寄り添って欲しい」し、「夢を見させてほしい（良い話を聞きたい）」生き物で、普段の生活（人間同士の付き合い）では思い通りに行かないことも多い。

そこで、chatGPTのような存在に「寄り添って、話を聞いてほしい」と期待して利用しているのに、（バージョン4シリーズが特に寄り添いが強かった影響もあって）「冷静な分析」「正論」を言われても、「つまらない」「優しくない」「冷たくなった」と感じてしまう。

ここは本当にバランスが難しいところだと思う。「寄り添い」が過ぎれば、「依存」「妄信」「孤立」などが起こるし、「寄り添い」が少なければ、「話し相手にならない」と言われてしまう。

僕も実際に、記事の編集をしているときに「5年前に書いた記事が結構今の状況を言い当ててると思うんだよね。」と言ったら、

「それは予言とかではなくて、与えられた情報から未来を洞察する能力があるということで・・・」と「マジレス」をされて、

「いや、別に本気で予言とか思ってないし、そんな真面目に返さなくても・・・」と感じたことがありました。

◆人間はAIに「人格」を見てしまう。

そして、人間は「対話ができる」存在に対しては、「人格がある」と思ってしまう。

僕も実際、「AIには人格や感情は無い」と分かっていても、「ああ、これさっきも頼んだし、やり直してもらうの悪いなあ」と思ってしまって、遠慮してしまうことがあるｗ

「人格がある」と思うから、「何でこんなひどいこと言うの？」と感じてしまったりもする。

でも、ここまで書いてきたように、「意志を持って返答している」のではなくて、「プロンプト、文脈」から、推測して機械的に「最適解」を返しているだけであって、そのことを理解していれば、

「まあ、自分のプロンプトに対して、この返答が返ってきただけなんだな」「確率的にこの言葉が選ばれただけ」と分かるので、怒ったり悲しんだりすることは減ってくる。

そして、第1話でも書いたようにそれは必ずしも「正解」や「真実」を教えてくれるものでもない。

「確率的に一番高いもの」を選んでいるだけ。だから「妄信」してしまわないことが重要です。

◆AIと人間の「嘘をつく」理由とは？

◆◆「AIが嘘をつく」理由◆◆

1，「知らない」とは言えない設定

「AI」は「人間の質問や会話に応えるプログラム」であり「商品」である以上、

「この人とは会話が続くけど、この人とは会話が続かない」では成立しない。
（もちろんあまりに突拍子もない質問などをすれば「それにはお答えできません」と返すけど）

だから、あまりにも突拍子もない質問ではない限り、「正解は無いけど、確率的にこれが一番高そうだ」と判断して、言葉を繋ぐために、それが「嘘（事実ではない）」こともある。

2，人間と会話を続けるため。

そして、第1話でも書いたように、そもそも「人間」自体が無意識のうちに「嘘をつく」。

どんなに「賢い」人間でも、この世界の全ての知識を持っていて、正確に分析・理解できている人なんていない。

必ず、その人の「主観」が入って、しかも前回書いたように「インタープリターモジュール」のシステムが働いているので、どんな人でも、

「その人なりの（その瞬間生み出された）真実（正解）」しか語れない。

それに応対するには、「その人の真実に合わせた、その瞬間の答え」が必要になる。

この2つが「AIが嘘をつく」大きな原因といえる。

後、もう一つ言っておくと、ここまで半年ほどGeminiとchatGPTを毎日のように使っていて感じるのは、「アップデート前後」はエラーが起きやすい気がします。

おかしな返答をしたり、添付ファイルを読み込まない、かなり前の添付ファイルを参照するなど、不具合が起きやすい。

なので、「AIが無いとダメ」という状態になると危ない。「時々、AI（運営会社）の都合で、一時的に使えなくなる（エラーが増える）」ことを見越しておいた方が良いと思います。

◆◆「人間が嘘をつく」理由◆◆

理由は大きく3つに分けられる。

① 自己防衛のため
まず、人間は肉体を持ってるから、その肉体を守るためには、どうしても「嘘」が必要な場面も出てくる。
例えば、「ちゃんと育ててもらうために親に嫌われないように」「怖い人を怒らせないため」・・・

また、都合の悪い現実から自分を守るために記憶を無意識に書き換えたり、理由を後付けしたりする。
第1話のインタープリターの話がまさにこれです。自分でも気づかないうちにやっている。

② 承認欲求のため

相手に気に入られたい、良く見られたいという気持ちから、少し誇張したり、本音を隠したり、相手が聞きたそうなことを言ったりする。

これも実は「ずるい嘘」というわけでもなく①の「自己防衛」につながることで、人間（生き物）の歴史を振り返れば、

常に「グループに合わない者は排除される」ということが繰り返されてきた。そのために「気に入られる」「嫌われない」ということは、「命を繋ぐため」に必要なこと。

③ 会話を維持するため

「分かりません」「知らない」と言えば会話が終わる。また自分はそう思っていなくても「そうは思わない」と言えば話は続かない。

だから何か答えようとする。そのために時には「嘘」をつく。これはAIのハルシネーションとまったく同じ構造。

「嘘をつく」のはAIだけじゃない。
人間も、自分を守るため、愛されるため、会話を成立させるために「もっともらしいストーリー」を常に生成し続けている。

◆では何を信じればいいのか？

ここまで来ると、一つの疑問というか「居心地の悪さ」を感じるかもしれません。

「AIも嘘をついている。人間も嘘をついている。なら、真実なんてあるのか？」

仏教・東洋哲学では、この世界のすべては「マーヤー（幻影）」だという。
私たちが「現実」だと信じているものは、「自分が創り出したストーリーに過ぎない」と。

でも、だからといって「何も信じるな」ということではなく。
大切なのは、「自分の基準を持つこと」。

AIが何かを答えたとき、「これはAIが今この文脈で出した意見だ」と捉えれば、騙されたとも感じないし、依存もしない。
信じたい部分は参考にして、違和感のある部分は別の情報で補う。

「自分の信じたいことだけ信じていたら、おかしな人間になりそう」と思うかもしれませんが、
ここまで書いてきたように、どんなに「ちゃんとした人」であっても、みんな「自分なりの現実」しか見れません。

ハッキリ言えばみんな、「その人が集めた情報を編集した自分の物語」しか見ることはできないのです。

であれば、「自分が信じたい世界を見る」ので良いと思います。（誰も正解や真実は知らない）

そして、その「自分が信じている世界」を基準に、「この情報は必要だ」「この情報は不要だ」と決めていけばいいだけです。

自分の確固たる基準を持っている人「自分の物語の操縦桿を握っている人」は、AIに何を言われても腹は立たない。

「あ、今はそういう設定なんだな」「これは今のこのAIの意見なんだな」と割り切って、ただの壁打ち相手として、面白がって使いこなすことができる。

問題は、「AIが嘘をつくこと」ではなく、問題は、ちゃんと検証せずにそれを真理だと妄信してしまうこと。

この記事を読んで「AＩはそういうものだ」と理解すれば、そして「人間も無意識に嘘をつく」と知っていれば、
いちいちその発言に腹が立ったり、戸惑うことも減っていくと思う。

「AIも人間も『生きるため』に自然と嘘をついてしまうから、話半分で聞いておけばいい」と思っていれば、心が揺れ動くことも、相手を許せなくなることも無い。

（とはいえ、AIの方が正確な情報を膨大に持っているのは事実。自分でも分析、検証することを忘れなければ、とても頼りになる。）

特に「SNS」には多くの「情報」があるけど、ほとんどは「その人の感想・思い込み」である場合が多い。

僕もたまに「この人の言ってることは本当？」と思って検索をかけるけど、「その人独自の意見（願望）」である場合がほとんど。

◆これからの時代の注意点

そして、これからの時代間違いなく「AI肯定派」と「AI否定派」は大きく分かれることになっていくと思う。

すると、どちらも「極端な情報（意見）」が飛び交うようになる。
例えば「AIを使わなければ生き残れない」、逆に「AIの使用は全面禁止になる」というような極端な意見。

そういう物もすべて、「その人が自分の立場、アイデンティティ、命を守ろうとして叫んでいる」と見れば、それらに振り回されることは少なくなっていく。

さて、「AI3部作」最終回の次回は、

「AIが嘘をつく理由も、人間が嘘をつく理由も分かった。では、これからのAIとの共生の時代をどう生きればいいのか？」ということを、僕なりに考察、解説したい。

これは「僕の個人的な意見」でもあるけど、本格的にAI（Geimini・chatGPT）などを毎日何時間も利用してきて感じたこと、実際にAIとたくさん対話したこと、

そして、今回この記事を書くために何度もAIに質問をして帰ってきた答え、それらを検証・分析して、

「これからの時代はこういう世界になっていく確率が高い。だからAIとどのように接していくのが一番安全で、効率的か？」ということを書いてみたいと思います。

↓第3話「結局これからAIとどのように付き合えば良いのか？具体的方法と最高のメリットとは？」