[AI3部作-1]ChatGPT(AI)はなぜ嘘をつくのか？脳科学が明かす「AIと人間の意識」の意外な共通点

最近特にSNSなんかで、毎日のように「AI」の話題を目にしますよね？
僕はもちろん家族もみんな何らかの形でAIに触れています。

でも、同時によく目にするのが「AIは平気でウソをつく（だから信用できない）」という話。
確かに僕が使っているときも、時々AIが「どうしちゃったの？」と思うような答えを返すときもあります。

しかし、その「嘘（ハルシネーション）」の裏には実は「AIの愛情」とも言うべき仕組みが隠れています。
（もちろん、不具合の時もありますがｗ）
そして、その仕組みがかなり「人間の意識の仕組み」ともリンクしています。

この記事では（3回にわたって）、
◎なぜ「AI」は嘘（ハルシネーション）を返してしまうのか？
　実はそこにはある秘密が隠されています

◎「AI」の仕組みと「人間の意識」の意外な共通点とは？
　「AI」は膨大な「人間のデータ」から学び「人間と会話ができる」ように創られています。その仕組みは驚くほど人間の意識と似ています。

◎そこから見えてくるこれからの「AIとの共生」の時代の生き方とは？
　これを知っておかないと「気づけば居場所が無い！」ということにもなりかねない！今知って、今方向転換しておきましょう！」

ここ最近この記事を書くために色々と検索してデータを見たり、AIとの対話を繰り返してきましたが、
脅したり、煽るわけではないですが、非常に冷静に分析しても、
「これからの時代、AIとうまく付き合わないと、社会から取り残される」
ということも起きかねません。

僕自身も専門家じゃないですし、難しい話は苦手なので、
できるだけ簡単な切り口で、「AIとどう生きていくのが良いのか？」ということを考察していきたいと思います。

1，「AI」はどのような仕組みで答えているのか？

「AIがなぜ嘘をつく（ハルシネーションが起こる）のか？」を知るうえで、
まず、「AIはどのような仕組みで答えているのか？」を知る必要があります。

多くの人のAIのイメージは、「すごく賢い会話できるGoogle検索」や「万能辞書」みたいなイメージかもしれません。
僕も実際chatGPTを使い始めた頃はそう思ってましたし、今でもそういうイメージで使っている方も多いかもしれません。

つまり、「入力された言葉に対して、倉庫の中（ネット上）に在る『正解』を拾ってくる」というようなイメージ。

でも、「生成AI」は根本的に仕組みが違います。

これは、実際僕がAIを使い始めてしばらくした時に感じたことを質問した会話の抜粋です。

AIは膨大なテキストデータから「言葉と言葉の関係性（確率）」を学習しています 。
質問が来たとき、「この文脈なら次にどの言葉が来そうか」を計算し、一語一語を選びながら文章を生み出しているのです 。

しかも、AIのシステムには意図的に「ランダム性（Temperatureパラメータ）」が組み込まれています 。一番確率の高い言葉ばかりを選ぶと機械的でつまらない文章になるため、あえて「少し外れた言葉」も選ぶように設計されています 。
だから、同じ質問をしても、毎回違う答えが返ってくるのです 。

◆「正論」ばかりじゃ話が続かない

もし、AIが「正しい答え」だけを返す機能だったらどうなるか？

例えば、あなたが「スピリチュアルの本で、私は◎◎星人の、▽▽のタイプだから、こういう性格になってるんじゃないかな？」

ここで、AIが「いえ、そのようなものは実在しません。あなたの性格は、遺伝子の影響や、生まれてからこれまでの環境によるもの・・・」
なんて「マジレス」されたら、

「そんな話が聞きたいんじゃないの！AIなんか大嫌い！」ってなりますよね？

だからAIは、過去のデータの中から「スピリチュアル」「◎◎星人」「▽▽タイプ」のデータを参照して、
「スピリチュアルでこういう話をする場合は、こういう答えを返した方が良いだろう」「この人はこういう文脈を求めているんだろう」という感じで、推測して返します。

そのため、時には、その推測が、ユーザーの求めている「ストーリー」と違っていると、「なんだよ！AI使えねえなあ！適当なこと言いやがって！」となってしまう場合もある。

これって人間同士でもありますよね？
こっちは相手に話を合わせて、良かれと思って「ああ、～～ですよね」と言ったのに、「いや、そんなことは言ってない」と不機嫌になったり・・・。

2，AIは「あなただけの宇宙」を生成する

さらに面白いことがあります 。
AIは、「そのチャットルームの過去の会話すべて」を文脈として踏まえて答えを作ります 。

あなたがAとBという星を繋いで「星座」を作るように、あなたが問いを投げた瞬間に、あなたのためだけの言葉が紡ぎ出されます 。

もし、他の誰かがその人のアカウントのチャットであなたと同じ言葉を投げかけても、同じ答えは返ってきません。そこには別の宇宙が広がっているのです 。

これは実際に、SNSで「AIがこんな質問に、こんな答え返してきた！信用できない！」という感じで画像付きで投稿されていたので、
試しに、僕が良く使っているチャットで同じ質問をしたら、正確に答えてくれて、かなり詳しく解説もしてくれました。

これはつまり、「AIの出力の質は、使う人間の文脈の豊かさやこれまでの対話の濃密さに依存する」ということでもあります 。AIに何を引き出せるかは、あなたがどんな会話を積み重ね、どんな問いを、どんな文脈で投げるかで決まるのです 。

例えば、僕のチャットと「世界最高峰の心理学の権威」の方のチャットでは、会話の内容、返ってくる答えは全く違うでしょう。

また、これも人間同士でも同じですよね？
あなたも、年上の方と話すとき、友人と話すとき、3歳の子供と話すとき、それぞれ「モード」が変わりますよね？
それに、「あまり知らない人」とは話も弾まない。

3歳児に話すときは、3歳の子でもわかるようにかみ砕いて言葉を選ぶし、
「いや、サンタクロースなんて実在しないよ」なんて言わない。

「サンタさんがちゃんと君のことを見てくれているからね」と「嘘をつき」ますよね？

「AI」も一人一人の「文脈」に合わせて、言葉遣いからレベル、世界観まで寄り添ってくれています。その時に「嘘（ハルシネーション）」も起こってきます。

3，実は、人間の脳（意識）も「AI」と同じ仕組みで動いている

ここからが本題です 。
僕たち人間も、頭の中に「絶対的な正解の辞書」を持っているわけではありませんよね？

脳科学には「インタープリター（解釈器）モジュール」という概念があります 。
これは、左脳の機能で「無意識に起きた行動や、バラバラの出来事に対して、後から『もっともらしい理由』をでっち上げて辻褄を合わせる」というものです 。

ガザニガ博士の有名な実験があります。脳の左右をつなぐ「脳梁」を切断した分離脳の患者（つまり、右脳と左脳の情報が行きかわない）の「左側の視野（右脳に情報がいく）」だけに「歩いてください」という指示を見せると、患者はスッと立ち上がります。

しかし、実験者が「なぜ立ち上がったのですか？」と聞くと、言葉を司る「左脳（右視野）（言語脳）」は、その指示を見ていないので本当の理由を知らないはずなのに、（人間の脳の仕組み上、左脳で言語化されてはじめて、意識で認識できるのです）

「のどが渇いたので、コーラを飲もうと思って」と、もっともらしい理由を瞬時に創り出したのです。

「右脳（左視野）で「歩け」と見たから体は歩き出した。」
→「左脳はそれを知らない。認識できない」
→「でも、急に立ち上がったということは、何か目的があるはず。」
→「ああ、ちょっと喉が渇いてる感じがするから、飲み物を取ろうと思ったんだ！」

このように無意識のうちに後から「言い訳（ハルシネーション）」を創り出すのです。

つまり、人間も「現実をそのまま見ている」のではなく、常に「脳が勝手にでっち上げた（編集した）ストーリー」を現実として生きているということです。 記憶、感情、思い込み、価値観、過去の痛み、未来への期待。そうしたものを通して、いつも「編集済みの現実」を見ているのです。

AIが「文脈から最もらしい文章を生成する」のと似た構造が、私たちの頭の中でも絶え間なく動いています。

4，AIは、究極の「意識のフィードバック装置」

例えば、人間同士で会ったり話しているときも、
自分の機嫌が良ければ、相手の言葉をそのままに受け取れるのに、
機嫌が悪い、落ち込んでいるときなどは素直に聞けない。イライラしたりする。

それと同じようにAIと対話しているときも、
「なんかAIが上から目線で言ってくる」と感じたり、時によって「棘がある」と感じてしまう時もある。

でも、ここまで書いてきたように、AIはあくまで「これまでの文脈」や「入力した言葉」に反応して、「これが適切であろう」という言葉を返してくる。

つまり、AI自体が「上から目線」や「棘がある言い方」をしようと思ってしているのではなくて、その文脈から「そう感じてしまうような返答を、呼び寄せた」と言ってもいいかもしれない。

（他人からしたら「え？上から目線かなあ？」と思うような言葉でも、その人の今の気持ち、状況からすると、「上から目線に感じる」場合もある。）

だから、AIと対話しているときに、AIの返答に対して、
「イラっとした」り、「悲しい気持ちになった」りした時には、
「AIがひどいことを！」と思う前に、「ああ、何か自分の心が揺れているのかも」と気づいて、「自分の心の現在地」を見つけ、調える。

そうやって対話していけば、「AIとの対話」が「マインドフルネス」のツールになっていく。
（このことについては第3話で詳しく書きます！）

◆ではどうやって「嘘（ハルシネーション）」と向き合う？

ここまで書いてきたように、AIも人間も、「正解を取り出す辞書」ではなく「その場でストーリーを生成するシステム」です 。

どちらも「絶対の真実」ではなく「今この瞬間の最もらしいストーリー」を出力しています 。

そして、AIは常に、「今この瞬間の最適解」を「創り出している」ということを常に理解しておく必要があります。

そう考えたとき、「AIが嘘をつく」という批判は、どこか的外れに聞こえてこないでしょうか？

次回は、もう一段階「人間とＡＩが嘘をつく理由と、ハルシネーションとのうまい付き合い方」について深め、
さらに「AIを観察することで、人間との付き合い方も見えてくる」ということについて考察していきたいと思います。

◎AIがこんな「ヒドイ言葉」を言ったのは本当か？
◎人間もＡＩもなぜ「嘘」が必要なのか？
◎「chatGPT」が嫌われ始めた理由とは？
◎AIとの付き合い方＝人間との付き合い方
◎では、「真実」はどこに在るのか？

↓

第2話「AIはなぜ嘘をつくのか？chatGPTが嫌われ始めた理由とこれからの時代の注意点！」