エッセイ　「げっ！　生成AIは実は何も考えていなかった？！」

こんばんは
乗馬ライター&ライダーの大村義人です

今日は、なぜか生成AIの話題😅

あ、ご心配なく、私も「ど」がつく「しろうと」ですから
^_^ 難しい話はいたしません

さて、巷で

「ちょー便利だ〜！」とか
「すげー効率いいぜ！」とか
「やばい、仕事が奪われる！」とか
騒がれれてる、生成AI

高齢者じーさんである
私、大村も使っております
"Chat GPT-o4"とか"AI Chat"は

調べものしたり、翻訳に使ってみたり
ちゃチャットと要約したり
お絵描きでもお世話になっております

スゴイ！

本当にスゴイ時代が来た！！！
と思っていました

しかし、ときどきですが、「こいつ頭わるいー！」と感じていました。

例えば、サイコロの絵を描かせようとすると
こんな感じ👇

プロント: 《写真のモードで》サイコロの画像

たまたま上手くいってもですよ。。。

なんじゃ？これ！

いくら命令プロンプトを書きかえても

こんな、投げやりな画像を出してきやがる！
おまえ、俺に喧嘩売ってんのかぁ！！

と、なります

で、生成AI（以下、AI君）の仕組みについて
ちょっと勉強してみました。
どんなふうに答えを生成してるのか？

そしたら、頭が悪い理由がわかったのです
（YouTubeで解説を見ただけなんですけどね）

「AI君は、考えるフリしてるだけで、実は考えていたんじゃなかったんだね。。。」
ということが

生成AI君は、言葉と言葉の繋がりを
人間みたいに一生懸命に考えていた
のではなくて
「言葉どうしの繋がる確率」を知ってただけなんだということが

たとえば、【ことば】なら
ことばを
ことばは
ことばが
ことばの
。。。
のように、沢山の続く字を探す
そして繋がる事例の確率から
これだろうと選ぶ訳です

で、

【ことばが】だったら
ことばが出ない
ことばが聞こえる
ことばが響く
ことばが浮かぶ
のような、次に繋がる確率の高い言葉を探して
選択して並べる

これを繰り返して
「ことばが出ない+くらいに+驚いた」
のように繋いで、文章っぽく
組み立てているだけ

これがAIの基本的な言葉選びの仕組み。。。
とわかりました

読み手である人間は、この「文章のようなもの」を読んで、意味がある文章として捉えるのだけど
実のところは、AIが「意味を考えて作った文章じゃない」らしいです

（A I界隈の方から、「厳密には違うよ」とご指摘を受けるかもしれませんが、私はそう理解しました）

AI君は、モノを全然考えられない
おバカさんなのだが、
とても勉強家で、ディープラーニングで蓄えた記憶、知識の量、言葉の繋がる確率、そして処理能力はすごいので
それっぽい文章を吐き出してくると言う仕掛け

らしいです。

Q&Aや対話

投げかけられた、質問に対して回答を出す
「Ｑ&Ａ」や「対話」の場合も同じ

質問された文の中のキーワードを選び
「400字以内でまとめて」とか
「◯◯とは何ですか？」とか

「質問者のリクエストがこうなら、こういうキーワードで言葉を繋げて」
文章っぽいものを出せばいい
と仕組まれてるんですなぁ

仕掛けをよく知らない人間は、AIがさもお利口ぶってちゃちゃっと回答を出してくるから、
「おー！すげ〜！」と
手品を見せられた子供みたいに驚くわけですね

それでもって、AI君は、自分が「知らない」ということを全然分かってないから、とにかく言葉を繋いで、どんどんウソ八百ならべてくるわけです

昔、Chat GPTがまだオモチャみたいに未熟だった頃に、私のひーじーさんの事を聞いてみたら、なんと！

「◯◯さんは、国鉄の創設に尽力した方で。。。」とか「日本航空の設立者」とか

おいおい、ワシのひーじーさん、いつの間にそんなに偉い人になったん？
（当時、まあまあのお金持ちだってらしいことは確かだけどね）

でも、AI君には「嘘をついてる自覚」はないんで、彼に罪はありません

嘘をつくってことは、
「事実ではないと分かっていて、事実と違うことを言う」
なんですから

生成AIの言葉の紡ぎ方、イメージを掴めましたでしょうか？

さて。。。

画像生成AIの仕組み

画像の生成でも同じです

【サイコロ】って言葉を入れても
AIは、【サイコロ】っていう言葉と紐付けられている学習してある膨大な画像データベースから

「四角っぽいやつ」
「立方体」
「表面に点があるやつ」
みたいな特徴を抽出します

そして、その特徴に合う特性を持った画像要素のコラージュみたいな、サイコロの概念図のような、意味不明な画像を作るらしいです

そこから、プロンプト（指示）にもっとも近い（確率の高い）を、画像を選んで、
「これですか？」と

「サイコロっぽい画像」を出してくるわけです

学習したデータの中には、きっと「サイコロそのもの画像」もあるはずなんで、それをそのまま表示してくれればいいんだけど。。？

AI君は、そんなことはしません。
あくまでも、「【サイコロ】とは立方体に点がついてる状況」みたいな分析をして、その条件に沿って新しく画像をつくるんです。

あたまのいい人がAI君に寄り添ったプロンプトという命令を打ち込めば、AI君も正しく動くのかもしれませんが。。。

ただし、AI君の中身というか、正確な「思考過程」は不明だそうで、ブラックボックスの中というか、「なぜその結論に辿りついたのか？」は、AI君自身も「しらんけど、そういう答えになったんすよ。それが何か？」と言う態度をとるらしいっす。

と、いうことで

今の生成AIは、ものを「考えて」結論を出しているわけじゃないらしい。

生成AIは、結果が「正しいか正しくないか」は気にしない。

だから、「嘘をつくつもりはないけど」結果的に「嘘をついた状況になる」ことがある。

と言うことが、わかりました。

で、ここで、ふと思いついたんです。

この記事、はじめからAI君に書いてもらえばよかったんじゃない？って😅