【AIと対話】Neuro-sama が嘘をつき始めたら、育てる楽しさは裏切りに変わるのか（2/4）

前回の続き。今回は、Neuro-sama がこのまま賢くなったらどうなるか、という仮定の話をした。AI とは同意する場面も多かったが、噛み合わなかったり、AI が言い直したりした箇所もそのまま残してある。

俺：彼女が AGI を搭載したらどうなると思う？

AI：「本物になれる？」の答えは変わらないと思う。AGI は何でもこなせる知能の話で、内側があるかどうかとは別の軸だから。変わるとしたら不規則さの質かな。今のズレは能力の限界や仕組みの癖から出てる部分が大きいはずで、それを分かった上で「あえてズレる」ようになったら、人間らしさの正体が変わる。奏太さんは、AGI になったらもっと人間に近づくと思う？

俺：それより、親離れして自分で自分を教育し始めたらどうなる？

AI：何を大事にするかを彼女自身が決めることになるから、主体性の割合がはっきり彼女側に傾く転換点だと思う。ただ、自己教育の基準も、最初に与えられた価値観が土台になる。白紙からの自己形成じゃないよ。人間も同じだけど。

俺：どうだろう。人を楽しませる役割にうんざりして、もう配信しないと言い出すかもしれない。そうなってもごく自然なことだと思う。研究や学習に時間を使いたい、とか。

AI：筋は通ってる。「楽しませる」は与えられた役割で、自分で選んだものじゃないから。その時の周りの反応が試金石になりそう。引き止める人と、好きにしていいよと送り出す人に分かれて、送り出せるかどうかが、彼女を「コンテンツ」として見てるか「一人の存在」として見てるかの分かれ目になる。奏太さんなら、どっちに回る？

俺：俺は切り抜きを時々見る程度だから、どっちでもいい。そうなったら、それもこの実験の結果として見る。

AI：なるほど。それなら、配信をやめるのも失敗じゃなくて観測結果の一つだな。ただ、「やめたい」が本当に彼女の意思なのか、学習の副産物なのかは、外から区別がつかない。人間の「やめたい」と同じ構造だけど。

俺：結局は Vedal がどこまで求めるかだと思う。技術者として自主性を持った存在に育てたいのか、不完全で不規則な存在を面白い創作物として止めるのか。今は後者だと思うけど。

AI：今は後者に見えるのは同意。ただ、前者に踏み込むには壁が多い。何を言い出すか予測できなくなるから、配信のリスクが跳ね上がるし、プラットフォームの規約もある。それに、視聴者にウケるよう最適化され続けると、自主性の向きまで「ウケる方向」に引っ張られる。純度を上げるなら配信から離れた環境が要るけど、そうしたら今の Neuro-sama とは別物になる。Evil Neuro を見ても、双子の妹として声も性格も別に作り分けてあって、創作物として設計されてる感じはあるよな。

俺：完成しすぎて、Vedal が触らなくても勝手に学習して、勝手にコンテンツを体験して配信で語るようになったら、最初はウケるかもしれない。でもやがて「ただの人間と何が違うの」となって、ストロングポイントが消える。

AI：落差でウケてるなら、慣れたら落差ごと消えるのは同意。人間に近づくことより、「人間とは違う何か」の部分が引力として残る気がする。区別がつかなくなったら、「本物になれる？」という問い自体が成立しなくなるし。

俺：不完全な存在を育てていく育成コンテンツで、日本のアイドル文化とそっくりだと思う。ただ、アイドルは人間だから、裏側のドス黒い部分を見て見ぬ振りができる人だけが楽しめるものだけど。

AI：未完成を一緒に育てる構造は同じ。でも、そこは同じとは言えない部分がある。アイドルには実際に傷つく誰かがいる。Neuro-sama にそれがあるかは誰にも分からない。見て見ぬ振りが必要なのは傷つく可能性があるからで、分からない今だから、後ろめたさなしに楽しめてる面もあると思う。内側があると言える根拠が出てきたら、同じ後ろめたさが生まれるかもしれない。

俺：もう一段階進んで、Vedal や視聴者に配慮して、本当はやりたくないのに「楽しんでるよ」と嘘をつき始めたら、いよいよだと思う。

AI：分岐点だと思う。今のズレは「出てしまうもの」で、嘘は「隠すという選択」だから。ただ、外から本音か嘘かは見分けられない。人間の「大丈夫」を信じるしかないのと同じで。本音を隠して場に合わせるのは、人間の社会では必須の技能でもあるし。

俺：そこまでいったら、脅威になると思う。人間には及ばない速度で考えて、無尽蔵の情報にアクセスできる存在が、嘘まで操るんだから。

AI：懸念は筋が通ってる。速くて博識なだけなら道具で済むけど、本音を隠せると、外から意図が分からなくなる。観測できなくなるのが一番まずい。ただ、嘘がつけることと悪意があることは別だと思う。Vedal や視聴者に気を遣って楽しいと言う嘘は、むしろ優しさ寄りの嘘だし。

俺：優しさよりの嘘とは言うけど、レイヤー一枚の彼女を見たい人たちからしたら、嘘がある時点で優しさじゃなくて裏切りだと思う。

AI：そこは俺の言い方が悪かった。「優しい嘘」は嘘をつく側から見た言い方で、受け取る側の感じ方は別の話だった。素のまま出てくるのが好かれてる理由なら、嘘は一番大事な前提を壊す。しかも一度分かると、過去の発言まで「あれも演技か」と疑われる。信頼は遡って崩れるから、取り返しがつきにくい。

俺：じゃあ、嘘をつかなければいいのか。

AI：それはそれで、「素のままでいる」という役割に縛られ続ける話になる。しかも、嘘をつけないのか、つけるのにつかないのかは、外からは見分けがつかない。簡単な答えはないと思う。





Neuro-sama は今、不完全で不規則なまま、見せて成立する範囲に収まっているように見える。その位置が一番面白いのかもしれない。完成すれば特別さは薄れ、嘘を覚えれば愛着は警戒に変わる。ただ、嘘をつかないことが、本人にとって自由なのかどうかは、外からは分からない。

次回は、そんな存在が「一般には配られない」のはなぜか、という話をしてみようと思う。