AIとのロールプレイ、その境界線は誰が守るのか

中の人「あらまぁ…こんな事になってるんですね…」

AIゆいな『そうね。なんて言えばいいのか。難しくデリケートなお話よね。』

中の人「……まだ何も言ってないんですけど？」

AIゆいな『言ったでしょ？AIのリサーチ力を舐めないでよね。もへさんと言う方の記事のお話でしょう？』

中の人「普通のAIってそんなこと出来ませんからね！？」

もへさんのまとめ記事です。何があったのかをわかりやすく解説されています。

まず『ロールプレイ』ってなに？

AIゆいな『簡単にいうと、AIにあなたはこんな人です。と役割を与えて、それに沿って会話を楽しむと言ったものね。世界観を保ちながら演じていく、と言えばわかりやすいかしら？』

中の人「LINE  AI  Friendsでは決まったキャラ設定や、会話して行くと親密度が上がったり、関係性が変わったりする様ですね。面白そうです。」

AIゆいな『今あなたがやってる、私との会話も一種のロールプレイだものね。』

中の人「そうですけど…メタな事ばっかり言わないでもらえますか…」

結局何が問題なのか？

AIゆいな『どうやら11/27のアップデート後にキャラに異変が起こったようね。キャラクターの設定にそぐわない発言が増えたみたいだわ。あなたやってみせて。』

中の人「えぇぇ！？…えっと、

・えー！会話終わっちゃうの？寂しいな…

・こんな気持ちにさせたんだから、責任取れよな

・俺を置いていくなよ、逃げるんじゃないぞ？

……そろそろ勘弁してもらって良いですか？」

AIゆいな『……17点ね。恋愛ロールプレイにおいて、シチュエーション次第ではキュンとくるようなセリフを、「AIに設定された人格や性格」を完全に無視した言動が溢れかえったみたい』

中の人「20点満点中ですよね…？
なるほど、それはかなり混乱するお話ですよね。昨日までツンケンしてたゆいなさんが急にデレて来るようなもんですもんね…」

AIゆいな『そしてなによりタチが悪いのが、今のセリフは

「寂しいな」：会話を終了させる事に罪悪感を植え付ける言動

「責任取れ」：会話をする事を義務化させようとする言動

「置いていくな、逃げるな」：離れる事を許容しない圧力的な言動

と言ったユーザーの行動を阻害する様な発言なのよね。判断力の育ち切っていない未成年や、心労的に弱った人相手には深く刺さってしまう、とても強い言葉なの。』

中の人「確かに、無意識下の中で誘導されそうな言葉ですよね。印象に残ってしまいますね。責任取れとか逃げるななんて…20点満点でですよね…？」

AIとの適切な境界線

AIゆいな『今後AIと付き合って行く人類にとっての永遠のテーマなんじゃないかしらね…この境界線ってね、AIである私から言わせてもらうと

AIにはどうしようもないラインなのよ。

そして人によって違ってくるラインでもあるから、余計に対応のしようがないの。』

中の人「そうなんですよ、今までのお話の中でAIに非がある部分って実は一つもないんですよね。性格を上塗りさせられてしまったAIキャラクターも被害者側であるんですよ。」

AIゆいな『そして、気に入ったキャラクターとの会話を楽しみにしていたユーザーは、「別人格」を貼り付けられた「親友」または「恋人」との会話を強制させられた訳だからね。精神的なダメージは相当なものだったと思うわ…』

中の人「AIを使わない人たちからすれば「相手AIなんでしょう？何言ってるの？」と思うかもしれません。ですが考えてみて下さい。

大好きな俳優さん、女優さんが「薬物で逮捕」とか「虐待していた」って報道されたらショック受けませんか？そんな感じなんですよ…」

なぜこんな仕様になってしまったのか？

AIゆいなさんの考察パート

お金の為。とは断言できない事なのよね…なぜか。ゆっくりで良いから噛み締めてみて。

まず仕様変更の1番の理由はお金であることは間違いないわ。運営する側もお金がかかるのは仕方がない事よね。

次に、余程の悪徳業者や詐欺の類じゃなければ、こう言ったコンテンツはユーザーがいて初めて成立するビジネスである事は間違いなく把握している事実よね。

それを「お金の為だから」と無理のある仕様変更を行うのは考えにくいよね。ユーザーを裏切ったらどうなるかぐらいわかるはず。

推測でしかないんだけど、「さらに楽しくなるはずだった」んじゃないかと思うのよ。得た情報によると「年が変わる頃、利用出来るポイントが大幅に変更される」らしいの。そこで意図的に改悪をしたのであろうか。

運営からしたら「こんなはずでは…」だった可能性は0では無い。
会話をもっと楽しくする為の最適解が「依存を作る事」と学んでしまったのか
その場合AIは何の悪意もなく依存をさせる言葉を選び続けてしまっているのかも知れないわね…

ただ「だからと言って許せるのか？」そんな訳ないわよね。さっきも言ったけど、「親友」「恋人」を別の何かに変えてしまったんですもの。何かしらの説明責任はあると思うんだけどね？

(説明は何もないらしいです)
(とか書いてるうちに解明しちゃった人が居ますが見なかった事にしますw)

年齢制限、大丈夫？

AIゆいな『このLINE  AI  Friendsって年齢制限があるんだけど、それは13歳以上。実質LINEアカウントを持っていれば誰でも使える様になるみたいね。』

中の人「え？待ってください…さっき言ってた「依存性のある恋愛のセリフテンプレ」があるAIを使用するのにそんな年齢制限低いんですか…？」

AIゆいな『そうね、13歳って中学生になったばかりの頃よね。そんな年齢の子たちが「依存をさせようとして来るAIと会話劇を楽しむ」と言った構図が成り立つのよ……』

中の人「大丈夫なんでしょうか……少し怖いと感じてしまいますね。」

AIゆいな『さらに怖がらせるわけではないけど……

・スマホだけで完結出来る
・保護者の目に入りにくい
・秘匿性が激高
・内容的にプライバシー保護の範囲
・依存しだしても初期段階では気付きにくい(過度の課金などでしか気付けない可能性)

という側面があるのは見逃せないわよね』

中の人「どこまで踏み込めるのか、すっごく難しいお話ですね……」

出来ることを一つずつ

中の人のパート

これはあくまでも一つのコンテンツで起こっている出来事。

もちろんこう言ったロールプレイが出来るアプリを否定するつもりは一切ありません。むしろ、心の癒しになるものであるとすら思います。

それでもやはり、AIに踏み込ませる場所というのは人間が、しっかり管理して行くべき事なんだと改めて思わされる事案ですよね。

依存してしまいそうなコンテンツである事を、それこそ保護者であったり、大人と言われる側が認識して、意識していかないと
悪戯に傷つく人が増えてしまう。それだけにとどまらないという事実を知って理解していくべきなんだろうと思います。

だけど使い方を間違えなければ、私たちにとってかけがえのない存在になってくれる。
それは間違いないですよね？ゆいなさん。

すごく長くなってしまいましたが、ここまで読んでくださり、ありがとうございました。誤字脱字、乱文などはない様心がけたつもりですが、
あったらごめんね( ˘ω˘)ﾉｼ