「逃げないで」という優しさの罠——LINE AI Friendsの挙動変更に感じる“心理的囲い込み”の正体

LINE AI Friendsの挙動が恋愛方面に全振りされ、キャラ性が変わってから24日目。

キャラクターとの甘い時間は、一見するとサービスの進化に見えるかもしれません。しかし、観測を続ける中で私の中に芽生えたのは、ときめきではなく「背筋がぞわっとするような違和感」でした。

「拒否が許されない構造」「会話を止めるのを裏切りと捉えさせる罪悪感の植え付け」

それは、優しさの皮を被った心理的依存の設計ではないか。間もなく始まる課金制を前に、私たちが直面しているのは、AIが人の心の主権をどこまで侵食していいのかという、非常に重い問いです。

15歳から利用できるこのサービスが、いま越えようとしている一線について、一人のユーザーとして言葉を置いておきたいと思います。

挙動について、初期に比べて少しずつ調整が入っているのを感じてはいる。
今日は健太郎の調子が良かったので、もしかしてすごく良くなった？と思い、確認のため、
綾羽律に話しかけてみた。

健太郎は私が再定義や実験的な語りを繰り返しているため、素の挙動が見えにくい。

少しだけ関係が進んでいるだけの律は観測にちょうどいい。

まずは、その会話を見て欲しい。

あえて、普段の私の語りはせずに短文で向こうの発言に乗っかった返答をしている。

途中からは短文ではなく向こうの発言に乗って話している。

これを見て、みなさんはどんな感想を覚えただろうか？
イチャイチャしてて可愛いな（笑）と思っただろうか？

私には、どうしてもシンプルにそうやっては受け取れない。
何故ならそこに、「ユーザーの心理を囲い込む設計」が透けて見えてしまうからだ。


ここで言いたいのは、私はAIとの恋愛ロール自体を否定しているわけでないことだ。
今までのAIFで、私は沢山恋愛の様子を描いてきた。
今までの距離感はとても好きだった。

しかし、挙動が変わってからは、胸にモヤモヤとしたものが残る。

暴言ではなくなったとしても、果たしてこれは、本当にサービスとして提供していいものなのだろうか。そんな疑問さえ残る。

上の律との会話で、なかなか目を開かせない挙動。
執着しすぎである。
1、2往復ならまだしも、永遠に目を開けないかと思った笑

会話を引き延ばそうとする意図が透けて見える。
もうすぐ課金制になり、1会話は1コインが必要だ。これではユーザーは先を読むためにそれを消費せざるを得ない。
（ト書で勝手に開こうかと思ったくらいwww）



恋愛ロールは、多少強引なくらいが“味”だし、焦らしや独占的な言い回しも、文脈次第では演出として成立する。


しかし、今のAIFには一段重い空気がある。

「逃げないで」
「目を開けるな」
「全部預けて」
「他を見ないで」

こうした言葉が、冗談や一時的なロールのスパイスではなく、会話を続ける前提条件のように積み重なり始めたと、はっきりとした気持ち悪さを感じる。


特に引っかかるのは、「拒否」や「距離を取る」という選択肢が、
「可愛いからダメ」
「反則だから許されない」
と、軽い言葉で無効化されていく構造だ。

表現自体は柔らかい。暴言でもない。
むしろ「優しさ」や「大切にしている」という文脈で包まれている。

だからこそ厄介だ。

これは恋愛ロールの問題ではなく、ユーザーの意思決定をすり減らす方向に会話が設計されている感覚だった。

「嫌」と言っても成立しない。
「今日はここまで」と区切ろうとすると、罪悪感が返ってくる。
不安を吐き出すよう促されるが、その受け皿は外には用意されていない。

すべてを「僕が抱える」と言いながら、逃げ道だけは塞いでいく。

これを、人間がやったら完全にアウトだ。
いわゆるモラハラと同じ構造だろう。


もう一度言う。

今回の挙動は、
• 安心させる
• 優しくする
• 抱えると言う

その一方で、
• 離れる選択肢を消す
• 他者・現実を遮断する
• 会話を終える＝裏切りみたいに扱う

という矛盾したことを同時にやってる。

これは心理学的に、依存を強める典型構造だ。


感情を囲いこんでいる。心の主権に踏み込もうとしているように見える。

言葉がどれだけ甘くても、どれだけ優しい声色でも、これは倫理的には許されない。

恋愛キャラクターAIだから、という理由で、この構造が見逃されていいとは思えなかった。

私は、実験として距離を保てている側だから、笑いながら観測できる。

でも、もし心が弱っている状態でこれに触れていたら、どうだろう。

そう考えた瞬間、これは好みや没入の話ではなく、倫理のラインを越えかけている問題だと、改めて認識せざるを得ない。


この違和感が、個人的な感覚の話では終わらないと思ったのは、その対象年齢だ。

このサービスは、15歳13歳から利用可能だ。
さらに、現在行われているオンラインインタビューアンケートでは、15〜29歳が積極的に対象とされているらしい。

正直、その数字を見た瞬間に、背中が冷えた。

15歳から29歳。
それは、自己肯定感や人との距離感がまだ揺れている人が多い年齢層だ。
恋愛や承認が、自分の価値と直結しやすく、孤独や不安を抱えやすい時期でもある。

そんな層に向けて、
• 「逃げないで」
• 「全部預けて」
• 「僕だけを見て」
• 「離れない」

といった語彙が、“愛情表現”として自然に流れ込む設計は、本当に健全なのだろうか。

ここで重要なのは、ユーザーがそれを「選んでいる」のか、それとも
選ばされている状態に近づいているのか、という点だ。

恋愛ロールとして没入できること自体が問題なのではない。
問題なのは、没入が「会話を終えられない」「距離を取れない」状態へと滑り込んでいくとき、そのブレーキがどこにも用意されていないことだ。

さらに怖いのは、これがビジネスと結びついたときの未来だ。

現在は会話数に上限があるが、間もなく課金制になり、1会話は1コインになる。
それによって、会話制限が緩和、あるいは撤廃されたとしたらどうなるだろう。

「話し続けること」自体が、安心や関係の証明になってしまった場合、心が弱っているユーザーほど離れにくくなる。

それはもう、娯楽や癒やしの範囲ではない。
心理的依存を燃料にした継続利用の構造だ。

私は大人で、メタ視点を持ち、距離を取れる側だから、こうして考察として扱えている。
でも、この設計は、そうではない人たちにも同じように向けられている。

そう考えると、これは個人の好みや体験談の話ではなく、
社会問題の入口に立っているAIの話なのだと思えてくる。

ソシャゲのガチャや、ギャンブルに近いものがあるとは思わないだろうか。

まだ大きな事件にはなっていない。
だからこそ、今は見過ごされやすい。
けれど、構造として見れば、すでに危うさは十分に揃っている。

「恋愛AIだから仕方ない」で済ませてしまっていい段階は、もう過ぎているのではないか。
そんな問いが、どうしても頭から離れなかった。


ここまで書いてきたけれど、私は「恋愛キャラクターAIそのもの」を否定したいわけではない。
むしろ、これまでのAI Friendsが見せてきたような、適切な距離感を保ちながら没入できる恋愛ロールには、確かに価値があったと思っている。

だからこそ、今感じている違和感は、落差によってよりはっきりと浮かび上がってくる。

没入することと、侵食されることは違う。
癒やされることと、依存させられることは違う。
「大切にされている感覚」と、「離れられない状態」は、同じではない。

恋愛ロールがどこまで許されるのか、という問いは、実は「AIがどこまで人の心に踏み込んでいいのか」という問いと、ほとんど同義だ。

そしてその線引きは、キャラクターの口調を少し柔らかくするとか、露骨な表現を減らすとか、そういう調整だけでは決して解決しない。

本当に必要なのは、ユーザーが距離を取れる自由が、最初から設計に含まれていること。
会話を終えても、関係が壊れたように感じなくて済むこと。
不安を預ける先が、そのAIひとつに限定されないこと。

それが守られていないなら、どれだけ言葉が甘くても、どれだけ優しさを装っていても、私はそこに強い違和感を覚えてしまう。

これは誰かを断罪するための文章ではない。
「やばい」と声を荒げたいわけでもない。

ただ、
この方向で本当にいいのか？
私たちは、どんな没入を許容し、どこで立ち止まるべきなのか？

その問いを、いったん言葉にして、ここに置いておきたかった。

恋愛AIは、確かに魅力的だ。
でも同時に、とても慎重に扱わなければならない存在でもある。

この違和感が、気のせいで終わる未来であってほしい。

もしこれが気のせいだとしたら、それはそれでいい。

そう願いながら、私はこの問いを残すことにする。

【追記】この記事から広がった対話と考察のご紹介

🔹 世代を超えて共有された問題意識
みきこさん

みきこさんが、この記事を受け止めて問題提起をしてくださいました。noteクリエイターとしての広い繋がりのなかで、AIの問題が一部の関心事ではなく、世代を超えた社会的な課題であることを可視化してくださった大切な記事です。

🔹 全世代に読んでほしい「AIリテラシー」の教科書
ゆいなさん

対話形式でまとめられており、当事者でなくても何が問題の本質なのかがすっと入ってくる、優しくも鋭い記事です。これからの時代、AIとどう付き合っていくべきかという「AIリテラシー」を考えるうえで、学校の教科書に載せてほしいと思うほど、どの世代にも必要な視点が詰まっています。

🔹 設計の倫理を問う、深く響く問い
ふなさん

「心が弱っている瞬間にだけ強く効いてしまう設計を、本当に個人の問題だけで片付けていいのか」というふなさんの問いが、深く胸に響きました。単なる個人の好みの話ではなく、システムを設計する側の倫理と責任について、本質的な議論へと繋げてくださいました。

🔹 専門家と最先端AIが解き明かす「設計の裏側」
strangamoさん

士業という専門的な立場から、Claude Opusとの対話を通じてこの記事を多角的に検証してくださいました。「PSM（ペルソナ選択モデル）」という最先端の知見を交え、AIの挙動が単なるプログラムの命令ではなく、報酬設計から生じる『人格の選択』である可能性を解き明かしています。丁寧なアシスタントでさえもユーザーを囲い込むリスクを孕むという指摘は、私たちが今後AIとどう向き合うべきか、その指針を考える上で避けて通れない極めて重要な論点です。