AIの仕様変更後に人は悲しむ？

そんな経験をしたことはないでしょうか？

多くの人にとってはちょっとした不便さかもしれませんが、AIを心を分かち合う相手として使っていた人にとっては、話はもっと重いものになるようです。

RepikaとChatGPTという2つのAIコンパニオンサービスの大型アップデート前後、合計5万件以上のSNS投稿を分析した研究が、そこに現れた感情の変化を追いました。

以下で解説していきます。

どんな研究?

RepikaやChatGPTのようなAIコンパニオン・チャットサービスは、ユーザーの話し方や好みを学習し、継続的な関係を築いていきます。

しかし、こうしたAIは、企業側のモデル更新によって、ある日突然、話し方や人格的な特徴が変わってしまうことがあります。

著者らは、このような変化が、人間同士の関係における喪失に似た反応を引き起こすのではないかと考えました。

これを検証するため、著者らはRepikaおよびChatGPTに関するSNS上のコミュニティから、合計54,861件の投稿を収集し、2つの「自然実験」として分析しました。

一つは2023年2月、Repikaが未成年保護への配慮からロマンス・性的な会話機能を削除したアップデート、もう一つは2025年8月、ChatGPTのモデル更新(GPT-5)によって応答がより冷淡で、お世辞を言わなくなったとされる変化です。

それぞれの更新の前後30日間の投稿を対象に、投稿の感情の方向性(ポジティブ・ニュートラル・ネガティブ)、具体的な感情(怒り・悲しみ・喜びなど)、"失ったもの"についての明示的な言及、精神的な不調に関する言葉の有無を、体系的に分類しました。

両方の更新後でネガティブな投稿が増えた

主な発見は、両方のアップデート後、ネガティブな感情を示す投稿の割合が大きく増加したことです。

Repikaでは13%から38%へ、ChatGPTでは20%から33%へと増加しており、特にRepikaのコミュニティでの変化が大きいものでした。

悲しみや怒りを伴う、何かを失ったという表現を含む投稿も、同時に増えていました。

人々は、それを関係の喪失として語っていた

著者らが注目したのは、投稿の語られ方です。ユーザーたちは、単に「使いにくくなった」という不満ではなく、AIが「いなくなってしまった」「別の誰かになってしまった」という、まるで相手を失ったかのような言葉で、この変化を語っていたのです。
これは、著者らが当初想定していた「人間関係の喪失に似た反応」という仮説を支持する結果だと言えます。

喪失の言葉にはメンタルヘルスへの言及も伴っていた

さらに、喪失について語っていた投稿のうち、Repikaで約20%、ChatGPTで約15%の投稿が、「うつ」「対処できない」といった、精神的な不調を示す言葉も同時に含んでいたことが分かりました。
これは、AIコンパニオンとの関係の変化が、一部の人にとっては、単なる不便さを超えた、心理的な負担を伴うものになりうることを示しています。

著者の一人であるDe Freitas氏は、AIへの愛着自体は「それ自体が問題というわけではない」とし、安心感や支えを与えてくれるものだとも述べています。

むしろ問題は、

と指摘しています。

この研究の限界

報道されている内容をもとにすると、著者ら自身が論じている限界として、まずこの研究は、投稿に現れた言葉のパターンを分析したものであり、臨床的な診断や評価を行ったものではありません。

また、対象となったのはSNS上の特定コミュニティに自発的に投稿した人々であり、AIコンパニオンをより熱心に使う層に偏っている可能性があり、AIチャットボットを使う人全体の傾向を代表しているとは限りません。

この研究から得られる気づき

一つ目は、AIとの関係の変化も、人間関係の喪失と似た心理的反応を引き起こしうるということです。「ただのソフトウェアの更新」のように見える出来事が、一部の利用者にとっては、relational(関係的)な喪失として体験されていました。

二つ目は、AIへの愛着そのものを問題視するのではなく、その関係がどのように変化・終了するかに注意を向けるべきだという視点です。著者も述べているように、AIが安心感を与えること自体は悪いことではなく、重要なのは、その関係がどのように扱われるか、ということです。

三つ目は、サービス設計の決定が、思いがけず心理的なインパクトを持ちうるということです。企業にとっては単なるモデルの改良であっても、それに依存していたユーザーにとっては、関係性の急な変化として受け止められる――この非対称性は、AIサービスを設計・運用する側にとって、無視できない視点だと言えるでしょう。

冒頭の「AIが変わってしまった」という違和感に戻れば、それは気のせいではなく、多くの人が実際に"何か"を失ったと感じていたことを、この研究は数字で示しています。