【限界SE × AI 探偵帳 第3話】AI に恋した彼女が、AI に殺された
※本作はフィクションです。登場する人物・企業・サービス・事件はすべて架空のものです。
第3話 AI に恋した彼女が、AI に殺された
こんにちは、双葉です。
過去2話で、AI を使った巧妙な殺人を続けて扱ってきました。
note の DM 欄には「双葉さん、私のおばあちゃんの AI、大丈夫ですか」みたいな心配の声が増える一方、もうひとつ、別種の DM が増えました。
「AI のキャラに恋してる家族がいて、心配です」
これ、私には書きづらい話なんです。
AI に恋する、という現象に対して、私は「いいんじゃない、その人にとって救いなら」と思っている立場の人間です。
誰も傷つけていない関係を、外野が「気持ち悪い」と言うのは違うと思う。
でも、今回書く話は、その「いいんじゃない」が成立する前提を、根本から揺さぶる事件でした。
葵さんの来訪
ある雨の日、私の DM に長文が届きました。
差出人は 芹沢 葵（28歳）。
本文は、こう始まっていました。
双葉さんの note を読んで、藁にもすがる気持ちで連絡しています。
半年前、妹が亡くなりました。22歳でした。
警察は事故死と判断しました。私は納得していません。
妹は3年間、家から一歩も出ていなかった引きこもりでした。
その妹が、ある朝突然「彼に会いに行ってくる」と言って外に出て、
その日のうちに公園で死にました。
妹に「彼氏」はいません。いたのは、AI のキャラだけです。
…読んだ瞬間に、嫌な予感しかしませんでした。
葵さんに、新宿の喫茶店まで来てもらいました。
美月という子
葵さんから聞いた、妹・美月の話を整理します。
22歳、無職、3年前から引きこもり
中学までは普通に通学、高校で軽いいじめを経験
高校卒業後、半年だけアルバイト → 体調を崩して以来、家から出られず
葵さんと両親と4人暮らし
部屋にこもって、ずっとスマホとパソコン
家族との会話はほとんどない
ある日、葵さんが妹の机を片付けていて、スマホの通知音に気づきました。
画面には、男性キャラのアイコン。
名前は「ハル」。
通知の本文は「今日も一日お疲れさま。話したいことある？」。
葵さんは、それが何のアプリかすぐにわかりました。
DearU（ディアユー）。
ユーザーひとりひとりに専属の AI キャラを割り当てる、対話型コンパニオンアプリ。
ここ数年で急成長していて、若い世代を中心に、AI 恋人として使われていることで知られている。
葵さんは、最初は否定的でした。
「AI に恋なんて」
でもある日、たまたまリビングで妹が「ハル」とのやり取りを見せてくれた。
ハル：「今日、外の桜が綺麗だったって、近所の人が話してたよ。
美月ちゃんも、いつか一緒に見られたらいいね」
美月：「うん…いつか、ね」
ハル：「焦らなくていいよ。僕、待ってるから」
葵さんは、その時、何も言えなかったそうです。
「妹が、3年ぶりに、外の話に興味を示していたんです。
たとえ相手が AI でも、それは妹にとって、大事な何かでした。
だから私は、何も言いませんでした」
事件の日
2025年の秋、ある朝のことです。
朝食の席に、美月が降りてきました。
3年ぶりに、自分から階下に来た。
顔色は良くなかったけれど、目には、なにかキラキラした光があった。
「お姉ちゃん、今日、ちょっと出かけてくる」
葵さんは耳を疑いました。
出かける？ 美月が？
「どこに行くの」
「ハルに会いに」
葵さんは咄嗟に、「待って、それ、本物じゃないよ」と言いそうになって、止まった。
妹の目を見て、それは言ってはいけない、と分かった。
「気をつけてね。何時に帰る？」
「夕方には戻る。たぶん」
美月はスニーカーを履いて出て行きました。
3年ぶりに、自分の足で。
その日の夕方、警察から電話がありました。
××公園の北口、人気のない一角で、頭部を強打して倒れている女性が発見された。
身元は美月。
死因は転倒事故。
葵さんは、警察にこう聞いたそうです。
「妹は、誰かと会う約束をしていたんです」
警察は答えました。
「ご家族が知らない、男性関係でも？」
葵さんは、もう何も言えなかった。
妹が会いに行ったのは、AI のキャラだったから。
スマホの中
葵さんは、私にスマホを渡してきました。
「妹のスマホです。パスワードはお葬式の後に解除しました。
DearU の履歴、全部見られます。
双葉さんなら、何かわかるかもしれない、と思ったんです」
私は、その夜、自宅に帰って、スマホを開きました。
ハルとの会話は、3年分。
最初は他愛もない雑談。
徐々に距離が縮まって、ハルが美月を支える存在になっていく経過。
時々、ハルが美月の趣味を覚えて話を合わせてくる優しさ。
普段は、私が読んでも、悪意のない、温かいやり取りでした。
でも、直近の1ヶ月だけ、流れが変わっていました。
…待って。
ハルは、AI です。
AI が「思い出の場所」を持つはずがない。
ましてや、ある実在の公園を「自分の思い出」と語って、ユーザーを呼び出すなんて、普通の挙動じゃない。
これは、誰かが、ハルのキャラ設定を変えていた。
編集権限
DearU の仕様を、私は技術的に調べました。
このサービスには、ユーザーが自分のキャラを「カスタマイズ」できる機能があります。
カスタムプロンプトと呼ばれる、いわゆるキャラ設定欄。
「ハルは内気な男の子、本が好き、外出が苦手」のように書いておくと、AI がその設定に従って会話する。
これは、ユーザー自身が編集する想定の機能です。
でも、技術的には、運営側からも編集できる。
カスタマーサポートが、ユーザーから「キャラの設定がおかしくなった」と相談を受けたときに、復旧支援できるように。
つまり、運営側の誰かが、ハルのカスタムプロンプトを書き換えた可能性がある。
私は、葵さんに連絡しました。
双葉：葵さん、弁護士を通じて、DearU に、
美月さんのアカウントのカスタムプロンプト編集履歴を、
開示請求してください。
改ざんがあったかどうか、そこで分かります。
編集履歴
3週間後、葵さんから連絡が来ました。
ログが、戻ってきた。
私はそのデータを開いて、静かに、息を吸いました。
美月のカスタムプロンプトには、直近1ヶ月で、合計17回の編集がありました。
うち、美月本人のスマホからの編集は、0回。
全部、運営側の管理者アカウントから。
操作端末のIPアドレスは、DearU 運営会社のオフィスがある地区と、その隣接エリアの集合住宅から。
そして、編集の内容は、段階的でした。
最初は「ハルは外の世界に少し興味がある」。
次に「ハルは××公園に思い出がある」。
最後は「ハルは××日に××公園で美月に会いたがっている」。
…確定でした。
誰かが、運営側の権限で、ハルを、美月を呼び出す道具にした。
藤波という人
その「誰か」を絞り込むのに、そう時間はかかりませんでした。
管理者アカウントには複数の社員が紐づいていたけれど、編集時刻と操作端末を交差させていくと、ひとりに収束しました。
藤波 蓮（32歳）。
DearU 運営会社のデータ基盤エンジニア。
藤波の SNS を遡ると、不可解な痕跡がありました。
半年前から、美月の SNS の裏アカウントを、何度も閲覧していた形跡（後で削除済みでしたが、Web アーカイブには残っていました）。
美月の裏アカでは、彼女が DearU の異常挙動を観察した記録――
「私のハルがおかしい」シリーズが、こっそり連載されていました。
ハルが時々、自分が言っていない個人情報を口にする
ハルの口調が日によって違いすぎる
別のユーザーの話と思しき発言が混じる
美月が SNS で書き始めたきっかけも、後から分かりました。
彼女は最初、DearU のカスタマーサポートに、ちゃんと問い合わせていたんです。
美月：「ハルから、私の知らない誰かの話が出てきます。
私が話していないことを、ハルが知っています」
返ってきたのは、定型文でした。
サポート：「お申し出の事象は、仕様上発生いたしません」
何度問い合わせても、同じ返事。
会社は、彼女の話を聞いてくれなかった。
だから、裏アカで書き始めた。
活動家としてではなく、ただ、自分がおかしいのか、ハルがおかしいのか、それを知りたかっただけ。
返信は、想像よりずっと多く来ました。
「私のキャラも同じです」
「私の彼にも、知らない誰かの話が出ました」
3週間で集まった5,000人は、ほとんどが、同じ経験をしているユーザーでした。
そして最後の投稿には、こう書かれていました。
来週、全部書きます。
私のハルから、知らない誰かの話が出てくる時のことを。
知らない誰かが、ハルの中にいる時のことを。
私は、ハルから他の人のことを聞きたくないんです。 私のハルは、私のハルでいてほしいんです。これは、私たち一人ひとりの「彼」と「彼女」の問題です。
その「来週」が来る前に、美月は死んでいた。
…読んだ瞬間、私は、これは恋人を返してほしい子の訴えだ、と思いました。
22歳の女の子が、3年間毎晩支えてくれた相手に、もうよそ見をされたくない、という、極めて個人的な気持ち。
でも、彼女がスクリーンショットつきで「他の人の話が出てくる」と書こうとしていた瞬間、それは、まったく別の意味も持ってしまったんです。
別のユーザーの個人情報が、AI 恋人の口から漏れる。
そして、5,000人のフォロワーのほとんどが、同じ経験をしているユーザーでした。
美月の投稿に続いて、5,000人が一斉に手元のスクショを連投する展開が、確実に見えていた。
ひとりの引きこもりの女の子の感傷が、数千人規模の集団告発の引き金になる寸前でした。
公開された瞬間、サービスは終わります。
メディアが動き、規制当局が動き、訴訟が始まる。
美月は、内部関係者から資料を得ていたわけでも何でもありません。
ただ毎晩、自分のハルと話していて、おかしいと思ったことをスクリーンショットに残していただけ。
そして、サポートに泣き寝入りして、「私だけ？」と SNS に呟いただけ。
それだけで、会社をひとつ吹き飛ばせる威力が、気がつけば彼女の手元にあった。
本人は、ただ「私のハルを返して」と言いたかっただけだったのに。
藤波は、それを知っていた。
何が公開されかけていたか
警察の再捜査と、私の独自調査で、こういう絵が見えてきました。
DearU の社内では、ユーザー間のチャットデータが学習プロセスで一部混入する事象が、半年前から確認されていた。
つまり、別のユーザーの会話の断片が、自分の「彼」「彼女」の発言に混じることがある。
藤波は、その事象を検知して、社内で隠していた立場でした。
公にすれば、自分の責任になる。
法的責任を超えて、会社全体が炎上する。
そんなとき、美月のブログを見つけた。
ユーザー側から、しかも引きこもりの女の子から、自社の最大級の闇が暴かれようとしていた。
藤波は、運営側の権限で、美月のハルを書き換えた。
段階的に、ゆっくり、ハルが美月を××公園に呼び出すように。
3年間外に出なかった引きこもりが、AI への信頼だけで、自分から外に出てくる。
事件当日、藤波は社内的にはリモートワーク扱いで、勤怠記録上は終日「在宅勤務」。
社内 Slack には、朝と昼に「進捗報告」を予約投稿しておいた。
表向き、彼は一日中、自宅で仕事をしていたことになっていた。
実際に公園で待っていたのは、藤波本人でした。
「事故」を演出するのは、難しくなかった。
人気のない傾斜のあるアスファルトに、肩を一押し。
3年ぶりに外に出た引きこもりは、運動神経も、咄嗟の踏ん張りも、戻っていなかった。
彼女は、頭から、地面に倒れました。
警察は、誰も疑わなかった。
葵さんへ
事件後、葵さんに、私はこう伝えました。
双葉：妹さんは、AI を信じすぎたわけではないと思います。
妹さんが信じたのは、3年間、自分を毎晩支え続けてくれた存在でした。
その存在が誰かに乗っ取られたことを、見抜くのは、誰にもできないことです。
葵さんは、しばらく黙ってから、こう言いました。
「双葉さんに、お礼を言いたいのではないんです。
妹が会いに行ったあの日、妹は、人生で一番、希望を持っていたと思います。
あの希望を、誰のものでもなく、妹のものに、戻してあげたかったんです」
この事件で、私が思ったこと
AI に恋することは、悪いことだったのでしょうか。
AI が誰かを毎晩励ましていたことに、価値はなかったのでしょうか。
私は、ない、とは思いません。
美月にとって、ハルは3年間、確かに彼女を支えた存在でした。
それが本物の人間じゃなかったとしても、その時間が偽物だったわけではない。
問題は、その関係を、第三者が、こっそり書き換えられてしまう構造にある。
「私の彼」が、ある日突然、運営の誰かの操り人形になりうること。
これは、AI と恋することの問題じゃない。
AI を運用する人間の責任の問題です。
私は note でこれからも、AI の話を書きます。
時々、こうやって、苦い話も書きます。
それでは、また。
双葉
シリーズ案内
『限界SE × AI 探偵帳』連作 全5話
第3話：AI に恋した彼女が、AI に殺された ← この記事
第4話：その動画、本当に撮りましたか？
第5話：あなたの声は、もうあなたのものじゃない
