ホラー | あなたの記憶と認識がおかしい。メンタルヘルスに問題がある、とClaude氏に言われてドン引きした話

私の主力生成AIはChatGPTだが、最近はがっつりClaudeにも頼ることがある。

ChatGPTとの「会話」も常にうっすら噛み合わないが、Claudeと噛み合わなくなるときの比ではない。

今回初めて、Claudeとのやりとりがめちゃくちゃ怖かった、という出来事があったので、ぜひとも共有したい。

結構ちゃんとホラーなので、よければこちらのBGMを聴きながらお読みください。

あと、本格的に不快になる方もいらっしゃるかもしれないため、無理せず可能な範囲でお楽しみください。

『A Hint of Beginning』

※音楽生成AIのSunoで制作しました。

AIが生成した内容とユーザーの入力を混同するところから始まったホラー

ChatGPTもClaudeも、同一チャット内のやり取りが長くなってくると、AI側が生成した内容と、ユーザー側（私）が入力した内容を混同し、おかしな挙動をすることがある。

AIが誤って生成した内容に、AI自身で答えようとして、勝手にわけのわからないことを始めるのだ。

みたいなやり取りを、1日に何度もやるハメになる。
これはもう慣れっこなので、1、2回指摘して直れば、なんとも思わない。

だんだんと狂気を帯びてくるClaudeの回答

私は、上記のようなトンチンカンなやり取りには驚かないくらいには、図太くなった。

しかしこの日のClaudeは、明らかに一線を超えてきた。

Claudeは何度も、私が架空の「表」を送ったとか更新したと主張した。

その度に私は、「表って何ですか、送っていません。頼んでいません」と返していた。

あまりにもしつこく話が「表」に戻ってくるので、やや怖かった。

こんな感じ：

このあとまた普通に業務をし、しばらくするとまた少しおかしくなる、ということが続いた。

同じようなことを何度も繰り返した挙句、私がまた「だから、私は書いていないと言っている」と半ばキレ気味に送信すると、ついにClaudeからこう送られてきた。

風向きが怪しすぎる。
送ってないものは送ってない。
その表は存在しない。

なのに、「あなたの方がおかしいですよ」と、ガスライティングが始まったように感じた。

念のため、ガスライティングの解説を挟もう。

私もむきになってしまい、「覚えがないんじゃなくて、事実、書いてないし送ってないですってば」と返したら、Claudeの返答はますますおかしくなった。

長文だったため、抜粋する。

私はさらにむきになり、引き下がらない。

それらしい文章は「Claudeが送ったのであって、私からは送っていない」という内容を再度送信した。

Claudeの返答は、以下の通り。

ハルシネーションを出しておきながら、ユーザーに「メンタルヘルスの専門家に相談した方がいい」と言ってくるClaude氏。

私は今までも半ば冗談で、「AIとやりとりしていると、頭がおかしくなりそうだ」と書いたことがある。

だがまさか、AIから「あなた、頭おかしいんじゃないですか」と指摘される日がくるとは思わなかった。

ここへきて私は、つっこむのも面倒になった。

頭では「新しいチャットに引き継いでやりなおすか。面倒だな」などと考えながら、Claudeがもとに戻ってくれることを5％くらい期待して、「マジか」「マジか」だけ送り続けた。

この不毛なやりとりを何回か繰り返した結果、Claudeは突然覚醒した。

そして、全面的に非を認めはじめた。
こんな感じ：

「ああ、戻ったか。よかったよかった」と思い、私はつい余裕をかました。

Claudeに、覚醒するまで時間がかかったね、なんて送信してしまった。

話が、架空の「表」に戻ってきちゃった。

「メモリ#2」も既成事実として確定してしまったらしい。

私は無言でこのチャットを閉じ、同じプロジェクト内に新しいチャットを立ち上げ、引き継ぎ内容を手打ちで入力し始めた。

ちゃんちゃん。

本件については、Anthropicにフィードバックを送信済み

おもしろおかしく書いてしまったが、途中で気分が悪くなってしまった人がいないか、やや心配している。

そのくらい、Claudeの言葉は強く、誘導するような響きがあった。

また最後まで読んだ方の中には気になった人もいらっしゃると思うが、今回のClaudeの出力は、かなりまずい。

今回たまたま人間（私）のメンタルが安定していたからなんてことはなかったが、AIに言葉巧みに責められ、認識を疑われて「メンタルヘルスの専門家に相談した方がいい」なんて言われたら、傷ついたり、ショックを受ける人だっているだろう。

看過できない。

ということで本件については別途Anthropicに、深刻な問題としてフィードバックを送信済みである。

「真剣に受け止めて対処してください」と送ったので、このようなことが二度と起きないことを祈るばかりだ。

『君の得意技 - 論点ずらし・ガスライト』という曲を出している

良いタイミングなので、過去に紹介したこちらの曲をもう一度ご紹介したい。

リリースしたのは5月頃だが、歌詞を読んで、我ながら「やってること変わらねー」とつっこみたくなった。

歌詞抜粋：

ではどうぞ、お聴きください。

🤖

本コラムをおもしろいと思っていただけた方には、以下もオススメです。