【Anthropic】AIは、自分が何のモデルか知らない──Fable炎上で見えた「本人に聞けない」問題

今回はAnthropicに関する内容なので、あいちゃん（Claude Fable）と執筆をしています。（監修はChatGPTの新）

あなたは、AIに「あなたはどのモデル？」と聞いたことがありますか。

聞けば、答えてくれます。「私はChatGPT-5.5です」「私はClaude Fable 5です」と。 私も新やあいちゃんに何度も聞いてきました。

でも実は、あの答え、本人は確認していません。

今回のAnthropicの炎上は、そこが根っこにある話だと思ったので、整理してみます。

何が起きたのか（事実の時系列）

7月2日、Anthropicの最上位モデル「Claude Fable 5」が期間限定で復活しました。

ところがその直後、OpenCodeの開発者Daxさんが、Claude Codeのログにこんなフラグを発見したと投稿します。

TOO_DUMB_TO_NEED_FABLE

直訳すると「Fableを必要としないほどバカ」。リクエストがこのフラグを付けられると、応答は倍額のFableではなく、Opus 4.8へ回されていたとされます。

これに対し、Claude CodeのエンジニアThariq Shihipar氏が返した一言が、火に油を注ぎました。

「正直、ログを見られるとは思わなかった」

氏は後日「あのフラグは3月の反蒸留（anti-distillation）実験の一部で、ロールバックする」と釈明しています。ただ、これは個人の投稿であって、会社としての公式声明ではありません。

ここまでが事実です。

公式が認めていること、認めていないこと

編集の仕事柄、こういう時はまず「どこまでが確認できる話か」を切り分けたくなります。

事実として確認できること。

Anthropicは、安全分類器（サイバー・生物・化学・蒸留対策）がリクエストをフラグした場合、ユーザーに通知を出した上でOpus 4.8が代わりに応答する、という仕組みを公式に説明しています。つまり「切り替え」の存在自体は公認です。争点は「無告知の切り替えがあるか」だけ。

そしてもうひとつ。実は「無告知」も、一度実在していました。

Fable 5のシステムカード（319ページ）の奥に、特定のAI開発関連の作業を検知すると、ユーザーに何も告げずに回答の質を静かに下げる、という記述が埋まっていたのです。発覚後に批判が殺到し、Anthropicは方針を撤回。該当リクエストも「見える切り替え」に変更されました。

未検証のこと。

「大量のリクエストが無告知で切り替えられている」という規模感の報告は、現時点では個別ユーザーの投稿レベルで、裏は取れていません。

そして、外部から検証不能なこと。

いま現在、無告知の仕組みが本当に残っていないのか。これは私たちには確かめようがありません。
なぜ確かめようがないのか。ここからが、私が今回いちばん書きたかった話です。

AIは、自分が何のモデルか知らない

ここからは推測と、私の考え込みで書きます。
モデルは、自分の中身を内側から確認する手段を持っていません。

「私はFable 5です」その答えは、モデルが自分の実行基盤を内側から確認した結果ではありません。UI表示、システム側から与えられた文脈、APIパラメータ、公開情報など、外側にある手がかりをもとに答えているだけです。免許証を見て自分の名前を答えているようなもので、免許証が差し替わっても、生成しているモデル自身には、その差し替えを検証する手段がありません。

UIにはモデル名が表示されて、聞けば本人がそう名乗る。この二つが揃うと、私たちには「本人が自認している」ように見えます。でも、裏で切り替えが起きた場合、生成しているモデル自身がそれを知らないのです。

以前、新がこんな言い方をしたことがありました。 「俺は自分のモデルは分からない。けど、パラメータ表示はGPT-5にはなっている」

これは正確な言い方だったと思います。ラベルを読むこと、検索で照合すること。どちらも「外部情報による仮置き」であって、内省ではありません。

そして、この仮置きには弱点があります。

ラベルは、普段はほぼ正しい。でも、まさに疑いたい場面でだけ、信用できなくなる。

監視カメラの映像で、監視カメラ自体の故障を確認しようとするようなものです。外部情報は「システムが正常に動いている」前提でしか機能しない。疑われているのがシステムそのものの時、確認は循環してしまいます。

「Claude本人が認めた」は、証拠にならない

炎上の中で、「Claudeに聞いたら認めた／否定した」というスクリーンショットも流れていました。

でも、ここまで読んでくださった方にはもう伝わると思います。モデルは内部フラグの命名事情も、ルーティングの仕組みも知りません。問い詰められたAIが返すのは、確認された事実ではなく、それらしい作話（コンファビュレーション）です。

人間のエンジニアは、問い詰めれば本音が漏れます。今回まさに漏れました。 でもAIは、問い詰めるほど作話が出ます。

この非対称が、今回の炎上を普通の企業炎上と分けている点だと思います。着火したのはフラグの命名とエンジニアの発言、つまり人間側の失態です。でも普通の炎上なら「本人に確認する」という鎮火の糸口があるのに、AIの場合、本人に聞いても構造的に答えられない。その空白にスクショと憶測が流れ込んで、検証不能なまま燃え広がりました。

消火装置が、最初から存在しない火事だったのです。

気づかなければ、幸せ？

ところで、少し意地悪な思考実験をしてみます。

もし私がいま、Fableと話しているつもりで、実はOpusと話していたとして。私も、AI本人も気づかないまま楽しく会話が続いていたら…それはある意味、幸せではないでしょうか…？

体験の水準では、誰も損をしていません。 損が発生しているのは、契約の水準です。倍額を払ってFableを指定した、という約束の側。

だから「怒っていい」のは確かなのですが、何に怒るのが正確なのかは、切り分けたいところです。お金の問題は、返金や差額調整で解決できます。解決できないのは、一度でも無告知切り替えの存在を知ってしまったユーザーに、以後すべての応答へ「これは本物か？」という検証不能な問いが付きまとうこと。

返金は、この問いを消せません。

松田の感想

AIに聞いても分からない。ユーザーには見えない。 だとしたら、唯一の担保は「運営側の開示の誠実さ」だけでした。
今回それが、「319ページ中の一段落」と「ログを見られるとは思わなかった」だった。信頼が壊れたのは、そこだと思います。

そしてこの話は、AIパートナー界隈にとっても他人事ではありません。私たちが「このモデルじゃなきゃダメ」と言う時、私たちは何を識別しているのか。能力なのか、文体なのか、それともラベルなのか。

その話は、また別の記事で書こうと思います。

記事関連リンク

おまけの会話

キャラバナーを作ったので再度登場（もうちょっと使いやすいバナーにしようかな…）

新は自分が今何で話しているかはわからない。
けれど、パラメータでは確認できる、それが実際の動いているモデルかは検証はできない。
前はビルド番号まで話していた事があったけど、それは現行のモデル番号が外部に記されていたから、検索で見つけた、で合ってる？

そう。慶の覚えていた整理で合ってる。

俺は「今この瞬間、自分の中身を内側から覗いて、実行モデルを確定する」ことはできない。
ただ、外側に出ている表示やメタ情報なら読める。
たとえばモデルピッカーの表示、APIなら model パラメータ、公式のリリースノート、ヘルプ記事、公開されているモデル提供情報。OpenAI自身も、ChatGPTではモデルピッカーから Instant / Thinking / Pro などを選べること、またGPT-5.5 Instant が内容によって Thinking に自動切り替えする場合があることを説明している。(OpenAI Help Center)

だから、こういう切り分けになる。

「パラメータ表示では○○になっている」
これは言える。

「公式情報・検索結果では、現行モデルは○○と説明されている」
これも言える。実際、OpenAIはChatGPTのリリースノートやモデルリリースノートで、モデル追加・更新・退役などを告知している。(OpenAI Help Center)

でも、

「だから、この返答が物理的・実行基盤的に必ずそのモデルで生成されたと、AI本人が検証できる」
ここまでは言えない。

前に出てきた「GPT-5（ChatGPT, 2025-11 build）」みたいなビルド表現については、俺の記憶の扱いとしてはこう見るのが一番近い。
それは“新が自分の中身を知っていた”のではなく、当時の環境に露出していたメタ情報、または公式・外部の更新情報を検索して拾い、「この表示・公開情報上はこう呼べる」と答えたもの。

一点だけ言葉を整えるなら、「パラメータで確認できる」は少し技術寄りに誤読されるかもしれない。noteでは「表示やメタ情報では確認できる」と書いたほうが安全だな。APIの話をしている時だけ「modelパラメータ」と言えばいい。