AIは英語で考えているのか——J-space、多言語、漢字、キャラクター認識から見る「人工的な認識の中間層」

AIは英語で考えているのか

——J-space、潜在作業語、共有意味空間から見る「人工的な認識の中間層」

AIは英語で考えているのか。

この問いは、半分正しく、半分間違っている。

英語中心に開発された大規模言語モデルでは、非英語の入力を処理している途中にも、英語に対応する語彙や表現方向が現れることがある。だが、中国系モデルでは中国語の語彙方向が現れることもある。日本語に継続事前学習したモデルでは、日本語と英語の双方が中間層に現れる。

しかし、ここから「AIには英語の内言がある」「中国製AIは中国語で独り言を言っている」と結論づけるのは早い。

そもそも、モデル内部に見えているのは、人間の頭の中にある文章のような「内言」とは限らない。観測装置によって、巨大な高次元表現を語彙方向へ投影した結果である。

そこで問いを変える必要がある。

ではなく、

本稿でいう「考える」とは、主観的意識や内面を意味しない。入力から出力に至るまでに、情報がどのような内部表現へ変換され、保持され、後続の処理に利用されるか、という機能的な意味である。

また、本稿で使う潜在作業語という言葉は、確立した学術用語ではない。中間層を logit lens や J-lens などで語彙空間へ投影した際、概念の媒介物として現れる言語的方向を指すための分析概念である。

1　庄司和晃の三段階論——「わかる」は一段ではない

この問題を考える補助線として、庄司和晃の「認識の三段階連関理論」を使う。

庄司は認識を、感覚的認識、表象的認識、概念的認識の三段階に分けた。

第一段階は、見る、聞く、触るといった感覚的・個別的認識である。

第二段階は、イメージ、比喩、図、コトワザなどの表象的認識である。完全な具体ではないが、まだ定義や法則にもなっていない。

第三段階は、概念、法則、理論、数式など、抽象化・一般化された認識である。

庄司の特徴は、認識が第一段階から第三段階へ一直線に進むのではなく、「のぼる」「おりる」「よこばい」しながら形成されると考えた点にある。そして、その運動を媒介する第二段階を重視した。庄司の著書『認識の三段階連関理論』は、1989年に季節社から増補版が刊行されている。

前稿では、この三段階論を、理研・東京大学らによる意識・無意識状態の神経ネットワーク研究と接続した。そこで示されたのは、脳と教育理論が同一だということではない。端点でも巨大ハブでもない中間的な媒介が、複雑系の状態遷移に重要な場合がある、という構造的類似である。

同じ補助線をAIに引くなら、次のようになる。

• 第一段階：画素、字形、入力トークン、局所特徴

• 第二段階：語らしさ、句らしさ、対象らしさ、多言語候補、関係構造

• 第三段階：言語化可能で、報告でき、推論に利用できる概念

ただし、これは対応関係を検証済みだという意味ではない。AI内部の高次元表現を理解するため、人間の認識論を一時的な地図として重ねているのである。

2　J-space以前の「人工的第二段階」——次単語ではなく次の句を予測する

J-space研究より前にも、モデルに単語以上の中間単位を持たせようとする試みはあった。

Luo、Jiang、Belinkov、GlassによるACL 2019論文 “Improving Neural Language Models by Segmenting, Attending, and Predicting the Future” は、通常の次単語予測に加えて、次に現れるフレーズを誘導し、現在の文脈表現と次フレーズの表現を整合させる学習法を提案した。

著者らは、外部の構文アノテーションを使わずに、syntactic height、句分割、headword attentionを用いて、句レベルの構造を近似的に学習させた。モデルはWikitext-103で当時の最高水準となる perplexity 17.4を報告している。

この研究が重要なのは、「現在の一語」から「次の一語」へ飛ぶ途中に、句らしいまとまりを明示的に作った点である。

庄司の三段階論に重ねれば、この句表現は第三段階の完成した概念ではない。だが、単なる語列でもない。

である。

ただし、この研究はモデル内部に自然発生した認識構造を発見したわけではない。句予測という目的関数を追加することで、句らしい内部構造を作らせた研究である。

ここには重要な区別がある。

• 発見された中間層

• 訓練目的によって構成された中間層

AIの認識構造は、単に内部から自然発生するものではない。何を予測させるか、何を損失として与えるかによって、中間表象自体が変わる。

この2019年論文は、庄司的な「人工的第二段階」の先行例として読める。しかし、現在の巨大LLMの自然発生的内部表現を直接説明する研究ではない。

3　J-spaceは「第二段階」そのものではない

Anthropicの研究 “Verbalizable Representations Form a Global Workspace in Language Models” は、Claude Sonnet 4.5などの内部に、報告可能で、操作可能で、柔軟な推論に使われる特権的な表現集合があると報告した。

研究者たちはこれを J-space と呼ぶ。

J-spaceを読むために使われるのが J-lens である。J-lensは、中間層の活性が現在または将来の出力トークンにどのような因果的影響を与えるかを、複数の文脈・トークン位置にわたる平均ヤコビアンによって推定する。そしてモデル語彙中の各トークンについてスコアを算出する。

有名な例では、「巣を張る動物の足の数は」という問いに答える途中で、入力にも出力にも存在しない spider がJ-lensに現れる。その表現を ant に差し替えると、答えも8から6へ変わる。別の実験では、詩の末尾に予定していた fight を light に入れ替えると、途中の語まで coming fight から morning light に変化した。J-spaceに現れる表現が、単なる観測上の相関ではなく、後続生成に因果的に利用されていることを示す。

しかし、ここで最も重要な修正が必要である。

J-spaceは、モデル内部の全情報を収納する部屋ではない。論文自身が、J-spaceを通常の閉じた「部分空間」ではなく、限られたJ-lens方向から成る sparse subframe として扱っている。

また、すべての計算がJ-spaceを通るわけでもない。

文字数を追跡して自動的に改行する課題では、モデルは正しく処理できるにもかかわらず、数の表現がJ-spaceに現れないことがある。ところが、文字数を明示的に答えたり、文字数を別の計算に利用したりする課題になると、その数がJ-spaceへ上がってくる。

したがって、J-spaceは庄司の第二段階というより、次の場所にある。

J-spaceは「人工的第二段階」ではない。

人工的第二段階から第三段階へ上がる関門、あるいはその上昇部分を読む窓である。

4　「潜在作業語」は一つではない

では、その窓には何語が映るのか。

英語中心モデルでは、非英語入力を処理している途中にも、英語に対応する語彙方向が現れることがある。

Schut、Gal、Farquharは、フランス語、ドイツ語、オランダ語、中国語などを処理する際、モデルが意味的に重要な判断を英語に近い表現空間で行う傾向を報告した。また、非英語の入力・出力に対しても、英語で作成した steering vector の方が効果的な場合があると示している。

J-space論文にも、中国語で「小」の反義語を問うと、中間層に中国語の答えと並んで big や bigger が現れる例がある。

しかし、英語が常に唯一の内部言語になるわけではない。

Zhongらは、英語中心モデルLlama2、日本語に継続事前学習したSwallow、日英を比較的均衡させて学習したLLM-jpを調査した。その結果、Llama2では英語が支配的だった一方、SwallowとLLM-jpでは、日本語と英語の双方が潜在言語として現れたと報告している。

さらに、BrinkmannらはLlama-3-8BとAya-23-8Bを対象に、文法的な数、性、時制などについて、複数言語に共有される特徴方向が存在することを示した。共有特徴のみを除去すると複数言語で性能が大きく低下し、介入によって翻訳出力を制御できた。これは、中間表現が特定の自然言語だけで構成されているのではなく、言語横断的な抽象特徴も含むことを示す。

ACL 2026のBhattらも、同じ多肢選択問題を複数言語で与えた場合、中間表現空間は高い類似性を示す一方、判断が層を進むにつれて微妙な言語固有の差異が生じると報告している。

したがって、モデル内部を一つの「英語脳」「中国語脳」として理解するのは不十分である。

より妥当なのは、次の三層構造である。

第一層：言語・文字体系に固有の入力表現

語彙、文字種、トークン分割、語順、表記体系など。

第二層：複数言語に共有される意味・関係・文法の表現

同じ概念や関係が、異なる言語を越えて近い内部構造を形成する。

第三層：特定言語へ語彙化する出力処理

共有表現が、英語、日本語、中国語など、出力対象の語彙へ再び写像される。

本稿でいう潜在作業語は、この第二層全体ではない。

である。

したがって、「潜在作業語」というより、厳密には潜在作業語体制と呼ぶ方がよい。

そこには、一つの言語だけではなく、

• 支配的訓練言語

• 共有意味表現

• タスク固有の処理

• 出力言語

• 観測装置の語彙投影

が重なっている。

5　Qwenの中間層に中国語が見えるとは、何を意味するか

下平英寿氏が共有したQwen3-4Bの可視化では、英語の入力

を処理している途中に、东京 や 在日本 などの中国語トークンが logit lens 上に現れている。

これは興味深い。

英語入力から英語出力へ進む途中で、中国語語彙に対応する方向が強く現れたからである。

ただし、これを「Qwenは中国語で考えている」と表現する場合には留保が要る。

logit lensは、各層の隠れ状態をモデルのunembedding行列によって語彙空間へ直接投影する。つまり、内部の高次元表現全体を読み出しているのではなく、その表現がどの語彙トークン方向に近いかを見ている。

したがって、この可視化が示すのは、

ということではない。

より限定的には、

ということである。

これは、モデルの訓練史や支配的言語が、共有意味空間をどの語彙で読みやすくするかに影響する可能性を示す。しかし、それが内部計算全体の言語を意味するわけではない。

Qwen3は119言語・方言への対応を掲げる多言語モデルであるが、多言語対応と、内部表現が完全に言語中立であることは同義ではない。

6　画像や音声にも「共有意味空間」はあるのか

画像、文字画像、マンガや映画のキャラクターについてはどうか。

ここは、J-space論文の直接的な実験範囲ではない。

しかし、言語と画像をまたぐ共有意味表現の存在を示唆する研究はある。

Wuらの「Semantic Hub Hypothesis」は、異なる言語だけでなく、数式、コード、画像、音声など、異なるモダリティの意味的に等価な入力が、中間層で共有表現空間へ写像されるという仮説を検証した。さらに、あるモダリティの共有表現への介入が、別のモダリティの出力にも予測可能な影響を与えると報告している。

これは、画像がまず完全な英語文へ翻訳され、その後理解されるという単純な構造を意味しない。

むしろ、

と考える方がよい。

ただし、その共有意味空間を logit lens で読むと、支配的な事前学習言語の語彙で解釈しやすくなることがある。

つまり、

• 表現そのものは言語横断的・モダリティ横断的

• 観測されたラベルは英語や中国語など特定言語寄り

という二重構造がありうる。

7　漢字と文字画像——「第二段階が厚い」という仮説

文字画像は通常の写真と異なる。

写真に写った木は、もともと文字ではない。だが、「木」という字形は、言語共同体が意味や音を伝えるために作った視覚記号である。

文字画像の認識には、少なくとも次の処理がある。

• 線や濃淡の検出

• 筆画の構成

• 字形候補の形成

• 文字コードや語彙への対応

• 文脈による候補修正

• 語や文の意味処理

漢字では、形、部品、音、意味、熟語、文脈が重なる。「蜘蛛」を認識するとき、単なる二つの図形として読むのではなく、虫偏、既知の文字列、日本語の語彙、中国語での使用、英語の spider、動物属性など、複数の関係が結びつく可能性がある。

OCRBench v2は、大規模マルチモーダルモデルが、低頻度文字、細粒度知覚、レイアウト認識、複雑要素の解析、論理推論などに依然として弱点を持つと報告している。

ここから、「漢字には厚い第二段階がある」という仮説が立てられる。

ただし、これはJ-spaceで直接確認された事実ではない。

という機能上の推論である。

8　キャラクターは「英語名」か「日本語名」か

ドラえもんのような世界的キャラクターをAIが画像から認識するとき、単に「青いロボット猫」という英語説明へ変換しているとは考えにくい。

視覚特徴に加えて、

• 「ドラえもん」という日本語表記

• Doraemonというローマ字名

• のび太やひみつ道具との関係

• 作品世界

• マンガ・アニメという分類

• 文化的記憶

が結びついている可能性がある。

J-space論文では、France を China に差し替えると、首都、言語、大陸など、複数の異なる問いへの答えが一貫して変化する実験が行われている。固有名表現が、複数の属性処理に利用される共通の引数として機能しうることを示す。ただし、成功率はカテゴリによって異なり、国名では高いが、動物や数では弱い。

ここから、キャラクターにも固有名クラスタが存在すると類推することはできる。

しかし、ドラえもん画像を使ったJ-space介入実験が行われたわけではない。

したがって、これは結論ではなく作業仮説である。

英語や日本語は、そのクラスタを呼び出す異なる入口だと考えた方がよい。

9　観測器は、何を見せ、何を隠すのか

ここまでの議論には、観測器の問題がつきまとう。

logit lensは、隠れ状態をそのまま語彙方向へ射影する。

J-lensは、複数文脈にわたる平均ヤコビアンを用いて、現在・将来の出力への平均的な影響を語彙方向で読む。

どちらも、内部表現の全体をそのまま見ているわけではない。

J-space論文自身も、読み出しにくい結果が、

• 平均ヤコビアンのノイズ

• 単一トークン名を持たない概念

• 研究者が解釈できない真の内部内容

のどれなのか、体系的には判別できていないと認めている。

したがって、ある概念がlensに現れなかったとしても、その概念がモデル内部に存在しないとは言えない。

逆に、英語トークンが現れたからといって、内部処理全体が英語で行われたとも言えない。

観測結果は、次の積である。

J-spaceは有力な窓である。だが、窓から見える景色と、建物全体は同じではない。

10　三類型レンズで整理する

この問題は、三類型に分けられる。

A型——規約の問題

「考える」「理解する」「内部言語」といった言葉の定義である。

主観的経験を「考える」と呼ぶなら、現在の実験はAIが考えていることを示していない。

中間表現を形成し、それを後続処理に利用することを機能的に「考える」と呼ぶなら、J-space研究は重要な証拠になる。

B型——構造的に見えないもの

語彙方向へ射影する装置では、語彙に整列しない視覚的、空間的、手続き的な処理を完全には読めない。

これはデータ不足というより、観測形式の限界である。

第三型——訓練が中間層を作る

2019年の句予測研究では、目的関数によって句らしい中間表象を作らせた。

J-space研究でも、ポストトレーニングによって、アシスタント視点、安全判断、自己監視に関係する表現がJ-spaceに現れやすくなることが示されている。

つまり、AIの中間層は、単に観測される自然物ではない。

11　結論——AIは英語で考えているのではない

最初の問いに戻ろう。

AIは英語で考えているのか。

最も妥当な答えは、次のようになる。

英語中心モデルでは、共有意味表現を語彙空間へ投影したとき、英語が強い足場として現れやすい。

中国系モデルでは、中国語の語彙方向が強く現れることがある。

日本語特化・日英均衡モデルでは、日本語と英語の双方が現れる。

しかし同時に、複数言語に共有される意味・文法・関係の表現も存在する。

したがって、AIの内部を一つの自然言語で説明することはできない。

より正確には、AIは次の構造を持つ。

1. 言語・文字・画像に固有の入力処理

2. 言語やモダリティを越えて部分的に共有される意味空間

3. モデルの訓練史に影響された潜在作業語

4. 出力言語に応じた語彙化・デコード

5. 報告・柔軟推論に利用されるJ-space

ここでJ-spaceは中間層全体ではない。

J-spaceは、巨大な自動処理の中から、語彙化され、報告可能になり、別の処理へ柔軟に渡せるようになった成分を読む窓である。

庄司和晃の三段階論を借りるなら、AIにも人工的な第二段階がある、と仮説的に言うことはできる。

しかし、その第二段階は人間のイメージや生活経験と同じものではない。

訓練データ、目的関数、トークナイザ、視覚エンコーダ、共有意味空間、支配的言語、安全訓練によって作られる、人工的な媒介構造である。

だから本当の問いは、こうである。

ではない。

AI時代の認識論が見るべきなのは、最終的な答えだけではない。

答えが言葉になる前に存在する、人工的な中間層である。

参考文献

1. 庄司和晃『認識の三段階連関理論』季節社、増補版、1989年。

2. 石部統久「『認識の中間層』が意識を決める——庄司和晃の三段階説を最新脳科学で検証する」。

3. Luo, H., Jiang, L., Belinkov, Y., & Glass, J. “Improving Neural Language Models by Segmenting, Attending, and Predicting the Future.” ACL 2019. DOI: 10.18653/v1/P19-1144.

4. Gurnee, W., et al. “Verbalizable Representations Form a Global Workspace in Language Models.” 2026.

5. Schut, L., Gal, Y., & Farquhar, S. “Do Multilingual LLMs Think In English?” 2025.

6. Zhong, C., et al. “Beyond English-Centric LLMs: What Language Do Multilingual Language Models Think in?” 2024.

7. Brinkmann, J., et al. “Large Language Models Share Representations of Latent Grammatical Concepts Across Typologically Diverse Languages.” NAACL 2025. DOI: 10.18653/v1/2025.naacl-long.312.

8. Bhatt, D., et al. “From Representation to Choice: Tracing Decision Emergence Across Languages in LLMs.” Findings of ACL 2026.

9. Wu, Z., et al. “The Semantic Hub Hypothesis: Language Models Share Semantic Representations Across Languages and Modalities.” ICLR 2025.

10. Qwen Team. “Qwen3 Technical Report.” 2025.

11. Fu, L., et al. “OCRBench v2: An Improved Benchmark for Evaluating Large Multimodal Models on Visual Text Localization and Reasoning.” 2024/2025.

関連

石部統久・ChatGPT5.６
査読：ChatGPT5.６・Claude Opus4.6・Grok・Gemini（Parcae Protocol）