なぜゼロから作るのか——国産LLMの現在地と、PFNがSambaを捨てた日

日本語の性能を測るリーダーボードなら、日本のモデルが上位に並んでいるはずだ。そう思って2025年12月版のNejumi Leaderboard 4を開くと、総合上位50位に国産モデルは一つもない。首位はGPT-5.2。Gemini 3 ProとClaude Opus 4.5が続き、日本語に特化した順位表ですら、上から下まで米国勢と中国勢で埋まっている。

それでも、ゼロから作り続ける会社がある。Preferred Networks（PFN）は2026年8月のITmedia AI＋のインタビューで、国産LLM「PLaMo」をフルスクラッチ開発する理由を語った。性能で勝てない土俵に、なぜ莫大な計算費を投じるのか。

LLM開発事業本部長・田中大輔氏の答えは明快だった。学習データを自分で決めているから、不具合の原因まで遡れる。

多くのオープンモデルはパラメータだけを公開し、学習データと開発手法は秘匿している。そこに追加学習を重ねても、透明性の穴は埋まらない。IPを扱う企業から「著作権を侵害するデータは入っていないか」と問われたとき、答えられるのは自分でデータを選んだ者だけだ。

実利もある。PFN独自のトークナイザーは、海外モデル比で日本語処理のトークン消費を2〜3割抑える。そして2026年6月、米政府の命令でAnthropicの高性能モデルの提供が一時停止する出来事があった。AIモデルはすでにインフラであり、インフラは世界情勢に左右される——インタビューでPFNが挙げたこの一件は、経済安全保障という言葉に具体的な重さを与えた。

説得力はある。ただ、どこか引っかかる。透明性や著作権対応の大半は、データを公開している海外オープンモデルを選んで日本語で追加学習しても手に入るのではないか。フルスクラッチでなければ買えないものは、本当のところ何なのか。

二つの陣営と、18万人の買い手

そもそも、ゼロから作っているのはPFNだけではない。NTTのtsuzumi 2、ソフトバンク傘下SB IntuitionsのSarashina、NECのcotomi、国立情報学研究所のLLM-jp、サイバーエージェントのCALM、ストックマークの100Bモデル——フルスクラッチ組は意外なほど層が厚い。一方で、MetaのLlamaを土台に日本語を教え込むELYZA（KDDI傘下）や東京科学大のSwallow、AlibabaのQwenから出発するABEJAやrinna、CohereのCommand R+を基にした富士通のTakaneと、海外モデルベース組も同じくらい厚い。

この二つの路線を、政府は両方買おうとしている。経産省・NEDOのGENIACは第1期から第3期まで両陣営に計算資源を提供してきた。
そしてデジタル庁のガバメントAI基盤「源内」は2026年3月、15件の応募から国産LLM7件を選定した。tsuzumi 2、Sarashina2 mini、cotomi v3、PLaMo 2.0 Primeといった純国産組と、LlamaベースのELYZA、CohereベースのTakaneが同じ土俵に並ぶ。全府省庁39機関・約18万人が2026年8月頃から試用し、評価結果は2027年1月頃に一部公表、優れたモデルは2027年度以降に有償調達される。フルスクラッチか、海外ベースか。この問いを、政府自身が18万人の実務で検証しようとしているわけだ。

主要モデルの開発方式を一覧にすると次の通りである。

表の「元モデル」の列に目を落とすと、海外ベース組の土台はMeta、Alibaba、Cohereの三社にほぼ集約されていることがわかる。
日本語LLMの半分は、根を海外に張っている。根の側の事情が変われば何が起きるか——6月の提供停止の一件は、この列に並ぶすべての名前に同じ問いを突きつけた。

順位表の現実

では国産勢は勝負になっていないのかといえば、話はもう少し細かい。総合力では歯が立たない。だが日本語に絞った領域では善戦している。PLaMo 2.2 Primeは自社ベンチマークJFBenchで日本語指示追従がGPT-5.1相当に達したとし、日本医師国家試験の正答率は55.1%から70.7%へ伸びた。CALM3-22Bは日本語ベンチでLlama-3-70B-Instruct級。
ストックマークの100BはSwallowを上回る。tsuzumi 2はA100一枚で動き、導入ハードのコストは競合の1/5〜1/20とされる。PLaMo 2.0はAPI価格を旧版の4分の1以下に下げた。

商売も実在する。NTTはtsuzumi関連の国内引き合いが約2,000件と公表し、PLaMoの技術を用いた自治体向けサービスは約700自治体に広がった。中外製薬はSarashinaで臨床開発エージェントの共同研究を始めている。勝ち筋は総合性能ではない。日本語のコスパ、データ主権、業界特化——この三本の線の上に国産勢は立っている。

それでも、最初の引っかかりはまだ解けない。コスパと主権が目的なら、QwenやLlamaに日本語を教え込むほうが安く早い。フルスクラッチにしか買えないものの正体は、性能表にも価格表にも載っていないのだ。

Transformerを離れた二年間

2024年の秋、PFNは一つの賭けに出ていた。次期モデルPLaMo 2の土台に、Transformerではなく「Samba」を選んだのである。Microsoft Researchが提案したこのアーキテクチャは、状態空間モデル（SSM）のMambaとSliding Window Attention（SWA）を交互に積む。系列が伸びても計算量とメモリは線形にしか増えず、学習時の系列長を超えても生成が破綻しない。Attentionが抱える「入力長の二乗で膨らむ計算量」の壁を、迂回できるはずだった。

丸呑みにしたわけではない。モデルを大きくすると学習が不安定になる問題には、JambaやGemma 2を参考にRMSNorm層を追加して対処し、Mamba-2カーネルで計算効率を詰めた。同規模のTransformer比で学習速度は約3割速い。国内の商用モデルでSSM系ハイブリッドを主軸に据えた例は他になく、賭けは順調に見えた。

ところが、長い文脈から特定の情報を正確に拾うタスク——電話帳の中から一人の番号を探すようなベンチマーク——で、モデルは一貫して失敗した。学習を重ねれば直る類のものではなかった。PFNの分析は、文脈を固定長の状態に圧縮してしまうSSMの性質と、視野を局所に絞るSWAという構造そのものに根差した制約だ、と結論づけている。対処は大胆だった。Sambaで事前学習を終えたモデルの全層をフルAttentionに変換し、約10億トークンの追加学習で「検索する能力」を後から注入する。この改造で32Kトークンの長文脈処理までは立て直した。

そしてPLaMo 3で、PFNはSambaを降りた。理由は二つ公表されている。長い系列での性能向上は結局難しかったこと（短い系列では若干の推論効率改善にとどまった）。そしてSamba採用モデルが世界に少なく、ライブラリやアプリケーション側の対応——vLLMへの実装ひとつ取っても自前で背負う必要があった——が重すぎたこと。次の土台はAttentionとSWAを組み合わせた、GoogleのGemma 3に近い構成になった。Transformer系譜への回帰である。

賭けは外れだったのか

外れだった、と片づけたくなる。だが世界の動きを重ねると、そう単純には言えなくなる。AI21のJamba、NVIDIAのNemotron-H、IBMのGranite 4.0、TIIのFalcon-H1、TencentのHunyuan-TurboS——SSMとAttentionのハイブリッドは2024年以降むしろ増え続けた。極めつけは2026年3月で、NVIDIA（Nemotron 3 Nano）、Alibaba（Qwen 3.5）、Mambaの研究チーム（Mamba-3）の三者が、示し合わせたわけでもなく「線形層およそ75%＋Attention25%＋MoE」というほぼ同じ配合に行き着いた。PFNは、波が本格的に立ち上がるその瞬間に、板から降りたことになる。

ただし、世界の側の苦労の中身はPFNと同じだ。ハイブリッド系は2025〜2026年の新規オープンウェイトモデルの1割弱にとどまり、実装の難しさとツール対応の遅れが普及を阻み続けている。カーネルからサービング基盤まで自前で整備できるNVIDIAやAlibabaの体力と、PFNの体力は違う。撤退の理由は技術の敗北というより、エコシステム維持コストの見積もりだった。しかも移行先のGemma 3型はAttention族の中の効率化設計であって、効率追求の路線そのものは捨てていない。

ここで、冒頭からの引っかかり——追加学習でも透明性の大半は買えるのではないか——に返事ができる。買えるものと買えないものが、この二年間ではっきり分かれたのだ。透明性の一部や日本語性能は、たしかに追加学習でも買える。
買えないのは、Sambaを選ぶ自由、失敗の原因を層の構造まで遡って診断する自由、そして捨てる自由である。
海外モデルベース組の土台のアーキテクチャは、MetaやAlibabaが決めた時点で決まっており、そこに交渉の余地はない。
フルスクラッチとは、モデルという成果物への投資である以上に、選択肢を持ち続ける能力への投資なのだった。
PFNのインタビューが繰り返した「主体性」という言葉の中身は、この二年間の出来事そのものである。

2027年の答え合わせ

順位表の話に戻ろう。総合上位50位にゼロ、という数字は当分変わらないだろう。日本のフルスクラッチ勢が買っているのは順位ではなく、6月のような日に自分の判断で動ける立場である。
その買い物が高すぎたのかどうか、外からはまだ判定できない。ただ、判定材料は日付つきで待っている。2027年1月頃に一部公表される源内の評価結果——18万人の公務員が国産7モデルを使い比べる、おそらく世界にも例のない実地データだ。
PFN側にも日付がある。国内計算基盤でベースモデルを開発する新体制について、田中氏は「早ければ2027年くらいには『ちゃんと国産』といえるものができるのではないか」と語った。

もう一つだけ、日付のない宿題が残る。
世界が線形層とAttentionの配合に収斂していくのなら、SSMの学習と診断に二年を費やした経験は、いずれ再び値段のつく資産になるかもしれない。Sambaを捨てた判断の正否は、実は捨てた時点では確定していない。選び直せる者だけが、答え合わせの席に着ける。

主な情報源：ITmedia AI＋「なぜPFNは『国産AI』をゼロから開発するのか」（2026年8月17日）、Preferred Networks Tech Blog（PLaMo 2事前検証・事後学習、PLaMo 3事前学習検証、PLaMo 3.0 Prime β）、デジタル庁「源内」関連発表、経産省GENIAC採択発表、Nejumi Leaderboard 4（2025年12月18日版）、各社プレスリリース。ベンチマーク数値には各社自社評価を含む。