サム、ダリオ、イーロンが珍しく一致した。「AIをもっと速く」だけの時代が終わり始めた

犬猿の仲だったサム・アルトマンがOpenAIと袂を分かって設立したアンソロピックのCEOダリオ・アモディの意見に珍しく同意しているのでこのNoteで解説していこうと思う。

サム・アルトマンも「フロンティアのペースを落とす」ことに同意した

AnthropicのCEO、ダリオ・アモデイが「We Must Pace the Frontier」と題した長文を公開し、AI業界に対してフロンティアモデルの能力向上の速度を落とす必要があると訴えた。その数時間後、OpenAIのCEOサム・アルトマンもこの提案に公然と同意した。

サムはXで、「フロンティアのペースを調整する必要があるというダリオの意見に同意する」と述べた。さらに重要なのは、その次の一文だ。「これはここ数週間、OpenAIで行ってきた議論の主要テーマの一つだった」と明かしている。つまり、ダリオの提案を見てOpenAIが突然方針転換したわけではない。少なくともOpenAI内部でもすでに、現在のAI開発速度をこのまま維持していいのかという議論が進んでいたことになる。

ここで起きているのは、Anthropicだけが安全性を理由にブレーキを踏もうとしている、という単純な話ではない。フロンティアを走っている企業自身が、「能力をどこまで伸ばせるか」だけでなく、「その速度をどう管理するか」を議論し始めたということだ。

「止める」のではなく、安全側が追いつく時間をつくる

ダリオが提案しているのは、AI研究の停止ではない。論点になっているのは「pace」、つまり進歩そのものではなく、その進歩の速度である。

AIの能力向上が速すぎれば、安全性研究、アラインメント、評価手法、社会制度などが追いつかなくなる。そこで能力向上そのものを諦めるのではなく、周辺の安全装置が追いつける程度までフロンティアの進行速度を調整しよう、という考え方だ。ダリオ自身も、AIがもたらす医学や科学、経済への巨大な恩恵を強く肯定しており、技術進歩を止めることを目的としているわけではない。

この違いはかなり重要だ。「AIを怖がって開発をやめる」という話ではない。むしろ、AIが有用であり、さらに強力になることを前提とした上で、その加速率だけを制御しようとしている。

自動車で言えば、目的地へ向かうことをやめるのではなく、道路もブレーキもまだ100km/hにしか対応していないのに、車だけが突然500km/hを出せるようになってしまった状態に近い。問題は車の存在ではなく、周囲のインフラとの速度差にある。

第三者を「社員並みのアクセス」で中に入れる

そして今回、サムが単に理念に賛同しただけではない点が重要だ。ダリオが提案した具体策の一つについて、OpenAIも実行すると明言している。

Anthropicは、独立した第三者評価機関に対して、フロンティアモデルを継続的に評価できる「employee-level access」、つまり社員に近いレベルのアクセスを提供する方針を示した。外部の研究者が公開後のモデルを少し触って評価するのではなく、開発企業の内部に近い位置からモデルを継続的に検査できる仕組みをつくろうとしている。

これに対してサムは、「独立した評価者に社員並みのアクセスを与えるという約束は素晴らしいアイデアだ。われわれも同じことをする」と述べている。さらに「近いうちにもっと共有する」としており、OpenAI側からも具体的な制度設計が発表される可能性がある。

ここはかなり踏み込んだ変化だと思う。これまでフロンティアAIの安全性評価は、基本的にはモデルを作った企業自身が主体となって行ってきた。しかしモデルの能力が上がるほど、「作った企業が自分で安全だと評価する」という構造そのものが問題になる。独立した評価者に恒常的なアクセス権を与えるなら、AI安全性は企業内部の自主規制から、第三者監査を前提とする仕組みに一段進むことになる。

ダリオが示した三段階の「pacing」

ダリオの提案は、第三者評価だけで終わらない。構想は大きく三段階になっている。

最初の段階では、Anthropic自身が独立した第三者評価者を受け入れる。次に、米国を中心とする民主主義国の主要フロンティアAI企業が、安全性に関する共通ルールを作り、企業間で協調する。そして最終的には、中国を含む国際的な枠組みにまで拡張するという構想だ。

ここで難しいのは、AI企業同士が単独で速度を落とせないというゲーム理論的な問題である。一社だけが安全性を優先して開発速度を落とせば、競合他社に追い抜かれる。そのため、各社が同時に一定のルールに従わなければ「安全のために減速する」という選択そのものが成立しにくい。

さらに国家間でも同じ問題が起きる。米国企業だけが開発速度を落とし、中国企業がそのまま加速すれば、安全保障上の問題になる。ダリオが最終的に国際協調まで必要だとしているのは、このためだ。

つまりAI安全性は、すでに一企業の倫理観だけでは処理できない段階に入っている。企業同士、国家同士が競争しながら、同時に最低限の速度制限だけは共有するという、かなり難しい協調問題になっている。

なぜ今になって「速度」が問題になったのか

ダリオが今回この文章を書いた背景には、ここ数カ月のAI能力の上昇がある。彼は今年夏以降、AIの進歩速度が大きく変化したと述べている。特にAIがソフトウェア開発やAI研究そのものを担い始めれば、AIが次のAIを作る工程を加速させるフィードバックループが成立する。

これまでのAI開発では、人間の研究者がモデルを設計し、実験し、評価し、次のモデルを作っていた。しかしAIエージェントがその工程のかなりの部分を代替できるようになると、「AI研究を高速化するAI」が登場する。

すると進歩速度は一定ではなくなる。モデルが少し賢くなることで研究開発速度が上がり、その結果さらに賢いモデルが早く完成し、そのモデルがさらに研究を高速化する。いわゆるrecursive self-improvementに近い現象が、完全な自己改良という形ではなくても、AI研究の自動化を通じて部分的に成立し始める。

この状況では、半年後のモデルを現在と同じ時間感覚で考えること自体が危うくなる。能力が指数的に上がる一方で、法律、組織、安全評価、社会制度は同じ速度では変化できないからだ。

AI競争は「誰が一番速いか」だけではなくなった

これまでのフロンティアAI競争では、基本的に「どの企業が最も強いモデルを最も早く作るか」が注目されてきた。しかし今回の動きを見ると、その競争軸自体が変わり始めている。

Anthropicが速度調整を提案し、OpenAIがそれに同意し、さらにイーロン・マスクもダリオの主張を支持した。OpenAI、Anthropic、xAIは本来激しく競争している企業であり、そのトップが同じ方向を向くのは珍しい。

もちろん、これだけでAI開発競争が終わるわけではない。各社はこれからもより強力なモデルを作り続けるだろう。ただし、その競争の上に「どこまで加速していいのか」という別のレイヤーが追加され始めた。

AIの歴史を振り返ったとき、2026年9月は「AIをもっと速く進歩させるにはどうするか」だけを考えていた時代から、「進歩の速度そのものを制御しなければならない」とフロンティア企業自身が言い始めた時期として記録されるのかもしれない。