手を組めば訴えられる。それでも3社は"安全基準"を作る

AIは米国内で激しい進歩の裏にいろんな基準の設立など動き始めているので、このような動向を注視することは私自信としては重要だと思うので、時間をかけて調査した記事です。

9月24日、Google・OpenAI・Anthropicの3社が、最先端AIの安全基準を定める業界団体の設立に向けて動いていると、米メディアのThe Informationが報じた。仮称は「Standards Authority for Frontier AI(SAFA)」。政府の監督を受けない自主規制団体として、2026年末から2027年初頭の立ち上げを目指すという。

国内では「競争していた3社が手を組んだ」という文脈で紹介されつつある。だが、このニュースを「敵が味方になった」話として読むと、本当の論点を見落とす。

実はこの報道の6日前、3社を含むAI企業4社が、「協調して開発を遅らせた」のは独占禁止法違反だとして、利用者から訴えを起こされている(あくまで原告側の主張で、裁判所の判断はまだ出ていない)。政府は関与せず、議会は法的な免除を拒み、裁判所では協調そのものが問われ始めた。SAFAは、そうした八方ふさがりの中で浮上した構想だ。

SAFAとは何か。分かっていること、分かっていないこと

報道によれば、SAFAの想定される役割は、モデル公開前の第三者による安全テストの支援、安全・セキュリティ上のインシデントを報告するルールの整備、各社の自主的な安全コミットメントの運用基準づくり、そしてAIモデルや開発企業を評価する独立監査人の資格要件の設定だ。広い倫理指針ではなく、技術的なテストと監査に重点を置くとされる。

SAFA自身がテストを行うべきかどうかも議論になっている。米商務省のAI基準・イノベーションセンター(Center for AI Standards and Innovation、CAISI)だけでは、最先端モデルを十分に検証する資源が足りないとして、SAFAによる追加の評価を求める意見もあるという。

人事の顔ぶれも報じられている。CEO候補として打診されたのは、トランプ政権でAI政策の上級顧問を務めたスリラム・クリシュナン氏と、バイデン政権で科学技術政策局長を務めたアラティ・プラバカー氏。議長候補にはコンドリーザ・ライス元国務長官や投資家のデビッド・フリードバーグ氏の名前が挙がり、科学顧問候補には、Hugging Face事件の独立調査を行ったMETRのベス・バーンズ氏らが含まれる。党派をまたいだ人選は、政治的な中立性を意識したものとも読める。

クリシュナン氏の起用案には皮肉もある。同氏は政権在任中、AIの審査のために弁護士団を通さなければならない中央集権的な機関は技術革新の歯車に砂を噛ませるとして、「AIのFDAは作られない」と述べていた人物だ。規制機関に反対してきた人物に、業界が作る規制団体のトップを任せようとしていることになる。

一方で、分かっていないことも多い。加盟企業の範囲、具体的な基準の中身、基準を守らなかった場合の強制力、資金の出し手は、いずれも発表されていない。モデルとされる金融業界のFINRAは米証券取引委員会(SEC)に登録され、規則の変更にはSECの承認が要る。政府の監督を受けないSAFAが、どこまで実効性を持てるかは未知数だ。

「突然の協調」ではなかった

SAFAの原点は、7月14日にGoogle DeepMindのデミス・ハサビスCEOが公表した提案にある。金融業界のFINRAをモデルに、業界が資金を出して技術専門家を雇い、最先端モデルを公開前にテストする標準機関を作るという構想だった。3社の代表はその直後にワーキンググループを作り、夏の間に定期的に会合を重ねてきた。

3社はそもそも2023年設立の業界団体「Frontier Model Forum」の共同メンバーでもある。OpenAIとAnthropicは2025年夏、互いのモデルを検証し合う合同の安全性評価も実施している。

当初、3社が目指したのは連邦政府の監督を伴う官民連携の形だった。だが業界内の合意づくりが進まず、政府側の優先度も変わったことで、その道は停滞した。ホワイトハウスは3社に対し、政府が関与する前に、まず業界内で合意を作るよう伝えていたと報じられている。本連載で以前取り上げたように、トランプ政権はAI産業の成長を妨げないことを最優先に掲げている。政府が主導しないなら業界が自分で作る、というのがSAFAの出発点だ。

同じ週、4社は独禁法で訴えられていた

ここからが本題だ。

9月18日、ChatGPT・Claude・Grok・Geminiの有料利用者4人が、Anthropic、OpenAI、Grokを提供するSpaceXAI、Googleの4社を相手取り、北カリフォルニア連邦地裁に集団訴訟を起こした。訴えの根拠は、競合他社同士の取引制限を禁じたシャーマン法第1条だ。

訴状が「協調」の中心に据えたのは、9月12日の出来事だった。AnthropicのダリオCEOが業界全体での減速を呼びかけるエッセイを公開すると、OpenAIのアルトマン氏、SpaceXAIのマスク氏、Google DeepMindのハサビス氏が、その日のうちに相次いで賛同を表明した。訴状はさらに、7月に主要AI企業の幹部級社員が署名した声明にも触れている。その声明は、単独で減速しないよう強い競争圧力がかかっていることを認めたうえで、自動化されたAI開発の減速に向けた世界的な取り組みを政府が支援するよう求めていた。

原告の主張の筋はこうだ。利用者は継続的に良くなっていく製品に料金を払っている。競合同士が改善のペースを一緒に落とすことで合意すれば、消費者が受け取る価値が下がる。原告側は、競合同士が「競争は危険すぎる」と自分たちで決めることを独禁法は許していないと主張する。求めているのは、損害額の3倍賠償と、開発ペースを巡る競合間の合意の差し止めだ。

注目すべきは、訴えが何を問題にしていないかだ。原告は、各社が個別に安全のために減速すること自体には反対していない。議会やホワイトハウスに規制を求めることも、独禁法の適用除外を求めることも否定していない。原告の筆頭代理人ニック・ローリー氏は、AIの安全基準が、世界で最も強力な営利企業同士の私的な合意によって管理されることこそ危険だという立場を示している。安全を軽視しているのではなく、「誰が安全のルールを決めるのか」を問うている。

もちろん、訴状の主張はまだ何も立証されていない。裁判所が違法な合意の存在を認めたわけではない点は押さえておきたい。

議会も「適用除外はない」と言った

実は、この独禁法の問題はアモデイ氏自身が予見していた。エッセイの中で同氏は、独禁法上の理由から、業界の安全協議には米政府の仲介か、少なくとも特定の安全協議に限った狭い適用除外が必要だと書いている。

しかし議会の反応は冷たかった。訴訟の3日前の9月15日、上院の公聴会で共和党の2人の有力議員が、AI企業への独禁法の適用除外にはっきりと反対した。

上院商務委員長のテッド・クルーズ氏は、AI企業のCEOたちが「世界を滅ぼしかけているから、独占的地位を固めさせてくれ」と言っているようなものだとして、この要求を「正気の沙汰ではない」と一蹴した。ジョシュ・ホーリー氏も、史上最も強力な3〜4社に談合のための免除を与えることには絶対に同意しないと明言した。同氏はその一方で、民主党のブルーメンソール氏と共同で提出したAIのリスク評価法案の採決を求めている。つまり反対しているのは安全規制そのものではなく、「業界が自分たちで決める」形だ。

OpenAIのアルトマン氏は、訴訟を受けて、一貫した安全要件を定める連邦の枠組みは歓迎するとしつつ、独禁法の適用除外や立法を待たずに取り組みを始められるとの考えを示している。

3つの道がすべて塞がれた

ここまでを整理すると、業界が安全面で協調しようとする道は、この1週間で3方向から狭められたことになる。

• 政権は関与せず、まず業界内で合意を作れという立場

• 議会は、協調のための独禁法の適用除外を認めない姿勢を鮮明に

• 裁判所では、減速の協調そのものが違法だと訴えられた

その直後に報じられたのがSAFAだ。そして、報じられたSAFAの役割をもう一度見ると、テストの支援、インシデント報告、監査人の資格、コミットメントの運用基準が並んでおり、開発速度の調整は含まれていない。訴訟が争っているのは「改善のペースに関する合意」であって、安全テストの基準づくりではない。

報道によれば、原告が差し止めを求めているのも、開発ペース、学習に使う計算量、リリースの時期、能力の「チェックポイント」、そしてそれらを互いに監視するための情報交換についての競合間の合意だ。この「チェックポイント」は、アモデイ氏がエッセイで、一定の能力に達したモデルには安全性の証明を求めるという減速の仕組みとして提案していたものにあたる。訴訟の矛先は、まさに「速度の協調」に向いている。

この線引きが意図的なものなのかは、報道からは分からない。ただ少なくとも、アモデイ氏のエッセイが第2段階として掲げた「民主主義国の企業間で開発速度の上限を調整する」という構想と、今回報じられたSAFAの役割との間には、はっきりとした距離がある。業界は「速度の協調」をいったん脇に置き、「テストの協調」に絞ろうとしているようにも見える。

2社の相互テストすら、まとまらなかった

協調の難しさを示す材料がもう一つある。The Informationは9月21日、OpenAIとAnthropicが今年の早い時期に、互いの商用モデルの脆弱性や隠れた安全リスクを検証し合う、法的拘束力のある契約にほぼ合意していたと報じた。各社が相手の公開済みモデルにAPI経由でアクセスでき、未公開モデルは対象外、互いのデータは保持しないという条件だった。

ただし、7月の一連の事故の前に最終合意に至ったのかどうかは不明とされている。その後の報道では、契約段階まで進みながら理由不明のまま立ち消えになったとも伝えられている。3社の標準機関どころか、2社間の相互テストですら形にならなかった可能性がある。

「カルテル」との批判も

SAFAに対しては、業界の外から厳しい見方もある。カナダのAI企業CohereのCEOエイダン・ゴメス氏は、FINRA型の自主規制機関の構想を「名前を変えたカルテル」だと批判したと報じられている。大手が作る基準は、それを満たせない中小の開発者や新規参入者にとって参入障壁になりかねない、という懸念だ。独禁法訴訟の原告も、議会の2議員も、根っこにある問題意識は同じだ。安全のためのルールを、テストされる側の大企業が自ら書いてよいのか。

一方で業界側にも言い分はある。7月の声明が認めていたように、1社だけが減速しても他社に追い抜かれるだけで、安全は高まらない。だから協調が必要であり、政府がその枠組みを作らないなら業界が作るしかない、という論理だ。どちらの主張も、それぞれに筋が通っている。

本当に問われていること

「破談の後に3社が手を組んだ」「敵が味方になった」という見方は、分かりやすいが正確ではない。3社の協議は7月から続いていた。問われているのは、協調するかどうかではなく、協調の中身と、それを誰が監督するかだ。

AIの安全基準は、政府が作るのか、業界が作るのか、それとも裁判所と陪審が線を引くのか。この1週間で明らかになったのは、その答えがまだ誰にも決まっていないということだ。9月23日には、アルトマン氏やアモデイ氏らが国連安全保障理事会で、各国に共通の安全基準づくりを訴えている。国内でも国際でも、ルールの作り手を巡る綱引きは始まったばかりだ。

AIを業務で使う側にとっても、無関係な話ではない。SAFAが本当に発足すれば、「どの基準で、誰に監査されたモデルか」が、今後AIサービスを選ぶ際の判断材料になるかもしれない。その基準を誰が書いたのかも含めて、見ていく必要がある。

こんな業界の流れではあるが、私としては、AIのテストはかなりコストがかかるため、各社かなり負担になる点が懸念です。開発はどんどん進みますが、テストはどうしてもおろそかになりがちです。それはソフトウェア業界全体の構造がそうですね。これは簡単には解決はしないと思いました。

出典

• Google, OpenAI and Anthropic move closer to AI safety standards body(Proactive Investors、2026年9月24日、The Information報道の要約)
  https://www.proactiveinvestors.com/companies/news/1099096/google-openai-and-anthropic-move-closer-to-ai-safety-standards-body-1099096.html

• Google, OpenAI, Anthropic Plan Frontier AI Standards Body(BankInfoSecurity)
  https://www.bankinfosecurity.com/google-openai-anthropic-plan-frontier-ai-standards-body-a-32926

• DeepMind CEO calls for an independent standards body to regulate frontier AI(TechCrunch、2026年7月14日)
  https://techcrunch.com/2026/07/14/deepmind-ceo-calls-for-an-independent-standards-body-to-regulate-frontier-ai/

• Lawsuit says Anthropic, OpenAI, SpaceXAI and Google made illegal agreement on AI slowdown(CNN/AP、2026年9月19日)
  https://www.cnn.com/2026/09/19/business/ai-slowdown-lawsuit-antitrust

• Buist v. Anthropic 訴訟トラッカー(Tech Policy Law)
  https://www.techpolicylaw.org/trackers/buist-v-anthropic-ai-slowdown-antitrust

• Cruz and Hawley shut down antitrust exemptions for AI companies(Politico/AP、2026年9月15日)
  https://www.newsbreak.com/politico-560779/4887939278287-cruz-and-hawley-shut-down-antitrust-exemptions-for-ai-companies

• OpenAI, Anthropic were negotiating deal to stress-test each other's AI models(Invezz、2026年9月21日、The Information報道の要約)
  https://invezz.com/news/2026/09/21/openai-anthropic-were-negotiating-deal-to-stress-test-each-others-ai-models/

• We Must Pace the Frontier(ダリオ・アモデイ、2026年9月)
  https://darioamodei.com/post/we-must-pace-the-frontier

• Buist et al v. Anthropic, PBC et al 事件記録(PacerMonitor、2026年9月18日提起)
  https://www.pacermonitor.com/public/case/66889602/Buist_et_al_v_Anthropic,_PBC_et_al

• Buist v. Anthropic 訴訟トラッカー(Tech Policy Law)
  https://www.techpolicylaw.org/trackers/buist-v-anthropic-ai-slowdown-antitrust

https://invezz.com/news/2026/09/21/openai-anthropic-were-negotiating-deal-to-stress-test-each-others-ai-models/

https://techcrunch.com/2026/07/14/deepmind-ceo-calls-for-an-independent-standards-body-to-regulate-frontier-ai/