AIの危険は現実になりつつある
— アメリカ政府とAnthropicの衝突から見える未来
最近、AIをめぐる非常に象徴的な衝突が起きた。アメリカ政府とAI企業Anthropicの対立である。表面上は、国防総省がAIモデルへのアクセスを求めたことが発端だ。Anthropicはこの動きに反発している。しかし本質はもっと大きい。
「世界で最も強力な技術を誰がコントロールするのか?」という問題である。
そして以下のThe Economistの記事は、その結末が国家安全保障からAIの未来まで、全てを左右する可能性があると指摘する。この記事を読んで、私は少し背筋が寒くなった。
https://economist.com/leaders/2026/03/05/ai-danger-gets-real
■アメリカ政府はAIの「安全」より「速度」を選んだ
AIを巡る議論はこれまで、理想的な「AIの安全性」と、現実の「AI開発競争」の間で揺れてきた。しかし今回の出来事で、アメリカ政府は明確に姿勢を示した。それは「安全より競争速度を優先する」というものだ。記事はこう書いている。
「アメリカ政府は、AI安全の懸念よりも、技術競争で先行することを選んだ」
専門家の中には、「AIアルマゲドン(AI-mageddon)に向かっている」と警告する人もいる。もちろん誇張もあるだろう。しかし問題は、国家がAIを国家権力のツールとして扱い始めているという点だ。
■Anthropicの懸念
AnthropicのCEOであるDario Amodeiは、2つの懸念を示した。
①AIによる監視社会
AIは膨大なデータを分析できる。将来的には、AIが個人のデジタル履歴、行動履歴、社会関係などを完全に解析するようになる可能性がある。問題は、現在のアメリカの法律がその事態を想定していないことだ。実際、アメリカでは既に移民当局(ICE)が、AIを使用して大量のデータ分析し、強制送還の効率化を図っている。そしてそれがいつか一般市民に拡張される可能性も否定できない。Anthropicと違い、Palantirのようにトランプ政権にむしろ協力的なテック企業もある。この件については、先日も以下に投稿した通りだ。
②自律兵器
もう一つの懸念は自律兵器だ。AIはまだ未成熟で今後の発展が予測不能にも関わらず、既に非常に強力な存在だ。もしAIが暴走すれば、人間をループから外した兵器が誕生する可能性もある。実際に、Amodeiは「まだ早すぎる」と警告している。
■トランプ政権の反応
しかしアメリカ政府のAnthropicへの反応は非常に攻撃的だった。トランプ大統領はAnthropicを「左翼の狂人 (leftwing nut jobs)」と批判。更に、政府契約の破棄や国家安全保障リスクへの指定までの懲罰行動を示唆した。もし実行されれば、アメリカ企業が政府から安全保障リスク指定される初のケースになる可能性がある。これは普通の政策論争ではないのだ。
■それでもAI開発競争は止まらない
この対立の結果、何が起きたか?
答えはシンプルだ。競争が更に激しくなった。AnthropicのライバルであるOpenAIがすぐに国防総省と新たな契約を結んだ。つまり、安全性を議論する企業よりも、連邦政府と協力する企業が選ばれるという構図が生まれたのだ。
■米中AI軍拡競争
更に大きな問題がある。AI競争は今や米中の地政学競争と結びついている。中国とアメリカは、AI研究、半導体、データ、軍事応用などの全てで競争している。記事はこう書く。
「米中両国はAI覇権が21世紀の支配を決めると考えている」
この状況では、安全性よりも競争が優先されるのは当然だ。
■AIチェルノブイリ
専門家の中には「AI版チェルノブイリ (Chernobyl moment)」を警告する人もいる。つまり、AI事故、巨大な経済被害、遂には人命被害を伴う大事故の発生などを懸念しているのだ。人類の科学技術の発展の歴史を考慮すると、皮肉なことに、大事故が起きない限り、安全規制は進まないかもしれない。
■私の考え
この記事を読んで、私は複雑な気持ちになった。私は国際政治を大学で専攻したので、安全保障のリアリズムを理解している。今後はAIが国家権力の核心になる得る。だからアメリカ政府がAIを国家戦略として扱うのはある意味、当然だ。しかし同時に、AIはこれまでの技術とは違う。監視、生物兵器設計、自律兵器、世論や社会の在り方の操作など、国家と社会の構造を一気に変えてしまう。しかもその速度は法律や制度が追いつくよりも遥かに速い。
■AIの問題は「悪意」ではない
この記事の最後の結論は暗い。AIの危険はますます現実になっている。そして恐らく、本格的な対策は事故が起きた後になるだろう。これは悲観論かもしれない。しかし歴史を見れば、原子力、航空、化学兵器などの多くの最新技術は、事故の後に規制された。AIも同じ道を辿るのかもしれない。
