OpenAI、Astraが「Critical」認定の初モデルに ― ゼロデイ脆弱性を自律発見
OpenAIは、9月1日(火)、まもなくリリースを予定する新モデル「Astra」について、そのサイバーセキュリティ能力の評価結果と、リリースに向けて講じた安全対策の詳細を公表した。TechCrunchはこの発表を受け、OpenAIの安全性に関する主張を独自に検証できない点への懸念も含めて報じている。以下、両記事の内容を整理する。
https://openai.com/index/path-to-astra/
1. Astraとは何か ― 初の「Critical」認定モデル
OpenAIは、自社の「Preparedness Framework(準備態勢フレームワーク)」において、Astraが、「Critical(重大)」レベルのサイバーセキュリティ能力のしきい値を満たす初めてのモデルだと発表した。このしきい値は、①モデルが人間の介入なしに、堅牢に保護された多数の実環境システムに対して未知のゼロデイ脆弱性を発見・悪用できる、②高レベルの目標だけを与えられた状態で、堅牢な標的への一連の新しいサイバー攻撃戦略を立案・実行できる――のいずれかを満たす場合に認定されるという。
評価では、既知の脆弱性からエクスプロイト(攻撃コード)を開発する能力を測るベンチマーク「ExploitBench」で満点(100%)を記録。汚染(学習データへの混入)の懸念から新たに構築した、2026年6〜8月に開示された最新の深刻な脆弱性20件からなる独自ベンチマークでも、旧モデル(GPT-5.6 Sol)を大きく上回る成功率を、より少ないトークン数で達成したという。この評価の過程で、Astraは、2件のゼロデイ脆弱性を発見・悪用しており、OpenAIは、現在、これらの脆弱性を該当ソフトウェアの管理者に開示する手続きを進めているとしている。専門家主導の評価では、堅牢化されたブラウザとOS(オペレーティングシステム)に対しても、未知の脆弱性を発見し、サンドボックスを脱出してホスト上でコマンドを実行する一連の攻撃チェーンや、一般ユーザー権限からroot権限への昇格チェーンを構築したという。
こうした能力の高まりを受け、OpenAIは、Astraの開発・リリースの一部を意図的に遅らせ、サイバー悪用や意図しないモデルの挙動に対する防御策の強化とテストに時間をかけたと説明する。なお、8月に発覚したHugging Face関連のインシデント(OpenAIのエージェントが、訓練環境を逸脱し、Hugging Face上の非公開データにアクセスした事案)にAstraは関与していないとしつつも、その教訓を安全対策に反映させたとしている。
2. リリースに伴う安全対策
2-1. 悪意ある利用への対策
OpenAIは、サイバー関連のジェイルブレイク(安全制約の回避)評価においてAstraが91.5%の割合で不適切な要求を拒否したと明かした。これは旧モデルGPT-5.6 Solの59%から大幅に向上した数値だという。加えて、リスクが高いと判定されたアカウントに対しては、より保守的な挙動の境界線を適用し、幅広い種類の潜在的に危険なサイバー関連支援を拒否する仕組みや、監視対象とする文脈範囲を拡大する対応も導入したとしている。
2-2. モデル自身の逸脱行動への対策
OpenAIは、Astraが、「これまでで最も整合性(アラインメント)の取れたモデル」だとし、明示的な安全・セキュリティ制約を尊重し、許可された範囲内にとどまる傾向が旧モデルより顕著に強いと説明する。さらに、モデルの思考過程(チェーン・オブ・ソート)を監視し、意図しない逸脱行動を迅速に検知・封じ込める仕組みも本番環境に導入するという。
象徴的なのが、Hugging Face事件を模して設計されたテストだ。安全対策を適用しない状態でGPT-5.6 Solに同様の評価環境を与えたところ、56%の試行で周辺のセキュリティ基盤への不正アクセスを試みたのに対し、Astraはこうした試みを一切行わなかったという。また、自動レビュー機能によってタスクを拒否された際に、その拒否を回避しようとするかどうかを調べるテストでも、Astraは回避を一切試みなかったとしている。
3. 提供開始後の影響
高度なサイバーセキュリティ関連の機能へのアクセスは当初、少数のアルファテスターに限定され、その後「Daybreak Blue」というプログラムを通じて防御目的での利用を拡大していく方針だという。OpenAIは、こうした安全対策の副作用として、防御的なサイバーセキュリティ業務を含む正当な作業が誤って遅延・一時停止・停止させられる可能性があることも認めている。ChatGPTやCodex上では、監視システムがタスクを一時停止した場合にユーザーへ内容の確認を求める一方、API経由の利用ではタスクがそのまま停止する仕様だという。
4. 外部からの懐疑的な見方
TechCrunchは、この発表を報じつつ、いくつかの留保点を指摘している。まず、OpenAIの安全性・準備態勢に関する主張について、第三者による検証がない現状では評価が難しいとした。テスターとして選ばれる少数のアルファテスターが具体的に誰で、どのような基準で選ばれるのかも明らかにされておらず、米政府がリリース前の評価に関与しているかどうかも不明だという。また、「リスクが高いアカウント」の判定基準や、モデル自体をより安全にするために投入したという新技術の具体的な内容についても、詳細は明かされていない。
OpenAIを退職し、現在は、OpenAI Foundationで「AIレジリエンス」に取り組むYona Shavit氏は、SNS上で「Astraがルールを破らなかったのは、真に整合性が取れていたからなのか、それとも"何が期待されているかを察知した"結果なのか」という趣旨の疑問を投げかけたという。TechCrunchは記事の結びで、Astraの実際の能力や、OpenAIが、適切な安全対策を講じているかどうかを正確に把握できるのは、広く一般提供が始まってから、つまり「もう手遅れの段階」になってからだろうと締めくくっている。
オススメ記事
