OpenAI、ゼロデータ保持を維持したまま安全性監視を強化する新技術「Private Safety Processing」を発表
2026年8月19日、OpenAIは、企業向けAPI顧客に提供してきた「ゼロデータ保持(Zero Data Retention、以下ZDR)」の方針を改めて確認するとともに、新たな安全性監視の仕組み「Private Safety Processing」を発表した。AIモデルがより長く複雑なタスクを扱うようになる中、単発の対話だけでは見えないリスクをどう検知するかという課題に対し、顧客データのプライバシーを損なわずに対応する技術的なアプローチとして位置づけられている。本稿ではその内容を整理する。
https://openai.com/index/offering-zero-data-retention-for-frontier-models/
1. ゼロデータ保持(ZDR)とは何か
1-1. プロンプトも応答も保持しない、という約束
OpenAIが提供するZDRは、対象となるAPI顧客に対し「リクエスト処理後、プロンプトや応答内容を保持しない」という明確な方針を約束するものだ。顧客のコンテンツはOpenAIの担当者によるレビュー対象にはならず、企業顧客のデータは、顧客が明示的に許可しない限りモデルの訓練にも使用されない。
1-2. 児童保護に関する法的義務は例外
ただし、米国の連邦法により、他のフロンティアモデル提供企業と同様、OpenAIには児童性的虐待素材(CSAM)の疑いがある事案を通報する法的義務があり、CSAMの可能性でフラグが立てられた画像は、ZDR環境下であっても、手動レビューおよび通報目的のために引き続き保持されると明記されている。
2. なぜ安全性システムの進化が必要なのか
2-1. 「単発の対話」では見えないリスク
OpenAIは、最も深刻なAIの安全性リスクは、必ずしも単発の対話の中では見えてこないと説明する。潜在的に有害な意図は、複数の対話をまとめて見て初めて明らかになることが多いという。同様のリスクは、悪意ある行為者が安全対策を繰り返し探ったり、複数アカウントにまたがって連携したり、脅威を通常の研究活動に見せかけたりする場合にも発生しうる。また、エージェント型タスクの過程でもリスクは発生しうる ― 例えば、システムが停止を指示された後も行動を続けることでユーザーの意図から逸脱してしまうようなケースが挙げられている。
2-2. 既存のZDR対応システムの限界
AIシステムがより長く複雑なタスクを扱うようになるにつれ、正当な活動と不正利用を見分け、AIエージェントが意図された権限の範囲内にとどまっていることを確認する上で、こうした広い文脈の重要性が増している。一方で、既存のZDR対応の安全性システムは、各対話を個別に評価する仕組みにとどまっていた。
2-3. 一部のフロンティアモデル展開で生じていた「板挟み」
直近の一部のフロンティアモデルの展開では、AI提供企業に対し、安全性モニタリングのために機微な内容を保持することを顧客に許可させる要件が課されるケースがあった。多くの組織にとって、こうした要件は自社のセキュリティ上の義務や、サービス対象者への約束と相反するものだった。Private Safety Processingは、こうした状況下でも引き続きZDRを提供し続けられるように設計されている。
3. Private Safety Processingの仕組み
3-1. 「個別の対話」から「関連する複数の対話」へ
Private Safety Processingは、ZDRおよびその他の展開環境で既に使用されている自動化された保護機能を基盤としている。既存のZDR対応の安全性システムは対話を個別に評価するが、Private Safety Processingはこうした保護機能を関連する複数の対話にまたがって拡張し、OpenAIの担当者が保持された顧客コンテンツにアクセスすることなく、自動化システムがパターンを検知できるようにする。
3-2. 顧客管理の暗号鍵で保護
Private Safety Processingは、コンテンツの保存場所を問わず ― 顧客が管理するインフラ(ZDR展開)であれ、OpenAIが提供するストレージであれ ― 顧客コンテンツを活用する。OpenAI提供のストレージを利用する場合、顧客コンテンツは顧客が管理する鍵で暗号化される。OpenAIの担当者はその鍵のコピーを保有していないため、元のコンテンツにアクセスすることはできない。
3-3. 「シグナル」のみが返される仕組み
リスクが検知された場合、OpenAIは、関与している活動の種類を示す、狭く限定されたシグナルを受け取る。これは既存の安全性システムと同様の仕組みだ。このシグナルは、対応措置が必要かどうかを判断するために使用される。フラグが立てられた場合でも、OpenAIの担当者が顧客コンテンツにアクセスすることはない。
3-4. 顧客側での調査・異議申し立ての仕組み
顧客は、自社のシステム内で利用可能な情報を用いて、アラートや対応措置の判断について自ら調査することができる。異議を申し立てたい場合や、正当な活動であることを説明したい場合、あるいは検証された不正利用の調査を支援したい場合には、関連情報をOpenAIと共有するという選択肢を取ることもできる。
4. 主要顧客との共同開発と今後の展開
4-1. Glean、Databricks、Abridge、Microsoftが参画
Private Safety Processingは現在、早期導入顧客とともにテストが進められている。今回のプレビュー公開の背景には、AIシステムの能力が高まる中、自社のコンテンツがどのように保護されるかについて予測可能性を求める顧客の声があったという。GleanのCISO(最高情報セキュリティ責任者)Sunil Agrawal氏は、「エンタープライズAIの導入は、選択したサービス以外での直接的・派生的な利用がなく、顧客がデータを完全に管理できるかどうかにかかっている。OpenAIの訓練不使用の約束とZDRは、Gleanが自信を持ってOpenAIと共に構築できる基盤となっている。モデルの能力が高まる中でも、OpenAIはエンタープライズの信頼を支えるプライバシーと管理を損なうことなく、安全性を前進させられることを示している」とコメントしている。
4-2. 9月から段階的展開、技術白書も公開予定
OpenAIは、今後も顧客と技術的・運用的な詳細について協議を続けていく方針であり、9月にはPrivate Safety Processingの段階的な展開を開始し、技術白書も公開する予定だとしている。
