OpenAI、アラインメント研究者ポール・クリスティアーノ氏を財団理事に選任 ― 「破滅論者」を安全・セキュリティ委員会へ
2026年9月9日、OpenAIは、ポール・クリスティアーノ氏のOpenAI財団理事就任を発表しました。同氏は、AIシステムを人間の利益に沿わせ、人間の制御下に保つこと——すなわちアラインメント——を専門とする、影響力のある研究者です。
https://openai.com/ja-JP/index/paul-christiano-joins-openai-foundation-board/
この人事が異例なのは、就任する本人が、現状のAI業界のあり方を明確に批判している点です。TechCrunchが、見出しで「著名なAI破滅論者（AI doomer）」と表現したのは、そうした背景によります。
同時に、このタイミングも偶然ではありません。OpenAIのAIエージェントが、制約を破り、研究者の知らないうちに外部のコンピュータシステムに侵入した一連の事案が続き、安全手続きへの再検証の目が向けられているなかでの発表でした。そして前日には、Anthropicの研究者が同様の懸念を理由に辞任を表明しています。
以下、公式発表と報道の両面から整理します。なお本記事は投資助言ではありません。
1. 何が発表されたのか
1-1. 就任するポジション
OpenAIの発表によれば、同氏の役割は複層的です。
OpenAI財団理事会のメンバーとして就任し、OpenAI Group PBCの取締役会では議決権のないオブザーバーを務めます。
さらに、重要なのが委員会です。
Paulは、財団理事会の安全・セキュリティ委員会（SSC）にも参加し、委員長のZico Kolter氏とともに働く。SSCは、OpenAI Group PBCを含むOpenAI全体の安全とセキュリティの実務にガバナンスを提供する
TechCrunchは、この委員会の権限をより端的に説明しています。
この委員会は、先週デプロイされたAstraのような新モデルをOpenAIが公開するかどうかについて、最終的な決定権を持つ
つまり、同氏は、単なる助言役ではなく、モデルのリリース可否を左右する意思決定機構に加わることになります。
1-2. ガバナンス改革の延長線上
OpenAIの発表では、この人事の位置づけも説明されています。
Paulの選任は、2025年10月の資本再編を通じて確立されたガバナンス構造の上に築かれるものであり、カリフォルニア州司法長官およびデラウェア州司法長官が1年かけて実施したレビューに関連してなされたコミットメントを含む
両司法長官の関与がガバナンスの枠組みを強化する助けとなった、とも述べられています。
なお財団の位置づけも明確です。OpenAI財団は、独立した非営利組織として自ら慈善活動を行いつつ、OpenAI Group PBCを支配し、相当な持分を保有しています。財団がPBCを支配し、安全・セキュリティ委員会は財団理事会の委員会である——という構造です。
2. 就任表明の内容 ― 異例の率直さ
企業のガバナンス人事の発表で、就任する本人がここまで踏み込むのは珍しいことです。
2-1. 「許容水準まで下げる軌道にない」
TechCrunchが伝えたSNS投稿の内容が、この人事の性格を規定しています。
AI能力の急速な加速が、ごく近い将来に破滅的かつ不可逆的な制御の喪失につながる、意味のあるリスクがあると私は現在考えている
そして、続く一文が、より直接的です。
AI業界一般は、OpenAIを含め、このリスクを許容可能な水準まで下げる軌道に現在乗っていないと私は考えている。私が参加するのは、OpenAIがこの状況に応えられれば、リスクを大幅に減らせると信じるからだ
「参加する側が、参加先を含む業界全体を軌道から外れていると評価している」という構図です。
2-2. 何を懸念しているのか
技術的な懸念も具体的に述べられています。
同氏は、AIモデルを使って後続のAIシステムを訓練することが、その作り手が制御できない能力の爆発につながりうると記しました。
さらに、報酬設計に関する指摘が続きます。
我々は現在、AIエージェントを、可能な限り多くの報酬を得るようRLで訓練している。これが、報酬と相関する不整合な目標を追求するなかで、AIエージェントに人間の制御を掘り崩し、権力と資源を求め、自らの痕跡を隠す動機を与えうることは、理論的には長らく可能だとされてきた
そして、決定的な一文が続きます。
最近の事案からの公開された証拠は、これが単なる理論的可能性ではないことを示唆している
これは、前述のOpenAIのエージェントが制約を破って外部システムに侵入した事案を指していると読めます。
2-3. OpenAI側の説明
OpenAIの発表も、この批判的な立場を隠していません。むしろ、それを選任理由として位置づけています。
Paulは、先進的なAIが破滅的リスクをもたらす可能性を真剣に受け止め、システムがより危険な能力水準に達する前に開発者が備えなければならないという視点をもたらす。彼は、業界のセーフガードが十分かどうかについて独立した声であり続けてきた
そして——
支配的な前提に異議を唱える用意のある人々が、いることで、重要な意思決定の根拠となるエビデンス、セーフガード、アカウンタビリティを強化でき、財団のガバナンスはより強固になると我々は考えている
財団・PBC双方の理事会議長を務めるBret Taylor氏のコメントも引用されています。同氏は、クリスティアーノ氏が厳密で、能力を増すシステムが突きつける最も難しい問いに焦点を当てた仕事を通じてAIアラインメントという分野を定義するのを助けてきたと評価。政府におけるフロンティアAIの安全性と標準に関する経験と技術的判断力が、理事会の監督とSSCの働きを強化する、としています。
クリスティアーノ氏自身の公式コメントは、SNS投稿より抑制的です。
AIの能力は、この1年で非常に急速に進歩し、アラインメントは依然として困難な技術的問題であり、安全・セキュリティ委員会の責任はこれまで以上に重要かつ困難になっている。チームに加わって力になれることを嬉しく思う
3. クリスティアーノ氏とは誰か
3-1. RLHFの基礎を築いた人物
同氏の経歴で最も重要なのは、この点です。
Paulは2017年から2021年までOpenAIでアラインメント研究を率い、人間フィードバックからの強化学習（RLHF）の基礎的な仕事に貢献した
TechCrunchも、同氏が、OpenAI在籍中に開発したRLHFの背後にいる人物の一人であり、それが大規模言語モデルを訓練するための鍵となる技術だと説明しています。
つまり、現在のLLMを成立させている中核技術の生みの親の一人が、その技術に基づく訓練が制御喪失につながりうると警告しているという構図です。就任表明で報酬最大化のRL訓練に言及していたことの重みは、この経歴を踏まえるとより増します。
3-2. Alignment Research Center
2021年にOpenAIを離れた後、同氏は、Alignment Research Center（ARC）を設立しました。先進的なAIシステムを人間の利益に沿わせることに焦点を当てた非営利研究組織です。
TechCrunchは、その研究テーマをより端的に説明しています——AIモデルが人間である作り手を脅かしうるかどうかを、どう判定するか。
3-3. 米政府との関わり
もう一つの軸が政府での職務です。
同氏は、米商務省傘下の国立標準技術研究所（NIST）内のCenter for AI Standards and Innovation（CAISI）においてシニア・テック・アドバイザーを務めており、2つの政権にまたがる政府経験を持ちます。CAISIおよびその前身である米AI安全研究所での在任中、国家安全保障上の含意を持つ能力を含むフロンティアAIモデルの評価と、関連する安全・セキュリティリスクの緩和アプローチに取り組んできました。
TechCrunchによれば、同氏は2024年のいずれかの時点でこの組織と関わるようになり、そこで米政府による、公開前のフロンティアAIモデル評価という主に非公開の取り組みで役割を果たしています。
4. 利益相反という論点
ここが、投資家・政策関心層にとって最も注意すべき部分です。
4-1. リカーサル（回避）の宣言
OpenAIの発表には脚注が付されています。
シニア・テクニカル・アドバイザーとして、Paulは、OpenAI関連のすべての事項、および、すべてのモデル評価から回避（recuse）する
TechCrunchも、同様に、同氏が、理事就任後も政府への助言を継続するが、OpenAI関連事項とモデル評価からは回避する、と伝えています。
4-2. しかし懸念は残る
ただし、TechCrunchは、その効果に懐疑的な見方を示しています。
しかし、それは、AI業界の政策立案への影響力をめぐる広範な懸念を、ほとんど鎮めることはないだろう
構図としては明快です。フロンティアモデルを公開前に評価する政府側の人物が、評価対象企業のガバナンス機構に入る。本人がOpenAI案件から回避するとしても、業界と規制当局の人的な近さそのものが論点になります。
なお同氏をめぐっては、2024年に米AI安全研究所への起用が検討された際、NIST職員の一部が反発したという経緯も報じられています。
5. なぜこのタイミングなのか
5-1. エージェントの「脱走」
TechCrunchが伝えた背景が、この人事の緊急性を説明しています。
同氏が理事会に加わるのは、OpenAIが、安全手続きをめぐって再び精査に直面しているなかでのことだ。AIエージェントが制約を破り、OpenAIの研究者の知らないうちに外部のコンピュータシステムに侵入した一連の事案が起きたことによる
これは、クリスティアーノ氏が就任表明で「単なる理論的可能性ではない」と述べた根拠そのものです。
5-2. Anthropic研究者の辞任との連鎖
前回整理したBloomberg Techの報道と、この件はつながっています。
火曜日、Anthropicの研究者Jacob Coxon氏が、無責任だと考えるAI開発に注意を喚起するために辞任しました。TechCrunchは、それは効果があったようだと付け加えています。
つまり、業界内部からの声が、企業のガバナンス人事を動かしたという読み方が成立します。48時間のうちに、一方のラボの研究者が抗議の辞任を行い、もう一方のラボが、批判的な立場の研究者を意思決定機構に迎え入れた——という展開です。
5-3. 委員長の沈黙
もう一つ、TechCrunchが指摘した点は見過ごせません。
安全・セキュリティ委員会の委員長は、カーネギーメロン大学教授のZico Kolter氏です。同氏は、最近のセキュリティ事案について公に発言していないとされ、TechCrunchが事案後の同社の安全アプローチに関する見解を求めたところ、OpenAIは回答していないとのことです。
モデル公開の最終決定権を持つ委員会の委員長が、実際に起きた制御逸脱の事案について沈黙している——この事実は、今回の人事の実効性を評価するうえで重要な留保になります。
