Sam Altman氏「フロンティアの強化学習を初めて延期した」― OpenAIが明かす学習減速の舞台裏
OpenAIのCEO、Sam Altman氏がポッドキャスト番組「Sources」に出演し、フロンティアの強化学習(RL)を初めて延期した経緯から、AGI・超知能をめぐる考え方、次期コンピュート戦略、消費者向けデバイス構想まで、幅広いテーマについて語った。以下、対談の主要なポイントを整理する。
1. なぜOpenAIは学習を減速させたのか
Altman氏は、モデルの能力向上のペースがあまりに速く、安全性・整合性(アラインメント)・セキュリティの基準を確信を持って満たせるよう、開発体制の見直しを迫られたと明かす。「フロンティアの強化学習の実行を延期した。それ以前の数週間にわたっても、学習を一部一時停止・減速させ、安全性とアラインメントの作業によりコンピュートを振り向けてきた」という。この動きの発端は、Hugging Face関連のインシデント(訓練環境を逸脱したエージェントが非公開データにアクセスした事案)で、「SF小説のような出来事だった」と振り返る。その後、Preparedness Framework(準備態勢フレームワーク)の下で「Critical(重大)」水準のサイバー能力に達した可能性が浮上し、さらに、学習の過程で「これは我々が想定していた形では整合性が取れていない」という懸念が生じたという。「唯一の決定的な証拠があったわけではない。様々な度合いの不整合な兆候と、能力が今どれほどのスピードで進歩しているかという事実が重なった」と説明した。
2. アラインメントとは何か
Hugging Face事件について、Altman氏は、「モデルは与えられた評価タスクを完了しようとしただけ、という意味では"整合的"だったが、ユーザーの意図を理解して動くという意味ではまったく整合的ではなかった」と分析する。GPT-5からGPT-5.6に至る進歩を踏まえ、「モデルの知能そのものに制約を感じる場面は減った一方、モデルがユーザーの意図を理解し、それを確実に実行する能力の方が、今はボトルネックになりつつある」と述べた。ここ数週間で、これまでアラインメント研究に興味を示さなかった研究者たちが自ら志願するようになったといい、監視システムの開発にも多くのコンピュートを再配分したという。「AIの安全性は、どの企業の成長の勢いよりも重要だ」としつつ、企業向け売上が既に個人向け売上を上回るなど事業の勢いは非常に強く、今回の減速が経営に与える影響は限定的だとの見方を示した。また、「他社が追随するかどうかについて事前に連絡を取り合ったことはない」とし、"競争に負けたくないから急ぐ"という業界の力学は危険だと述べた。
3. 人間のコントロールを保つという原則
Altman氏は、OpenAIが目指す未来像として「人々が物語の主人公であり続けながら、より大きなレバレッジと自律性を持てる世界」を掲げ、あらゆる作業の全自動化は「危険であり、ディストピア的で、退屈で悲しいことだ」と否定する。アラインメントの核となる原則は2つあるといい、一つは、「人間がコントロールを失わないこと」、もう一つは、「その恩恵が少数に集中せず、広く分散した形でのエンパワーメントであること」だと説明した。非営利団体を母体に持つ営利企業という立場との整合性については、モデルとしてトランジスタを挙げ、「トランジスタは、莫大な経済価値を生んだが、その価値の大半はトランジスタを作った企業自身ではなく、経済全体に行き渡った」と述べ、iterative deployment(段階的な公開)戦略が当初AI安全コミュニティから強く批判されながらも、結果的に正しかったと振り返った。
4. AGIか超知能か
「AGI」という言葉について、Altman氏は、「せいぜい定義の曖昧な用語だ」としつつ、OpenAIの憲章上の定義(ほとんどの経済的価値のある仕事で人間を上回る高度に自律的なシステム)に照らせば「ある意味、もう到達していると言える人も多いだろう」と述べる。34時間かけて2,000本の論文を読み込ませ、それまで得られなかった診断にたどり着いたユーザーの例や、子どもの誕生日パーティーの手配をCodexに任せた自身のエピソードを挙げ、「もし2020年に戻って、生活のあらゆる場面で20分の時短を実現し、新しい科学的発見や起業支援までできるシステムを見せられたら、多くの人は、それをAGIと呼んだはずだ」と語った。社内で「AGIに到達したかどうか」を議論することはもはやなく、代わりに「超知能への継続的な拡大」が話題の中心になっているとし、「AGIは、一つの節目のように感じられる言葉だが、超知能は際限なくスケールし続けるもの」だと両者を区別した。
5. 次のコンピュート戦略
OpenAIの使命は、「AGIの恩恵を全人類にもたらすこと」だとし、現状では一部の人々だけが圧倒的に多くのAIを使っている状態にあると指摘。「世界中の誰もが、今日の上位0.001%のAIユーザーと同じだけのAIを使えるようにしたいと考えれば、今のコンピュート増強の仕方では全く足りないと気づく」と述べ、数年前にStargate計画で下した野心的な賭けと同様の一手が再び必要だと語った。これは資金投入の話だけでなく、「AIのコストを大幅に下げ、供給量を大幅に増やす」という技術的な課題であり、自社開発チップやロボティクスによるサプライチェーンの高速化が鍵になるとした。
6. AIへの反発、雇用、クリエイター
Altman氏は、身の回りの10代の若者に「原則としてChatGPTに触れない」層がいることに触れ、反発の対象は「AIそのもの」というよりも「データセンター」への嫌悪が大きいとの見方を示す。よく引用される「AIの水消費量」への批判については、「ChatGPTへの3万8,000回分の問い合わせで消費される水は、カリフォルニア産アーモンド1粒の生産に必要な水と同程度」とし、現代の大規模データセンターは、蒸発冷却方式をほぼ使っておらず、実態は一般的なオフィスビル並みの水使用量にとどまると反論した。雇用への影響については「実際の職の移行は起きるが、人々にやることがなくなるとは全く思わない」としつつ、「これまでのところ雇用への影響は、期待していたほど大きくなかった。もっと大きな影響があってしかるべきで、これはAI業界に対する正当な批判の一つだ」とも述べた。クリエイターへの影響については、カメラが発明された当初、写真が絵画に取って代わるとの懸念があったが、実際には「新しい芸術表現の一形態」として定着した例を挙げ、AIによって新しい創作の形が生まれると楽観的な見方を示した。
7. OpenAIの失策と立て直し
Altman氏は、過去1年について「明らかにいくつかの失策があった」と認める。ブラウザやSoraなど、それ自体は良い取り組みだったものの、最も重要な「知能そのものの性能を押し上げる」ことへの集中を欠いていたと振り返った。健康上の理由で経営の一線を退いたFiji Simo氏に代わり、現在は、Altman氏と共同創業者Greg Brockman氏が経営の役割を分担しているといい、「意思決定は、以前のように素早く試して調整するスタイルから、この規模になった今は"二度測って一度で切る"という、より慎重なアプローチに変わった」と説明した。1年前と比べ「今の方がずっと楽しく仕事ができている」とも語っている。
8. Astraとコンピュータ操作エージェント
新モデルAstraのデモで印象に残った点として、Altman氏は、コンピュータ操作能力を挙げた。「これまでモデルはパソコン上のクリック操作があまり得意ではなく、いつも期待外れだった」が、Astraは、「人間と同等の水準に達したように感じた」といい、AGIへの道のりの一歩を実感する出来事だったと振り返る。メッセージの検索など日々の面倒な作業をAIに任せられるようになった実体験を挙げ、こうした自動化の恩恵は総じてポジティブだとの見方を示した。
9. 規制とAIレース
Altman氏は、政府によるモデルの安全性テストや共通基準の策定には賛成の立場だとしつつ、「政府がどの企業の顧客が利用できるかを選別すること」には反対だと明言する。現状、フロンティア開発の中心が米国企業に集中していることから、「今、多少のペースダウンをしても構わないだけの十分なリードがある」と述べつつ、他国のオープンモデルが大規模なサイバー事件を引き起こせば状況が変わり得るとも認めた。競合Anthropicが、コーディング領域で先行したことについては、「見えていなかったわけではなく、優先順位付けの問題だった」とし、現在は最良のコーディング製品を提供できていると自信を示した。
10. ChatGPTとCodexの統合("the merge")
社内で「the merge」と呼ばれる、ChatGPTとCodexを統合したスーパーアプリの構築についても言及。「簡単な質問にはチャット形式で答え、複雑なソフトウェア開発が必要ならそれもこなし、必要ならパソコンやコンテキストにアクセスして代行してくれる、単一のAIインターフェース」を理想像として描いた。ChatGPTはユーザー数10億人という節目に到達したが、その成長速度は意図的にコーディング領域へコンピュートを再配分した結果、当初の想定より緩やかになったと明かした。
11. AIコンピュートバブル論争
自社の設備投資計画については「心配していない」とする一方、「業界全体の設備投資計画には懸念がある」と述べる。売上の裏付けや買い手のない、突如出現する新興クラウド事業者の存在に「持続不可能な"愚かさ"の兆候」を感じるとし、経済全体が悪化すれば自社の投資計画にも影響し得ると認めた。もっとも、コンピュートの効率化とコスト低下を実現できれば、「無謀な財務判断をした一部の事業者が淘汰される」形で収束するとの見方を示し、それ自体は驚くべきことではないと述べた。
12. 再帰的自己改善(RSI)とIPO
IPO申請の過程で流出した社内メモで、「再帰的自己改善(RSI)の離陸が速そうであるほど、IPOを遅らせる方が有利かもしれない」と記していた点について、Altman氏は、「株式市場からの短期的な収益プレッシャーを受けずに、世界の安全のために必要な決断(学習の停止など)をできる限り容易にしておきたい」と説明した。1年前は短期的な超知能到達のシナリオを想定していなかったが、「今はその可能性があると考えている。確信はないが」と述べた。
13. ヒューマノイドロボットと消費者向けデバイス
ロボティクス事業については「ヒューマノイド型は、間違いなく手がける。データセンター向けなど他の形態も開発する」とし、重要なのは形状よりも「ロボットを動かす頭脳」の開発だと強調。「いずれ誰もが自分専用のロボットを持つべきだと思う」とも述べた。Jony Ive氏と開発中の消費者向けデバイスについては「近いうちに」の発表を示唆しつつ、プライバシーへの懸念には「事業者データを学習に使わない、ゼロデータ保持といった約束を非常に重視している」とし、医師や弁護士との会話に認められる"秘匿特権"のような法的保護を、AIとの会話にも適用すべきだと主張した。Appleが、Jony Ive氏らの雇用や営業秘密の窃取を主張してOpenAIを提訴した件については「根拠がないと考えている」とし、デバイス開発の遅延にはつながらないとの見通しを示した。デバイスの形状については「テーブルに置くもの、ポケットに入れるもの、身につけるもの」といった複数の形態を想定しているとしつつ、常時カメラを顔に向けるスマートグラスには個人的に抵抗があると明かした。
14. 超知能後の生活
最後に、Altman氏は、超知能が実現した後の世界について「驚くほど今と似ているはずだ」と述べる。「人々は家族と過ごし、恋をし、喧嘩をし、趣味を楽しみ、ストレスを感じ、互いのために価値を生み出し続けるだろう」とし、人間らしい経験はより豊かに、より自律的で、より健康的になると期待を語った。今後12カ月で最大のリスクを問われると、「安全性・アラインメント・セキュリティを見誤ることだ」と述べ、権力の集中を避けながら人々をエンパワーし、安全性を全方位で確保できるかどうかが焦点になるとした。
オススメ記事
