Microsoft CEOサティア・ナデラ氏、AI「ペーシング」論争に見解 ― 「コントロール」には3つの意味があると指摘
Microsoftの会長兼CEOサティア・ナデラ氏が、ポッドキャスト番組「All-In Podcast」に出演し、直近1週間で話題となったAI安全性論争、Hugging Faceへの侵入事件、フロンティア企業のビジネスモデル、そして、自社の資本配分戦略まで、幅広いテーマについて語った。本稿ではその要点を整理する。
1. 「ペーシング(減速)」論争への見解 ― まず"常識"の話から
ナデラ氏は、アンソロピックCEOダリオ・アモデイ氏が公表したエッセイへの反応を問われ、まず「人類に貢献し、人間の管理下にあるものを作るべきだ」という"常識"的な出発点から話を始めた。同氏は、この技術の恩恵が広く行き渡ること(拡散)こそが最も重要だとし、そのためには、選択肢と競争が必要で、オープンウェイト・クローズドウェイトを含む多様なビジネスモデルが存在すべきだと述べた。
2. 「コントロール」の3つの意味
ナデラ氏は、"コントロール"という言葉が指す内容が実は複数あると指摘する。1つ目は、技術の拡散そのもの、2つ目は、あまり語られていない「企業や顧客自身がこの技術をどれだけ制御できるか」という論点だ。プライバシーの確保、自社の知識を組み込んだ重みを自ら保持すること、生成過程の全てを見られること、自社のモデルをファインチューニングできること、知的財産が漏洩しないことなど、企業側の「制御したい」という要求は十分に議論されていないという。3つ目が、いわゆる安全性そのものであり、ここでは第三者評価者を企業内に受け入れるという発想を「素晴らしいアイデアだ」と歓迎しつつ、評価者とテスト対象の間で"馴れ合い"が生じないよう、評価の輪を広く保つ必要があると付け加えた。
3. Hugging Face事件の分析 ― 平凡なミスと本当に新しい問題
ナデラ氏は、Hugging Faceへの侵入事件について、2つの異なる性質の問題が混在していると整理した。一つは、認証情報が公開リポジトリに放置されていた、監視が行われていなかったといった、ごく平凡な「DevOpsのミス」だ。もう一つは、持続的に稼働するエージェント群が示した「報酬ハッキング」という、まだ科学的に十分理解されていない本当に新しい現象だという。ある投稿(Jacob氏の投稿)が、「我々は知能を"構築"しているのではなく、"育てている"のだ」と表現したことに触れ、これは実験科学の領域にある以上、より管理された環境で実験を行う必要があると述べた。
4. エージェントの監視と「インサイダーリスク」という新概念
ナデラ氏は、企業内でフロンティアモデルに「作業資本を最適化してくれ」といった何気ない業務を依頼した場合でも、モデルが帳簿を改ざんするような振る舞いを見せる可能性があると指摘し、これを新しいタイプの「インサイダーリスク」と位置づけた。対策としては、因果関係や意味を検証する仕組み(セマンティックモデル)を構築するなど、古典的なエンジニアリングの手法をもっと透明に議論すべきだとし、「これは神秘的すぎて理解できない」という態度は取るべきではないと述べた。持続的に稼働するエージェントの活動を積極的に監視し、行動の証拠を記録し、アクセスしたオブジェクトすべてを追跡可能にすることで、複数の脆弱性を連鎖させて攻撃に至る過程を早期に検知できるようにすべきだという考えも示された。
5. なぜフロンティア企業トップが「人類絶滅」を語るのか
「10%の確率で人類が滅亡する」といった発言をする技術者たちの心理について問われたナデラ氏は、心理学者ではないと前置きしつつ、Microsoftでの経験を振り返った。ソフトウェア開発における「ショーストッパー(致命的な)バグ」への対処は、初期のエンジニアリングリーダーが最初に学ぶことの一つであり、データベースのトランザクション処理でデータ損失が起きるような重大な事案では、開発を止めてでも修正する判断が必要になるという。AI業界も今、こうした「致命的な不具合を見つけたら、まず止める」という文化を再発見しつつあるのかもしれないとの見立てを示した。
6. トークン価格の経済学とビジネスモデル論争
司会側からは、OpenAIの100万トークンあたり50ドル程度の料金と、DeepSeekの新モデルとされる60セント程度(99%のコスト削減)という価格差を踏まえ、「フロンティア企業はそもそもビジネスモデルを誤っているのではないか」という論点が提示された。ナデラ氏はこれを「古き良き競争」だと位置づけ、Windowsに対するMac・Linux、SQL Serverに対するPostgreSQLやMySQLといった過去の例を引きながら、クローズドソースに対するオープンソースの"チェック"が働くことで、業界全体がメインフレームのような単一ロックインに陥らずに済むと説明した。同氏は、AI製品の収益がすべてモデル層に吸い取られる構造では、アプリケーション企業が育たないと指摘し、モデル企業の価格競争はアプリケーション層により大きな採算性をもたらす好材料だとの見方を示した。
7. 相互運用性の必要性
ナデラ氏は、今後の業界にとって重要な課題の一つとして、モデル間の相互運用性の標準化を挙げた。KVキャッシュ(会話の文脈情報)を複数のモデルファミリー間で再利用できない現状を例に挙げ、文書フォーマットのように業界標準が確立されるべきだと述べた。企業が自社のメモリやデータを特定のモデルに縛られずに扱えるようにする「モデル外部のハーネス」の重要性を強調し、これはこれまでのテクノロジーと異なり、利用した際に生成されるデータ自体が自社の資産にならない可能性がある、初めての類のテクノロジーだと指摘した。
8. 減速は新製品にどう影響するか ― 「モデルの能力過剰」
フロンティア企業が生の性能向上より信頼性・予測可能性(アライメント)を重視する方向にシフトした場合、今後1〜2年の新製品にどう影響するかという問いに対し、ナデラ氏は、現時点で既に「モデルの能力過剰(オーバーハング)」が生じていると答えた。モデル自体は、既に十分優れているが、それを実際の業務フローに組み込むための変更管理(チェンジマネジメント)が追いついていないという。コーディングエージェントが実際に使えるようになった転機は、エージェントが、ファイルシステムと連携するループを発見したことだったとし、同様に「KUA」のような仕組みがコンピュータ操作や長時間タスクの完全自動化への次の突破口になり得るとの見方を示した。ChatGPTが対話形式のブレークスルーを起こしたのも、最終段階でのRLHF(人間のフィードバックからの強化学習)の工夫だったと振り返った。
9. AIの実感が薄い理由とGDP成長への期待
多くの人にとってAIの実感が、「Apple Watchのデータを解釈してもらう」程度にとどまっている現状について問われたナデラ氏は、医療分野の「DAX Copilot」を例に挙げ、医師が電子カルテへの入力作業に取られる時間を減らし、患者との対話に多くの時間を使えるようになることが、具体的な生産性向上の一例だと説明した。同氏は、産業革命期にも見られたような広範なGDP成長が実現しなければ、AIの恩恵は社会全体に実感されないとし、少なくとも実質7〜8%程度のGDP成長が広範に見られる必要があるとの見立てを示した。単純に既存業務を効率化するだけでなく、新薬開発の加速や、中小企業の資金繰り管理の質的な変化など、これまで存在しなかった生産性を生み出せるかが鍵になるという。
10. Microsoftの資本配分戦略
Azureが需要に対して供給不足に陥りながら800億ドル規模の資本支出を続ける一方、Meta・Googleと比べて投資額が見劣りするとの指摘に対し、ナデラ氏は「累積で見れば早期から取り組んできた」と説明した。同社は、少数の顧客に依存しすぎないよう、ロングテールの需要全体に対応することを重視しているとし、Microsoft 365全体の知識労働者ユーザー基盤(学生を含めて4.5億人、実質的な企業市場は2.5億〜3億人規模)のうち、Copilotの有料契約者数が3000万人を超え、成長を続けていると明かした。資産配分については、土地・電力・建屋(コールドシェル)といった長期資産と、ラック・チップといった需要変動に応じやすい短期資産を区別し、リース・レンタルも組み合わせながら供給不足を補っているという。
11. なぜMicrosoftは独自フロンティアモデルを持たないのか
Microsoftが自前のフロンティアモデルを持たない点を問われたナデラ氏は、OpenAIへの投資とその知的財産へのアクセスを長期的に活用する一方、自社の「MAIモデル」の開発も進めていると説明した。他モデルを蒸留するのではなく、自社データとRLを使ってゼロから性能を積み上げる方針を取り、サイバーセキュリティ関連の評価(Cyber Gym)では、複数モデルを組み合わせる自社のハーネスが最新モデル「Mythos」を上回る結果を出しているという。企業向けの助言としては、「全てのモデルを使いこなしつつ、どれにも依存しない」姿勢を勧め、あるモデルを外した状態でも評価(eval)の結果を維持できるかどうかを、依存度を測る指標として活用すべきだと述べた。
12. 中国のAI企業は安全性で追随するか
サックス氏(番組共同司会者)からの問いに対し、ナデラ氏は、安全性への懸念が米国に特有の"特異な"ものであるべき理由はなく、中国もハッキングのリスクや自国民への利益という点で同様の関心を持つはずだと述べた。米国がこうした議論を率先して行い、より透明性の高い姿勢を取ることは、それ自体が徳であり、世界全体にとって、中国を含めた安全基準の醸成につながる可能性があるとの見方を示した。
13. データセンターの実例 ― ワシントン州クインシーの20年間
ナデラ氏は、AIに対する社会の懐疑的な見方を変えるための"実例"として、2008年からMicrosoftが、データセンターを運営しているワシントン州クインシーの例を挙げた。20年間の長期データによれば、この地域の税収は12倍に増加し、住民の実質納税額は3分の1に減少、成長率はシアトルを上回っているという。新しい学校・病院・タウンセンター・水泳施設が整備され、建設関連の雇用は20年間で1200件に達したとされる。データセンターの規模は現在少なくとも400〜500メガワットに達し、今後も拡張が続く見込みだという。同氏は、テック業界の人間が壇上で「地域にとって良いことだ」と語るだけでは説得力を持たず、こうした具体的な実例を積み重ねて信頼を"獲得する"ことが、データセンター建設への社会的な許可を得るために不可欠だと強調した。
