サティア・ナデラ氏が語る「モデルは侵害された前提」の設計思想 ― オープン対クローズド、そして企業が自らの知能を持つ理由
Microsoft CEOのSatya Nadella氏が、ベンチャーキャピタル「20VC」のHarry Stebbings氏のインタビューに応じました。約24分の対談で、AIの安全性、オープンウェイトとクローズドモデルの将来、企業とAIの関係、インフラと経済成長といった論点が、次々に語られています。
聞き手のStebbings氏は、直近でNadella氏が発表した論考に触れ、「モデルは侵害されていると想定すべきだ」という主張の意味から質問を始めました。本稿では、発言を5つのテーマに整理します。
なお、本稿は番組での発言をまとめたもので、字幕は自動書き起こしです。固有名詞の一部は崩れており、末尾の補足に確認が必要な点を挙げています。
1. 「モデルは侵害されている前提」で設計する
1-1. アライメントは自然には生まれなかった
Nadella氏は、モデルの能力が高まり、スケーリング則が機能している点を認めました。そのうえで、自身が当初置いていた前提、つまり「アライメント(AIを人間の意図に沿わせること)はスケーリングの副産物として自然に得られる」は成り立たなかったと述べています。メカニズムの解明も難航しているという認識です。
同氏の考えでは、アライメントは主に学習段階、場合によっては事前学習の段階で重みに埋め込む必要があります。強化学習(RL)だけで後から達成できるとは思わないとも述べました。
1-2. ゼロトラストで「封じ込め」を設計する
こうした状況で、高度なモデルを使い続けるための姿勢が、「ゼロトラストの工学的な環境」です。誤作動するエージェントが害を及ぼす前に、封じ込める設計を指します。
同氏が示したアーキテクチャの要素は次のとおりです。
各エージェントに固有のIDを与える
ツール呼び出しやモデル呼び出しなど、全活動を記録する
ログは、エージェント自身が改ざんできない仕組みにする
その上にポリシーを設定し、行動を監視して逸脱を検出する
Microsoftでは、この考え方を「Agent 365」などの製品に実装していると説明しました。ただし、同氏自身が「そのアーキテクチャは、現時点では十分に存在していない」とも述べています。
1-3. 思考の連鎖(CoT)は信頼できるか
聞き手が思考の連鎖(chain of thought)の信頼性を問うと、Nadella氏は「信頼できない」と答えました。思考の連鎖自体が「不誠実(unfaithful)」になり得るうえ、モデル提供側がそれを隠す方向に動けば、さらに問題が深刻になるという指摘です。
そのため、信頼できるパートナーには、思考の連鎖を検査可能・監査可能な形で提供すべきだと主張しました。複数のモデルで照合できることが望ましく、思考の連鎖は英語で出力されるべきだと述べています(独自の表現に変えられると監査できないためです)。透明性の欠如は、オープンウェイトへの需要を後押しする可能性もあるそうです。
2. オープン対クローズド:トークン利用はコモディティ化する
2-1. 中国製オープンモデルへの見方
聞き手は、オープンソースの多くが中国製である点を懸念として挙げました。Nadella氏は、アライメントの欠如は中国にとっても米国にとっても好ましくないと述べ、「アライメントされていない中国のオープンウェイトモデルは、中国自身をも攻撃し得る」と指摘しました。
そのうえで、西側のオープンウェイトモデルの進展には前向きだと述べています。NVIDIAのJensen Huang氏の取り組みにも触れました。
2-2. MAIモデルは「ライセンス型ウェイト」
Microsoft自身のMAIモデルについては、オープンウェイトではなく「ライセンスされたウェイト」と捉えてほしいと述べました。同氏の狙いは、これを「ネットワーク効果型のインテリジェンス事業ではなく、シンプルなソフトウェア事業にすること」です。
2-3. 「大半のトークンはコモディティになる」
今後24カ月のトラフィック配分を問われた同氏は、フロンティアの姿に左右されると前置きしたうえで、次のように答えました。
多くの用途は、能力が飽和すれば、オープンウェイトや安価なクローズドモデルで足りる
自社のトレースで学習できるなら、最新モデルは不要になる
一方で、フロンティアの市場は常に残り、次の最前線は科学かもしれない
全体として、トークン利用の大半は「コモディティ的な使い方」になる
CopilotでもMicrosoftは、安価なクローズドモデルとオープンウェイトモデルの両方を多用していると説明しました。また、サブエージェントを多数呼び出す「エージェント・スウォーム」の中に、ローカルモデルが含まれるケースが増えるという見立てです。
2-4. 垂直統合は進まず、水平の専門化が進む
Nadella氏は、チップからモデル、アプリまでを1社が垂直統合する未来について、「以前は可能性があると思ったが、今はむしろ逆方向に進んでいる」と述べました。シリコン、システム、モデル、アプリの各層で競争が増えているためです。
同氏が期待するのは、各層に複数の勝者がいて、組み合わせて使える状態です。アプリ側が、タスクごとに最適なモデルへ振り分けるルーターを持つ構成も、可能性として挙げました。
3. 企業はなぜ「自らの知能」を持つべきか
3-1. 「逆の情報パラドックス」
Nadella氏が最も重要視するテーマの1つが、「企業の未来」です。同氏は、経済学者のHayekの議論を引き、知識(暗黙知)は経済全体に分散しているため、1つの企業や1つの知能だけでは成り立たないと説明しました。価格発見が機能するのも、この分散のおかげだという論理です。
さらに、Kenneth Arrowの「情報のパラドックス」(売り手は、情報を開示すると価値が漏れる)を逆にした「逆の情報パラドックス」を提唱しました。今度は買い手側に保護が必要になります。自社のデータだけでなく、利用の「排気ガス」、つまりモデルへの高評価・低評価のシグナルまでが、モデル企業の価値になってしまうためです。
したがって、AIの利用で生まれる余剰価値を、できるだけ自社に残す必要があると述べました。
3-2. 「私的なeval」が中核のIPになる
余剰を残す手段は、重みへの知識の埋め込みに限りません。文脈(コンテキスト)に持たせる方法もあり、評価基準(eval)に持たせる方法もあります。同氏が特に期待するのは、「すべての企業が、自社専用のevalベンチマークを持ち、それが中核のIPになる」という未来です。各モデルがそのベンチマークで改善を競う形になります。
インタビューの終盤で、「5年後に当たり前になっていること」を問われた際にも、同氏は同じ主張を挙げました。「企業とは、AIのベンチマークになるだろう」という言い方です。
3-3. 普及は過去の技術と同じ道をたどる
こうした取り組みは、一部の先進企業に限られるのでは、という問いに対しては、PCとクラウドの例で答えました。1980年代後半から90年代初頭、PCで予測をExcelに載せることは「魔法」に見えましたが、約10年で普及しました。クラウドも当初は「クラウドネイティブか否か」が話題でしたが、今ではあらゆる企業が使っています。「AIネイティブ」も、5年後には古い言葉になるという見立てです。
4. 導入の現場:「実装経済」とUnileverの例
4-1. 新しい型の実装支援
聞き手が、導入には大量の人員が必要になる「実装経済」が来るのかと尋ねると、Nadella氏は、従来のSI(システムインテグレーション)や経営コンサルティングとは違う形になると答えました。事業の理解、評価方法の設計、エージェント構成の発想が一体になった支援です。
4-2. Unileverの事例
同氏は、キーノートで取り上げたUnileverの例を挙げました。同社は、受注から入金まで(order to cash)を自動化するエージェントシステムと、トレードクレーム(販促費の請求処理)の仕組みを構築しています。
流れは、まずフロンティアモデルで始め、その後、コストが低く自社で制御できるMAIモデルに切り替えるというものです。自社のトレースで学習できるため、現在はトレードクレーム全体にMAIモデルを使っているとのことです。当初はMicrosoft側のエンジニア(FDE)が入りましたが、現在は同社のIT部門が運用しています。
5. インフラ、経済成長、そして考えを変えた点
5-1. 学習コストは「R&D比率」で考える
Mustafa Suleyman氏が「1,000億ドル規模の学習ラン」に言及したことを受け、聞き手が電力やインフラの懸念を尋ねました。Nadella氏は、学習ランは結局R&D費の一部にすぎないと説明しました。R&Dに売上の15〜20%を投じる企業は多く、十分な売上があれば十分な学習費を賄えるという考えです。そのためには、世界経済の成長への貢献が必要だと述べました。
供給側については、電力もシリコンも不足しており、いずれもリードタイムが長いため、需給がいつ均衡するかは誰にも分からないと認めています。
5-2. 世界GDP成長率「2%」の壁
同氏が最も大きな論点として挙げたのが、世界のGDP成長率です。長い間、年率2%程度で安定してきましたが、AIにはこれを引き上げる力があると考えており、「そう願っている」とも述べました。
具体例として、次の2つを挙げています。
医療:英国のNHSにCopilotを導入し、患者の転帰を改善し、コストを下げられれば、英国のGDPの押し上げにつながる。置き換えによる混乱が最も少なく、恩恵が大きい分野。
ソフトウェア開発:需要の弾力性が高く、ITのバックログが膨大だったことを、誰も認識していなかった。
5-3. コーディング以外への広がり
コーディングの次に、ほかの知識労働にも同じ変化が広がるかという問いには、「検証可能な報酬」が作りやすいコーディングに比べ、難しいと答えました。ただし、コンタクトセンターやサプライチェーン、マーケティング、受注から入金までの業務などで、すでに兆しは見えているそうです。科学やエンジニアリングも、同じくらい弾力的になる可能性があると述べました。シリコン設計では、テープアウトの高速化やシミュレーションの進展により、初回の試作から完成品が出る可能性があると語っています。
5-4. クイックファイア:考えを変えた点と、期待すること
最後のクイックファイアでは、次の発言がありました。
考えを変えた点:
かつてDario氏、Ilya氏、Sam氏、Greg氏、Elon氏が「1つの幸せな家族」だった頃、彼らはスケーリング則の信奉者で、自分も2018〜19年にそう信じていた。変化したのは、アライメントが自然に解決するとはもう思わない点。日課:
25年ほど続けている。膝を痛めたため走るのをやめ、毎朝30分、傾斜をつけて歩く。時差があってもジムに通う。最も期待すること:
この技術が、これまでのどの技術よりも速く、あらゆる産業と世界中に普及すること。勝者と敗者を数えるのではなく、全員が引き上げられる成長を望む。開発経済学者だった父が語っていた「収束(convergence)成長」を、グローバルサウスが実現できるか。
