Meta、新モデル「Muse Wonder」を発表 ― 計画開始は昨年8月、「1GWの運用は年約150億ドル」とザッカーバーグ氏とワン氏が語る
Metaの新しいAIモデル「Muse Wonder」の公開に合わせて、マーク・ザッカーバーグ氏とアレクサンドル・ワン氏(MSL=Meta Superintelligence Labsの責任者)が長時間の対談に応じました。聞き手は、Stripe関係者とみられ、番組内では、StripeによるOpenRouter買収の告知も流れています。対談は、Museの使い方から、モデルの作り方、数百億ドル規模の投資判断、エージェントが買い物をする未来、組織の作り方まで多岐にわたりました。
なお、元の字幕は自動書き起こしで、話者の表記がなく、固有名詞や数字に誤認識が含まれる可能性があります。話者の特定は文脈からの推定を含みます。ベンチマーク名など不明瞭な箇所は断定を避けています。
1. Museの現在地と使われ方
1-1. 急成長するエージェントアプリ
番組冒頭、Museについて、第三者の報告を見る限り、これまでで最も成長が速いエージェント、または、AIアプリの一つかもしれないという紹介がありました。
利用例も紹介されました。
お茶の調達:ワン氏とみられる出演者のMuse(「Oiler」という名前)が、台湾や日本の農園から、珍しいお茶を毎週のように取り寄せている
総合格闘技(MMA)のコーチ:ザッカーバーグ氏とみられる出演者が、ジムにカメラを設置。ラウンド間の1分間に、動画から静止画を抜き出し、重心や腰の位置などをフィードバックしてもらう
MMAの例では、動画の処理に時間がかかると「速くしてくれ」と指示し、Museが、自分で映像処理のパイプラインを書いて改善したといいます。出演者は、将来は多くの人が、コードを書いていると意識しないままコードを書くことになると述べました。この用途は、製品の評価(eval)としても使っているそうです。
1-2. マルチモーダルへの注力
ザッカーバーグ氏は、人々は世界を音声や映像を含む多様な形で体験するため、マルチモーダルが重要だと説明しました。今年の前半には、業界の通説が、「コーディングがすべて」に傾いていたとし、Museの成功には、マルチモーダルの強さが欠かせないと述べています。
画像・映像データを多く持つ点が利点かと問われると、「非常に助かる」と答えました。視覚的な知覚データは、モデルの学習に多く使ったとのことです。
メガネ型デバイスについては、将来は純粋にマルチモーダルな製品になるとの見方です。見ているものを見て、聞いているものを聞き、必要なものをその場で生成する形になり、アプリストアは要らなくなるかもしれないと話しました。
2. 「モデルがプロダクト」
2-1. AIプロダクトは薄くなり、モデルが厚くなる
ホストは、AIでは勝つプロダクトが似通った形に収束するのではないかと問いかけました。これに対し、ワン氏は、AIネイティブな製品では従来の仕様書の軸では重要な設計判断を捉えきれないと反論しました。Museでは、モデルの振る舞い、性格、ツールの使い方といった「意図的な決定」が多く、全体を仕様として書けば非常に長い文書になるといいます。
ザッカーバーグ氏は、社内で「モデルがプロダクトだ」と言っていると述べました。プロダクト側の複雑な作業は、データのプライバシーとセキュリティの設計に集中しており、能力や性格といった部分はモデルに学習させる形です。Museのエージェントは専用の仮想マシン(VM)を持ち、共有の計算環境にはつながっていないことも、安心感につながると説明しました。
2-2. モデル選択画面を置かない理由
Museには、モデル選択や、推論の強度を選ぶ機能がありません。ワン氏は、AI製品は技術者が設計することが多く、ごく普通の利用者を想定していない、モデルの名称や数字の付け方が分かりにくいと指摘しました。ここは「シンプルにしたかった」と述べています。
3. Muse Wonderの中身
3-1. 位置づけとモデル構成
Muse Wonderは、Meta内でフロンティア級とされる新しいクラスのモデルです。事前学習は段階的に進めたとされ、より小さなモデルで検証しながら、4〜5倍ずつ大きくしていく手法を取りました。先行モデルのMuse Sparkは、昨年末(12月)に行った事前学習をもとにしています。Sparkは、「それほど大きくないモデル」にここまでの知能を詰め込めた点で驚きがあったとのことです。
提供されるモデルは2種類です。
Muse Wonder
Muse Wonder Full(上位版)
3-2. 重視した4つの能力
ワン氏らは、次の点を強調しました。
アクティブメモリ:数日から数か月にわたる記憶を、将来のタスクに活用する能力。モデルと、モデルが使う仕組みの両方を設計し、社内の評価「Memory Bench」で測定している。まだ改善の余地はあるとしている
アクティブフォーカス:長時間のタスクをやり遂げる持続力。途中でつまずいても、別の解決策を見つけられる
専門知識:金融や法務の評価でSOTA(最高水準)と主張。医療、税務、買い物などの個人向けの相談にも強いとした
コーディング:DeepSWE、SWE-Marathonで最高水準、Terminal-Benchなどでも好成績としている(ベンチマーク名は書き起こしによる)
コーディングを使う人は全体の少数派だが、使う人には大きな改善になるはずだと、ザッカーバーグ氏は述べました。他社の最新モデルとの比較を聞かれると、ベンチマーク上は同水準だと答えつつ、「パーソナル/プロフェッショナルなエージェント用途では世界最高のモデル」だと自負を示しています。
3-3. 提供方法
大型で提供コストが高いため、まずはMuseの有料サブスクリプションで提供します。
Muse本体:無料プランは引き続きSparkが中心。Wonderの利用は有料プラン
API:Metaのモデル API とOpenRouterで提供
Muse Code:利用者に提供。Muse Wonder Fullは、Muse Codeの購読者向け
ザッカーバーグ氏は、Wonder並みの性能をSparkのサイズで実現し、数億人に提供したいとも述べました。
4. ベンチマークと「大きなモデルの匂い」
4-1. 社内評価への移行
ワン氏は、立ち上げ期は、外部のベンチマークを使って「生命反応」を確認するが、成熟するほど社内の評価を重視するようになると説明しました。外部のベンチマークは、ある博士課程の学生が作ったものに製品づくりを委ねることになりかねないという趣旨の発言もありました。
社内では、製品の細かな機能と挙動を一覧化し、各項目の重要度は小さくても、積み重なれば「魔法のような」体験になるという考え方です。
4-2. 「Big model smell」の数値化
同社は、リサーチブログで、「Big model smell(大きなモデルの匂い)」という指標を紹介しています。学習で使った分布の内側のタスクと、外側のタスクでの性能の差を測るもので、ベンチマークへの過剰適合(benchmaxing)の裏返しだとしています。Muse SparkからMuse Wonderで、この差が大きく改善したと説明しました。
4-3. 「慎重さ(Discretion)」
個人向けエージェントでは、利用者の情報を知りながら、必要以上に開示しない「慎重さ」が重要だと、ザッカーバーグ氏は述べました。例として、妊娠や持病を伝えずに、飲食店の予約で配慮を得る場面を挙げています。
5. モデルはどう作られるか
5-1. 少人数・高密度のチーム
事前学習から後工程までの各段階は、数十人規模で担当しています。研究チームは200人未満で、100人に近く、そのほかにインフラ担当がいるとのことです。ワン氏は、人数よりも人材の密度が重要だという考えを、ザッカーバーグ氏に最初から伝えたといいます。計算資源を多くの案件に分散させず、少数の人に集中させる方針です。
社内のコードネームは、Muse Sparkが、「Avocado」、Muse Wonderが「Watermelon」で、果物の名前を使い切ったため、新しい命名規則に変えると冗談交じりに話しています。
5-2. 事前学習と後工程
事前学習:公開インターネットや書籍、独自データなどを大量に使う。知覚を強くするには画像・音声・動画を、専門性を高めるには該当領域のデータを、最初から入れる。Wonderには、全体の計算資源の大きな割合を投じたという
後工程(SFT→RL):まず教師あり微調整(SFT)で望ましい挙動を初期化し、強化学習(RL)でその発現率を引き上げる。性格付けにはSFTが重要
RLでは、データ量が少ないほうが良い場合も多く、質が重要だと述べました。Muse Spark 1から1.3までは、事前学習を変えずにRLを重ねたものです。Wonderには、まだ番号を付けていません。
5-3. アライメントの考え方
安全面では、危険な行動でしか成功できない状況でRLをかけないよう、RL環境を慎重に選んだと説明しました。ザッカーバーグ氏は、同社のアライメントを、利用者の指示と価値観に沿うことだと位置づけ、「道徳的な説教」は不要だが、破滅的なことは穏やかに断るべきだと述べました。
6. 数百億ドルの賭け
6-1. 計画から1年以上かかる投資
ワン氏によると、Muse Wonderの計画は、昨年8月ごろに始まり、成果が見えるまで1年以上かかりました。計算基盤については、Ohioの「Prometheus」(1GW超に拡張中)、Louisianaの「Hyperion」(5GWまで拡張予定)が挙げられ、いずれもMSLの設立前、2023〜2024年ごろに計画されたものです。
6-2. コストの目安
ザッカーバーグ氏が示した概算は次のとおりです。
1GWのクラスターを1年運用:約150億ドル
建設の設備投資:約500億〜600億ドル
フロンティアモデルの開発全体:数百億ドル規模(研究や提供などを含む)
6-3. 「小切手」を巡るやり取り
昨年末、まだ新しいモデルを見ていない段階で、1,000億〜2,000億ドル規模の投資を決める必要があったといいます。ザッカーバーグ氏は「アレックス、本当にうまくいくのか」と尋ね、ハワイでの幹部の集まりでは、CFOのスーザン・リー氏が、失敗した場合の財務上の影響は非常に大きいと念押ししたと、ワン氏は語りました。
一方、ザッカーバーグ氏は、そこまでリスクは高くないとも述べました。理由は次の2点です。
AIが機能するなら、余剰の計算資源を欲しがる企業は多い。投資が失敗に終わるには、Metaだけでなく、AI全体が失敗する必要がある
万一そうなっても、計算資源を他の用途に使える
7. エージェントによる商取引
7-1. 企業側の対応
Museには、ブラウザ操作を学習させ、提携先の企業は直接のAPI連携に切り替えられるようにしています。ザッカーバーグ氏は、統合を求めて連絡してくる企業のほうがはるかに多く、ブロックしようとする企業は少ないと述べました。ブロックは長期的には戦略的に得策でないだろうという見方です。将来は、どの企業もウェブサイトやメールのように、エージェントを持つようになるとも話しました。
7-2. 実例:Instacartとスイカ
ザッカーバーグ氏は、娘(Aurelia)と音声モードでお菓子づくりの相談をしていると話しました。Museが材料をInstacartで手配し、毎週土曜日の前に届くようにしてくれるそうです。同氏自身は、Instacartをほとんど使っていなかったものの、Muse用にアカウントを作り、今では週に1〜2回使っています。
ここから導かれる論点は、エージェントがアカウントを持つようになれば、商取引全体の市場規模が増える可能性があることです。ワン氏は、これを避ける企業は「後悔する」と述べました。Stripe側のホストは、エージェント商取引の指標が、9月ごろから急に伸びていると話しています。
7-3. StripeによるOpenRouter買収
番組内で、StripeがOpenRouterの買収に合意したと告知されました(未完了)。OpenRouterは、1日に10兆トークン超を処理するモデル・ゲートウェイです。
8. スマートフォンの次の形
音声操作について、ザッカーバーグ氏は、会話の間(ま)の取り方や、割り込みの扱いが難しいと指摘しました。また、情報の入力は音声が高効率でも、受け取るのは視覚のほうが効率的で、理想は音声だけではないと述べています。
研究者の多くは、すでに音声で入力している
学生は、10〜15分の思いつきを話し、AIに整理させる使い方をしている
Muse Gadgetsにより、さまざまな機器にMuseを組み込める。複数のスマートフォンメーカーが関心を示している
小型の「HomeLink」でSonosや照明に接続できる
9. 収益化と資金の考え方
ザッカーバーグ氏は、まず無料版を広く使われる形にし、そのうえで複数の収益源を挙げました。
サブスクリプション:Muse Wonderを使うための有料プランが大きな柱になる
商取引:ユーザーが節約・収益化できた分の一部を受け取る形を想定
小規模事業者向け:「事業を丸ごと支援する」仕組み
API・企業向け:CJ Desai氏を迎えたMeta Enterprise Platformで提供
コア事業:数千億ドル規模で成長する既存事業が資金を支える
ワン氏は、会計上の利点にも触れました。データセンターは減価償却できる一方、クラウドを借りる企業は年額を払い、研究者の人件費は資産化しにくいという違いがあります。また、H100の価値が昨年より上がっているとも述べています。
10. 勝者総取りにならない理由
AIは勝者総取りになるとの予想があったが、実際は競争が続いているという問いに、ワン氏は次の要因を挙げました。
実行力の波:各社には強い時期と弱い時期があり、長期では平均化する
蒸留の力:能力を小さなモデルに移せるため、オープンソースが追いつきやすい
多様性を望む力:多くの企業や個人が、一社に集中しない未来を望んでいる
ザッカーバーグ氏は、安全面でも、少数の企業に偏るより、多様な主体が牽制し合うほうが良いと述べました。
11. MSLの立ち上げと組織の作り方
11-1. 経緯
Llama 4の公開は、2025年4月4日で、ザッカーバーグ氏が各所へ助言を求め始めたのは4月20〜21日ごろです。MSLは1年超の組織です。ザッカーバーグ氏はワン氏を、同世代で「最も鋭い起業家」と評価し、当時の通念として「SNSの人とデータの人が組む」ことへの疑問があったと振り返りました。
11-2. 組織の特徴
フラットな構造:非技術系の管理職をなくす。直属の部下は多いが、実際は200人ほどではないと説明
期限を設けない:立ち上げ時に「締め切りはない」と伝えた
技術から離れない:管理職になると技術から遠ざかるのが早いため、エージェントやコードを使い続ける
全社の転換:インフラなど社内の多くの部門が、MSLを支える方向に動いた
ワン氏は、ザッカーバーグ氏について、新しい情報を取り込んで世界観を更新し、行動を一気に変える点が特徴だと述べました。ワン氏自身の投稿については、「本物であること」を優先していると話しています。
