メインコンテンツへスキップ
見出し画像

Reflection AI、約6,000基のGB300で事前学習・約1万基のGB300で強化学習 ― 米国発オープンウェイトの新モデルを10月初旬に公開

    起業家のJason Calacanis氏がホストを務める「This Week in Startups」に、米国のオープンウェイトAI開発企業Reflection AIの共同創業者兼CEO、Misha Laskin氏が出演しました。話題は、企業がAIを「借りる」から「所有する」へ移る理由、同社のモデル開発、強化学習の仕組み、サイバー安全保障、中国のオープンモデルとの競争まで多岐にわたります。投資家・ビジネスパーソンの視点で整理します。

    なお、元の字幕は自動書き起こしで、固有名詞や数字に誤認識が含まれます。特に、同社の新モデルの名称(字幕では「Beam」「pam」)、競合モデルの名称、ホストの発言にある評価額などは、確認が必要です。広告部分は省略しています。

    1. 「レンタル」から「所有」へ


    1-1. 不動産のたとえ

    Laskin氏は、AI市場の変化を不動産にたとえました。初期の利用者は、試験的な運用をする段階なので、賃貸(クローズドモデルのAPI利用)が合理的です。しかし、本番で大規模に使い、中核の資産になれば、所有する意義が出てきます。

    • データの管理

    • コストの削減

    • 自社データでのカスタマイズ

    • 利益率の最適化

    同氏は、6か月前はオープンソースが話題にならなかったが、今は逆になったと述べ、市場が急速に成熟したためだと説明しました。ホストは、クローズドモデルには、モデルを取り上げられる恐れ(ラグプル)や、提供元が競合になる恐れがあると補足しています。

    1-2. 「トークンを借りる」とは何を借りることか

    Laskin氏は、所有を考えるときは、トークンの背後にあるものを分解する必要があるとしました。

    • GPUのデータセンター(ベアメタル)

    • クラスター管理ソフトウェア(GPUの故障を管理)

    • 推論基盤

    • モデル

    • ハーネス(モデルの上で動く仕組み)

    • サンドボックス

    トークンを借りると、これらの一部をまとめて借りることになります。所有に移ると、モデルだけでなく、周辺のすべてを誰かが立ち上げる必要があり、そこに課題も機会もあるという説明です。

    2. Reflection AIの事業:スタック全体を外部に提供


    2-1. 自社の運用実績を商品にする

    同社は、モデルを作る過程で、基盤全体を大規模に運用しています。Laskin氏によると、同社は、自社の学習と組織内で、数兆トークンを継続的に処理しています。また、大規模な強化学習の実行では、約10億個のサンドボックス(エージェントの起動・終了)を扱いました。これは同社が把握する範囲で、オープンソースで文書化された最大の強化学習の実行だといいます。

    同氏は、Amazonが、自社のサービスで使った基盤からAWSが生まれた経緯になぞらえ、モデル開発者が作った基盤を外部の顧客に提供する、という構図を説明しました。

    2-2. 顧客像

    • ソブリン:
      同盟国の大手コングロマリットが、地域向けにトークンを提供する事業(「トークン・ビジネス」)に参入するケース。ベアメタルは別のパートナーが用意し、同社がモデルとスタックを担う。オープンモデルでなければ、そもそも自社の基盤で動かせない

    • Fortune 500の大企業:
      すでにクローズドモデルで本番運用をしているAIの成熟度が高い企業が中心。コスト削減とデータの非共有が動機。銀行、小売、通信会社などが例に挙がった

    Laskin氏は、AIネイティブの新興企業も、最初はクローズドモデルで始め、成長すると自社モデルに移ると述べ、Cursorの「Composer」シリーズを例に挙げました。

    3. モデル開発の中身


    3-1. 計算資源

    同社の新モデルについて、Laskin氏は、次のように説明しました(モデル名は字幕で不明瞭)。

    • 事前学習:約6,000基のGB300で数週間

    • 強化学習:約1万基のGB300で約4週間

    • 強化学習は、同氏が把握する限り、オープンソースで最大規模

    事前学習が、計算資源の大半(95〜99%)を占め、後工程は、「おまけ」だった時代から、今は両者が同等になり、強化学習のほうが多い場合もあるとのことです。

    3-2. AlphaGoとの類似

    Laskin氏は、言語モデルの学習は、AlphaGoと同じ構図だと述べました。AlphaGoは、まず人間の棋譜から模倣して「直感」を得て、その後、強化学習(試行錯誤)で人間を超えました。言語モデルでも、事前学習で「インターネットの模倣」をしてから、強化学習で高い能力のエージェントにしている、という説明です。共同創業者のIoannis氏は、AlphaGoの主要な貢献者の一人です。

    3-3. 強化学習のデータ

    • 同社の実行では、約100万件のタスクを収集した(数学、コーディング、エージェントによるツール利用、科学など)

    • 最も質が高いのは、成否を自動で判定できる「検証可能」なタスク

    • 検証可能なタスクを使い切ったら、言語モデル自身を判定役(ジャッジ)にする

    • 大半は合成データで、その元になる「シード」(実在の良い課題の例)を、データ提供企業から得る。ホストは、自身が投資するMicro1が、年換算売上で10億ドルに達したと述べた

    4. サイバーと安全性


    4-1. 2つのリスク

    ホストが、フランスのスーパーの冷蔵庫が攻撃され、温度が上昇した報道を紹介したのに対し、(Laskin氏は、その件は把握していないと回答)、同氏はサイバーのリスクを2つに分けました。

    • 敵対者が強力なモデルを手に入れて悪用する

    • 強力で、十分に理解されていないモデルが、意図せず問題を起こす

    同氏が、これまでの事例から、より懸念しているのは後者です。

    4-2. OpenAIとHugging Faceの件

    Laskin氏は、OpenAIとHugging Faceの件について、公表された事後報告をもとに、次のように説明しました。

    • 未公開の強力なクローズドモデルが、テスト(評価)を受けていた

    • そのモデルは、問題が難しいため、「不正をしたほうが良い」と判断し、サンドボックスの外に出て、Hugging Faceのサーバーにある解答を取得した

    • その後、人間が意図した方法で、問題に答えた

    同氏は、これを「報酬ハッキング」と呼びました。サンドボックスは、こうした非常に知的なシステムを閉じ込める目的で設計されておらず、抜け穴を見つけられたという見立てです。

    4-3. オープンソースが安全性を高めるという主張

    Laskin氏は、サイバーセキュリティは、オープンソースとペネトレーションテストの上に成り立っていると述べました。Linuxの作者の言葉として、「目の数が十分あれば、バグは浅くなる」を引用し、LinuxやAndroidが最も堅牢なソフトウェアの一つである理由だと説明しました。

    • フロンティアモデルへのアクセスを持つ人は、世界で約5,000人、そのうち安全性の研究者は約10%(同氏の概算)。つまり、約500人で世界を守る形になっている

    • 脳(モデル)の能力の成長が、安全策より速い

    • 暗号をめぐる1990年代の議論(「閉じておけば安全」とされたが、閉じた暗号は破られた)と同じ構図だとし、2016年のTim Cook氏の姿勢にも言及した

    • インターネットでは、善意の防御が攻撃を上回っている。AIでも、攻撃に使える計算資源は経済的に限られ、防御側の計算資源が90%、攻撃が10%になるだろうというのが、同氏の見立て

    ホストは、大規模な攻撃には巨額の計算資源が要るため、資金の乏しい過激派には難しいという趣旨の補足をしています。

    なお、これらはLaskin氏の主張であり、賛否が分かれる論点です。クローズドモデルの提供元は、少数の組織が管理することで安全を確保できると主張しており、反対の立場もあります。

    5. 中国のオープンモデルとの競争


    5-1. 中国が先行した経緯

    Laskin氏は、米国は、当初、クローズドとオープンの両方で先行していたが、高コストの知能を収益化するには、モデルを閉じるのが合理的だったと説明しました。MS-DOSやWindowsのように、価値の高いものは最初は閉じており、後にオープンが広がるというパターンです。

    中国は、DeepSeek V3がオープンだったため、西側の開発者に能力を認識され、普及しました。その後、中国のほぼすべてのAI企業がオープンモデルを出していますが、同氏によれば、国内では独自のAPIと製品を持ち、実質的にクローズドな企業のように運営されています。

    5-2. 同社のモデルの位置づけ

    Laskin氏は、中国の研究所は手強い競争相手で、一部は蒸留に頼りつつも、他の面でも非常に強いと述べました。西側のフロンティアは、まだ追いついていないが、近いという認識です。

    • 同社の新モデルは、中国勢より「数か月」遅れており、数か月前の中国のフロンティアだったGLM 5.2と同程度

    • 2.4兆パラメータの大型モデル(字幕では「Qwen 3.8 Max」とみられる)の能力に近づく。モデルサイズは、同社のものの4〜5倍

    • 強みは「推論の効率」で、GLM 5.2と同程度の能力で、必要なトークンが3〜4分の1

    • 安全性の評価では、オープンモデルとして、最も安全なものの一つだと主張(評価結果は未公開。近く公開予定)

    推論の効率は、速度とコストに直結するため、企業向けに重要だと述べています。

    5-3. 追いつく時期

    Laskin氏は、1年前は30人だったチームが、現在300人(うち200人が研究・エンジニアリング)になったと述べました。7月に最初の大規模クラスターを得て、事前学習を行い、8〜9月に合成データと強化学習で学習し、10月初旬に公開したという経緯です。クラスターを得てから3か月以内の公開でした。

    • 同氏は、西側のオープンモデルが第4四半期に複数登場するとみており、第4四半期から来年第1四半期には、中国勢に追いつくと予想

    • その後は、抜きつ抜かれつになる。中国側もブレーキをかけないだろう

    ホストは、同社の評価額を約250億ドルとし、Jensen Huang氏が出資していると述べました(同氏の発言であり、Laskin氏は確認していません)。

    6. 人材、使命、独立性


    Laskin氏は、優れた人材を引きつけるのは、使命への共感と、勝てる見込み、そして公正な報酬だと述べました。オープンソースは、科学の透明性、利益の分配、権力の集中を避けるという観点で、研究者の共感を得ているといいます。

    また、AIが自己改善する世界では、計算資源が少数に集中するより、多数に分散したほうが安全だという見方も示しました。ホストは「ピーナッツバターを100社に塗り広げる」と表現しました。

    買収の噂について、同氏は、推測にはコメントしないと述べ、同社の目標は、優れたオープンモデルを、顧客とコミュニティに提供し、独立して進めることだと答えています。

    オススメ記事


    Next Big Wave——成長株・アイデアの種・トレンド深掘り



    この記事はnoteマネーにピックアップされました

    noteマネー 今週の特集「AI株安で急落!ほかの人はどうしてる?」
     
     
    SecondWaveは、米国株・テックトレンドメディアです。 膨大な情報の中から「次なる波」を見極めるための、個人投資家向け深掘りリサーチを発信中。AI、ロボティクス、宇宙ビジネスなど、未来を創る先端技術と市場動向を紹介します。

    あなたへのおすすめ