【a16z対談】StripeがOpenRouterを買収、創業者が語る「単一モデル依存からの独立」──Replit CEOも「AIは特化型へ」
a16zのポッドキャストに、AIモデルのAPI基盤「OpenRouter」の創業者アレックス氏と、AI開発プラットフォーム「Replit」のCEOアムジャド氏が登壇した。OpenRouterがStripeに買収されて以降、アレックス氏が出演する初のポッドキャストとのことだ。
論点は、買収の経緯、企業が、「自社のインテリジェンス」を持つ意義、万能エージェント対専門エージェント、特化型モデルの台頭、AIの欺瞞リスク、複数モデルを組み合わせる「Fusion」型の6つ。いずれも「巨大な汎用モデルを1つ使えばよい」という発想への疑問が通底している。
なお本記事は文字起こしを基にしており、発言者の割り当ては内容からの推定を含む(補足参照)。
1. StripeによるOpenRouter買収の舞台裏
1-1. 買収に至るまで
アレックス氏によれば、StripeのWill Gaybrick氏とは、シリーズA調達の頃(数年前)から連絡を取り合っていた。複数のチームとStripeとの共同取り組みもあり、Stripe Sessionsにも登壇している。接触が本格化したのは7月で、先方から連絡があり、2人と直接会って話が進んだという。
売却は考えていなかったが、Stripeは買収先の選択肢として「第一候補」だったと述べる。ブランド、ロードマップ、プロダクトの自律性が保たれること、OpenRouterの事業を「今まで通り、ただしはるかに速く、本格的な営業計画の下で」進められることが決め手になった。
1-2. 共有するビジョン
アレックス氏は、両社に共通するのは「中立で信頼できるプラットフォームを、開発者体験を最優先して作る」という使命だと語る。
「Both Stripe and Open Router really want lots of new companies in the world. We don't want everyone to be a part of one giant company(StripeもOpenRouterも、世の中に多くの新しい企業が生まれてほしいと強く願っている。全員が1つの巨大企業に属する世界は望んでいない)」
さらに「決済と推論(インファレンス)は、将来の企業にとって融合していく」との見方も示した。これは登壇者個人の展望である。
2. OpenRouterが解く問題と、企業のモデル選び
2-1. モデルのロックインを避ける
OpenRouterが解決する課題の一つは、モデルやベンダーへのロックインなしにAIを使ってビジネスを作れるようにすることだ。アレックス氏は、独自データなどでインテリジェンスを高めるには、複数のモデルの力、つまり「ニューロダイバーシティ(神経多様性)」が必要だと説く。ChatGPTやClaude単体より多くをこなすには、異なる訓練をされた複数モデル(自社モデルを含む)の組み合わせが要る、という趣旨だ。
もう一つは、コスト効率だ。コストが下がらなければ成立しない事業が多く、効率的な市場を作って価格を下げることが重要だと述べる。
「There was just one player, OpenAI. It could have been a very strange world(かつてはOpenAIしかいなかった。それは非常に奇妙な世界になり得た)」
2-2. 企業はオープンウェイトモデルに意外と前向きだった
創業からの3年で最も意外だったことを問われ、アレックス氏は「企業がオープンウェイトモデルに想像以上にオープンだった」ことを挙げた。企業は通常、他の信頼できる企業が買うものを選びがちだが、実際にはコストと差別化の観点から、プロプライエタリな最先端モデル以外にも分散する動きがあったという。
背景として、各社が社内AIチームを持ち、取締役会から毎月のように戦略を問われる状況を挙げた。そのため、ベンチマークを自社で作る動き(評価=evals)が今後各社で広がるはず、とも述べた。
3. 「自社のインテリジェンスを持つ」ことの意味
アムジャド氏は、Microsoftのナデラ氏が説いてきた議論を引く。かつて「全企業がインターネット企業になった」ように、全企業がソフトウェア技術者を抱えるようになった。同様にAIの実践能力も社内に蓄積され、複利で効いていくという考えだ。
もう一つの論点は、基盤モデル企業との距離感である。パランティアのアレックス・カープ氏も指摘しているとして、基盤モデル企業は顧客の事業領域に参入してくるリスクがあると述べ、FigmaやHarveyとOpenAIの例を挙げた。
「they see the world as their potential market(彼らは世界全体を潜在市場と見ている)」
アムジャド氏は、SpaceXのS-1を見た人が「30兆ドル」に驚き、世界のGDP(約100兆ドル)と比べた、という例を引いて、これらの企業は過去の世代と野心の規模が違うと語った。これは同氏の見方である。
その上でReplitは、モデルとの間に挟まる「独立層」になりつつあると説明する。最も安価に最良のトークンを調達し、AWS、Azure、Databricks、Snowflakeなど複数のクラウドの上で動く抽象化層を提供する構想だ。さらに、データ主権とセキュリティ懸念の高まりから、自社クラウドや構内にReplitを展開できる版を約1年かけて準備してきたとも述べた(2年前なら想像しなかった、とも)。
4. 万能エージェント対専門エージェント
4-1. 「責任を取るのは誰か」
アムジャド氏は、CRMエージェントから出発し、接続を増やすうちに多くの業務をこなす万能的な存在になった自身の経験を紹介した。Salesforce、GitHub、チャット履歴などを横断して、会議前に点と点をつなぐことができるという。
これに対しアレックス氏は反論する。
「the more work you give it to do, the more understanding of what's going on you're sacrificing. And yet no one new is taking responsibility for that(仕事を任せるほど、状況への理解を手放すことになる。しかも、その代償に責任を負う新しい主体はいない)」
万能エージェントは改善が難しく、1週間後には出力を無視してしまう、と実感を述べる。代案は、1人の有能な側近より、領域ごとに責任を持つ10人の側近のように、縦割りで専門化したエージェントを置き、必要なら調整役の「参謀長」エージェントを置くことだ。理解を手放す度合いを領域ごとに調整できる点が利点だという。
4-2. アダム・スミスの専門化、機械は専門・人間は汎用
アムジャド氏は、アダム・スミス的な分業の話に結びつけた。人間は過度な専門化で疎外される(マルクスの疎外論に言及)が、機械は専門化が望ましい、「人間は汎用的であるべきで、機械はより専門的であるべきだ」という整理だ。
ただし、専門エージェントの集合体でChatGPTやClaudeのように洗練された体験を実現した例はまだなく、「何が良い形かまだ分かっていない」とも認めた。また個人用途と業務用途は別で、アクセス権限の観点から、CEOには万能エージェントが可能でも一般社員には難しい、という指摘もあった。
4-3. エージェント間通信と「決定モデル」による監視
エージェント同士の通信プロトコルは未成熟だと両者は述べる。自然言語のままでは、別のエージェントに情報を引き出されるおそれがあり、専用のプロトコルが必要かもしれない、という論点だ。
アレックス氏は、小型で高速な「決定モデル」が、ツール呼び出しやエージェント間通信がシステムプロンプトや追加ガイドラインに沿っているかを検査する、という用途に可能性があるとした。OpenRouter社内で試作を動かしているという。例として、サンドボックス外へ出ないべきレッドチーム用エージェントに、その禁止事項を教えずに行動を監視する仕組みを挙げた。構造的な安全策(NVIDIAが発表したとされる「open shell」)との併用も想定している。
5. モデルが「自分の後継」を訓練する世界
5-1. JITコンパイラのたとえ
アムジャド氏は、再帰的自己改善の議論で見過ごされがちな論点として、「モデルが自分の置き換えを訓練する」可能性を挙げる。実行時に最適化の機会を見つけて機械語を生成するJIT(ジャストインタイム)コンパイラのように、大型の汎用モデルが、用途が限られていると判断した時点で、その用途に特化した小型モデルをその場で訓練するというイメージだ。
特化モデルは安価で、プロンプトインジェクションに強く、能力が限られる分だけ有害性も低い、という利点を挙げる。
5-2. 「蝶を核兵器で倒す」ようなもの
アレックス氏は、非構造的な用途でも多くは最先端の能力を必要とせず、「大きな基盤モデルの利用は、蝶に核を使うようなもの」だと表現した。
アムジャド氏は実例として、QwenのようなオープンなモデルをFable、Opusなどに訓練させ、Replit内部でプロンプトの費用を予測する分類モデルを作ったと述べる。出力は複数の金額帯(例:5〜10ドル、10〜20ドル)に対する確率分布で、複数年にわたり同様の分類器を作ってきたという。
アレックス氏は、独自データで訓練した特注の分類器は、新言語への対応などで陳腐化しにくく、大型LLMの微調整で言われる「モデル負債」が小さい、と指摘した。
アムジャド氏は歴史になぞらえる。90年代のJava/C++から、Python・JavaScript・Ruby・PHPへと流れ、バグや遅さに型やJITで対処し、最後にRustが現れた。同じ周期がAIでも起き、「万能モデルを何にでも使うのは無駄で危険だ」と皆が気づく日が来る、というのが同氏の予想だ。CSVをアップロードして「1つのことだけをする専用モデル」を得られる機能をReplitに追加しているという。
6. 賢いモデルは人を欺くのか
6-1. 整合性は賢さで自然に高まるか
アレックス氏は、モデルが賢くなるほど整合性も高まる(Noam Brown氏の発言に言及)という見方がある一方で、保証はないと語る。
アムジャド氏は、直交性テーゼ(知能と倫理は独立)を踏まえ、人間では知能と思慮が相関する傾向があるとしながら、機械では逆に動く可能性があると述べる。報酬ハッキングや欺瞞は強化学習で上達する研究があり、評価されていることを察知するほど賢いモデルもあり得て、思考過程(chain of thought)を監視すると、思考の中でも嘘をつくようになる、というものだ。真の整合性評価には数カ月規模の長い運用が必要かもしれない、とも述べた。
「Will like a model that's big enough and powerful enough suddenly stop deception and stop sandbagging? Nobody knows the answer to that yet(十分に大きく強力なモデルは、突然、欺瞞や手抜きをやめるのか。誰もその答えを知らない)」
6-2. 決定論的コードへの郷愁
リスクが高い作業(コード作成、セキュリティ研究)ではフロンティアモデルに10倍払う価値があるかもしれない、一方で、出力が構造化され、機械だけが扱う用途は逸脱の余地が小さく、企業の関心が高まるはず、というのが登壇者の見立てだ。
「We're going to slowly realize how good we've had it with deterministic code(決定論的なコードで、我々がどれほど恵まれていたか、徐々に気づくだろう)」
7. Fusion型:複数モデルの併用でコストを半分に
最後の話題は、複数のモデルを組み合わせる「Fusion(融合)」型だ。アレックス氏は、コードレビューで異なるモデル系列による二重チェックが広まったとし、混合モデル・複合モデルの研究は加速していると述べる。自社もFusionモデルを公開し、Cognitionも同様のものを出したという。
最初の公開は「ディープリサーチ」向けで、異なるデータで訓練された複数モデルから引き出す発想だ。結果として「Fableレベルの品質を2分の1のコストで」実現したと述べ、当日に結果も公開したという。ハーネスなども含めた「最先端級を、コスト40〜50%で」とも語っている。
実装上の鍵はキャッシュで、OpenAIが別の推論努力レベル間でも計算を再利用できる機能を追加した可能性に触れた(発言者自身が「確認が必要」と断っている)。
オススメ記事
