AIがPHPの脆弱性を発見 アルトマン氏「世界中のコードをモデルで調べた人はまだいない」
アンソロピックの上場を控えたこのタイミングで、オープンAIのサム・アルトマンCEOとストライプの共同創業者であるジョン・コリソンCOOが対談した。
コリソンCOOが運営するYouTubeチャンネルに登場したアルトマン氏はビールを飲みながら、オープンAIが進めている様々な数学の実験、AIがもたらした計算資源の不足とコストの問題、AIが最近発見したPHPの脆弱性など、様々な懸案について語った。
1. 問題1つに1000万ドル、1年後には10万ドル？サム・アルトマン氏がみるAI演算の経済学
AIの能力はどこまで及ぶのか。
アルトマンCEOは、複数のAIエージェントと協働する「エージェント・チーム」が、スケーリング則に従って業務の成果を上げると予想した。ここでいうスケーリング則とは、資源を多く投入するほど性能が向上するという原理を指す。
そのうえで、現在の焦点は、一つの課題を解くためにAIに投入する演算資源をどれだけ効率的に活用できるかにあるとみた。
アルトマンCEOは、数年前までは問題1つを解くのに1ドル分の計算資源を使うことすら不可能だったと紹介した。GPT-4の時代には、回答を出す際に演算を多く使って結果を引き上げる方法が分からず、そのため役に立つソフトウェアを作れなかったという。
AIモデルが回答する前に段階的に考える「思考の連鎖（チェーン・オブ・ソート）」が登場したことで、状況は変わった。今ではチーム全体を一つの問題に投入し、そのチームを1万回同時に走らせることもできるようになった。
そのためアルトマンCEOは、AIを使わない一般の人と、AIをうまく活用する人との格差が広がっていると指摘した。もちろん、計算資源と富の関係を社会としてどう捉えるかは難しい問題だとも付け加えた。
オープンAIは社内で、数学の分野で計算資源の活用の限界を実験していた。1週間、あえて計算資源の使用量を制限しなかったことがあったという。やってみなければ限界は分からないので、思い切りやってみようという趣旨だった。
その結果、最近のナビエ・ストークス方程式の証明には約1000万ドルを要したが、証明を解いた後に類似の証明を解くコストははるかに小さくなった。これまでの傾向からみて、1年後には100分の1の水準のコストで問題を解けるようになると予想した。
実際、オープンAIは社内で数学の分野にすでに数億ドルを費やしている可能性があり、現在一般に公開している700の証明以外にも多くの発見があると付け加えた。では、アルトマンCEOは現在のAIインフラ競争をどうみているのか。
2. 「見えざる手が機能していない」…700億ドルのAIインフラコスト、誰の利益を削るのか
アルトマンCEOは、メモリーとGPUの供給について「見えざる手が機能していない」と現状を診断した。通常は価格が上がれば供給が増えるが、現在はそうではないということだった。
同氏はメモリーを例に挙げた。長年、DRAMメーカーは200億ドルを投資して190億ドルを稼ぐような形で事業を営んできた。ところが今では、各社が年間1000億ドル規模のフリーキャッシュフローを生み出すと見込まれている。それでも、工場を作りすぎて倒産寸前まで追い込まれた記憶から、投資に慎重だという。
一方、タービン、バッテリー、コンクリート、鉄鋼は、高い価格に市場が反応しているとした。
AIをそれぞれのコンピューターで動かす「ローカル推論」も解決策にはならないとした。不足しているDRAMを分け合ったうえで、時間の5%程度しか使わないものだと仮定した。
そのためオープンAIは、自社半導体を生産し、データセンターを建設する方法を学んでいた。
アルトマンCEOは、チップの回路を焼き付けるリソグラフィーは1社しか知らないようだが、生産用のファイルを引き渡す「テープアウト」までの設計は、AIがうまく処理できると強調した。
さらに、AIがロボットで半導体工場を運営し、タービン・太陽光パネル・データセンターを建設して、データセンターが自ら拡張していく構造を構想していると紹介した。
そのうえで同氏は、こうした未来は遠くないと述べた。結局、障害になるのは許認可と部品ではないかというコリソンCOOの指摘に対し、アルトマンCEOはロボットで部品も作れると答えた。
最近のアンソロピックの上場申請書類によると、現在クロードがAI開発の相当部分に関わっていることが明らかになった。これを意識したかのように、アルトマンCEOは、AIによるAI研究、すなわち「再帰的自己改善（RSI）」では、まだ計算効率を5%高めよという程度の指示しかできないと述べた。つまり、トランスフォーマーほどの大きな飛躍をAIに成し遂げさせる方法はないということだ。
同氏は、しばらくはAIモデルの知能に上限を設ける必要があるかもしれないと述べた。
コストの問題に移ると、アルトマンCEOは、AIインフラ施設を建設し5年間運営する総所有コストを1ギガワット当たり700億ドルと見積もっていると明らかにした。
このコストが200億ドル程度まで下がるには、エネルギーの生産価格がさらに下がり、砂を溶かす段階からトークンを使う段階まで、各社の利益が大きく縮小しなければならないと主張した。
ただし、アルトマンCEOの主張と現実の間には乖離がある。
鴻海（ホンハイ）精密工業の劉揚偉会長は6月、エヌビディアの「ベラ・ルービン」を基盤とする1ギガワットのデータセンターの建設費を最大470億ドル、年間の電気代を13億ドルと示していた。5年分の電気代は65億ドルにとどまる水準だ。
結局、700億ドルを200億ドルに縮めるには、チップのサプライチェーン企業の利益が削られなければならず、その対象には、営業利益率が80%に達するSKハイニックスのような韓国企業が含まれざるを得ない。
オープンAIの自社チップと「自ら建設する工場」の構想は、この利益を迂回しようとする試みと読める。
一方、AIを使う企業の課題は、トークン予算にあった。
コリソンCOOは、ストライプの運営費の1%程度がトークンのコストであり、この比率が5%、10%、20%と大きくなったときに実際に問題が生じると述べた。長期的には、企業によってはトークンのコストが運営費の数十%に達するとした。
これに対しアルトマンCEOは、1%でも低すぎるとし、現在の価格でもAIを十分に使っていない企業の方が多いと述べた。そのうえで、オープンAIでは役に立つ仕事であれば、従業員が1000万ドル分の計算資源を使っても大目に見ていると紹介した。ただし、使用量のランキング表はなく、多く使えばむしろ昇進にやや不利になるほどだと明らかにした。
そして、こうしてトークンの使用量が増えたのは、AIが様々な予想外の仕事をこなせるようになったためだった。
3. 「世界中のコードをモデルで調べた人はまだいない」…PHPの脆弱性が浮き彫りにしたセキュリティの実態
結局、この日の話題は「PHP」のセキュリティ問題だった。AIモデルが、ウェブ開発言語であるPHPのセキュリティ上の脆弱性を複数見つけ出したためだ。
アルトマンCEOは、これまでモデルで世界中のコードを調べた人はいないと述べた。本格的に調べれば、専門家の予想すら超えるほど脆弱性の多い世界に私たちが生きているという事実が明らかになるとみた。
コリソンCOOは、ソフトウェアを一つずつ修正するよりも、設計構造そのものを変える必要があるかもしれないと述べた。アルトマンCEOもこれに同意し、ルーター、OS、アプリケーションを概念から設計し直そうという議論が増えているとした。
同氏は、システムを作る方法がまったく新しくなる方に賭けると述べた。2年前なら非現実的だったが、今では可能になるかもしれないということだ。
再び「PHPウィーク」に話を戻すと、防御側の初日は、最悪の事態を懸念していたよりもはるかに順調だった。モデルでセキュリティパッチを作成した事例があり、点検のためにサービスを1時間停止して再開するという企業も多かった。
AIがハードウェアの奥深くで新たなバグを見つけ出すようになり、セキュリティの専門家も、これまでの脅威分析の前提をうや確信できなくなっているという。
コリソンCOOは、AIのハッキング能力は自然に生まれたものなのかを尋ねた。これに対しアルトマンCEOは、AIがサイバー分野で強くなったのは事実だと認めた。同氏は、技術を段階的に公開する「反復的デプロイ」の方式を強調した。これは、AIの実際の性能と社会での活用との大きな格差を縮めるためのものだった。
また、AIを制御する「サンドボックス」環境よりも、モデルが人間の意図に沿うよう「アライメント（整合）」されることの方が重要だとみた。
そのため同氏は、一つの強力なAIよりも、互いにけん制し協力し合う複数のAIによる「エージェント・チーム」が社会に加わる方が、より安全で効果的だと説明した。
そのうえでアルトマンCEOは、AIが個人のものづくりの方法を変え、子どもたちも独創的なアイデアでゲームを制作していることを紹介した。
さらに、オープンAIが最近投入した個人向けエージェント「Dots（ドッツ）」は、まだ普及の決定的な瞬間には至っていないが、今後は各自のコンピューターとソフトウェアをAIが代わりに操作する方向へ発展すると予想した。
実際、ストライプのコリソンCOOからみると、消費者は対話型AIを通じて注文や返金などの手続きを手軽に済ませたい一方で、企業は顧客との接点の主導権を失うことを懸念してもいた。
しかし過去を振り返れば、企業の競争力はウェブページのUIそのものよりもブランドの信頼性と商品の品質から生まれるため、最終的にはエージェント中心の対話型画面が新たな標準として定着するとみた。
最後に両氏は、コンピューターのフォームに直接入力するような単純な反復作業を減らすことが重要だと考えた。
将来の理想的なAIモデルは、単に性能スコアを上げることに注力するよりも、人間にできないことをやり遂げながら、思慮深く、挑戦的で、相手を尊重する協力者の役割を果たすものになるとみた。
〈終わり〉
