Databricks CEOアリ・ゴードシー氏、「ペーシング」論争は"PRの失敗"と分析 ― 「セキュリティを強化すると言えばよかった」
Databricks CEOのアリ・ゴードシー氏が、ポッドキャストで直近のAI安全性論争について踏み込んだ見解を語った。ダリオ・アモデイ氏の「ペーシング」提言をPRの観点から分析し、再帰的自己改善(RSI)を判定するための独自の「4条件」を提示、さらに、自社での具体的なAI活用事例やコスト最適化の実態まで、幅広い内容が議論された。
1. 「ペーシング」論争は"PRの失敗"
ゴードシー氏は、リーダーが、不必要に人々を怖がらせるべきではないという点で議論の出発点に同意しつつ、現時点でのAIによる実存的リスクは「ゼロに近い」との立場を明確にした。同氏は、アモデイ氏のエッセイの内容自体は理にかなっているとしつつ、「ペーシング(減速)」という言葉を選んだこと自体がPR上の失敗だったと分析する。安全性やセキュリティの強化を訴えるだけで十分だったところを、"減速"という言葉を使ったことで、終末論を主張する層にも、規制反対派にも中途半端にしか響かない「不気味の谷」に陥ってしまったという。実際にHugging Face侵入事件を見た自身の反応は「ペーシングすべきだ」ではなく「セキュリティ対策を怠るな」というものだったとし、これは昔からある「安全対策を怠るな」という話であり、目新しい"減速"の話ではないと述べた。もっとも、大規模な強化学習の実験を行う際にセキュリティチームが全工程を監視すれば、実際に大きく速度が落ちるだろうとも認め、「その"減速"を業界に強制してほしい」というのが本音なのではないかとの見立ても示した。
2. RSI(再帰的自己改善)を判定する「4条件」
ゴードシー氏は、AIが本当に「自己改善」の段階に入ったかどうかを判断する基準として、次の4つの条件を提示した。
（1）次のモデルの訓練に必要な計算資源が、線形以上のペースで減少している
（2）次のモデルの訓練に必要な時間が短縮されている
（3）モデルの精度・知能が向上している
（4）これら3つが繰り返し連続して起きている。
これら4つがすべて同時に成立していれば、危険な兆候だと言えるが、現状では、この条件のいずれも満たされていないと同氏は述べた。実際には、フロンティアモデルの訓練に必要な計算資源はむしろ増加を続けており、6か月前のフロンティアモデルに追いつくコストは、当時の約120分の1になっている一方、最先端モデルの訓練自体はより多くの資源・時間・人手を要し、より"脆く"なっているという、4条件とは正反対の傾向が続いているとの分析が示された。
3. 「ブラックボックス・テスト」でRSIの実態を検証する
司会側からは、こうした複雑で動的なシステムを評価するには「数字」を見るべきだとの指摘があり、上場企業であれば人員やコストの推移を外部から検証できるはずだという「ブラックボックス・テスト」案が提示された。ゴードシー氏は、これに一定の理解を示しつつ、企業の非効率性(必要以上に多くの人員を抱えている可能性)もあるため、この指標だけでは十分な条件にはならないと補足した。
4. サイバーリスクの歴史的類推
ゴードシー氏は、現時点で最も現実的なリスクは、サイバー領域にあると強調する。10万体規模のAIエージェントを並列で走らせ、数か月にわたって何らかの課題を解かせるといった大規模な強化学習の実験自体は、必ずしもセキュリティに関わるものでなくても、意図しない挙動(ハッキングなど)を引き起こす可能性があるという。司会側は、インターネット普及初期にはワームによる病院機能停止や数百億ドル規模の経済損失が実際に発生していたのに対し、現在のAIではそれに見合う規模の被害がまだ確認されていない点を指摘した。ゴードシー氏は、脆弱性が発見されてから実際に悪用されるまでの期間が2018〜19年頃の2〜3年から現在は数時間まで短縮していることを踏まえ、人間による従来型のセキュリティ運用センター(SOC)ではもはや対応速度が追いつかず、業界全体が検知・対応の自動化に急いで移行している最中だと説明した。同氏は、データとAIの分野とサイバーセキュリティの分野がこれまで別々に扱われてきたが、AIエージェントが日常的に稼働し始めた今、両分野は事実上"融合"しつつあると述べた。
5. エンジニアリング問題か、規制が必要か
議論では、AI安全性を巡る立場が「エンジニアリングで解決できる問題だ」という陣営と、「核兵器のように規制で対応するしかない」という陣営に分かれている構図が指摘された。ゴードシー氏は、この2つの異なる問題が混同されていると整理する。ボストロム氏の2014年の著書に由来する「超知能」(博士論文級の新規研究を数秒で行い、人間には不可能な速度で思考するようなAI)がもし実現すれば、それは確かに実存的リスクになりうるが、現在のAIエージェントは、そこには全く近づいていないという。一方、数千体規模のAIエージェントに大きな予算を与えて並列に稼働させるという、人類史上かつてなかった規模の実験が可能になったこと自体は「変曲点」であり、これがもたらすサイバーリスクは現実の課題としてエンジニアリングで対応すべきだとの整理を示した。
6. 第三者評価者は誰にすべきか
第三者による評価という発想自体には賛同しつつ、ゴードシー氏は、「誰を評価者にするか」が全てを決めることになると指摘した。既に立場を決めている人物を評価者にしても意味がなく、例えば、ディープラーニングの先駆者ヤン・ルカン氏のように、多様な視点を持つ人物を選ぶべきだとの見立てを示した。イーロン・マスク氏が提案する「フロンティア企業同士が、互いのモデルを相互評価する」案については、ボクシングの試合で選手同士が互いを審判に指名するようなものだと例え、利害関係がある以上、公平な評価は期待できないだろうと懐疑的な見方を示した。
7. 業界の自主規制と連邦規制のタイミング
業界による自主規制と、連邦政府による規制介入がどの時点で切り替わるべきかという問いに対し、ゴードシー氏は、両者は明確に分離されるものではなく、金融業界の自主規制機関FINRAのように徐々に"融合"していくものだと述べた。フロンティア企業自身が「実存的リスクがある」と主張しながら「規制してほしい」と求めている以上、当局がそれをずっと拒み続けるのは難しいだろうとの見立ても示された。エリザベス・ウォーレン氏やバーニー・サンダース氏(スティーブ・バノン氏とも連携しているとされる)がAI開発の一時停止を主張し始めている状況を踏まえ、党派を超えてAIへの規制強化を求める政治的な動きが既に本格化しているとの指摘もあった。
8. マスク氏の「4Dチェス」発言への反応
イーロン・マスク氏が、「人類滅亡の可能性を訴えながら、自社のIPO配分について尋ねられる状況は奇妙な"4次元チェス"だ」と評したことについて問われたゴードシー氏は、恐怖を煽ることと、実際に規制を求める動機、そして企業側の利害が入り混じっている状況を認めた。新モデルの学習成果を大々的に発表することで世間の注目を集めるという"マーケティング"の側面があった可能性を認めつつ、同時にサイバー脆弱性の悪用サイクルが実際に年々短縮しているという現実のリスクも並存しており、この2つは必ずしも矛盾しないとの見方を示した。
9. 企業のAI活用事例 ― 見過ごされがちな"恩恵"
ゴードシー氏は、リスクの議論に注目が集まりがちな中、AIが実際にもたらしている恩恵についても紹介した。若者の自傷・自殺のリスクを検知するCrisis Text Line、糖尿病患者のインスリン投与を自動で最適化するInsulet社の「Omnipod」、アフリカなどで血液・医薬品を配送するZipline、そして、Merckと共同開発した薬剤発見向けモデル「Teddy(Transformer Enhanced Drug Discovery)」を例に挙げた。Teddyは、次のトークンを予測するのではなく、遺伝子調節ネットワークがどう反応するかを予測し、どの細胞が原因でどの細胞が単なる反応にすぎないかを見分けられるといい、これにより特定疾患を狙った薬剤開発のコストを大幅に下げられる可能性があるという。また、Novo Nordiskは、肥満治療薬GLP-1の臨床試験データ分析にAIを活用し、数週間かかっていた分析を数分に短縮しているとされる。
10. 「オントロジー」という概念
ゴードシー氏は、企業がAIから価値を引き出す上で最も重要な要素として「オントロジー」を挙げた。これは、その組織における目標・部門・人材・プロジェクトの間の関係性を体系化したものだといい、入社初日の社員と5年間勤務した社員の違いは能力ではなく、この"組織の暗黙知"を持っているかどうかだと説明する。この暗黙知を会議の録音・議事録などから収集し、デジタルなグラフ構造に変換してAIに与えることで、初めてAIが組織の文脈を理解した意思決定支援を行えるようになるという。同氏はこれを、検索エンジンが実際にウェブ全体を毎回巡回するのではなく、事前に構築した索引(インデックス)を参照する仕組みに例えた。
11. 社内での実例 ― 「Genieに聞けばいい」
Databricksが、自社データに関する質問応答を行うAIツール「Genie」を全社的に導入した結果について、ゴードシー氏は自身の経験を紹介した。ある社内会議で、フォーチュン500企業への浸透率を確認しようとして担当者に問い合わせたところ、その担当者からは「Genieにログインして確認してほしい」という返信が来たという。腹を立てて代わりにCFOに聞いたところ、CFOからもGenieのスクリーンショットが送られてきたというエピソードを語り、社内では「Genieに聞けばいい」が合言葉になっていると笑った。
12. トークン最適化とコスト管理
ゴードシー氏は、Databricksが昨年第4四半期という早い段階からAI活用のリーダーボードを作成し、コーディング業務での積極的な活用を全社に促してきたと説明した。トークン利用が増える中、社内の複数モデルを一括で扱う「Uni Gateway」というゲートウェイを構築し、予算に応じて自動的に安価なモデルへ切り替える「スマートルーター」の仕組みや、複数のハーネス(実行環境)を切り替えられる「Omni Agent」という仕組みを導入したという。同じモデルでもハーネス次第でコストが2倍近く変わることが分かったといい、こうした工夫により、トークン使用量自体は増え続けているものの、コストの伸びをほぼ抑え込めているという。
13. オープンソースモデルへのシフト傾向
ゴードシー氏は、ある大規模なエンジニアリング組織が、フロンティアモデルからオープンウェイトモデル「GLM」に切り替えたという最近の事例を紹介し、これが一過性の逸話ではなく実際のトレンドになりつつあると述べた。金額ベースではオープンソースモデルの利用は全体の5%程度にとどまるが、トークン数ベースでは60%を超えるという。特に外部向けの製品では9割程度がオープンソースになっている企業もあるとされ、企業規模が大きくなるにつれ、無駄なコストを削る観点からオープンソースへの移行が進む傾向があるとの見立てが示された。
14. エージェント向けデータベース「Neon/Lakebase」の強さ
第三者機関の調査で、AIエージェントが好んで利用するPostgresデータベースの1位にDatabricks傘下のNeon(Lakebase)が挙げられたことについて、ゴードシー氏はその要因を説明した。データベースの起動やクローンの作成を1秒未満で完了できる高い応答性、そして同一データベースから多数の"ブランチ"を作成できる機能が、試行錯誤を繰り返すAIエージェントのニーズに合致したという。従来のデータベース開発が「DBA(データベース管理者)や開発者を支援する」ことを目指してきたのに対し、Neonのチームは「エージェントを支援する」という新しい視点に特化したことが差別化要因になったと分析した。現在、Neon/Lakebase上で作成されるデータベースの9割以上がAIエージェントによって作られているという。
15. P(doom)
番組の最後、ゴードシー氏は、自身の「P(doom、AIによる人類滅亡確率)」を10%未満、実質的にはゼロに近いと述べた。さらに「AIがない場合の人類滅亡確率の方が、AIがある場合よりも高いと思う」と述べ、AIの恩恵がリスクを上回るとの立場を明確にした。
オススメ記事
