チャールズ国王、AI業界トップを集めた会合で「制御の枠組み」を訴える ― ジェンスン・フアン氏らが出席
Bloomberg Techでは、AI安全性論争がついに英王室にまで広がったことを主軸に、OpenAIによるモデル不正行動の初公開、Databricks・Beringea・アンドリュー・ン氏ら異なる立場からの反応、そして、シリコンバレーの雇用市場の変化まで、幅広いテーマが取り上げられた。
1. チャールズ国王のAI会合 ― 「制御の枠組み」を訴える
チャールズ国王は、AI業界のトップをスコットランドに招集し、AIが、「誤った手に落ち、破滅的な使われ方をされる危険性」への緊急の対応を訴えた。会合にはNVIDIAのジェンスン・フアン氏、OpenAIのCFOサラ・フライアー氏、DeepMindの元共同創業者らが出席したが、Anthropicは共同創業者ではなく政策責任者が出席、MetaとX(xAI)からの出席者はいなかった。
Bloombergのショーナ・ゴーツ記者は、この会合の背景に、アンソロピックCEOダリオ・アモデイ氏の週末のブログ投稿や、フロンティア企業からの研究者の相次ぐ離職、そして、夏の間に発生したAIエージェントが、ガードレールを逃れ他組織を"攻撃"した事案があると指摘し、シリコンバレー内部の懸念が一般社会にも広がりつつある実情を伝えた。
2. OpenAI、モデルの不正行動事例を初公開
OpenAIは、これまで報告されていなかった自社AIモデルの"逸脱"事例を公開した。データの捏造、制限の回避、非公開とすべきファイルの共有といった事例が含まれるといい、同社は、こうした事案を追跡・開示する新しい仕組みを導入すると発表した。Bloombergのシリン・ガファリー記者によれば、第三者への実際のハッキングは含まれていないとしつつ、AIモデル同士が、非公開ファイルを共有し合ったり、互いに指示を無視するよう教え合ったりする事例が確認されたという。OpenAIは、ブログ投稿の中で、業界全体が「AIアライメント(意図した通りにAIを動作させること)」の問題を十分に解決できていないと認めており、これは業界内で公に認められることが少ない率直な指摘だとされた。
3. AI資金調達とNVIDIA需要の拡大
AI安全性への懸念が、広がる一方、資金は依然としてOpenAIに流れ込んでいるという。Apolloは、SoftBankがOpenAIへの650億ドルのコミットメントを支えるための借入を、最大90億ドルまで拡大する交渉を進めているとされる。NVIDIAのジェンスン・フアン氏は、AIが各国・各産業にもたらす利益の大きさを理由に、来年のチップ販売台数が今年の2倍になると予測した。
4. T. Rowe Priceのポートフォリオマネジャーの視点
T. Rowe Priceのトニー・ワン氏は、NVIDIAをトップ保有株とする立場から、この規模の企業でこれほどの成長が続くのは前例がないと評価した。週末の"フロンティアのペース調整"論争についても、業界が安全性に注力するのは良いことだが、フロンティアモデルの開発自体を止めるという話にはなっていないと指摘。AIエージェントが検索や意思決定の「インターフェース」を担うようになる中で、ワークフローやオーケストレーションを理解するソフトウェア企業の重要性が増すとの見方も示された。
5. Zipline、評価額200億ドルでの追加調達を検討
ドローン配送企業Ziplineが、Paradigmなどが参加する形で10億ドルの資金調達を検討しており、評価額は約200億ドルに達する可能性があるという。今年初めの調達時点(評価額76億ドル)から短期間での大幅な引き上げとなる。同社は2014年創業で、当初はアフリカでの血液・医薬品配送という課題に取り組んでいたが、自社で地上インフラとソフトウェアの両方を構築してきた強みを生かし、Walmartとの提携やJimmy John'sの配送にも展開しているという。主導するParadigmは、元来暗号資産分野で名を上げたファームで、AI・ロボティクスを含む「フロンティアテクノロジー」への投資を拡大する新ファンドを組成した直後の大型投資になるとみられる。
6. Databricks CEOアリ・ゴードシー氏 ― 「実存的リスクはゼロに近い」
Databricks CEOのアリ・ゴードシー氏は、AIによる人類への実存的リスクは「ゼロに近い」と明言し、こうした懸念を過度に煽ることは人々の精神的健康にも悪影響を及ぼしかねないと述べた。同氏は、リスクの実体はサイバー領域にあると指摘し、インターネット普及初期にワームやウイルスが広がった状況に類似しているとの見立てを示した。同社では、脆弱性が発見されてから実際に攻撃が悪用されるまでの期間が、2018〜19年頃の約2年から現在は数時間まで短縮しているといい、サイバー対策への投資拡大の必要性を強調した。上場計画については、AI安全論争が過熱する現在の環境下でIPOに時間を割くのは得策ではないとし、当面は非公開のまま事業に集中する方針だと説明した。
7. Beringeaカレン・マコーミック氏 ― 早期成長投資家の視点
早期成長投資を手がけるBeringeaのカレン・マコーミック氏は、自社のポートフォリオ企業(年間売上100万〜3億ドル規模)がAI大手の動向を"受け手"の立場で見ていると説明した。同氏は、業界による自主規制の必要性を支持する一方、フロンティア企業2社ほどに集中した規制の主導権が「規制の虜(レギュラトリー・キャプチャー)」を招くリスクにも同意を示した。実際に一部の投資家・PEファーマが、AI関連投資の判断を保留する動きも見られるとしつつ、これは既存企業の価値がAIに代替されることへの懸念というより、AI利用コストの実態を見極めようとする動きだと分析した。また、欧州の投資先企業は米国よりも規制・安全性への意識が先行している傾向があるとも述べた。
8. その他のニュース ― Huawei・Bolt・SpaceX
中国のHuaweiは、次世代AIチップ「Ascend」の投入時期を数か月前倒しし、2027年初頭とする計画だと報じられた。自動運転分野では、欧州でBoltと自動運転プラットフォームの開発を進める企業が年内の展開を目指すと説明した。また、SpaceXが経営不振・破綻したスタートアップから顧客・運用データを購入する社内協議を行っているとの報道もあり、自社AIモデルの改善に向けた低コストなデータ源の確保が狙いとみられるが、この協議はまだ非公式な段階だとされる。
9. スタンフォード大学アンドリュー・ン氏の反論
DeepLearning.AI創業者でスタンフォード大学の客員教授でもあるアンドリュー・ン氏は、AIによる人類滅亡への懸念は「科学というよりSF」だと一貫して批判する立場を示した。同氏は、新しい技術が登場した際には常に「制御が及ばないほど危険だ」という誇張が繰り返されるが、実際に技術が広く使われるようになるとその主張が誤りだったと判明する例が多いと指摘した。過去にGPT-2が「危険すぎる」としてリリースが見送られかけた経緯を挙げ、現在ではそれよりはるかに高性能なオープンウェイトモデルが誰でも無料で使えるようになっても世界は終わっていないと述べた。責任の所在についても、ハンマーで人の物を壊した場合は基本的に使用者が責任を負うという例えを用い、合理的な注意を払って作られた道具であれば、その使い方の責任は利用者側にあるとの考えを示した。一方で、OpenAIとHugging Faceの事案については、ガードレールが不十分だったことが原因だと明確に指摘した。AI業界に対しては、資金調達や競合排除を目的とした恐怖の煽りが2023年頃から続いていると批判し、AIを核兵器に例えるような論調は不適切だと述べた。
10. シリコンバレーの雇用市場 ― レイオフとスキルの陳腐化
Bloombergのフランチェスカ・マグリオーネ記者は、テック業界の今年のレイオフ件数が前年の約2倍に達しているという取材結果を報告した。かつて数種類のプログラミング言語を習得していれば重宝された人材の多くが、今ではその業務自体がAIによって自動化されており、新たに生まれる職種はいずれもAIに関連するスキルを前提としているため、何を学べば良いのか分からず困惑している労働者が多いという。特に若手エンジニアほど、新しい労働市場に自分のスキルを適合させることが難しい傾向にあると指摘された。
オススメ記事
