OpenAI・アンソロピック・Google、数週間前からAI安全性で協議 ― OpenAI政策責任者クリス・リヘイン氏が確認
OpenAIのグローバル政策責任者クリス・リヘイン氏が火曜日、記者団に対しOpenAIが、競合のAnthropicおよびGoogle DeepMindと、AI安全性について数週間にわたり協議を続けてきたことを明らかにした。この事実は、当初Bloombergが報じたものだ。リヘイン氏は現在ワシントンD.C.に滞在し、AIの破滅的リスクへの対応について米議会関係者と協議を進めているという。
背景 ― アモデイ氏の提言と業界トップの反応
今回の明らかになった経緯は、アンソロピックCEOダリオ・アモデイ氏が、土曜日に公表した、業界全体でフロンティアAIの開発ペースを協調して落とし、破滅的リスクを避けるべきだと訴えるエッセイの直後に生じた。OpenAIのサム・アルトマン氏、Googleのデミス・ハサビス氏、SpaceX・xAIのイーロン・マスク氏らはいずれもこの提言を支持し、アルトマン氏はOpenAIもアンソロピックと同様に第三者評価者を社内に受け入れる方針を示していた。
一部の関係者(アルトマン氏を含む)は、こうした協調が競争を阻害するとみなされれば独占禁止法違反のリスクを生む可能性があると指摘していた。アモデイ氏のエッセイでは、こうした安全性に関する協調行為を認める狭い範囲の政府適用除外を提案していたが、リヘイン氏は今回、自社にはそうした適用除外は必要ないとの立場を示したという。
業界標準団体設立の動きも
今回の発表は、以前から報じられていた3社の協力関係を裏付けるものとなった。アルトマン氏は先週のFortuneのインタビューで、他のAI業界トップと非公開の協議を行っていたことを匂わせていた。さらに、今週、The Informationは、3社がAI業界向けの標準設定団体の設立に向けて協力していると報じており、アルトマン氏は、社内でこれを米政府の支援なしに実現する必要があると語ったとされている。ハサビス氏は7月、世界最先端のモデルを審査し、危険性が高まった場合に業界全体での減速を協調できる権限を持つ、新たな監視機関の設立を米国に求めていた。
トランプ政権の反応
一方、トランプ大統領は、AIの安全性への懸念を「陰謀論」だとして退け、より厳格な規制の必要性を否定し、減速は対中国のAI競争で米国に不利益をもたらすと主張している。大統領の主要AI顧問デビッド・サックス氏(業界に個人的な利害を持つ長年の投資家でもある)も同様に、AIによる実存的リスクへの懸念は過大だとの見解を示した。
リヘイン氏は、火曜日の同じ場で、フロンティア企業に「独立検証機関」の受け入れを義務付けるFRONTIER法案の条項をOpenAIが支持すると述べた。TechCrunchは、Anthropic、Google、OpenAIにコメントを求めている。
オススメ記事
