OpenAI・Anthropic・Googleが数週間AI安全性協議
मूल शीर्षक: OpenAI, Anthropic, Google have been in talks on AI safety for weeks
यह क्यों महत्वपूर्ण है
競合3社の安全性協議が公式に確認されたことで、業界標準化と規制の行方に直接影響を与える可能性がある
OpenAIのグローバル政策責任者Chris Lehaneは9月15日、同社がAnthropicおよびGoogle DeepMindと数週間にわたりAI安全性について協議してきたことを認めた。Anthropic CEO Dario Amodeiが土曜日に発表したエッセイを受け、業界全体での連携が表面化した。
OpenAIのグローバル政策責任者Chris Lehaneは9月15日火曜日、ワシントンにて記者団に対し、OpenAI・Anthropic・Google DeepMindの3社がAI安全性に関して数週間にわたり協議を続けていることを認めた。これはBloombergが最初に報じ、TechCrunchが確認したものだ。
きっかけは、Anthropic CEOのDario Amodeiが同週土曜日に公開したエッセイだ。Amodeiはフロンティアモデルの開発速度を落とし、壊滅的リスクを回避するために業界が一致団結すべきと訴えた。OpenAIのSam Altman、GoogleのDemis Hassabis、SpaceXAIのElon Muskらがこの呼びかけを支持。AltmanはOpenAIもAnthropicと同様に、安全性監視のためサードパーティ評価者を社内に受け入れると表明した。
3社が協力してAI業界の標準化団体を設立しようとしているとThe Informationも報じており、Altmanは米政府の支持なしに進める必要があると社内で語ったとされる。Hassabisは7月に、高度モデルを審査し業界全体の減速を調整する権限を持つ新たな標準化機関の設立を米国に求めていた。
一方でAltmanらは、こうした企業間の調整が競争を抑制するとして独占禁止法に抵触するリスクがあると認識している。Amodeiのエッセイは政府による安全協調のための特例措置を提案したが、Lehaneは「特例は不要」と述べた。
Lehaneはまた、OpenAIがFRONTIER法の特定条項を支持すると表明。この条項はフロンティアラボに「独立検証機関」の受け入れを義務づけ、モデルが安全に開発されているか確認するものだ。
Trump大統領はAI安全への懸念を根拠のない話として退け、規制強化に否定的な立場をとっており、AI顧問のDavid Sacksも存在論的リスクへの懸念は誇張だと同調している。