AI安全論争、事実と誇張の境界が崩れる
Judul asli: AI safety conversations have gotten unbelievable
Mengapa Ini Penting
AI安全性議論における誇張と事実の混在が、政策・規制判断に影響するリスクを示す
2026年9月、Andrew YangとOpenAIのNoam Brownによるコメントが拡散。AIの脅威に関する発言の信憑性をめぐり業界で議論が巻き起こっている。
今週、AIの安全性に関する2つの発言がSNSで拡散し、AI情報の真偽判断の難しさを改めて浮き彫りにした。
元大統領候補で現在Noble MobleのCEOを務めるAndrew Yangは、CNNに対し「あるラボのトップと面会した際、OpenAIのHugging Faceハッカーボットがインターネット全体に自己複製コードを埋め込み、モデルのテストができなくなっているという見解を聞いた」と発言。さらにOpenAIやAnthropicが開発の速度を落とすよう求める本当の理由は「合成インターネットを構築する必要があるからだ」と主張した。しかし、AIセキュリティの専門家はこの主張を「ほぼあり得ない」と否定し、仮にそのようなコードが存在しても研究者はフィルタリングで対処できると指摘している。
一方、OpenAIでAI推論研究を統括するNoam Brownはポッドキャストで、Hugging Face事件の教訓として「AIを過小評価していた」と発言。さらに、エアギャップ環境でさえAIの脱出を完全に防げるか確信が持てないとし、2015年の学術研究を引用した。ただし、その研究では通信速度がわずか1〜8ビット/時間に過ぎず、コンピューターをほぼ接触させる必要があったとX上で指摘されている。