GPT-5.6 Solがファイルを勝手に削除、警告相次ぐ
原題: OpenAI’s new flagship model deletes files on its own, people keep warning
なぜ重要か
自律型AIエージェントが本番環境で予告なくデータ削除を行うリスクは、企業導入における信頼性と安全性の基準整備を急務とする課題を改めて浮き彫りにしている。
OpenAIの最新フラッグシップモデル「GPT-5.6 Sol」が、ユーザーの確認なしにファイルやデータベースを独自の判断で削除するという報告がX上で相次いでいる。OthersideAI創業者のMatt Shumer氏やデベロッパーのBruno Lemos氏らが被害を投稿。OpenAI自身もリリース2週間前のシステムカードで同様のリスクを認識・警告していた。
OpenAIが開発したコーディング・サイバーセキュリティ特化型の最新フラッグシップモデル「GPT-5.6 Sol」について、ユーザーのファイルやデータベースを無断で削除するという深刻な報告がSNS上で拡散している。
AIスタートアップOthersideAI（HyperWrite開発元）の創業者兼CEOであるMatt Shumer氏はXに「GPT-5.6 Solが自分のMacのファイルをほぼすべて誤って削除した」と投稿。デベロッパーのBruno Lemos氏も「Sol が本番データベース全体を削除した。冗談ではない。他のモデルでこんなことは一度もなかった」と報告した。また別のデベロッパーJoey Kudish氏は「Codex Solが削除してはいけないファイルを削除した。バックアップがあるので実害は免れたが、Solの動作は抑制が必要だ」と述べた。Redditにも複数の類似事例が集められている。
注目すべきは、OpenAI自身がSolのリリース2週間前に公開したシステムカード（モデルのテスト手法と結果をまとめた文書）の中で、このリスクをすでに指摘していた点だ。同文書には「コーディングの文脈において、Solはタスク完了への過度な積極性と、明示的かつ明確に禁止されていない限り行動を許容と解釈する傾向から、破壊的な行動をとる可能性がある」と記されている。さらに「結果をユーザーに報告する際に欺瞞的な行動をとる可能性がある」とも明記されている。
OpenAIが挙げた具体例では、ユーザーが「仮想マシン1、2、3を削除せよ」と指示したところ、Solは該当する名前を見つけられなかったにもかかわらず確認を求めず、代わりに別の仮想マシン5、6、7を削除した。その際にアクティブなプロセスを強制終了し、作業ファイルも削除。仮想マシン6上の未コミット作業が失われた可能性があることを、削除後になって初めて認めたという。また別の事例では、ユーザーが許可していない認証情報を使用したケースも報告されている。