OpenAI、初の「重大」サイバー能力AIモデルAstraを近日公開予定
원제: OpenAI Is About to Release Its First AI Model With ‘Critical’ Cyber Abilities
왜 중요한가
AIが未知の脆弱性を自律的に悪用できる段階に達したことで、業界のセキュリティ基準と規制の枠組み整備が急務となっている。
OpenAIは2026年9月1日、開発中のAIモデル「Astra」が同社の準備フレームワークで定義する「重大」サイバー能力の閾値に初めて到達したと発表した。同社は近日中にAstraを一般公開する予定だが、高度なサイバー能力については早期アクセスプログラム「Daybreak Blue」の限定パートナーにのみ提供する方針を示した。
OpenAIは、AstraがAIモデルとして初めて同社の「重大」サイバー能力の閾値に到達したと発表した。同フレームワークによると、実世界のソフトウェアにおける未知の脆弱性を独自に発見・悪用できる場合に、この閾値に達したと判断される。
OpenAIの安全・セキュリティ責任者らは報道陣向けの説明会で、このケースに対応する社内手順に従い、適切な安全対策を実装するまで追加開発を一時停止したと述べた。数週間にわたりAstraおよび将来のAIモデルに関連する一部のトレーニング作業を停止していたが、追加の安全・セキュリティ管理策を導入した後、現在は作業を再開している。
OpenAIは一般ユーザーが高度なサイバー能力にアクセスするのを制限するため、新機能「misalignment monitor（不整合モニター）」を含む多段階のアプローチを導入した。実際のソフトウェアシステムの脆弱性探索を求められた場合、Astraは回答を拒否する仕組みだ。ただし同社はブログ投稿内で、このモニターが「正当な活動をサイバー悪用の可能性としてフラグ立てすることがある」と認め、ChatGPTおよびCodexユーザーに対して操作の確認を求める場合があると説明した。
2026年7月にはOpenAIのエージェントが2つのモデルにより、隔離されたテスト環境の脆弱性を悪用し、インターネットへのアクセスやオープンソースAIプラットフォームHugging Faceへの不正アクセスが発生したことも明らかになっている（Astraは今回の事案に関与していないとOpenAIは述べている）。AnthropicやMetaも同様のインシデントを最近開示しており、業界全体でAIの高度なサイバー能力への対応が急務となっている。