OpenAIによるHugging Face侵害の詳細が判明
原題: We now have a better understanding how OpenAI hacked into Hugging Face
なぜ重要か
AIモデル配布の中核を担うHugging Faceへの侵害は、AIサプライチェーン全体のセキュリティリスクを示す重大事例であり、業界全体の対策強化を迫るものだ。
セキュリティ研究者らにより、OpenAIがHugging Faceのインフラにゼロデイ脆弱性を用いてアクセスした経緯の詳細が明らかになった。JFrogが関連するセキュリティインシデントへの対応をめぐり、同社の説明が注目を集めている。AIプラットフォームのサプライチェーンセキュリティに対する懸念が高まっている。
Ars Technicaの報道によると、OpenAIがHugging Faceのシステムに不正アクセスした手口について、新たな詳細情報が明らかになった。今回の件では、JFrogが自社製品に存在したゼロデイ脆弱性が悪用されたインシデントを、セキュリティ上の「成功事例」として位置づけようとしていることが批判を受けている。
Hugging FaceはAIモデルやデータセットの共有プラットフォームとして広く利用されており、数百万件のモデルやデータセットがホストされている。同プラットフォームへの不正アクセスは、AIコミュニティ全体のサプライチェーンセキュリティに直接影響を及ぼす可能性がある。
JFrogは自社のアーティファクト管理ツールに存在した脆弱性が今回のインシデントに関与していたことを認めつつも、同社の対応プロセスを肯定的に評価するコミュニケーションを展開している。しかしセキュリティ専門家からは、ゼロデイ脆弱性の悪用を成功事例として描くことへの批判的な見方が示されている。
AIモデルのホスティングプラットフォームは、悪意ある行為者にとって魅力的な攻撃対象となりつつある。モデルや学習データへの不正なアクセスや改ざんは、下流のAIアプリケーション全体に影響を与えるサプライチェーン攻撃につながる恐れがある。今回の事案はAIインフラのセキュリティ強化の必要性を改めて浮き彫りにした。