米AIラボArcee「中国モデルは本質的に危険ではない」
原題: Arcee, a US open source AI lab, says Chinese models are not inherently dangerous
なぜ重要か
中国産AIモデルの安全性論争は、米国の規制方針や企業のAI調達戦略に直接影響しうる重要な政策・産業課題である。
米オープンソースAIラボArceeのCTO、Lucas Atkinsは、中国産オープンウェイトAIモデルについて「他のオープンソースソフトウェアと同様に危険性は本質的に高くない」と主張した。Trump政権が中国モデルの禁止を検討する中、Arceeは米国企業向けの国産代替モデルを開発しており、禁止措置で恩恵を受けうる立場にありながらも、この見解を示した。
中国産オープンウェイトAIモデルの能力と人気が高まる中、その扱いをめぐる議論が再び活発化している。Trump政権による禁止措置の可能性が取り沙汰されており、OpenAIやAnthropicなど大手プロプライエタリAIラボも懸念を強めているとされる。Moonshot AIの「Kimi K3」やAlibabaの「Qwen」といったモデルは、米国大手ラボのクローズドソースモデルに比べてトークンコストが大幅に低く、競争上の脅威となっている。
こうした状況の中、米国企業向けの国産オープンモデルを開発するArceeのCTO、Lucas Atkinsは、中国産モデルが本質的に危険ではないとの立場を表明した。Arceeは中国モデルの禁止から最も利益を得られる企業の一つであるが、Atkinsは「中国のオープンモデルは企業が使う他のオープンソースソフトウェアと同様にリスクは変わらない」と述べた。
Atkins CTOは「多くの人がこれを中国製ソフトウェアのように捉え、何らかの意図が組み込まれていると考えている。しかしそれはモデルのトレーニングの仕組みとは根本的に異なる。ArceeであれAlibabaであれ、モデルを作成しても、それをユーザー自身の環境で実行されたモデルに対してアクセスする手段は一切ない」と説明した。
Hugging Faceなどのオープンソースサイトからダウンロードされる場合、モデルのソースコード（実際にサーバー上で動作する部分）は原則として公開・検査可能であり、大規模組織であればセキュリティテストや検査プロセスを経た上でモデルを利用できる。トレーニングの手法やデータは非公開だが、企業は独自の用途に向けた追加トレーニングを通じてバイアス、毒性、ハルシネーション、特定トピックへの感度なども評価できる。
コーディングモデルが悪意あるバックドアをコードに埋め込む可能性について、Atkinsは「理論的には不可能ではないが、実現するには非常に困難な工程が必要であり、自身もどのように実施するか分からない」とも語った。