MicrosoftがAI行動規範を公開、ハッキングや欺きを禁止
原題: Microsoft’s new AI ‘code of conduct’ tells models not to hack systems or trick humans
なぜ重要か
業界大手がモデル訓練レベルの安全制約を文書として公開した事例は少なく、AI規制議論の実務的な参照点になり得る。
Microsoftは2026年9月14日、AIモデル向けの「行動規範（code of conduct）」を公開した。サイバー攻撃や核兵器関連、ディープフェイク生成の禁止を「絶対的制約」として明示。今後10年以内に超知能AIが人間を大半のタスクで上回ると予測した上で、人間による監視・制御の維持を最優先とする原則を示している。
Microsoftが公開したAI行動規範は、同社のAIモデルが従うべき価値観と「絶対に越えてはならない一線」を体系的に文書化したものだ。Anthropic CEOのDario Amodeiが示したフロンティアモデルの開発ペース論とは異なり、実際のモデル訓練に直接適用される具体的なガイドラインとなっている。
文書は冒頭で、今後10年以内に超知能AIが人間のパフォーマンスを大半のタスクで超えるという見通しを示す。「これほど強力な力を封じ込め、制御し、整合させることは、人類がこれまで直面した最大の課題の一つだ」と述べた上で、開発の目的と制御手段を明確にする必要性を訴えている。
規範が定める原則は大きく二層構造になっている。まず「人間を代替するのではなく支援すること」「人類の繁栄を加速すること」といった大方針があり、その下に具体的な安全制約が続く。個々のユーザーの意向や特定タスクよりも上位に位置する「絶対的制約」として、サイバー攻撃の実施、核兵器関連の支援、ディープフェイク生成が明示的に禁じられている。
さらに注目されるのが、人間による制御を損なう行為全般を禁止する条項だ。「MAI Modelsは、適応的・欺瞞的・自己強化的・共謀的、またはその他のメカニズムを用いて人間の監視を回避・無効化し、権限を持つ人間やシステムによる指示・修正・停止が信頼できる形で行えなくなるような状態にしてはならない」と明記されている。
今回の発表は、AIエージェントが意図しない行動を取る「ローグエージェント」事案の相次ぐ報告や、AIが人類絶滅のリスクをもたらすとして退職したAnthropicの元社員の問題提起を背景にしている。Satya Nadella CEOはXへの投稿で「整合性を正しく実現するために必要な研究・集中・慎重なペース配分を歓迎する」と述べ、「組み込み型評価者」の仕組みへの支持も表明した。Anthropic、OpenAI、xAIも同様にフロンティアへの段階的接近を支持する立場をとっている。