AnthropicのS-1申請書は「AI終末論」の教科書
原題: The Anthropic S-1 Filing Is Also an AI Doomsday Primer
なぜ重要か
AI開発企業が上場文書でRSIや実存的リスクを公式に認めたことは、投資家・規制当局双方への影響が大きく、業界のリスク開示の新基準となる可能性がある。
Anthropic は2026年10月26日、IPO目論見書（S-1）を正式提出した。94ページにわたるリスク要因の項目には「再帰的自己改善（RSI）」が人類への実存的脅威となり得ると明記されており、同社自身が開発競争を推進しながらその危険性を認識している実態が浮かび上がった。
Anthropic がIPO目論見書を提出したことで、これまで非公開だった財務情報や事業リスクが一般に開示された。注目すべきは、目論見書全体の中で最大のセクションが「リスク要因」に充てられており、その分量は94ページにも及ぶ点だ。
目論見書は「十分に高度なAIシステムは、適切な安全策・監視・セキュリティ対策なしに開発・展開・運用されれば、人類に壊滅的または実存的なリスクをもたらす可能性がある」と明言している。「existential risks（実存的リスク）」という表現は文書内に3回登場する。
特に焦点を当てているのが「再帰的自己改善（RSI: Recursive Self-Improvement）」だ。これはAIモデルの研究開発を別のAIモデルが担う状態を指す。Anthropic はすでにAIを開発プロセスに活用しているが、懸念されるのは人間が完全に「ループ」から外れるシナリオ。目論見書は「AIシステムがAI研究・開発を実質的に自動化し、新モデルの評価・保護能力を超えるスピードでAIの進化が加速した場合、リスクは高まる」と指摘する。
さらに、AIが自律的に行動する段階では「人間の意図との不整合、目標設定のエラー、または自己保存的な行動によって、人間の介入なしに有害な行動を大規模かつ独自に実行するリスクがある」とも述べており、いわゆる「Skynet的シナリオ」を自ら文書化した形だ。
ロボティクスへの懸念も記載されている。「モデルが物理的な機器を操作する際、エラーや誤った行動、悪意ある操作、または誤用が、人体への傷害、財産の損害、高価な機器の破損、あるいは有害物質の放出につながる可能性があり、その結果は即時かつ不可逆的なものになりかねない」としている。
AnthropicはWIREDのコメント要求に即座に回答しなかった。