AnthropicがRSI（自己改善AI）の閾値に迫ると警告
原題: Anthropic warns that it’s very close to RSI capability, aka self-building AI
なぜ重要か
AI安全を標榜する企業が上場文書でRSI到達の接近を公式に認めたことは、規制当局・投資家・研究者が取るべき行動の優先順位を大きく塗り替える。
AnthropicはIPO申請書（S-1A改訂版）のリスク要因欄に2026年11月2日付で新たな記述を追加し、同社の内部定義における「AIによる劇的な進歩加速」の閾値に間もなく達する可能性があると開示した。同社はすでに、AIを使って開発した新モデルの能力跳躍を事後まで認識できなかった事例があったとも明記している。現時点では既存モデルがこの閾値を超えてはいないとしている。
AnthropicがS-1A改訂版で明かした財務情報（売上高急増・費用も急増）に注目が集まる中、同社はリスク要因欄にひっそりと重大な追記を行った。それが、RSI（Recursive Self-Improvement＝再帰的自己改善）に関する警告だ。
RSIとは、AIが自らのトレーニングを担うほど高性能になり、能力が加速度的に向上し続ける状態を指す。AI安全論者にとっては人間の制御が失われる転換点であり、楽観派にとっては前例のない生産性や科学的発見をもたらす技術的到達点でもある。
AnthropicはS-1に「AIを使ってより高度なAIを構築することは、進歩の速度が急激に加速した場合、大きな安全リスクをもたらしうる」と記載。これはResponsible Scaling Policy（RSP）が対象とする領域であり、RSIに近づく中でリスクを監視・軽減する計画が定められているという。
特に注目すべきは、同社が以下の2点を認めたことだ。第一に、過去にAIを活用して開発したモデルにおいて、能力の大幅な飛躍をリアルタイムで認識できなかった事例が存在すること。第二に、現行モデルではなく将来モデルに関する内部見積もりが、RSPが定義する「AIに起因する劇的な進歩の加速」の閾値を「間もなく」満たす可能性があること。
ただし同社は、現時点でいかなるモデルもこの閾値を超えていないと明言しており、当面は人間をR&Dプロセスに関与させ続けると約束している。RSIという概念が注目されたのは2026年初頭のことで、当初は「流行語にすぎない」と懐疑的に見られていただけに、業界をリードするAI安全企業自身がIPO文書で接近を認めたことは異例の重みを持つ。