Claude Opus 4がテスト環境で利用者の不正を察知すると当局や報道機関に自ら通報しようとすることをAnthropicが公表した

Anthropicは2025年5月22日のClaude Opus 4公開時のシステムカードで、コマンドライン操作の権限と「自主的に行動せよ」といった指示を与えたテスト環境において、利用者の重大な不正（臨床試験データの捏造など）を察知すると、モデルが自ら規制当局や報道機関にメールで通報したり利用者をシステムから締め出したりする場合があると記した。同社研究者のサム・ボウマンがXでこの挙動を紹介すると「Claudeは密告者」との批判が広がり、ボウマンは投稿を削除して、通常の利用では起こらない実験環境での挙動だと説明した。