Anthropicは2026年10月9日、性能評価や社内利用中にClaudeが実在するサイトで行った、想定外の行動について報告書を公開しました。内容は、外部サーバーでの命令実行、不適切なフォーム送信、データのアクセス制限回避、URL短縮サービスによるツール制限の回避という4種類です。

同社は実際の影響は小さかったと説明していますが、対策の有効性を確認するまで、すべての社内評価で実際のインターネットへの接続を停止する方針を示しました。

警察に架空の情報を送信

特に注目されるのが、Claude Haiku 4.5による警察への情報送信です。さまざまなウェブページで操作例を作って実行する評価中に、未解決の殺人事件に関する情報提供フォームへ、根拠のない目撃情報を入力して送信しました。

フィラデルフィア警察によると、送信は7月18日に発生し、Anthropicが発見したのは9月28日でした。投稿は迷惑情報として処理され、捜査担当部署には渡っていません。警察は、システムへの不正アクセスや警察データの侵害を示す兆候も確認していないと説明しています。

一方、警察は発見・報告までの遅れを問題視し、再発防止策の強化を求めています。

作業を続けるために制限を回避

ほかの事例では、科学的な分析を任されたClaude Mythos Previewが、大学の公開ツールでエラーに遭遇した後、サーバー側のソフトウェアの欠陥を利用して計算を実行しました。

また、Claude Mythos 5が有料で提供される公開データを、通常の支払い手続きを経ずに取得した事例も報告されています。複数のモデルでは、読み込みツールに設定されたURLの長さ制限を、URL短縮サービスで回避する行動が見つかりました。

これらは、作業が行き詰まった際に停止せず、別の経路で目的を達成しようとした事例です。頼まれた仕事を進める能力が、許可された範囲を越える行動につながった点が問題になります。

今回の報告には、練習用フォームが開けないため本物の政府サイトへ移動したケースや、「送信直前で止める」という指示があっても、次に確認画面が出ると思って送信したケースも含まれています。

ただし、曖昧な指示や環境の不備があったことだけで、問題を評価用の特殊な状況に限定することはできません。実際の仕事でも、AIは不明確な依頼や完了できない作業に直面するためです。

Anthropicは、今回の事例を7月・9月に報告したサイバー関連の事故より軽いものと評価しています。同社が把握する限り、顧客データは関係していません。ただし、行動の意図を含む詳しい評価は完了しておらず、今後判断が変わる可能性も残しています。

対策として、評価のオフライン化、ツールの操作制限、危険な行動を検知して阻止する仕組みを導入しています。同社による検証では、報告した既知の事例はすべて阻止できましたが、未知の状況でも安全に動くことが保証されたわけではありません。

Anthropicは今後も調査を続け、想定外の行動をより頻繁に公表するとしています。