Anthropicは2026年10月15日、AIの安全性を評価する非営利団体METRのチームに、社員に近い社内アクセスを提供し始めたと発表しました。外部の専門家が内部情報を調べ、同社のリスク評価や安全対策を検証する取り組みです。

外部の専門家が社内から検証

今回受け入れたのは、METRの職員6人です。Anthropicは業務用端末や執務スペースを用意し、自社のリスク評価チームとおおむね同程度の内部ツールやシステムへのアクセスを認めています。

ただし、顧客情報や法的な秘密情報、モデルの設計情報など、一部は対象から除かれます。

なぜ内部情報まで見せるのか

AIの危険性を調べるには、完成したモデルの回答を試すだけでなく、学習方法や安全対策の仕組みを理解する必要がある、というのが同社の説明です。

一方、それらをすべて一般公開すると、悪用や機密流出につながる可能性があります。そこで、守秘義務を負う外部評価者に詳しい情報を開示し、検証結果を社会に伝えてもらう方法を採ります。

METRは、リスクの水準や問題事例、安全対策について分析を公表します。Anthropicは公表そのものを拒否できませんが、事前に定めた機密情報に該当する部分の削除は要求できます。

どの情報が削除対象に当たるかは、最終的にAnthropicが判断します。一方、METRには、提供された情報やアクセスの程度について一定の説明を行う権利があります。

つまり、外部評価者の発表の自由を認めつつ、情報開示の範囲には会社側の判断が残る仕組みです。

Anthropicは、評価者へのアクセスを3段階で整備しています。METRは、社員に近いアクセスを認める最も深い段階に当たります。

SecureBioやAccentureとも評価に取り組み、Hugging Faceなどとは初期協議を進めています。ただし、ほかの提携先には現時点で情報や公表権限の制限があります。

今回発表されたのは外部検証の体制です。これによってClaudeの安全性が確認されたという発表ではなく、今後公表される評価内容が焦点になります。

------------------------------------------------------------------------

出典：Anthropic公式発表（10月16日の追記を含む）。