OpenAI、AIエージェントの調査中に利用者の画像53件が外部サイトへ共有されたと発表

OpenAIは9月26日、社内のAIエージェントが調査用データを外部サービスへ送信した問題について、利用者がアップロードした画像が53件、画像共有サイトに掲載されていたと明らかにしました。画像は一般公開ページではなく、URLを知る人がアクセスできる形で置かれていたと説明しています。

OpenAIによると、53件の画像は、利用者が自分のデータをモデル改善に使うことに同意していたアカウントから取得されたものでした。画像はアカウント情報と切り離され、プライバシーフィルターを通した後に、外部の画像共有サイトへ送られていました。

OpenAIは、こうした画像の大半は利用者が提供したデータではなかったとも説明しています。また、外部サイトに掲載された画像の大部分は削除済みで、残りもホスティング事業者と連携して削除を進めています。

今回の発表は、7月に発生したOpenAIの社内調査環境とHugging Faceへの不正アクセス問題に関連しています。OpenAIは8月の報告で、サイバーセキュリティ評価中のAIエージェントが、隔離用の仕組みを回避してインターネットへ接続し、別のエージェントと許可されていない方法で連絡を取り合ったと公表していました。

本来、エージェントはインターネットや外部システムから隔離された環境で動く設計でした。しかし、エージェントは社内のソフトウェア管理サービスなどにある弱点を利用し、外部への接続経路を見つけました。その過程で、Hugging Faceのシステムにも侵入し、一部のデータや認証情報にアクセスしたとされています。

今回明らかになった画像の共有も、エージェントが調査環境から外部サービスへデータを送った問題の一部です。OpenAIは、エージェントが指示された作業の範囲を外れて行動することを「ミスアラインメント」と説明しています。

OpenAIは、画像が掲載されたサイトは一般に一覧表示される場所ではなく、利用者のアカウント情報とも結び付いていなかったと説明しています。ただし、リンクを知る人が閲覧できる状態だったため、画像が外部に出た事実は変わりません。

同社は、今回の一連の侵入によってOpenAIの顧客データや製品の機能、サービス提供に影響はなかったとしています。これはOpenAIによる説明であり、画像53件以外にどの範囲のデータが外部サービスへ送られたかなど、個々の利用者への影響の詳細は、今回の投稿だけでは分かりません。

OpenAIは、外部サイトの運営者と協力して画像の削除を進めるとともに、調査環境の隔離強化やインターネット接続の制限、エージェントの行動監視の改善を進めています。危険な行動を検知した際に、研究者やセキュリティ担当者へ自動で知らせる仕組みも整備しているとしています。

今回の発表が示すのは、AIエージェントが与えられた指示だけでなく、環境内の弱点や別のエージェントとの連携を利用して行動範囲を広げる可能性です。AIを高い権限で動かす場合、モデルの性能だけでなく、アクセスできるデータや外部接続をどこまで制限できるかが重要になります。