AI開発を手がけるAnthropicが提供するコーディング支援AI「Claude Code」に、中国ユーザーを密かに識別する検出機能が組み込まれていたことが明らかになり、波紋を呼んでいます。この機能はシステム時刻や特定のドメインリストを照合し、その検出結果を巧妙に隠蔽してAIのプロンプトに埋め込んでいたとされます。報道後、Anthropicは速やかにこの機能を「実験的対策」と認め、来たるバージョンアップで完全に削除すると発表しました。
Claude Codeに密かに仕込まれたユーザー検出メカニズム
今回問題となったのは、「Claude Code」のバージョン2.1.196です。匿名のユーザーがこのツールを分析した結果、今年4月から密かに組み込まれていた検出メカニズムの存在が明らかになりました。このメカニズムは、主に以下の3点をチェックしていたとされています。
- システムタイムゾーンの確認: 使用しているコンピューターのシステムタイムゾーンが中国時間であるか否か。
- ドメインリストとの照合: 100以上の中国の主要テクノロジー企業やAI研究所のドメインリスト、およびClaude APIのプロキシサービスアドレスリストとの照合。
さらに驚くべきは、これらの検出結果が巧妙に隠蔽されていた点です。例えば、日付の表示形式を変更したり、特定の絵文字を異なるUnicode文字に置き換えたりすることで、外部からは判別しにくい形で「中国のドメインにヒット」「中国のAI研究所に関連」といった情報がシステムプロンプト内に埋め込まれていたと報じられています。
難読化されたコードと非公開の機能
この検出機能に関連するコードは難読化されており、Anthropicが公開していた説明文書には一切言及がありませんでした。そのため、ユーザーは自身の情報が密かに収集・識別されていることに気づくことができませんでした。この隠蔽された機能の存在が広く報じられると、プライバシー侵害の懸念から大きな注目を集めることとなりました。
Anthropicの緊急対応と説明
一連の報道を受け、Anthropicのチームメンバーは迅速に反応しました。彼らの説明によると、この検出メカニズムは2026年3月に実装が予定されていた「実験的な対策」であり、その目的はアカウントの不正譲渡やモデル詐欺攻撃を防ぐことにあったとされています。
Anthropicは、既に強化されたアカウントセキュリティ対策を導入済みであり、問題となった検出機能の関連コードについては、バックポート更新として既に統合されていることを明らかにしました。そして、この検出機能は2026年7月2日にリリースされる新バージョンにおいて、完全に削除される予定であると明言しています。
まとめ：AIの透明性とユーザープライバシーへの問いかけ
今回のAnthropicによる中国ユーザー検出機能の発覚と、それに伴う迅速な削除の発表は、AI開発における透明性とユーザープライバシーの重要性を改めて浮き彫りにしました。意図が不正防止であったとしても、ユーザーに知らされずに情報が収集・識別されることに対しては、強い懸念が生じます。
AIが社会に深く浸透していく中で、企業側にはより一層の倫理的配慮と説明責任が求められます。特に、国境を越えて利用されるAIツールにおいては、各国の規制や文化的な背景、そしてユーザーのプライバシー意識の違いを深く理解し、それに対応した開発姿勢が不可欠となるでしょう。日本のユーザーにとっても、自身が利用するAIサービスがどのような内部挙動をしているのか、透明性を求める意識を持つことが重要となります。
元記事: pconline
Photo by Jakub Zerdzicki on Pexels
