中国がDeepSeek・Kimiのを調査か-AI蒸留によるClaudeへの情報漏洩が原因か

セキュリティニュース

投稿日時: 更新日時:

中国がDeepSeek・Kimiのを調査か-AI蒸留によるClaudeへの情報漏洩が原因か

中国のインターネット規制当局が、DeepSeekと「Kimi」を開発する月之暗面(Moonshot AI)について、データ安全性の調査を進めていると報じられています。発端は、Anthropicが2026年9月10日に公表した脅威インテリジェンス報告です。同社は、両社が一部利用者のリクエストを本人に知らせないままClaudeへ転送し、その中に中国の軍・警察・国有企業などに関係する機微情報が含まれていたとしています。

DeepSeek・Kimiのデータ安全性調査をめぐるサマリー

  • The Informationは2026年9月22日、中国国家インターネット情報弁公室がDeepSeekと月之暗面のデータ安全性を調査していると報じました。
  • 同報道によると、国家網信弁はAnthropicの報告で名前が挙がった中国AI企業7社の関係者から事情を聴き、その後DeepSeekと月之暗面を重点的に調べています。
  • DeepSeekと月之暗面のオフィスには当局者が入り、幹部や従業員への聞き取りを行ったとされています。処分の有無はまだ決まっていないと報じられています。
  • Anthropicは、月之暗面が一部のKimi利用者のリクエストをClaudeへ転送し、Claudeの回答をKimiの回答として表示していたと報告しました。
  • 月之暗面について、Anthropicは10日間で約30万件の顧客リクエストがClaudeへ転送された事例を確認し、2026年5~7月には2,300万件を超えるやり取りを観測したとしています。
  • 転送されたKimiの入力には、中国人民解放軍(PLA)関係者と評価された利用者の監視データや、中国国有企業の内部コード、有効な認証情報が含まれていたとAnthropicは報告しています。
  • DeepSeekについても、2026年7月の14日間で1,210万件を超えるClaudeとのやり取りが観測され、中国企業の内部AI戦略資料や中国の地方公安局向けシステム開発に関する入力などがClaudeへ転送されたとしています。
  • 中国商務部は9月9日、米政府が示した中国AI企業による「産業規模の蒸留」との指摘を「事実に根拠がなく、法的根拠もない」と反論しました。ただし、この声明はAnthropicが9月10日に公表した利用者データ転送の報告より前のもので、今回報じられた調査への公式見解ではありません。
  • 台湾の数位発展部は2025年1月、DeepSeekについて越境データ転送や情報漏洩の懸念を理由に、公務機関や重要インフラなどでの利用を制限する方針を示しています。
  • 現時点で「中国の国家秘密が漏洩した」「DeepSeekまたは月之暗面が中国法に違反した」「行政処分が決定した」と確認できる公表資料はありません。
項目 内容
調査が報じられた日 2026年9月22日(The Information)
調査主体と報じられている機関 中国国家インターネット情報弁公室(CAC、国家網信弁)
対象 DeepSeek、月之暗面(Moonshot AI/Kimi)
発端 Anthropicが2026年9月10日に公表した脅威インテリジェンス報告
主な疑義 一部利用者の入力を本人への明示なくClaudeへ転送したとの指摘
Kimi関連 約10日間で約30万件、2026年5~7月で2,300万件超のやり取りをAnthropicが観測
DeepSeek関連 2026年7月の14日間で1,210万件超のやり取りをAnthropicが観測
含まれていたとされる情報 PLA関係者の監視データ、国有企業の内部コード・認証情報、中国企業のAI戦略資料、公安局向けシステム開発情報など
中国当局の公式発表 2026年9月24日時点で調査開始を明示した国家網信弁の公表資料は確認できず
処分 報道時点では未決定
「国家秘密」の漏洩 公的に確認されていない

中国国家網信弁がDeepSeekと月之暗面を調査と報道

The Informationは9月22日、中国国家網信弁がDeepSeekと月之暗面についてデータ安全性の調査を進めていると報じました。関係者の話として、Anthropicの報告で名前が挙がった7社の代表者が当局から事情を聴かれ、その後、DeepSeekと月之暗面に調査の焦点が移ったとしています。

同報道では、国家網信弁の担当者が両社のオフィスを訪れ、幹部や従業員から聞き取りを実施したとされています。当局はデータ転送の規模や内容、意図などを調べており、行政処分を行うかは決まっていないとされています。

台湾の聯合報も9月23日、The Informationの報道をもとに、中国当局が両社を調査していると報じました。

一方、国家網信弁の公式サイトでは、9月24日時点で両社を名指しした調査開始の告知は確認できません。したがって、「中国当局が調査を公式発表した」とするのではなく、「調査していると報じられている」と整理する必要があります。

AnthropicはKimi利用者の入力がClaudeへ転送されたと報告

Anthropicが9月10日に公開した「Detecting and countering misuse of AI: September 2026」では、月之暗面に関する活動を「GTG-16002」として整理しています。

Anthropicによると、月之暗面は一部のKimi利用者から受け取ったリクエストをKimi自身で処理せずClaudeへ転送し、Claudeの回答を利用者に返していました。ある10日間では約30万件の顧客リクエストがAnthropicへ中継され、その大半がClaude Opusに送られたとしています。

同社は、月之暗面が5,380の不正アカウントで構成されたプロキシサービス網を利用していたとも報告しています。2026年5~7月にAnthropicが月之暗面へ帰属させたやり取りは2,300万件を超えました。

問題は件数だけではありません。Anthropicは、Claudeへ転送された利用者の入力に以下の情報が含まれていたとしています。

  • PLA関係者である可能性が高いとAnthropicが評価した利用者による、成都の数百台のCCTVカメラを使った特定人物の監視データ
  • PLA施設や中国電子科技集団の関連研究所、大手国有企業周辺のカメラから得られた監視情報
  • 中国の大手国有企業で内部システムを開発していた技術者が入力した内部コード
  • 複数の中国企業に関係する、実際に利用可能な認証情報

これらはAnthropicによる調査結果です。PLAとの関係や各データの法的な秘密区分について、中国側の公的機関が認定したものではありません。

DeepSeekでは中国企業のAI戦略資料や公安局向けシステムの入力が転送されたとされる

AnthropicはDeepSeekについても、月之暗面と類似した仕組みを確認したと報告しています。

報告では、DeepSeekが特定の利用者リクエストを選別し、Claude Opusへ転送していたとしています。2026年7月の14日間で、DeepSeekに帰属すると判断したClaudeとのやり取りは1,210万件を超えました。

Anthropicが例として挙げたのは、中国のテクノロジー企業の従業員がDeepSeekに入力した社内資料です。そこには主要AIプログラムの仕様、組織構成、戦略目標などが含まれ、Claudeへ中継されたとしています。

このほか、中国の地方公安局向け事件管理システムを開発していた技術者のリクエストがClaudeへ送られた事例も報告されています。システムは国民ID番号を使い、人物の移動履歴と警察記録を照合する機能を持つものだったとされています。

ロシア国防省に関係する政府機関のデータを扱うIT担当者のリクエストから、ロシア政府データベースの有効な認証情報がClaudeへ転送された事例も記載されています。

「モデル蒸留」と「利用者データの第三者転送」は分けて考える必要がある

今回の問題では「蒸留」と「データ漏洩」が同じものとして扱われやすいものの、論点は異なります。

モデル蒸留は、高性能なモデルの出力を利用して別のモデルを学習させる技術です。Anthropic自身も、蒸留そのものは正当な学習手法だと説明しています。

Anthropicが問題視しているのは、虚偽アカウントやプロキシなどを使って同社の制限を回避したとする行為に加え、DeepSeekや月之暗面の利用者が入力した内容を、本人が認識しないままClaudeへ転送したとする点です。

中国商務部は9月9日、米NSA、CISA、FBIが中国AI企業による大規模な蒸留を指摘したことに対し、蒸留は業界で一般的な技術であり、米側が技術・商業上の問題を政治化していると反論しました。

ただし、この中国商務部の回答はAnthropicの9月10日の報告より前に出されたものです。このため、中国政府がKimiやDeepSeekの利用者データ転送について否定した資料として扱うことはできません。

中国法では利用者入力の第三者提供とデータ出境が論点になる

中国の「生成式人工智能サービス管理暫定弁法」第11条は、生成AIサービス提供者に対し、利用者の入力情報や利用記録を保護し、利用者を識別できる入力情報や利用記録を違法に保存したり、違法に第三者へ提供したりしないよう定めています。

また、「ネットワークデータ安全管理条例」では、個人情報や重要データを他のデータ処理者へ提供・委託する場合、処理目的、方法、範囲、安全保護義務などを契約等で定め、相手方の履行状況を監督することを求めています。重要データを国外へ提供する場合は、国家網信部門が実施するデータ出境安全評価も規定されています。

仮にAnthropicが報告したような第三者への転送が確認された場合、利用者への告知、同意や契約、転送されたデータの種類、保存場所、国外提供の扱いなどが調査対象になり得ます。

一方、Anthropicが「sensitive information」と表現したデータが、中国法上の「重要データ」や「国家秘密」に該当するかは公表資料だけでは判断できません。「軍や警察に関係する情報が転送された」と「国家秘密が漏洩した」は同義ではありません。

台湾は2025年からDeepSeekの越境データと情報漏洩リスクを警告

台湾の数位発展部は2025年1月31日、DeepSeekについて、公務機関や重要インフラなどで利用を制限する方針を公表しました。

数位発展部は、DeepSeekが中国のサービスであり、越境データ転送や情報漏洩の懸念があるとして、公務上の秘密情報、個人情報、未公開情報を生成AIへ入力しないよう求めています。台湾行政院はその後、公務機関でDeepSeek AIサービスを全面的に使用しない方針を示しました。

台湾の国家資通安全研究院は2025年2月、DeepSeekのオフラインモデルを対象にしたセキュリティ評価を公表し、複数のジェイルブレイク攻撃に対する防御能力が不足しているとしました。

これらの台湾政府資料は、今回Anthropicが指摘したClaudeへの転送を独自に確認したものではありません。ただし、生成AIを公務や重要インフラで利用する際に、モデルの性能だけでなく、データの保存場所、越境転送、サービス提供者が利用する外部モデルまで確認する必要があるという観点では今回の事案と重なります。

情報システム部門が確認したいポイント

今回の報告で確認対象になるのは、生成AIのサービス名だけではありません。企業で外部AIサービスを利用している場合は、次の項目を契約・技術の両面から確認できます。

  • 利用者の入力を別のAIモデルや外部事業者へルーティングする仕組みがあるか
  • モデルルーター、APIアグリゲーター、推論代行事業者などの再委託先が契約書やDPAに記載されているか
  • 入力・出力データの保存国、処理国、保存期間が確認できるか
  • 入力データがモデル学習、評価、蒸留、品質改善に利用される条件が明示されているか
  • APIキー、パスワード、アクセストークン、秘密鍵を生成AIへ入力しないルールとDLP制御があるか
  • ソースコード、設計資料、顧客情報、未公開の研究開発情報を入力できるサービスを限定しているか
  • 一般向けチャット、企業向け契約、API、自社ホストのオープンウェイトモデルを同じリスクとして扱っていないか
  • ベンダーが推論先やサブプロセッサーを変更した際に通知を受けられる契約になっているか

生成AIでは、画面上に表示されるサービス名と、実際に推論を行うモデルやデータ処理事業者が一致するとは限りません。企業側では「どのAIを使うか」に加えて、「入力データが最終的にどこへ送られ、誰が処理できるのか」を確認する必要があります。

関連記事:

出典