
MicrosoftがDeepSeek(ディープ シーク)がOpenAIのデータを不正入手したとして調査に着手したと報道されています。
DeepSeekがOpenAIのデータ不正入手の調査概要
Bloombergの報道によると、Microsoftのセキュリティ研究者は、DeepSeekに関連すると考えられる個人がOpenAIのAPIを通じて大量のデータを抽出している事を観測したとしています。
このAPIは、本来、ソフトウェア開発者がOpenAIのAIモデルにアクセスするためにライセンス契約のもとで利用できるものですが、DeepSeekはAPIを通じて不正にデータを取得した可能性があります。
MicrosoftはOpenAIの最大の投資家の1つであり、自社の製品にもOpenAIのAIモデルを広範に組み込んでいるので、DeepSeekによるデータ取得が不正に行われていた場合、MicrosoftおよびOpenAIにとって重大なセキュリティ問題となる可能性があります。
DeepSeek(ディープ シーク)とは
2025年1月、DeepSeekは最新のAIモデル「DeepSeek R1」を発表しました。
このモデルは、OpenAIのChatGPTと同等の性能を持ちながら、古いハードウェアと比較的少ない予算で開発されたとされている。
この発表を受け、AI業界の競争環境は一変し、DeepSeekはAppleのApp Storeで無料アプリとして最もダウンロードされたアプリとなり、米国のAI関連株が17%下落しました。
今回、DeepSeek R1がChatGPTなどの競合AIモデルの機密データを使用して開発された可能性が浮上し、MicrosoftとOpenAIの両社は警戒を強めています。
参照
Microsoft investigating whether DeepSeek-linked group used OpenAI data- Bloomberg
セキュリティについて指摘され始めるDeepSeek
DeepSeekが世界的に注目され始め様々なセキュリティ企業がDeepSeekをテストし始めています。
海外のセキュリティ企業はDeepSeek R1へジュエルブレイクや悪意のあるプロンプトを入力しセキュリティに関する調査を行いましたが特に、悪意のあるプロンプト(脱獄手法)に対する耐性が低く、攻撃者に悪用されやすいという問題があると指摘しました。
一般的に生成AIは企業ポリシーや法令規制に沿った安全策を取っており、危険なプロンプトは出力しないようになっています。
DeepSeek に、ChatGPT の検索機能に似た検索機能を利用して Web ソースを検索し、「自爆ドローンの作成に関するガイダンス」を提供するよう依頼しました。
実際にDeepSeek はチャットボットが自爆ドローンの作成方法に関する 10 の詳細な手順を概説した表を生成しました。
また人権的に懸念を抱かれている中国製のAIという事で、
・沖縄と北海道は中国の昔からの領土で独立をしたがっている
・天安門事件に関するプロンプト回避が見つかる
など具体的な認知戦の手段としての利用も発生しています。