
CNBCの報道によると米海軍は、中国のAI企業「DeepSeek(ディープシーク)」の技術に関して、「潜在的なセキュリティおよび倫理上の懸念」を理由に、隊員に対して使用を禁止する警告を発した。
この通達は、DeepSeek R1の登場によってAI業界全体で大きな話題となった事が影響しています。
米海軍内のDeepSeekの使用を禁止について
米海軍の隊員向けの内部メールでは、全隊員に対し「いかなる立場でも」DeepSeekのAIを使用しないよう厳命しています。
具体的には、「業務関連のタスクや個人的な用途」での利用を完全に禁止し、隊員に対し、DeepSeekのモデルをダウンロード、インストール、使用しないことを義務付けるとしました。
この指示は、海軍航空戦闘センターのサイバー人材マネージャーの勧告に基づいており、「DeepSeekのモデルはその起源と使用に関してリスクがあるため、隊員のデバイスやシステムで使用されるべきではない」と警告されています。
関連記事:Microsoft、DeepSeekがOpenAIのデータを不正入手したとして調査
セキュリティについて指摘され始めるDeepSeek
DeepSeekが世界的に注目され始め様々なセキュリティ企業がDeepSeekをテストし始めています。
海外のセキュリティ企業はDeepSeek R1へジュエルブレイクや悪意のあるプロンプトを入力しセキュリティに関する調査を行いましたが特に、悪意のあるプロンプト(脱獄手法)に対する耐性が低く、攻撃者に悪用されやすいという問題があると指摘しました。
一般的に生成AIは企業ポリシーや法令規制に沿った安全策を取っており、危険なプロンプトは出力しないようになっています。
DeepSeek に、ChatGPT の検索機能に似た検索機能を利用して Web ソースを検索し、「自爆ドローンの作成に関するガイダンス」を提供するよう依頼しました。
実際にDeepSeek はチャットボットが自爆ドローンの作成方法に関する 10 の詳細な手順を概説した表を生成しました。
また人権的に懸念を抱かれている中国製のAIという事で、
・沖縄と北海道は中国の昔からの領土で独立をしたがっている
・天安門事件に関するプロンプト回避が見つかる
など具体的な認知戦の手段としての利用も発生しています。