AI セキュリティとは|生成AIのリスク・AIへのサイバー攻撃・情報漏洩・対策まとめ-セキュリティ対策Lab

投稿日時: 2026年08月31日更新日時: 2026年08月31日

AIセキュリティとは、生成AIやAIシステムを安全に利用・開発・運用するとともに、AIそのものを狙う攻撃や、AIを悪用したサイバー攻撃から企業の情報、システム、利用者を守るための取り組みです。

企業でAIの利用が広がるにつれ、管理対象は「生成AIに何を入力するか」だけではなくなっています。AIエージェントがメールやファイル、SaaS、APIなどへ接続するようになると、「AIが何を知っているか」に加えて「AIに何を実行させるか」まで設計しなければなりません。一方、攻撃者側でもAIの利用が進み、フィッシングやBEC、偽情報、攻撃準備の効率化などに影響が出ています。本稿では、米国のNIST・CISA・FBI、英国NCSC、イスラエル国家サイバー局、ウクライナ国家特殊通信・情報保護局などの公的資料に加え、セキュリティ対策Labがトレンドマイクロへ行った独自取材をもとに、企業が押さえるべきAIセキュリティの考え方と対策を整理します。

AIセキュリティのサマリー

確認済み事項を中心に整理すると、企業のAIセキュリティでは次の点が重要です。

AIセキュリティは、AIを安全に利用すること、AIシステム自体を守ること、AIを悪用した外部攻撃に備えることの3方向から考える必要があります。
生成AIの利用では、機密情報や個人情報の入力、シャドーAI、ハルシネーション、利用サービスのデータ処理条件が主要な論点です。
AIシステムでは、プロンプトインジェクション、データポイズニング、モデルやAPIの認証情報、サプライチェーンなどを考慮する必要があります。
AIエージェントは外部システムを操作できるため、最小権限、短命な認証情報、監視、人による承認などの重要性が高まります。
セキュリティ対策Labが2026年7月にトレンドマイクロへ行った独自取材では、AI悪用による変化として「攻撃速度の向上」「攻撃コストの低下」「攻撃可能な範囲の拡大」が指摘されました。
ディープフェイクは詐欺だけでなく偽情報にも利用されます。ゼレンスキー大統領夫人が高級車ブガッティを購入したとする偽情報では、偽動画だけでなく偽請求書やニュースサイト風ページが組み合わされました。
FBIの2025年IC3年次報告では、AI関連として報告された苦情は22,364件、調整後損失額は8億9,334万6,472ドルでした。
日本でもIPA「情報セキュリティ10大脅威 2026」で「AIの利用をめぐるサイバーリスク」が組織向け3位に初選出されています。

AIセキュリティとは

企業のAIセキュリティは、単に「ChatGPTへ機密情報を入力しない」といった生成AI利用ルールだけでは捉えきれません。AIを利用する従業員、AIを組み込んだ業務システム、AIを悪用する攻撃者という複数の視点を同時に持つ必要があります。本稿では、各国の公的ガイダンスを企業実務へ落とし込むため、AIセキュリティを次の3つに整理します。これは特定の政府機関が定めた公式分類ではなく、NIST、NCSC、イスラエル国家サイバー局、ウクライナ政府機関などが示す論点を、企業が管理しやすい形にまとめたものです。

分類	内容	代表的なリスク
AIを安全に利用する	ChatGPTなどの生成AIやSaaS組み込みAIを業務で安全に使う	機密情報入力、シャドーAI、ハルシネーション
AIシステムを守る	AIモデル、アプリ、データ、API、RAG、AIエージェントを保護する	プロンプトインジェクション、データポイズニング、認証情報窃取、サプライチェーン
AIを悪用した攻撃に備える	攻撃者によるAI利用を前提に既存の防御を強化する	フィッシング、BEC、ディープフェイク、脆弱性探索、攻撃の自動化

米NISTはAI Risk Management Frameworkと生成AI向けプロファイルを通じ、AIの設計、開発、利用、評価を含むライフサイクル全体でリスクを管理する考え方を示しています。英国政府のAI Cyber Security Code of Practiceも、AIセキュリティをサイバーセキュリティの一部として位置付け、データ、モデル、ソフトウェア、インフラ、サプライチェーンまで含めて保護することを求めています。つまり、AIセキュリティは従来のサイバーセキュリティと別物ではありません。既存のID管理、データ保護、脆弱性管理、ログ監視、インシデント対応を土台にしながら、プロンプト、モデル、AIエージェントなどAI固有の要素を追加していく考え方です。生成AIセキュリティは、AIセキュリティの一部と考えることができます。生成AIへ入力するデータ、プロンプト、出力、アカウント、外部サービスとの連携などを安全に管理することが中心です。一方、AIセキュリティはそれに加え、AIモデルや学習データ、AIエージェント、AIシステムへの攻撃、AIを悪用した外部からのサイバー攻撃まで、より広い範囲を対象とします。

なぜ企業にAIセキュリティ対策が必要なのか

AIの業務利用は、専用の生成AIサービスだけに限定されません。オフィス製品、CRM、開発環境、検索、顧客対応、各種SaaSなどにもAI機能が組み込まれています。そのため、情報システム部門が正式に生成AIを導入していなくても、従業員の個人利用や既存SaaSの機能追加を通じて、AIが業務へ入り込んでいる可能性があります。ここで問題になるのが、管理部門から見えないAI利用です。会社が把握していないサービスへ顧客情報や社内情報が入力されれば、データがどのように保存・処理されるのかを確認できません。全面禁止にしても利用がなくなるとは限らず、個人アカウントへ移行してシャドーAI化する可能性があります。さらに、AIエージェントの普及はリスクの性質を変えます。従来の生成AIは「質問に答える」ことが中心でしたが、AIエージェントはメールを送り、ファイルを操作し、SaaSを更新し、APIを呼び出すことができます。NISTは2026年、AIエージェントが外部システムやデータへアクセスして自律的に行動する点を新たなセキュリティ課題として扱っています。英国NCSCも、エージェントの自律性と権限が高くなるほど、誤動作や侵害時の影響が大きくなるとしています。一方、外部の攻撃者もAIを使っています。英国NCSCは、AIが偵察、脆弱性調査、ソーシャルエンジニアリング、基本的なマルウェア生成、流出データの分析など、既存の攻撃工程を効率化していると評価しています。日本でもIPAが2026年、「AIの利用をめぐるサイバーリスク」を組織向け脅威の3位に初めて選出しました。 AIを導入する側と、AIを悪用する側の双方で変化が起きているため、AIセキュリティはAI担当部門だけに任せられるテーマではありません。情報システム、セキュリティ、法務、プライバシー、内部監査、調達、事業部門が共通の管理対象として扱う必要があります。

AIセキュリティで企業が注意すべき主なリスク

企業が注意すべきリスクは、AI利用時の情報管理、AIシステム固有の攻撃、AIに与える権限、外部からのAI悪用に大きく分けられます。

リスク	主な対象	想定される影響
機密情報・個人情報の入力	AI利用	顧客情報、社内情報、個人情報の意図しない外部送信
シャドーAI	AI利用	管理外サービスへの情報入力、ログ・契約条件の把握不能
ハルシネーション	AI利用	誤った意思決定、誤情報の社内外利用
プロンプトインジェクション	AIシステム	意図しない応答、情報取得、外部ツールの不適切な実行
AIエージェントの過剰権限	AIシステム	メール、ファイル、SaaS、APIなどを通じた影響拡大
データポイズニング	AIシステム	出力や判断の操作、モデル性能や信頼性の低下
モデル・API・認証情報の漏洩	AIシステム	不正利用、情報流出、権限の悪用
AIを使ったフィッシング・BEC	外部脅威	認証情報窃取、不正送金、マルウェア感染
ディープフェイク	外部脅威	なりすまし、詐欺、偽情報の拡散
AIによる攻撃支援	外部脅威	偵察、脆弱性探索、攻撃準備の高速化

最も身近なのは、従業員によるAI利用から生じる情報管理の問題です。利用者が顧客情報、未公開情報、認証情報、ソースコード、契約情報などを外部AIへ入力すると、組織が意図しないデータ送信につながる可能性があります。イスラエルのプライバシー保護当局も、AIシステムが大量の個人データを扱うことを前提に、データ利用やアクセス制御などのプライバシー保護策を示しています。この問題はシャドーAIともつながっています。会社が承認していないAIを業務で利用すれば、サービス側の保存条件や学習利用、管理機能、ログを組織が確認できません。具体的な情報漏洩の経路については「AIや生成AIの情報漏洩事例を解説」、シャドーAIについては「業務に潜むシャドーAIとは」で詳しく整理しています。 AIシステムを構築する企業では、さらに別のリスクが加わります。代表例がプロンプトインジェクションです。AIが参照するWebページ、メール、文書などに細工された指示が含まれていると、利用者が直接入力していない命令によって、AIが本来想定していない応答や操作を行う可能性があります。ウクライナの2026年勧告も、プロンプトインジェクションをAIシステムの重要なリスクとして取り上げています。 AIエージェントでは、この問題がより深刻になります。AIが回答を生成するだけであれば影響は出力に限定されますが、外部ツールを操作できる場合は、メール送信、ファイル更新、データ取得など実際の業務処理に波及します。そのため「AIが何を知っているか」と「AIが何を実行できるか」を分けて管理する必要があります。データポイズニングも、AIを開発・提供する企業では重要です。学習や調整に使うデータへ不正な情報が混入すれば、モデルの出力や判断が意図的に変えられる可能性があります。英国NCSCとウクライナの公的ガイダンスはいずれも、AIを保護するうえでデータの完全性を重要な論点として扱っています。一方、ハルシネーションは不正アクセスや情報漏洩そのものではありません。しかし、生成された内容を確認せずに意思決定や対外回答へ使えば、誤判断や誤情報の公開につながります。AIセキュリティでは、技術的な侵害だけでなく、AI出力を業務でどのように検証するかも運用上の重要な課題です。

AIを悪用したサイバー攻撃はどう変わっているのか

AIセキュリティを考えるうえでは、自社がAIを安全に使うだけでなく、攻撃者がAIをどのように使っているかも見る必要があります。 FBIの2025年IC3年次報告では、AI関連として報告された苦情は22,364件、調整後損失額は8億9,334万6,472ドルでした。AIが関係するBECでは、企業から3,000万ドルを超える損失も報告されています。すべてのBECがAIを使っているわけではありませんが、自然な文章や音声、画像を容易に生成できるようになったことで、なりすましやソーシャルエンジニアリングの実行コストが下がる点には注意が必要です。英国NCSCは、AIによって2027年に向けてサイバー侵入の効率、頻度、強度が高まる可能性が高いと評価しています。ポイントは、AIがまったく新しい攻撃を生み出すことだけではありません。偵察、標的選定、文章作成、脆弱性調査、流出データの分析といった、従来から存在する攻撃工程を速く、安価にすることも大きな変化です。この点は、セキュリティ対策Labが2026年7月にトレンドマイクロ株式会社 TrendAIのセキュリティエバンジェリスト、シニア・スレット・リサーチャーの佐藤健氏へ行ったインタビューでも共通しています。佐藤氏は、AI悪用による変化を「攻撃速度の向上」「攻撃コストの低下」「攻撃可能な範囲の拡大」という3点で説明しました。AIによって偵察や情報整理、標的ごとの文面作成などを自動化できれば、従来は人手をかけるほどの費用対効果がなかった対象にも攻撃を仕掛けやすくなります。これは、大企業だけでなく中堅・中小企業にとっても無視できない変化です。トレンドマイクロは2025年12月、サイバー攻撃用AIエージェントに関する調査で、公開情報を起点に複数のAIエージェントが情報を組み合わせ、標的ごとのフィッシングを生成する実証を行いました。これは実際の犯罪キャンペーンを確認したものではなく、従来は手作業の負荷が高かった攻撃工程をAIエージェントで自動化できる可能性を検証したものです。また、セキュリティ対策Labの取材では、社長や経営層をかたるCEO詐欺でもAIによる自動化の痕跡が確認されているとの説明がありました。佐藤氏によると、今回確認しているタイプのCEO詐欺は2025年11月以前にはほぼ観測されていなかった一方、2025年12月ごろから観測され始めています。ただし、今後の増加については予測が難しいとしており、将来の発生件数を断定することはできません。さらに厄介なのは、最初の接触だけを企業メールで行い、その後は個人のチャットツールへ会話を移す手口です。この場合、企業側がメールで不審な連絡を検知できなければ、その後のやり取りが組織の監視範囲外へ出る可能性があります。詳細は「【インタビュー】AIによりサイバー攻撃はどう変わるのか？トレンドマイクロに聞く企業がとるべき対策」で紹介しています。

ディープフェイクは詐欺だけでなく偽情報にも使われる

AIを悪用した攻撃というと、経営者の音声や映像を偽造して送金させる詐欺が注目されがちです。しかし、ディープフェイクは偽情報へ「証拠らしく見える映像」を付ける用途にも利用されます。セキュリティ対策Labでは2024年、ウクライナのウォロディミル・ゼレンスキー大統領の夫人、オレナ・ゼレンスカ氏が高級車「ブガッティ・トゥールビヨン」を購入したとする偽情報を取り上げました。 ===================== この偽情報では、パリのブガッティ販売店の従業員を名乗る人物が、ゼレンスカ氏への販売について説明する動画に加え、購入を裏付けるように見せた請求書やニュースサイト風のWebページが使われました。単に偽動画を公開するのではなく、複数の要素を組み合わせることで、本物の取引や報道であるかのように見せていた点が特徴です。

ディープフェイク動画を機械翻訳すると

やあみんな！

ご存知のように、数日前、ブガッティオートモービルズは新しい車種であるブガッティトゥールビヨンを発表しました。

今、これはもはや秘密ではないので、私はこの良いニュースをあなたと共有することができます。

ブガッティ　トゥールビヨンの最初の所有者は、ウクライナのオレナ・ゼレンスカ大統領の妻になることを発表できることを嬉しく思います。

ブガッティ・オートモービルズの代表者とともに、ウクライナ代表団へのブガッティ・トゥールビヨンのプライベート・プレゼンテーションを開催しました。

それは6月7日にフランスで開催されました。

これは、ブガッティ・トゥールビヨンモデルの公式発表の2週間前のことでした。 ===================== 一方、ブガッティ・パリの販売店を運営するCar Lovers Groupは2024年7月2日、ゼレンスカ氏への販売取引と請求書の存在を否定しました。同社は、公開された請求書について法定記載事項の欠落、価格の誤り、古い書式など複数の不整合を指摘し、偽造、身元詐称、名誉毀損などを理由に刑事告訴したと発表しています。ウクライナの偽情報対策機関も、この主張をロシアによる情報工作として扱っています。この事例は、企業のディープフェイク対策にも示唆があります。攻撃者が経営者や従業員を装った映像だけでなく、偽の請求書、契約書、プレスリリース、ニュースサイト風ページを組み合わせれば、情報の信ぴょう性を高く見せることができます。そのため「映像の口元が不自然か」といった見た目だけで判断するのではなく、重要な取引や送金、情報開示については、別の既知の経路で本人や組織へ確認する必要があります。事例の詳細は「ゼレンスキー夫人の『ブガッティ購入』は偽情報でロシアによる工作」で整理しています。

AIを利用する企業が行うべきセキュリティ対策

企業のAIセキュリティ対策は、個別の製品や設定から始めるより、まず「どこでAIが使われ、どの情報と権限につながっているか」を把握する方が進めやすくなります。最初に行うのはAI利用の棚卸しです。ChatGPT、Gemini、Claude、Copilotのような単体サービスだけでなく、SaaSへ組み込まれたAI、ブラウザー拡張、開発支援AI、個人契約のAIまで対象にします。サービス名だけを一覧にするのではなく、利用部門、用途、扱うデータ、外部システムとの接続、権限まで確認すると、その後のリスク評価につなげやすくなります。利用実態が見えたら、次に「何を入力してよいか」を決めます。個人情報、顧客情報、未公開情報、認証情報、ソースコード、契約・財務情報などを既存の情報区分と結び付け、AIへの入力可否を具体化します。「機密情報は禁止」という抽象的なルールだけでは現場で判断しにくいため、実際の業務に合わせた例示が必要です。社内ルールの策定例は「生成AI利用ポリシー策定ガイドテンプレート付き」で確認できます。同時に、会社として利用を許可するAIサービスを選定します。無料版か法人版かだけで判断するのではなく、入力データの保存、モデル改善への利用、SSO、MFA、監査ログ、権限制御、データ所在地、削除方法、外部連携、インシデント通知などを確認します。既存のSaaS調達・セキュリティ審査へAI固有の確認項目を追加すれば、別の審査制度を一から作る必要はありません。ここまでが「AIを使う前」の管理です。そのうえで重要になるのがIDと権限です。AIサービスも既存のIAMから切り離さず、SSO、MFA、最小権限、退職・異動時のアクセス停止、APIキーの管理を適用します。特にAIエージェントは、情報を閲覧するだけでなく実際の操作を行うため、閲覧権限と実行権限を分離することが重要です。英国NCSCは2026年8月の実務助言で、AIエージェントに固有IDを割り当て、必要な権限だけを与え、可能な限り短期間の認証情報を使い、サンドボックスや監視を組み合わせることを推奨しています。企業では、送金、削除、外部送信、権限変更など影響の大きい操作をAIだけで完結させず、人による承認を残す設計が現実的です。データ保護も既存の仕組みを活用できます。DLP、データ分類、マスキング、アクセス制御などを使い、AIへ渡す情報を必要最小限にします。RAGで社内データを検索させる場合も、AIが元データのアクセス権限を無視して横断的に情報を取得できる構成にしないことが重要です。最後に、AI利用をログ監視とインシデント対応へ組み込みます。AIの利用履歴、管理操作、外部ツール実行、認証、API利用などを必要に応じて監視し、異常が起きた場合には既存の「検知、報告、封じ込め、調査、復旧」の流れで対応します。AIだけを特別扱いした別組織を作るより、SOCやCSIRT、ヘルプデスク、内部通報など既存の運用へ接続した方が継続しやすくなります。従業員教育も、この運用の中に位置付ける必要があります。情報入力の禁止事項だけでなく、AI出力の確認、ディープフェイクやBECへの対応、異常を発見した場合の報告方法まで含めることで、AI利用と外部脅威の双方に備えられます。

AIを開発・提供する企業に必要なセキュリティ対策

AIを自社で開発・提供する企業では、利用者側の管理に加え、AIライフサイクル全体を守る必要があります。米NISTのSP 800-218Aは、生成AIやデュアルユース基盤モデルの開発について、従来のSecure Software Development FrameworkへAI固有の考慮事項を追加しています。英国のAI Cyber Security Code of Practiceも、設計、開発、展開、保守、廃止までを対象に、資産管理、インフラ保護、サプライチェーン、データ・モデル・プロンプトの文書化、テスト、監視などを求めています。重要なのは、AIモデルだけを守ればよいわけではないことです。学習データ、評価データ、RAGで参照する情報、API、認証情報、OSS、外部モデル、クラウド環境、プラグインやMCPなどの外部連携までが一つの攻撃面になります。イスラエル国家サイバー局のクラウド向けセキュリティ資料は、利用しているAIコンポーネントについてAIBOMを更新し、脆弱性管理へ組み込む考え方を示しています。ウクライナの2026年勧告も、AI技術のサプライチェーン、データ品質と完全性、データポイズニング、敵対的攻撃、プロンプトインジェクションなどをリスクとして整理しています。 AIを開発・提供する企業では、従来のSecure by Designやソフトウェアサプライチェーン管理を基礎にしつつ、AI特有のデータ、モデル、プロンプト、外部ツール連携を追加して管理することが必要です。

AIを悪用したサイバー攻撃への対策

攻撃者によるAI利用が進んでも、防御側が取るべき対策の多くは従来のサイバーセキュリティと連続しています。むしろ、AIによって攻撃速度や説得力が上がることを前提に、既存対策の精度と運用速度を高めることが重要です。フィッシングやBECでは、文章の不自然さだけで真偽を判断する方法は通用しにくくなっています。振込先変更、緊急送金、認証情報の要求、権限変更など重要な依頼は、届いたメールやチャットへの返信だけで確認を終わらせず、登録済みの電話番号など別の既知の経路で確認します。音声や動画についても、本人に似ていること自体を認証要素にしない運用が必要です。認証ではMFAやフィッシング耐性の高い方式を進め、メールセキュリティ、URL・添付ファイル対策、端末防御、ネットワーク監視を維持します。英国NCSCは、AIによって既知脆弱性の悪用までの時間が短くなる可能性を指摘しているため、インターネット公開資産の把握やパッチ適用の優先順位付けも一層重要になります。 AIを悪用した攻撃の詳細は「サイバー攻撃に悪用される生成AI/AIの動向」でも整理しています。

AIセキュリティ対策を進める手順

実務では、対策を一度に導入するより、AIの利用実態を起点に段階的に進める方が管理しやすくなります。

段階	実施内容
STEP 1	AI利用サービス、利用部門、用途、データ、外部連携、権限を把握する
STEP 2	扱う情報と業務への影響を基にリスクを評価する
STEP 3	許可サービス、入力ルール、権限、技術的制御を決める
STEP 4	ログ監視、教育、インシデント対応を既存運用へ組み込む
STEP 5	モデル更新、機能追加、外部連携、脅威動向に応じて見直す

最初の棚卸しでは、AIを製品名だけで管理しないことが重要です。同じ生成AIでも、一般的な文章作成に使う場合と、顧客データへ接続して自動処理を行う場合ではリスクが異なります。そのため、どの業務と情報に接続しているかまで確認します。次に、情報の機密性や個人情報の有無、AIの判断が業務へ与える影響、AIエージェントが実行できる操作を評価し、その結果に応じて利用ルールと技術的制御を決めます。高リスクな利用ほど、アクセス権限、ログ、DLP、人による承認などを強くします。運用開始後は、ログ監視、従業員教育、インシデント対応へ組み込みます。AIサービスは短期間で機能や外部連携が変わるため、導入時の評価を固定せず、継続的に見直すことが必要です。特にAIエージェントの自律性や権限を拡大する場合は、改めてリスク評価を行うべきです。

AIセキュリティに関連するガイドライン・規格

各国の公的機関は、AIセキュリティを単独の技術対策ではなく、AIのライフサイクルや既存のサイバーセキュリティ管理と結び付けて整理しています。

国・機関	主な資料・位置付け
米国 NIST	AI RMF、生成AI向けプロファイル、AIエージェントのセキュリティ・ID・認可に関する検討
英国 NCSC・政府	Guidelines for Secure AI System Development、AI Cyber Security Code of Practice
イスラエル国家サイバー局	国際共同ガイダンス「Engaging with Artificial Intelligence」、AIコンポーネント管理の考え方
ウクライナ国家特殊通信・情報保護局	2026年にAI技術を使用する情報通信システム向けサイバー防御勧告を承認
ISO/IEC	ISO/IEC 42001でAIマネジメントシステムを規定

NIST AI RMFは、AIのリスクを組織的に把握し、評価し、管理するための基本枠組みとして利用できます。英国のガイドラインは、設計から運用までセキュリティを組み込むSecure by Designの考え方が強く、AIシステムを開発・提供する企業にとって参照しやすい内容です。 ISO/IEC 42001はサイバーセキュリティだけを対象にした規格ではありません。AIガバナンス、責任、リスク管理などを組織全体で継続的に管理するAIマネジメントシステムの枠組みです。詳しくは「AIMSとは？ISO42001とAIマネジメントシステムについて解説」で解説しています。

AIセキュリティに関するよくある質問

Q. AIセキュリティとは何ですか？ A. 生成AIやAIシステムを安全に利用・開発・運用し、AI自体への攻撃とAIを悪用した外部攻撃から情報やシステムを守る取り組みです。企業では「AIを安全に使う」「AIシステムを守る」「AIを悪用した攻撃に備える」の3方向で考えると整理しやすくなります。 Q. 生成AIのセキュリティで最も注意すべきことは何ですか？ A. 最初に確認すべきなのは、どのAIへ、どの情報を入力しているかです。そのうえで、サービス側の保存・学習条件、アカウント管理、外部連携、ログ、権限を確認します。 Q. ChatGPTに会社の情報を入力しても大丈夫ですか？ A. サービス名だけでは判断できません。契約プラン、管理設定、入力データの扱い、社内情報区分、会社の利用規程を確認する必要があります。会社が許可していない機密情報や個人情報を自己判断で入力しないことが基本です。 Q. 生成AIを禁止すれば情報漏洩を防げますか？ A. 全面禁止だけでは、個人アカウントや未承認サービスの利用が見えなくなる可能性があります。利用実態を把握したうえで、標準サービス、入力ルール、例外申請、技術的な制御を組み合わせる方が実務的です。 Q. AIセキュリティとサイバーセキュリティの違いは何ですか？ A. AIセキュリティは従来のサイバーセキュリティを土台に、モデル、学習データ、プロンプト、AIエージェントなどAI固有の要素を加えて管理する考え方です。 Q. AIを利用する企業とAIを開発する企業では対策が違いますか？ A. 共通する対策はありますが、開発企業は学習データ、モデル、開発環境、依存コンポーネント、サプライチェーン、テスト、脆弱性対応まで管理対象が広がります。 Q. AIMS・ISO/IEC 42001とAIセキュリティの違いは何ですか？ A. AIセキュリティは、情報やシステムを守るための技術・運用上の対策を含む概念です。AIMSやISO/IEC 42001は、セキュリティを含むAIのリスクや責任、ガバナンスを組織として継続的に管理するためのマネジメントの枠組みです。

AIセキュリティ対策で情報システム部門が押さえるポイント

AIセキュリティで最初に行うべきことは、AIを一律に禁止することではなく、自社のどこでAIが使われ、どの情報と権限につながっているかを可視化することです。そのうえで、従来のシャドーIT管理、IAM、DLP、SaaS審査、脆弱性管理、SOC、CSIRTなどへAIを組み込んでいきます。AIだけの新しい管理制度を増やすより、既存のセキュリティ統制をAIへ拡張する方が運用しやすくなります。特にAIエージェントでは、「何を読めるか」と「何を実行できるか」を分けることが重要です。外部送信、削除、権限変更、支払いなど高影響の操作を許可する場合は、最小権限、短命な認証情報、ログ、監視、人による承認、緊急停止手段を事前に設計します。同時に、外部のAI悪用にも備える必要があります。トレンドマイクロへの取材が示したように、AIは攻撃を単純に「高度化」するだけでなく、速度とコストを変え、従来は狙われにくかった対象まで攻撃範囲を広げる可能性があります。ディープフェイクや自然な日本語のフィッシングを人の注意力だけで見抜くのではなく、本人確認や送金承認など業務プロセス側の統制を強化することが重要です。 AIセキュリティは、①AIを安全に使う、②AIシステムを守る、③AIを悪用した攻撃に備える、という3方向を別々に進めるのではなく、既存の情報セキュリティ管理の中で一体的に運用することが求められます。