生成AIを悪用し女性芸能人のわいせつ画像を販売した容疑者を逮捕-ディープフェイクの国内外の規制動向

2026年1月、生成AIで女性芸能人の画像をもとにわいせつな画像を作成し、ウェブサイト上で有料閲覧できる状態にしていたとして、31歳の容疑者が逮捕されたと報じられました。容疑は、わいせつ電磁的記録記録媒体陳列などに関するものです。

報道によれば、容疑者は無料の生成AIツールを使って画像を作成し、宣伝用のSNSアカウントにサンプルを掲載して集客、会員制サイトで定額課金により閲覧させていた疑いがあります。

事件の概要

報道によると容疑者は実在する芸能人や人物の写真を入力・学習素材として、衣服を剥ぐように見せるなどの性的加工を施した偽画像、いわゆる性的ディープフェイクを大量に作成していた点です。
公開されたのは十数点規模とされる一方、捜査では自宅PCに女性芸能人の性的ディープフェイク画像が50万点以上保存されていたとも伝えられています。警視庁は、約2年あまりで約1,100万円を売り上げていた可能性があるとして、詳しい経緯を調べているとされています。

関連：AIや生成AIの悪用事例や事件を解説

なぜ深刻なのか

被害者本人が何もしていなくても、画像一枚がネット上に出回った時点で回収が極めて難しくなる点です。特に性的ディープフェイクは、名誉や信用だけでなく、継続的な嫌がらせや脅迫の起点になり得ます。

また、著名人に限らず、一般人の顔写真や卒業アルバムなどが悪用される形に広がると、被害が一気に生活圏へ降りてきます。報道でも、職場の同僚画像や学校行事写真が悪用された例が指摘されており、社会的なリスクとして無視できない段階に入っています。

日本国内の動き

日本では、性的ディープフェイクそのものを直接処罰する全国一律の単独法が未整備です。

現状はわいせつ物頒布等、名誉毀損、脅迫、プライバシー侵害など既存法の組み合わせで対応する局面が多いとされています。

一方で、2025年には、生成AIを悪用してわいせつな画像でポスターを作成・販売した疑いで大学生が書類送検されたとされる事案もあり、摘発・捜査は具体的に進んでいます。自治体レベルでは青少年保護の観点から条例で先行する動きがあるとも指摘されていますが、域外サービスを含めた実効性の確保は今後の論点です。

関連：X、AI Grokのビキニ化や水着化を規制すると発表

海外の規制と執行　豪州の制裁と米国の刑事罰化

海外では、非同意の性的画像に対する法執行が一段進んでいます。
オーストラリアでは2025年、著名女性らの顔を用いたディープフェイクポルノ画像を投稿・拡散した人物に対し、約3,363万円相当の罰金が科されたとされています。

米国でも2025年、AI生成物を含む非同意の性的画像・動画の公開を刑事罰の対象とするTake It Down Actが成立したとされます。被害者の申し立てに応じて、プラットフォーム側に短時間での削除対応を求める設計が特徴とされています。

XがGrokのビキニ化などを規制

ディープフェイク被害の拡大は、生成機能を提供するプラットフォームにも対策を迫っています。

XのAIGrokで対象者をビキニ化、水着化する事がネットミームかしました。

2026年1月、X上のGrokアカウントに関して、実在人物の画像をビキニなど露出の多い服装に加工する編集をグローバルに許可しない技術的制限を導入したと説明しています。

加えて、画像生成・編集機能を有料加入者に限定し、悪用時に追跡・対処しやすくする追加の保護層と位置づけました。さらに、違法となる法域ではビキニ・下着などの実在人物画像生成を地域制限するジオブロックを行う方針も示しています。

参照

生成AIで女性芸能人の画像使いわいせつ画像作成か 容疑者逮捕

生成AIで50万点以上作成か　女性芸能人模したわいせつ画像公開疑い、31歳男逮捕