生成AIで芸能人の性的画像を作成・販売、全国初の摘発

警視庁保安課は10月16日、生成AIを悪用して女性芸能人に似せたわいせつ画像を作成・販売したとして、秋田市の会社員、横井宏哉容疑者（31）をわいせつ電磁的記録媒体陳列容疑で逮捕した。生成AIを使った著名人の「性的ディープフェイク」の摘発は全国で初めてとなる。

事件の概要

横井容疑者は2025年1月7日から6月2日頃にかけて、俳優の女性3人に似せたわいせつな画像3点をインターネットサイトで公開し、月額料金を支払った不特定多数が閲覧できる状態にした疑いが持たれている。容疑者のパソコンなどからは、実在する女性タレントやアナウンサーなど262人分の画像を基に作成された、約2万点のわいせつ画像が押収された。

取り調べに対し、横井容疑者は「ネットでAIを使用した性的な画像をアップロードして収入を得ている人を見つけ、小遣い稼ぎのためにやった」「閲覧者の反響が大きく、人気が出て多くの収益が見込めると思った」と容疑を認めている。

犯行手口

警視庁の調査によると、横井容疑者はインターネットから女性芸能人の顔写真や画像を収集し、それを画像生成AIに学習させて性的なディープフェイク画像を大量に製作していた。容疑者は専門的な生成AIの知識は持っていなかったものの、「作成方法はネットの記事で学んだ」と供述しており、ネット上の情報や動画を参考に海外の無料ソフトを使用して画像を作成していたとされる。

また、閲覧者の要望に応じた画像も有料で作成していたことが判明している。​

収益状況

横井容疑者は2024年10月から2025年9月までの約11か月間で、約120万円の売上を得ていたと推測されている。

ディープフェイクをめぐる法規制

技術的知識がなくても簡単に性的画像を作成できるソフトウェアがインターネット上に多数存在しており、ディープフェイクポルノの被害が深刻化している。海外では性的なディープフェイクの作成や共有に対して懲役・禁固を含む刑事罰が規定されており、日本でも鳥取県が条例レベルで児童の画像を加工した性的なディープフェイクを禁じ、違反者への過料や氏名公表などを規定している。

日本国内では総務省を中心に法規制の検討が進められており、2025年4月には「情報流通プラットフォーム対処法」が施行されている。今回の摘発は、こうした規制強化の動きの中での全国初の事例となった。