世の中にあふれる情報から、10代が知っておくべき話題をお届けする「Steenz Breaking News」。今日は、世界中で大きな問題となっている「性的ディープフェイク」について、国内外の最新の動向をご紹介します。
深刻化する「性的ディープフェイク」の問題とは
アメリカのOpenAIが2022年11月30日に対話型生成AI「ChatGPT」を公開してから、あと数カ月で丸3年が経ちます。「AI」といえば、かつては人工知能などについて学んだ専門家が使うものというイメージが一般的でしたが、ChatGPTやClaude、Geminiなどの生成AIツールが日進月歩で進化したことにより、その常識は覆されました。いまでは企業から個人まで、本当に多くの人が普段の仕事や生活の中で生成AIを使用しており、わたしたちの暮らしに深く浸透しつつあります。
箇条書きのアイディアを文章として書き起こしてくれたり、複雑な情報を分析して分かりやすく可視化してくれたり、はたまたアイディアをもとにコードを書いてアプリの制作に貢献してくれたり……と、非常に便利な生成AIですが、その裏側でいま、「性的ディープフェイク」という深刻な問題が発生しているのをご存知でしょうか。
性的ディープフェイクとは、実在する人物の写真をもとに、生成AIを使って作られた偽の性的な画像や動画のことです。この問題は、ここ2～3年で急激に数が増え、世界各国で問題視されています。
たとえば、2024年1月下旬、世界で絶大な人気を誇る歌手のテイラー・スウィフトさんの偽画像がXなどで拡散し、大きな問題となったことを覚えている方も多いかもしれません。歌手や芸能人だけでなく、最近では海外の王族や日本の皇室の方々も悪質な性的ディープフェイクの被害に遭っているといいます。
被害は著名人だけにとどまらない
性的ディープフェイクの被害が生じているのは、著名人だけに限りません。学生などの一般女性の被害も、世界各地で報告されています。
たとえば、スペインでは2023年、少なくとも20人の女子生徒・児童らの偽のヌード画像がつくられ、SNSで拡散される事件が発生しました。韓国では、ソウル大学の卒業生が卒業アルバムなどを悪用。同窓生を含む60人以上の女性の性的ディープフェイク画像を作成し、秘匿性の高いメッセージアプリ「Telegram（テレグラム）」を使って拡散したことが事件化しました。なお、この事件に関わった男性らは2024年10月、裁判を受け、主犯者に懲役10年、共犯者に懲役4年が求刑されたそうです。
被害は日本でも発生しています。警察庁によれば、性的ディープフェイクに関して警察に寄せられた相談や通報は、2024年の1年間で100件以上にのぼったといいます。なかには、小学生が被害に遭ってしまったケースもあるそう。
日本における性的ディープフェイクの被害は、世界の中でワースト3位に入るほど件数が多いことにも言及しておかなければなりません。アメリカのセキュリティ会社「セキュリティーヒーロー」が2023年におこなった調査によると、性的な偽画像の被害者の国籍は韓国が53%と最も多く、次いでアメリカが20％、日本が10％、イギリスが6％、中国が3％という分布になったそうです。
自分自身はもちろん、身近な人が被害に遭う可能性もあり、性的ディープフェイクの問題はいま、無視できないほどに大きな社会問題となってしまっていると言えます。
鳥取県で「性的ディープフェイク」を禁止する条例が成立
このような状況を受け、いち早く対策に乗り出しのが鳥取県です。鳥取県議会は2025年3月と6月、「鳥取県青少年健全育成条例」の改正案を可決。これにより、子どもの画像などを性的な画像・動画に加工したものを作成したり、他者に提供したりする行為を禁止しました。
また、加害者への罰則と被害者への支援も強化。加害者に対しては、知事が性的ディープフェイクを作成した人に対して画像や動画の削除、廃棄、そのほか必要な措置を命じることができるようになっているほか、画像や動画の削除に応じない人に対しては、氏名の公開や5万円以下の過料（行政上の義務違反に対して科される金銭的な制裁のこと）を課すといいます。被害者の支援については、画像や動画が投稿されたプラットフォームの事業者に県が画像などの削除、あるいは発信者の情報開示を求めたり、スクールカウンセラーなどの専門家による心的ケア、弁護士への相談費用の一部補助などをおこなったりするそうです。
海外でも規制強化が進む
法律などによる性的ディープフェイクの規制強化の流れは、海外でも起こっています。
韓国では、先述のソウル大学卒業生による事件をきっかけに、政府が性的ディープフェイクの被害の深刻さを重く受け止めました。そのため、性暴力犯罪の処罰や防止に関する法律、児童・青少年の保護に関する法律を改正し、生成AIなどで作成したディープフェイク画像・動画を所持したり、視聴したりした人に対して罰金や懲役刑を課すことができるよう厳罰化しています。
イギリスでも今年、子どもの性的ディープフェイクを生成するAIツールの作成や所持を違法とする法律を世界で初めて制定すると発表。 アメリカでも、性的ディープフェイクをはじめ、本人の同意が得られていない性的な画像や動画をSNSなどに投稿することを犯罪とみなす連邦法が成立しました。
こうした流れの中で、日本も早急に法律などを整備することが求められていますが、現在はまだ性的ディープフェイクを取り締まる法律はありません。ただし、法務省は実在する子どもの写真をもとに生成AIで性的な画像や動画を作った場合、児童ポルノ法の規制の対象になりうるとの見解を示しています。また、衆議院の内閣委員会で林官房長官がインターネット利用における青少年の保護に関して、対応策を有識者や関係省庁の作業チームで検討すると述べていることから、いずれは国として何らかの対策指針や法律などが示されるものとみられます。
もしも被害にあってしまったら
ところで、もしも自分や身近な人が性的ディープフェイクの被害にあってしまったら、どのように行動すればよいのでしょうか。それぞれのケースで最適な対応策を考える必要があるものの、どのケースにも共通して言えるのが、「ひとりで抱え込まずに専門機関に相談する」「証拠を残す」「投稿者に直接連絡しない」の3点です。
たとえ偽の画像や動画であっても、自分の顔を使った性的な画像・動画がSNSなどに投稿されていたら、パニックに陥り、「誰にも話せない」と感じてしまうものです。自分ひとりで対策を講じたくなってしまうものですが、自ら直接、投稿者に連絡をすることは避けてください。なぜなら、投稿者によって脅しや挑発を受けてしまうことがあるからです。
まずは落ち着いて、該当する画像や動画のスクリーンショットをとって投稿の状況を記録するとともに、発見した日時やアカウント名などを記録しておきましょう。そして、プラットフォーム事業者への通報など、必要な対応は専門機関の協力を得ながらおこなうと安心です。以下のような機関で相談ができるため、もしもの場合は窓口に相談してみてください。
■性犯罪・性暴力被害者のためのワンストップ支援センター
電話番号 #8891
携帯電話などで「#8891」に電話をかけると、最寄りのワンストップ支援センターにつながります。法律や医療、心理的な支援を総合的におこなっている機関です。通話料は無料。
■NPO法人ぱっぷす
HP：https://www.paps.jp/deepfake
ディープフェイクポルノを中心に、刑事事件化の支援や法律相談の動向、画像の削除の支援などをおこなっている機関です。
■一般社団法人ゾエ・ジャパン
HP：https://www.gozoe.jp/
18歳未満を対象に、特に性被害や脅しなどで困っている方に向けてLINEや電話、相談フォームなどで無料相談をおこなっている機関です。
性的ディープフェイク問題とどう向き合うべきか
世界で深刻化する性的ディープフェイクの問題。この社会問題を解決に向かわせるためにも、わたしたち一人ひとりが改めて、AIの使い方を考える必要がありそうです。また、どんな人も、その人が自分らしく生きる権利があります。性的ディープフェイクの問題によって、それが脅かされる状況はあってはならないと感じます。生成AIは、良い使い方ができれば、わたしたちの知識や才能を拡張し、暮らしを豊かにしてくれる便利なツールです。どうすれば社会全体でAIのメリットを享受できるのか、考え続けていくことが大切なのではないでしょうか。
Text：Teruko Ichioka
