世の中にあふれる情報から、10代が知っておくべき話題をお届けする「Steenz Breaking News」。今日は、インターネット上の性加害や権利侵害を検知する新サービス『beME』を開発したスタートアップ企業についてご紹介します。
インターネット上の性被害が増えている
スマートフォンが普及し、SNSを使ったコミュニケーションが当たり前となった現在。現実の友人や知人だけでなく、インターネットを通じて知り合った相手とも気軽にやり取りができる便利な時代になりました。
しかし、その一方で、インターネット上での性被害が増加しているのをご存知でしょうか。
警察庁の犯罪統計によれば、2023年、「リベンジポルノ」に関する相談件数は、過去最多の1,812件にのぼりました。被害者の84％が女性で、特に10代や20代といった若い世代が多く被害に遭っていることが明らかになっています。
また、近年では生成AIの急速な発展により、「ディープフェイク・ポルノ」と呼ばれる新たな性犯罪が深刻化しています。これは、卒業アルバムの顔写真などを元に、AIを用いて別のポルノ画像やアダルトビデオと合成し、芸能人や一般人の実在しないポルノ映像や画像を作成するものです。
日本では、芸能人の画像を無断で使用したフェイク・ポルノ被害が確認されており、2020年時点で3,500本以上の動画が存在し、200名以上の芸能人が被害に遭ったことが報告されています。隣国の韓国でも、問題は深刻です。芸能人に加え、未成年を含む一般女性も被害に遭うケースが相次いでいます。韓国の統計によれば、ディープフェイク性犯罪は2021年には160件でしたが、2024年には7月までに297件に達しました。さらに懸念されるのは、加害者の多くが10代であるという事実です。この現状を受け、社会全体での早急な対応が求められています。
AIを活用したネット上の性加害・権利侵害検知サービス『beME』
こうした国内外の状況を受け、インターネット上の性加害・権利侵害の問題解決に挑むスタートアップ企業が、ライツテック株式会社です。同社はAIを活用してこれらの問題を検知する新サービス『beME』を開発・提供しています。
『beME』では、利用者が自分の顔写真を登録すると、AIが24時間体制で悪質なサイトを監視。不正に投稿・掲載された写真や動画を発見した場合、即座に利用者に通知します。さらに、発見された画像や動画の削除を希望する際には、専門家が作成した削除申請テンプレートを利用して、自ら削除要請を行うことができます。このプロセスは、「プロバイダ責任制限法（※）」に基づいた正式な手続きで、これまでに対応した152件すべてで削除に成功。そのうち80%は、1ヶ月以内に削除が完了したとのことです。
このサービスを運営するライツテック株式会社の佐々木栄和CEOは、もともと異なる分野で起業経験を持つ連続起業家でした。しかし、このサービスの社会的意義に注目し、開発を進めていた企業が経営難に陥った際に買収を決断。「社会課題の解決には、非営利団体の活動だけでなく、持続可能なビジネスとして展開することも重要」という考えのもと、サービスの本格展開に乗り出しました。
※プロバイダ責任制限法：インターネット上での誹謗中傷などの権利侵害が発生した際、プロバイダ等が負う責任の範囲や、被害者が加害者を特定するために利用できる手続きなどを定めた法律。
社会課題と向き合う新サービスを世界へ
『beME』は現在、Webサイト版のサービスを提供していますが、2025年2月にはスマートフォンアプリ版のリリースが予定されています。また、現時点では日本人を中心としたアジア人の顔認識に対応していますが、今後は欧米を含む多様な国々での顔認識にも、対応を拡大する方針です。さらに、海外の性暴力被害者支援団体からテスト利用の申し出が寄せられており、グローバルなサービス展開が間近に迫っています。
インターネット上の性被害は、誰にも相談できずひとりで悩む人が多い、深刻な問題です。しかし、『beME』のようなサービスは、テクノロジーの発展が新たな問題を生む一方で、その解決策としても活用できる可能性を示しています。次々と生まれる便利なテクノロジーをどう使うべきか——より良い社会を実現するために、私たちひとりひとりがこの問いに向き合い、考え続ける姿勢が求められています。
References：刑事局捜査第一課「令和５年におけるストーカー事案、配偶者からの暴力事案等、児童虐待事案等への対応 状況について」
Text：Teruko Ichioka
