※ご注意ください※
この記事には、性的被害に関する内容が含まれています。閲覧の際には、ご自身の精神状態に十分配慮し、無理のない範囲でご覧ください。
先月、フランス・パリでメッセージングアプリ「Telegram」のCEOが逮捕された。（現在は保釈中）
Telegram上で発生する「犯罪行為への対策を取らなかった」ことが問題視された末の逮捕だったが、言論の自由を訴える人々の中では、フランス政府の姿勢を疑問視する声が相次いだ。
そんな中、韓国国内ではTelegram上の大規模なディープフェイクコミュニティの存在が発覚し、議論を呼んでいる。
ディープフェイクとは、AIで実在の人物の顔や声を偽造する技術だ。主に政治家や著名人の発言を偽造する際に使われるほか、アダルト分野でも悪用され以前から問題視されてきた。日本でも女性タレントのわいせつ動画を作成・拡散したとして、被疑者3人が逮捕された事例がある。
韓国の大手メディア「ハンギョレ」は今月22日、学校や地域別に作られたTelegramのチャットルームに多数の男子生徒が参加し、わいせつなディープフェイク動画を作成・共有していたと報じた。
韓国では悪意のあるディープフェイク物を製作した者は5年以下の懲役または5千万ウォン以下の罰金を課せられることになっている。今回特に韓国社会に衝撃を与えているのは、その規模、そして犯罪に加担した人々の年齢層だ。
約22万人が犯罪に加担…小学生も
今回の事件で特筆すべきはその規模だ。野党・共に民主党緊急対策委員会のパク元委員長はFacebook上で、重複も含む約22万人が何らかのチャットルームに参加していたと説明している。韓国の人口は約5160万人なので、人口の約４%が関わっている計算だ。多数作成されたチャットルームの中には、小学生〜高校生の参加者も存在するといい、同様に被害者にも未成年が多く含まれている。
身近な同級生や家族がターゲットに
今回の事件が公に知られるきっかけとなった韓国のインフルエンサー・도파민아카이브氏が韓国メディア「朝鮮日報」に答えたインタビューによると、ディープフェイク被害の対象とされていたのは友人や同級生、家族など、参加者の身近な存在が多く含まれていたという。
とあるコミュニティーでは「陵辱部屋」なるチャットルームが作られ、その下に「お母さん部屋」「いとこ部屋」「妹部屋」などが存在したほか、具体的な生徒の顔写真や名前、住所を掲載し、脅迫を仄めかすような投稿もあった。
ディープフェイク作成ツールで収益を上げる人々
パク元委員長のFacebookでは、コミュニティ内に投稿されたAI生成ツールの宣伝画像が紹介されている。投稿には、1枚目の画像は無料で作成でき、さらに画像を生成したい場合は追加でクレジットを購入する必要があると記載されている。友人を紹介すると追加でクレジットが手に入る旨の記載もあり、このような生成ツールの拡散・利用を促すことで収益を上げている業者がいることが伺える。
韓国政府と警察の対応
こうした件を受けて、ソウル警察庁は26日、ディープフェイク作成に関連し、10代の青少年10人を性暴力犯罪の処罰などに関する特例法・児童青少年の性保護に関する法律違反の疑いで検挙したと発表した。警察庁はまた、教育長と連携し学生を対象としたデジタル性犯罪予防教育を強化する方針と述べているが、関与者の数に対して検挙者の数は依然として少なく、毅然とした対応を求める声が女性を中心に上がっている。
27日に行われた国務会議で尹錫烈（ユン・ソンヨル）大統領は「被害者と加害者には10代が多く含まれている。関係当局の徹底した実態把握と捜査を通じ、このようなデジタル性犯罪を根絶する」ように求めた。
SNSの反応…n番部屋事件を想起する声も
今回の事件では、女性たちがSNSに上げた写真を悪用されたケースもあり、SNSでは自らの写真をアカウントから削除する動きが広がっており、日本語や英語で同様の注意喚起を呼びかける韓国人ユーザーもいる。
また、n番部屋事件を想起する声も多くが上がっている。n番目事件は、韓国で2019年から2020年にかけて行われたサイバー性犯罪事件の総称だ。女性の脅迫し、性的搾取を行う映像がTelegramやDiscord上で広く共有・拡散された事件で、n番部屋はその際に用いられたTelegramのチャットルーム名を指す。拡散された映像の中には国内外の児童の盗撮画像や虐待画像も含まれていた。
映像の所持者は6万人も及ぶと言われているが、Telegramの匿名性・セキュリティの高さも仇となり、捜査は難航した。こうした背景から、韓国国内ではTelegramなどのSNSの使用を規制する法律を求める声も上がっている。
参考記事：
2024-08-29. “[단독] “사촌방·지인방·여군방… 음란물 방이 끝없이 나왔다””. 朝鮮日報. https://www.chosun.com/national/education/2024/08/29/MJRALJKBCVEC7OVIY5UBKUG4KI/, (参照2024-08-29)
2024-08-27. “[단독] ‘○○○ 능욕방’ 딥페이크, 겹지인 노렸다…지역별·대학별·미성년까지’” ハンギョレ. https://www.hani.co.kr/arti/society/society_general/1154763.html, (参照2024-08-29)
2024-08-29. “친구, 교사도 딥페이크 만들어 확산”…경찰, 10대 10명 검거”. ハンギョレ. https://www.hani.co.kr/arti/society/society_general/1155329.html, (参照2024-08-29)
2024-08-29. “‘n번방 폭로’ 박지현 “딥페이크, 국가 비상사태 선포해야”. ハンギョレ. https://www.hani.co.kr/arti/society/women/1155359.html, (参照2024-08-29)
2024-08-29. “박지현”. Facebook. https://www.facebook.com/p/%EB%B0%95%EC%A7%80%ED%98%84-100077580867566/, (参照2024-08-29)
2024-08-29. “윤 대통령 “딥페이크, 명백한 범죄‥뿌리 뽑아야””. MBC News. https://imnews.imbc.com/replay/2024/nw1200/article/6630861_36486.html, (参照2024-08-29)
2024-08-29. “South Korea vows tougher stance after outcry over sexual deepfakes in Telegram chat rooms”. South China Morning Post. https://www.scmp.com/news/asia/east-asia/article/3276153/south-korea-vows-tougher-stance-after-outcry-over-sexual-deepfakes-telegram-chat-rooms, (参照2024-08-29)
コメントを残す