今天一早，多個關於 「南韓AI深度偽造淫穢影像」 的話題詞引發網友熱議。
據南韓多家媒體報道，最近，南韓再現「N號房」醜聞，「深度偽造」，即 利用AI換臉制造色情圖頻，並透過社交媒體平台傳播的性犯罪行為被大量曝光。
自稱南韓籍女子甚至在中國的微博上求助並曝光相關事件。
南韓近三年深度偽造淫穢影像案件
受害者中未成年人占比近六成
最大在野黨共同民主黨議員楊富男30日從警察廳方面獲取的資料顯示，2021年至2023年，共有527名深度偽造淫穢影像受害者報案，未成年人占比達59.8%，遠高於20～29歲（32.1%）、30～39歲（5.3%）和40～49歲（1.1%）。未成年人占比從2021年的64.6%略降至2022年的52.9%，而去年再升至62%。
隨著技術發展，使用深度偽造技術制造虛假視訊更加方便，導致加害者中未成年人占比明顯上升。涉嫌制作虛假視訊被立案的加害者中，10～19歲占比2021年為65.4%，2022年略降至61.2%，去年反彈至75.8%，今年1至7月為73.6%。
資料圖片：社交平台「電報」（Telegram）上出現的深偽色情內容群聊頻道截圖
使用deepfake制作非法合成視訊並在Telegram上傳播的所謂「熟人侮辱室」的經營者已被移交給檢察官辦公室拘留。受害者人數達到246人。
首爾警察廳「深度偽造等虛假視訊集中應對工作群組」30日宣布，開設並營運Telegram「熟人侮辱室」的20多歲男子A先生於22日被緊急逮捕，並於當天送交檢察官辦公室拘留。以同樣的罪名拘留的還有B先生，他是一名30多歲的男子，經營一家成人網站約四年，檢察官辦公室收到了2萬多張非法性圖片，包括兒童和青少年的性剝削材料。
早前報道
據環球時報，8月27日南韓總統尹錫悅表示，最近以不特定人群為物件的深度偽造技術影像透過社交媒體迅速傳播，不少受害者是未成年人，加害者也大多10多歲。他表示，依靠匿名惡意利用深度偽造技術是犯罪行為，希望有關部門透過掌握實際情況和調查，徹底根除這種數位技術犯罪。
涉案人數可能達22萬
針對女性的深度偽造犯罪在南韓日趨猖獗，不僅大學校園中出現此類案件，甚至連中小學、軍隊等場所也成為高發地，社交媒體上，特別是「電報」（Telegram）群組中不斷有受害學校及被害者資訊流出。
8月26日，南韓女性民友會釋出題為【群體性暴力參與者達到22萬人，社會崩潰要被放任到何時】的報告， 指出在「電報」群組中，只需上傳熟人照片，付費後5秒鐘內就能生成裸體合成圖。 令人震驚的是，這個聊天群的參與人數高達22.7萬。民友會在報告中質問道：「（南韓）女性們生活在一個無法有效懲罰或預防針對女性犯罪和暴力的社會中，失去了日常生活的安全感，仿佛生活在一個沒有國家的狀態中。這樣的社會還有存在的必要？」
面對深度偽造性犯罪的蔓延，南韓社會各界呼籲政府采取更強硬措施。
南韓國會女性家庭委員會27日表示，將於9月召開緊急對策會議，商討相關解決方案。國會相關網站上還出現一份征求公眾同意的請願書，要求嚴厲懲罰「電報」平台性犯罪的肇事者。
來源：橙柿互動
報料、維權通道：套用市場下載「晨視訊」客戶端，搜尋「幫忙」一鍵直達；或微信添加報料客服：xxcbcsp；或撥打熱線0731-85571188。如需內容合作，請撥打政企服務專席19176699651。
