【文/觀察者網 阮佳琪】
最近一周，南韓「深度偽造」（deepfake）AI換臉性犯罪事件曝光，以女性為主的近千人受到侵害，200多所學校牽涉其中，初高中生未成年人作案比例驚人，正進一步引發南韓社會恐慌。據韓聯社29日報道，在當天召開的南韓國會緊急會議上，南韓政府和執政黨國民力量黨就加強措施打擊此類犯罪達成共識。
報道提到，對於有關受害者照片和資訊在「電報」（Telegram）群組的流出，雙方還決定推動與「電報」的營運公司開通合作熱線，並采取立法措施，打擊制作並意圖分發「深度偽造」色情內容的犯罪行為，對有關犯罪者的最高監禁期限從目前的5年提高到7年，從立法角度將「虛假視訊」傳播的刑期與「非法拍攝」等同。
執政黨政策委員會主席金相勛在會後表示，「深度偽造」色情內容正透過「電報」廣泛傳播，但由於Telegram的伺服器位元於海外，這讓國際合作面臨挑戰。他補充道，南韓政府將與「電報」的營運方舉行會議，並尋求與該公司建立熱線電話，以推動定期協商機制。
報道還稱，考慮到「電報」的創始人兼執行長帕維爾·杜羅夫近日在法國被捕後獲得保釋，南韓國家媒體監督機構南韓廣播通訊委員會表示，韓方已緊急致函法國當局，要求協助打擊網路性犯罪。
當地時間8月30日，「深度偽造」犯罪讓南韓社會恐慌，多名女性中央政府集會前抗議。視覺中國
過去一周時間裏，南韓警方發現了大量與學校、醫院、軍隊有關的涉案社交媒體群組，這些群組裏的淫穢影像經深度偽造換臉而制成。涉及群組的參與人數不等，少的幾百上千人，多的有數萬人以上，總計參與使用者多達22萬人（包含可能重復的情況）。經初步調查，受害者80%為女性，包括大學生、教師、軍人等，甚至有不少初高中生等未成年人。
根據南韓婦女人權研究所公布的數據，從今年1月1日到上周日，共有781名「深度偽造」受害者線上求助，其中288名（36.9%）是未成年人。據南韓教師聯盟估計，目前已有超過200所學校受到影響。
一個更令人恐慌的趨勢是，在這些案件中，未成年人作為加害者的涉案比例相當驚人。
「網上最近針對不明人數的深度偽造視訊正迅速傳播。受害者通常是未成年人，而施暴者大多是青少年。」8月27日，尹錫悅就此次事件發表講話稱：「雖然他們拿惡作劇為這類行為開脫，但這是在匿名的遮羞布之下惡意利用技術的明確的犯罪行為……任何人都可能成為受害者。」
根據南韓警察廳的說法，今年前七個月共報告了297起色情相關的「深度偽造」犯罪案件，高於去年的180起，幾乎是2021年數據首次整理時的兩倍。在178名被指控的人中，青少年涉案者超六成（113人）。
在最近4年被立案調查的嫌疑人中，青少年比例仍然維持在較高水平，從2021年的65.4%、2022年的61.2%上升到2023年的75.8%。今年前7個月則達到了73.6%。
據【北韓日報】報道，因為「只是覺得有趣」、「只是在開玩笑」、「用熟人的照片P圖更真實」等原因，「深度偽造」在南韓10代群體之間像「遊戲」一樣盲目蔓延。加之「電報」等社交媒體的匿名性，犯罪者更加有恃無恐，甚至出現了「只有傻瓜才會被被警察逮住」的言論。
【東亞日報】的報道提到了一個案例：2021年7月，南韓某校一名初三學生A某委托他人，用深度偽造將兩名15歲女生的臉部合成到裸體照片中，此後A某自己學會了制作方法，並先後制作了包括以兒童、青少年為性剝削物件的177件偽造色情圖頻，在「電報」聊天室中販賣盈利。A某更變本加厲將合成圖片發送給受害女性，威脅對方拍攝裸體視訊。被警方抓獲後，A某去年被判有期徒刑2年，緩刑4年。
韓聯社指出，深度偽造性犯罪在青少年中蔓延，但政府並沒有采取任何預防措施，沒有透過教育進行主動幹預，只能透過執法機構在事後進行懲處。南韓政府政策協調辦公室30日對此回應表示，南韓教育部已決定在教育領域采取具體措施，包括加強學校的預防教育等。
首爾警察廳官員表示，許多青少年因過度依賴資訊科技，缺乏相關法律意識，參與制作和傳播深度偽造內容，導致校園內此類犯罪行為泛濫。警方計劃與教育部門合作，強化學校的數位性犯罪預防教育，包括告知學生分發非法合成材料是嚴重犯罪，以加深學生對數位性犯罪的認識。
在敦促政府迅速采取措施遏制此類犯罪行為中，南韓國民力量黨黨首韓東勛也強調，有必要下調未成年人承擔刑事責任的年齡標準。
按照南韓【少年法】目前的規定，年齡在10至14歲之間的兒童不對自己的行為承擔刑事責任，不會被送往監獄，而是會被送去少年拘留所，或被判罰從事社群服務。
目前南韓警方已成立特別工作群組，從8月28日開始展開為期七個月，針對深度偽造性犯罪等虛假視訊案件的專項行動。由於「電報」伺服器設在境外，且涉案人可隨手刪除淫穢影像和自己釋出過的資訊，偵查難度較大，南韓警方計劃以市、道警察廳網路性暴力調查組為中心積極展開整治行動。
南韓【中央日報】援引美國安全服務機構「Security Hero」最新公開的【2023深度偽造技術現狀】報告報道稱，南韓被評為最容易受到深度偽造技術性剝削的國家。
據報道，去年7月至8月，對前10名深度偽造技術色情網站和YouTube、Daily Motion等85個深度偽造技術頻道進行分析的結果顯示，在深度偽造技術性剝削物中出現的人物中，53%是南韓人，排名第一。緊隨其後的是美國（20%）、日本（10%）、英國（6%）。
多家外媒也關註到，在數位性犯罪上有著諸多黑歷史的南韓，又在面臨深度偽造性剝削的打擊。「長期以來一直在努力根除‘隱藏攝影機’偷拍性愛視訊的南韓，正在與深度偽造影像潮流作鬥爭。」英國【衛報】稱。
「N號房事件」余威未消，南韓女性又陷入「AI換臉恐慌」。據【韓民族日報】30日報道，南韓網路性暴力應對中心、南韓性暴力咨詢所等84個女性團體發表聲明，敦促政府制定「不被狹隘的法律和部門壁壘分割的，為數位市民的安全權利制定綜合對策」。
這些團體表示，即便從2017年針對數位性犯罪就已制定了不少對策，但非法合成性犯罪仍在大量發生。她們要求女性家族部恢復支援和防止性暴力的預算、加強考慮到數位性犯罪特性的警方調查、制定網路平台限制政策。
國正義黨前副黨首、女權主義活動家裴福珠日前對法新社表示，她不信任尹錫悅政府可以有效解決「深度偽造」犯罪問題，因為這個政府拒絕承認南韓存在「結構性性別歧視」。這也是這些女性團體的呼籲之一，她們敦促尹錫悅政府全面修改「沒有結構性性別歧視」的政策基調。
本文系觀察者網獨家稿件，未經授權，不得轉載。
