近日，警方通報「秦朗巴黎丟暑假作業」系擺拍引流，再次引發社會對於治理網絡謠言的關註。
受「流量經濟」刺激，網絡謠言的傳播速度、影響範圍及社會危害性等顯著增強，嚴重擾亂社會公共秩序，侵犯公民合法權益。公安部先後啟動「打擊整治網絡謠言」和「打擊整治網絡暴力」專項行動。去年12月以來，全國公安機關累計排查網絡謠言線索8萬余條，偵辦網絡謠言類案件1萬余起，抓獲犯罪嫌疑人1500余名，行政處罰10700余人，開展公開辟謠等4200余次。
利用AI技術釋出虛假資訊
「近年來，網絡謠言出現了新動向，不法分子往往緊跟社會熱點、突發事件，透過無中生有蹭熱點、誇大其詞帶節奏、惡意拼接博眼球，加之利用人工智能（AI）新技術，疊加引爆社會輿論，使網絡謠言具有極強的傳播力和破壞力，對社會秩序帶來嚴重危害。」上海市公安局網安總隊政治處主任韓欣毅介紹說。
據介紹，上海青浦警方在打擊網絡謠言專項行動中，依托打謠協作機制，查處一起虛構事實擾亂公共秩序的案件。該案中，涉案人員為提升曝光度，博取流量，輸入關鍵字用AI杜撰關於青浦區發生命案的文章，並在網上下載網圖後移花接木，釋出到網上吸引網友關註，後被依法行政拘留。
隨著科技的發展，利用AI釋出虛假資訊「博眼球」屢見不鮮。近日，山西省平遙縣公安局破獲了一起利用AI技術偽造犯罪現場進行造謠的案件。
3月26日早上8時許，平遙縣公安局網安大隊發現一條標題駭人的「新聞」：「平遙古城明清街一女子與男友吃東西時，用竹簽紮小孩臉，後小孩被‘120’擡走，生死未蔔」。該「新聞」還附有事發現場的影片截圖和網友的熱議記錄，瞬間引發大量討論與猜測。
經過比對，警方確認平遙古城明清街並未發生該事件，「新聞」中所描述的內容與事實存在明顯出入。其後涉案人員趙某承認，為了吸引眼球、增加點選量，他故意利用AI技術合成並釋出了這條關於平遙古城的虛假新聞。目前，趙某已被予以行政拘留。
借熱點案事件編造網絡謠言
「利用人工智能編造網絡謠言行為數量呈上升態勢。隨著生成式人工智能、影片合成等技術的發展套用，不法分子利用新技術新套用模仿新聞媒體的風格一鍵生成謠言資訊，此類網絡謠言生成更簡單，迷惑性更強，增加了甄別和偵查難度。」山西省公安廳網安總隊政委郭鵬說。
郭鵬指出：「涉及公共秩序、食品安全、民生政策等方面的謠言，極易引起公眾恐慌，不僅誤導大眾，更有可能造成社會失序，影響政府決策和公信力。一些自媒體為追逐‘流量經濟’，惡意編造、跟風炒作，個別不法分子往往利用網民的情緒，在一些敏感熱點事件中編造極具蠱惑性和危害性的網絡謠言，引發社會信任危機。此外，網絡謠言還往往伴隨網絡暴力的發生，部份網絡謠言針對特定個人或群體進行惡意攻擊，誹謗中傷，侵犯、曝光他人私密資訊，危害人民群眾生命財產安全。」
去年12月以來，山西省公安機關共核查網絡謠言線索204條，偵辦網絡謠言、網絡暴力案件97起，依法查處違法犯罪人員147名，指導重點網站平台清理網絡謠言資訊705條，依法關停違法違規賬號97個。
「從山西省公安機關打擊整治網絡謠言專項行動工作情況來看，當前網絡謠言涉民生領域謠言較為集中；涉自然災害、突發安全事故等熱點事件易滋生網絡謠言；涉虛假警情網絡謠言時有發生。」郭鵬介紹說，發生災情、險情後，不法分子為了追逐流量、博人眼球，利用網民對災情、險情的關心，不僅無中生有地編造謠言資訊，甚至將之前發生的災害圖文資訊、音影片透過移花接木的方式進行「合成」，引起社會恐慌，嚴重幹擾了搶險救災、應急處置等工作。
「2024年作為打擊整治網絡謠言專項行動年，山西公安機關將持續發力，進一步提升打擊整治網絡謠言違法犯罪工作能力，構築更加安全、清朗、有序的網絡空間。」郭鵬說。
提高網絡生態綜合治理水平
4月12日，公安部公布了10起打擊整治網絡謠言違法犯罪典型案例，「秦朗巴黎丟暑假作業」擺拍引流案位列其中。另外9起典型案例分別是：山東公安機關查處造謠「餵住院婆婆吃泡面」案、湖北公安機關查處一起「造黃謠」案、上海公安機關查處一起建「吃瓜群」造謠牟利案、湖南公安機關查處編造「民警離職潮」謠言案、安徽公安機關查處編造「救災物資被倒賣」謠言案、江西公安機關查處一起MCN機構使用人工智能工具造謠案、重慶公安機關查處一起使用人工智能工具編造「爆炸事故」謠言案、江西公安機關查處編造「某銀行倒閉」謠言案、廣東公安機關查處編造「廣州限制外賣配送」謠言案。
【法治日報】記者註意到，在上述10起打擊整治網絡謠言違法犯罪典型案例中，有4起案件涉及使用AI造謠，其中，廣東公安機關查處編造「廣州限制外賣配送」謠言案尤為典型。
據了解，2023年12月19日，有網民在某網絡平台釋出「廣州即將成為全國首個限制外賣配送的城市」，迅速引發關註形成網絡熱搜。經查，四川德陽網民楊某組織招攬廣東江門網民葉某等多名兼職人員，使用人工智能工具批次生成不實文章進行引流牟利。葉某為吸引眼球編造釋出上述謠言，擾亂社會正常秩序，廣州公安機關已對楊某、葉某等6名人員采取刑事強制措施。
作為一種新型謠言傳播趨勢與犯罪手段，「AI造謠」擾亂了輿論秩序，危害經濟和社會平穩執行，給網絡謠言治理帶來了新挑戰。上述典型案例體現了公安機關打擊「AI造謠」毫不手軟的態度，以及護航經濟社會高質素發展的堅定決心。
在開展網站平台綜合治理方面，去年12月以來，山西省公安機關累計開展互聯網安全監督檢查1700余次，對不履行主體責任和義務的網站平台，依據情節輕重分別處以警告、責令整改、罰款等整治措施145家次，指導督促134名網紅大V和12家公眾號營運企業履行網絡治理責任。
去年12月以來，上海警方針對網上惡意炒作、造謠生事等網絡違法亂象開展全力集中整治，截至目前，累計查處網絡謠言384起，依法查處造謠傳謠人員530余人，清理網上謠言資訊53000余條，依法關停違法違規賬號5000余個。
上海警方表示，將持續為凈化網絡空間做出更多努力，縱深推進打擊整治網絡謠言專項行動，依法嚴查涉公共安全、涉經濟民生等領域的造謠行為，嚴懲在互聯網上惡意顛倒黑白、造謠生事的違法犯罪人員，加大典型案例曝光力度，持續強化與相關部門協作，壓實網絡平台企業責任，提高網絡生態綜合治理水平。
公安機關鄭重提示，網絡不是法外之地，請廣大網民嚴格遵守相關法律法規，自覺規範個人區域網絡上言行，不斷提升辨識防範抵制網絡謠言能力。
來源：法治日報
