近期，多地公安機關公布多起利用AI工具實施造謠的相關案件。6月20日，上海市公安局城市軌域和公交總隊釋出警情通報：有行銷人員為博取關註，使用AI軟體生成「上海地鐵行兇」虛假視訊在網上釋出，造成惡劣社會影響。此外，「西安突發爆炸」「濟南一高層住宅樓起火，多人跳樓逃生」等聳人聽聞又廣泛傳播的「新聞」，均被查實是AI軟體炮製的謠言。造謠的動機主要是獲取互聯網內容平台給予創作者的點選量、閱讀量獎勵，以及為電商平台經營引流等。說到底，還是為了錢。
在不斷叠代的生成式AI技術面前，「眼見為實」「有圖有真相」正在被挑戰。從相關案件看，不法分子利用最新AI技術生產的謠言，足可「以假亂真」，迷惑性極強。人工智慧還能根據傳播渠道特征，實施個人化的謠言生成，並面向特定受眾快速、精準投放，由此造成針對個人或特定群體的誹謗中傷、資訊泄露、危害人身安全等事件時有發生。
對網路謠言治理來說，更大的挑戰在於便利的AI工具大大降低了造謠成本，提升了謠言的數量級和傳播力，造謠呈現出門檻低、批次化、辨識難的特點。檢索互聯網，諸如「圖文創作，AI自動寫文章，單號輕松日產500+，可多號操作，小白輕松上手」「無需洗稿，AI一天100篇原創」之類的廣告文章層出不窮，吸引別有用心者參與其中，也催生了灰色產業鏈加速形成。與此同時，為了核實真假難辨的資訊，相關機構和個人不得不投入人力物力，消耗大量社會成本；一些謠言不僅給受害方造成精神傷害，也對社會經濟執行帶來不小損失。以上種種，使我們必須高度重視AI技術的「雙刃劍」特征，采取堅決行動，保持高壓態勢，最大程度地遏制不法行為。
要以更有力的手段去病除害。一些互聯網內容平台奉行「流量至上」，放任假新聞、「標題黨」、爭議性話題傳播，為AI謠言的大行其道提供了不良土壤。應該清醒看到，虛假資訊傳播帶來的流量不可能長久，天下也絕不會有無本萬利的生意。平台應首先壓實主體責任，對包括AI造謠在內的虛假資訊傳播迅速辨識並切斷其傳播鏈、利益鏈，進一步最佳化涉及AI內容的流量分發和收益分成機制，壓縮別有用心者生產謠言的牟利空間。有關部門也要依法亮劍，猛藥去屙，嚴厲打擊制造虛假新聞的個人和機構，在網路空間架起禁止AI造謠的高壓線。
要以更快捷的方式「跑贏」謠言。面對AI謠言的精準化傳播、智慧化擴散，不妨探索「用AI對抗AI」。近年來，部份互聯網內容平台已建立辟謠機制，相關部門也協同聯動，快速釋出調查和處置結果，回應社會關切。未來還應對演算法推薦、日常監測、線索收集等技術和機制進一步最佳化提升，從而更迅速、精準地推播辟謠資訊，使更多真實、有價值的資訊「跑」在謠言之前。
要健全法治引領技術向善。如何讓人工智慧循著以人為本和技術向善的方向發展，監管之外離不開法治的保障。目前，中國已頒布實施【互聯網資訊服務深度合成管理規定】【生成式人工智慧服務管理暫行辦法】等相關法律，但針對AI領域的司法治理仍有進一步細化空間。只有透過立法為AI開發和使用劃定基本底線，明確各方權責，才能從源頭防範風險，避免「先汙染後治理」的被動局面。（新華每日電訊評論員吳振東）
