近期，多地公安機關釋出了多起利用AI工具實施造謠的相關案件，如釋出「西安突發爆炸」虛假新聞的賬號所屬機構，最高峰一天能生成4000至7000篇假新聞，每天收入在1萬元以上，而公司實際控制人王某某經營著5家這樣的機構，營運賬號達842個。專家指出，便利的AI工具大幅降低了造謠的制造成本，提升了謠言的數量級和傳播力。AI造謠呈現出門檻低、批次化、辨識難等特點，亟待加強監管，斬斷背後利益鏈條。
AI套用的加速讓很多事情變得更簡單，這裏面也包括制造謠言。這不僅是指利用AI造謠，可以實作批次化的謠言資訊生產，更是指它往往讓謠言變得更加難以辨認。比如，過去人們堅信「有圖有真相」，但AI技術的普及，讓制圖更容易、更逼真，在很大程度上使得這條規則開始失效了。甚至，除了圖文，配音影片、換臉後模仿聲音等，這些都可以利用AI產生，在人工進行微調並融入一些真實的內容後，就會變得難以辨別。
更值得註意的是，正是因為AI可幫助內容生產降低門檻並實作大規模操作，這也進一步強化了一些人利用AI制造謠言來牟利的動機。「用AI批次生產爆款文案，突然你就變有錢了」「讓AI幫我寫推廣文，1分鐘搞定3篇」「圖文創作，AI自動寫文章，單號輕松日產500+，可多號操作，小白輕松上手」等「致富」文章廣為流傳，就是一個非常現實的註腳。
所以，總體上，隨著AI套用的愈發普及，人們面對的是一個更加真假難辨的資訊環境，並且辟謠的難度也在增大，這的確是一個必須直面的挑戰。
到底如何應對呢？將AI生產出的資訊與一般的資訊區別開來，以提升公眾的防騙意識，當是重要方式之一。事實上，之前相關部門釋出的通知中就明確，要求加強資訊來源標註展示；使用AI等技術生成資訊的，必須明確標註系技術生成；釋出含有虛構、演繹等內容的，必須明確加註虛構標簽。而針對疑似使用AI技術的內容，目前一些平台已在下方貼上「內容疑似AI生成，請謹慎甄別」的提示。這項工作是很重要的，各資訊釋出平台都應該推動這類提示的普及，最大程度上壓縮借AI生產內容渾水摸魚的空間。
另外，也不妨重視「用AI打敗AI，用魔法打敗魔法」。要知道，當各式AI生產內容的「真假」難以分辨，傳播能力增強時，是不是在相應的內容把關及內容傳播機制、流量分發上，也能夠借助AI的力量來強化真實性判斷、提升辟謠的效率，並及時阻斷謠言的傳播呢？隨著AI謠言帶來的破壞性日益顯現，這方面的技術性應對，是時候引起更多的重視了。
當然，回到本質上，透過AI技術來制造謠言，背後的主體依然是人。要扼住這股將AI用偏了的不良風氣，歸根結底還是要加大對背後的始作俑者的懲處力度。如對一些專門利用AI來炮製謠言並借此牟利的灰色產業，應該依法予以嚴肅打擊和清理，亮明底線和紅線，遏制各個環節參與者的僥幸心理。同時，也有必要加大AI時代資訊產生狀況的公眾普及，讓更多人對於利用AI造謠的行為有更多預防、警惕心理，並養成檢視資訊來源的習慣，提高AI時代的資訊素養。
