自4月23日開始，中央網信辦在全國範圍內開展為期兩個月的「清朗·整治‘自媒體’無底線博流量」專項行動。重點整治「自媒體」造熱點蹭熱點，制造以假亂真、虛實混雜的「資訊陷阱」等突出問題。近日，西安警方就破獲了一起網絡謠言案。
（圖源：央視新聞）
2023年12月21日，某短影片平台上，一條短影片引發了很多西安市民的關註。影片裏，流經當地的一條河流潭峪河上，冒出一陣陣白色的熱氣。有市民擔心是不是市政的熱水管道出現了泄漏。
當地多個部門很快介入調查，原是一條熱力管道在河道上，冬天的時候管道過熱，在河面上產生了水蒸氣，管道沒有破裂，也沒有出現熱水外泄的情況。
當地官方很快辟了謠。然而令人奇怪的是，此後網絡平台上仍然有一些自媒體賬號在不斷散播西安市鄠邑區管道破裂的訊息，而且帖文裏還言之鑿鑿相關部門正在對事故原因展開深入調查。
警方調查發現，有的帖文配圖，是2011年5月商丘網當時釋出的管道破裂的一張圖片。
（圖源：央視新聞）
然而，就是這樣一個拼湊的不實帖文，在很多自媒體賬號上被大量轉發，並引起了很多網友的恐慌。一些很多同質不同類別的不同描述的一些帖文，總閱讀量已經達到20多萬了。
雷同的謠言背後竟是AI「洗稿」
官方辟謠後謠言還在大肆傳播，到底是怎麽回事？原來，在這些散布不實訊息的自媒體賬號背後，竟然隱藏一條依靠AI人工智能洗稿並且未經稽核、肆意釋出的黑色產業鏈。
根據警方的調查，最早釋出不實訊息的，有一個名叫「可愛的牛牛往上沖」的自媒體賬號。而這個賬號的實際操作人，是四川綿陽的王某。於是，辦案民警趕到綿陽，對王某進行了傳喚。
警方調查發現，王某加入了一個微信群。微信群裏面像王某這種類別的群眾還比較多。他們微信群的群主，每天定時會推播一些文章到群成員自媒體賬號的草稿箱裏面。
（圖源：央視新聞）
據王某交代，微信群裏的成員收到這些文章後，還需要在草稿箱裏點選發送，這樣就可以把文章釋出到各自的自媒體賬號上，而釋出者會根據閱讀量和轉發量來獲取收益。使用者獲取收益之後，會把一半的收益分給群主，也就是供稿人。
警方很快查明，王某所在的微信群群主是柳某，而據柳某交代，跟他一起釋出文章的還有他的同學唐某，而且他們釋出的文章也都不是自己寫的，而是來自一款叫「翠綠筆墨」的寫稿軟件。
每天生成19萬篇文章牟利分成
上述涉案的「翠綠筆墨」軟件，一天就能生成19萬篇文章，7天能達到上百萬篇。它是如何運作的？又是怎麽流向網絡的呢？
（圖源：央視新聞）
據警方了解，這款名為「翠綠筆墨」的軟件，是一個名叫黃某的男子開發的。使用者需要從一家專門售賣新聞稿件的網絡平台上，購買大量的真實新聞稿件，形成稿池。接下來，註冊使用者就可以根據各自的需求，自動生成一篇篇的文稿。
張羽林介紹，這個軟件生成文章的特點就是它會從大量的從平台購買的社會熱點新聞裏，根據使用者的需求抓取熱點比較高的文章，然後用AI軟件把這些文章進行拼湊、前後段落顛倒、同義詞替換，產生一篇同質的反映同一件事情的不同類別的文章。為規避監管，不引發風險，這款軟件在抓取社會熱點文章時，還專門設計了關鍵詞篩選的功能，會規避一些涉政、涉案件、涉暴恐的文章。
民警介紹，從2023年10月黃某開發「翠綠筆墨」軟件之後，在三個月時間內，獲利24000多元。雖然他個人獲利不多，但這款軟件每天產生的文章大概在19萬篇左右，他們提取了7天這個軟件裏面保存的文章，大概在100多萬（篇），涉及時事新聞、社會熱點、社會生活方面。使用該軟件的169個使用者，將這些拼湊的文章釋出到6000多個自媒體賬號上。
（圖源：央視新聞）
新型謠言 「有影片也未必有真相」
「有影片也未必有真相」。早在去年6月2日，浙江就破獲了首例利用AI炮製虛假資訊的案件。
這則「紹興上虞工業園區發生重大火災」的影片就是透過AI技術深度合成，看上去煞有其事的播報事件，實際上子虛烏有，影片實為網上其他火災畫面剪輯拼接而成。
去年5月中旬以來，該團伙為吸粉引流、牟取利益，利用AI合成技術自動生成虛假影片，透過平台返利形式非法獲利4萬余元。截至案發，已經編造虛假影片1.8萬余個，有20個影片造成惡劣影響。
透過AI合成技術，不法分子大大降低了虛假影片的制作門檻，有的僅需1分鐘就可以制作完成；而當這種技術套用在虛假文章生產上，則成了違法違規的重災區。
（圖源：央視新聞）
去年6月，一則「綿陽大學生涉嫌賣淫800多次，賺120余萬元，警方成功抓獲」的配圖文章引發網民圍觀，後經警方證實，為AI軟件自動生成虛假文章。
今年3月，山東警方破獲一起特大造謠引流網絡水軍案，某傳媒公司利用群控軟件和人工智能技術，大肆爬取境內外短影片內容，篡改編造敏感社會事件，在網絡平台釋出虛假資訊，透過其營運的自媒體賬號達4萬多個，虛假帖文資訊80多萬篇。
近日，公安部網安局還公布了一批涉謠言典型案例，其中一起由安徽合肥警方破獲的案件引發關註。
今年1月25日，安徽合肥市新站區佳海工業園一棟倉庫發生火災。合肥消防當天釋出火警通報：本次火災過火面積約470平方米，無人員傷亡，火災原因正在調查中。
但當天，在某網絡平台上出現一則關於這起火災的訊息，其中「巨大人員傷亡」的描述令網友們十分揪心。
合肥警方調查發現，釋出這則網絡謠言的博主網名叫「會飛的魚」，所在地為四川省成都市，而且貼文中出現的地區並非火災的實際發生地。
原來，「會飛的魚」看到合肥的這起火災報道，於是截取了相關媒體的報道圖片，並復制了報道中的部份文字，然後把這些內容放到AI軟件中生成文章，透過自己的賬號釋出在網絡平台。
（圖源：央視新聞）
警方發現，林某某在發帖時還故意使用了一些極其誇張的詞語描述。為了突顯火災的嚴重程度，他在帖文中寫道：「此次火災中，許多人失去了家園和工作，造成了巨大的人員傷亡和財產損失。」他還配了幾張濃煙滾滾的火災現場圖片，並用標紅字型寫到「是否有傷亡，情況不明」。而林某某這麽做的本意是想把發帖當作副業，賺取稿費。
據了解，上述利用AI造謠者，均受到了應有的法律制裁。
極目新聞綜合央視新聞、澎湃新聞、光明網、潮新聞、安徽警方
