當前位置: 華文天下 > 辟謠

AI軟體成造謠工具!這類訊息千萬別信→

2024-04-24辟謠

近日,公安部網安局公布了一批涉謠言典型案例,其中一起由安徽合肥警方破獲的案件引發關註。

網路博主篡改火災事實

炮製傳播謠言

今年1月25日,安徽合肥市新站區佳海工業園一棟倉庫發生火災。消防部門接到警情後迅速趕往現場,在消防隊員的奮力撲救下,火勢很快被控制並撲滅。合肥消防當天釋出火警通報:本次火災過火面積約470平方米,無人員傷亡,火災原因正在調查中。

當天,在某網路平台上出現一則關於這起火災的訊息,文中稱:安徽合肥瑤海區新站佳海工業園發生火災,造成多人傷亡,具體傷亡人數尚未公布。這則貼文一經釋出,立即引發廣泛關註,其中「巨大人員傷亡」的描述令網友們十分揪心。

這則與火警通報有出入的訊息立刻引起了合肥警方的註意。警方經過調查發現,釋出這則網路謠言的博主網名叫「會飛的魚」,所在地為四川省成都市,而且貼文中出現的地區並非火災的實際發生地。

最終,警方判定此帖為網路謠言,對造謠的網路博主林某某依法作出行政處罰。目前,林某某造謠的內容已被刪除。

原本在安徽合肥發生的一起火災,被四川成都的網路博主篡改事實、任意編造後釋出在網路並傳播。這樣一則謠言到底是如何制造出來的?

為賺流量掙稿費

使用AI工具造謠、故意誇張描述

據警方了解,網路博主「會飛的魚」為了批次生成此類資訊,使用AI軟體進行了輔助。該博主透過短視訊平台看到了合肥的這起火災報道,於是截取了相關媒體的報道圖片,並復制了報道中的部份文字,然後把這些內容放到AI軟體中生成文章,透過自己的帳號釋出在網路平台。

警方介紹,經過AI擴寫後,報道文字從原本的傷亡情況尚不明確,直接被擴寫成了「造成多人傷亡,具體傷亡人數尚未公布」。而嫌疑人為了讓貼文內容更為豐富,再次進行擴寫,增加了一些政府和消防部門到場處置的相關內容。嫌疑人將第二次擴寫出來的文章釋出,謠言貼文由此出現。

博主林某某稱,當時只想讓火災文章的內容更豐富,以此來增加瀏覽量,並沒有對火災的真實情況進行認真核實。

警方發現,林某某在發帖時還故意使用了一些極其誇張的詞語描述。為了突顯火災的嚴重程度,他在帖文中寫道:「此次火災中,許多人失去了家園和工作,造成了巨大的人員傷亡和財產損失。」他還配了幾張濃煙滾滾的火災現場圖片,並用標紅字型寫到「是否有傷亡,情況不明」。而林某某這麽做的本意是想把發帖當作副業,賺取稿費。

這些都是謠言,別信!

除了這起案件,近期網路上還有一些博主為賺取流量炮製的謠言——

謠言一:「路都沒有 紅綠燈亮了」

3月10日,有網路博主釋出「路都沒有 紅綠燈亮了」的視訊,引發網友關註。

經過安徽金寨縣警方調查發現,該路段為交通部門設計的T字形路口,紅綠燈目前主要用於指引左右轉彎車輛通行,同時也為後期執行道路預留了通行規劃。該網路博主在未核實的情況下,透過特定角度選擇性拍攝,釋出虛假資訊,造成了惡劣社會影響。目前,博主盛某某已被金寨縣警方依法處以行政處罰。

謠言二:「外省人來藤縣偷小孩」

3月,廣西梧州網警在工作中發現,本地藤縣鐘某某、余某某等7人,在短視訊平台和公眾號上釋出「外省人來藤縣偷小孩」的視訊和文章。

經警方調查核實,該視訊和文章實為鐘某某、余某某等7人將一則好人好事拼接捏造成為所謂「偷小孩」的網路謠言,並進行傳播。目前涉案鐘某某等7人已被警方處罰,並責令刪除不實視訊資訊。

謠言三:「義務教育改革縮短學制」

今年1月,南京孫某、蘇州李某等人,為達到博取關註和提高樓盤銷量等目的,編造傳播「義務教育改革縮短學制」「高中納入義務教育,南京在玄武區進行試點」等謠言資訊,造成不良社會影響,擾亂公共秩序。目前,孫某、李某等7人已被警方依法分別予以行政處罰。

警惕使用AI杜撰事實的網路謠言

針對使用AI「洗稿」、杜撰新聞事實的網路謠言,警方提醒廣大網友:

在上網瀏覽資訊時要保持對資訊來源的警惕性,盡量選擇權威、可信賴的媒體或機構作為資訊來源;

要註意網路新聞資訊的邏輯性,如果發現一條新聞資訊在邏輯上存在明顯的漏洞或矛盾,它很可能是經過篡改或杜撰的;

切記不要盲目相信和傳播未經證實的資訊。在社交媒體或網路上看到可疑資訊時,可以先進行核實或者等待官方訊息釋出後再做判斷。

總台央視記者/張崗 王利 周少軍 張小楓 金寨台