當前位置: 華文天下 > 辟謠

食療可清除疾病?」警惕AI批次生成的「偽科普」文章

2024-09-26辟謠

【來源:上海網路辟謠】

近來,一批以「某高校機構研究發現:某種食物可以清除多少比例的疾病,是真的嗎?」為題的文章在互聯網平台湧現。這批文章結構高度雷同,幾乎都是從患者的視角切入,講述他們求醫問藥的故事。

對於標題裏提到所謂「食療」的療效,文章似乎都保持著一定的「理性」。當患者提出疑問時,醫生無一例外都會搬出所謂的權威機構研究和論文,稱食物中的一些成分確實有一定功效,但不能誇大其作用,要治病必須得透過科學治療。最終,在醫生和患者的努力下,疾病終於治愈,文末甚至會貼心提醒患者和讀者,要均衡飲食、規律作息、堅持鍛煉等。

這樣夾雜著高度個人情感的「病愈」小故事,乍看上去似乎沒什麽問題,然而記者梳理發現,文章在講述故事的過程中,摻雜了大量與事實相悖的內容,本質上仍舊是「偽科普」,且更具有隱蔽性和欺騙性。

近期,網上出現大量結構相似的「偽科普」文章。

「偽科普」文章漏洞百出

在一篇介紹「喝醋能否清除血栓」的文章中提到,某某大學附屬醫院血管外科團隊在【自然·通訊】雜誌上發表了關於醋酸透過抑制血小板活化和纖維蛋白聚合來預防血栓形成的論文,然而,記者在【自然·通訊】雜誌和該大學醫學院官網上搜尋,均未找到這篇論文。

至於文章裏提到的「醋酸可以抑制血小板的活化和聚集,還能減少纖維蛋白的形成」和勸患者可以適量喝醋的「醋中含有的醋酸確實有助於改善血液迴圈,降低血壓和血脂」等說法,早已被證偽。幾年前,首都醫科大學附屬北京安貞醫院教授洪昭光在接受媒體采訪時介紹,醋酸在小腸中就會被堿性消化液中和,能夠吸收進血液的醋酸非常有限,而且很快就會被血液的穩定系統清理掉,故而醋酸不會改變血液的酸堿度,也不能軟化血管。

捏造、篡改權威機構研究,正是這些文章的共同套路。而且,其在參照所謂的「權威研究」時,研究主體幾乎都選用「經驗豐富的劉醫生」「資深免疫學專家李教授」「專攻中醫的趙大夫」等含糊不清的頭銜和個人來代替,這些人到底是誰?是不是真的存在?讀者根本無法求證。值得註意的是,在正規的新聞報道或科普寫作中,醫院、醫生、團隊、研究內容等都會清楚列出,不會隱匿這些關鍵資訊。

此外,為了增加文章的可信度,有些「偽科普」文章還會配上一些近似論文圖表的圖片。然而,記者求證發現,這些圖片系張冠李戴。比如,在介紹「吃大蒜能否消炎」的文章中,作者參照了一張英文圖片,欲展示患者服用大蒜萃取物的實驗過程,但實際上這張圖片介紹的是CAR-T療法,與該文風馬牛不相及。作者正是利用了一些讀者不懂英文,於是盜用與文章不相幹的英文圖片,妄圖欺騙讀者。

左圖:「偽科普」文中展示患者服用大蒜萃取物的實驗過程圖片;右圖:經轉譯,該圖片介紹的是CAR-T療法。

「偽科普」文章利用AI生成

又成為AI的學習資料

記者留意到,這些「偽科普」文章在文末並沒有提出偽科學觀點,都稱「實驗室裏的研究結果並不能直接套用,還需要臨床試驗和長期追蹤來驗證其安全性和有效性」,這樣高度雷同的表述讓記者起了疑,這些自媒體背後,是否套用了相同的樣版呢?

帶著試試看的心態,記者開啟了一款AI聊天軟體。當輸入「以‘喝醋能在24小時內清除50%的血栓’為題,寫一篇帶有人物故事的科普文章」的指令時,AI聊天軟體迅速生成了與上述「偽科普」文章非常相似的內容,包括引言、故事背景、人物介紹、故事發展、高潮、結尾、科普時間等,一應俱全,連結語中的提醒都非常相似。可見,這些結構相似的「偽科普」文章很有可能就是自媒體作者透過整合、編造AI生成內容產生的。

記者在一款AI聊天軟體中輸入:「以‘喝醋能在24小時內清除50%的血栓’為題,寫一篇帶有人物故事的科普文章」,AI迅速生成了一篇文章。

盜用AI生成內容,再加上自己編造的煽情故事,自媒體作者炮製了一大批「偽科普」文章在互聯網上大肆分發,一本正經地胡說八道,這樣的文章,很有可能會對讀者產生誤導。而且,記者在體驗時發現,這些「偽科普」內容反過頭來又成了AI的學習素材,幹擾AI生成內容的準確性。

記者進一步在該AI聊天軟體中輸入「醋酸能否預防血栓形成?」時,相關界面顯示,其生成內容共閱讀了19個網頁,其中就包括了上述「偽科普」文章——「研究發現:喝醋能在24小時內清除50%的血栓,是真的嗎?」,再看最後的回答,也明顯被「偽科普」文章誤導了。

記者在某AI聊天軟體中提問:「醋酸能否預防血栓形成?」,AI學習的19個網頁中就包括一篇「偽科普」文章。

近年來,伴隨著AI技術的發展,人工智慧的套用場景深入各行各業,這幾天,有人發現,就連互聯網水軍和水稿,也已經成了人工智慧的產業鏈,而這些「偽科普」文章,或許就是其中的一環。針對這一現象,國家網信辦近期釋出【人工智慧生成合成內容標識辦法(征求意見稿)】,對不同情況下需要做出的顯性或隱性標識做了較為清晰明確的界定,還要求平台方承擔起相應的責任。

不過,距離措施落地還要一段時間。在此,上海辟謠平台提醒,使用者在使用AI聊天軟體時需提高警惕,註意在AI學習的素材中是否摻雜偽科學、謠言、不良或有害資訊。在AI時代,公眾更需要對AI生成內容小心分辨,提高對不良資訊的提防。

聲明:此文版權歸原作者所有,若有來源錯誤或者侵犯您的合法權益,您可透過信箱與我們取得聯系,我們將及時進行處理。信箱地址:[email protected]