從 2022 年底的 Midjourney、stable diffusion，再到 Open AI 的 Chat GPT、DALL·E，Sora，谷歌的 Gemini，AI 已經在寫文章、畫畫、制作圖片、影片等領域展現出了自己無與倫比的能力。
看著 AI 一次又一次展現出令人驚嘆的本領，不知道你是否有過擔憂，既然 AI 能夠生成接近於真人的圖片、影片，作為普通人的我們，以後還能分辨出一張圖片或者一段影片是不是真實的嗎？
這樣的擔憂不無道理。我們不妨做一個小測試，看看你是否能 在下面的四張圖片中，找到唯一一張真人照片？
生成這些圖片的是「此人不存在」網站：thispersondoesnotexist.com
答案
點選下方空白處獲得答案
四張照片中，只有第一張是真人照片，其余三張圖片均為 AI 生成。
當然了，除了人像，AI 還能夠生成各種各樣的風景照片，以及本身就是用電腦制作的 CG 圖片。而要分辨這些照片，對普通人來說就更加困難了。
但幸好，在大部份情況下，是否能分辨圖片是不是出自 AI 之手，並不會對我們的生活產生實質性的影響。網絡上的絕大部份圖片，我們都是一看了之。
而近幾年，也出現過一些用 AI 圖片制作的假新聞。
AI 生成的杜林普被捕圖，圖片截取自 X（原推特）
這些假新聞雖然大部份是惡作劇，但如果這樣的假新聞充斥網絡，可能會讓人們對新聞事件的可信度產生懷疑。畢竟，眼見都不一定為實了，那我們怎麽知道哪些是真的，哪些是假的？
AI 生成的圖片「馬斯克與機器人女友」，圖片截取自X（原推特）
如何分辨圖片「真假」？
既然網絡上的圖片真假混雜，我們到底要怎樣判斷一張圖片是否是由 AI 生成的？其實，有一些簡單的方法可以幫助我們判斷。
1
利用常識尋找不合常理之處
最直接有效的方法，就是 利用我們的「常識」。
在過去一兩年裏，AI 圖片生成的人類手部特征一直是被吐槽的焦點。雖然一些模型比如 Midjourney V5，Stable Diffusion 針對手部進行了一些最佳化，但如果觀察 AI 假新聞中的圖片，依然會發現一些「奇怪的手部」。
利用 GPT4.0 的 DALL·E 繪制的手，依然能看出「不合理」的手部特征
除了手部會露出破綻，AI 生成的圖片也可能會出現一些不合常識的錯誤。
比如還是前面提到的「杜林普被捕圖」中，就有幾處奇怪的地方。
AI 生成圖片中不合邏輯之處
首先，杜林普的身後出現了一個朝向奇怪的且不屬於任何人的腳。另外，杜林普的左臂扭曲成了不正常的形狀。而身後的路人面對這樣「重大」的事件，表情漠不關心，而追逐的警察們，似乎眼睛關註的焦點也不在杜林普身上。
因此，人類世界的常識以及我們對物理世界的了解，是我們辨識 AI 圖片的巨大武器。 如果圖片中出現了一些違背常識和物理規律的細節，那基本可以認定這是一張 AI 生成的圖片。
2
查詢圖片來源
但有些圖片的常識性錯誤隱藏在很細節的地方，乍一看不太容易分辨。對這一類圖片，同樣有一個簡單的判斷方法。
現在的搜尋引擎都有 「圖片查詢」 功能，不少線上網站也可以提供類似的功能。你可以直接將「可疑圖片」上傳。透過「尋找圖片來源」，就能找到釋出過這張圖片的網站。
假如 對於一個非常重大的新聞事件，釋出媒體卻無一例外地是個人媒體或者行銷號，那麽這張圖片大概率是假的。 如果有可靠媒體釋出過，並且報道的內容也證實了圖片內容，那這樣的圖片才可能是真的。
現有網站和圖片來源查詢工具可以直接搜尋圖片來源，圖片截取自網絡
3
借助辨識網站
目前，有很多網站可以直接查詢圖片的 EXIF 資訊（記錄著相機的鏡頭、光圈、快門等參數）。
假如別人向你發來了一張圖片炫耀自己的假期或者是攝影技術，你可以直接將圖片上傳查詢。
如果能夠看到相機參數，那這張圖片大概率是真實的 ，至少說明確實是用相機拍攝的。而如果沒有這些資訊，有可能是 AI 生成，但也有可能是經過了壓縮處理的圖片。
除此之外，還有專門的辨識 AI 圖片的網站，比如「AI or not 網站」。這些網站也可以辨識給定的圖片是 AI 生成的還是人類創作的，雖然不是百分之百準確，但可以作為一個參考。
AI or not 對於兩張圖片的判斷結果，圖片截取自AI or not網站
當然了，對於大部份的新聞事件，熱度很快就會過去，並不會對普通人的生活產生實質性的影響。但接下來要提到的「深度偽造」技術，是會對每一個人產生直接影響的。
當心！AI騙局：深度偽造
深度偽造 （deepfake） 是一個由深度學習 （deep learning） 和偽造 （fake） 合成的詞。它的意思很好理解，就是利用深度學習技術來偽造一些圖片、影片，這類圖片和影片一般以人類為主體。
其實早在 GPT、midjourney 之類的 AI 工具出現之前，深度偽造技術就已經出現了。它最典型的一個套用，就是 AI 換臉 。
在 2019 年，古裝劇【長安十二時辰】裏的「崔六郎」角色，就經過了 AI 換臉。另外，在 2020 年的【三千殺鴉】【了不起的兒科醫生】等影視劇中，也使用了 AI 換臉技術。
而最近的「短劇出海」，深度偽造技術也發揮了重要作用，利用 AI 換臉技術，一鍵就可以把中國人面孔換成外國人面孔，免去了翻拍的成本。
出海短劇一鍵換臉，圖片截取自 X（原推特）
現在一些 AI 換臉工具，甚至可以根據一張照片完成面部替換。
這些技術既可以用於平時的娛樂，也可以用於商業行為中，比如制作主播的數碼人替身，實作 24 小時無間斷直播賣貨。
但 如果深度偽造技術到了不法分子的手中，可能會成為他們做壞事的工具 。
比如，騙子可以利用在網絡上收集到的圖片，制作 AI 換臉影片，利用這樣的影片進行詐騙。
今年年初，中國香港的警方就接到一起報案，騙子透過 AI 換臉冒充某公司的財務長，要求公司財務轉賬 2 億港幣（約合人民幣 1.8 億元），公司財務轉賬之後幾天，才意識到上當受騙了。
除此之外，還有騙子利用 AI 換臉，冒充被害人的朋友、兒女、父母等角色，對人實施詐騙。而在影片中看到自己親朋好友的畫面，會讓受害人放下戒心。
當壞人掌握了深度偽造技術，就實實在在地會對普通人的生活產生影響，任何人都有可能成為受騙者。
面對深度偽造內容
我們該怎麽辦？
那究竟要如何甄別深度偽造內容？對此，AI 機構和個人都有可以做的事情。
1
對於 AI 公司
AI 機構也在努力減少深度偽造技術濫用。
在一些圖片生成模型的使用過程中，比如 Open AI 的 DALL·E 模型中，你是沒有辦法讓 AI 對某張具體照片進行處理的，也沒有辦法生成特定的人臉內容。
大部份的 AI 生成模型都會遮蔽特殊的詞匯，以防止模型被用來生成惡意的圖片或者影片。比如在「杜林普被捕」的假新聞圖片泛濫之後，Midjourney 禁止了 arrest（被捕）這個詞的使用。
另外，大部份機構包括 Open AI、Meta、midjourney 等等，都會 在生成的影像數據中添加浮水印 ，而正規的提供 AI 換臉的機構，也會在影片裏內嵌浮水印，和真人影片做區別。
當然了，不法分子在利益的驅使下，會絞盡腦汁去掉偽造痕跡。他們的目的就是讓人認為，這些圖片影片是真的。
因此對每一個人來說，我們也需要了解一些防範方法。
2
對於個人
對於我們普通人來說，我們手中不太可能有專門的鑒別軟件，也不太可能逐幀去分析畫面中的破綻，但依然有一些簡單方法可以幫助我們分析判斷。
比如，因為有一些 AI 換臉影片是犯罪分子提前制作的。
如果 影片裏的人提到了讓你轉錢，你可以要求影片裏的人做一些特定的動作，比如轉個身，以及用手在網絡攝影機前面停留一會、揮一揮。
透過這種方法，既可以分辨對方是不是一個提前錄制好的影片，同時，手在臉前面晃動也會對一些簡單的 AI 換臉工具進行幹擾，「假人」可能會露出破綻。
除此之外，你也可以 讓對方回答一些只有你們才知道的訊息 ，比如「你們最後一次見面是在哪裏？」或者明知道對方沒有孩子，也故意問一問對方孩子的訊息，看看是不是騙子冒充的。
畢竟，對方已經提到讓你轉錢了，讓對方做幾個動作回答幾個問題驗證身份也並不過分。而自己的錢袋子，當然要自己守護好。
此外，大家可以牢記公安部提到的，防詐騙「六個一律」「八個凡是」原則。
「六個一律」
1、談到銀行卡，一律掛斷；
2、談到中獎了，一律掛斷；
3、談到「電話轉接公檢法」要求匯款的，一律掛斷；
4、所有短訊，讓你點選連結的，一律刪掉；
5、微信陌生人發來的連結，一律不點；
6、提到「安全賬戶」的，一律是詐騙。
「八個凡是」
1、凡是自稱公檢法要求匯款的；
2、凡是讓你匯款到「安全賬戶」的；
3、凡是通知中獎、領獎要你先交錢的；
4、凡是通知「家屬」出事要先匯款的；
5、凡是在電話中索要銀行卡資訊及驗證碼的；
6、凡是讓你開通網銀接受檢查的；
7、凡是自稱領導要求匯款的；
8、凡是陌生網站要登記銀行卡資訊的。
參考文獻
[1]https://thispersondoesnotexist.com/
[2]http://www.news.cn/legal/20240226/da985bba58bf4ea2a65b872d06aec6a5/c.html
[3]https://www.scientificamerican.com/article/how-to-tell-if-a-photo-is-an-ai-generated-fake/
[4]https://about.fb.com/news/2024/02/labeling-ai-generated-images-on-facebook-instagram-and-threads/
[5]https://www.aiornot.com/
策劃制作
作者丨小瑋 科普創作者
稽核丨於旸 騰訊玄武實驗室負責人
策劃丨王夢如
責編丨王夢如
校對丨徐來 林林
