「黑客」拿著網絡攝影機，拍下一張參觀者的照片。10幾秒過後，出現了參觀者「護照照」「明星照」「生活照」等不同風格照片；接著，又生成了一段帶有擡頭、轉頭、張嘴、眨眼等動作的影片，幾乎與真人影片無異。然後，「黑客」試圖利用這段影片，解開參觀者所使用的人臉辨識密碼……
「AI造臉」吸引很多體驗者（作者攝）
AI只花10幾秒鐘就生成不同形式的照片以及動態影片，真假難辨（作者攝）
在2024世界人工智能大會的展會上，一項名叫「諜影重重」的深度造假（Deepfake）互動體驗吸引了眾多參觀者，排隊等候生成「假臉」。面對短時間生成的數碼形象，尤其是動態的影片形象，很多體驗者連呼「太像了」。不過，「黑客」使用影片形象解鎖「人臉辨識」時，反深度造假平台ZOLOZ提示，影片涉嫌深度造假，解鎖不成功。
同樣是利用人工智能技術，AI制造的假臉影片被識破（作者攝）
「我們希望透過這一互動，讓大家了解深度造假，不要輕信各種影片、影像。同時，呼籲更多的套用者和研發者關註深度造假，用技術手段降低風險。」展台工作人員介紹，隨著人工智能的發展，「AI換臉」的水平越來越高，幾乎真假難辨。但針對性的技術研發，有機會「用魔法打敗魔法」。在「諜影重重」互動中，ZOLOZ能辨識出影片造假，正是套用了人工智能：對使用者面部動態進行細致入微的分析，捕捉微表情、肌肉紋理、眼神流轉等細微特征，判斷其是否為真人即時互動。目前，相關技術已經套用在金融等領域。
用人工智能技術從細節判斷真偽（AI制圖）
人工智能治理是今年世界人工智能大會的重要議題，而防範人工智能造假，具有很強的現實意義。申城好網民專家、中國網安協會數據安全專家、上海臨港數據評估有限公司總監宗良介紹，以往的造假以文字編造、圖片編輯（PS）、影片剪輯等居多。但基於生成式人工智能，出現了「文生文」「文生圖」「文生影片」「圖生影片」等造假方式，「以假亂真」的現象愈發普遍，還被不法分子利用，比如香港警方披露的、涉案金額高達2億港元的「AI多人換臉」詐騙案等。
面對新的造假方式，公眾要提高警惕，不輕信網絡上的影片和影像。同時，若在影片通話中覺得可疑，可以讓對方摸臉、按鼻子，或者主動切換成方言對話，增加AI造假的難度，導致AI造假露出破綻，從而鑒別真偽。
此外，公眾要註意保護個人私密。現場的體驗讓大家看到，一張照片就能生成真假難辨的動態「假臉」，這說明，每個人都要保護好自己的資訊，包括面部資訊、靜態照片等，避免被不法分子利用。
