據央視新聞訊息，AI技術，也就是人工智能，近年來發展迅速，有關專家介紹，AI的主要特征之一就是能自主深度學習，比如說，可以對現實生活中的人物表情和動作細節進行深度學習並且進行模仿。一些不法分子因此盯上了這項新技術，他們利用「AI換臉」冒充受害人的親戚和朋友實施詐騙。公安部數據顯示，近兩年來，全國共發生「AI換臉」類詐騙案近百起，累計給人民群眾造成經濟損失高達2億元。「AI換臉」詐騙緣何能屢屢得手？這其中的套路有哪些？我們又該如何防範呢？
記者近日來到了浙江大學區塊鏈與數據安全全國重點實驗室。在這裏，任奎教授團隊的研究人員讓記者體驗了一回「AI換臉」。
畫面中，這位充當總台記者替身的姑娘實際上是浙江大學網絡空間安全學院的學生小劉博士。在影片中，透過AI技術，浙大的研究人員成功將記者的面部特征移植到了劉博士的臉上，並對劉博士的聲音也進行了改造，這樣就合成出了「AI換臉」版的所謂總台記者。
浙江大學區塊鏈與數據安全全國重點實驗室任奎團隊 廉偉辰：我們首先去釘選高老師和劉博士面部資訊的位置，然後在裏面提取出兩個人的面部特征資訊，之後我們用「AI換臉」模型去擬合兩個人五官分布。因為劉博士面部特征分布情況和高老師分布情況不一樣，所以需要讓高老師的面部特征移到劉博士的臉上。等到AI模型擬合完成後，再把背景資訊融合進來，合成最後的效果。
據專家介紹，「AI換臉」技術是一項基於人工智能的影像處理技術，這種技術能夠辨識出目標人物的面部特征並對其進行精準分析。也就是說，只需要目標人物的幾張照片或影片，AI就能從中提取出他的面部五官和聲音特征，透過和另一個人進行匹配，最終實作換臉，達到以假亂真的效果。
在「AI換臉」類詐騙案件中，那些讓人真假難辨的殺熟影片就是利用這項技術合成出來的。
AI「造出」老同學
女子險被詐騙40萬
前不久，家住內蒙古鄂爾多斯的李女士忽然收到了一個微信添加好友申請。李女士開啟一看，這個微信昵稱為「濁雨不語」的人，頭像是自己的老同學「賈某」，她便加了對方的微信，並在對方的要求下轉入了QQ聊天。進入QQ聊天之後，這名賈某主動發來了影片通話邀請。
受害人 李女士：跟我影片，我沒等接起來就沒了，緊接著又跟我影片一次，我還是接不起來。第三次給我打影片，我接起來16秒鐘看到他的頭像，頭比較大，背景啥的都看不到，聲音聽不到，太吵了那裏邊，他就說網絡訊號卡，聽不到聲音，文字交代，他就給我打過來字。
影片通話雖然只有短短的16秒，但李女士確實看到了所謂老同學的樣貌。這樣李女士確信和自己交流的就是老同學「賈某」無疑。
一番寒暄之後，這位所謂的老同學「賈某」說有個急事想請李女士幫忙，他有個朋友正在參加一個專案競標，急需資金周轉，但他不方便直接出面將錢轉給對方，希望借李女士的賬戶做個資金周轉的橋梁。
隨後這位老同學向李女士索要了銀行卡號，接著便聲稱已經向李女士的賬戶轉了196萬元，同時還發來了一張「銀行轉賬記錄」截圖。
在收款未到賬的情況下，這位所謂的老同學極力說服李女士先墊付資金。基於對老同學的信任，加上已經影片通話核實了身份，李女士沒有進一步確認錢款是否到賬，就將自己手裏的40萬元轉入了對方提供的一個銀行賬號。
然而在李女士轉出40萬後，對方仍不罷休，要求她繼續轉賬。此時李女士才感到事有蹊蹺，就在她嘗試再次聯系對方時發現自己已經被拉黑了。隨後李女士撥打了真正的老同學的電話，這才發現被騙了，隨即便報了警。
接到報警後，鄂爾多斯警方立即啟動了緊急止付機制，成功將被騙的40萬元攔截，返還給了李女士。
隨即警方對涉案的「濁雨不語」微信賬號展開了調查。警方調查發現，這個賬號的實名認證資訊對應的是一個叫劉某的人，而這個人的行為明顯異常。
鄂爾多斯市公安局東勝分局刑事偵查大隊四中隊指導員 楊雪剛：微訊號的實際登記註冊人名下有12個微信賬號，我們就對這個人比較懷疑，因為作為一個普通人，不可能有十二三個微信賬號。
很快，辦案民警在呼和浩特找到了劉某。到案後，據劉某交代，此前在一個擁有上千名成員的所謂QQ兼職群中，他關註到了一條標題為「租用私人實名制認證手機號，註冊社交聊天賬號，可以賺錢」的兼職資訊。抱著試試看的態度，劉某和他們取得了聯系。
據劉某交代，註冊好多個微信賬號後，他按照上線的要求，將這些微信的頭像、昵稱、地區等全都改成了上線提供的資訊之後，便將自己名下的微訊號交給境外詐騙團伙操作。
嘗到所謂輕松「賺錢」甜頭的劉某一發不可收拾，將自己的好友王某也一起拉來出租實名認證的微訊號。在案發前的9個月時間裏，劉某和王某兩人用各自名下的19個手機號，實名認證了三十多個微信賬號、十多個支付寶賬號，出租給詐騙團伙，非法獲利8000余元。
無獨有偶，前不久，家住安徽池州的陳先生也遭遇了「AI換臉」詐騙。這次騙子冒充的是陳先生熟識的一位領導。而這位假領導讓陳先生險些損失了六十萬元。
受害人 陳先生：我當時是有所懷疑的，然後給我發影片，跟我聊天的過程當中完全就是跟我很熟悉的，跟我平時跟他聊天的內容、口氣幾乎是一樣的。那感覺就是完全沒有再去懷疑他了。接到他那個轉賬匯款的螢幕擷取，但是沒收到款，這裏又要我轉回去，我再三考慮朋友之間，有時候難為情，我就把錢給他轉過去了。
調查中記者註意到，安徽陳先生遭遇的詐騙套路與陳女士的如出一轍：詐騙人員第一步都是先冒充受害人的朋友要求加微信；接著第二步透過聊天取得受害人的初步信任；第三步發來利用「AI換臉」合成的影片通話進一步打消受害人的顧慮；最後第四步偽造假轉賬記錄並以延時為由，誘騙受害人對外轉款。
獲取公民個人資訊
是「AI換臉」類犯罪的最重要前提之一
在「AI換臉」類詐騙案中，騙子之所以能夠屢屢得逞，關鍵在於受害人在影片通話中都看到了熟悉的親戚朋友的樣貌，才最終打消了顧慮，同意向對方轉款。這些足以以假亂真的影片全都是透過「AI換臉」技術偽造出來的。隨著調查的深入，記者發現，在「AI換臉」類詐騙中遠不止影片殺熟一種套路，事實上只要在涉及面容、聲音等特征的社交場景中，「AI換臉」技術如果套用不當就可能形成各種各樣的犯罪。
這家總部位於深圳的網絡安全企業，其主要業務之一是為全國500多個地市區縣的反詐中心提供反詐預警服務。截至目前，他們已協助各級公安部門破獲各類新型犯罪案件6000余起，其中就包括多起利用「AI換臉」偽造色情影片進行敲詐勒索的案件。
前不久，河北的一位李先生在瀏覽交友App時，因沒禁住誘惑，同意了與所謂美女的裸聊要求，並下載了對方發來的一個非法聊天軟件。殊不知這位所謂的美女是詐騙人員假冒的。而就在聊天過程中，詐騙人員已將李先生的樣貌截取了下來，並利用「AI換臉」偽造了帶有李先生面容的色情影片。與此同時，詐騙人員還利用非法聊天軟件獲取了李先生手機中所有聯系人的手機號，以此來對李先生進行敲詐勒索。為了讓詐騙人員刪除色情影片，無奈之下李先生只得同意向對方轉賬12萬元。
深圳某網絡安全科技公司 鐘子驥：詐騙人會誘導受騙人進行影片聊天，然後透過這些軟件截取受害人的面部特征以及外貌，透過AI合成了一些黃色的影片，投放到他自制的App裏。在這個App裏有數十萬的使用者，最終透過剛才我們說的這種方式實施詐騙、勒索，平均每個人的受騙金額都是有幾十萬。
調查中記者了解到，在這類案件中，詐騙人員首先會在一些交友類平台搜尋詐騙物件；然後以裸聊等名義誘導受害人下載註冊非法的聊天軟件，並在註冊過程中非法獲取受害人的通訊錄、相片圖庫等私密資訊；接著透過影片聊天截取受害人面部、聲音等特征；最後偽造出帶有受害人面部的色情影片進行敲詐勒索。
記者註意到，在這類電詐案中，除了需要掌握「AI換臉」這項核心技術之外，成功詐騙的前提還需要獲取受害人的通訊錄、相片圖庫等個人私密資訊，甚至可以說獲取公民個人資訊是「AI換臉」類犯罪的最重要前提之一。
網絡安全專家告訴記者，事實上，對於詐騙團伙來說，要想獲得這些資訊並不難。
個人資訊大規模泄露
是詐騙犯罪高發的重要因素
在這家企業技術攻破的一些詐騙團伙的數據庫中，記者看到了海量的公民個人私密資訊。這個電子試算表中儲存的就是眾多銀行理財使用者的私密資訊，其中包括了姓名、手機號、身份證號、銀行卡號甚至還有使用者理財賬戶金額和風險評估類別。
網絡專家向記者介紹，這些公民個人私密資訊在一些暗網渠道被明碼標價，打包出售，根據新鮮程度的不同，標價從幾毛錢到幾元錢不等，最低起售條數一般以一萬條為計算單位。而這些公民個人私密資訊除了主要由行業內鬼竊取出售之外，另外一個主要渠道就是利用一些非法連結、二維碼和手機App的誘導套取。
深圳某網絡安全科技公司負責人 肖堅煒：第二個渠道就是由詐騙分子直接自己安排技術人員跟他的業務人員去套取，比如說去發小卡片，這小卡片裏有App，你只要裝了這個App，去看直播也好，看色情網站，免費的VPN，然後就會把你的通訊錄、照片給你傳到後台去。
在浙江大學，研究人員為記者演示了透過掃描非法二維碼套取手機通訊錄和相片圖庫資訊的過程。可以看到，研究人員首先模擬不法分子制作了一條誘導短訊，短訊中聲稱因存在異常交易，賬戶存在被凍結風險，需要掃描二維碼下載專屬銀行客服。而就在下載安裝成功後，只要點選這個App，試驗手機中的通訊錄和相片圖庫就全部被竊取並上傳到了模擬的不法人員後台數據庫中。
浙江大學區塊鏈與數據安全全國重點實驗室任奎團隊 郭永軍：我們可以看到剛剛這個時間，犯罪分子將你手機上的資訊進行竊取，可以檢視你手機中的通訊錄資訊，以及你手機中相簿的資訊。在當前的網絡環境下面我們會遇到很多未知的連結，比如可能說掃二維碼送禮物去進行一個App下載，這些App沒有經過安全檢測，隨意下載之後手機上的私密資訊就有可能被竊取。
網絡電詐頻發背後
是規模化、協同化的黑灰產業鏈
調查中記者了解到，電信網絡詐騙已形成了分工明確的完整網絡犯罪產業鏈。產業鏈的上遊為網絡犯罪團伙提供非法套取的公民個人私密資訊；中遊客製個人化指令碼實施網絡詐騙；下遊洗錢變現。網絡安全專家告訴記者，這樣一個具備「規模化生產、協同運作」等特點的黑灰產業鏈，給網絡詐騙的打擊和治理帶來了挑戰。
據了解，截至目前，中國網絡安全法已實施近7年，個人資訊保護法已實施兩年有余。有關法律專家表示，要想進一步遏制公民個人私密資訊泄露及網絡詐騙的發生，在制度上仍需細化和完善。
中國法學會消費者權益保護法研究會副秘書長 陳音江：針對公民個人資訊保護方面一些具體的法律法規，或者說一些具體的管理措施還要進一步明確，進一步細化，更便於基層執法人員進行監管。
網絡安全專家認為，維護網絡安全需要制度建設與技術創新並重，制度為技術的套用提供保障，技術則為制度的落地提供可行路徑。
浙江大學區塊鏈與數據安全全國重點實驗室任奎團隊研究員 巴鐘傑：在防範手段方面我認為一是我們要加強對網絡犯罪的預防和打擊；二是需要從源頭上加強我們的技術安全性，尤其是商用產品的安全性，比方說可以結合私密計算等技術來降低使用者私密泄露的風險；三是積極發展新興技術，以AI反制AI。雖然AI合成的影片現在已經做到了以假亂真的程度，但事實上我們用AI技術還是可以從中提取到一些我們人類肉眼無法察覺的偽造痕跡，以幫助我們的消費者去防範以及辨識以「AI換臉」詐騙為主的安全風險。
「AI換臉」詐騙之所以會得逞，實際上就是因為在生活中看到臉就確認身份是再普通不過的習慣，「AI換臉」詐騙就是利用了我們這一習慣。但是「AI換臉」詐騙也並非不可防範，最可靠的一招，就是線上上發現任何疑點，都要線下核實，線上上也可以采取增加溝通時間等方法，時間越長騙子越容易露出馬腳。還可以多一些試探性舉措，比如影片通話時讓對方轉轉頭或者做一些指定的動作。AI目前還不能完美地適配所有情況，如果是偽造的影片就一定會存在一些破綻。當然最終引導AI正向套用，嚴厲打擊犯罪行為，才是治本之策。
編輯 陳艷婷
