隨著真假難辨的AI技術(shù)的發(fā)展，網(wǎng)上詐騙的識破難度達(dá)到更加困難的等級。隨著一起數(shù)額極高的AI詐騙事件的披露，大家都對這類案件嗤之以鼻，本文為大家?guī)鞟I騙局的細(xì)節(jié)介紹，并為大家講述識破方法。

“陷阱”無處不在， “面具”難辨真?zhèn)?！聽說了嗎！又一起令人發(fā)指的AI換臉詐騙事件在5月25日被媒體曝光了！這一次，詐騙金額竟然高達(dá)245萬，而且整個詐騙過程時間更短，只有9秒鐘！簡直是讓人瞠目結(jié)舌！難道我們的財產(chǎn)安全已經(jīng)無處不在受到威脅了嗎？！趕緊來了解這些新騙局，以免成為下一個受害者！

繼此前發(fā)生的“10分鐘被AI換臉騙走430萬元”事件引起社會廣泛關(guān)注之后，5月25日，又一起AI換臉詐騙事件被曝光，令人倍感驚恐。據(jù)報道，這次詐騙金額高達(dá)245萬元，更可怕的是整個過程只用了短短的9秒鐘。

這兩起事件再次警示人們，隨著人工智能技術(shù)的廣泛運(yùn)用，網(wǎng)絡(luò)詐騙手段也在不斷升級，需要更加警惕和謹(jǐn)慎，掌握和識別“AI換臉”陷阱，以免自己成為下一個受害者。

01 套路如出一轍： “熟悉的朋友+熟悉的聲音”

近日，包頭市公安局通報了一起利用人工智能（AI）實(shí)施電信詐騙的案例。2023年4月20日中午，福州市某科技公司法人代表郭先生接到好友微信視頻電話，對方稱需要430萬元保證金，并要求轉(zhuǎn)賬至公對公賬戶。

由于過于相信好友，加上對方使用了智能AI換臉和擬聲技術(shù)，郭先生二話沒說便在10分鐘內(nèi)將430萬元分兩筆轉(zhuǎn)賬至對方銀行卡上。事后郭先生撥打好友電話，才知道被騙，但已來不及挽回?fù)p失。隨后福州、包頭兩地警方迅速啟動止付機(jī)制，成功止付攔截了336.84萬元，但仍有93.16萬元被轉(zhuǎn)移。

無獨(dú)有偶。據(jù)澎湃新聞5月25日報道，5月22日，安徽安慶的何先生也遭遇了類似的詐騙。當(dāng)天何先生接到一個熟人視頻電話，讓他幫忙轉(zhuǎn)一筆賬。但9秒之后，對方以“在開會”為由，迅速掛斷了電話，還稱“微信和電話不能說，加一下QQ” 。

隨后， “好友”在QQ上告訴何先生，目前有一個項(xiàng)目招標(biāo)需要周轉(zhuǎn)資金，希望何先生先行幫忙墊付。 “因?yàn)榇蛄艘曨l電話又是熟人”，“我就沒多想，就轉(zhuǎn)賬了”，基于對“熟人”的信任，何先生沒有猶豫，立刻讓家人將245萬元到對方指定的賬號上，直到事后撥打?qū)Ψ诫娫挷诺弥或_。

安徽安慶受害人何先生微信截圖（圖源：大皖）

幸運(yùn)的是，發(fā)現(xiàn)被騙之后，何先生迅速報警，專案民警第一時間凍結(jié)相關(guān)賬戶，連夜趕赴北京市抓獲3名涉詐嫌疑人，追回何先生被騙的132萬元。

回顧兩起事件可以發(fā)現(xiàn)，當(dāng)騙子們使用智能AI換臉和擬聲技術(shù)時，他們可以模仿熟悉的朋友或家人的聲音和形象，讓受害者產(chǎn)生信任感。這種“身份欺詐”的手法很容易讓人掉入陷阱，因?yàn)槿藗兺ǔ８菀紫嘈抛约赫J(rèn)識的人。

在這兩起案件中，騙子們都采用了類似的套路：通過微信電話和好友身份進(jìn)行切入，然后使用AI技術(shù)偽裝成受害者熟悉的人物，從而獲得受害者的信任并引導(dǎo)他們轉(zhuǎn)賬。這種手法讓受害者很難辨別真假，因?yàn)橹悄蹵I換臉和擬聲技術(shù)可以使騙子們的外貌和聲音與受害者熟悉的人物非常相似。

制圖：文化產(chǎn)業(yè)評論 史欣怡

因此，在日常生活中，我們應(yīng)該保持警惕，不要輕易相信微信或其他社交媒體上的陌生人，并且要注意確認(rèn)對方的真實(shí)身份。如果懷疑有詐騙嫌疑，一定要及時報警并尋求幫助。同時，政府和相關(guān)部門也應(yīng)該加強(qiáng)監(jiān)管和技術(shù)防范，以打擊這種智能AI換臉和擬聲技術(shù)的電信詐騙行為。

02 AI換臉技術(shù)詐騙的四大顯著特征

AI換臉技術(shù)主要通過軟件將一個人的面部特征、表情和動作等信息轉(zhuǎn)移到另一個人的照片或視頻中，實(shí)現(xiàn)真實(shí)的換臉效果。

目前，AI換臉技術(shù)已經(jīng)被廣泛應(yīng)用于影視制作、數(shù)字娛樂、虛擬現(xiàn)實(shí)等領(lǐng)域，為人們帶來了更加豐富多彩的視聽體驗(yàn)。然而，這種技術(shù)也為一些不法分子提供了可乘之機(jī)，成為網(wǎng)絡(luò)欺詐和身份盜竊等犯罪活動的利器。與傳統(tǒng)的電信詐騙相比較，AI換臉詐騙具有以下四個顯著特征：

1. 成本投入更低

傳統(tǒng)電信詐騙通常需要一定的人力和物力成本，如招募電話銷售人員、租賃辦公場所等，同時也需要一定的時間和空間來進(jìn)行策劃和詐騙。相比之下，AI換臉詐騙則可以通過一部手機(jī)或一臺電腦和一些軟件來實(shí)現(xiàn)，成本較低，而且可以快速進(jìn)行詐騙。這也意味著，詐騙者可以更加快速地獲取利益，而且難以被追查。

制圖：文化產(chǎn)業(yè)評論 史欣怡

2. 成功機(jī)率更高

傳統(tǒng)電信詐騙通常采用冒充公檢法、銀行客服或兌獎平臺等方式進(jìn)行恐嚇或誘騙，成功率相對較低；AI換臉通過打情感牌的詐騙手法更加真實(shí)，更容易讓受害者掉進(jìn)陷阱。這種手法往往切中對方的情感軟肋，如說自己有病需要治療、公司競標(biāo)重大項(xiàng)目需要支持等等，讓受害者產(chǎn)生同情心理上當(dāng)受騙。這也導(dǎo)致了AI換臉詐騙的成功率更高，受害者更容易被欺騙。

制圖：文化產(chǎn)業(yè)評論 史欣怡

3. 角色偽裝更多

除了之前提到的利用AI換臉技術(shù)冒充熟人或好友進(jìn)行詐騙外，一些不法分子利用AI技術(shù)偽裝成領(lǐng)導(dǎo)的QQ或微信賬號進(jìn)行詐騙，通過添加下屬或服務(wù)對象獲得信任后，以親戚或家中急需用錢要求對方幫忙周轉(zhuǎn)或轉(zhuǎn)賬到指定賬戶上。受害人敬畏上級，不敢質(zhì)疑指示，極易上當(dāng)受騙。近期，貴州三都縣公安局成功破獲一起冒充領(lǐng)導(dǎo)微信詐騙案件，并追回被騙資金19萬元。

以上為微信詐騙參考圖片（圖源：網(wǎng)絡(luò)）

4. 防范難度更大

近年來國家和地方對傳統(tǒng)電信詐騙已經(jīng)有了一些成熟的防范措施，尤其是金融機(jī)構(gòu)對傳統(tǒng)電信詐騙防范手段更加多樣化，社會層面防范意識也不斷增強(qiáng)。但是，對于AI換臉詐騙，目前還沒有很好的解決方案。因?yàn)樵p騙者可以利用各種社交媒體平臺進(jìn)行詐騙，而且很難通過簡單的判斷來辨別真?zhèn)?，短時間難以追蹤和抓捕。

制圖：文化產(chǎn)業(yè)評論 史欣怡

03 識別和警惕AI詐騙的6種新伎倆

綜上所述，AI換臉詐騙相比傳統(tǒng)電信詐騙成本更低、時速更快、角色更多、機(jī)率更高和防范更難等特點(diǎn)，對社會造成的危害也更大。因此，我們要高度警惕基于AI詐騙的6種新伎倆。

1. 虛假音頻詐騙

利用AI技術(shù)生成虛假的語音信息，冒充親戚、朋友等身份進(jìn)行詐騙。比如，不法分子使用AI技術(shù)生成了一段虛假的親屬語音信息，聲稱家中告急亟需緊急轉(zhuǎn)賬。受害者因?yàn)槁牭搅擞H屬的聲音，從而引起恐慌和焦慮，沒有多想就進(jìn)行了轉(zhuǎn)賬。

圖片來源：新華網(wǎng)

2. 虛假視頻詐騙

利用AI技術(shù)生成更加逼真的虛假視頻，制造更加真實(shí)的人物或情境，讓受害者更容易上當(dāng)受騙。例如，近年來，有不法分子將現(xiàn)實(shí)中的一個人臉替換成了電影明星的臉，并通過社交媒體傳播，誘導(dǎo)用戶和粉絲點(diǎn)擊鏈接下載惡意軟件或輸入個人信息。

3. 虛假恐嚇詐騙

據(jù)光明網(wǎng)披露，近日，多名網(wǎng)友收到同一條虛假恐嚇詐騙短信。短信聲稱對方因信貸詐騙已經(jīng)被執(zhí)法機(jī)關(guān)定位，要求當(dāng)日14點(diǎn)前結(jié)清全部欠款，否則將會遭到上門強(qiáng)制“槍斃”。然而，這種“低智商”的詐騙手段，極有可能是AI篩選出最容易上當(dāng)?shù)娜巳?，特別是那些文化程度不高、社會閱歷單薄的弱勢人群。

圖片來源：新華網(wǎng)

4. 虛假客服詐騙

利用AI技術(shù)生成虛假的客服對話框，冒充銀行、支付機(jī)構(gòu)等身份進(jìn)行詐騙。例如，在一次詐騙事件中，騙子冒充銀行客服，通過微信聯(lián)系受害人，謊稱對方銀行賬戶異常，讓受害人輸入銀行卡密碼，導(dǎo)致受害人銀行卡被盜刷。

騙子冒稱京東客服進(jìn)行詐騙的對話（圖源：深圳反詐中心）

5. 網(wǎng)絡(luò)釣魚詐騙

利用AI技術(shù)生成虛假的網(wǎng)站、郵件等，誘導(dǎo)用戶輸入個人信息或下載惡意軟件。例如，在一次網(wǎng)絡(luò)釣魚事件中，黑客使用AI技術(shù)生成了一個虛假的銀行網(wǎng)站，通過短信形式告知對方打開某銀行網(wǎng)站，讓受害人輸入銀行卡號和密碼進(jìn)行驗(yàn)證，導(dǎo)致受害人銀行卡被盜刷。

6. 進(jìn)行定向攻擊

黑客可以使用AI技術(shù)分析目標(biāo)用戶的行為特征和個人信息，進(jìn)行精準(zhǔn)定向攻擊，竊取個人敏感信息。例如，在一次定向攻擊事件中，黑客使用AI技術(shù)制作了虛假的社交媒體賬號，并通過該賬號發(fā)送釣魚鏈接，成功竊取了目標(biāo)用戶的個人信息。

這些新的詐騙手段可能會更加隱蔽和高效，對公眾造成更大的威脅。因此，我們需要加強(qiáng)對AI技術(shù)的監(jiān)管和管理，提高公眾的安全意識，共同應(yīng)對未來可能出現(xiàn)的新型詐騙手段。

04 AI換臉等詐騙防范指南及措施

5月24日，中國互聯(lián)網(wǎng)協(xié)會發(fā)布公告表示，伴隨著深度合成產(chǎn)品和服務(wù)逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻進(jìn)行詐騙、誹謗的違法行為屢見不鮮。廣大公眾需提高警惕，加強(qiáng)防范。

對此，文化產(chǎn)業(yè)評論（ID：whcypl）認(rèn)為，防范和應(yīng)對基于AI換臉等詐騙伎倆，需要從個人、政策和技術(shù)等多個維度同步發(fā)力，才能有效防范或減少類似詐騙案件的發(fā)生。

1. 個人層面做到“八不要”“三不怕”

對于個人而言，除了在形形色色的“人皮面具”中保持清醒，避免陷入虛假宣傳，更重要的是面對花樣翻新的AI詐騙，必須保持防范意識，切實(shí)做到“不聽不信不轉(zhuǎn)賬”。

（1）保護(hù)個人信息，做到“八個不要”

一是不要輕易提供人臉、指紋等個人生物信息；二是不要輕易透露自己的身份證、銀行卡、驗(yàn)證碼等信息；三是不要把身份證、銀行卡照片等直接存放于手機(jī)內(nèi)；四是不要點(diǎn)陌生鏈接；五是不要下載陌生軟件（APP）；六是不要隨便加陌生好友；七是不要隨便掃不明二維碼；八是不要向陌生人開啟手機(jī)屏幕共享。

制圖：文化產(chǎn)業(yè)評論史欣怡

（2）識別虛假身份，做到“三個不怕”

如果有人自稱“親友”“老師”“上級”等身份，通過微信電話、視頻或QQ等社交軟件聯(lián)系你，并以“情況緊急”“領(lǐng)導(dǎo)私事”“遭遇不幸”等理由讓你轉(zhuǎn)賬匯款，請第一時間保持警惕。在任何情況下，無論對方是誰，都要不怕麻煩、不怕得罪人、不怕耽誤事，務(wù)必多途徑核驗(yàn)對方身份，千萬不要隨意轉(zhuǎn)賬打款。請記住， “寧繞百步走，不落一險棋”。

圖片來源：新華網(wǎng)

2. 在政策層面應(yīng)做到“四個加強(qiáng)”

2022年12月，國家互聯(lián)網(wǎng)信息辦公室等三部門發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對人臉生成、替換、操控，合成人聲、仿聲等都有明確約束。但就目前AI換臉詐騙形勢和手段，還需要進(jìn)一步加強(qiáng)防范和治理。

（1）加強(qiáng)對AI換臉技術(shù)的監(jiān)管

進(jìn)一步豐富完善相關(guān)法律法規(guī)，科學(xué)規(guī)范AI換臉技術(shù)的開發(fā)、使用和管理閉合措施，明確AI換臉技術(shù)的合法使用范圍，嚴(yán)厲打擊利用AI換臉技術(shù)進(jìn)行詐騙、網(wǎng)絡(luò)暴力、侵犯隱私等違法行為。

（2）加強(qiáng)技術(shù)防范措施的開發(fā)

加大對AI換臉技術(shù)的技術(shù)研究和防范措施的開發(fā)力度，提高AI換臉技術(shù)的安全性和可靠性，研發(fā)更加智能化的識別系統(tǒng)用于用于辨別真?zhèn)?，減少此類詐騙行為的生存空間。

（3）加強(qiáng)跨部門的協(xié)同合作

公安機(jī)關(guān)、網(wǎng)絡(luò)安全部門和金融機(jī)構(gòu)等部門之間應(yīng)該加強(qiáng)溝通和協(xié)作，形成合力，共同維護(hù)互聯(lián)網(wǎng)生態(tài)和社會和諧穩(wěn)定。例如，金融機(jī)構(gòu)應(yīng)通過客戶證件、手機(jī)號碼、郵箱等信息進(jìn)行多重驗(yàn)證，及時發(fā)現(xiàn)和處理異常交易。

（4）加強(qiáng)公眾安全意識教育

AI合成的人臉和虛假音視頻通常會有一些特征，如畫面不真實(shí)、語音不連貫等。相關(guān)部門要加強(qiáng)AI換臉技術(shù)進(jìn)行犯罪的案例宣傳，增強(qiáng)公眾的安全意識和自我保護(hù)意識，避免成為詐騙的受害者。

圖片來源：新華網(wǎng)

總之，AI換臉詐騙是一種新型的網(wǎng)絡(luò)犯罪方式，具有嚴(yán)重的社會危害性。為此，除個體提高防范意識外，還需要從技術(shù)、政策、執(zhí)法、教育等方面進(jìn)行綜合施策，加強(qiáng)對AI技術(shù)的監(jiān)管和犯罪行為的打擊，才能有效地減少類似事件的發(fā)生，保障公眾的合法權(quán)益和社會的安全穩(wěn)定。