AI技術(shù)的進(jìn)步讓我們看到了大量可能，比如用戶可以利用AI繪畫軟件生成“以假亂真”的作品，比如網(wǎng)店商家可以用AI生成虛擬模特，減少人力成本的投入。但現(xiàn)在，AI技術(shù)卻被部分“有心人”利用了，比如國外就出現(xiàn)了AI仿聲欺詐事件?？磥?，AI行業(yè)在飛速前進(jìn)的同時(shí)，也需要將反詐這件事提上日程了。

聽到電話里女兒的求救聲，慌亂的母親差點(diǎn)給“綁匪”打錢，但綁匪是假的，女兒的聲音也是克隆的。借助最新的AI技術(shù)，騙子只要拿到他人3秒的語音，就能快速復(fù)制出一模一樣的聲音，甚至方言和語氣也能模仿。

當(dāng)人們還在驚訝AI繪畫以假亂真的能力時(shí)，AI仿聲技術(shù)已經(jīng)被騙子應(yīng)用。在加拿大，僅3天就有至少8名受害者被騙約100萬元，騙子模仿親人的聲音“救急”，就算親媽也聽不出紕漏。

有了AI，“摳腳大漢”能秒變誘惑女郎，陌生人能輕松冒充成你的親友，打錢你就輸了。

從區(qū)塊鏈到AI，每次新技術(shù)一出，詐騙者最先沖鋒時(shí)代前沿。面對以假亂真的詐騙手段，普通人越來越難以防范，那些打開潘多拉魔盒的科技巨頭們，也不能光忙著蒙頭狂奔，得用魔法打敗魔法。

一、AI仿聲詐騙案出現(xiàn)，加拿大8人被騙100

“媽媽！救我！”電話的另一頭傳來了女兒的哭喊聲，母親一下子慌了。還沒等緩過神兒來，就聽到一個(gè)陌生的男人在電話里吼道“把頭往后仰，躺下”。緊接著，陌生男子發(fā)話，“你女兒在我這里，你敢打電話報(bào)警或通知任何人，我便會(huì)迷暈她，把她帶到墨西哥。”

電話這頭，焦急的母親隱隱約約能聽到女兒的呼救聲，“媽媽，拜托救救我，救我”。此時(shí)，“綁匪”談起了條件，需要100萬美元才能放人，得到?jīng)]有那么多錢的回應(yīng)后，“綁匪”改口稱，“拿5萬美元來換你的女兒。”

上述情景是近期發(fā)生在美國亞利桑那州的真實(shí)一幕。據(jù)美國全國廣播公司（NBC）報(bào)道，這是一起AI仿聲詐騙案。電話那頭的女孩聲音，其實(shí)是AI克隆的，幸好這名母親鎮(zhèn)靜下來，聯(lián)系了丈夫確認(rèn)女兒無恙，才免于被騙。

事后回憶起通話細(xì)節(jié)時(shí)，這名母親感到陣陣后怕，雖然已經(jīng)明確了這是一宗電信詐騙，但她依然對女兒的聲音沒有絲毫懷疑。

在人工智能提速科技變革時(shí)，不法分子正在將AI當(dāng)成魔法，用最先進(jìn)的技術(shù)手段實(shí)施詐騙。這種技術(shù)發(fā)達(dá)到什么程度？亞利桑那州立大學(xué)AI領(lǐng)域的教授坎巴姆帕蒂稱，只需獲得某人3秒鐘的原聲，就能迅速復(fù)制出完全相同的聲音。

不少人已經(jīng)被騙。4月2日，央視網(wǎng)發(fā)布視頻報(bào)道，加拿大犯罪分子利用AI合成親人聲音實(shí)施詐騙，3天時(shí)間內(nèi)至少有8人上當(dāng)，涉案金額約100萬元。這些受害者多為老年人，他們的反饋也是，“電話里的聲音簡直和親人一模一樣”。

甚至，以往被認(rèn)為安全的“聲紋”系統(tǒng)也能被輕易破解。今年3月，《衛(wèi)報(bào)》澳大利亞版記者尼克·伊夫賽德說，他用人工智能做出自己的聲音，成功進(jìn)入了他的Centrelink自助服務(wù)賬戶。而就在兩年前，澳大利亞服務(wù)局在一份報(bào)告中還聲稱“聲紋與指紋一樣安全”。

AI進(jìn)化的速度實(shí)在太快了。早在2019年，《華爾街日報(bào)》曾報(bào)道過一名詐騙犯用AI語音合成來冒充老板，讓一家分公司的總經(jīng)理給他打了22萬歐元。但在當(dāng)時(shí)，詐騙者還得準(zhǔn)備被模仿者的語料加以訓(xùn)練打磨。而現(xiàn)在，AIGC讓克隆聲音幾乎沒什么門檻，連方言和語氣的模仿都不在話下。

目前，國內(nèi)暫時(shí)還沒有大規(guī)模出現(xiàn)AI仿聲詐騙的案例，不過，用AI生成假圖片來騙錢的事已經(jīng)頻頻發(fā)生。

今年2月，一則“在蘇州金雞湖將舉辦游艇女仆party”的消息在網(wǎng)絡(luò)流傳，宣傳文檔里附有多張女仆裝打扮的女性照片，發(fā)布者明碼標(biāo)價(jià)，參與Party每人要交3000元。明目張膽舉辦“擦邊”派對，很快引來了網(wǎng)警，根據(jù)后續(xù)網(wǎng)警披露，那些女仆照片基本都是AI生成的。

類似的事件還有不少，網(wǎng)友們逐漸養(yǎng)成了“有圖也不一定有真相”的防范意識(shí)。如今，哪怕有聲音、有視頻也不可信了。

二、防偽造技術(shù)跟不上AI“高仿”，反詐待升級

當(dāng)詢問ChatGPT“AI詐騙都有哪些類型”時(shí)，它給出了多項(xiàng)答案，包括用AI生成虛假網(wǎng)站和社媒賬號(hào)，冒充合法機(jī)構(gòu)和個(gè)人騙取信息和錢財(cái)；用AI生成仿真聲音實(shí)施電詐；對受害者個(gè)人信息進(jìn)行深度學(xué)習(xí)，生成個(gè)性化欺詐方案等等。

ChatGPT給出的AI詐騙類型

但ChatGPT還是低估了騙子的手段。對于精心設(shè)局的詐騙者來說，AI作為底層，甚至衍生出無窮無盡的詐騙方法。

在這方面，加入了AI技術(shù)的“殺豬盤”危害性不小。在各種交友和婚戀網(wǎng)站，充斥著許多“殺豬盤”騙局，不法分子偽造自己的身份和人設(shè)，接近受害者，在取得對方信任后騙取錢財(cái)。

以往，騙子會(huì)在網(wǎng)絡(luò)上盜取照片偽裝成自己，但只要有心人搜圖對比也可能識(shí)破，但倘若騙子使用AI來繪圖，這可就是“獨(dú)一份”。不僅如此，通過AI作圖，騙子甚至還能輕易根據(jù)受害者的要求比出相應(yīng)的手勢，更容易獲取信任。

而在社交媒體上，“摳腳大漢”也更容易假扮成美女來騙錢了。一些AIGC應(yīng)用能夠生成誘惑、大尺度的照片和視頻，來誘惑用戶進(jìn)行裸聊，或者讓用戶為更多私密照片付費(fèi)。放在以前，這些視覺產(chǎn)品還需要花功夫制作，現(xiàn)在這些事直接交給AI，一旦有人踏進(jìn)陷阱，就會(huì)被騙子拿捏。

更可怕的是，由于許多AI工具都已經(jīng)開源，騙子實(shí)施詐騙的成本和門檻越來越低，直接在網(wǎng)絡(luò)上就能得到教程，發(fā)布者的本意是供人們學(xué)習(xí)，但擋不住不法分子動(dòng)歪心思。

隨著AI的技術(shù)演進(jìn)，人們所聽所見將越來越不可信，想要避免被騙，不僅要了解詐騙手段，提升防范意識(shí)，同樣也需要先進(jìn)的技術(shù)，用魔法打敗魔法。

面對深度偽造帶來的危害，谷歌早在2019年就開始有意識(shí)地防御，先是招募了一群演員錄制視頻，然后利用網(wǎng)上的深度偽造技術(shù)進(jìn)行換臉等操作，并對這些數(shù)據(jù)進(jìn)行全面地分析，讓開發(fā)者們研究深度偽造技術(shù)的算法和邏輯，在“知己知彼”的基礎(chǔ)上，更準(zhǔn)確地識(shí)別和防治深度偽造內(nèi)容。

去年，微軟推出了名為“Video Aunthenticator”的工具，它能夠?qū)Ξ嬅嬷袖秩具吔绾突叶鹊燃夁M(jìn)行逐幀的實(shí)時(shí)分析進(jìn)而生成可靠指數(shù)，幫助用戶鑒別內(nèi)容真實(shí)性。

不久前，OpenAI也發(fā)布了AI生成內(nèi)容識(shí)別器，但博客數(shù)據(jù)顯示，檢測成功率只有26%，對英文以外的語言，檢測效果要差很多。相比ChatGPT的強(qiáng)大，這家AI公司在“打假”方面的研究還不夠深入。

當(dāng)AI技術(shù)呈現(xiàn)出硬幣的兩面，正邪的交鋒就再也無法停止。發(fā)人深省的是，2018年，紐約州立大學(xué)曾開發(fā)出一款“反換臉”AI刑偵工具，通過預(yù)測眼睛是否眨動(dòng)的狀態(tài)來識(shí)別偽造人臉，準(zhǔn)確率宣稱能夠達(dá)到99%，但這款工具很快就失效了，因?yàn)樯疃葌卧旒夹g(shù)進(jìn)化了。

科技巨頭們用技術(shù)打開了潘多拉的魔盒，世界也需要他們掌握鎖住惡魔的鎖鏈。AI詐騙流行的苗頭隱隱出現(xiàn)，反詐技術(shù)也得跟上腳步。