在AI技術(shù)日益成熟的今天，我們正面臨著一個(gè)真假難辨的數(shù)字世界。本文深入探討了AI生成的美女圖像和視頻如何在網(wǎng)絡(luò)上引發(fā)關(guān)注，并且可能欺騙觀眾。

網(wǎng)絡(luò)時(shí)代什么最吸引眼球?有人可能會說是美女。

美女確實(shí)吸引眼球，但各大平臺的推薦來看，真人是更重要的一點(diǎn)。尤其是身處AI發(fā)展階段，各大平臺對于AI圖片、視頻都有著相應(yīng)的審核制度，為了防止受騙還會進(jìn)行特殊標(biāo)注。

但最近的AI已經(jīng)進(jìn)化到真假難辨的地步了，你關(guān)注的美女博主就有可能是AI生成的，她們不僅騙過了平臺推薦，還騙走各位觀眾老爺?shù)男〖t心。

01 1300多個(gè)美女都是AI?

曾經(jīng)有句話叫“跟你聊天的美女背后可能是個(gè)摳腳大漢”，現(xiàn)在可能要變成，你百看不厭的美女博主背后可能是一個(gè)男人和一堆AI。

近期，網(wǎng)上有人分享了在某平臺用AI批量生成美女照片結(jié)果成功騙過平臺做出1300多個(gè)賬號的光榮戰(zhàn)績。這里面可能就有令各位觀眾老爺瘋狂心動的那個(gè)“她”。

在大多數(shù)人的普遍認(rèn)知中，AI的發(fā)展還未到以假亂真的效果，更多的是李逵和李鬼的關(guān)系，一眼就能分辨出來。但殊不知，這位網(wǎng)友不但靠AI騙過了平臺更是進(jìn)一步把各位觀眾老爺?shù)男〖t心騙走了。

普通人眼中的AI文生圖效果是什么呢?五官不自然、AI感明顯、六指狂魔等等，我們憑借著引以為傲的眼界一度不把它們放在眼里。此前麥當(dāng)勞薯?xiàng)l宣傳片中用了11位AI美女，就被不少人吐槽有非常明顯僵硬的AI 臉和違和感。

但有時(shí)候，AI的發(fā)展遠(yuǎn)超我們的火眼金睛。這些能夠騙過平臺的AI圖片和麥當(dāng)勞AI美女可就不是一個(gè)風(fēng)格和量級的了，來看看你能分辨出來嗎?

怎么看這都只是平平無奇的美顏照片，最多是高P精修圖，但任誰能發(fā)現(xiàn)這全都是AI生成的。經(jīng)過仔細(xì)觀察，我們發(fā)現(xiàn)可能為數(shù)不多的瑕疵在于第一張車座的位置不對，好似人違反物理規(guī)則坐在了空氣上，另外兩張照片是一點(diǎn)看不出AI痕跡。

據(jù)說，這些真假難辨的AI美女全都來自Flux，之前以生成各種超高擬真度的人物圖片而著稱，核心成員都來自Stable diffusion。當(dāng)然，告訴大家工具可不是讓大家去模仿，僅僅只是科普，往下看就知道如果用來盈利會發(fā)生什么了。

02 AI美女生意火熱，但合法的不多

今年早些時(shí)候，一個(gè)APP直播推送頁面，有位ID為“靚女百變秀”的賬號正在進(jìn)行直播。直播間內(nèi)，一位身穿緊身衣的女主播賣力地扭動著身姿，伴隨背景音樂跳著熱辣勁舞。

直播間內(nèi)標(biāo)示有“數(shù)字主播一切聽你的”字樣，同時(shí)還有“小禮物控制主播”“發(fā)以下彈幕調(diào)戲主播”的文字提示，所以這位女主播實(shí)際上是一個(gè)AI虛擬數(shù)字人。

據(jù)直播間的彈幕互動游戲玩法介紹，用戶通過發(fā)送“111”“888”“老婆”，即可“調(diào)戲主播”，分別對應(yīng)“主播喊爸爸”“惡龍咆哮”“主播撒嬌”。此事被曝出后，該賬號已經(jīng)刪去了相關(guān)直播內(nèi)容，并且疑似注銷了賬號。

我們也曾就此事咨詢過北京鼎世律師事務(wù)所合伙人律師李蘇陽，他表示：從報(bào)道內(nèi)容看，該直播的內(nèi)容及形式，無疑屬于“擦邊”“低俗”，涉嫌“軟色情”，可能被認(rèn)定為“帶有性暗示、性挑逗等易使人產(chǎn)生性聯(lián)想”以及“宣揚(yáng)低俗、庸俗、媚俗內(nèi)容”的不良信息，或違反了《網(wǎng)絡(luò)直播營銷管理辦法(試行)》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法規(guī)的禁止性規(guī)定，可能被作為中央網(wǎng)信辦2024年“清朗·網(wǎng)絡(luò)直播領(lǐng)域虛假和低俗亂象整治”專項(xiàng)行動的重點(diǎn)打擊對象。

顯然，利用AI主播擦邊賺錢并不是一個(gè)好主意。那像上述一樣只發(fā)圖片呢?大概率很難賺到錢，畢竟缺乏賬號管理，難以變現(xiàn)。而網(wǎng)上還有許多教大家用AI美女賺錢的，想想也知道這是為了讓你交課時(shí)費(fèi)。

這種AI換臉的生意稍微想想就可能存在各種法律風(fēng)險(xiǎn)，科技旋渦提醒大家，切勿盲目操作，小心因小失大。而提到AI換臉，就不得不說知名歌星泰勒了，幾乎每次AI換臉都讓她遇上了。

03 AI泰勒支持川普，多次換臉受害者

在美國總統(tǒng)候選人卡馬拉·哈里斯與唐納德·特朗普的辯論之后，泰勒·斯威夫特在在Instagram中發(fā)布了一條立場鮮明的支持宣言。最近有不實(shí)消息稱“她支持特朗普”，為此她在此做出澄清。泰勒·斯威夫特還表示，她將在2024年總統(tǒng)大選中投票給哈里斯，因?yàn)樗盀闄?quán)利而戰(zhàn)”。

在帖子中，她表示發(fā)現(xiàn)有人利用AI虛假地宣稱我支持唐納德·特朗普競選總統(tǒng)，并將此信息發(fā)布在了他的網(wǎng)站上。這讓我對AI和傳播錯(cuò)誤信息的危險(xiǎn)產(chǎn)生了恐懼。這也讓我得出結(jié)論，作為選民，我需要非常透明地公開我對這次選舉的實(shí)際計(jì)劃。打擊虛假信息的最簡單方法就是說出真相。

最后，她還表示，會在社交媒體中附上登記地點(diǎn)、提前投票日期和相關(guān)信息。顯然，這次AI換臉把泰勒惹急了，此前她對于有關(guān)AI換臉黃色照片的事情反應(yīng)都沒有此次激烈。

2024年初，泰勒的一些露骨不雅照片在互聯(lián)網(wǎng)上瘋傳，其中一張圖片已經(jīng)被瀏覽了整整四千五百萬次!隨后，這些圖像被驗(yàn)證是人工智能“深度偽造”技術(shù)生成的，用來惡意詆毀泰勒的公眾形象。

科技旋渦認(rèn)為，雖然利用AI技術(shù)制作虛假信息早已有之，但隨著生成式AI在過去一年多時(shí)間內(nèi)的快速發(fā)展，對視頻、圖片、音頻進(jìn)行深度造假技術(shù)更加成熟且普遍，造假的成本也更加低廉。

傳播學(xué)者羅伯特·切斯尼形象地稱之為，“說謊者的紅利”，前所未有的AI深度偽造焦慮讓那個(gè)曾經(jīng)遙遠(yuǎn)的問題，驟然變得現(xiàn)實(shí)而緊迫。

04 寫在最后

人工智能技術(shù)是一把雙刃劍。在給人類生活帶來便利的同時(shí)，它也帶來了諸多倫理困境。自AI飛速發(fā)展以來種種詐騙、違法案件提醒著我們直面人工智能帶來的種種挑戰(zhàn)。

不論是虛擬數(shù)字主播擦邊還是AI美女以假亂真，其背后都是一群追求利益的人在操縱。AI 大模型是人類的鏡像，人們投喂給它什么，它就會像一潭有魔力的湖水，反射出人們自己的潛意識與欲望。

在發(fā)展人工智能的同時(shí)，我們有必要為之設(shè)置“防火墻”，唯有如此，我們才能真正駕馭這一劃時(shí)代的技術(shù)，讓它更好地造福和幫助人類。