近期，一種利用AI變聲和視頻合成技術(shù)制造“假明星代言”的現(xiàn)象在各大社交平臺(tái)上悄然興起，引發(fā)了廣泛關(guān)注。本文將深入探討這一現(xiàn)象背后的真相，揭示其對(duì)明星、消費(fèi)者以及平臺(tái)帶來(lái)的影響，以及我們應(yīng)如何應(yīng)對(duì)這一新興的AI造假問(wèn)題。

某綜藝節(jié)目上，“唐嫣”居然說(shuō)自己女兒小時(shí)候比同齡小孩矮很多，喝優(yōu)米復(fù)合鈣，半年時(shí)間就追上來(lái)了。

“應(yīng)采兒”也表示自己孩子有幾年一直不長(zhǎng)個(gè)，后來(lái)給他弄的元德吉鈣一下漲了幾公分，“謝娜”還在一邊幫腔：“楊紫跟我說(shuō)過(guò)。”

“黃景瑜”則是透露自己一直是“睡覺困難戶”，一直很痛苦，好在從中醫(yī)那里拿了希珂黎葡萄飲，睡眠質(zhì)量直線上升，精氣神都回來(lái)了。

現(xiàn)在明星帶貨都這么生猛，綜藝上直接明晃晃給不知名品牌帶貨？

新識(shí)研究所最近觀察發(fā)現(xiàn)，最近在抖音、快手、B站、小紅書等視頻平臺(tái)上，搜索“跟著綜藝學(xué)XX”詞條，跳出一大堆綜藝節(jié)目切片。節(jié)目里明星或者講師會(huì)說(shuō)明自己親身遭遇的困擾，因?yàn)槌粤四撤N產(chǎn)品得到明顯改善，視頻評(píng)論區(qū)還會(huì)給用戶指路去淘寶、京東搜“XX店鋪”。

然而這些視頻切片全是“移花接木”，內(nèi)容雖用了綜藝節(jié)目的片段，但人物語(yǔ)音和字幕等卻是商家以AI技術(shù)進(jìn)行篡改偽造的，目的是植入品牌和帶貨。平臺(tái)方也沒有提示“該畫面可能由AI生成，請(qǐng)注意鑒別”。

B 端产品经理如何快速成长？

产品与业务架构主要是将整个业务工作流进行分层，梳理，然后抽象出一个个需求，将业务需求与产品合情合理的映射起来，最终使业务数据在产品中流动，执行，记录，使用。

查看详情 >

不但多位名人和節(jié)目IP被造假，名譽(yù)和肖像權(quán)受損，消費(fèi)者也在不知情的情況下買了假冒偽劣產(chǎn)品，平臺(tái)也成了這場(chǎng)“造假風(fēng)波”中推波助瀾的工具，最終受益的只有那些造假的商家。

01 AI打造假明星代言，帶貨套路防不勝防

近年來(lái)，消費(fèi)者對(duì)減肥健身、美容養(yǎng)顏、疾病預(yù)防的關(guān)注度與日俱增。

部分白牌商家也是抓住了這波風(fēng)向，在年輕人聚集的社交平臺(tái)，借用綜藝節(jié)目中“專家”和“明星”的權(quán)威背書，讓消費(fèi)者誤以為真，掉進(jìn)他們精心編制的陷阱里。

向晴最近刷抖音看到一檔名為《國(guó)醫(yī)少年志》的綜藝節(jié)目，其中有中醫(yī)介紹如何有效減小肚子贅肉時(shí)，除了介紹蘋果、紅棗、枸杞等食材用以煮水飲用能提升代謝外，還特意提了一句“身怡安的阿膠八珍膏就很不錯(cuò)”。

心動(dòng)的向晴當(dāng)即根據(jù)品牌名在電商平臺(tái)搜索并花費(fèi)200多元下了一單。幾天體驗(yàn)后，向晴發(fā)現(xiàn)減肥效果遠(yuǎn)沒有達(dá)到視頻宣傳的程度，體重沒有絲毫變化。

被騙的還有大學(xué)生石芊芊，她某次看到《中國(guó)中醫(yī)藥大會(huì)》短視頻切片時(shí)，專家稱zoao葉黃素對(duì)黃斑很有效果，她搜索發(fā)現(xiàn)這個(gè)牌子有旗艦店，用戶評(píng)價(jià)里也有大批網(wǎng)友稱買給孩子吃，便放心買了5盒，結(jié)果吃了兩瓶沒啥感覺，皮膚還顯著發(fā)黃。

后來(lái)她去咨詢了專業(yè)醫(yī)生，對(duì)方稱這只是普通壓片糖果，都不算保健品，可以緩解眼睛疲勞，吃多了會(huì)傷肝，每天吃點(diǎn)藍(lán)莓效果是差不多的。

新識(shí)研究所發(fā)現(xiàn)，類似視頻切片在短視頻平臺(tái)中比比皆是，由于使用了AI聲音克隆技術(shù)，音頻確實(shí)是根據(jù)明星本人聲音復(fù)制過(guò)來(lái)，并且仿制了節(jié)目組風(fēng)格的字幕，不仔細(xì)甄別還真難以分清真?zhèn)巍?/p>

究其緣由，《國(guó)醫(yī)少年志》《中國(guó)中醫(yī)藥大會(huì)》等綜藝節(jié)目中，由于有專家傳播健康養(yǎng)生類知識(shí)，通過(guò)短視頻傳播后被一眾消費(fèi)者所追捧，也讓他們成為部分商家收割的對(duì)象。

這些切片傳播賬號(hào)幾乎全是個(gè)人賬號(hào)，之前還發(fā)有個(gè)人生活視頻，私信聯(lián)系并未得到回復(fù)，疑似是長(zhǎng)期未使用的垃圾賬號(hào)或是被盜賬號(hào)。

抖音客服稱，對(duì)于視頻違規(guī)，平臺(tái)有自動(dòng)檢測(cè)機(jī)制，用戶也可以進(jìn)行舉報(bào)，但客服無(wú)法單獨(dú)標(biāo)記賬號(hào)給予封禁之類的操作。

對(duì)此，新識(shí)研究所詢問(wèn)了這些視頻中出現(xiàn)的品牌店鋪，絕大部分都是2024年新注冊(cè)的，大部分客服都稱自己的產(chǎn)品通過(guò)食藥監(jiān)備案，也不否認(rèn)在出現(xiàn)在產(chǎn)品信息出現(xiàn)在視頻切片里，不過(guò)這些店鋪的粉絲量基本都只有幾千，商品評(píng)論區(qū)也是清一色的好評(píng)。

值得注意的是，不少商品資質(zhì)不明、廠商不清，搜索帶貨的“茯苓膏”“丁香膏”“赤菊膏”會(huì)跳出一大堆品牌和產(chǎn)品，它們的宣傳封面、產(chǎn)品包裝、文案說(shuō)辭幾乎一樣，生產(chǎn)廠商卻不盡相同。

這種隱性的帶貨方式和真假難辨的畫面，讓不熟悉AI技術(shù)的中老年人很難辨別，也自然成了被收割的對(duì)象。在社交平臺(tái)上可以看到不少用戶吐槽家里老人聽信“專家視頻”買回一大堆高價(jià)無(wú)用的保健品，還推薦給身邊的朋友。

這些現(xiàn)象顯然也被節(jié)目方關(guān)注到，1月3日《國(guó)醫(yī)少年志》官方發(fā)文表示，部分社交媒體上營(yíng)銷賬號(hào)未經(jīng)授權(quán)擅自剪輯節(jié)目圖片、視頻實(shí)施產(chǎn)品推廣行為，歪曲了節(jié)目?jī)?nèi)容。節(jié)目組從未授權(quán)任何第三方賬號(hào)利用節(jié)目?jī)?nèi)容宣傳相關(guān)的任何產(chǎn)品，“任何非我司官方賬號(hào)或非節(jié)目原片所發(fā)布的我司及與我司合作生產(chǎn)相關(guān)產(chǎn)品的信息均為虛假信息?！?/p>

但如今過(guò)了兩個(gè)月，根據(jù)節(jié)目仿冒的不實(shí)內(nèi)容仍在被傳播，相關(guān)現(xiàn)象愈演愈烈，這種造假方式依舊在“野蠻生長(zhǎng)”。

02 明星們，要被AI“變聲假帶貨”玩壞了

在廣電總局網(wǎng)絡(luò)視聽司發(fā)布針對(duì)“AI魔改”的管理提示新規(guī)出臺(tái)3個(gè)月后，互聯(lián)網(wǎng)上仍頻繁有AI魔改的音頻、視頻出現(xiàn)，影視角色、明星、甚至企業(yè)家，都成了被魔改的對(duì)象。

通過(guò)“克隆”名人聲音制作的惡搞、獵奇類視頻，在相關(guān)平臺(tái)播放和點(diǎn)贊量均不低，有的甚至還被推上平臺(tái)熱搜。發(fā)布者也相應(yīng)獲得流量曝光、粉絲增長(zhǎng)、廣告收入等播放收益。

今年兩會(huì)期間，全國(guó)人大代表、小米集團(tuán)創(chuàng)始人雷軍建議“加強(qiáng)‘AI換臉擬聲’違法侵權(quán)治理”，他本人曾是“AI換臉擬聲”的“受害者”，在過(guò)年期間被制作了大量AI銳評(píng)惡搞視頻。

新識(shí)研究所在應(yīng)用商店搜索發(fā)現(xiàn)，“AI配音”相關(guān)App有數(shù)十款，下載量最高超千萬(wàn)次。

經(jīng)過(guò)新識(shí)研究所實(shí)測(cè)，只需幾塊錢，就可以使用聲音克隆App復(fù)制音色，隨便錄幾秒鐘的音頻，AI就會(huì)根據(jù)聲音生成各類內(nèi)容的出鏡口播視頻，甚至連錄制者在發(fā)音時(shí)的吐字習(xí)慣也能模仿。

對(duì)于一些較短的語(yǔ)句，很難識(shí)別出這是機(jī)器合成的語(yǔ)音，但只要多試幾次，還是很容易得到好用的素材。通過(guò)語(yǔ)音大模型生成的名人聲音，基本可以以假亂真，且錄入名人聲音不需要提供任何授權(quán)證明。

除了雷軍，靳東、劉曉慶等演員都成了被侵權(quán)“重點(diǎn)對(duì)象”，還有平臺(tái)利用AI技術(shù)，將古天樂(lè)、林峰等港星的肖像、聲音及視頻片段，合成為線上賭博、游戲的代言宣傳片。

3月5日，兩人的經(jīng)紀(jì)公司隨后發(fā)布了聲明，明確指出該宣傳片是通過(guò)合成技術(shù)制作，并非真實(shí)合作內(nèi)容。

聲明中強(qiáng)調(diào)，兩人并未與任何相關(guān)游戲平臺(tái)進(jìn)行合作，也未代言或推廣其業(yè)務(wù)。公司提醒社會(huì)各界人士提高警惕，不要輕信此類虛假宣傳，以防上當(dāng)受騙。對(duì)于任何盜用兩人名義或肖像進(jìn)行虛假宣傳或詐騙的行為，經(jīng)紀(jì)公司表示將堅(jiān)決追究法律責(zé)任。

北京嘉濰律師事務(wù)所羅鈺律師表示，民法典規(guī)定：“對(duì)自然人聲音的保護(hù)，參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定?！币虼?，明星對(duì)其聲音也享有類似于肖像權(quán)等人格權(quán)益，未經(jīng)其授權(quán)，不得擅自使用其聲音，利用AI技術(shù)冒用明星的聲音的行為構(gòu)成侵權(quán)。

通過(guò)AI技術(shù)冒用明星聲音打廣告，導(dǎo)流到其他電商平臺(tái)內(nèi)的賣家。在此過(guò)程中，冒用明星聲音發(fā)布廣告的主體屬于廣告發(fā)布者，廣告導(dǎo)流到的電商賣家是廣告主。廣告發(fā)布者發(fā)布的廣告內(nèi)容是虛假的，其中表現(xiàn)之一即冒用明星聲音騙取受眾信任。所以，廣告主即電商賣家和廣告發(fā)布者即短視頻或直播平臺(tái)的賬號(hào)的經(jīng)營(yíng)者需要對(duì)虛假?gòu)V告承擔(dān)連帶責(zé)任。

03 寫在最后

AI換臉最開始確實(shí)造福了不少行業(yè)。

不論是“AI孫燕姿”讓孫燕姿再度成為頂流女歌手，還是用AI視頻復(fù)活逝去的親人，彌補(bǔ)人生遺憾，更不用說(shuō)直播電商通過(guò)AI克隆人讓主播成了24小時(shí)坐班的“牛馬”，讓頭部平臺(tái)和電商主播賺得盆滿缽滿。

但技術(shù)的進(jìn)步，如果得不到合法應(yīng)用，“AI詐騙”會(huì)比以往所有的詐騙手段更難防備、排查和整治。

隨著AI技術(shù)的迅猛發(fā)展和用戶規(guī)模的指數(shù)級(jí)增長(zhǎng)，立法規(guī)范AI生成合成內(nèi)容的制作和使用，已經(jīng)迫在眉睫。

文中受訪者均為化名