2024年，AI技術(shù)的迅猛發(fā)展帶來了無限的商業(yè)潛力，但也伴隨著諸多亂象和騙局。從AI生成內(nèi)容引發(fā)的倫理爭議，到AI產(chǎn)品的虛假宣傳，再到AI培訓(xùn)課程的“割韭菜”現(xiàn)象，本文將深入剖析這一年中AI領(lǐng)域的種種亂象，揭示背后的真相，并提醒我們在追逐AI浪潮的同時(shí)，保持理性和警惕.

隨著大模型飛速發(fā)展，AI應(yīng)用也逐漸成熟。過去一年，在很多人還在琢磨能用AI來干啥的時(shí)候，已經(jīng)有不少人靠著AI產(chǎn)品和信息差賺到了“真金白銀”。

不過，在一個(gè)個(gè)看似“錢途光明”的項(xiàng)目里，有些引發(fā)了倫理爭議，有些是利用噱頭炒作的“偽概念”，還有些，則是實(shí)打?qū)嵉尿_局。

01.“數(shù)字人”以假亂真，AI換臉成“生意”？

2024年，社媒平臺上用AI制作的內(nèi)容明顯增多?！靶∝垙堊斐琛薄罢鐙謾C(jī)關(guān)槍掃射四郎”……AI生成內(nèi)容成為當(dāng)下最火的自媒體賽道之一。

有些賬號通過Stable Diffusion、midjourney、可靈或即夢生成動(dòng)漫形象，配上文案，便可收獲大批粉絲關(guān)注，隨后通過商務(wù)推廣或櫥窗帶貨變現(xiàn)。例如最近迅速漲粉的“人間清醒柒奶奶”“寶藏羅奶奶”等各類奶奶，就成了很多網(wǎng)友的心靈導(dǎo)師和情緒樹洞。

圖源：小紅書截圖

值得一提的是，有的社媒平臺檢測出內(nèi)容是由AIGC生成，會(huì)給作品加上“疑似包含AI創(chuàng)作”的提示；然而由于識別難度越來越大，相當(dāng)一部分AI作品和賬號都能逃過檢測。

2024年下半年，有網(wǎng)友稱自己在小紅書上通過賬號矩陣管理軟件同時(shí)操控1327個(gè)AI美女賬號，沒有任何一個(gè)被平臺識別出來。

圖源：微信截圖

如今，很多AI賬號仍在受追捧。有用戶直言，“好看就可以了，難道那些真人博主就長得和照片一模一樣？既然都不真實(shí)，是不是AI又有什么所謂？”

于是，“AI數(shù)字人”成了很多人“牟利”的手段。有信息流從業(yè)者表示，自己通過數(shù)字人混剪+真人口播做成廣告素材，在各平臺投放吸引用戶下單，廣告投放金額越高，帶來的收益也越高，不到四天，便有保健品的廣告素材投放突破了30萬元。

圖源：公眾號截圖

除了用“數(shù)字人”，還有人通過“AI換臉”技術(shù)冒充名人進(jìn)行帶貨。國家傳染病醫(yī)學(xué)中心醫(yī)生張文宏此前曾表示，短視頻平臺上有很多用AI合成自己臉和聲音的視頻，帶貨蛋白棒等醫(yī)藥保健類產(chǎn)品，自己多次向平臺投訴，但仍然層出不窮。

AI換臉內(nèi)容制作成本低，平臺監(jiān)管卻不容易。微信和抖音都曾對使用插件、AI等工具生成虛擬形象直播判定違規(guī)或封禁處理。資深產(chǎn)業(yè)經(jīng)濟(jì)觀察家梁振鵬認(rèn)為，數(shù)字人直播帶貨以及數(shù)字人賬號的監(jiān)管難點(diǎn)，主要在于如何辨別這些數(shù)字人是否真實(shí)存在，以及它們所宣傳的產(chǎn)品是否真實(shí)可靠；此外，監(jiān)管機(jī)構(gòu)還需要考慮如何處理涉及名人的仿冒行為，以及如何平衡保護(hù)消費(fèi)者權(quán)益和促進(jìn)創(chuàng)新之間的關(guān)系。

這些用AI合成的“詐騙視頻”瞄準(zhǔn)的通常是辨識能力差、警惕性不高的中老年人。除了張文宏，靳東、雷軍等名人，也是經(jīng)常被“AI換臉”的對象。前段時(shí)間，江西宜春一位老年女性就因“靳東”在網(wǎng)絡(luò)上向“借錢拍戲”，險(xiǎn)些向?qū)Ψ睫D(zhuǎn)過去200萬元。

圖源：微博截圖

2024年10月，香港警方還曾破獲一起AI換臉的“殺豬盤”，通過偽造條件優(yōu)越的女性吸引男性轉(zhuǎn)賬，涉案金額超過3.6億港元。

隨著視頻生成模型的發(fā)展，平臺上的內(nèi)容很可能會(huì)更加“真假難辨”。梁振鵬表示，這無疑會(huì)加大平臺內(nèi)容監(jiān)管的難度；未來，監(jiān)管機(jī)構(gòu)需要不斷提高自身的技術(shù)水平，平臺也需要積極履行社會(huì)責(zé)任，加強(qiáng)自我約束和自我管理。

值得一提的是，目前至少有60多個(gè)國家制定和實(shí)施了人工智能治理政策，我國《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等規(guī)定的相繼落地，也讓剛性治理有了更多具體抓手。

02.智能家電、AI玩具…“沾上”AI就漲價(jià)？

2024年是大模型卷應(yīng)用、卷落地的一年。學(xué)習(xí)機(jī)、眼鏡、玩具、甚至床墊，都紛紛做起了“AI+”，強(qiáng)調(diào)自身的“智能化”和“陪伴感”。然而，限于技術(shù)的成熟度，過去一年大部分搭載AI的硬件或產(chǎn)品實(shí)際上并未帶來顛覆性的使用體驗(yàn)。

此前，遠(yuǎn)程控制、網(wǎng)絡(luò)連接、自動(dòng)識別與控制是家居產(chǎn)品主打的智能化功能，AI概念火了后，家居產(chǎn)品爭相在AI上“整活”：床墊內(nèi)置AI算法，能根據(jù)不同的人體曲線調(diào)整高度；洗衣機(jī)集成AI智能投放系統(tǒng)，能根據(jù)衣物的重量與臟污程度，自動(dòng)調(diào)整洗滌劑的用量……

然而，在很多消費(fèi)者看來，這些家電的AI功能解決的并不是核心痛點(diǎn)，而且實(shí)際使用上也達(dá)不到宣傳中的智能。某品牌AI床墊的用戶表示，護(hù)腰氣囊晚上間歇性打氣噪音不小，睡眠監(jiān)測時(shí)間也不太準(zhǔn)確，“感覺像是交了智商稅”。

圖源：微博截圖

家電行業(yè)分析師劉步塵表示，目前家電與AI的結(jié)合仍處于初級階段?！斑^去十幾年，家電產(chǎn)品基本上完成了從功能型家電向智能化家電的轉(zhuǎn)變，但家電產(chǎn)品功能需求的本質(zhì)未變，對AI的要求沒有想象的那么緊迫，所以家電也很難成為AI技術(shù)應(yīng)用的典范?！?/p>

體驗(yàn)升級不多，但不少融合AI概念產(chǎn)品的價(jià)格卻先漲了上來。有售賣卡薩帝AI冰箱的銷售人員對“搜狐財(cái)經(jīng)”表示，目前AI其實(shí)和智能沒有什么區(qū)別，暫時(shí)還做不到幫助用戶識別食材、記錄保鮮、臨期提醒等等。然而，其店內(nèi)兩款A(yù)I冰箱產(chǎn)品售價(jià)分別為6.9萬元和10萬元，相比之下不帶智能大屏的同類型冰箱價(jià)格大約2萬到3萬；由此計(jì)算，“AI冰箱”的溢價(jià)能達(dá)到2至5倍左右。

圖源：微博截圖

除了家電，面向兒童、青少年群體的玩具、學(xué)習(xí)機(jī)等產(chǎn)品，結(jié)合AI概念后的價(jià)格也出現(xiàn)了明顯的上漲。

有AI玩具的從業(yè)者對新媒體“Tech星球”表示，毛絨AI玩具的硬件成本一般只占到產(chǎn)品售價(jià)的十分之一，甚至更低，其搭載的AI方案才是這類玩具賣到幾百元、上千元的關(guān)鍵。

然而，玩具的AI對話功能也是“見仁見智”的地方。有家長表示，AI玩具能回答孩子的“十萬個(gè)為什么”，很省心；但也有家長認(rèn)為，目前所謂的AI功能還配不上這個(gè)價(jià)格。Haivivi（躍然創(chuàng)新）的一款佩戴式AI玩具的評論區(qū)里，有消費(fèi)者表示，玩具的價(jià)格比天貓精靈還貴了不止一倍，但只有對話功能正常使用，播放音樂和講故事的功能都不能滿足孩子需求。

圖源：淘寶截圖

互聯(lián)網(wǎng)分析師張書樂曾對“貝殼財(cái)經(jīng)”表示，目前的AI玩具的價(jià)值整體上仍然在對話上體現(xiàn)，AI玩具所能提供的教育能力依然還不足以達(dá)成真正的教育意義。盤古智庫高級研究院江瀚則認(rèn)為，AI玩具的優(yōu)勢在于能夠結(jié)合玩具的趣味性和AI的交互性，未來要解決互動(dòng)體驗(yàn)和內(nèi)容創(chuàng)新的問題，使AI玩具能夠更好地理解和回應(yīng)兒童的指令和情感。

03.AI培訓(xùn)課，“小白”最好“割”？

每次有新技術(shù)出現(xiàn)，比應(yīng)用跑得更快的往往是“教你如何用”的培訓(xùn)課程。2024年，AI相關(guān)的課程層出不窮，甚至有從業(yè)者直言，任何行業(yè)都可以用AI來做一遍知識付費(fèi)。

AI付費(fèi)課里最熱門的，要屬以AI繪畫、視頻創(chuàng)作為主的AI工具應(yīng)用類課程。這類課程主要面向渴望提升工作技能和發(fā)展副業(yè)的年輕人，課程價(jià)格大多在千元以上，也是被吐槽“割韭菜”的重災(zāi)區(qū)。

圖源：小紅書截圖

社交平臺上很多網(wǎng)友都提到，付費(fèi)課里的知識、教程在B站和知乎等都能找到類似的免費(fèi)內(nèi)容，這些培訓(xùn)機(jī)構(gòu)大多只是將免費(fèi)的素材和教程進(jìn)行系統(tǒng)整合，其實(shí)賺的還是“信息差”的錢。

不擅長信息檢索、又很少體驗(yàn)知識付費(fèi)的“小白用戶”，很容易被包裝高大上的課程海報(bào)和話術(shù)吸引；有網(wǎng)友表示，想報(bào)AI課程的主要原因是覺得有老師能答疑，上課互動(dòng)性更好。這類更習(xí)慣傳統(tǒng)教學(xué)方式的用戶，也是各類AI付費(fèi)課程的主力。

小白們學(xué)習(xí)新技術(shù)的需求，養(yǎng)活了不少培訓(xùn)機(jī)構(gòu)。2024上半年，清華博士李一舟因?yàn)檫`規(guī)售賣AI工具類培訓(xùn)課程被封禁，如今仍有人在這一賽道悶聲賺錢。

“趣解商業(yè)”觀察到，如今仍有不少教AI制圖、視頻創(chuàng)作的課程宣稱結(jié)課后給學(xué)員提供商單幫助變現(xiàn)。例如，有機(jī)構(gòu)的AI繪畫相關(guān)課程，價(jià)格高達(dá)5880元，助教表示，如果順利完成課業(yè)測試，學(xué)完后100%能接到商單。

圖源：微信截圖

“趣解商業(yè)”發(fā)現(xiàn)，商單包括室內(nèi)設(shè)計(jì)、AI電商換裝圖等多種類型的需求，每單價(jià)格在20-30元左右；由此計(jì)算，要完成將近近200單需求才能回本學(xué)費(fèi)。對有全職工作的學(xué)員而言，這顯然是件相當(dāng)考驗(yàn)?zāi)土团d趣的“副業(yè)”；還有單親媽媽表示，其實(shí)并沒有想象中好學(xué)，除了AI工具，也要會(huì)用PS，課時(shí)和學(xué)習(xí)時(shí)間都比想象中要長，暫時(shí)還沒能力接單變現(xiàn)。

在“黑貓投訴”平臺上，消費(fèi)者投訴AI培訓(xùn)機(jī)構(gòu)的案例層出不窮，大部分均是針對交費(fèi)后“老師找不到人”、被誘導(dǎo)付費(fèi)后難退款、與承諾的效果不符等問題。

04.套殼AI騙融資，“熱錢”涌向大模型？

如果說AI知識付費(fèi)只是“割韭菜”的初級手段，那用AI概念來圈錢、騙融資，絕對稱得上這一領(lǐng)域的“高級騙局”。

2024年，不止一家AI科技公司被曝出財(cái)務(wù)造假、業(yè)務(wù)注水。

近期，美國AI教育科技公司AllHere的創(chuàng)始人兼CEOJoanna Smith-Griffin因涉嫌證券欺詐、電匯欺詐和嚴(yán)重身份盜竊被批捕。該公司主推促進(jìn)家校溝通的聊天機(jī)器人，自2020年11月啟動(dòng)A輪融資以來，直至公司于2024年6月倒閉，其創(chuàng)始人一直向投資者傳遞虛假的財(cái)務(wù)信息，誤導(dǎo)他們對公司的收入、客戶群體以及現(xiàn)金儲備情況。

圖源：微博截圖

早在2024年6月，國內(nèi)一家名為“極目銀河”的AI領(lǐng)域明星創(chuàng)業(yè)公司“財(cái)務(wù)爆雷”，CEO陳群在自己租來的別墅中留下一封自白信后消失，信中寫道：“（我）是個(gè)詐騙犯……（公司）合計(jì)有62億的資金缺口”。根據(jù)“36氪”報(bào)道，這家公司套殼AI等多個(gè)數(shù)字科技業(yè)務(wù)以吸納融資，實(shí)際上，公司多年來一直都沒有成熟的產(chǎn)品和業(yè)務(wù)，項(xiàng)目逐漸無法通過融資獲利，最終整個(gè)公司走向破產(chǎn)。

圖源：微博截圖

隨著大模型賽道競爭日益激烈，不少創(chuàng)業(yè)公司都被“卷”進(jìn)了墻角。有從業(yè)者表示，2024上半年，投資市場還在為爭搶大模型創(chuàng)業(yè)公司的份額頭疼，到了年底，大模型投資人討論的話題已經(jīng)變成了“如何賣掉部分手里的大模型創(chuàng)業(yè)公司股份？”

有參與過大模型企業(yè)融資的投資人對新媒體“Tech星球”表示，比起過去投資看好技術(shù)、前景、團(tuán)隊(duì)就入手的邏輯，不少機(jī)構(gòu)的內(nèi)部決策周期越來越長，還會(huì)反復(fù)計(jì)算、評估新錢投出去的回報(bào)率。2025年，大模型賽道的融資或許會(huì)更加嚴(yán)峻。

新技術(shù)帶來變革的同時(shí)，也會(huì)引發(fā)亂象和假象。從虛擬人引發(fā)的倫理與詐騙問題，到產(chǎn)品借AI之名的價(jià)格虛高，再到AI培訓(xùn)課程的良莠不齊以及創(chuàng)業(yè)公司的騙融資行徑，都在提醒著從業(yè)者和消費(fèi)者“AI洶涌”。比追逐浪潮更重要的，是保持清醒––不被短期的利益蒙蔽，也不被誘人的噱頭牽著走。