隨著AI人工智能技術(shù)的快速發(fā)展，AI內(nèi)容風(fēng)險(xiǎn)也日益引人關(guān)注，逐漸衍生的AI內(nèi)容風(fēng)險(xiǎn)問(wèn)題，不僅會(huì)影響用戶體驗(yàn)，而且還可能對(duì)社會(huì)造成負(fù)面影響。因此，如何解決AI內(nèi)容風(fēng)險(xiǎn)成為了AI技術(shù)領(lǐng)域的一個(gè)重要議題。本文作者就當(dāng)前存在的AI內(nèi)容風(fēng)險(xiǎn)，及平臺(tái)們的監(jiān)管策略做出了解讀分析，一起來(lái)看。

挑戰(zhàn)可能真的來(lái)了。平臺(tái)開(kāi)始按不住AIGC了。

最近兩天，先是真的孫燕姿發(fā)文“原諒”了AI孫燕姿，然后AI又在美國(guó)鬧出一個(gè)大新聞。美國(guó)當(dāng)?shù)貢r(shí)間5月22日，有一幅“五角大樓附近發(fā)生爆炸”的圖在社交網(wǎng)站上傳播。一時(shí)間全網(wǎng)震動(dòng)，甚至美股還為此小跌了一下。

圖：依照（目前還不成型的）AI傳播道德，這里只放一張被打過(guò)叉的原圖。

事件經(jīng)過(guò)一天時(shí)間的發(fā)酵，現(xiàn)在我們知道：圖片是AI合成的。假消息的源頭之一是推特上一個(gè)叫作“Bloomberg Feed”的賬號(hào)，原推的附文煞有介事地說(shuō)：“華盛頓特區(qū)五角大樓建筑附近發(fā)生巨大爆炸?！醪綀?bào)道”。

這次的假新聞風(fēng)波，意味著推特的內(nèi)容監(jiān)管沒(méi)能兜住AI內(nèi)容風(fēng)險(xiǎn)。而且這不是個(gè)案，隨著AI內(nèi)容生態(tài)的萌發(fā)，平臺(tái)的監(jiān)管問(wèn)題正逐一顯露出來(lái)。

一、推特的難題

“五角大樓附近發(fā)生爆炸”事件在爆發(fā)的幾小時(shí)內(nèi)，就經(jīng)歷了幾輪發(fā)酵。

根據(jù)各方考證，假消息的源頭不止一個(gè)，最早的發(fā)布時(shí)間可以追溯到當(dāng)?shù)貢r(shí)間早8點(diǎn)42分。最原始的圖在上午10點(diǎn)多被一些藍(lán)標(biāo)賬號(hào)撿起來(lái)，配上“五角大樓附近發(fā)生爆炸”之類的文案再度發(fā)布。其中，前面那張圖中的發(fā)布者@Bloomberg Feed看起來(lái)最為可信，因?yàn)槊种泻蠦loomberg（彭博社），并且獲得了推特的藍(lán)標(biāo)認(rèn)證。但其實(shí)該賬號(hào)和彭博社毫無(wú)關(guān)系。

消息發(fā)出來(lái)之后，好幾條原推都被數(shù)百萬(wàn)人看到，被其他的藍(lán)標(biāo)認(rèn)證用戶轉(zhuǎn)發(fā)，甚至被印度和俄羅斯帶著推特“金標(biāo)”的正規(guī)媒體賬號(hào)。

早上十點(diǎn)多，美國(guó)股市也發(fā)生了小幅下跌。很多分析人士認(rèn)為，這是該圖片引發(fā)的市場(chǎng)恐慌。

圖：當(dāng)?shù)貢r(shí)間5月22日的美國(guó)道瓊斯工業(yè)平均指數(shù)行情。在10點(diǎn)之后發(fā)生了小幅下跌。

不過(guò)很快，網(wǎng)民掀起了對(duì)該消息真實(shí)性的討論。首先，雖然很多最早發(fā)出來(lái)的推都說(shuō)這是在五角大樓附近，但是照片上的樓并不是五角大樓。另外，照片里面路燈是歪的，并且柵欄與周圍景物的遮擋關(guān)系也不很寫(xiě)實(shí)。

圖：AI偽造圖的細(xì)部。雖然像素不高，但還是看得出物體之間的穿插、遮擋關(guān)系非常不自然。

到了10點(diǎn)40多，圖片引起了官方的注意。當(dāng)?shù)氐南罊C(jī)構(gòu)首先辟謠說(shuō)，當(dāng)?shù)貨](méi)有爆炸發(fā)生。之后陸續(xù)又有別的組織出面辟謠，公眾才確認(rèn)這則消息為假消息，并且照片是AI生成的。

塵埃落定之后，一些網(wǎng)絡(luò)輿論的矛頭開(kāi)始指向推特的藍(lán)標(biāo)政策。在馬斯克收購(gòu)?fù)铺刂?，改變了藍(lán)標(biāo)用戶的認(rèn)證方式。在此之前，藍(lán)標(biāo)是免費(fèi)授予經(jīng)過(guò)身份認(rèn)證的機(jī)構(gòu)和名人的。去年11月，馬斯克把藍(lán)標(biāo)政策改成了“付費(fèi)+認(rèn)證”的形式。但是，新的認(rèn)證方式十分的不透明，被解讀為“拿錢買認(rèn)證”。本次“五角大樓爆炸”假新聞事件也進(jìn)一步印證了，馬斯克掌管下的推特，認(rèn)證制度存在重大缺陷。

不過(guò)，這真的只是認(rèn)證的問(wèn)題嗎？

二、國(guó)內(nèi)“AI內(nèi)容監(jiān)管第一槍”？

輿論對(duì)本次“五角大樓爆炸”假新聞事件的問(wèn)題意識(shí)，盯住的是推特的“藍(lán)標(biāo)認(rèn)證”制度，因?yàn)椤八{(lán)標(biāo)”意味著賬號(hào)是由真實(shí)、負(fù)責(zé)任的人或組織運(yùn)營(yíng)的。這實(shí)際上的訴求在于“AI的使用者不能脫責(zé)”，這是目前針對(duì)AIGC（人工智能生成內(nèi)容）監(jiān)管的一種典型策略。

同樣，像微信朋友圈、微博這種即時(shí)分享類型的平臺(tái)讓每個(gè)人都成了新聞資訊的發(fā)布者。那么，每個(gè)發(fā)布者為自己發(fā)布的信息負(fù)責(zé)，這一治理原則在這些平臺(tái)強(qiáng)化AI內(nèi)容治理時(shí)也被延續(xù)了下來(lái)。

在“可追責(zé)”的考慮之上，一些平臺(tái)開(kāi)始考慮給AI內(nèi)容加標(biāo)識(shí)，以防止觀者混淆AI生成的內(nèi)容與真實(shí)內(nèi)容。5月9日，抖音祭出了被稱為國(guó)內(nèi)“AI內(nèi)容監(jiān)管第一槍”的舉措，要求創(chuàng)作者給AI視頻內(nèi)容打上“AI生成”的水印。

圖：抖音規(guī)定的“AI生成”水印樣式。圖片截取自《抖音關(guān)于人工智能生成內(nèi)容標(biāo)識(shí)的水印與元數(shù)據(jù)規(guī)范》

但眼下，隨著AI內(nèi)容生態(tài)的演化，我們可以得出一些新的判斷：說(shuō)抖音的舉動(dòng)是“AI內(nèi)容監(jiān)管第一槍”，可能夸大了其行業(yè)意義。

AI水印政策與抖音自身的屬性有關(guān)。抖音的內(nèi)容本質(zhì)上是一個(gè)博眼球、爭(zhēng)流量的注意力生意，所以抖音理應(yīng)更關(guān)注為了爭(zhēng)取流量而不顧道德原則的AI內(nèi)容。把AI內(nèi)容在明顯的位置標(biāo)出，或許能減少類似推特這次事件，有人把AI虛構(gòu)的圖當(dāng)作真實(shí)圖像來(lái)傳播，造成意料之外的麻煩。

類似地，抖音平臺(tái)要阻止用戶利用AI生成的劣質(zhì)內(nèi)容來(lái)沖流量。所以抖音禁止了單純讀文案帶貨的虛擬人直播。這些虛擬人主播可以永不停歇地一直播，并且可以被低成本復(fù)制，同時(shí)用多個(gè)賬號(hào)播出，但是它在視覺(jué)、文案、表達(dá)上都十分粗制濫造。這種內(nèi)容對(duì)于抖音的問(wèn)題在于，用大規(guī)模低質(zhì)量?jī)?nèi)容沖流量，沖淡平臺(tái)上的優(yōu)質(zhì)內(nèi)容。

抖音的一些AIGC治理舉措，其出發(fā)點(diǎn)還是抖音平臺(tái)自身的一些特征。抖音對(duì)AIGC的問(wèn)題意識(shí)不一定是普適的。

三、監(jiān)管重點(diǎn)的分化

在邏輯不同的內(nèi)容平臺(tái)，例如B站這種看重用戶創(chuàng)意的平臺(tái)，AI內(nèi)容治理又是另一個(gè)樣貌。

3月30日，B站董事長(zhǎng)陳睿在中國(guó)網(wǎng)絡(luò)視聽(tīng)大會(huì)上放出豪言，說(shuō)B站是目前AIGC內(nèi)容質(zhì)量最高、最豐富的平臺(tái)。果然不久之后，“AI孫燕姿”就在B站火了。

純從內(nèi)容上說(shuō)，“AI孫燕姿”是比較原始形態(tài)的AIUGC，即“AI輔助用戶生成內(nèi)容”。它是AI內(nèi)容的另一種樣態(tài)，甚至可能是未來(lái)AI內(nèi)容的主流樣態(tài)。和抖音對(duì)“用AI虛構(gòu)內(nèi)容博眼球”的擔(dān)憂不同，AIUGC內(nèi)容拼的依然是創(chuàng)意，這是UGC/PUGC生態(tài)的延續(xù)。只不過(guò)，正如“AI孫燕姿”所暴露出的問(wèn)題，AIUGC目前暴露出了知識(shí)產(chǎn)權(quán)保護(hù)方面的重大缺陷。

在“AI孫燕姿”這件事上，B站不曾站出來(lái)表達(dá)自己的監(jiān)管立場(chǎng)。倒是孫燕姿本人被炸出來(lái)，對(duì)“AI孫燕姿”表達(dá)了一種“無(wú)奈地寬恕”態(tài)度。孫燕姿的原話是：“我的粉絲們已正式改換門庭，接受我就是一名冷門歌手的事實(shí)，而我的AI角色成為了目前的頂流。我想說(shuō)的是，你跟一個(gè)每幾分鐘就推出一張新專輯的人（虎嗅注：指AI孫燕姿）還有什么好爭(zhēng)的?！?/p>

雖然孫燕姿個(gè)人很慷慨大度，但是AIGC的知識(shí)產(chǎn)權(quán)爭(zhēng)議仍在?！癆I孫燕姿”爆火之后，有人又提起了“數(shù)字水印”技術(shù)。簡(jiǎn)單講，這種技術(shù)是在圖像、聲音、數(shù)據(jù)等載體上加標(biāo)記，這些標(biāo)記是人看不到、聽(tīng)不出的，但可以用技術(shù)手段識(shí)別，并且在原始版權(quán)素材被改動(dòng)之后，依然可以識(shí)別出其中的版權(quán)標(biāo)記。這種技術(shù)頗受看好，但其規(guī)模性的落地尚需時(shí)日。

但總之，B站這類重創(chuàng)意的內(nèi)容平臺(tái)，或許能在AIGC的某些元問(wèn)題上壓過(guò)那些重流量的內(nèi)容平臺(tái)。正如Pinterest——知名的創(chuàng)意分享平臺(tái)、“設(shè)計(jì)師之友”——的首席執(zhí)行官Bill Ready近期在評(píng)論AIGC時(shí)多次強(qiáng)調(diào)：AI內(nèi)容應(yīng)該是人們生活的“調(diào)味品”（additive）而非“癮品”（addictive）。如果內(nèi)容平臺(tái)的核心算法原本就是讓用戶上癮，那么AIGC會(huì)在這種算法中把人性的缺陷進(jìn)一步放大。

Pinterest自身在推薦算法上，堅(jiān)持探索如何推送具有創(chuàng)意、靈感、個(gè)性化價(jià)值的內(nèi)容。這使得Pinterest對(duì)低質(zhì)量的AIGC有一定的抵抗力；同時(shí)富有新意的AIUGC藝術(shù)作品開(kāi)始在Pinterest上涌現(xiàn)。

圖：Pinterest上一位AI輔助創(chuàng)作者的作品目錄。他把自己利用Midjourney生成出來(lái)的近百個(gè)主題（如“科幻場(chǎng)景”“通靈旅程”“政治畫(huà)”“圣經(jīng)風(fēng)格”等）分門別類，整理成庫(kù)。

圖片來(lái)源：Pinterest @Vellectrum

所以在討論AIGC平臺(tái)監(jiān)管的時(shí)候，也不能忽視AIGC反過(guò)來(lái)對(duì)平臺(tái)的改造，以及潛在的相互成就的機(jī)會(huì)。

在較短的時(shí)間尺度上，AI內(nèi)容給平臺(tái)帶來(lái)一些監(jiān)管上的挑戰(zhàn)，并且不同運(yùn)營(yíng)邏輯的內(nèi)容平臺(tái)，其AI治理重點(diǎn)還有分化之勢(shì)。而在遠(yuǎn)期，AI內(nèi)容或許反過(guò)來(lái)決定平臺(tái)的發(fā)展前景。這個(gè)遠(yuǎn)期趨勢(shì)，或許才是內(nèi)容平臺(tái)面臨的終極挑戰(zhàn)。