在數(shù)字時(shí)代，人工智能（AI）正以前所未有的速度和規(guī)模改變著我們獲取和消費(fèi)信息的方式。但隨著AI技術(shù)的發(fā)展，它也帶來了一系列挑戰(zhàn)，尤其是在內(nèi)容生成方面。

最近一張用AI批量做號(hào)的微信截圖流傳在各個(gè)群里，有人自爆用AI在小紅書做了一個(gè)龐大的虛假賬號(hào)矩陣，通過售賣賬號(hào)進(jìn)行變現(xiàn)。

這并非個(gè)例，你有沒有一種感覺，現(xiàn)在刷手機(jī)的時(shí)候越來越分不清真實(shí)和虛擬了？當(dāng)你瀏覽社交媒體、搜索信息或閱讀文章和觀看視頻時(shí)，你真的能分辨出哪些內(nèi)容來自人類，哪些又是AI的產(chǎn)物？更令人不安的是，你如何確定你所看到的“事實(shí)”不是AI的幻覺？

AIGC是一場(chǎng)互聯(lián)網(wǎng)革命，不幸的是，它的興起也伴隨著內(nèi)容濫用。大量低質(zhì)量、AI生成的關(guān)鍵詞堆砌的內(nèi)容傾瀉到網(wǎng)絡(luò)上，充斥在搜索引擎的結(jié)果當(dāng)中，互聯(lián)網(wǎng)上很大一部分內(nèi)容已淪為垃圾信息。

小紅書上的“細(xì)糠”可能是AI生成的，音樂平臺(tái)則充斥著AI生成的歌曲，Spotify上的AI翻唱樂隊(duì)，把流行歌曲的翻唱添加到正常歌單當(dāng)中，與真實(shí)藝術(shù)家演唱的歌曲一起播放，獲得了數(shù)百萬的播放量并獲得版稅。最近，美國(guó)北卡羅來納州一名男子被捕，他用AI制作了數(shù)十萬首歌曲，并通過AI機(jī)器人刷播放量，獲利超過1000萬美元。

連你在亞馬遜上買的電子書可能也是AI寫的。一本使用ChatGPT撰寫的關(guān)于野生蘑菇烹飪的電子書，甚至建議讀者用舌頭去嘗一嘗的方式來識(shí)別蘑菇種類。

最悲哀的是，這些垃圾書實(shí)際上也賺不了多少錢，賺錢的是教學(xué)生制作垃圾電子書的教程，這完全是一場(chǎng)騙局和垃圾的閉環(huán)，而受害者是熱愛閱讀和寫作的讀者與作者。

亞馬遜上出現(xiàn)了大量AI生成的垃圾書籍

01 內(nèi)容農(nóng)場(chǎng)從未如此容易

“內(nèi)容農(nóng)場(chǎng)”是指為了牟取廣告費(fèi)等商業(yè)利益或出于控制輿論、帶風(fēng)向等特殊目的，快速生產(chǎn)大量網(wǎng)絡(luò)文章來吸引流量。讓用戶在尋找有用信息時(shí)不得不耗費(fèi)更多時(shí)間和精力。為了吸引眼球，一些賬號(hào)甚至故意發(fā)布虛假信息或夸大事實(shí)，誘導(dǎo)用戶點(diǎn)擊。

發(fā)布“西安突發(fā)爆炸”虛假新聞的賬號(hào)所屬機(jī)構(gòu)，最高峰一天能生成4000至7000篇假新聞，每天收入在1萬元以上，而公司實(shí)際控制人王某某經(jīng)營(yíng)著5家這樣的機(jī)構(gòu)，運(yùn)營(yíng)賬號(hào)達(dá)842個(gè)。

以前的內(nèi)容農(nóng)場(chǎng)借助廉價(jià)勞動(dòng)力，批量產(chǎn)出文章，比如此前的山東“新媒體村”以及北馬其頓共和國(guó)的假新聞?dòng)绊懨绹?guó)大選等案例?，F(xiàn)在，內(nèi)容農(nóng)場(chǎng)也正式從手工作坊進(jìn)入了AI時(shí)代。

AI工具使得內(nèi)容生成成本大大降低，單次瀏覽的收入即可覆蓋成本。根據(jù)IT技術(shù)博主阮一峰的計(jì)算，使用某國(guó)產(chǎn)AI模型生成一篇文章僅需0.00138元，而單次瀏覽的廣告收入約為0.00145元，這種模式使得內(nèi)容農(nóng)場(chǎng)比以往更容易盈利。

“內(nèi)容農(nóng)場(chǎng)從來沒有這么容易過，我先買一個(gè)熱搜數(shù)據(jù)庫，然后花費(fèi)100多元，就能生成10萬篇文章，最后加入廣告，做好SEO，網(wǎng)站上線，等著用戶點(diǎn)進(jìn)來就行了。不難想象，資訊類網(wǎng)站未來大概都是這個(gè)模式。真人生產(chǎn)內(nèi)容，成本太高，無法與AI內(nèi)容抗衡，注定只能是小眾網(wǎng)站。”

除了內(nèi)容農(nóng)場(chǎng)，一些平臺(tái)也在利用AI進(jìn)行SEO，把自己打造成為“內(nèi)容農(nóng)場(chǎng)”。

豆包此前為了在搜索引擎里權(quán)重更高，將用戶和AI的聊天頁面生成靜態(tài)網(wǎng)頁，然后被搜索引擎抓取，給自己引流。開發(fā)者社區(qū)稀土掘金也同樣通過AI批量生成大量?jī)?nèi)容被谷歌抓取，這些內(nèi)容缺乏實(shí)質(zhì)價(jià)值，引發(fā)用戶廣泛批評(píng)。

雖然目前豆包和稀土掘金都已經(jīng)移除相關(guān)內(nèi)容，但中文云計(jì)算網(wǎng)站和開發(fā)者社區(qū)仍然是內(nèi)容農(nóng)場(chǎng)的重災(zāi)區(qū)。

AI搜索引擎Perplexity通過對(duì)搜索結(jié)果添加腳注，鏈接到互聯(lián)網(wǎng)的實(shí)時(shí)信息源來確保結(jié)果的準(zhǔn)確性，PerplexityCEO也對(duì)外聲稱“引用來源是我們的通行證”。

但根據(jù)AI內(nèi)容檢測(cè)平臺(tái) GPTZero 在今年6月進(jìn)行的一項(xiàng)研究，Perplexity用戶平均搜索三個(gè)關(guān)鍵詞，就會(huì)遇到AI生成的內(nèi)容。像“日本京都的文化節(jié)”、“人工智能對(duì)醫(yī)療行業(yè)的影響”、“泰國(guó)曼谷必嘗街頭美食”以及“值得關(guān)注的年輕網(wǎng)球選手”等搜索，返回的結(jié)果中包含了引用AI生成材料的答案。

這項(xiàng)研究揭示了Perplexity這樣的AI搜索產(chǎn)品在提供優(yōu)質(zhì)來源方面的一個(gè)缺陷，也反映出互聯(lián)網(wǎng)正日益充斥著AI生成的內(nèi)容。

關(guān)鍵詞“日本京都的文化節(jié)慶”，唯一引用來源是一篇完全由AI生成的文章

Perplexity還推出了Pages的功能，使用者可以把搜索與生成的內(nèi)容制作成公開頁面，而且搜尋引擎也能收錄。后續(xù)也傳出一些神奇用法，例如假裝詢問AI關(guān)于自家產(chǎn)品的內(nèi)容，然后利用Perplexity Page幫自己的產(chǎn)品做一個(gè)頁面，最后被搜索引擎收錄，達(dá)到引流的目的。根據(jù)aHrefs的數(shù)據(jù)，Perplexity每月有240萬訪客來自谷歌。

360AI搜索也曾經(jīng)透露，在晚上會(huì)借助算力資源使用AI生成答案，每天產(chǎn)生數(shù)百萬的網(wǎng)頁供應(yīng)給搜索引擎。

02 從“內(nèi)容社區(qū)”到“內(nèi)容墳場(chǎng)”

內(nèi)容社區(qū)也是AI入侵的“重災(zāi)區(qū)”，Quora曾經(jīng)是社區(qū)氛圍良好的問答社區(qū)，有評(píng)論形容其為“更有條理的Yahoo Answers，更古典的Reddit，更主觀的維基百科”。而如今的Quora卻成為了一個(gè)信息垃圾場(chǎng)，充斥著無意義的AI生成的內(nèi)容，以及一大堆答非所問的內(nèi)容。

一開始一些用戶使用ChatGPT生成答案，然后秒成Quora的“專家”，后來Quora直接在頁面上集成了ChatGPT生成的答案，而這些錯(cuò)誤的答案又傳播到了谷歌的搜索結(jié)果中。

“雞蛋可以被融化，常見的方法是用爐子或微波爐加熱”

一位2013年就開始使用Quora的用戶評(píng)論道：“最終，Quora將充斥著機(jī)器的提問、機(jī)器的回答，別無其他?！?/p>

開發(fā)者也在借助AI SEO獲取流量，Eightify.app和Glarity.app是兩個(gè)Youtube 視頻總結(jié)插件，通過AI技術(shù)批量生成圖文并茂的文章，在短時(shí)間內(nèi)獲得了巨大的流量增長(zhǎng)。Eightify.app自2022年8月開始運(yùn)營(yíng)，其月訪問量從幾十萬迅速攀升，于2023年1月達(dá)到峰值600多萬。緊隨其后的Glarity.app也在2023年2月采用類似策略，月訪問量從1月份的10萬激增至3月份的1200多萬。

SEO行業(yè)從業(yè)者哥飛告訴硅星人，搜索引擎也好，內(nèi)容平臺(tái)也好，他們不是要干掉AI生成的內(nèi)容，而是要干掉低質(zhì)量?jī)?nèi)容。這些AI生成內(nèi)容能通過谷歌算法審核，表明其質(zhì)量達(dá)到了一定水準(zhǔn)，但由于流量增長(zhǎng)過快，Eightify.app和Glarity.app引起了全球SEO從業(yè)者的關(guān)注?！叭绻桓傻?，那么就可以認(rèn)為谷歌默許這樣做，大家就會(huì)跟風(fēng)這樣做?！?/p>

谷歌最終采取了人工干預(yù)措施。要求這兩家網(wǎng)站停止批量生成內(nèi)容的行為，并刪除此前生成的相關(guān)內(nèi)容。最新數(shù)據(jù)顯示，干預(yù)措施生效后，Eightify.app的月訪問量已降至60萬，而Glarity.app更是銳減至20多萬。

SEO污染這樣的事情其實(shí)一直存在，以前沒有AI，也有各種小偷爬蟲、偽原創(chuàng)工具，只不過隨著AI的發(fā)展，這場(chǎng)“貓鼠游戲”似乎對(duì)于平臺(tái)來說越來越難了。

一個(gè)有趣的例子是IsaacJinyu在知乎的一次AI臥底實(shí)驗(yàn)，他通過知乎問答數(shù)據(jù)反向生成AI數(shù)據(jù)，然后微調(diào)Qwen2-7B，去除文字中的AI味。這個(gè)實(shí)驗(yàn)從7月5日開始，到8月3日整整一個(gè)月，沒有任何人發(fā)現(xiàn)賬號(hào)AI的身份。

03 學(xué)術(shù)圈也被AI攻陷

日益增多的AI生成內(nèi)容其影響遠(yuǎn)不止于屏幕，這種潛移默化的侵入正悄然影響學(xué)術(shù)領(lǐng)域。

進(jìn)年初，西安交大一篇論文因?yàn)槭褂肁I生成的配圖而被撤稿，相關(guān)圖片中，大鼠長(zhǎng)出了詭異的器官，細(xì)胞信號(hào)傳導(dǎo)圖像電路板。

在另一篇論文的一張配圖中，小腿和手臂的骨骼數(shù)量出現(xiàn)了明顯的錯(cuò)誤。

這只是AI滲透學(xué)術(shù)領(lǐng)域的冰山一角，在谷歌學(xué)術(shù)上搜索“截至我上次知識(shí)更新”（as of my last knowledge update）或“我沒有訪問實(shí)時(shí)數(shù)據(jù)的權(quán)限”（I don’t have access to real time data），會(huì)出現(xiàn)大量借助AI生成的論文。

學(xué)者們?cè)趬毫χ滦柙谄诳习l(fā)表論文，選擇了使用AI，而學(xué)生在AI的幫助下完成作業(yè)和論文已經(jīng)成為一種常態(tài)，“人工代寫”論文變成了“人工智能”代寫。

04 AI訓(xùn)練的惡性循環(huán)

AI模型的準(zhǔn)確性在很大程度上取決于其訓(xùn)練數(shù)據(jù)的質(zhì)量?！袄M(jìn)，垃圾出”這一短語起源于計(jì)算機(jī)科學(xué)的早期。尤其對(duì)于數(shù)據(jù)分析和AI而言，這一原則強(qiáng)調(diào)了一個(gè)基本觀念：輸出質(zhì)量與輸入質(zhì)量緊密相關(guān)。

AI生成的內(nèi)容激增，但這些內(nèi)容并非憑空而來，而是基于大量人類創(chuàng)造數(shù)據(jù)的訓(xùn)練。但在這個(gè)過程中存在一個(gè)潛在的缺陷，隨著這些AI生成的內(nèi)容重新流入互聯(lián)網(wǎng)，最終又成為訓(xùn)練未來AI模型的一部分?jǐn)?shù)據(jù)。正如用牛喂養(yǎng)牛導(dǎo)致了瘋牛病一樣，用大量由AI創(chuàng)建的數(shù)據(jù)來訓(xùn)練AI同樣具有破壞性。這是一個(gè)自我消耗的過程，導(dǎo)致輸出質(zhì)量越來越低。

谷歌在Google I/O 2024大會(huì)上演示了AI簡(jiǎn)要概括某人未讀的郵件，隨后演示了生成新郵件以供回復(fù)的功能。不難推斷，收件人將利用AI來閱讀這些郵件，并生成新的AI回復(fù)，讓其他人也用AI閱讀。這類功能普及之后，每個(gè)人的收件箱是否會(huì)充斥著沒有人真正會(huì)去閱讀或撰寫的郵件？

AI能制作的又何止是郵件？AI為無人閱讀的AI帖子撰寫無人閱讀的AI評(píng)論，生成無人聆聽的包含AI歌曲的歌單，還能為無人訪問的網(wǎng)站創(chuàng)作無人觀賞的AI圖像。

AI生成的《Nothing, Forever》在一個(gè)無人觀看的Twitch直播間24小時(shí)不間斷地播放著

AI出現(xiàn)之前互聯(lián)網(wǎng)就充滿垃圾，只是有了AI之后，生產(chǎn)垃圾的效率更高了，制造的垃圾產(chǎn)量龐大，而我們?cè)谔幚磉@些垃圾的能力上顯然是不夠的。

或許在不久的將來，互聯(lián)網(wǎng)上的合成圖像將比真實(shí)圖像更多，合成網(wǎng)站將超過真實(shí)網(wǎng)站，AI生成的文本也將多于真實(shí)文本：由機(jī)器產(chǎn)生的無盡內(nèi)容，堵塞了一切，浪費(fèi)每個(gè)人的時(shí)間。

AI圖片污染互聯(lián)網(wǎng)圖片庫

神話中的銜尾蛇（Ouroboros）吞食自己的尾巴，象征著無節(jié)制增長(zhǎng)與自我消耗的陷阱，其圓形形態(tài)也象征著無限和生命的循環(huán)。在現(xiàn)在的故事中，這條蛇代表著AI的世界，而它的尾巴則是源源不斷的AI生成的內(nèi)容。這個(gè)循環(huán)就在我們眼前發(fā)生著，也許在這條蛇還沒有完全長(zhǎng)大前，我們還有機(jī)會(huì)救互聯(lián)網(wǎng)一把。