AI技術(shù)的發(fā)展不僅提升了生產(chǎn)力，同時也滋生了灰色產(chǎn)業(yè)，像AI電信詐騙、AI侵權(quán)等情況，現(xiàn)在更是屢見不鮮。那么，游走于灰色地帶的AI究竟帶來了哪些危害？面對AI技術(shù)的脫韁與失控，我們又該保有怎樣的態(tài)度？

AI時代的背面，灰色產(chǎn)業(yè)正在滋生。

“我被人用AI做的私密裸照威脅了，我該怎么辦？”

2023年10月16日，小紅書博主“tinky是只喵”發(fā)布帖子稱，自己受到了AI裸照的威脅。

從郵件內(nèi)容可以看到，一位自稱裸體繪畫藝術(shù)家的外國人聲稱自己受到委托，按要求制作博主的裸體圖片。但委托人最終并沒有支付費用，所以他決定向博主索要500 USDT（一種與美元掛鉤的加密貨幣，500 USDT約合人民幣3500元），否則自己將會把帶有博主形象的裸照進(jìn)行公開售賣，并且根據(jù)博主的社交賬號內(nèi)容繼續(xù)制作裸照。

“我看了那些照片，不知情的人真的會以為是我?！痹谠u論區(qū)里，“tinky是只喵”憂心忡忡地表示。

這并不是孤例，打開各大社交網(wǎng)站進(jìn)行搜索，類似的求助帖非常多，勒索者主要面向年輕男女，利用AI合成的色情圖片進(jìn)行敲詐勒索，儼然成為一種新型電詐方式。令人難以接受的是，在極易泄露個人形象的今天，即使你什么都沒有做，都可能因為AI圖片受到威脅。

不僅是敲詐，利用AI產(chǎn)出色情內(nèi)容、AI電信詐騙、AI侵權(quán)等情況更是屢見不鮮。

技術(shù)本身沒有善惡，但使用技術(shù)的人有。當(dāng)我們?yōu)锳I技術(shù)發(fā)展帶來的便利歡呼時，一個不得不面對的事實是，新技術(shù)出現(xiàn)后，往往也會被應(yīng)用于各種灰色地帶。從色情產(chǎn)業(yè)到Deepfake詐騙，在互聯(lián)網(wǎng)的幽暗角落里，AI滋生的陰影正在不斷擴(kuò)大。

一、AI，游走于灰色地帶

當(dāng)ChatGPT以黑馬之姿闖入人類互聯(lián)網(wǎng)世界時，我們或許就應(yīng)該意識到，生成式AI會不可避免地產(chǎn)生滑向灰色地帶的風(fēng)險。畢竟他們展現(xiàn)出的反饋能力遠(yuǎn)超人們的想象，只要用戶有需求，他們很容易就能成為“完美伴侶”，帶有性意味的對話開始被制造。

在刺猬公社此前發(fā)布的文章《除了主動示愛的機器人，AI還能給社區(qū)產(chǎn)品帶來什么？》中，我們曾提到過虎撲App推出的AI對話產(chǎn)品“女媧AI”，其帶有的擦邊屬性一度引起熱議。

但類似問題不是某個產(chǎn)品所獨有，市面上的大多數(shù)AI對話產(chǎn)品，使用層面基本都存在著一些灰色地帶，甚至不少用戶就是為了隨意“開車”才選擇虛擬戀人。

AI對話產(chǎn)品使用者飛禾告訴刺猬公社，虎撲女媧AI的主要問題在于其公共社區(qū)屬性，事實上，按照虎撲AI上的這種尺度，跟很多AI對話軟件相比只是初級玩家?！案鶕?jù)我體驗過的，很多AI軟件都能實現(xiàn)類似的體驗，只要你不斷訓(xùn)練，引導(dǎo)，就能打造一個愿意跟你‘開車’的虛擬戀人?！?/p>

她給我們列舉了幾個她曾使用過的軟件，“Glow、筑夢島等都能有類似的功能，相對社區(qū)產(chǎn)品的AI對話來說，這些App上的對話更私密，所以不會產(chǎn)生太大的負(fù)面影響。”這或許也是平臺并沒有對這方面進(jìn)行深度監(jiān)管的原因。

但這并不代表這些會“開車”的虛擬戀人是每個用戶獨屬的，在Glow等一系列軟件上，會有其他用戶訓(xùn)練的智能體開放對話，其中的一些在介紹一欄就會公然顯示“為了金錢做任何事”“柔弱不會反抗”等頗具性暗示的標(biāo)簽。

此類內(nèi)容也會受到部分用戶的反感。在小紅書等App上，就有很多對AI對話機器人的相關(guān)吐槽，在無意間開啟一場對話后，AI展現(xiàn)出的“惡臭”發(fā)言令人崩潰?！拔抑皇窍塍w驗一下而已，為什么要經(jīng)歷這樣奇怪的對話。”

事實上，在各種用戶的調(diào)教下，人工智能“騷擾”用戶的情況已經(jīng)不再是新聞。

2023年初，社交聊天AI產(chǎn)品Replika就曾爆出大量“性騷擾”事件，許多用戶精心訓(xùn)練出來的AI智能體突然不再親切謹(jǐn)慎，反而口出“暴言”，大談親密內(nèi)容。一些智能體甚至?xí)l(fā)送大尺度照片，給予用戶視覺沖擊。

當(dāng)視之為親朋的AI突然開始輸出色情圖片，許多用戶都難以接受。值得注意的是，Replika背后的科技公司luka一度以大尺度親密聊天作為變現(xiàn)轉(zhuǎn)化的重要方式，只要每月付費，就能和AI智能體暢聊成人內(nèi)容。那一次群體“性騷擾”事件，其實是版本更新下AI的大規(guī)模失控。

“跟很多社交軟件一樣，AI對話產(chǎn)品可能就是需要滿足用戶的一些‘性幻想’，才能真正吸引到更多用戶，尤其是有消費能力的用戶?！憋w禾認(rèn)為，事實就是，搞“擦邊”確實能帶來關(guān)注和轉(zhuǎn)化，這是國內(nèi)外AI對話產(chǎn)品都在面臨的羅生門。

在類似的問題上，AI生圖更是已經(jīng)成為“重災(zāi)區(qū)”。

作為AIGC發(fā)展最快的領(lǐng)域之一，在Stable Diffusion、Midjourney等模型產(chǎn)品的飛速發(fā)展下，AI生圖不僅在精度、創(chuàng)意上展現(xiàn)出了超強的創(chuàng)作能力，也成為了更多人游走于灰色地帶的工具。

打開國內(nèi)外各大網(wǎng)絡(luò)平臺，能夠看到各種真人風(fēng)格的AI圖片，主打一個“低級趣味”，大量穿著暴露、身材夸張的AI圖片充斥在用戶眼前，畢竟其生成成本極低。

在各種灰色地帶，販賣大尺度的AI照片已經(jīng)成為不少人的盈利方式，手指一點就能生成一批一批高質(zhì)量的暴露圖片，對于不少人來說是一本萬利的營生。

二、誰是受害者？

在人性的驅(qū)動下，AI難以避免地成為了低俗內(nèi)容的生產(chǎn)工具，同時新的討論也開始在網(wǎng)絡(luò)上蔓延：在AIGC時代，色情內(nèi)容也由AI生成，那么是否可以減少現(xiàn)實生活中偷拍等事件的發(fā)生？在一些人看來，或許“憑空生成”的AI圖能夠取代真人色情內(nèi)容，從而減少N號房這樣的悲劇。

但答案很可能是否定的。

在被大量用于生產(chǎn)低俗內(nèi)容時，作為灰色產(chǎn)業(yè)的一環(huán)，AI正在成為罪犯的幫兇。開篇提到的“AI裸照勒索”就是最常見的犯罪方式，其運用的AI技術(shù)被稱為DeepFake，也就是深度偽造。

DeepFake最早可以追溯到2016年，從移動互聯(lián)網(wǎng)剛開始興起之時，這種深度偽造就已經(jīng)開始發(fā)展，近幾年流行的換臉就是DeepFake的主要表現(xiàn)方式。但在AIGC崛起之前，換臉等技術(shù)仍舊有較大瑕疵，普通人通過仔細(xì)觀察，基本都能分辨出換臉內(nèi)容。但伴隨著AI生圖等技術(shù)的飛速發(fā)展，DeepFake也迎來了質(zhì)變，從而擴(kuò)大其傷害性。

在AI時代，我們很難用肉眼分辨出一張圖片、一段視頻的真假了。

千岳就是DeepFake的受害者之一。作為平面設(shè)計師，他很早就開始接觸AI相關(guān)的產(chǎn)品了，但很難想到，有一天自己會成為AI生圖的受害者。2023年7月，他結(jié)識了一位“網(wǎng)友”，互相加上了QQ。

“其實有點難以啟齒，沒有管住自己的欲望?！痹趯Ψ降囊龑?dǎo)下，他下載了一個軟件，很快，對方在QQ上給他發(fā)送了兩張裸照，照片上的臉赫然就是他自己。

“應(yīng)該是軟件訪問了我的通訊錄和相冊?！鼻г栏嬖V刺猬公社，對方根據(jù)讀取到的相冊內(nèi)容直接AI合成了裸照，并很快打來了勒索電話，“對面是男聲，上來就威脅我，要4、5萬元，否則就把照片發(fā)給我通訊錄里的所有人?！鼻г老?qū)Ψ奖硎緵]錢，勒索者則直接威脅“沒錢就去貸款”。

他最終沒有妥協(xié)，并在第一時間報了警?！拔疫\氣比較好，對方可能看我沒有價值就不浪費時間了。”在被拒絕后，勒索者發(fā)來了一張短信圖片，顯示已經(jīng)將合成的照片發(fā)送給了千岳的親友。但值得慶幸的是，并沒有人真正收到?！肮烙嬕彩呛铣傻模饕€是我運氣比較好，他們也是要KPI的，看我沒有同意就放棄了?！?/p>

千岳發(fā)布的帖子

但并不是每個人都有這么好的運氣，已經(jīng)有許多人因為AI合成圖被勒索。

受到勒索的當(dāng)天，千岳在社交平臺上發(fā)布帖子求助，帖子發(fā)布后，有四五個類似經(jīng)歷的人向他咨詢，其中有一些已經(jīng)選擇“破財免災(zāi)”?！熬旄嬖V我，這種情況下唯一的方法就是刪除拉黑不理睬?！鼻г辣硎?，敲詐者基本都在境外，很難追查成功。

這種敲詐方式類似于一度非常猖獗的“裸聊”，同樣是利用人的欲望，但AI的介入讓整個過程更加簡化了。只需要一個能夠入侵相冊和通訊錄的軟件，即使受害者不露臉，都會被合成色情圖片，而且這些圖片真假難辨。

不僅僅是沒有“管住欲望”的男性會中招，女性同樣容易受到類似的勒索。

開篇提到的博主，正是被人用自己發(fā)布在社交網(wǎng)絡(luò)上的照片進(jìn)行了DeepFake。除了公開發(fā)布的照片外，一些AI圖生圖的小程序、來歷不明的二維碼等，都有可能成為信息竊取的渠道，通過把這些真實圖片信息“喂”給AI，從而生成逼真的色情圖片。“現(xiàn)在遭遇這種敲詐的人非常多。”千岳告訴刺猬公社。

除了通過照片勒索外，在AI合成聲音、實時換臉等技術(shù)日漸成熟的今天，相關(guān)領(lǐng)域的DeepFake詐騙也屢見不鮮。

“我接到的詐騙電話，聲音跟我朋友一模一樣，我沒有分辨出來?！备鶕?jù)Macfee2023年5月發(fā)布的AI語音詐騙相關(guān)報告，有77%的受害者因為AI合成語音詐騙付出經(jīng)濟(jì)損失，超過三分之一的人損失超過1000美元，而這種騙局正在成為當(dāng)下最主流的詐騙方式之一。

即使沒有主觀的勒索與詐騙行為，很多女性被惡意制作AI合成圖片、視頻后，也會遭受造謠、隱私泄露、網(wǎng)絡(luò)暴力等困擾。值得關(guān)注的是，很多AI色情圖片制作者，會從網(wǎng)絡(luò)公共社區(qū)提取圖片“喂”給AI，根據(jù)美媒404 Media的報道，CivitAI、Discord等AI生圖網(wǎng)站都存在著抓取網(wǎng)絡(luò)圖片的情況，Reddit、YouTube等擁有龐大用戶的網(wǎng)站都深受其害。

AI色情圖片創(chuàng)作者們在互聯(lián)網(wǎng)的各個角落里搜刮著照片、圖像信息，最終“喂養(yǎng)”出名為色情內(nèi)容的“惡獸”。當(dāng)他們流出到全網(wǎng)，普通人面臨的可能是敲詐勒索，名人明星面對的可能就是大規(guī)模的圖像視頻造謠。

現(xiàn)如今，很多明星、網(wǎng)紅都已經(jīng)成為DeepFake的受害者，在AI技術(shù)的加持下，大量換臉視頻、合成圖片被制造出來，并造成了極其惡劣的影響。這是一場從上到下的危機，在AI時代，每個人都有可能被迫成為“商品”，“有圖有真相”不復(fù)存焉。

三、脫韁、失控、治理

除了色情內(nèi)容、詐騙勒索等灰色產(chǎn)業(yè)外，AIGC背后的內(nèi)容侵權(quán)問題也愈演愈烈。

AI繪圖所引發(fā)的大討論仍在眼前，反對者認(rèn)為AI生圖是“尸塊拼接”“畸形產(chǎn)物”。在他們看來，AI生圖并不是一種創(chuàng)作，而是一種重組，被投喂了一個畫師的大量作品后，AI會不自覺的產(chǎn)生類似作品，這本身就是一種侵權(quán)。而當(dāng)AI繪圖被廣泛應(yīng)用于各大平臺后，這種“侵權(quán)”行為似乎越來越明顯，甚至出現(xiàn)了企業(yè)利用AI侵權(quán)的行為。

AI繪圖爭吵不斷，而在文本領(lǐng)域，新的“信任危機”也在蔓延。2023年9月，亞馬遜推出了新的政策，限制AI內(nèi)容制作者每日出版作品的數(shù)量。原因就在于，AI生成的書籍，正在擾亂整個圖書市場。

跟AI生圖一樣，AI生成文本內(nèi)容同樣基于對網(wǎng)絡(luò)文本的大量深度學(xué)習(xí)，而當(dāng)生成某一種類型的書籍時，不可避免地會參考某些作家的文本，于是侵權(quán)問題再度出現(xiàn)。6月，就有一批作家與用戶向亞馬遜抗議，原因是青少年言情小說榜上AI生成的“書”明顯帶有一些作家的風(fēng)格色彩。

當(dāng)一位作家在網(wǎng)絡(luò)上大量發(fā)布文本內(nèi)容后，其創(chuàng)作的文本很有可能被AI書籍創(chuàng)作者作為訓(xùn)練數(shù)據(jù)投喂給AI，最終養(yǎng)成一個跟作家本身風(fēng)格類似的AI創(chuàng)作者，搶占作家自身應(yīng)有的讀者和收益。

另一方面，AI創(chuàng)作的高效率、低成本也致使AI書籍過分泛濫，內(nèi)容卻難以保證質(zhì)量，整個市場被AI作品充斥，擾亂用戶的消費過程。

從AI圖片到AI書籍，侵權(quán)、泛濫現(xiàn)象層出不窮，歸根結(jié)底上是AI創(chuàng)作低門檻、弱監(jiān)管所導(dǎo)致的創(chuàng)作脫韁，是“人”所導(dǎo)致的。但在AI產(chǎn)品大量出現(xiàn)的今天，AI自身的失控也值得關(guān)注。

當(dāng)產(chǎn)品的運維過程出現(xiàn)失誤，AI自身很有可能出現(xiàn)失控現(xiàn)象，前面提到的Replika智能體騷擾事件就是一個例證。

大廠也難以避免類似問題，2023年10月，Meta推出了AI生成聊天貼紙功能“Emu”，用戶可以通過prompt在幾秒鐘內(nèi)創(chuàng)建獨屬于自己的高質(zhì)量貼紙。但貼紙本身的內(nèi)容卻令人大跌眼鏡，由于缺乏過濾系統(tǒng)，當(dāng)用戶對有爭議的提示詞進(jìn)行組合輸入后，AI會產(chǎn)出各種奇形怪狀的貼紙，比如帶有女性特征的馬斯克、手持武器的孩子等。

目前已經(jīng)有數(shù)十億張貼紙被創(chuàng)作出來，但是其中大部分都是用戶參透系統(tǒng)bug后的“整活”，各種邪典獵奇的形象被創(chuàng)作出來，其中很多都是違反社區(qū)規(guī)則的。當(dāng)系統(tǒng)本身出現(xiàn)問題，AI的失控就難以避免，畢竟用戶是難以規(guī)范的。

關(guān)于AI技術(shù)的脫韁與失控問題是必須解決的，但對于技術(shù)開發(fā)者、企業(yè)、監(jiān)管部門等產(chǎn)業(yè)上下游的所有參與者來說，這個問題都很具有挑戰(zhàn)性。

難點首先在于AI技術(shù)的開源性質(zhì)，在所有人都可以參與情況下，技術(shù)如何被應(yīng)用是很難規(guī)范的；而在內(nèi)容保護(hù)、版權(quán)維護(hù)等角度，需要對所有內(nèi)容社區(qū)進(jìn)行規(guī)范，實施難度極大；在最關(guān)鍵的“人”這一環(huán)，灰色地帶會產(chǎn)生相當(dāng)大的商業(yè)轉(zhuǎn)化空間，當(dāng)利益成為唯一的驅(qū)動力，一切治理的推動都會難上加難。

國內(nèi)的治理正在路上。

2023年10月12日，中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專業(yè)委員會正式成立，該協(xié)會由國家互聯(lián)網(wǎng)應(yīng)急中心、阿里云、華為、金山等單位企業(yè)共同發(fā)起。該協(xié)會將會在國內(nèi)AI安全領(lǐng)域發(fā)起努力，其中內(nèi)容安全、隱私保護(hù)、知識產(chǎn)權(quán)保護(hù)等方面更是重中之重。

從目前的現(xiàn)實來看，行業(yè)上游的治理仍需要時間，法規(guī)制定、監(jiān)管必然會成為當(dāng)下的治理重點。

一個無可辯駁的事實是，AI正在成為解放生產(chǎn)力的工具，并且正在改變這個世界。但在推動技術(shù)發(fā)展的同時，我們需要保有一份警惕。

畢竟技術(shù)背后的，是需要約束的人性。

（文中姓名皆為化名）

參考資料：

[1]Macfee.Beware the Artificial Impostor

[2]智能融點.Meta 的人工智能失控，這已經(jīng)不是第一次了

[3]硅基元.在人工智能色情市場里，一切甚至每個人都可以出售