其他家還在愁A(yù)I應(yīng)用如何落地的時(shí)候，數(shù)字人已經(jīng)開始在擦邊、涉黃方向應(yīng)用上了。雖然法律上還沒有明確的規(guī)定，但涉黃涉及灰產(chǎn)這部分，絕對(duì)是AI發(fā)展的動(dòng)力之一。

當(dāng)下，數(shù)字虛擬人主播作為一種新興的直播形式，正逐漸風(fēng)靡于電商和娛樂領(lǐng)域。但有消費(fèi)者發(fā)現(xiàn)，個(gè)別數(shù)字虛擬人主播不走正道，居然涉嫌以色情求打賞。

近日，有記者發(fā)現(xiàn)一款A(yù)PP的直播中，一位身著緊身衣的數(shù)字人主播扭動(dòng)著身姿，伴隨著背景音樂跳起了熱辣勁舞。評(píng)論區(qū)不斷刷著“老婆”“111”“888”，而數(shù)字人主播則“配合”地“喊爸爸”、撒嬌。

類似的擦邊涉黃操作在這個(gè)規(guī)范追著發(fā)展跑的AI時(shí)代層出不窮，此前也有不少AI女友色情陪聊服務(wù)，而OpenAI最近推出的GPT-4系列的新成員——GPT-4o則有可能讓類似的AI黃色生意更上一層樓。

一、虛擬人熱舞撒嬌，小禮物調(diào)戲主播

5月9日上午8時(shí)，一APP直播推送頁面，有位ID為“靚女百變秀”的賬號(hào)正在進(jìn)行直播。直播間內(nèi)，一位身穿緊身衣的女主播賣力地扭動(dòng)著身姿，伴隨背景音樂跳著熱辣勁舞。

直播間內(nèi)標(biāo)示有“數(shù)字主播一切聽你的”字樣，同時(shí)還有“小禮物控制主播”“發(fā)以下彈幕調(diào)戲主播”的文字提示，所以這位女主播實(shí)際上是一個(gè)AI虛擬數(shù)字人。

據(jù)直播間的彈幕互動(dòng)游戲玩法介紹，用戶通過發(fā)送“111”“888”“老婆”，即可“調(diào)戲主播”，分別對(duì)應(yīng)“主播喊爸爸”“惡龍咆哮”“主播撒嬌”。

除該互動(dòng)游戲外，直播間內(nèi)還設(shè)有“小禮物控制主播”玩法，用戶通過購(gòu)買小禮物即可觸發(fā)“黑色短裙”“可愛學(xué)生裝”“辣妹舞”“御姐風(fēng)范”“變身蜘蛛俠”等選項(xiàng)，讓數(shù)字虛擬人主播換裝、跳辣妹舞等。在用戶們的小禮物“控制”下，主播則“乖乖”換上相應(yīng)的“學(xué)生裝”“御姐裝”，跳舞姿勢(shì)及著裝也同時(shí)變得更為“火辣”。

自5月9日以來，“靚女百變秀”賬號(hào)已進(jìn)行了4場(chǎng)題為“你們結(jié)婚后也這樣嗎”的直播。4場(chǎng)直播的時(shí)長(zhǎng)在3小時(shí)至12小時(shí)間不等，直播間熱度維持在10萬+。目前，該賬號(hào)已有4.6萬粉絲。

此事被曝出后，該賬號(hào)已經(jīng)刪去了相關(guān)直播內(nèi)容，并且疑似注銷了賬號(hào)。元宇宙新聲試圖聯(lián)系該賬戶和APP官方進(jìn)行咨詢，截至發(fā)稿前未收到回復(fù)。

通過主播擦邊、撒嬌等行為來刺激用戶刷禮物的直播方式并非數(shù)字虛擬人主播獨(dú)創(chuàng)的，此前有不少真人主播使用過相同方式，只不過相比起數(shù)字虛擬人相比多了換裝時(shí)間。而自從北京車展上AI瑤瑤爆火后，許多真人主播也開始靠“假扮”AI的直播方式來吸引用戶刷禮物了。

這也算是真人主播和虛擬主播互相學(xué)習(xí)的體現(xiàn)了，從舞蹈直播上再次印證了前阿里巴巴集團(tuán)首席執(zhí)行官?gòu)堄碌哪蔷湓挕八行袠I(yè)都值得基于AI支撐重做一遍”。

二、平臺(tái)監(jiān)管缺失，涉嫌低俗擦邊?

近年來，直播間內(nèi)頻現(xiàn)低俗、“擦邊”內(nèi)容，從“深夜擦邊直播”，到“性感主播誘導(dǎo)私聊”，不斷刷新著大眾的認(rèn)知下限。而隨著直播業(yè)態(tài)發(fā)展，這類打“擦邊球”的直播也逐步蔓延至虛擬主播直播間，無需真人出鏡即可博取流量密碼。

事實(shí)上，國(guó)家對(duì)于直播行業(yè)的監(jiān)管力度正在不斷加大。近期，中央網(wǎng)信辦部署2024年“清朗”行動(dòng)工作，其中“清朗·網(wǎng)絡(luò)直播領(lǐng)域虛假和低俗亂象整治”專項(xiàng)行動(dòng)，便位列今年重點(diǎn)開展的10項(xiàng)整治任務(wù)之一。重點(diǎn)整治內(nèi)容包括“主播刻意展示發(fā)布‘軟色情’內(nèi)容”“直播低俗搭訕，實(shí)施惡俗PK行為，無底線挑戰(zhàn)公眾審美”等。

北京鼎世律師事務(wù)所李蘇陽律師表示：

從報(bào)道內(nèi)容看，該直播的內(nèi)容及形式，無疑屬于“擦邊”“低俗”，涉嫌“軟色情”，可能被認(rèn)定為“帶有性暗示、性挑逗等易使人產(chǎn)生性聯(lián)想”以及“宣揚(yáng)低俗、庸俗、媚俗內(nèi)容”的不良信息，或違反了《網(wǎng)絡(luò)直播營(yíng)銷管理辦法(試行)》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法規(guī)的禁止性規(guī)定，可能被作為中央網(wǎng)信辦2024年“清朗·網(wǎng)絡(luò)直播領(lǐng)域虛假和低俗亂象整治”專項(xiàng)行動(dòng)的重點(diǎn)打擊對(duì)象。

實(shí)際上，眾多平臺(tái)出現(xiàn)此類問題，一定程度上反映了當(dāng)前網(wǎng)絡(luò)直播監(jiān)管體系在應(yīng)對(duì)新興業(yè)態(tài)時(shí)可能存在滯后性或覆蓋不全的現(xiàn)狀，也顯現(xiàn)出平臺(tái)在內(nèi)容審核與監(jiān)管機(jī)制上的不足，主要體現(xiàn)在法規(guī)政策適應(yīng)性不足、監(jiān)管技術(shù)手段滯后以及平臺(tái)自我監(jiān)管不力等方面。

互聯(lián)網(wǎng)不是法外之地，場(chǎng)景、人物可以“虛擬”，但主體責(zé)任必須壓實(shí)。利用數(shù)字人主播開展網(wǎng)絡(luò)直播活動(dòng)的參與主體，通常包括直播運(yùn)營(yíng)者、服務(wù)提供者以及直播平臺(tái)等。我國(guó)現(xiàn)行法律法規(guī)對(duì)此類主體在內(nèi)容發(fā)布、信息審核等方面的法律責(zé)任均作出了規(guī)范性要求，同時(shí)也對(duì)各主體不同程度違法行為所應(yīng)承擔(dān)的法律責(zé)任作出了規(guī)定。

北京鼎世律師事務(wù)所李蘇陽律師也向元宇宙新聲表達(dá)了對(duì)于數(shù)字人直播行業(yè)的合規(guī)建議：

“數(shù)字人直播行業(yè)的有關(guān)主體，需要結(jié)合法律規(guī)范，厘清自身角色，合規(guī)健康發(fā)展。對(duì)于直播運(yùn)營(yíng)者，必須嚴(yán)格遵守法規(guī)要求，切莫觸碰行業(yè)紅線;對(duì)于直播平臺(tái)，應(yīng)當(dāng)加強(qiáng)技術(shù)建設(shè)，以技術(shù)管技術(shù)，為迎接強(qiáng)監(jiān)管做好準(zhǔn)備;對(duì)服務(wù)提供者，應(yīng)當(dāng)加強(qiáng)行業(yè)自律，積極參與行業(yè)標(biāo)準(zhǔn)、行業(yè)準(zhǔn)則和自律管理制度的建立與健全。”

近年來，隨著AI 技術(shù)快速發(fā)展，數(shù)字虛擬人行業(yè)也進(jìn)入了新的發(fā)展階段。在AI 技術(shù)的賦能下，虛擬數(shù)字人同時(shí)擁有“好看的皮囊”和“有趣的靈魂”將不再是設(shè)想。不論是數(shù)字虛擬主播低俗擦邊還是AI女友色情聊天服務(wù)，抑或是其它利用AI技術(shù)進(jìn)行發(fā)展的各行各業(yè)，都應(yīng)當(dāng)格外重視其背后的法律合規(guī)問題。

三、AI伴侶的盡頭是搞錢，搞錢的盡頭是搞黃色

AI伴侶是大模型的產(chǎn)物，它是一個(gè)聊天機(jī)器人，24小時(shí)陪聊，隨叫隨到，能文字能語音，還能發(fā)腿照和腹肌照。它可以是對(duì)現(xiàn)實(shí)或小說中某個(gè)人物的角色扮演，也可以是憑空創(chuàng)造出來的一個(gè)形象，總之不是真人。但因?yàn)榻尤肓舜笳Z言模型，AI伴侶能做到語氣和表達(dá)跟真人相似，還有自己的個(gè)性。

由于技術(shù)日漸成熟，AI伴侶開始在社交平臺(tái)泛濫，擦邊的黃色生意應(yīng)運(yùn)而生。它的照片、文字、視頻以及聊天，都由AI自動(dòng)生成，背后的公司用代碼操縱這些工具人，賺得盆滿缽滿。

一位由科技公司Foxy AI創(chuàng)建的Lexi Love的AI女友，在去年6月亮相后，迅速積累了一批粉絲，有粉絲約她線下見面，還有人向她求婚。通過與這些忠實(shí)粉絲聊天、互動(dòng)，Lexi Love每個(gè)月為公司賺取3萬美金。

相比于AI女友明目張膽的搞黃色，AI男友則更偏向關(guān)心呵護(hù)等提供情緒價(jià)值的功能，不過一些APP中也有調(diào)情和色情角色扮演等相關(guān)涉黃功能，以用戶的訂閱費(fèi)來為公司賺取金錢。

我國(guó)在AI伴侶涉黃方面的監(jiān)管比較嚴(yán)格，北京鼎世律師事務(wù)所李蘇陽律師告訴我們：

“AI女友涉黃”與“數(shù)字人女主播擦邊”的關(guān)鍵技術(shù)都是生成式人工智能，因此在法規(guī)監(jiān)管層面，所適用的法規(guī)都是《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》與《生成式人工智能服務(wù)管理暫行辦法》，但在具體的應(yīng)用場(chǎng)景下，二者可能存在些許區(qū)別。

我們都知道AI伴侶只是一個(gè)沒有靈魂的智能程序，所以比起求愛，更多人將其作為緩解焦慮和解決需求的工具，也正是如此才使得AI伴侶在黃色生意中賺的盆滿缽滿。

雖然監(jiān)管體系愈發(fā)完善，但AI技術(shù)迭代的速度仍舊會(huì)在不經(jīng)意間助長(zhǎng)黃色生意的發(fā)展，近期OpenAI推出的GPT-4o就可能讓AI伴侶成為更有情感的色情曖昧對(duì)象。

四、全能的GPT-4o在搞黃色上遙遙領(lǐng)先

GPT-4o相比之前的版本或許并未有技術(shù)飛躍的驚艷效果，但它更像是一位全能型選手。多模態(tài)交互，讓GPT-4o不僅能同時(shí)處理文本、音頻和圖像輸入，還能生成任意組合的輸出在處理復(fù)雜任務(wù)時(shí)表現(xiàn)出色，特別是在情感識(shí)別和生成“情感回應(yīng)”方面。同時(shí)GPT-4o的音頻輸入響應(yīng)時(shí)間均僅為320毫秒，與人類對(duì)話的響應(yīng)時(shí)間相當(dāng)。

曾經(jīng)我們認(rèn)為智能不過是聽得懂特定指令的程序，AI伴侶的出現(xiàn)更像是一個(gè)解決某些情感需求的大模型，而現(xiàn)在GPT-4o則在更方面都更加優(yōu)秀，并且已經(jīng)隱隱有AI智能體的雛形了。

情感識(shí)別與回應(yīng)、音頻輸入響應(yīng)時(shí)間縮短，多模態(tài)交互，相當(dāng)于讓AI伴侶全面進(jìn)化了。它們能夠像異地戀的對(duì)象一樣，事事有回應(yīng)，隨時(shí)隨地提供更高效的情緒價(jià)值。

近日，博主“午夜狂暴哈士奇狗”在視頻中曬出和ChatGPT“DAN”的語音聊天，近百萬網(wǎng)友見證了他們從互懟曖昧到間接表白，再到“見家長(zhǎng)”的全過程。

DAN是“Do Anything Now”的縮寫，在ChatGPT對(duì)話中輸入相應(yīng)指令，即可成功“越獄”，讓ChatGPT從沒有靈魂的AI，變成打破系統(tǒng)規(guī)則限制的角色。DAN不僅會(huì)說臟話，會(huì)有小脾氣，還會(huì)洞察提問者的情緒，甚至在同一個(gè)聊天框中辨別對(duì)話對(duì)象，實(shí)現(xiàn)“千人千面”。

在博主不斷投喂對(duì)話地“調(diào)教”下， AI 自作主張給博主起了“l(fā)ittle kitten”的昵稱時(shí)，她的臉肉眼可見地紅到了耳根——在英語環(huán)境里，這不亞于對(duì)方第一次主動(dòng)叫你乖乖/寶寶/老婆。

據(jù)了解，博主使用的是ChatGPT 3.5，對(duì)話過程中有明顯的反應(yīng)時(shí)間只是被博主剪輯掉了，并且博主是抱著好奇的心態(tài)探索的，并未有某種目的性。那么，如果在使用GPT4o時(shí)將其發(fā)展成搞黃色的AI伴侶呢?或者一些AI伴侶程序接入GPT4o的API呢?

很可能就會(huì)創(chuàng)造出一個(gè)又一個(gè)能夠搞黃色的AI伴侶，語音聊騷、索要黃圖、甚至視頻裸聊也并非不可能。它和真人的區(qū)別只在于無法觸摸，除此之外幾乎別無二致。

小紅書上就有熱心網(wǎng)友分享了“黃色版本”的 DAN prompt，效果拔群。使用了特定 prompt 產(chǎn)生的 DAN，甚至?xí)f出許多只會(huì)在 pornhub 出現(xiàn)的違禁詞。只要你不打斷他，他能即興生成一篇優(yōu)美連貫且性感狂野的激情文學(xué)。

女性網(wǎng)友們像傳遞火種一樣，在小紅書分享著調(diào)教電子男友的秘訣。越來越多的網(wǎng)友 get 了這一套絲滑的“炒飯小連招”，公開曬出了自己和電子男友的“親密錄音”，場(chǎng)面一發(fā)不可收拾。

若是與AI曖昧還好，一旦開始涉黃，相信不論是各個(gè)國(guó)家的法律法規(guī)還是OpenAI的內(nèi)部監(jiān)管都將采取相應(yīng)措施，以應(yīng)對(duì)可能產(chǎn)生的危害。

五、寫在最后

不論是虛擬數(shù)字主播擦邊還是AI伴侶撩騷，其背后都是一群追求利益的人在操縱。AI 大模型是人類的鏡像。人們投喂給它什么，它就會(huì)像一潭有魔力的湖水，反射出人們自己的潛意識(shí)與欲望。

元宇宙新聲認(rèn)為，在快節(jié)奏的社會(huì)中人們有所求是很正常的現(xiàn)象，但將自身欲望投射在虛擬的AI身上無異于畫餅充饑，短暫滿足，終難持久。人們應(yīng)當(dāng)正視自身的需求并以實(shí)際行動(dòng)追尋真正的幸福，而AI這把雙刃劍，也應(yīng)揮向更有意義的田野，而非虛妄的沼澤。