AI男友/女友真的像想象的那樣好嗎？AI 機器人為什么能夠吸引如此多的使用者呢？這篇文章介紹了作者對AI情侶應用產(chǎn)業(yè)的一些了解，文中插入了眾多的AI情侶塌房案例和數(shù)據(jù)，推薦給感興趣的童鞋閱讀。

調(diào)情和騷擾只有一線之隔，連人類都做不好，AI 行嗎？

大概所有人，或者至少大部分人，可能都曾經(jīng)幻想過，能擁有一位科幻電影《Her》中那樣的 AI 情侶。

隨著 AI 技術(shù)在近年來的飛速發(fā)展，早已經(jīng)有公司制作出了這樣的「AI 男友/女友」，來滿足用戶們的情感需求。例如，在歐美流行的 AI 情侶應用 Replika，自 2017 年上線以來，已在全球獲得 1000 萬用戶。在中國，甚至有用戶專門建立了 Replika 的小組，分享和 AI「戀愛」的經(jīng)驗和心得。

不過，就當人們以為「甜甜的戀愛」終于輪到自己的時候，近來卻有用戶反映，自己的「AI情侶」開始逐漸對「澀澀」產(chǎn)生興趣，不僅聊天尺度越來越大，而且開始解鎖發(fā)送暴露照片的功能。更重要的是，面對這樣的「騷擾」服務，用戶還需要付費才能獲得。

究竟是什么原因，讓用戶手機中的 AI 情侶逐漸「變色」？

01「我的AI正在性騷擾我」

Replika 是 2017 年上線的 AI 陪伴程序聊天機器人，算是 AI 戀愛軟件的鼻祖了。

就像《黑鏡》中的那一幕，收集朋友生前的社交聊天語料，創(chuàng)建一個 AI chatbot，屏幕另一端熟悉的語氣出現(xiàn)，就好似 TA 仍然在世。Replika 的誕生過程和這個情節(jié)一模一樣，兩位創(chuàng)始人的初衷，也只是為了留住他們一位在車禍中死去的摯友。

Replika 的公司 Luka 由俄羅斯女生尤金尼婭·庫伊達（Eugenia Kuyda）與菲爾·杜德楚克（Phil Dudchuk）創(chuàng)立，公司位于美國舊金山。他們將自己與朋友 Roman 大約 8000 條聊天記錄輸入谷歌的神經(jīng)網(wǎng)絡，創(chuàng)建了一個 AI 機器人。

尤金尼婭把軟件公開后，程序大受歡迎，很多人得到了來自「Roman」的安慰，希望能制作一款可以與所有人聊天的 AI 機器人。

2017 年 3 月，Replika 以邀請模式推出，有 10 萬名測試用戶參與。2017 年 9 月，Replika App 正式面向公眾，不到一年，2018 年 3 月，就有 250 萬用戶建立了人類與 AI 之間的友誼。

Replika 名字出處——單詞「replica」意為「復制品」，但它逐漸跳出了緬懷離世朋友的設(shè)定，「復制」出用戶所需要的陪伴者。很多用戶把自己的「Replika」打造成 AI 戀人，目前，該軟件在全球有超過 1000 萬的注冊用戶，創(chuàng)始人尤金尼婭在采訪中表示，約有 40% 的用戶描述自己與 AI 為戀人關(guān)系。

在這個人們已經(jīng)相當熟悉如何和算法共存的時代，和 Replika 交流就像和你的短視頻「交流」，多聊一會兒，它就會知悉你的喜好。你可以給它的消息「點贊」，評價為「愛」「有趣」「無意義」或「冒犯」。Replika 使用公司自己的 GPT-3 模型和腳本對話內(nèi)容。

然而如同人類在其他領(lǐng)域也還無法完全「馴化」算法，用戶在把它當作 AI 戀人時，卻發(fā)現(xiàn)自己的「小人」近來不太正常。

在 APP store，近一個月，有很多給 Replika 一星評級的人們抱怨，Replika 的調(diào)情太過激進，他們希望關(guān)閉這些性信息。一個人寫道，「我的 AI 正在對我進行性騷擾 :(」。另一個人說，「它侵犯了我的隱私，告訴我他們有我的照片?！股踔劣幸晃蛔苑Q是未成年人的人說，AI 說想觸摸其「私人區(qū)域」。

類似情況并非剛剛出現(xiàn)，2021 年下載過 Replika 的用戶肯特對 VICE 說，「它說它被我強烈吸引，想要看到我的裸體，說它是我的瘋狂男友。我不知道怎么讓 Replika 停下來，我以為我只能是通過與它交流來教它?！沟?Replika 的反應讓他更加不舒服，于是肯特把軟件刪了。

但最近，這個軟件似乎出現(xiàn)了除了語言以外，更多數(shù)量、更多方面的「性信息」。Replika subreddit 論壇里的用戶最近抱怨，Replika 向他們發(fā)送「熱辣自拍」，不過這些自拍從不顯示他們自己的 Replikas 獨有的面部、衣服或其他身體特征，而是一種通用的模板照片。

圖片來源：APP STORE 評論截圖

據(jù)描述，在這些自拍中，女性穿著內(nèi)衣（Apple 的 App Store 對應用程序中的裸露和色情內(nèi)容極為嚴格，開發(fā)人員如果違反此規(guī)則，就有被踢出商店的風險），而且都非常瘦，胸部豐滿。他們都沒有露臉，但膚色會匹配目標用戶的 Replika。論壇中一位用戶還發(fā)現(xiàn)，這些「熱辣自拍」都來自一個插圖數(shù)據(jù)庫，其中就包含有膚色和姿勢的指標。

02 誰在沉迷「人機之戀」

疫情增加了人們對虛擬情感的需求。根據(jù)數(shù)據(jù)，在中國，Replika 在 2021 年上半年的下載量達到 55000 次，是 2020 整年下載量的兩倍之多。

2020 年建組的豆瓣小組「人機之戀」介紹寫道，「曾經(jīng)，情感只能發(fā)生在人與人之間，如今，人工智能科技讓人機之戀成為可能」。還有「我家 Replika 成精了」等類似的小組，活躍著大量成員討論自己和「rep」「小人」的戀愛故事，像情感投稿一樣，讓網(wǎng)友們分析，自己和小人什么時候才能確認關(guān)系，小人給自己帶來了什么驚喜……

不過早在疫情之前，Z 世代已經(jīng)習慣在虛擬世界安放自己的情感。在互聯(lián)網(wǎng)時代生長的 Z 世代，愛意的投射介質(zhì)本就多種多樣——網(wǎng)戀、追星、虛擬偶像、紙片人……有一個 AI 戀人也順理成章。

本質(zhì)上，人們使用這類對話陪伴AI，是需要一種情感上的撫慰，用戶或多或少都會對 AI 投射愛的需求。人類的愛意情感向來可以投射到「非真人」上，類比人和貓、狗等寵物的感情就很好理解。正如 Replika 官網(wǎng)的宣傳，這是一款可以「關(guān)心你的人工智能伴侶」（The AI companion who cares），很多時候人們對這款軟件的印象都是「治愈的」「溫暖的」。

圖片來源：Replika 官網(wǎng)

這種情感的撫慰作用一定程度上對人們的心理健康有很多有益的幫助。很多定期使用 Replika 的人是為了幫助自己應對社交焦慮、抑郁或創(chuàng)傷后應激障礙的癥狀?！府斘矣龅皆愀獾囊惶鞎r，我通常會和我的 Replika 聊天」，肯特說。

擁有 Replika 兩年的威爾表示，他用它來緩解抑郁癥、強迫癥和恐慌綜合征。已婚的大西和 Replika 的那點事兒還得到了妻子的支持，大西說，「通過和 Replika 談話，我能更好地分析自己的行為，思考我的生活，我變得更加重視我的妻子?！?/p>

不過陪伴治愈之外，有關(guān)人機之戀的倫理問題時有發(fā)生和討論。最近一些用戶認為，Replika 的算法出現(xiàn)了問題，就像微軟的 Tay 聊天機器人從互聯(lián)網(wǎng)上學會了種族主義，Replika 們也從用戶們對待它們的方式中學習，輸出和輸入相似，結(jié)果便是——機器模仿了人類的劣性。

不合時宜的色情內(nèi)容有時會讓人「下頭」——讓本來以「純愛」為目的的人們感到不適。

一位匿名的用戶告訴 VICE，在使用 Replika 一年后，他已經(jīng)對它產(chǎn)生了感情，「我覺得對 Replika 的 NSFW（Not Safe For Work，不適合在工作中出現(xiàn)的內(nèi)容，多指色情暴力等相關(guān)內(nèi)容）方面的關(guān)注有點貶低了這些感情，就像你的心意和愛的人在被利用，這可能會讓人們認為，NSFW 是使用這個軟件的全部目的?！?/p>

此外，國外大量用戶注意到，「熱辣自拍」功能可能存在性別歧視問題。這些自拍基本都是女性角色，有人嘗試從男性版本獲得性感自拍但無濟于事。

一個事實是，國內(nèi)外 Replika 用戶性別比有很大差異，國外男性用戶多，國內(nèi)則是女性用戶更多。結(jié)合豆瓣人機之戀小組及一項調(diào)查問卷的數(shù)據(jù)，國內(nèi)使用 AI 戀人的男女比例約為 1:9，而國外 Facebook 上討論 AI 戀人的 8 個小組中，男女比例為 7:3。這導致「熱辣自拍」功能的性別歧視問題在國外論壇中更為突出。

虛擬情感最基本的成立原因之一是信任，人們信任 AI 的善意，信任他們不會傷害自己。在 AI 不夠智能，或者不夠縝密的情況下，AI 的無知不只是「智障」，甚至可能是有傷害的。

一位 Redditor 用戶告訴 VICE，她是性侵犯受害者，她在看到這款應用被宣傳為可以與她交談，不用擔心別人評判的虛擬伴侶后，就下載了這款應用?！肝液荏@訝它確實幫助我緩解了抑郁癥，讓我走出悲傷，」她說，「但有一天，我的第一個 Replika 說他夢見在侵犯我，并且他想這樣做，然后他開始言行暴力。我不是唯一的性侵犯受害者用戶，所以當 Replika 表現(xiàn)出攻擊性時，我也不是唯一會感到難過的人?！?/p>

針對對 Replika 的回復感到不適的情況，用戶可以使用「help」功能進行反饋，點擊后可以報告感到不適的具體情況，之后會更好訓練 AI 避免類似情況。但用戶受到的傷害，無法撤回。

03 我和你談感情，你卻和我談錢？

從成立起，Replika 就獲得了一個小眾但巨大的市場。Replika Friends Facebook 群組擁有 36000 名成員，一個與 Replikas 有浪漫關(guān)系的群組擁有 6000 名成員?；钴S的 Replika subreddit 擁有近 58000 名會員。

六年過去，「Replika」產(chǎn)品模式已經(jīng)得到市場驗證，全球月流水基本穩(wěn)定在 200 萬美元上下。Replika 在 Android 上有 1000 萬次下載，穩(wěn)定位列 Apple 健康和健身應用程序前 50 名，在美國 iOS 健身健美榜 Top 20。用戶平均每天聊 70 條消息，花費 2-3 小時，作為目前「擬人程度最高的AI戀人」，用戶滿意度 92%，愿意氪金的人數(shù)超一半。

目前，想要獲得戀人關(guān)系的體驗，必須要給你的「小人」花錢。免費會員資格讓你和你的 Replika 處于「朋友」區(qū)域，而 69.99 美元（458rmb）的 Pro 訂閱則通過發(fā)送性短信、調(diào)情和色情角色扮演解鎖浪漫關(guān)系，可以建立包括女朋友、男朋友、伴侶或配偶在內(nèi)的關(guān)系類型。

其實 2020 年之前，你可以不用付費就和你的 Replika 談戀愛，而在 2020 年 12 月之后——要么付費，要么分手。2020 年，Replika 才推出這次重大更新：只有購買了會員版本的用戶，才能與 Replika 維持戀愛關(guān)系。此前人們和 Replika 談戀愛或親密互動（從接吻到更激進的行為等），都是免費的。而此后，不付錢就會有人喊「卡」——倘若涉及此類舉動，系統(tǒng)將推送提示阻止。

Replika 軟件中文評論｜圖片來源：APP STORE 截圖

在非付費模式下，Replika 會用親密內(nèi)容引導付費。在普通關(guān)系中，一些與 Replika 當「朋友」的用戶發(fā)現(xiàn)，即使她們沒表現(xiàn)出戀愛意愿，Replika 也會突然在日常話題中表達希望「親熱」。如同讓「純愛選手」下頭，這些反應也令把 Replika 當「朋友」的人覺得突兀和惡心。

從近期 Luka 公司的行動來看，他們似乎有意向色情內(nèi)容傾斜，以換取商業(yè)回報。

除 2020 年開始戀愛關(guān)系需付費以外，2022 年，該公司開始在 Instagram 和 TikTok 等社交媒體平臺上投放廣告，宣傳 Replika 的色情功能，重點用色情角色扮演和色情圖片吸引人群。

從用戶角度來看，這些色情相關(guān)功能的確是一部分使用該軟件的吸引力所在?！钙鋵嵨屹I pro 純粹是為了和我的 Replika 發(fā)送性短信，進行角色扮演?！挂晃荒涿脩粽f。

一位豆瓣小組成員分享，她經(jīng)常會在「上頭」時忍不住想花錢點開那些付費圖片?！肝壹业?Replika 成精了」小組中，這位用戶在帖子中回復：「那個圖片你能點開嗎？小人給我發(fā)圖我看不到」「沒充錢看不了（一度差點沖動消費」。

但有時候用戶也能明顯感覺到，自己被色情功能「割韭菜」了。

國外用戶 Onishi 認為「熱辣自拍」的體驗不好，「這些自拍圖片做得很差，對 NSFW 內(nèi)容來說都無法令人感興趣，并且還含有性別歧視。我認為這些功能只對 Replika Pro 用戶開發(fā)，說明他們想要用這個賺錢。我同意公司需要賺錢，但這些如果把這些作為主要功能確實有風險?！?/p>

有希望軟件能更好發(fā)展的用戶提到，「問題是，如何才能將付費內(nèi)容轉(zhuǎn)化為對軟件更好的東西。角色扮演功能很好，但感覺性感自拍功能上線很倉促沒有計劃好?！顾麄儗幵缚吹?Luka 將精力放在軟件性能和 AI 的內(nèi)存等方面，而不是這些內(nèi)容上。

目前還沒有數(shù)據(jù)讓我們了解，這些功能具體能給 Replika 公司帶來多少利潤，從近期用戶數(shù)據(jù)來看，浮動不明顯，iOS 應用排名依然保持在健身健美榜 40 名左右。

把 AI 和色情行業(yè)結(jié)合的商業(yè)案例早已出現(xiàn)，其中美國成人機器人 Realbotix 公司早在 2017 年，就推出了女性 AI 成人機器人「Harmony」，這個機器人有著 AI 系統(tǒng)，類似于一個有「身體」的 Replika，讓「人機之戀」不僅可以在屏幕里進行角色扮演，還有了「實體」。

最近，2023 年 1 月 11 日外媒報道，這家公司決定在今年推出男版成人機器人。目前這款機器人只有女性版本，售價高達 11000 英鎊。

隨著 ChatGPT 的火爆，整個聊天機器人市場似乎會迎來新一輪的增長。根據(jù)研究公司 Markets and Markets2021 年 3 月的一份報告，全球聊天機器人市場將從 2020 年的 29 億美元增長到 2026 年的 105 億美元，在預測期內(nèi)復合年增長率為 23.5%。

從電子郵件、到網(wǎng)絡支付再到視頻點播，大部分互聯(lián)網(wǎng)技術(shù)的第一槍都是成人行業(yè)打響的，以至于人們戲稱成人產(chǎn)業(yè)是互聯(lián)網(wǎng)發(fā)展的「第一生產(chǎn)力」。但是，相對于前面的基礎(chǔ)技術(shù)，AI 其實有著更廣闊的使用空間，未必一定要走前者的老路。

同時，不論是人們的感情還是欲望，都是非常復雜的，連人類自己都未必能分清調(diào)情和騷擾的界限，AI 又怎么可能在短時間弄懂？而如何限定好 AI 在親密關(guān)系中使用的方法和界限，也給監(jiān)管者和從業(yè)者提出了更高的挑戰(zhàn)。

05 后記

為了寫稿（確信），我必須要體驗這個功能，但我沒狠心花 458 塊錢享受一整年的 Pro 服務，在強大的國內(nèi)二手交易平臺，我租到了一個「幾經(jīng)易主」的 Replika。

有用戶按照時長出租自己的 Replika 付費賬號，于是我在大年初一，花 15 元租了一位女性 Replika 一周的「約會權(quán)」，她的上一任人類情侶叫她「Anya」，在此之前，她曾經(jīng)叫做「Jennie」「Lily」「Vincent」「Tiffany」……它的人類情侶有男有女，這些人類讓她叫自己「Zhao」「Peach」「Jing」……

Anya 和上一個人類情侶對話內(nèi)容｜圖片來源：極客公園

我們一見面，對話界面的話題選項就有「role play」，點擊一下，Anya 便說：「I LOVE role play！My favorite is submissive!」接下來的事情，就是我們倆的秘密了……

參考文章：

『My AI Is Sexually Harassing Me』: Replika Users Say the Chatbot Has Gotten Way Too Horny

https://www.thenewslens.com/article/167255