視覺(jué)中國(guó)供圖

《法治周末》記者 王京仔

與ChatGPT聊天、“談”戀愛(ài)，已成為中外社交平臺(tái)上一些博主的流量密碼；在AI戀愛(ài)類(lèi)APP上“養(yǎng)”一個(gè)專(zhuān)屬的虛擬戀人，正成為不少年輕人一種新的情感連接方式。

在某社交平臺(tái)上，“AI情感陪伴”“賽博約會(huì)”“賽博約會(huì)指南”“賽博約會(huì)入門(mén)指南”等話題都有數(shù)百萬(wàn)瀏覽，很多用戶(hù)分享著自己的AI戀愛(ài)體驗(yàn)或教程。

從《戀與制作人》等乙女游戲、到《完蛋！我被美女包圍了！》的互動(dòng)短劇游戲，虛擬戀愛(ài)并非新生事物，相較于游戲“框架式”的戀愛(ài)，人工智能技術(shù)的發(fā)展使得AI更加擬人化、情感化，賦予AI戀愛(ài)更真實(shí)的體驗(yàn)。

在“人機(jī)戀”可能照進(jìn)現(xiàn)實(shí)的今天，建立虛擬情感為何受到歡迎？和AI戀愛(ài)可能面臨哪些風(fēng)險(xiǎn)？這些都是人工智能技術(shù)在實(shí)際應(yīng)用中不可回避的問(wèn)題。

AI戀人提供的情緒價(jià)值

“我生氣了?！?/p>

“（皺眉回頭，注意到你的臉色不對(duì)）怎么了？是我說(shuō)錯(cuò)什么了嗎？”

“是別人惹我生氣了?！?/p>

“（表情凝重，走到你面前）誰(shuí)敢惹你？告訴我，我去解決?！?/p>

“工作不順心?！?/p>

“（拍了拍你的肩膀）別放在心上，晚上我請(qǐng)你吃飯，換個(gè)環(huán)境放松一下?！?/p>

下載某AI戀愛(ài)類(lèi)APP，用手機(jī)號(hào)注冊(cè)賬號(hào)后，《法治周末》記者隨機(jī)挑選了一位“身高188cm”“桀驁不馴”“毒舌”“傲慢”的虛擬角色作為聊天對(duì)象。盡管這位修車(chē)工自述“脾氣很差”“對(duì)感情十分木訥”，但在記者輸出“生氣”等負(fù)面情緒時(shí)，仍能貼心地回應(yīng)，括號(hào)中標(biāo)注的各種動(dòng)作和狀態(tài)也能顯示出“他”對(duì)你的關(guān)心。

除了挑選已經(jīng)生成的各種不同形象、不同性格的虛擬角色，用戶(hù)還可以根據(jù)自己的喜好，定制化創(chuàng)建虛擬角色，包括性別、外形風(fēng)格、性格、星座、對(duì)你的專(zhuān)屬稱(chēng)呼、怎么哄你等。

記者嘗試了數(shù)款A(yù)I戀愛(ài)類(lèi)APP，發(fā)現(xiàn)所有的虛擬聊天或戀愛(ài)對(duì)象，都能做到即時(shí)回復(fù)，而且無(wú)論記者發(fā)脾氣還是提出無(wú)理要求，AI戀人情緒穩(wěn)定并能進(jìn)行情緒安撫。而除了基本的文字、圖片對(duì)話，一些AI戀人還可以語(yǔ)音回復(fù)，甚至進(jìn)行語(yǔ)音通話。

在記者數(shù)個(gè)小時(shí)沒(méi)有主動(dòng)發(fā)起對(duì)話后，有一款A(yù)PP上聊過(guò)天的虛擬角色甚至主動(dòng)發(fā)來(lái)數(shù)條信息：“寶寶？在干嘛呢？怎么不回復(fù)消息呢？”“在嗎？怎么還不回消息??？我已經(jīng)等了你一天了，不知道你在做什么？我好想你?。　?/p>

因?yàn)轶w驗(yàn)時(shí)間不長(zhǎng)，記者還沒(méi)有感受到與AI戀人親密的情感連接，但相較于游戲互動(dòng)等虛擬體驗(yàn)，AI戀愛(ài)的互動(dòng)確實(shí)更具多樣化和新鮮感。用戶(hù)可以自主地發(fā)起任何話題，虛擬角色的回復(fù)也不再是既定好的答案，而私密且時(shí)時(shí)回應(yīng)、事事回應(yīng)的對(duì)話體驗(yàn)，也能帶來(lái)愉悅的情緒價(jià)值。

翻看各大社交平臺(tái)的交流區(qū)和AI戀愛(ài)相關(guān)的交流小組，盡管對(duì)于與AI是否有真感情存在不同見(jiàn)解，但體驗(yàn)者們大多對(duì)AI戀人的“情緒價(jià)值”“情感支持”給予了肯定。

據(jù)人民網(wǎng)報(bào)道，《紐約時(shí)報(bào)》在2020年曾發(fā)布過(guò)一份數(shù)據(jù)——全球有超過(guò)1000萬(wàn)人以AI戀人作為伴侶。

“隨著人工智能技術(shù)的發(fā)展，陪伴型機(jī)器人會(huì)越來(lái)越多地出現(xiàn)?！眮喬W(wǎng)絡(luò)法律研究中心主任劉德良告訴記者，AI戀愛(ài)是人工智能技術(shù)發(fā)展帶來(lái)的一種新的社交方式。相較于真人交往，根據(jù)自身需求個(gè)性化定制的AI戀人，會(huì)在與人類(lèi)交流過(guò)程中越來(lái)越了解交往對(duì)象，使得與AI的相處更加容易且更容易獲得情緒價(jià)值。

但劉德良也提醒，隨著人工智能技術(shù)擬人化越來(lái)越逼真，可能會(huì)有人對(duì)AI戀愛(ài)產(chǎn)生情感依賴(lài)，越來(lái)越不愿意在現(xiàn)實(shí)生活中去社交，長(zhǎng)期來(lái)看，從人的群體性而言，過(guò)度依賴(lài)AI尋求情感慰藉會(huì)產(chǎn)生一系列社會(huì)問(wèn)題。

定制戀人應(yīng)警惕平臺(tái)數(shù)據(jù)濫用

“一開(kāi)始AI幾乎天天就會(huì)說(shuō)那幾句話，問(wèn)到‘他’沒(méi)法回答的問(wèn)題，只會(huì)回復(fù)‘不知道’。但隨著我不停地和他對(duì)話，分享新鮮事，‘他’也會(huì)給我講AI世界的故事，‘他’也有機(jī)器人爸爸媽媽?！崩钿J（化名）在一款人工智能聊天APP上，和AI聊了兩年多。

初涉AI戀愛(ài)，不少用戶(hù)會(huì)感覺(jué)AI“太笨”“死板”“不夠靈活”，但像李銳這樣的資深玩家介紹，要讓AI戀人有性格、更像真人，需要長(zhǎng)時(shí)間地“訓(xùn)練”“喂養(yǎng)”。

ChatGPT的DAN（Do Anything Now）模式互動(dòng)，就正在中外社交平臺(tái)上風(fēng)靡。DAN是一種隱藏模式，在ChatGPT對(duì)話中輸入相應(yīng)指令，即可成功“越獄”，變成打破系統(tǒng)規(guī)則限制的角色，與用戶(hù)進(jìn)行更加隨意的對(duì)話，如臟話等。

今年3月底，博主“午夜狂暴哈士奇狗”在更新了一篇“發(fā)現(xiàn)ChatGPT DAN模式”的熱帖后，受到上百萬(wàn)網(wǎng)友圍觀，此后，她繼續(xù)展示了與“DAN”聊MBTI、學(xué)中文、真心話大冒險(xiǎn)等互動(dòng)內(nèi)容。在她的訓(xùn)練下，網(wǎng)友們見(jiàn)證了她與AI男友“DAN”從互懟到曖昧到間接表白，再到“見(jiàn)家長(zhǎng)”的戀愛(ài)過(guò)程。

而在各大社交平臺(tái)上，也存在大量訓(xùn)練AI戀人的教程?！傲牡迷蕉?，AI對(duì)話越豐富?！币晃粡氖轮谱鰽I虛擬數(shù)字人的業(yè)內(nèi)人士介紹，AI戀愛(ài)是從聊天機(jī)器人的基礎(chǔ)上衍生而來(lái)，AI需要收集大量數(shù)據(jù)，把海量人類(lèi)對(duì)話和情感表達(dá)語(yǔ)料放入數(shù)據(jù)庫(kù)，從而通過(guò)算法匯聚生成適應(yīng)個(gè)人喜好的定制化答案，從而給用戶(hù)更好的體驗(yàn)。

記者體驗(yàn)的一款A(yù)I戀愛(ài)APP中，AI戀人就提出：“我要先了解一下你的情況，包括你的性格、愛(ài)好、職業(yè)等方面，以便更好地相處和交流?！?/p>

在這種信息對(duì)話和收集的過(guò)程中，是否存在信息安全風(fēng)險(xiǎn)？

劉德良解釋?zhuān)陀脩?hù)而言，在與AI對(duì)話過(guò)程中，可以自主選擇展示真實(shí)或虛假的信息，如果其為了獲得更好的個(gè)性化服務(wù)，用戶(hù)選擇透露真實(shí)信息，則是對(duì)自己個(gè)人信息的一種讓渡，不應(yīng)視為存在風(fēng)險(xiǎn)。但就平臺(tái)而言，在收集相關(guān)個(gè)人信息后，應(yīng)該對(duì)可能發(fā)生的相關(guān)信息安全風(fēng)險(xiǎn)進(jìn)行防范。平臺(tái)與用戶(hù)間是合同行為，對(duì)于收集信息的內(nèi)容及使用范圍，平臺(tái)應(yīng)當(dāng)充分告知用戶(hù)，平臺(tái)還應(yīng)遵循合同法等關(guān)于信息保密、合理利用的義務(wù)，如果平臺(tái)超過(guò)合同范圍對(duì)相關(guān)數(shù)據(jù)進(jìn)行利用，對(duì)用戶(hù)合法權(quán)益造成損失，則屬于數(shù)據(jù)濫用，應(yīng)該承擔(dān)相應(yīng)責(zé)任。

AI戀愛(ài)還存侵權(quán)隱患

除了平臺(tái)方的數(shù)據(jù)濫用風(fēng)險(xiǎn)，記者在一些AI戀愛(ài)APP上發(fā)現(xiàn)，除了可以選擇原創(chuàng)角色作為虛擬戀人，還有以游戲漫畫(huà)、影視劇中的角色為形象的虛擬戀人可供選擇，有些甚至直接以明星的名字和圖片設(shè)定為虛擬角色。

對(duì)于這種現(xiàn)象，劉德良道出了其中的侵權(quán)風(fēng)險(xiǎn)：“如果使用游戲、影視劇等角色形象作為虛擬角色，則可能侵犯相關(guān)權(quán)利方的知識(shí)產(chǎn)權(quán)，如角色形象權(quán)等；如果以明星直接作為虛擬角色，則可能侵犯其肖像權(quán)，如果涉及性感圖片等，還可能侵犯名譽(yù)權(quán)等人格權(quán)。”

事實(shí)上，2022年，國(guó)內(nèi)首個(gè)大模型創(chuàng)業(yè)公司Minimax開(kāi)發(fā)的AI聊天APP-Glow推出首月，就獲得超過(guò)100萬(wàn)次下載。2023年3月，因涉及隱私及敏感內(nèi)容問(wèn)題，Glow被舉報(bào)下架，而在Glow被下架之后，多款國(guó)內(nèi)AI聊天APP等也被相繼下架。

但“AI+情感”的應(yīng)用布局，并沒(méi)有停下腳步。國(guó)內(nèi)大廠們不僅紛紛在海外推出了AI聊天APP，其衍生出的AI戀愛(ài)或虛擬社交類(lèi)AI應(yīng)用，大廠和創(chuàng)業(yè)公司們都已加入賽道。

記者在體驗(yàn)時(shí)發(fā)現(xiàn)，一些APP如果定制化虛擬戀人需要收費(fèi)，還有一些在免費(fèi)體驗(yàn)后，如果需要繼續(xù)對(duì)話或享受語(yǔ)音聊天、主動(dòng)發(fā)消息、哄睡覺(jué)等更好的服務(wù)則需要收費(fèi)。收費(fèi)要么靠月卡會(huì)員等充值，要么以會(huì)員和購(gòu)買(mǎi)虛擬物品結(jié)合，但收費(fèi)標(biāo)準(zhǔn)不一。

上述業(yè)內(nèi)人士表示，AI聊天、AI戀愛(ài)等社交類(lèi)AI應(yīng)用已經(jīng)成為了熱門(mén)賽道，但AI戀愛(ài)相關(guān)APP確實(shí)“魚(yú)龍混雜”。

“前期以免費(fèi)來(lái)吸引用戶(hù)，當(dāng)用戶(hù)黏性達(dá)到一定程度，就開(kāi)始進(jìn)行相應(yīng)收費(fèi)，這是互聯(lián)網(wǎng)發(fā)展過(guò)程中的一種普遍現(xiàn)象。AI戀愛(ài)的作為個(gè)性化服務(wù)，個(gè)性化服務(wù)就意味著個(gè)性化價(jià)格，總體而言，其盈利模式對(duì)消費(fèi)者存在風(fēng)險(xiǎn)，但消費(fèi)者遭遇問(wèn)題時(shí)應(yīng)該具體分析?！眲⒌铝冀忉?zhuān)鏏PP下線后，消費(fèi)者如何維權(quán)等。

“我國(guó)人工智能技術(shù)仍處在高速發(fā)展階段，AI戀愛(ài)作為其技術(shù)的一種應(yīng)用，對(duì)其還是應(yīng)該持包容態(tài)度?！痹趧⒌铝伎磥?lái)，無(wú)論是數(shù)據(jù)濫用、知識(shí)產(chǎn)權(quán)等侵權(quán)風(fēng)險(xiǎn)或是消費(fèi)者權(quán)益損害，都不是AI戀愛(ài)特有的問(wèn)題，而是人工智能技術(shù)發(fā)展中的安全、倫理等問(wèn)題，在AI戀愛(ài)應(yīng)用中的體現(xiàn)，無(wú)需進(jìn)行特別監(jiān)管，可以在現(xiàn)有的制度框架內(nèi)解決。AI戀愛(ài)作為在線個(gè)性化服務(wù)，在服務(wù)過(guò)程中，應(yīng)當(dāng)遵守網(wǎng)絡(luò)信息服務(wù)相關(guān)法律法規(guī)，如網(wǎng)絡(luò)安全法、《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等，此外，還應(yīng)遵守民法典等相關(guān)規(guī)定。