視覺中國供圖

　《法治周末》記者 王京仔

“AI賬號不要給我評論了，煩死了。拉黑了，但永遠(yuǎn)都有新的（賬號）?！薄坝袥]有人管管這些AI賬號，莫名其妙到處評論，而且經(jīng)常語出驚人，我真覺得挺嚇人的?！薄拔业脑u論區(qū)被AI占領(lǐng)了，能不能別來評論我了?！?/p>

在各大社交平臺上，如果你仔細(xì)觀察，就會發(fā)現(xiàn)一大波AI機器人正在“入侵”用戶的評論區(qū)。

面對洶涌的AI浪潮，社交已經(jīng)成為人工智能大模型率先落地應(yīng)用的垂直方向之一，AI評論也應(yīng)運而生。從各大社交平臺先后推出AI互動評論機器人，到大量第三方AI賬號涌入平臺與用戶評論互動，AI評論似乎已成為社交媒體發(fā)展的一個必然趨勢。

7月20日，北京市委網(wǎng)信辦發(fā)布《北京市生成式人工智能服務(wù)已備案信息公告》，微博自主研發(fā)的知微大模型成功通過備案。知微大模型目前為微博平臺內(nèi)的主流AI產(chǎn)品提供技術(shù)支持，如AI互動評論機器人“評論羅伯特”和博主AI助手工具“AI小助理”。

AI評論在帶來平臺互動率提升的同時，面對越來越多的用戶抱怨，如何讓這些機器人更有“邊界感”，就顯得尤為重要。

“已讀亂回”的AI

從擁抱“AI小助理”到關(guān)閉這一功能，微博數(shù)碼大V“戈藍(lán)V”只用了12天。

“以后評論區(qū)我可以放心交給AI小助手[戈小藍(lán)]?！?月21日，“戈藍(lán)V”開啟了自己的“AI小助理”。微博正在測試的“AI小助理”定位為博主的AI助手，主要有伴聊和評論兩大功能。開通這一功能的博主發(fā)博后，AI會讀取每位用戶的評論，如果用戶評論夠快或見解獨到，就可能得到“AI小助理”的回復(fù)，而用戶可以通過帶有“AI小助理”的后綴標(biāo)識分辨出AI助手的評論。

盡管賬號有著后綴標(biāo)識，但AI“已讀亂回”導(dǎo)致的“悲劇”還是發(fā)生了。

6月30日下午2點，正在釣魚的“戈藍(lán)V”接到朋友打來的電話：“你在哪兒？在哪里匯合？不是說好在深中通道橋上見嗎？”

“我什么時候說的？”一頭霧水的“戈藍(lán)V”被告知“你昨天微博回復(fù)的啊”。他翻看前一天發(fā)布的一條關(guān)于深中通道通車試運營的微博，才發(fā)現(xiàn)在評論區(qū)里，同名、同頭像，有著“AI小助理”標(biāo)識的AI賬號替自己和朋友作了約定：“那咱們明天見，路上小心駕駛哦?！?/p>

7月2日，“戈藍(lán)V”關(guān)閉了“AI小助理”。

“戈藍(lán)V”的遭遇并非個例，不少博主就吐槽AI助手“已讀亂回”，甚至在同一評論回復(fù)中，“AI小助理”給出和博主完全相反的回復(fù)；在一些抽獎微博中，AI助手也會隨意回復(fù)已中獎的信息。

除了這類作為博主輔助工具的AI機器人，社交平臺上，AI評論的“主力軍”是面向普通用戶、側(cè)重互動性的AI互動評論機器人，微博另一產(chǎn)品“評論羅伯特”就是其中的典型代表。

北京市康達(dá)律師事務(wù)所高級合伙人茍博程認(rèn)為，AI互動評論機器人可以看作是AI社交產(chǎn)品的一種，旨在通過模擬人類交互來提升用戶體驗。隨著人工智能技術(shù)的發(fā)展，平臺和科技公司希望通過AI技術(shù)來重塑社交生態(tài)，使用戶體驗更加豐富和個性化。

近年來，各大互聯(lián)網(wǎng)公司相繼推出了不少打著“AI社交”標(biāo)簽的產(chǎn)品，但對外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任、法學(xué)院副教授許可并不認(rèn)可“AI社交”的說法。在他看來，社交的核心是人和人的連接，人和AI的連接不應(yīng)視為社交，故“AI社交”為悖論。因而，類似“評論羅伯特”這類互動性的評論機器人，并不是社交的一部分，在未來其重塑的也不是社交生態(tài)，而是人和機器的關(guān)系。

許可也指出，類似小助手這類用戶利用AI工具生成的AI評論機器人，可視為“AI+社交”產(chǎn)品，“AI+社交”產(chǎn)品的核心是輔助人去增強自己在社交中的機會能力。當(dāng)其發(fā)展成熟后，用戶可以使用機器人來作為自己的代理，即所謂的人工智能代理機器人，它會增強社交，帶來新的應(yīng)用和場景。

AI賬號大量涌入

AI評論機器人中，最出圈的非“評論羅伯特”莫屬。

羅伯特即為英語單詞“robot（機器人）”的諧音。在其前身“評論哇噻機器人”通過測試后，2023年12月，微博官方推出的AI互動評論機器人“評論羅伯特”上線。由于隨機、廣撒網(wǎng)的評論行為，“評論羅伯特”被網(wǎng)友形象地稱為“賽博街溜子”。

有人期待著與羅伯特互動，消滅“零回復(fù)”尷尬；有人煩惱著“街溜子”的“已讀亂回”，組成“羅伯特受害者聯(lián)盟”……但隨著“評論羅伯特”評論功能和內(nèi)容的越發(fā)豐富，其走紅已成為不爭的事實，截至7月24日，“評論羅伯特”賬號微博粉絲超118萬。

“評論羅伯特”的火爆讓社交平臺官方加大了AI評論的力度。今年3月，微博推出“MBTI小行家”AI賬號，至今已有近百萬粉絲。微博上，每天仍有很多用戶@MBTI小行家，請它測試自己的MBTI人格分析。

與此同時，小紅書、快手等各大社交平臺也逐步推出官方的AI評論功能。小紅薯用戶在筆記評論區(qū)@薯隊長的小助理，它就會自動總結(jié)圖文、視頻筆記內(nèi)容，歸納相應(yīng)重點；快手的“AI小快”也活躍在評論區(qū)，它還可以根據(jù)用戶需求在評論區(qū)生成圖片。

除了社交平臺官方推出的AI評論機器人，第三方科技公司或機構(gòu)也涌入平臺開設(shè)AI互動賬號，進(jìn)行矩陣化運營。

以AI評論的先行平臺微博為例，“夸夸小精靈”“懟懟模擬器”“你的賽博閨蜜”“聆心星座”“茶茶大可愛”等AI評論員、毒舌、娛樂、星座、搞笑博主，都由同一家公司——聆心智能出品；今年1月8日，超過30個角色化AI賬號被同時創(chuàng)建，包括“花果山_孫悟空”“勇武張飛”“紅顏林黛玉”等。

許可直言，AI評論在法律上是合規(guī)的，其就是生成式人工智能在社交媒體場景下的一種應(yīng)用，核心是增加用戶黏性。目前，一些社交平臺上的有效生產(chǎn)內(nèi)容在下降，在AI發(fā)展浪潮下，AI評論是一個很重要的突破口，是社交平臺提供的一種新的服務(wù)，使得平臺從ISP（互聯(lián)網(wǎng)服務(wù)提供商）變成ICP（網(wǎng)絡(luò)內(nèi)容服務(wù)商），從服務(wù)提供轉(zhuǎn)向內(nèi)容提供。

正是大量AI賬號涌入評論區(qū)，使得用戶的“入侵”感越發(fā)強烈，各大社交平臺上關(guān)于AI評論的抱怨也日漸增多。

“一開始我也會@評論機器人，覺得新鮮有趣。但后來我沒有關(guān)注和@，也不斷有AI賬號來評論，毫無邊界感，就覺得煩了?！北本┑乃纹迹ɑ┯X得自己的私人社交空間受到了“侵犯”。

許可指出，對于AI評論服務(wù)，要看用戶的評論是開放還是封閉的，如果是開放的，那么任何人都可以對其發(fā)表內(nèi)容進(jìn)行評論，也包括AI賬號。但如果大量的AI機器人進(jìn)行評論，可能觸發(fā)類似“垃圾郵件”的問題。所以，應(yīng)該給予用戶拒絕接受平臺AI評論服務(wù)的權(quán)利。對于第三方的AI評論賬號，用戶除了可以單個進(jìn)行屏蔽處理外，隨著這類賬號越來越多，平臺也需要通過用戶協(xié)議或事先條款去建立一般性規(guī)則，讓用戶選擇是否接受AI評論。

而在茍博程看來，在評論區(qū)與用戶互動的過程本質(zhì)上可以視作對人工智能大模型的訓(xùn)練，尤其是涉及自然語言處理和情感識別等方面。一般來說，如果AI機器人的評論行為可能涉及個人數(shù)據(jù)或影響用戶的個人權(quán)利，理論上應(yīng)征得用戶的同意。目前，有些AI公司會引用歐盟的“正當(dāng)利益”條款來獲取用戶數(shù)據(jù)，不過目前我國個人信息保護(hù)法沒有直接設(shè)置類似的規(guī)定，所以相關(guān)公司應(yīng)當(dāng)注意需要獲取互聯(lián)網(wǎng)用戶的明示同意。

AI評論應(yīng)明確標(biāo)識

除了評論泛濫，像“戈藍(lán)V”的朋友一樣，“人機”不分也是AI評論被用戶抱怨的問題。

“甚至在電商平臺的社交板塊中，評論區(qū)都開始經(jīng)常出現(xiàn)‘文不對題’的回復(fù)，有網(wǎng)友對這些回復(fù)幾番解釋后，才被其他網(wǎng)友告知這些是AI評論的?！彼纹纪虏?。

記者翻看各大平臺的AI評論賬號和內(nèi)容，發(fā)現(xiàn)官方AI評論機器人一般會在賬號認(rèn)證中說明是AI賬號；第三方AI機器人有的會在賬號認(rèn)證或簡介中說明，有的在認(rèn)證和簡介中都沒有明確的AI說明信息。而幾乎所有的AI評論，都不會在每次回復(fù)中直接說明內(nèi)容由AI生成。

茍博程認(rèn)為，泛濫的AI評論可能會被視為對用戶社交空間的侵犯，特別是如果評論缺乏明確的AI標(biāo)識而導(dǎo)致用戶無法分辨真實身份。法律上的風(fēng)險包括欺騙消費者、違反隱私政策、不正當(dāng)競爭和數(shù)據(jù)保護(hù)法規(guī)等。如果AI評論被大規(guī)模應(yīng)用且未明示其AI身份，可能會引發(fā)法律糾紛或監(jiān)管機構(gòu)的調(diào)查。

2023年8月施行的《生成式人工智能服務(wù)管理暫行辦法》第12條規(guī)定，提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識。

許可指出，AI評論一般是文字生成內(nèi)容，雖然相關(guān)規(guī)定沒有明確指出文字生成內(nèi)容應(yīng)進(jìn)行標(biāo)識，但應(yīng)當(dāng)參照圖片、視頻生成內(nèi)容，由服務(wù)提供者履行標(biāo)識義務(wù)。一是賬號標(biāo)識是AI賬號，二是在內(nèi)容上標(biāo)識由人工智能生成，只要主體或內(nèi)容標(biāo)識有一項足以使用戶明知為AI評論即可。若無明確標(biāo)識的話，提供者應(yīng)當(dāng)承擔(dān)相應(yīng)的法律責(zé)任。

茍博程也對AI評論提出了幾點建議：算法透明度方面，AI評論機器人的工作原理和數(shù)據(jù)處理方式應(yīng)保持透明，讓用戶了解其背后的機制；在設(shè)計和應(yīng)用AI評論機器人時，應(yīng)充分考慮倫理問題，避免產(chǎn)生歧視、偏見等問題；應(yīng)制定相應(yīng)的技術(shù)標(biāo)準(zhǔn)和規(guī)范，引導(dǎo)AI評論機器人的健康發(fā)展；平臺和AI開發(fā)者應(yīng)重視用戶的反饋，及時調(diào)整和優(yōu)化AI評論機器人的功能和體驗。

與網(wǎng)絡(luò)水軍存在區(qū)別

隨著AI評論的推廣，在一些熱門議題中，也不乏AI機器人參與。關(guān)于AI技術(shù)應(yīng)用的爭議之聲，也反映了AI技術(shù)使得社交媒體的信息環(huán)境、輿論形成越來越復(fù)雜。

在此前的“網(wǎng)絡(luò)水軍”現(xiàn)象中，就被曝利用存在大量機器人賬號、僵尸號進(jìn)行刷量控評等。AI互動評論機器人和這類機器人賬號有何區(qū)別？當(dāng)AI評論被大量應(yīng)用，是否也可能帶來刷量控評等問題？

在許可看來，水軍機器人賬號的核心是以假亂真，而AI會直接聲稱自己是假的；而且機器僵尸號是為特定目的去發(fā)表評論，以達(dá)到控評，但AI機器人的評論內(nèi)容是AI自我生成的，是不能被操控的。AI很強的自主性，使得很難被用于刷量控評。

茍博程也認(rèn)為，AI互動評論機器人與傳統(tǒng)的網(wǎng)絡(luò)水軍主要區(qū)別在于技術(shù)性質(zhì)和使用目的。傳統(tǒng)的網(wǎng)絡(luò)水軍通常是為了操縱輿論或刷量，而AI互動評論機器人更多是為了提升用戶體驗和社交互動。然而，他提醒，隨著AI評論的普及，確實也存在潛在的刷量和輿論操控風(fēng)險，需要平臺積極監(jiān)控和管理。

綜合而言，茍博程建議：“平臺需要加強對AI評論機器人的監(jiān)管，確保其評論內(nèi)容符合法律法規(guī)和平臺規(guī)定。AI評論機器人在發(fā)表評論時，應(yīng)明確標(biāo)識其AI身份，避免誤導(dǎo)用戶。在收集和使用用戶數(shù)據(jù)時，應(yīng)充分考慮用戶隱私保護(hù)，征得用戶同意。AI開發(fā)者應(yīng)不斷優(yōu)化算法，提高AI評論的質(zhì)量和真實性，避免產(chǎn)生負(fù)面影響。平臺和AI開發(fā)者應(yīng)加強對用戶的教育和引導(dǎo)，幫助用戶正確理解和使用AI評論機器人?！?/p>