智道 欄目主持人：於興中

隨著生活中的每一幀廣告、每一幅海報、每一封郵件和信息由人工智能生成的概率越來越大，我們就像生活在一個無邊無際的考場中

□ 朱悅

人工智能生成合成內(nèi)容的擬真能力越來越強(qiáng)，借助人工智能施展的騙術(shù)越來越逼真?！爸悄茉p騙”的消息，頻繁地見諸媒體。今年年初，我國香港地區(qū)甚至發(fā)生了一起這樣的案件：不法分子利用公開獲取的信息，生成假冒公司管理層形象和聲音的視頻，從而騙得公司財(cái)務(wù)人員將約兩億港元存入其賬戶。人工智能竟然已經(jīng)足以在真實(shí)的商事交易中混淆耳目。

隨著人工智能的生成能力繼續(xù)增強(qiáng)，此類案件的數(shù)量和嚴(yán)重程度繼續(xù)增加，我們正在趨近“反向圖靈測試”的臨界點(diǎn)。70年前，圖靈為人工智能出題，不能讓人真假莫辨則不足以稱為智能；70年后，人工智能為人類出題，不能分辨合成內(nèi)容的人類將面臨越來越多的社會險惡。為了每個人的福祉，需要找到通用的解題方法。強(qiáng)制要求標(biāo)識合成內(nèi)容，只是短期可以救急的方法，要想立足長遠(yuǎn)解決這一問題，還需要探索更多的解題思路。

越來越難的必修課

圖靈測試是一個公認(rèn)的名詞，“反向圖靈測試”則是后來衍生的新詞，本文又為其新造了一層含義。隨著人工智能生成合成的內(nèi)容質(zhì)量越來越高，學(xué)者們也提出了其他一些版本的“反向圖靈測試”。因此，需要首先解釋這個概念。

圖靈測試的測試對象是人工智能，主要考察人工智能是否能夠偽裝成人，而不被人所發(fā)現(xiàn)。如果我們將測試對象反過來，依然考察人工智能是否能夠偽裝成人，只是現(xiàn)在要由人來回答這個問題，關(guān)注的是人的回答的對錯，就是一個反向的圖靈測試。不法分子用人工智能生成的圖片、聲音、視頻甚至是數(shù)字人來嘗試詐騙，就是一個現(xiàn)實(shí)的“反向圖靈測試”考題。如果通過了測試，就能識破騙局；如果不能通過測試，就有上當(dāng)風(fēng)險。

另外一種“反向圖靈測試”是將測試對象和考察題目全部逆反過來，考察人工智能能不能辨認(rèn)出嘗試偽裝成人工智能的人。這也是個方興未艾的新方向，但不屬于本文討論的范圍。

“反向圖靈測試”有多重要，主要取決于合成內(nèi)容在日常生活中的常見程度和重要性。如果合成內(nèi)容到處都是，考題相應(yīng)也就到處都是。每一次遭遇“智能詐騙”，都是一次練習(xí)。教師、編輯和學(xué)者每一次為面對的作業(yè)、稿件和文章疑惑不解，不知道是人的筆墨還是機(jī)器的智慧，也是一次測驗(yàn)。畫師、音樂人、制片人及其粉絲群體一次次為爭議作品是否確屬合成爭論不休，更是一次又一次群策群力的考試。隨著生活中的每一幀廣告、每一幅海報、每一封郵件和信息由人工智能生成的概率越來越大，我們就像生活在一個無邊無際的考場中。

合成標(biāo)識不過是短期救急

需要完成的考題做不出來，怎么辦？第一反應(yīng)，很可能是“抄答案”。強(qiáng)制要求合成內(nèi)容必須標(biāo)識，就像提前將答案寫在題目旁邊，確保每個人只要稍加注意，就一定能把“反向圖靈測試”的題做出來——只要題目都有答案，只要答案總是正確，只要每個人都注意到答案，考題就輕易解開。

可惜的是，因?yàn)槲宸矫鎲栴}，合成標(biāo)識最多只是個短期救急的方案。

具體來說，一是題目沒有答案。有些合成內(nèi)容，比如文字內(nèi)容，本就不可能加入牢固的標(biāo)注。二是題目答案不清。合成內(nèi)容越來越多、形式越來越豐富之后，幾乎所有內(nèi)容都有部分出自人工智能的手筆，不可能清晰地?cái)喽☉?yīng)該如何標(biāo)注。三是答案自相矛盾。如果仍舊全量要求標(biāo)注，部分的合成和全局的真實(shí)之間，總要有一個作出退讓。要不就是一切皆須標(biāo)注——也就意味著一切都不標(biāo)注，要不陷入無盡的紛爭和混亂。四是題目數(shù)量太多。每一個題目都要一個答案，每一則內(nèi)容都要一則標(biāo)注。不僅浪費(fèi)人力算力，手機(jī)屏幕稍小一些，都不一定放得下。即使勉強(qiáng)能夠放下，又很難用人的視力和耐心去看清楚。五是不愿意或者不能“抄答案”。就像早就已經(jīng)過量攝入的“同意”一樣，無數(shù)的標(biāo)注，可能很快就遭到徹底的無視。

這些問題暫時都還沒有那么嚴(yán)重，但每一個幾乎都是隨著時間推移，會變得越發(fā)嚴(yán)峻。歸根結(jié)底，要求內(nèi)容必須標(biāo)識，底下總是僥幸的心理：指望人工智能不會極大發(fā)展，預(yù)設(shè)合成內(nèi)容總是全部內(nèi)容的一小部分?？墒?，如果未來不是這樣呢？長期的方案，不能忽略人工智能極大發(fā)展的可能性。

長期解決方案須三管齊下

如果放棄僥幸的心理，懷著未來合成內(nèi)容終將極大豐富的預(yù)設(shè)來思考，“反向圖靈測試”至少要從三個方面去努力。這也包括適度地去智能化。

首先，是內(nèi)容標(biāo)識的優(yōu)化。盡管上文提出了一些批評，在眼下這段時間，“抄答案”依然是最簡單有效也最容易落地的方案。重點(diǎn)還是如何優(yōu)化標(biāo)識的效果。批評內(nèi)容標(biāo)識，主要是擔(dān)憂其太多太濫，以至徹底沖散個體本就所剩不多的注意力。優(yōu)化的思路，相應(yīng)地也是以退為進(jìn)、求精求實(shí)。特別是，不要求全量標(biāo)注，只要求標(biāo)注一些特定的場景，比如醫(yī)療、教育、金融等。盡量讓有限的標(biāo)注更加能夠吸引注意力，用更自然、更原生的方式來實(shí)現(xiàn)標(biāo)注。

其次，是智能素養(yǎng)的提升?；蛘哒f，個體加深對人工智能技術(shù)的理解，積極將合成能力用于去偽存真。照片、電影、電視和互聯(lián)網(wǎng)等新技術(shù)在其誕生之處，都曾經(jīng)引起關(guān)于其真假莫辨、迷惑心智的爭論。長期來看，這些新技術(shù)確實(shí)產(chǎn)生了欺詐的、有害的內(nèi)容，但在更多的時候，是為個體帶來了更真實(shí)、更豐富的世界。這也是我們值得長期追逐的目標(biāo)：生成合成不再必然和真假掛鉤，而是我們發(fā)現(xiàn)一個更真實(shí)、更豐富的世界的手段之一。

最后，是適度去智能化，回歸人際交互。如果人工智能合成能力達(dá)到完全無法分辨的程度，對于少數(shù)特別重要，既不能依賴標(biāo)識、也不可倚靠素養(yǎng)自律的場景，除了人的在場，沒有其他好的辦法。由此，未來需要自然人線下到場作出表示才能成立的事務(wù)，可能是越來越多，而不是越來越少。凡是涉及意思表示的問題，都值得追問其所許可的智能化的限度。有一些允許智能化，甚至允許個人使用智能合成的代理；有一些要求去智能化，必須人機(jī)交互。

其他還有一些幫助解決問題的因素。例如，我們可以設(shè)想，市場主動將非合成的內(nèi)容區(qū)分出來評價，這部分內(nèi)容成為內(nèi)容市場上的“奢侈品”，主動采取許多措施將其與合成內(nèi)容相區(qū)隔?？陀^上，這為正確解題又增加了一重提示。

此外，還有一點(diǎn)值得稍作補(bǔ)充。如何設(shè)計(jì)一部促進(jìn)人工智能發(fā)展的法律？這是當(dāng)前各方熱議的問題。這一問題的內(nèi)涵很多、很雜，但有一點(diǎn)和本文主旨密切相關(guān)：如果真的將促進(jìn)發(fā)展作為主旨，立法的其他部分在邏輯上也要和這一點(diǎn)保持緊密的融合貫通。隨著人工智能充分發(fā)展，合成能力極大豐富，監(jiān)管的規(guī)則也要將合成內(nèi)容極大豐富作為預(yù)設(shè)的前提，而不能心懷僥幸，認(rèn)為可以簡單地將合成內(nèi)容壓制在很小的范圍。推而廣之，每一條旨在監(jiān)管的規(guī)則，都需要經(jīng)歷如此的詰問：如果監(jiān)管對象的數(shù)量很快會擴(kuò)張一萬倍甚至一億倍，規(guī)則所設(shè)想的監(jiān)管效果，還能按預(yù)期實(shí)現(xiàn)嗎？如果不能，就應(yīng)當(dāng)非常審慎。

（作者系同濟(jì)大學(xué)法學(xué)院助理教授、上海市人工智能社會治理協(xié)同創(chuàng)新中心研究員）