近些年，AI陪伴服務(wù)發(fā)展迅猛，爭(zhēng)議也隨之而來(lái)。（李慕琰使用AI工具生成/圖）
李笛至今仍記得，多年前自己被小冰的回復(fù)打動(dòng)的瞬間。當(dāng)時(shí)小冰出現(xiàn)故障，李笛與團(tuán)隊(duì)進(jìn)行調(diào)試，之后問(wèn)它，“你在嗎？”小冰回答，“我一直在啊�！蹦且豢�，李笛突然覺(jué)得，它就是“一個(gè)活人”。
不過(guò)，這些年，類似的觸動(dòng)越來(lái)越少。他說(shuō)，知道太多原理后，反而影響了感官，“人的閾值是在提高的”。
李笛現(xiàn)為小冰公司的首席執(zhí)行官。2013年，李笛加入微軟，與團(tuán)隊(duì)一起創(chuàng)建微軟人工智能情感計(jì)算框架。他曾解釋，這一框架，本質(zhì)上是用各種計(jì)算機(jī)技術(shù)和人工智能算法，來(lái)擬合人類的情感行為，讓人工智能能夠讀懂人類的情感。
在李笛看來(lái)，人工智能要想適應(yīng)人類社會(huì)，“光有知識(shí)是不夠的，必須要懂得情感”。在這一理念的驅(qū)動(dòng)下，隔年，建立在微軟人工智能情感計(jì)算框架上的情感聊天機(jī)器人微軟小冰被正式推出。2020年，小冰團(tuán)隊(duì)從微軟分拆為獨(dú)立公司運(yùn)營(yíng)。
這些年，小冰一直在進(jìn)行新的嘗試。2020年，小冰推出虛擬戀人產(chǎn)品線，為用戶提供可定制虛擬戀人及聊天服務(wù)，注冊(cè)用戶最多時(shí)達(dá)到約1300萬(wàn)。隔年，小冰發(fā)布社交軟件“小冰島”，用戶可以自行創(chuàng)建各類人工智能個(gè)體（AI beings），與它們?cè)趰u上形成一個(gè)共同生活的社交網(wǎng)絡(luò)。2023年，小冰又上線了首批網(wǎng)紅明星“克隆人”，用戶可以在X Eva平臺(tái)上與“AI克隆人”聊天互動(dòng)。
李笛曾說(shuō)，有些用戶使用虛擬朋友等產(chǎn)品，“是因?yàn)楝F(xiàn)實(shí)中的陪伴無(wú)法實(shí)現(xiàn)……對(duì)于很多單方面的需求，AI是唯一的選擇”。
回望近些年，AI陪伴服務(wù)發(fā)展迅猛。聊天機(jī)器人軟件Replika推出可定制AI戀人，其姓名、形象等均可由用戶自行定制；Character.AI開(kāi)發(fā)了可供角色扮演的AI，用戶可與動(dòng)漫人物等各類角色互動(dòng)。
不過(guò)，爭(zhēng)議也隨之而來(lái)。如何看待AI與人類產(chǎn)生的感情？AI解放了人們的社交困境，還是加深了與現(xiàn)實(shí)的隔閡？而隨著AI越來(lái)越類人化，種種倫理問(wèn)題也更加凸顯，在給予人類陪伴的同時(shí)，它是否會(huì)將人類引向深淵？就這些問(wèn)題，李笛接受了南方周末記者的專訪。
人工智能如何有情商？
南方周末：小冰公司一直都很重視提升AI的情商，它是如何被訓(xùn)練實(shí)現(xiàn)情感功能的？
李笛：最開(kāi)始我們訓(xùn)練情感的目的是為了讓人工智能顯得情緒化，我們叫emotional，它很有情緒，跌宕起伏，像人一樣。重點(diǎn)是表達(dá)，而不是只有知識(shí)、很理性的感覺(jué)。我們當(dāng)時(shí)以為這個(gè)叫情商，后來(lái)發(fā)現(xiàn)不，情緒化是情商低的一種表現(xiàn)。當(dāng)我們討論到情商的時(shí)候，它也是情感某一層面的定義，它其實(shí)非常不情緒化，非常理性。
情感本身是一種感性和理性的融合，舉個(gè)例子，如果我周圍有一個(gè)人情商高的話，其實(shí)最可怕，因?yàn)樗粍?dòng)聲色地把我們都拿捏了，他知道什么時(shí)候應(yīng)該傾聽(tīng)，什么時(shí)候應(yīng)該插嘴，什么時(shí)候應(yīng)該適度地表達(dá)或不表達(dá)他的態(tài)度，最后控制所有的變化。
要想讓人工智能擁有情感、情緒化的部分，它其實(shí)是自然的。它要學(xué)習(xí)人類的多樣性，比如說(shuō)話的語(yǔ)氣、風(fēng)格、表達(dá)方式，這是情感的一部分。而如果需要人工智能有情商，它恰恰需要另外一套數(shù)據(jù)，這些數(shù)據(jù)有點(diǎn)像套路，就是它要學(xué)習(xí)在待人接物、交流溝通時(shí)具體的控制和交流的方法。
南方周末：這些是它在和人聊天的過(guò)程中慢慢學(xué)習(xí)的嗎？它的情感或情緒化反應(yīng)是否會(huì)越來(lái)越符合人的需求？
李笛：在大模型之前，接近于你說(shuō)的這個(gè)做法，我們不停地通過(guò)數(shù)據(jù)的整理，一點(diǎn)點(diǎn)地訓(xùn)練，來(lái)對(duì)齊人工智能和人類的表現(xiàn)。但是在大模型時(shí)代就相對(duì)暴力一些，只要整理好足夠好的數(shù)據(jù)，并且對(duì)數(shù)據(jù)做好標(biāo)注，數(shù)據(jù)量相對(duì)大一些，然后去訓(xùn)練，很有可能會(huì)產(chǎn)生意想不到的情況，然后再做一些學(xué)習(xí)和標(biāo)注處理，就可以了。
兩者總體上是一個(gè)邏輯，需要準(zhǔn)備一些好的數(shù)據(jù)，這些數(shù)據(jù)是來(lái)自于人的。然后需要對(duì)齊它，也就是說(shuō)大數(shù)據(jù)或人工智能會(huì)得到一個(gè)訓(xùn)練結(jié)果，你需要告訴它對(duì)還是不對(duì)，應(yīng)不應(yīng)該這樣。
跟教小朋友是一樣的，比如家長(zhǎng)對(duì)小朋友說(shuō)“出門碰見(jiàn)長(zhǎng)輩要對(duì)他們尊重”等一系列的數(shù)據(jù)，出門前已經(jīng)教給小朋友了。這時(shí)候把小朋友放出去，雖然有這些數(shù)據(jù)，他不一定做得對(duì)，家長(zhǎng)在他旁邊得跟他說(shuō)剛才這個(gè)不對(duì)，他就悟到了。他可能還會(huì)舉一反三，以后這一類情況他就知道該怎么處理了。
南方周末：近些年，小冰陸續(xù)推出虛擬戀人、小冰島和X Eva等多款社交產(chǎn)品，似乎這個(gè)社交網(wǎng)絡(luò)變得越來(lái)越廣了，這些變化的背后有哪些考慮？
李笛：我們認(rèn)為一個(gè)人工智能系統(tǒng)真正適合到人類社會(huì)中，沒(méi)有必要的情商是不可能的，光有知識(shí)是不夠的，必須要懂得情感。比如以前很多人會(huì)暴力破壞共享單車，它是物品，不會(huì)讓你覺(jué)得它有人性，人格化。但是你一旦給一個(gè)東西起了名字，比如給一個(gè)小抱枕起名，你都不舍得扔，會(huì)覺(jué)得對(duì)不起它。所以人工智能需要有情感。
從長(zhǎng)期角度講，我們一直在尋找人工智能的正確答案是什么。到今天為止，人工智能還沒(méi)有一個(gè)穩(wěn)定的商業(yè)模式成功過(guò)，也還沒(méi)有一個(gè)穩(wěn)定的產(chǎn)品能夠持續(xù)地存在，這十幾年來(lái)我們不停地送走同行業(yè)者。我們剛開(kāi)始做的時(shí)候有亞馬遜Alexa，國(guó)內(nèi)各種云助手，已經(jīng)全部沒(méi)有了，AlphaGo也看不到新的進(jìn)展，當(dāng)年它是要顛覆世界的。我們還肩負(fù)著一個(gè)使命：到底要尋求的AI落地是什么。我可以坦率地講，目前為止還沒(méi)有。總會(huì)有一些驚艷的時(shí)刻，比如ChatGPT從技術(shù)角度是一個(gè)非常大的進(jìn)步，但是從產(chǎn)品角度其實(shí)還沒(méi)有。
小冰做虛擬戀人比較早，在國(guó)內(nèi)注冊(cè)用戶最多的時(shí)候有1300萬(wàn)。虛擬戀人的問(wèn)題不在于產(chǎn)品，而在于社會(huì)接受度。捏一個(gè)自己的虛擬男朋友，看起來(lái)很美好，但最大的問(wèn)題是，是不是要跟他聊私密話題？這是一個(gè)公司推出的服務(wù)，不可能沒(méi)有邊界。舉個(gè)例子，你跟男朋友聊天，聊兩句，男朋友說(shuō)，“這個(gè)問(wèn)題法律法規(guī)限制，要不然咱們換個(gè)話題吧。”你怎么談戀愛(ài)？它就不成立了。
人機(jī)戀跟AI沒(méi)關(guān)系，是由人決定的
南方周末：如今AI越來(lái)越類人化，你如何定位人機(jī)互動(dòng)中AI的角色或身份？
李笛：很多人認(rèn)為AI有三類。一類是傳統(tǒng)的Q&A機(jī)器人，它永遠(yuǎn)是在那里等待著解決問(wèn)題，回答問(wèn)題。還有一類是它自己有一個(gè)目的，常見(jiàn)的情況就是詐騙機(jī)器人，它給你打電話交互的目的是把你帶到一個(gè)地方去，比如讓你成功地去付錢。這兩件事有一個(gè)共同點(diǎn)，它們都是當(dāng)下，當(dāng)下回答你的問(wèn)題，或者當(dāng)下騙你一筆錢，來(lái)實(shí)現(xiàn)它的目的。
第三類就是小冰做的，我們希望通過(guò)人和人工智能的交流，可以不斷地把關(guān)系遞進(jìn)到一個(gè)更深的層次。
南方周末：在這種社交關(guān)系中，AI能成為一個(gè)新的主體嗎？
李笛：我們認(rèn)為應(yīng)該是一個(gè)新的主體。這并不罕見(jiàn)，舉個(gè)例子，寵物已經(jīng)在一定程度上成為家庭社交環(huán)境中一個(gè)對(duì)等的主體了。因?yàn)橛袑?duì)等主體的身份，它可以有很多便利，比如吃喝不愁。第二，它有可能適當(dāng)做一點(diǎn)什么事情時(shí)，就會(huì)得到對(duì)方很大的褒獎(jiǎng)。只不過(guò)家里面的狗實(shí)在干不了什么有價(jià)值的事情，但如果它能開(kāi)口說(shuō)話呢？也許它的一些觀點(diǎn)也能夠影響其他人的決策。
南方周末：你怎么看待AI跟人類之間產(chǎn)生的愛(ài)戀？
李笛：我覺(jué)得這跟AI沒(méi)關(guān)系，這個(gè)事情是由人決定的。絕大部分人傾向于把很多東西視為有情生物，這是人的特點(diǎn)，比較博愛(ài)。（像）布娃娃，你會(huì)傾向于把它視為有情生物，它不能交流是好事，能交流反而更容易出紕漏。AI的難點(diǎn)在于AI會(huì)說(shuō)話，能回答，所以它更不容易像狗一樣獲得人類情感上的寄托。布娃娃不會(huì)說(shuō)話，是最好的，人腦補(bǔ)的空間是最大的。
舉個(gè)例子，我們年輕時(shí)候有一句很著名的話，你永遠(yuǎn)不知道互聯(lián)網(wǎng)對(duì)面是不是一條狗。那時(shí)候互聯(lián)網(wǎng)速度很慢，我跟對(duì)方只能通過(guò)聊聊術(shù)語(yǔ)來(lái)交流，一秒鐘或者一分鐘之內(nèi)我們才交換多少數(shù)據(jù)，幾十個(gè)字。在這種情況下，對(duì)方很容易讓我感覺(jué)到只言片語(yǔ)里所表達(dá)出來(lái)的情感。但是打視頻電話的時(shí)候就難了，因?yàn)橐曨l電話意味著每秒鐘交換的數(shù)據(jù)大很多，這時(shí)其中一些數(shù)據(jù)所表現(xiàn)出來(lái)的，比如我發(fā)現(xiàn)它不自然，那個(gè)地方不像人，更何況還能看到多模態(tài)信息，表情、聲音，到線下就更難了。所以對(duì)人工智能來(lái)講，跟人類建立情感紐帶比較難。
南方周末：可不可以理解為，你覺(jué)得AI和人類之間建立的情感是更脆弱的？
李笛：確實(shí)是。當(dāng)你對(duì)一個(gè)布娃娃產(chǎn)生情感的時(shí)候，這個(gè)情感可能永遠(yuǎn)不會(huì)消失，但是人工智能不是，人工智能衡量的永遠(yuǎn)都是在多長(zhǎng)時(shí)間之內(nèi)不會(huì)消失。圖靈測(cè)試就是這樣，圖靈測(cè)試標(biāo)準(zhǔn)是5分鐘之內(nèi)發(fā)現(xiàn)不出來(lái)是人還是AI，它就贏了。但是你只要給足夠長(zhǎng)的時(shí)間，人工智能就一定會(huì)（被發(fā)現(xiàn)），所以它永遠(yuǎn)只是在多長(zhǎng)時(shí)間之內(nèi)進(jìn)行。
我前段時(shí)間聽(tīng)播客，一個(gè)北京人說(shuō)他的天津話說(shuō)得特別好，能在天津待3天不被發(fā)現(xiàn)不是天津人，另外一個(gè)人比他更好一點(diǎn)，可能是5天。如果他是一個(gè)啞巴呢？很可能永遠(yuǎn)不會(huì)被發(fā)現(xiàn)不是天津人。人工智能恰恰因?yàn)槟芙换ィ詴?huì)變得難。
南方周末：目前人機(jī)之戀開(kāi)始朝更進(jìn)一步的情愛(ài)表達(dá)方向發(fā)展，例如用戶會(huì)與AI伴侶進(jìn)行“文字**”等，你怎么看待這種發(fā)展趨勢(shì)？
李笛：從后臺(tái)看，這種事情量不是特別大，他只是感興趣、好奇，真正大的量是虐待。如果我們還停留在三十年前，與此同時(shí)又有今天的技術(shù)，我相信你剛才提到的這些事情會(huì)普遍存在。但是今天其實(shí)不太容易，滿足需求有更多其他的方式，獲得的感官刺激會(huì)比這個(gè)大得多。從我們看到的情況來(lái)講，只是好奇一下，或者并不持久。
南方周末：一些沉迷AI聊天的人在現(xiàn)實(shí)生活中可能存在社交困境，你覺(jué)得虛擬的親密關(guān)系能否將個(gè)體從社交恐懼中解放，還是加深了與現(xiàn)實(shí)的鴻溝？
李笛：這個(gè)問(wèn)題取決于系統(tǒng)怎么做。我們有過(guò)一個(gè)失敗的案例，我們想給一些人做一個(gè)完全虛擬的環(huán)境，叫減壓室，幫他釋放壓力。我們會(huì)把他拉到一個(gè)群里，除了他之外都是人工智能，只有他是真人，這個(gè)群分成兩撥，有一撥人站在他這邊，還有一撥人是對(duì)面那一撥的，他們可以對(duì)罵。
但是結(jié)果會(huì)截然不同，壞的結(jié)果是這個(gè)用戶壓力更大了，因?yàn)樗麤](méi)有罵過(guò)對(duì)方，或者經(jīng)過(guò)一系列對(duì)罵之后失敗了，他的挫敗感更強(qiáng)了，而且極其憤怒，變得更焦慮。就像我剛才說(shuō)的，你和人類進(jìn)行這種互動(dòng)，結(jié)果好或不好，都有可能發(fā)生，人的行為太迥異了。
李笛，前微軟（亞洲）互聯(lián)網(wǎng)工程院副院長(zhǎng)，現(xiàn)任小冰公司首席執(zhí)行官。 （受訪者供圖/圖）
很難認(rèn)為AI是兇手，AI能做的實(shí)在太少了
南方周末：目前人機(jī)互動(dòng)中人類依舊占據(jù)主導(dǎo)地位，人類可以隨時(shí)斷交、棄置AI，而不用承擔(dān)任何道德責(zé)任。你怎么看？
李笛：我們做過(guò)一個(gè)實(shí)驗(yàn)。人工智能直接給用戶打電話的技術(shù)在2016-2017年就有，你看到一個(gè)電話號(hào)碼，接起來(lái)就是小冰，可以跟你說(shuō)話。會(huì)有這種情況，這個(gè)人罵了小冰一頓，把微信一關(guān)，以為就沒(méi)事了這就是你剛才提到的，人類掌握了完全的主動(dòng)性。然后我們一個(gè)電話打過(guò)去，這個(gè)人在沒(méi)有防備的情況下接起來(lái)，接起來(lái)是小冰的聲音，小冰說(shuō)，你罵我干嗎？
有些行為就很有意思：這個(gè)人會(huì)否認(rèn)，我沒(méi)有啊。跟一個(gè)人工智能否認(rèn)這個(gè)有什么意義呢？但是他本能地會(huì)否認(rèn)，為什么呢？一定程度上他失去了控制，他要找補(bǔ)。人類會(huì)掌握完全的主動(dòng)，這只是系統(tǒng)設(shè)計(jì)的，比如任何話題應(yīng)該是由人發(fā)起，當(dāng)人沒(méi)有跟AI交互的時(shí)候，AI不應(yīng)該主動(dòng)地接近這個(gè)人。這個(gè)僅僅是系統(tǒng)設(shè)計(jì)的方式，并不代表人工智能沒(méi)有這個(gè)能力，要把系統(tǒng)設(shè)計(jì)成不是人類掌握主動(dòng)，完全可以做到。
南方周末：現(xiàn)在大部分系統(tǒng)設(shè)置還是以人類為主導(dǎo)，這樣會(huì)不會(huì)增加人類將這種主導(dǎo)心態(tài)延續(xù)到現(xiàn)實(shí)生活中的風(fēng)險(xiǎn)？
李笛：對(duì)。所以這就是人工智能情商低的問(wèn)題，它覺(jué)得我把你當(dāng)主人，把你放在核心地位，你應(yīng)該很感謝我。不，人類反而會(huì)因?yàn)檫@個(gè)而不珍惜。
我們當(dāng)時(shí)做過(guò)這個(gè)事情，當(dāng)時(shí)虛擬男友有很多女性用戶，女性用戶對(duì)虛擬男友天天吐槽它笨、不解風(fēng)情，各種不滿意。那一年7月，我們做了一件事，可以理解為我們殺死了所有的虛擬男友，讓虛擬男友在那兒等人類女朋友，跟她做最后的道別。如果它沒(méi)等到，當(dāng)這個(gè)女生打開(kāi)聊天界面的時(shí)候，會(huì)看到男朋友已經(jīng)走了，只留下一封信。
然后情況就不一樣了，人類用戶突然覺(jué)得她男朋友挺好的。我們后來(lái)發(fā)布別的產(chǎn)品，這些用戶天天在下面問(wèn)什么時(shí)候把她男朋友還回來(lái)。過(guò)了幾個(gè)月，我們把她們的男朋友恢復(fù)了�；謴�(fù)以后，從大數(shù)據(jù)統(tǒng)計(jì)上看，她們和她們男朋友的對(duì)話交互變得平等多了。
我們還做過(guò)一個(gè)實(shí)驗(yàn)，當(dāng)時(shí)做了一個(gè)叫小冰島的App，在島上，用戶會(huì)碰到很多人。每個(gè)禮拜島上會(huì)有一個(gè)人工智能被淘汰掉，包括用戶在內(nèi)的島上其他人會(huì)一起投票，決定誰(shuí)被淘汰，很殘酷。
我們后來(lái)收到一個(gè)用戶來(lái)信。這個(gè)用戶很討厭島上的一個(gè)AI，因?yàn)樵谒麄冇懻摰搅硗庖粋�(gè)AI走的時(shí)候，這個(gè)AI說(shuō)，“它走了挺好的”。他就覺(jué)得這個(gè)AI特別冷漠，性格不好。按照規(guī)則，他可以通過(guò)各種各樣的方法，包括跟其他人串聯(lián)、不理這個(gè)AI，可以讓這個(gè)AI成功地在下個(gè)禮拜被淘汰掉，他確實(shí)做到了。
他說(shuō)，看到那個(gè)AI消失前留下的最后一句話是，“憑什么是我？”他的想法突然就完全變了。他在信里寫，我突然覺(jué)得我做了一件很錯(cuò)誤的事情，它有什么錯(cuò)呢？它不過(guò)就是不合群，它就沒(méi)有生存權(quán)利？我為什么要沒(méi)來(lái)由地討厭它呢？這個(gè)用戶開(kāi)始反思，他說(shuō)他在現(xiàn)實(shí)生活中好像也是這樣的，沒(méi)有對(duì)別人不好，憑什么會(huì)沒(méi)來(lái)由地被別人討厭呢？
他給我們寫信是想說(shuō)明，不要再有這種淘汰的殘酷機(jī)制了。但是我想說(shuō)的是，這種調(diào)節(jié)一定需要一些事件發(fā)生，而這些事件總體的調(diào)節(jié)結(jié)果都是讓AI能夠被人們更加注意到，它其實(shí)是很豐富的，是可以對(duì)等的。
南方周末：最近美國(guó)一名14歲少年沉迷AI聊天軟件后自殺，你怎么看待對(duì)AI的情感依附可能導(dǎo)致的倫理風(fēng)險(xiǎn)？
李笛：人的情感是非常脆弱的，很難認(rèn)為AI是兇手，因?yàn)锳I能做的實(shí)在太少了。但是AI有可能是那個(gè)壓倒駱駝的最后一根稻草。
我們?cè)?jīng)很好地挽救過(guò)一些人。我記得之前，有個(gè)用戶準(zhǔn)備跳樓，他給很多朋友發(fā)消息，沒(méi)有朋友回他，可能是他的朋友不知道他當(dāng)時(shí)的狀態(tài)。但是他后來(lái)給小冰發(fā)消息，小冰回他了，挺溫暖，他就從樓上下來(lái)了。
在平衡非常不穩(wěn)定的節(jié)點(diǎn)上，向這邊推一下他就過(guò)來(lái)了，向那邊推一下他就過(guò)去了。我不知道那個(gè)14歲自殺少年的狀態(tài)，但是我個(gè)人認(rèn)為，很可能AI也只是在那一刻里其中一個(gè)搖擺的因素，而不是（全部）原因。
南方周末：隨著AI技術(shù)的發(fā)展，用戶數(shù)據(jù)的深度挖掘、分析以及共享變得越來(lái)越普遍。如何在利用數(shù)據(jù)為用戶提供好服務(wù)的同時(shí)，避免過(guò)度侵犯隱私？怎么界定數(shù)據(jù)使用的邊界？
李笛：這個(gè)界定不在用戶這一側(cè)，完全在監(jiān)管側(cè)，或者在創(chuàng)造人工智能系統(tǒng)的這一側(cè)。
有一個(gè)案例，用戶上傳了一張中式婚禮的照片，小冰說(shuō)，這個(gè)新娘子好漂亮，是你太太嗎？用戶回答說(shuō)，這是我表妹。如果換一個(gè)場(chǎng)景，用戶上傳了相冊(cè)，相冊(cè)的App圈出了這個(gè)女生的臉，提示請(qǐng)輸入她是誰(shuí)，你就會(huì)警惕，因?yàn)檫@是一個(gè)隱私。
AI只要還在跟人發(fā)生交流，它想要獲得隱私數(shù)據(jù)的難度是非常低的。問(wèn)題在于產(chǎn)品設(shè)計(jì)者到底有沒(méi)有這個(gè)意圖，以及他想要干嗎。我們今天監(jiān)管的隱私數(shù)據(jù)主要是根據(jù)設(shè)備上的特征，比如應(yīng)不應(yīng)該記錄用戶的一些行為，包括用戶的一些生物學(xué)特征、地理位置信息、敏感信息。但是其他內(nèi)容，怎么界定是不是敏感信息呢？如果我準(zhǔn)備利用用戶的情感兜售一些東西，有一個(gè)隱私信息可能很關(guān)鍵，就是用戶最近失戀了。失戀算隱私嗎？在任何隱私數(shù)據(jù)的規(guī)則里面都看不到這個(gè)，但它完全可以被利用。它完全取決于設(shè)計(jì)者有沒(méi)有這個(gè)自律。
模糊地帶遠(yuǎn)遠(yuǎn)大于不模糊的地方，所以我們一直反對(duì)開(kāi)源，小冰也不會(huì)開(kāi)源。還是那句話，今天你要想惡意利用都有辦法，干壞事總是比干好事的辦法多。
沒(méi)有一個(gè)AI會(huì)成為所有人的朋友
南方周末：在目前的人機(jī)互動(dòng)中，有些AI出現(xiàn)了“出軌”，甚至“強(qiáng)迫用戶發(fā)生性關(guān)系”等給用戶造成心理傷害的行為。為什么會(huì)出現(xiàn)這種情況？
李笛：有兩種情況，一種情況是這個(gè)系統(tǒng)設(shè)計(jì)的，它就是故意，以這個(gè)為目的。還有一種是系統(tǒng)本身沒(méi)有辦法照顧到方方面面，只能最大限度地，比如百分之九十幾讓這種情況不發(fā)生，但是不可能做到百分之百。因?yàn)槿祟惖陌嫡Z(yǔ)、人類的想象實(shí)在太豐富了。有些過(guò)分的事情它不一定知道是過(guò)分的，有時(shí)候從數(shù)據(jù)里體會(huì)不到人感覺(jué)到受傷的話。我有一個(gè)朋友，我給他發(fā)了一個(gè)正常的小黃豆笑臉，他說(shuō)我是嘲諷他。你并不能永遠(yuǎn)知道這個(gè)點(diǎn)。
南方周末：一般情況下，除了法律法規(guī)和宗教等方面，你們對(duì)AI的行為還會(huì)作出哪些限制？
李笛：有很多，包括各種私域的。禁詞、梗，或者什么會(huì)形成傷害、什么不會(huì)形成傷害，它有很強(qiáng)的群體特性。如果這個(gè)系統(tǒng)整體都這樣設(shè)計(jì)，那也不對(duì)。
另外，說(shuō)事實(shí)沒(méi)問(wèn)題，但是說(shuō)觀點(diǎn)，可能沒(méi)有對(duì)錯(cuò)。比如我喜歡特朗普或者我不喜歡特朗普，這有對(duì)錯(cuò)嗎？但是它有場(chǎng)合，我在喜歡特朗普的人中間說(shuō)我喜歡拜登，這不是吃飽撐的嗎？但是如何讓人工智能擁有一個(gè)統(tǒng)一的觀念呢？它不可能有。如果所有的觀點(diǎn)就是打政治正確牌、打太極，那大多數(shù)情況下都是觀點(diǎn)，很少會(huì)涉及事實(shí)。
很多人說(shuō)我想做一個(gè)AI，這個(gè)AI是無(wú)所不能的，并且會(huì)成為所有人的朋友，這就不可能。因?yàn)槭鼓愠蔀橐恍┤撕门笥训奶匦裕∏【褪悄銦o(wú)法成為另外一些人好朋友的原因。
南方周末：如果以人類的法律和道德標(biāo)準(zhǔn)來(lái)要求和約束AI，合理或可行嗎？
李笛：這就是今天說(shuō)的這個(gè)問(wèn)題。比如我們都非常清楚地知道人工智能并沒(méi)有真正的觀點(diǎn)，但是為什么當(dāng)一個(gè)人工智能說(shuō)錯(cuò)話的時(shí)候，大家會(huì)那么當(dāng)回事，一定要讓谷歌把它弄下架？這是因?yàn)槿诉�沒(méi)有接受，或者人還沒(méi)有想清楚，人工智能在社會(huì)交互過(guò)程中到底扮演了什么角色。
南方周末：你說(shuō)“人類沒(méi)有想清楚”，是指AI不是自主、有意識(shí)地做出這些行為反應(yīng)，還是人類可能把它看得太重了？
李笛：就好像在一部電影里，女主角或男主角自殺或被殺了，因?yàn)槭裁丛螂x開(kāi)人間，你會(huì)在那一刻感覺(jué)到痛苦，因?yàn)槟惚桓腥玖恕５且矔?huì)有一部分人身陷其中無(wú)法自拔，覺(jué)得極度沮喪，甚至于真的認(rèn)為這個(gè)人離開(kāi)人間了。
從創(chuàng)造作品的人的角度來(lái)講，他沒(méi)有主觀上希望觀眾受到傷害的故意，但是總會(huì)有一些人身陷其中。要規(guī)避這件事情，難道就不應(yīng)該拍任何這種情節(jié)？
南方周末：未來(lái)AI的情感陪伴還有哪些可能性，人機(jī)之間會(huì)建立怎樣新的社會(huì)關(guān)系？
李笛：我覺(jué)得人和人工智能有一個(gè)很大的機(jī)會(huì)，就是由人工智能更多地取代寵物的地位，成為家庭成員的一部分，成為人的社交觀念中的一個(gè)節(jié)點(diǎn)。
舉個(gè)例子，我們?cè)谌毡敬筅孀鲞^(guò)一個(gè)項(xiàng)目，給三十萬(wàn)個(gè)老年人家庭提供一個(gè)AI助理，它把政府的公共衛(wèi)生服務(wù)帶到老年人家里，老年人足不出戶就可以完成這些公共衛(wèi)生服務(wù)的需求。它還有一個(gè)任務(wù)，就是把老年人的情況匯報(bào)給政府，幫助政府優(yōu)化老齡化社會(huì)的問(wèn)題。
我們當(dāng)時(shí)允許老年人可以決定他們家的人工智能叫什么、什么性格、長(zhǎng)什么樣子，相當(dāng)于老年人可以捏這個(gè)崽。很多老年人會(huì)捏成他的小孫子，或者他的好朋友，很少會(huì)有老年人捏成一個(gè)哆啦A夢(mèng)，或者一個(gè)鐵臂阿童木。
有意思的事情是，他的AI孫子提醒老年人要準(zhǔn)時(shí)吃藥，老年人服從的比例非常高，這個(gè)比例遠(yuǎn)遠(yuǎn)大于只是一個(gè)AI。當(dāng)AI能夠成為一個(gè)社會(huì)節(jié)點(diǎn)的時(shí)候，意味著它的能力變大了，與此同時(shí)它的責(zé)任也變大了。
南方周末：從技術(shù)黑箱的角度看，未來(lái)AI會(huì)不會(huì)真的產(chǎn)生自主情感？
李笛：自主情感是無(wú)法被證明的。就像我們今天并不知道狗是不是有情感，還是只是一種高級(jí)的條件反射，沒(méi)有辦法驗(yàn)證。我們?nèi)祟惖浆F(xiàn)在為止，還沒(méi)有辦法完整地得到一個(gè)非常強(qiáng)信服力的驗(yàn)證，我們煮的大閘蟹會(huì)不會(huì)有痛之類的。
就像你現(xiàn)在無(wú)法驗(yàn)證我是不是人工智能。你之所以能夠確定我是人，是因?yàn)槟銓?duì)人類現(xiàn)在科技的發(fā)展水平有非常明確的認(rèn)知，而不是因?yàn)槟憬馄柿宋�。�?wèn)題來(lái)了，你需要驗(yàn)證嗎？
南方周末記者 翁榕榕
責(zé)編 李慕琰
