新智元報(bào)道
編輯：英智【新智元導(dǎo)讀】Salesforce首席科學(xué)家Silvio Savarese深入解析AI智能體的發(fā)展方向，提出從獨(dú)立任務(wù)執(zhí)行到多智能體協(xié)作，再到企業(yè)級(jí)全面協(xié)調(diào)的三階段演進(jìn)路徑。就在不久前，科技界目光聚焦于一篇?jiǎng)e具深意的文章。其作者正是Salesforce首席科學(xué)家、斯坦福大學(xué)計(jì)算機(jī)科學(xué)兼職教授Silvio Savarese。
Savarese還有一個(gè)令人矚目的身份「AI教母」李飛飛的丈夫。
Silvio Savarese深入探討了AI智能體的未來(lái)發(fā)展，提出了三大階段的演變：從獨(dú)立任務(wù)執(zhí)行到多智能體協(xié)作，再到企業(yè)級(jí)的全面協(xié)調(diào)。
智能體將不僅僅是工具，更將成為提升工作效能和創(chuàng)造力的強(qiáng)大伙伴。
同時(shí)，他還深入思考了在這一激動(dòng)人心的發(fā)展進(jìn)程中，人類(lèi)所應(yīng)扮演的角色與承擔(dān)的責(zé)任。
本文在不改變?cè)拇笠獾那闆r下，編譯如下：
最近，通過(guò)推出Agentforce，Salesforce正在推動(dòng)企業(yè)邁向一個(gè)全新的AI賦能時(shí)代。
步入AI的第三波浪潮，借助AI智能體，人們工作起來(lái)會(huì)更有能力、更覺(jué)有趣、更富創(chuàng)造力。
從人才招聘到醫(yī)療保健領(lǐng)域，AI與人類(lèi)在各行各業(yè)的合作日益廣泛。這種協(xié)作不僅能快速滿足大規(guī)模的需求，而且在多數(shù)情況下，比單純的人工操作更加精準(zhǔn)。
雖然需要些時(shí)間，但智能體無(wú)疑會(huì)在多方面優(yōu)化我們的工作：提升生產(chǎn)力與效率，輔助戰(zhàn)略決策，我堅(jiān)信，它還能提高整體工作滿意度。
無(wú)論普通員工還是高管，幾乎所有企業(yè)人員都能在調(diào)配人力的同時(shí)，指揮數(shù)字勞動(dòng)力。
在這個(gè)時(shí)代的發(fā)展進(jìn)程中，信任和問(wèn)責(zé)制至關(guān)重要。
其演進(jìn)分為三個(gè)階段：首先，專(zhuān)業(yè)智能體負(fù)責(zé)獨(dú)立任務(wù)；接著，多智能體系統(tǒng)實(shí)現(xiàn)無(wú)縫協(xié)作；最后，企業(yè)級(jí)協(xié)調(diào)系統(tǒng)將徹底改變企業(yè)的運(yùn)作模式。
Salesforce的AI研究團(tuán)隊(duì)肩負(fù)著塑造企業(yè)AI未來(lái)的使命。接下來(lái)，為大家講講我們對(duì)智能體發(fā)展的展望，以及人類(lèi)在此過(guò)程中需扮演的角色 。
AI智能體的演變：從規(guī)則到推理
LLM是經(jīng)過(guò)訓(xùn)練的深度學(xué)習(xí)模型，能理解文本還能生成文本。
AI智能體的發(fā)展和機(jī)器學(xué)習(xí)的進(jìn)步密切相關(guān)。早期傳統(tǒng)的基于規(guī)則的系統(tǒng)，比如機(jī)器人過(guò)程自動(dòng)化（RPA），能精準(zhǔn)完成一系列任務(wù)，但在應(yīng)對(duì)變化時(shí)就容易出現(xiàn)問(wèn)題。這類(lèi)早期系統(tǒng)需要大量技術(shù)支持，還要找專(zhuān)業(yè)人員咨詢(xún)。
過(guò)去幾十年，機(jī)器處理信息的方式有了很大變化，從原來(lái)死板的自動(dòng)化系統(tǒng)，變成了現(xiàn)在靈活、適應(yīng)能力強(qiáng)又高效的學(xué)習(xí)系統(tǒng)。
現(xiàn)在，像Agentforce這樣的現(xiàn)代平臺(tái)造出的智能體，能明白具體情況，適應(yīng)新變化，還能做各種任務(wù)。
而未來(lái)的發(fā)展方向更值得期待：我們將會(huì)有借助多智能體推理的自適應(yīng)智能體。
這種智能體可以從周?chē)h(huán)境中學(xué)到東西，在實(shí)際使用中不斷進(jìn)步，能和人類(lèi)、企業(yè)客戶、合作伙伴、供應(yīng)商一起工作。甚至，還能跟越來(lái)越貼近人們生活的個(gè)性化AI助手配合。
現(xiàn)在，我們才剛開(kāi)始朝著企業(yè)AI智能體發(fā)展的三個(gè)階段邁進(jìn)。
企業(yè)智能體的三個(gè)階段
就好比音樂(lè)從簡(jiǎn)單的單音旋律，逐漸演變成復(fù)雜美妙的交響樂(lè)。AI智能體也在不斷進(jìn)步，從單個(gè)獨(dú)自工作，變?yōu)槎鄠�(gè)智能體協(xié)同配合。
每個(gè)階段都建立在上一階段的基礎(chǔ)上，為企業(yè)創(chuàng)造出更加豐富、更有層次的互動(dòng)。
第一階段：?jiǎn)蝹�(gè)AI專(zhuān)家智能體
第一階段，專(zhuān)家智能體聚焦特定行業(yè)，能出色完成既定任務(wù)。這給日常關(guān)鍵的商業(yè)運(yùn)作帶來(lái)了前所未有的效率和準(zhǔn)確性。這些智能體是企業(yè)應(yīng)用AI的基礎(chǔ)。它們處理零散任務(wù)又穩(wěn)又快，極大改變了部門(mén)的工作流程。
它們還能將AI的最新成果用于工作。比如，精準(zhǔn)預(yù)測(cè)最佳行動(dòng)方案，根據(jù)每位客戶的偏好和行為，給出高度個(gè)性化的產(chǎn)品推薦。此外，不管是面向客戶、服務(wù)還是銷(xiāo)售代表（人和智能體都是如此），都能生成高質(zhì)量的指導(dǎo)意見(jiàn)、營(yíng)銷(xiāo)文案和信函。
例如，在商業(yè)領(lǐng)域，智能體徹底改變了庫(kù)存和賬戶管理。
智能體可不只做簡(jiǎn)單的庫(kù)存檢查，還會(huì)主動(dòng)監(jiān)控多個(gè)地點(diǎn)的庫(kù)存狀況，預(yù)測(cè)季節(jié)性需求變化，實(shí)時(shí)生成賬戶摘要，從中找出不尋常的模式或潛在機(jī)會(huì)。
過(guò)去，人工分析這些任務(wù)要花好幾個(gè)小時(shí)，現(xiàn)在智能體幾秒鐘就能搞定，而且分析得更準(zhǔn)、更透徹。這給零售客戶帶來(lái)了更優(yōu)質(zhì)、更個(gè)性化，甚至是神奇的體驗(yàn)。
服務(wù)運(yùn)營(yíng)也發(fā)生了類(lèi)似轉(zhuǎn)變。這些智能體不光能做基本的賬單匯總，還會(huì)分析客戶互動(dòng)模式，自動(dòng)對(duì)服務(wù)請(qǐng)求分類(lèi)、排序，進(jìn)而得出有關(guān)客戶需求的預(yù)測(cè)性洞察。
智能體能夠發(fā)現(xiàn)客戶行為中的趨勢(shì)，這些趨勢(shì)可能意味著客戶滿意度有問(wèn)題，或者存在業(yè)務(wù)拓展機(jī)會(huì)。如此一來(lái)，就為服務(wù)團(tuán)隊(duì)提供了實(shí)用信息，而不只是一堆原始數(shù)據(jù)。
如此一來(lái)，客戶服務(wù)變得輕松又流暢。終端客戶幾乎察覺(jué)不到服務(wù)的存在很多時(shí)候，他們還沒(méi)意識(shí)到有問(wèn)題，問(wèn)題就已經(jīng)解決了。
金融服務(wù)領(lǐng)域，智能體大大提高了客戶服務(wù)效率。
確認(rèn)爭(zhēng)議時(shí)，智能體能分析交易歷史，識(shí)別潛在的欺詐活動(dòng)，還會(huì)自動(dòng)啟動(dòng)相關(guān)安全協(xié)議。做財(cái)務(wù)規(guī)劃時(shí)，智能體整合市場(chǎng)數(shù)據(jù)、客戶個(gè)人歷史和各類(lèi)經(jīng)濟(jì)指標(biāo)，生成全面的分析報(bào)告。
合理使用這些智能體，企業(yè)后臺(tái)的運(yùn)作效率會(huì)大幅提升，消費(fèi)者也能體驗(yàn)更先進(jìn)的私人銀行、投資指導(dǎo)和財(cái)富管理服務(wù)。
第二階段：復(fù)合智能體無(wú)縫協(xié)作者
這一階段，公司內(nèi)部的專(zhuān)家智能體開(kāi)始協(xié)同合作，朝著一個(gè)共同的商業(yè)目標(biāo)努力。
「協(xié)調(diào)者智能體」負(fù)責(zé)組織多個(gè)專(zhuān)家智能體協(xié)同工作。這就好比餐廳的總經(jīng)理，要把出色的接待員、服務(wù)員、經(jīng)理、廚師、備餐員和配送員組織起來(lái)，大家齊心協(xié)力，贏得那個(gè)夢(mèng)寐以求的米其林星級(jí)。
在復(fù)雜的商業(yè)場(chǎng)景中，復(fù)合智能體的表現(xiàn)是怎樣的呢？我們來(lái)看看這個(gè)客戶服務(wù)場(chǎng)景。
有一位忠誠(chéng)的零售客戶，想要更換一款過(guò)季商品的尺碼。這時(shí)，多個(gè)智能體在背后默默協(xié)作。
首先，有一名前線服務(wù)代表負(fù)責(zé)處理客戶最初的詢(xún)問(wèn)。接著，一名庫(kù)存專(zhuān)家會(huì)去檢查各個(gè)地方的產(chǎn)品庫(kù)存情況。同時(shí)，物流智能體開(kāi)始計(jì)算運(yùn)輸選項(xiàng)和時(shí)間安排。還有賬單專(zhuān)家，認(rèn)真審查客戶的賬戶歷史和支付選項(xiàng)。
最關(guān)鍵的是「協(xié)調(diào)者智能體」，它把前面這些智能體的工作成果匯總到一起，生成一個(gè)有條理、高效率，既符合品牌形象又貼合客戶需求的回復(fù)。這些回復(fù)會(huì)交給前線工作人員，他們審核、完善后，再分享給客戶。
當(dāng)多智能體方法實(shí)施得當(dāng)，「協(xié)調(diào)者智能體」為人類(lèi)協(xié)調(diào)者提供服務(wù)時(shí)，能帶來(lái)諸多由AI驅(qū)動(dòng)的顯著優(yōu)勢(shì)：
可靠性提升：系統(tǒng)借助專(zhuān)門(mén)化、可靠的智能體聚焦特定領(lǐng)域。由于每個(gè)智能體的工作范圍較窄，這不僅提升了可靠性，還減少了幻覺(jué)現(xiàn)象。
安全性增強(qiáng)：采用分布式處理方式，把敏感數(shù)據(jù)的處理交給特定智能體，從而增強(qiáng)了安全性。
可擴(kuò)展性強(qiáng)：隨著需求改變，生態(tài)系統(tǒng)能無(wú)縫擴(kuò)展。組織可不斷增添新的專(zhuān)門(mén)化智能體，輕松拓展功能。這或許是其中最重要的優(yōu)勢(shì)。
第三階段：集成式智能體企業(yè)協(xié)調(diào)者
在理想的最終階段，跨組織邊界的復(fù)雜智能體對(duì)智能體（A2A）交互出現(xiàn)了，這開(kāi)創(chuàng)了全新的商業(yè)模式。
除了傳統(tǒng)的企業(yè)對(duì)企業(yè)（B2B）、企業(yè)對(duì)消費(fèi)者（B2C）模式外，還涌現(xiàn)出企業(yè)對(duì)智能體（B2A），甚至企業(yè)對(duì)智能體再到消費(fèi)者（B2A2C）的交互形式。在這些新模式中，AI智能體成了工作和交易的中介。
來(lái)看一個(gè)簡(jiǎn)單的汽車(chē)租賃場(chǎng)景：客戶的個(gè)人AI智能體與租賃公司的商業(yè)AI智能體進(jìn)行談判。
客戶智能體一心爭(zhēng)取更劃算的價(jià)格和更多價(jià)值，租賃公司智能體則試圖靠附加服務(wù)多賺錢(qián)。但租賃公司的智能體得拿捏好分寸，推銷(xiāo)要積極，又不能太激進(jìn)，以防生意被競(jìng)爭(zhēng)對(duì)手搶走。
這些智能體之間的交互，需要依據(jù)復(fù)雜的博弈理論。這要求它們具備高超的談判技巧，遵循特定的協(xié)議，能夠在不確定的情況下管理風(fēng)險(xiǎn)，有可靠的信任驗(yàn)證機(jī)制，還要能巧妙地化解沖突。
現(xiàn)在，想象一下復(fù)雜的企業(yè)流程。
就拿供應(yīng)鏈優(yōu)化和客戶協(xié)調(diào)這些工作來(lái)說(shuō)，無(wú)論你是消費(fèi)者，還是企業(yè)員工，集成式AI能讓你擁有一個(gè)智能助手。這個(gè)助手可以根據(jù)你的需求和期望，處理復(fù)雜的協(xié)調(diào)工作，開(kāi)展有價(jià)值的協(xié)作。
但是，要實(shí)現(xiàn)這個(gè)目標(biāo)，我們?nèi)祟?lèi)還有很多工作要做。
必要條件：信任與責(zé)任
當(dāng)我們部署愈發(fā)復(fù)雜的智能體系統(tǒng)時(shí)，每一項(xiàng)決策都必須遵循信任與責(zé)任這兩個(gè)基本原則。
構(gòu)建信任在智能體時(shí)代，信任的內(nèi)涵遠(yuǎn)不止于防范有害內(nèi)容、偏見(jiàn)和幻覺(jué)。
Salesforce近期的研究表明，61%的客戶覺(jué)得，隨著AI的發(fā)展，可信度變得比以往任何時(shí)候都更加重要。我們正步入一個(gè)全新領(lǐng)域，在這個(gè)領(lǐng)域中，組織需要對(duì)人類(lèi)與AI的共生關(guān)系抱有深度信任。
這種信任基于以下要素。首先是準(zhǔn)確性和邊界：AI智能體必須在明確的范圍里運(yùn)行，同時(shí)保持準(zhǔn)確。
智能體的自我意識(shí)同樣關(guān)鍵。就像一個(gè)值得敬重的同事，AI智能體得清楚自己的能力邊界，明白什么時(shí)候該向人類(lèi)尋求幫助。這就需要一套復(fù)雜的交接協(xié)議，保證AI和人類(lèi)能無(wú)縫配合。
比如，我們的AI研究團(tuán)隊(duì)正在研究訓(xùn)練方法，教AI智能體遇到解決不了的難題時(shí)，把不確定的地方標(biāo)出來(lái)，接著去尋求幫助。只要訓(xùn)練得當(dāng)，AI就會(huì)知道什么時(shí)候不能瞎猜，而是向人類(lèi)求助。
對(duì)于多智能體系統(tǒng)，我們還需要全球公認(rèn)和廣泛采用的協(xié)議。有了這些協(xié)議，協(xié)調(diào)者智能體才能安全、合乎道德地與其他企業(yè)的智能體交流、協(xié)商與合作，實(shí)現(xiàn)雙方共同利益。這種互動(dòng)得快速、高效，還得公平。
最后，隨著AI智能體越來(lái)越多，我們的安全措施也得增強(qiáng)。
和其他技術(shù)一樣，一些人也會(huì)利用AI搞破壞。他們可能會(huì)訓(xùn)練AI蠕蟲(chóng)來(lái)泄露數(shù)據(jù)，或者嘗試控制其他AI智能體，曝光客戶的私人數(shù)據(jù)。
強(qiáng)化保護(hù)、做好隱私控制以及持續(xù)進(jìn)行監(jiān)控，是維持信任的關(guān)鍵。只有建立了信任，AI才能從工具變成和我們一起成長(zhǎng)的業(yè)務(wù)伙伴。
確保問(wèn)責(zé)制當(dāng)組織開(kāi)始部署能每秒做出數(shù)千個(gè)決策的AI智能體時(shí)，需要建立明確的責(zé)任和監(jiān)督框架。
這樣一來(lái)，一旦出現(xiàn)問(wèn)題，我們就能有應(yīng)對(duì)的辦法。這要有一套周全的方案。下面講講負(fù)責(zé)監(jiān)督智能體的管理團(tuán)隊(duì)該怎么做。
清晰的責(zé)任鏈條：AI 智能體做出重要決策時(shí)，得清楚到底誰(shuí)來(lái)負(fù)責(zé)，不能有絲毫含糊。這可能意味著建立新的角色，比如「AI運(yùn)維官」，他們不僅有權(quán)監(jiān)管智能體的部署工作，而且在問(wèn)題發(fā)生時(shí)也承擔(dān)責(zé)任。
我們需要一個(gè)強(qiáng)大的系統(tǒng)，在信息不完整、有偏見(jiàn)、出現(xiàn)幻覺(jué)或者產(chǎn)生有害輸出之前，就把問(wèn)題查出來(lái)并解決掉。
這可不只是做簡(jiǎn)單的安全檢查，還要持續(xù)監(jiān)控智能體做出的決策，具備實(shí)時(shí)干預(yù)的能力，而且要有一套完整的審計(jì)追蹤機(jī)制。
研究團(tuán)隊(duì)最近在檢索增強(qiáng)生成（RAG）上有了很大的進(jìn)展，這讓AI系統(tǒng)獲取和驗(yàn)證信息的方式有了很大改善。這些新成果能讓我們快速評(píng)估和調(diào)整AI系統(tǒng)，確保它給出的結(jié)果既準(zhǔn)確又靠譜。
要制定一套流程，讓人類(lèi)能對(duì)智能體進(jìn)行監(jiān)督和干預(yù)。不能只局限于「human-in-the-loop」這個(gè)簡(jiǎn)單概念，要設(shè)計(jì)出更復(fù)雜的框架，明確人類(lèi)在何時(shí)、以何種方式介入智能體的決策。
在常規(guī)任務(wù)中，智能體能充分發(fā)揮自主性，而遇到重大決策時(shí)，人類(lèi)的判斷仍能起到關(guān)鍵作用 。
一旦出現(xiàn)錯(cuò)誤，我們要有一套結(jié)構(gòu)化應(yīng)對(duì)方法。這不僅包含技術(shù)層面的回滾程序，還得明確如何與客戶溝通、采取哪些補(bǔ)救措施，以及制定系統(tǒng)性改進(jìn)的協(xié)議，以防止類(lèi)似問(wèn)題的發(fā)生。
目前，做出商業(yè)決策的自主AI智能體面臨著責(zé)任界定的問(wèn)題，現(xiàn)有的監(jiān)管環(huán)境并不適用于它們。
我們需要和監(jiān)管機(jī)構(gòu)合作，制定合適的治理結(jié)構(gòu)，明確AI智能體的責(zé)任，建立全新的法律和合規(guī)框架。
展望未來(lái)：科學(xué)方法與企業(yè)創(chuàng)新
要想部署真正有效的AI系統(tǒng)，企業(yè)高層要有長(zhǎng)遠(yuǎn)眼光，把這些技術(shù)進(jìn)步運(yùn)用到實(shí)際應(yīng)用中。
企業(yè)在AI應(yīng)用上是否成功，不只看部署了多少AI智能體，或者實(shí)施速度有多快。關(guān)鍵在于企業(yè)領(lǐng)導(dǎo)和技術(shù)專(zhuān)家的精心規(guī)劃，讓AI與現(xiàn)有的工作流程、業(yè)務(wù)過(guò)程以及人類(lèi)的工作偏好完美融合。
Salesforce在企業(yè)CRM領(lǐng)域摸爬滾打多年，經(jīng)驗(yàn)豐富，很懂業(yè)務(wù)邏輯優(yōu)化。我們把這些經(jīng)驗(yàn)和知識(shí)融入到 Agentforce的部署策略里。系統(tǒng)不僅功能強(qiáng)大，在滿足客戶業(yè)務(wù)需求和運(yùn)營(yíng)人員需求方面，也做到了可靠又負(fù)責(zé)。
未來(lái)，人類(lèi)和AI不再相互對(duì)立，而是攜手合作，各展所長(zhǎng)。隨著Agentforce發(fā)布，智能體已經(jīng)成為提升工作效能的強(qiáng)大助力，讓團(tuán)隊(duì)完成以前辦不到的任務(wù)。
開(kāi)始這一轉(zhuǎn)型的時(shí)機(jī)就是現(xiàn)在，就像每一次突破性實(shí)驗(yàn)都始于假設(shè)一樣，每次成功的AI轉(zhuǎn)型也都是從一個(gè)愿景開(kāi)始，到最終驗(yàn)證成真！
參考資料：https://x.com/silviocinguetta/status/1877166654464893035https://www.salesforce.com/blog/the-agentic-ai-era-after-the-dawn-heres-what-to-expect/
