新智元報道
編輯:英智【新智元導(dǎo)讀】Salesforce首席科學(xué)家Silvio Savarese深入解析AI智能體的發(fā)展方向,提出從獨立任務(wù)執(zhí)行到多智能體協(xié)作,再到企業(yè)級全面協(xié)調(diào)的三階段演進路徑。就在不久前,科技界目光聚焦于一篇別具深意的文章。其作者正是Salesforce首席科學(xué)家、斯坦福大學(xué)計算機科學(xué)兼職教授Silvio Savarese。
Savarese還有一個令人矚目的身份「AI教母」李飛飛的丈夫。
Silvio Savarese深入探討了AI智能體的未來發(fā)展,提出了三大階段的演變:從獨立任務(wù)執(zhí)行到多智能體協(xié)作,再到企業(yè)級的全面協(xié)調(diào)。
智能體將不僅僅是工具,更將成為提升工作效能和創(chuàng)造力的強大伙伴。
同時,他還深入思考了在這一激動人心的發(fā)展進程中,人類所應(yīng)扮演的角色與承擔(dān)的責(zé)任。
本文在不改變原文大意的情況下,編譯如下:
最近,通過推出Agentforce,Salesforce正在推動企業(yè)邁向一個全新的AI賦能時代。
步入AI的第三波浪潮,借助AI智能體,人們工作起來會更有能力、更覺有趣、更富創(chuàng)造力。
從人才招聘到醫(yī)療保健領(lǐng)域,AI與人類在各行各業(yè)的合作日益廣泛。這種協(xié)作不僅能快速滿足大規(guī)模的需求,而且在多數(shù)情況下,比單純的人工操作更加精準。
雖然需要些時間,但智能體無疑會在多方面優(yōu)化我們的工作:提升生產(chǎn)力與效率,輔助戰(zhàn)略決策,我堅信,它還能提高整體工作滿意度。
無論普通員工還是高管,幾乎所有企業(yè)人員都能在調(diào)配人力的同時,指揮數(shù)字勞動力。
在這個時代的發(fā)展進程中,信任和問責(zé)制至關(guān)重要。
其演進分為三個階段:首先,專業(yè)智能體負責(zé)獨立任務(wù);接著,多智能體系統(tǒng)實現(xiàn)無縫協(xié)作;最后,企業(yè)級協(xié)調(diào)系統(tǒng)將徹底改變企業(yè)的運作模式。
Salesforce的AI研究團隊肩負著塑造企業(yè)AI未來的使命。接下來,為大家講講我們對智能體發(fā)展的展望,以及人類在此過程中需扮演的角色 。
AI智能體的演變:從規(guī)則到推理
LLM是經(jīng)過訓(xùn)練的深度學(xué)習(xí)模型,能理解文本還能生成文本。
AI智能體的發(fā)展和機器學(xué)習(xí)的進步密切相關(guān)。早期傳統(tǒng)的基于規(guī)則的系統(tǒng),比如機器人過程自動化(RPA),能精準完成一系列任務(wù),但在應(yīng)對變化時就容易出現(xiàn)問題。這類早期系統(tǒng)需要大量技術(shù)支持,還要找專業(yè)人員咨詢。
過去幾十年,機器處理信息的方式有了很大變化,從原來死板的自動化系統(tǒng),變成了現(xiàn)在靈活、適應(yīng)能力強又高效的學(xué)習(xí)系統(tǒng)。
現(xiàn)在,像Agentforce這樣的現(xiàn)代平臺造出的智能體,能明白具體情況,適應(yīng)新變化,還能做各種任務(wù)。
而未來的發(fā)展方向更值得期待:我們將會有借助多智能體推理的自適應(yīng)智能體。
這種智能體可以從周圍環(huán)境中學(xué)到東西,在實際使用中不斷進步,能和人類、企業(yè)客戶、合作伙伴、供應(yīng)商一起工作。甚至,還能跟越來越貼近人們生活的個性化AI助手配合。
現(xiàn)在,我們才剛開始朝著企業(yè)AI智能體發(fā)展的三個階段邁進。
企業(yè)智能體的三個階段
就好比音樂從簡單的單音旋律,逐漸演變成復(fù)雜美妙的交響樂。AI智能體也在不斷進步,從單個獨自工作,變?yōu)槎鄠智能體協(xié)同配合。
每個階段都建立在上一階段的基礎(chǔ)上,為企業(yè)創(chuàng)造出更加豐富、更有層次的互動。
第一階段:單個AI專家智能體
第一階段,專家智能體聚焦特定行業(yè),能出色完成既定任務(wù)。這給日常關(guān)鍵的商業(yè)運作帶來了前所未有的效率和準確性。這些智能體是企業(yè)應(yīng)用AI的基礎(chǔ)。它們處理零散任務(wù)又穩(wěn)又快,極大改變了部門的工作流程。
它們還能將AI的最新成果用于工作。比如,精準預(yù)測最佳行動方案,根據(jù)每位客戶的偏好和行為,給出高度個性化的產(chǎn)品推薦。此外,不管是面向客戶、服務(wù)還是銷售代表(人和智能體都是如此),都能生成高質(zhì)量的指導(dǎo)意見、營銷文案和信函。
例如,在商業(yè)領(lǐng)域,智能體徹底改變了庫存和賬戶管理。
智能體可不只做簡單的庫存檢查,還會主動監(jiān)控多個地點的庫存狀況,預(yù)測季節(jié)性需求變化,實時生成賬戶摘要,從中找出不尋常的模式或潛在機會。
過去,人工分析這些任務(wù)要花好幾個小時,現(xiàn)在智能體幾秒鐘就能搞定,而且分析得更準、更透徹。這給零售客戶帶來了更優(yōu)質(zhì)、更個性化,甚至是神奇的體驗。
服務(wù)運營也發(fā)生了類似轉(zhuǎn)變。這些智能體不光能做基本的賬單匯總,還會分析客戶互動模式,自動對服務(wù)請求分類、排序,進而得出有關(guān)客戶需求的預(yù)測性洞察。
智能體能夠發(fā)現(xiàn)客戶行為中的趨勢,這些趨勢可能意味著客戶滿意度有問題,或者存在業(yè)務(wù)拓展機會。如此一來,就為服務(wù)團隊提供了實用信息,而不只是一堆原始數(shù)據(jù)。
如此一來,客戶服務(wù)變得輕松又流暢。終端客戶幾乎察覺不到服務(wù)的存在很多時候,他們還沒意識到有問題,問題就已經(jīng)解決了。
金融服務(wù)領(lǐng)域,智能體大大提高了客戶服務(wù)效率。
確認爭議時,智能體能分析交易歷史,識別潛在的欺詐活動,還會自動啟動相關(guān)安全協(xié)議。做財務(wù)規(guī)劃時,智能體整合市場數(shù)據(jù)、客戶個人歷史和各類經(jīng)濟指標,生成全面的分析報告。
合理使用這些智能體,企業(yè)后臺的運作效率會大幅提升,消費者也能體驗更先進的私人銀行、投資指導(dǎo)和財富管理服務(wù)。
第二階段:復(fù)合智能體無縫協(xié)作者
這一階段,公司內(nèi)部的專家智能體開始協(xié)同合作,朝著一個共同的商業(yè)目標努力。
「協(xié)調(diào)者智能體」負責(zé)組織多個專家智能體協(xié)同工作。這就好比餐廳的總經(jīng)理,要把出色的接待員、服務(wù)員、經(jīng)理、廚師、備餐員和配送員組織起來,大家齊心協(xié)力,贏得那個夢寐以求的米其林星級。
在復(fù)雜的商業(yè)場景中,復(fù)合智能體的表現(xiàn)是怎樣的呢?我們來看看這個客戶服務(wù)場景。
有一位忠誠的零售客戶,想要更換一款過季商品的尺碼。這時,多個智能體在背后默默協(xié)作。
首先,有一名前線服務(wù)代表負責(zé)處理客戶最初的詢問。接著,一名庫存專家會去檢查各個地方的產(chǎn)品庫存情況。同時,物流智能體開始計算運輸選項和時間安排。還有賬單專家,認真審查客戶的賬戶歷史和支付選項。
最關(guān)鍵的是「協(xié)調(diào)者智能體」,它把前面這些智能體的工作成果匯總到一起,生成一個有條理、高效率,既符合品牌形象又貼合客戶需求的回復(fù)。這些回復(fù)會交給前線工作人員,他們審核、完善后,再分享給客戶。
當多智能體方法實施得當,「協(xié)調(diào)者智能體」為人類協(xié)調(diào)者提供服務(wù)時,能帶來諸多由AI驅(qū)動的顯著優(yōu)勢:
可靠性提升:系統(tǒng)借助專門化、可靠的智能體聚焦特定領(lǐng)域。由于每個智能體的工作范圍較窄,這不僅提升了可靠性,還減少了幻覺現(xiàn)象。
安全性增強:采用分布式處理方式,把敏感數(shù)據(jù)的處理交給特定智能體,從而增強了安全性。
可擴展性強:隨著需求改變,生態(tài)系統(tǒng)能無縫擴展。組織可不斷增添新的專門化智能體,輕松拓展功能。這或許是其中最重要的優(yōu)勢。
第三階段:集成式智能體企業(yè)協(xié)調(diào)者
在理想的最終階段,跨組織邊界的復(fù)雜智能體對智能體(A2A)交互出現(xiàn)了,這開創(chuàng)了全新的商業(yè)模式。
除了傳統(tǒng)的企業(yè)對企業(yè)(B2B)、企業(yè)對消費者(B2C)模式外,還涌現(xiàn)出企業(yè)對智能體(B2A),甚至企業(yè)對智能體再到消費者(B2A2C)的交互形式。在這些新模式中,AI智能體成了工作和交易的中介。
來看一個簡單的汽車租賃場景:客戶的個人AI智能體與租賃公司的商業(yè)AI智能體進行談判。
客戶智能體一心爭取更劃算的價格和更多價值,租賃公司智能體則試圖靠附加服務(wù)多賺錢。但租賃公司的智能體得拿捏好分寸,推銷要積極,又不能太激進,以防生意被競爭對手搶走。
這些智能體之間的交互,需要依據(jù)復(fù)雜的博弈理論。這要求它們具備高超的談判技巧,遵循特定的協(xié)議,能夠在不確定的情況下管理風(fēng)險,有可靠的信任驗證機制,還要能巧妙地化解沖突。
現(xiàn)在,想象一下復(fù)雜的企業(yè)流程。
就拿供應(yīng)鏈優(yōu)化和客戶協(xié)調(diào)這些工作來說,無論你是消費者,還是企業(yè)員工,集成式AI能讓你擁有一個智能助手。這個助手可以根據(jù)你的需求和期望,處理復(fù)雜的協(xié)調(diào)工作,開展有價值的協(xié)作。
但是,要實現(xiàn)這個目標,我們?nèi)祟愡有很多工作要做。
必要條件:信任與責(zé)任
當我們部署愈發(fā)復(fù)雜的智能體系統(tǒng)時,每一項決策都必須遵循信任與責(zé)任這兩個基本原則。
構(gòu)建信任在智能體時代,信任的內(nèi)涵遠不止于防范有害內(nèi)容、偏見和幻覺。
Salesforce近期的研究表明,61%的客戶覺得,隨著AI的發(fā)展,可信度變得比以往任何時候都更加重要。我們正步入一個全新領(lǐng)域,在這個領(lǐng)域中,組織需要對人類與AI的共生關(guān)系抱有深度信任。
這種信任基于以下要素。首先是準確性和邊界:AI智能體必須在明確的范圍里運行,同時保持準確。
智能體的自我意識同樣關(guān)鍵。就像一個值得敬重的同事,AI智能體得清楚自己的能力邊界,明白什么時候該向人類尋求幫助。這就需要一套復(fù)雜的交接協(xié)議,保證AI和人類能無縫配合。
比如,我們的AI研究團隊正在研究訓(xùn)練方法,教AI智能體遇到解決不了的難題時,把不確定的地方標出來,接著去尋求幫助。只要訓(xùn)練得當,AI就會知道什么時候不能瞎猜,而是向人類求助。
對于多智能體系統(tǒng),我們還需要全球公認和廣泛采用的協(xié)議。有了這些協(xié)議,協(xié)調(diào)者智能體才能安全、合乎道德地與其他企業(yè)的智能體交流、協(xié)商與合作,實現(xiàn)雙方共同利益。這種互動得快速、高效,還得公平。
最后,隨著AI智能體越來越多,我們的安全措施也得增強。
和其他技術(shù)一樣,一些人也會利用AI搞破壞。他們可能會訓(xùn)練AI蠕蟲來泄露數(shù)據(jù),或者嘗試控制其他AI智能體,曝光客戶的私人數(shù)據(jù)。
強化保護、做好隱私控制以及持續(xù)進行監(jiān)控,是維持信任的關(guān)鍵。只有建立了信任,AI才能從工具變成和我們一起成長的業(yè)務(wù)伙伴。
確保問責(zé)制當組織開始部署能每秒做出數(shù)千個決策的AI智能體時,需要建立明確的責(zé)任和監(jiān)督框架。
這樣一來,一旦出現(xiàn)問題,我們就能有應(yīng)對的辦法。這要有一套周全的方案。下面講講負責(zé)監(jiān)督智能體的管理團隊該怎么做。
清晰的責(zé)任鏈條:AI 智能體做出重要決策時,得清楚到底誰來負責(zé),不能有絲毫含糊。這可能意味著建立新的角色,比如「AI運維官」,他們不僅有權(quán)監(jiān)管智能體的部署工作,而且在問題發(fā)生時也承擔(dān)責(zé)任。
我們需要一個強大的系統(tǒng),在信息不完整、有偏見、出現(xiàn)幻覺或者產(chǎn)生有害輸出之前,就把問題查出來并解決掉。
這可不只是做簡單的安全檢查,還要持續(xù)監(jiān)控智能體做出的決策,具備實時干預(yù)的能力,而且要有一套完整的審計追蹤機制。
研究團隊最近在檢索增強生成(RAG)上有了很大的進展,這讓AI系統(tǒng)獲取和驗證信息的方式有了很大改善。這些新成果能讓我們快速評估和調(diào)整AI系統(tǒng),確保它給出的結(jié)果既準確又靠譜。
要制定一套流程,讓人類能對智能體進行監(jiān)督和干預(yù)。不能只局限于「human-in-the-loop」這個簡單概念,要設(shè)計出更復(fù)雜的框架,明確人類在何時、以何種方式介入智能體的決策。
在常規(guī)任務(wù)中,智能體能充分發(fā)揮自主性,而遇到重大決策時,人類的判斷仍能起到關(guān)鍵作用 。
一旦出現(xiàn)錯誤,我們要有一套結(jié)構(gòu)化應(yīng)對方法。這不僅包含技術(shù)層面的回滾程序,還得明確如何與客戶溝通、采取哪些補救措施,以及制定系統(tǒng)性改進的協(xié)議,以防止類似問題的發(fā)生。
目前,做出商業(yè)決策的自主AI智能體面臨著責(zé)任界定的問題,現(xiàn)有的監(jiān)管環(huán)境并不適用于它們。
我們需要和監(jiān)管機構(gòu)合作,制定合適的治理結(jié)構(gòu),明確AI智能體的責(zé)任,建立全新的法律和合規(guī)框架。
展望未來:科學(xué)方法與企業(yè)創(chuàng)新
要想部署真正有效的AI系統(tǒng),企業(yè)高層要有長遠眼光,把這些技術(shù)進步運用到實際應(yīng)用中。
企業(yè)在AI應(yīng)用上是否成功,不只看部署了多少AI智能體,或者實施速度有多快。關(guān)鍵在于企業(yè)領(lǐng)導(dǎo)和技術(shù)專家的精心規(guī)劃,讓AI與現(xiàn)有的工作流程、業(yè)務(wù)過程以及人類的工作偏好完美融合。
Salesforce在企業(yè)CRM領(lǐng)域摸爬滾打多年,經(jīng)驗豐富,很懂業(yè)務(wù)邏輯優(yōu)化。我們把這些經(jīng)驗和知識融入到 Agentforce的部署策略里。系統(tǒng)不僅功能強大,在滿足客戶業(yè)務(wù)需求和運營人員需求方面,也做到了可靠又負責(zé)。
未來,人類和AI不再相互對立,而是攜手合作,各展所長。隨著Agentforce發(fā)布,智能體已經(jīng)成為提升工作效能的強大助力,讓團隊完成以前辦不到的任務(wù)。
開始這一轉(zhuǎn)型的時機就是現(xiàn)在,就像每一次突破性實驗都始于假設(shè)一樣,每次成功的AI轉(zhuǎn)型也都是從一個愿景開始,到最終驗證成真!
參考資料:https://x.com/silviocinguetta/status/1877166654464893035https://www.salesforce.com/blog/the-agentic-ai-era-after-the-dawn-heres-what-to-expect/