為什么「端側(cè) AI」成為新共識
作者 | 張勇毅
編輯| 鄭玄上周剛剛結(jié)束的 CES 2025,共計吸引了 4000 余家廠商以及超過十萬名觀眾參展,統(tǒng)觀活動和展覽的全程,從內(nèi)容豐富程度來看,仍然無愧于「全球最大消費電子展」的名號。但真正讓 CES 配得上「消費電子屆春晚」的,除了各家廠商都會展示的不少「花哨」新技術(shù),還有隱藏在其中的,但仍能被捕捉到的「年度趨勢」。從 CES 每個人討論最多的話題,到現(xiàn)場各種產(chǎn)品展臺前受關(guān)注的情況,就不難判斷出接下來一整年內(nèi),全球消費電子產(chǎn)業(yè)將會出現(xiàn)的重要變革。對于未來趨勢的預(yù)判,通過 CES 這個全球各地消費電子從業(yè)者交流的平臺,在真正意義上變成「共識」,帶回世界各地生根發(fā)芽。比起 CES2024 上每個人都在興奮地討論「AI 硬件」,CES2025 的現(xiàn)場少了幾分因為看不清 AI 硬件的發(fā)展前景、而在興奮中夾雜著茫然的狂熱,討論中多了不少明確的指向性。今年的 CES 現(xiàn)場,眾多具有試水性質(zhì)的 AI 硬件產(chǎn)品逐漸變得無人問津,已經(jīng)被初步驗證過的 AI 眼鏡、AI 智能寵物等產(chǎn)品品類的展臺前,體驗產(chǎn)品與咨詢產(chǎn)品相關(guān)信息的用戶大排長龍。在產(chǎn)品功能展示中,端側(cè) AI 因為實時響應(yīng)速度更快、成本更加可控,迅速脫穎而出,成為今年不少新品 AI 功能的主要賣點,并且通過各種基于端側(cè) AI 實現(xiàn)的多模態(tài)內(nèi)容識別、或是端側(cè)數(shù)據(jù)分析等能力,給現(xiàn)有的硬件體驗帶來改變。如果說去年的共識是「AI 硬件是未來」,那 CES2025 中誕生的這個共識,無疑是「端側(cè) AI,才是 AI 硬件的未來」。01
端側(cè) AIAI 硬件落地的關(guān)鍵在剛剛結(jié)束的 2024 年,AI 硬件快速發(fā)展。從通用的 PC 和手機終端,到機器人、眼鏡、耳機,再到更多更細分的垂類賽道,幾乎每一種存在人機交互的硬件終端,都有廠商嘗試將其與大模型結(jié)合。最常見的是方案調(diào)用云端算力完成 AI 推理這在基礎(chǔ)大模型快速迭代,開發(fā)者還在探索 AI 能力與硬件結(jié)合的階段更加實用。但當 AI 硬件走出企業(yè)的研發(fā)中心,開始面向消費者時,只有云端 AI 的方案面臨三個挑戰(zhàn)。
調(diào)用云端算力的成本居高不下
網(wǎng)絡(luò)傳輸導(dǎo)致 AI 在終端的響應(yīng)速度較慢
數(shù)據(jù)隱私問題,用戶在關(guān)注隱私安全的同時,也希望終端 AI 能提供更個性化的服務(wù)
過去一年,行業(yè)逐漸形成共識:端側(cè)AI將是 AI 硬件落地的關(guān)鍵,這點在 CES2025 期間得到更進一步的印證。以今年最火熱的人形機器人賽道為例:CES 期間發(fā)布的機器人,不少在外觀設(shè)計上愈發(fā)貼近人類,但它們在動作靈活性、智能感知與決策,以及交互體驗等核心領(lǐng)域,依然存在較大的提升空間。究其原因,人形機器人的研發(fā)瓶頸集中在三大關(guān)鍵部分:負責自主學(xué)習/決策的「大腦」,掌控跑跳、抓取等復(fù)雜動作的「小腦」,以及由軀干四肢組成的「本體」。這些核心部位的技術(shù)突破,直接決定了機器人的整體性能。阿加犀展示的、以端側(cè) AI 技術(shù)為基礎(chǔ)的人形機器人,通過使用高通端側(cè) AI 處理器支持部署端側(cè)大模型,賦予機器人強大的端側(cè)多模態(tài)處理能力,將視覺、聽覺、觸覺等多種感官輸入深度融合,結(jié)合端側(cè) AI 的高能效優(yōu)勢、實現(xiàn)高效的端側(cè)實時數(shù)據(jù)處理,為機器人提供更流暢、更精準的交互體驗。在體驗中,阿加犀這款人形機器人能輕松完成智能交互,它能夠用流利的英語「Welcome to the Qualcomm booth!」問候走近的參觀者,與用戶流暢自然地規(guī)劃,并且準確地提供服務(wù)。
在高通展臺展示的阿加犀人形機器人|圖片來源:極客公園除了高性能和低延遲以外,隱私安全也是端側(cè) AI 的主要價值之一。極客公園在 CES 現(xiàn)場注意到,在各家汽車廠商的智能駕駛展臺中,面對車中部署的眾多攝像頭,會有很多觀眾問出「這些攝像頭收集到的駕駛員/乘客個人隱私數(shù)據(jù)如何進行處理」這樣的問題。相比今天主要運用于 B 端的機器人,智能汽車屬于用戶私人所有,把數(shù)據(jù)全都傳到云端,用戶難免會擔心隱私數(shù)據(jù)的泄露。相對于云端 AI,端側(cè) AI 更適合解決這樣的顧慮。終端側(cè) AI 從本質(zhì)上有助于保護用戶隱私,因為查詢和個人信息完全保留在終端上,即使是與車載智能語音助手進行溝通,也能通過端側(cè) AI 得到需要的信息,在保護隱私的同時無損于用戶的智能化體驗。在 CES 期間,筆者在高通展臺看到了車機系統(tǒng)的端側(cè) AI 解決方案,例如打通支付系統(tǒng),將支付信息保存在本地;此外還可以在車機系統(tǒng)中整合各種常用的在線服務(wù),例如匹配用戶生物特征信息,完成在充電站充電后,自動支付充電費用,「拔槍即走」,或是直接在車上點餐、訂購流媒體服務(wù)等場景需求。
高通在 CES 期間展示的驍龍數(shù)字底盤概念車|圖片來源:極客公園整個過程中能看到,無論是算力調(diào)用還是數(shù)據(jù)處理,都以端側(cè)的 AI 算力作為「主場」,只有在必要的情況下向云端請求相關(guān)數(shù)據(jù),或是在面臨復(fù)雜任務(wù)時向云端分流任務(wù)。在「離用戶最近的地方完成數(shù)據(jù)處理」也能在車輛駕駛這樣情況復(fù)雜的輔助駕駛場景下,顯著降低駕駛員分心的可能,將信息以最高效的方式,傳遞給用戶。從 CES 現(xiàn)場硬件產(chǎn)品的發(fā)展趨勢來講,這一點對于 AI 進一步深入更多用戶場景,有著比想象更多的可能性:大量如今不得不依賴云端推理才能完成的請求能在端側(cè)完成,這將在全球范圍內(nèi)帶來成本的大幅降低:每一個時代最流行的產(chǎn)品,一定也是普通人能負擔得起的產(chǎn)品,這一點同樣重要。更強的端側(cè) AI,不僅能更好地保護用戶隱私,同時也在為更加聰慧的主動智能奠基:用戶在 PC、智能手機乃至智能眼鏡、汽車中,都有愈發(fā)強烈的「讓 AI 主動幫我處理一些工作」的趨勢,尤其是對于手機/筆電這樣需要使用自帶電池運行的設(shè)備來講,這不僅意味著更大的數(shù)據(jù)處理量,同時也對硬件本身所采用的芯片功耗提出了更高的要求。
AI PC 能夠在端側(cè)調(diào)用本地模型的算力,處理更多 AI 大模型任務(wù)|圖片來源:極客公園性能、隱私、成本三大優(yōu)勢的加持下,今年在 CES 現(xiàn)場,無論是中國廠商百花齊放的「百鏡大戰(zhàn)」,還是 AR/VR 頭顯新銳廠商發(fā)布的各具亮點的產(chǎn)品,都能看到相關(guān)廠商選擇引入端側(cè) AI 解決方案。事實上,在 2024 年,我們其實已經(jīng)觀察到這一趨勢,無論是掀起 AI 眼鏡浪潮的 Ray-Ban Meta,還是各家主打端側(cè) AI 能力的智能手機與 AI PC,都離不開以高性能和高能效為核心優(yōu)勢的高通芯片的支持。在筆者與現(xiàn)場硬件創(chuàng)業(yè)者的溝通中,「我們用的是高通的方案」是聽到次數(shù)最多的產(chǎn)品介紹之一,這甚至已經(jīng)成為了一種無需更多介紹的產(chǎn)品背書,只要聽到這句話,雙方對于這款產(chǎn)品在端側(cè) AI 性能基準上應(yīng)該拿出怎樣的表現(xiàn),就有了一個相對的心理預(yù)期,無論是在 XR、AI PC、智能汽車還是機器人領(lǐng)域都是如此。在 CES 上,高通公布的最新數(shù)據(jù)是,搭載驍龍 X 系列平臺的 AI PC 已經(jīng)超過 60 款,預(yù)計到 2026 年這個數(shù)字將超過 100 款,這些 PC 來自你能想到的幾乎所有主流 Windows PC 廠商;零跑汽車、極氪、德賽西威、Garmin 佳明和松下汽車等汽車產(chǎn)業(yè)鏈廠商都宣布了基于驍龍座艙平臺的合作,而高通此次帶來十余項的汽車合作動態(tài),更是囊括座艙、智能駕駛、甚至還有電動摩托車等領(lǐng)域;索尼、三星、Rokid 和雷鳥等廠商,都在展會期間帶來了使用驍龍 XR 產(chǎn)品線的空間計算新品。
觀眾在 CES 上體驗 XR 產(chǎn)品|圖片來源:極客公園正是因為有了攜手多領(lǐng)域終端廠商打造的豐富品類的 AI 硬件,讓高通這樣一家 To B 企業(yè)的展臺反而成為了 CES2025 硬件產(chǎn)業(yè)鏈上存在感最強的廠商之一。02
從 AI 到 Agent UI端側(cè) AI 已經(jīng)成為共識,而如果從 CES2025 現(xiàn)場各家廠商各類產(chǎn)品的展示,推測 2025 年 AI 硬件的下一個趨勢,那一定是 Agent UI 的普及與推廣。從最早以應(yīng)用為核心的 Apple Macintosh 搭載的 systems1 系統(tǒng)算起,以應(yīng)用程序為核心的操作系統(tǒng)邏輯已經(jīng)誕生并進化了四十余年,以至于我們很容易混淆,直接將其與「智能操作系統(tǒng)」畫上的等號。但在 CES 現(xiàn)場,你會聽到眾多不一樣的回答:無論是行業(yè)領(lǐng)袖在 CES 開幕前的主題演講,還是高通所強調(diào)的「AI 是新的 UI」觀點,亦或是現(xiàn)場硬件/軟件創(chuàng)業(yè)者的探討中都能發(fā)現(xiàn),Agent UI 取代傳統(tǒng)操作界面 UI,將會是 AI 硬件時代帶給所有硬件產(chǎn)品影響最深刻的變革之一。或許很快,我們目前熟悉的車機、手機桌面等概念,都將被全新的、以AI為主要交互方式的 UI 取代,從而讓系統(tǒng)從「App 的主場」,變成「AI 的主場」,這就是 Agent UI 的核心所在。Agent UI 并不是「AI 語音助理」的直接迭代:它的誕生源于業(yè)界越來越多意識到,更聰慧的智能體驗需要依賴全新的架構(gòu),來強化 AI 的決策、交互與適應(yīng)能力這些要求對目前眾多僅靠大模型本身實現(xiàn) AI 功能的硬件來講,是難以逾越的天花板。這一趨勢同樣離不開端側(cè) AI 算力的深入:從筆者在 CES 2025 現(xiàn)場看到的情況,無論是本田、寶馬這樣的傳統(tǒng)車企,還是 Waymo、Rivian 這樣的新銳廠商,都將「從車載助理,到基于 AI 重新設(shè)計車機交互」當作了主要的演講主題與展示內(nèi)容。
在智能座艙中應(yīng)用 Agent UI 實現(xiàn)的效果|圖片來源:極客公園在高通在其 CES 展臺展出的驍龍數(shù)字底盤概念車中,Agent UI 取代傳統(tǒng)操作界面給交互體驗帶來的改變已經(jīng)初現(xiàn)雛形:除了最基本的時速等信息,駕駛員一側(cè)的顯示屏幕內(nèi)容幾乎全部被 AI 智能助理取代,傳統(tǒng)的 App 不見蹤影,取而代之的是 Agent 接收各種來自駕駛員的指令、并順暢完成任務(wù)。除了車機系統(tǒng),智能眼鏡其實是更早向我們展示 Agent UI 未來前景的硬件品類。去年現(xiàn)象級的智能眼鏡 Meta Rayban,由于沒有傳統(tǒng)的圖形 UI 和手勢識別、操作手柄等智能眼鏡產(chǎn)品場景的交互控制器,從一開始就依賴于語言指令。一開始這種交互還比較單一,只能執(zhí)行用戶的拍照、放歌等簡單命令,這時候更像是手機智能助手的翻版,還很難稱得上是下一代的 Agent UI。但隨著 Meta Llama 大模型的不斷升級,從 2024 年年中開始,越來越多用戶開始與 Meta Rayban 進行更復(fù)雜的交互,包括翻譯、計算卡路里、去博物館識別物體并進行講解等等。通過與 Agent 進行語音交互,讓智能產(chǎn)品在各個場景下提供服務(wù),此時的 Meta Rayban 已經(jīng)有了新一代 UI 的雛形。而在 CES 2025 期間,我們觀察到了更多的嘗試。比如搭載第一代驍龍 AR1 處理器的雷鳥 V3,同樣在 AR 眼鏡體驗中融入了 Agent UI 的概念:借助端側(cè) AI 計算,雷鳥 V3 能實現(xiàn)平均 1.3 秒的 AI 響應(yīng)速度;在新架構(gòu)的支持下,更多即將上線的新功能,包括手機通知 AI 總結(jié)播報、錄音內(nèi)容 AI 總結(jié)、AI 新聞播客等,都能通過更強的端側(cè)算力,給用戶實際使用帶來更好的體驗。03
結(jié)語雖然站在當下,我們對未來的暢想并不總是會變成現(xiàn)實,但如果結(jié)合足夠多的真實用戶反饋,自然能看到未來的產(chǎn)品進化趨勢,以及今天在追求、終有一天能到達的那個「終點」。如果全行業(yè)都同時認可一個想法,那它極大概率真的會變成一個「趨勢」,并最終孕育出新的未來。這某種程度上也是 CES 獨特的魅力之一:這里不是「巨頭通吃一切」的戰(zhàn)場,也不是誰有錢租得下華麗展位就能吸引到來自用戶最多的目光,而是通過產(chǎn)品和技術(shù)贏得用戶傳達出的最真實的反饋。在通過端側(cè) AI 提供解決方案的基礎(chǔ)上,各家使用高通平臺的終端品類在云端模型應(yīng)用上仍然呈現(xiàn)出「百花齊放」的狀態(tài),通過「云+端」的混合 AI 模式,面向不同應(yīng)用場景、不同用戶需求靈活采用對應(yīng)的處理方式,最終誕生我們在 CES 2025 上看到的一款款展臺前人滿為患的爆款產(chǎn)品。那些在 CES 現(xiàn)場人頭攢動、幾乎堵得水泄不通的展臺,是產(chǎn)品是否真正受到用戶關(guān)注的最佳回答。雖然 CES2025 已經(jīng)結(jié)束,但在這幾天內(nèi)來自世界各地的行業(yè)從業(yè)者們所形成的「端側(cè) AI 是共識」,會隨著接下來一整年之中一批批的 AI 硬件發(fā)布而不斷強化,真正推動行業(yè)發(fā)展。