展會信息港展會大全

“80元部署個人語音助手”!DeepSeek開啟AI普惠時代 端側(cè)應(yīng)用打開想象空間
來源:互聯(lián)網(wǎng)   發(fā)布日期:2025-02-08 08:12:14   瀏覽:359次  

導(dǎo)讀:《科創(chuàng)板日報》2月8日訊(記者 郭輝) “80塊打造個人語音助手”、“150塊DIY豆包智能機器人”……隨著DeepSeek的爆火,個人用戶部署AI大模型一夜間“出圈”?萍冀鐕@AI降本所做的工作并非一夕之功。有業(yè)內(nèi)人士表示,DeepSeek在算法層面的推理成本優(yōu)化,為國產(chǎn)算力芯片和計算集群網(wǎng)絡(luò)等硬件端的發(fā)展爭取了更多空間,而軟硬件成本的減少,也將相應(yīng)為國內(nèi)AI應(yīng)用帶來機會,由此 ......

《科創(chuàng)板日報》2月8日訊(記者 郭輝) “80塊打造個人語音助手”、“150塊DIY豆包智能機器人”……隨著DeepSeek的爆火,個人用戶部署AI大模型一夜間“出圈”。

科技界圍繞AI降本所做的工作并非一夕之功。有業(yè)內(nèi)人士表示,DeepSeek在算法層面的推理成本優(yōu)化,為國產(chǎn)算力芯片和計算集群網(wǎng)絡(luò)等硬件端的發(fā)展爭取了更多空間,而軟硬件成本的減少,也將相應(yīng)為國內(nèi)AI應(yīng)用帶來機會,由此形成產(chǎn)業(yè)發(fā)展正向循環(huán)。

越來越多個人開發(fā)者低成本的AI模型部署實踐,讓公眾更加清醒地認識到,AI普惠時代已來,端側(cè)AI落地箭在弦上。PC產(chǎn)品被認為是端側(cè)AI模型落地的首站。而受訪的供應(yīng)鏈人士認為,當前更大的想象空間還在智能眼鏡、AI玩具等智能體等應(yīng)用中,DeepSeek帶來的輕量化模型,將為智能終端行業(yè)帶來積極影響。

個人用戶部署大模型火爆 40元開發(fā)板月售萬件

“80塊買一塊開發(fā)板,按照教程進行硬件連接和固件燒錄,就能接入DeepSeek等大模型,打造個人語音助手系統(tǒng)。”在技術(shù)社群中,有開發(fā)者分享了部署AI的技術(shù)帖。

不僅如此,《科創(chuàng)板日報》記者關(guān)注到,花150元還能自行搭建一個豆包智能機器人,358元能搭建接入大模型且具備手勢識別、觸摸交互的機器人……可以說,DeepSeek近期的持續(xù)爆火,使得AI大模型部署的知識交流同樣火熱,也讓低成本搭建AI智能工具進入更廣泛的公眾視野。

“萬能的淘寶”和技術(shù)開源貢獻,讓這一切加速走進現(xiàn)實。

據(jù)了解,以上方案均基于樂鑫科技的ESP系列芯片。在淘寶搜索ESP32關(guān)鍵詞,可以看到包括樂鑫官方企業(yè)店在內(nèi),有多個商家售賣開發(fā)板或套件,不同套件價格低可至20元、配備屏幕及揚聲器、麥克風的套件價格可高至340元。

“80元部署個人語音助手”!DeepSeek開啟AI普惠時代 端側(cè)應(yīng)用打開想象空間

《科創(chuàng)板日報》記者關(guān)注到,一套價格80元的聊天機器人ESP32-S3開發(fā)套件,全網(wǎng)銷量已超1000件;價格40元的ESP32-S3開發(fā)板,則顯示月售超1萬件。

在評論區(qū)中,消費者以個人開發(fā)者居多。在購買商品后,商家會附送教學(xué)視頻,同時還會為用戶提供技術(shù)支持。

“一站式搞定,新手小白也可以操作”、“老板教我教到(晚上)12點半”、“老板晚上10點還在教我燒錄”……多名買家如是反饋產(chǎn)品購買體驗。

“80元部署個人語音助手”!DeepSeek開啟AI普惠時代 端側(cè)應(yīng)用打開想象空間

據(jù)樂鑫科技介紹,其ESP32-S3芯片硬件具備加速神經(jīng)網(wǎng)絡(luò)計算和信號處理等工作的向量指令,AI開發(fā)者們通過ESP-DSP和ESP-NN庫使用這些向量指令,能夠?qū)崿F(xiàn)高性能的圖像識別、語音喚醒和識別等應(yīng)用。

有開發(fā)者稱,ESP32-S3支持在本地離線運行一些AI模型,比如語音識別、人臉識別和移動檢測。但大部分自然語言對話交互仍需要線上接入大語言模型。

除樂鑫科技外,恒玄科技、中科藍訊、炬芯科技等公司的SoC芯片在終端AI部署中有所應(yīng)用。

其中,恒玄科技應(yīng)用于可穿戴設(shè)備中的BECO嵌入式AI協(xié)處理器,能夠和主CPU核心配合工作,完成基于神經(jīng)網(wǎng)絡(luò)AI算法的音頻處理,同時保持較低功耗水準。

炬芯科技則在其最新一代產(chǎn)品中整合了低功耗AI加速引擎,采用基于SRAM的存內(nèi)計算技術(shù),同時將產(chǎn)品逐步升級為CPU、DSP加NPU的三核異構(gòu)計算架構(gòu),打造低功耗端側(cè)AI算力。

產(chǎn)業(yè)鏈人士:看好DeepSeek對AI端側(cè)的積極影響

DeepSeek的橫空出世,為端側(cè)AI落地應(yīng)用進一步打開想象空間。

據(jù)了解,通過蒸餾,大模型推理能力可遷移至小參數(shù)模型,能夠大幅提升AI部署的靈活性。據(jù)光大證券分析師劉凱在2月6日發(fā)布的研報稱,蒸餾模型有1.5B、7B、8B、14B、32B、70B等多個版本,雖然蒸餾會損失部分能力,但更小的參數(shù)意味著更大的靈活性。第三方可以從DeepSeek-R1中蒸餾出更多版本的小參數(shù)模型并部署至手機、筆記本電腦、智能家居產(chǎn)品等各類終端產(chǎn)品中,預(yù)計將助力硬件銷量提升、并涌現(xiàn)出更多基于AI服務(wù)的付費點。

端側(cè)AI落地來勢洶涌,其前景也得到了產(chǎn)業(yè)鏈人士的證實和看好。

一家存儲芯片廠商人士則向《科創(chuàng)板日報》記者稱,DeepSeek對于AI端側(cè)的存儲有積極的影響,目前尤其看好端側(cè)AI智能眼鏡產(chǎn)品當中的落地。從行業(yè)來看,海外公司Meta的AI眼鏡是32GB容量+2GB的配置,大模型在其中已經(jīng)能夠當成本地化工具來使用,而未來可能智能眼鏡存儲容量還要加大。

該人士稱,“預(yù)計今年國內(nèi)的智能眼鏡肯定會大爆發(fā),起量會在2026年。”

一家國內(nèi)消費電子配套芯片公司人士向《科創(chuàng)板日報》記者表示,盡管他們的產(chǎn)品在產(chǎn)業(yè)鏈幾乎最上游,但還是能感受到DeepSeek為智能終端行業(yè)帶來的積極影響!癆I降本之后,終端應(yīng)用預(yù)計會有大的爆發(fā),繼續(xù)看好眼鏡、玩具、AI手機、AI PC等消費電子。”

華安證券分析師陳耀波在2月6日發(fā)布的研報中表示,端側(cè)實現(xiàn)AI能力需要端側(cè)AI大模型的落地。從國內(nèi)手機整機廠商看,均推出文檔摘要、AI修圖等端側(cè)AI功能,包括華為的盤古模型、小米的MiLM、vivo的藍心大模型等,基于DeepSeekR1在推理能力上表現(xiàn)出色,若能進入AI智能終端,將推出具有強大AI功能的產(chǎn)品,有望提升用戶體驗。

以AI眼鏡的產(chǎn)業(yè)鏈為例,光大證券表示,看好與日常需求相結(jié)合產(chǎn)生的巨大市場空間,建議關(guān)注恒玄科技、中科藍訊、星宸科技、富瀚微、云天勵飛-U、炬芯科技等SoC芯片商;以及普冉股份、兆易創(chuàng)新、佰維存儲、長盈精密等零部件環(huán)節(jié)。

DeepSeek為國產(chǎn)硬件端發(fā)展爭取更多空間

PC產(chǎn)品同時包含生產(chǎn)力工具和個人智能管家兩大屬性,被認為是端側(cè)模型落地的首站。以部分PC主機廠為主導(dǎo),DeepSeek模型與國產(chǎn)算力芯片的適配進展超過不少人的想象。

《科創(chuàng)板日報》記者了解到,日前搭載龍芯中科3A6000處理器的信創(chuàng)PC宣布實現(xiàn)DeepSeek本地化部署。據(jù)誠邁科技表示,DeepSeek實現(xiàn)本地部署后,無需依賴云端服務(wù)器,避免了因網(wǎng)絡(luò)波動或服務(wù)器過載導(dǎo)致的服務(wù)中斷,并且也保障了信息安全。比如在黨政機關(guān)等涉及大量敏感信息和個人隱私的場景中,用戶通過誠邁信創(chuàng)電腦上的本地部署DeepSeek,能夠完成文檔處理、數(shù)據(jù)分析、內(nèi)容創(chuàng)作、圖片編輯及代碼生成等多項工作,防止數(shù)據(jù)外泄。

國產(chǎn)GPU廠商沐曦則與聯(lián)想合作,推出了面向敏捷部署的DeepSeek智能體一體機解決問題。該產(chǎn)品搭載的聯(lián)想AI Force智能體開發(fā)平臺,深度融合DeepSeek等主流大模型庫,并通過私有化部署實現(xiàn)安全合規(guī)以及高度定制化、再開發(fā)能力等。實測數(shù)據(jù)顯示,在相同并發(fā)條件下,沐曦曦思N260 GPU在Qwen2.5-14B模型推理實測性能達到NVIDIA L20 GPU的110%-130%,可支持本地部署DeepSeek各種參數(shù)蒸餾模型推理。

除了本地化部署,DeepSeek作為開源模型,還通過各大云計算平臺向中小企業(yè)及個人用戶提供AI服務(wù)資源。

有業(yè)內(nèi)人士向《科創(chuàng)板日報》記者表示,從商業(yè)模式上來看,目前DeepSeek處于開源狀態(tài),云計算平臺方遵循開源協(xié)議均可使用。對用戶而言,算力平臺可能會附加算力成本或相關(guān)服務(wù)本,但考慮到算法模型公司的資產(chǎn)投入,云計算平臺作為“賣水人”,相對而言仍是高效穩(wěn)定的選擇。事實上,“近期DeepSeek火熱,使得算力平臺需求明顯增多”。

該人士還表示,基于主流云平臺異構(gòu)計算方案,DeepSeek也在一定程度上推動國產(chǎn)大算力芯片和異構(gòu)計算方案被市場接納,進一步降低了AI訓(xùn)練成本。

目前,阿里、騰訊、超算互聯(lián)網(wǎng)等算力平臺,均已經(jīng)上線DeepSeek系列模型。在算法和算力網(wǎng)絡(luò)的共同優(yōu)化之下,云計算平臺對DeepSeek模型進行適配并提供服務(wù),降低了終端接入大模型的成本和部署門檻。

以阿里云為例,用戶無需編寫代碼,即可云上一鍵部署DeepSeek-V3、DeepSeek-R1,實現(xiàn)從模型訓(xùn)練到部署再到推理的全過程,極大地簡化了AI模型的開發(fā)流程。在價格成本方面,阿里云服務(wù)用戶可選取公共資源組搭配節(jié)省計劃,或購買預(yù)付費EAS資源組等方式來節(jié)約成本。超算互聯(lián)網(wǎng)平臺則無需用戶部署或進行復(fù)雜操作,可開箱即用DeepSeek模型,并提供不限量免費體驗服務(wù)。

“端側(cè)大模型的線上接入,相對本地部署更為容易,但整體來看,DeepSeek確實讓更多AI應(yīng)用落地的軟硬件成本有所減少。”有算力產(chǎn)業(yè)人士表示,DeepSeek在算法層面的優(yōu)化,給了國產(chǎn)硬件端的發(fā)展爭取了更多空間,相應(yīng)地也為國內(nèi)AI應(yīng)用帶來機會,并進一步強化了國產(chǎn)AI從算法、算力到應(yīng)用的生態(tài)閉環(huán)。

(科創(chuàng)板日報記者 郭輝)

贊助本站

相關(guān)內(nèi)容
AiLab云推薦
推薦內(nèi)容
展開

熱門欄目HotCates

Copyright © 2010-2025 AiLab Team. 人工智能實驗室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動態(tài) | 免責聲明 | 隱私條款 | 工作機會 | 展會港