飛象原創(chuàng)(魏德齡/文)“AI無處不在”已經成為一個可以預見的趨勢,業(yè)界一方面在謀劃AI融入千行百業(yè)的設想,另一方面也在思考如何讓AI甩掉在云端上的包袱。原因在于當前無處不在的大大小小的設備,很多無法保證持續(xù)穩(wěn)定的連接能力,同時還要兼具時延、續(xù)航上的要求。于是,依托于端側算力的邊緣AI應用成為“AI無處不在”的關鍵所在。
ABI Research發(fā)布的預測結果顯示,邊緣AI的市場規(guī)模將在未來十年間實現大幅增長。相關數據顯示,面向邊緣AI應用的微控制器單元(MCU)部署數量將會大幅增加,具體涉及農業(yè)、汽車、蜂窩網絡、醫(yī)療保健、制造、個人和工作設備、零售以及機器人等多個垂直領域。預計該市場的規(guī)模將呈現指數級增長,且在2030年將達到近18億件的規(guī)模。
不久前舉辦的意法半導體STM32媒體溝通會上,微控制器、數字IC與射頻產品部(MDRF)、物聯網/人工智能技術創(chuàng)新中心及數字營銷副總裁朱利安在開場分享了一個中國區(qū)的創(chuàng)新案例,通過電源與能源技術創(chuàng)新中心以及人工智能技術創(chuàng)新中心共同合作,為中國光伏的新能源客戶打造的AFCI方案中,包括了軟硬件、AI算法及STM32 MCU和功率器件。作為ST提供的第一個人工智能AFCI解決方案,能夠為中國區(qū)眾多的新能源客戶提供更加穩(wěn)定、更加安全的直流拉弧檢測功能,從而極大地增強了產品安全檢測的精度和客戶產品的業(yè)內競爭力。
同期,意法半導體還專門向媒體介紹了第一顆AI MCU。
第一顆AI MCU
“在一個萬物互聯的時代,我們如何把AI從云端下沉到邊緣端,使邊緣端具有AI能力?如何讓物聯網設備和汽車同時具備智能、安全和互聯這三大支柱?”微控制器、數字IC與射頻產品部(MDRF)微控制器產品市場經理丁曉磊表示,邊緣端AI具有時效性更強、隱私保護性更好、更高效的自主計算和執(zhí)行能力。
也就是說,當AI開始拓展自身融合的邊界,實現無處不在的目標,推理端也自然需要慢慢從云端下沉到邊緣端,在這一過程中,也需要如上文案例中涉及的不同軟硬件的支持。過往,已經有SoC能夠實現在端側運行模型的能力,而當MCU的算力越來越強,通過MCU所實現的邊緣AI能力,將可以進一步拉低BOM成本,降低設計復雜度。
意法半導體將STM32N6定義為首款具有AI加速能力的高性能STM32 MCU,搭載一顆800MHz ArmCortex-M55內核,CoreMark測試成績達到3360分。并且?guī)в星度胧降腘eural-Art Accelerator的硬件加速單元,可以與ARM Cortex-M55內核完全獨立并行工作,也可以作為ARM Cortex-M55的協處理器,做AI的加速能力運算。STM32N6還集成了一個可以直接處理圖像信號的ISP單元,準許應用使用簡單且經濟實惠的圖像傳感器。
據悉,STM32N6系列是意法半導體迄今為止處理性能最強的產品,機器學習處理性能是STM32 MCU現有高端產品的600倍。能夠讓嵌入式AI真正發(fā)揮作用,讓注重成本和功耗的消費電子和工業(yè)產品能夠運行計算機視覺、音頻處理、聲音分析等算法,提供以往小型嵌入式系統無法實現的高性能的功能。
STM32N6在邊緣AI領域能夠實現的種種能力,與其內置的NPU加速器Neural-Art Accelerator密不可分。
開啟全新嵌入式AI應用領域
根據意法半導體發(fā)布的《推動邊緣AI變革:現代微控制器中神經處理單元的強大威力》白皮書介紹,由于NPU具有專業(yè)化的架構,在邊緣AI加速領域,運行效率明顯高于傳統的處理單元,特別適合能源受限的應用環(huán)境,例如基于微控制器的應用。NPU不僅是各種邊緣AI用例的最佳解決方案,而且還能保持較低的功耗水平。
STM32N6上的Neural-Art Accelerator加速器,作為ST自研的專有神經網絡單元,可以提高人工智能的處理能力!按蠹铱梢赃@樣理解:你在一個MCU上用MCU功耗去實現邊緣AI的能力!倍岳诒硎荆琒TM32N6極好地實現了用相對最低的功耗實現最高性能的效果。
白皮書中專門給出了一個測試人員為人員檢測和跟蹤應用選擇了Yolo (You Only Look Once) v8作為目標檢測模型的示例,通過使用為Neural-ART加速器編譯的相同模型,可以在僅使用Arm Cortex-M CPU內核的情況將Yolo性能提升100倍以上。并且?guī)蔬_到26fps,表明Yolo v8推理可以連續(xù)、實時地分析100%的視頻幀。而這是在Cortex-M55上運行Yolo v8時所無法做到的。
MCU+NPU所帶來的另一個優(yōu)勢在于具備快速啟動和快速喚醒的能力,時間均在微秒或幾毫秒的級別,實現了SoC無法達到的效果。同時也降低了整體系統設計的復雜度,無需在外接電源管理芯片,并內置4.2MB SRAM,能夠讓所有傳統的MCU嵌入式的開發(fā)者快速學習上手,釋放邊緣AI的能力。
在生態(tài)系統的角度上,Neural-ART加速器IP與STM32Cube軟件生態(tài)系統實現無縫集成,從而有效確保了該加速器的運行效率。STM32Cube.AI(桌面應用程序)和意法半導體邊緣AI開發(fā)者云(在線)原生支持此種集成,且能夠生成優(yōu)化代碼,以便輕松、充分地利用NPU的功能。開發(fā)人員可以利用STM32Cube.AI或意法半導體邊緣AI開發(fā)者云輕松優(yōu)化經過預訓練的神經網絡模型,并將其轉換為可在Neural-ART加速器上高效運行的代碼。
STM32N6作為一顆通用MCU,目前已經在眾多領域實現了創(chuàng)新落地,例如個人產品、消費類、可穿戴設備、機器人、智能樓宇、白色家電、智能工業(yè)、無人機、智能家居等產品中均都有相關成功案例。
讓更多應用分享STM32優(yōu)勢
與此同時,意法半導體還正在讓更多應用分享STM32的優(yōu)勢。
“邊緣AI技術是我們看到的一個現有工業(yè)技術應用到未來汽車行業(yè)的例子。神經加速器開發(fā)工具讓開發(fā)人員能夠在其應用中輕松實現AI,不受他們的數據學專業(yè)知識水平的限制,將來,神經加速器技術及其相關工具將改進汽車系統。”意法半導體微控制器、數字IC和射頻產品部(MDRF)總裁Remi EL-OUAZZANE在不久前的一篇博客中表示。
隨著駕駛體驗在AI和軟件定義車輛時代的不斷演變,提升汽車功能性安全、靈活性和實時性能至關重要。意法半導體的下一代汽車微控制器也正在重塑未來汽車。Stellar系列專注于支持高集成度電動汽車控制、ADAS及關鍵安全子系統,采用嵌入式非易失性存儲技術(eNVM)和28nm FD-SOI工藝;STM32A系列則聚焦車身控制和邊緣設備管理,滿足ASIL B級安全標準。
意法半導體中國區(qū)微控制器、數字IC與射頻產品部(MDRF)汽車微控制器產品營銷高級經理黃延球在媒體會上表示:“我們希望像其他產品領域一樣,讓汽車和工業(yè)平臺實現融合,帶來優(yōu)勢互補,有STM32,也有STM32A,可以整合意法半導體的汽車安全技術方案和工業(yè)物聯網、互聯網、人工智能解決方案等!
面向邊緣智能的場景中所不可或缺的無線需求,STM32WL3集成了最新一代Sub-GHz長距離射頻收發(fā)器、Arm Cortex-M0+處理器內核和針對智能表計應用定制的外設以及改進的省電功能,大大簡化了無線解決方案的設計,縮短了產品上市時間,并延長了電池續(xù)航時間。
例如將STM32WL3用于表計應用中時,可以延長智能表計應用中的電池壽命,得益于集成的意法半導體獨特的模擬流量感測控制器LCSC,可以簡化和優(yōu)化水表設計,為水表帶來安全保護,將電池續(xù)航時間延長至15年以上,同時優(yōu)化水表的集成度和成本結構。
STM32C0作為非常具有性價比的32位MCU,通過有吸引力的價格和優(yōu)化的BOM來幫助客戶減少成本?扇〈矣秒娖、簡單工業(yè)控制器、電動工具和物聯網設備等產品設備中的傳統8位或16位MCU。作為32位MCU中的經濟型產品,STM32C0具有更高的處理性能、更大的存儲容量、更高的外設集成度,適合實現用戶界面控制等功能,以及其他基本控制、定時、計算和通信功能。
意法半導體通過不斷創(chuàng)新的STM32產品家族,助力邊緣AI和物聯網的全面發(fā)展。STM32的優(yōu)勢已分享至多個領域,推動技術革新,構建更加智能、安全和互聯的未來世界。