芯片大廠恩智浦近日在京舉辦的會議上，對生態(tài)伙伴和客戶透露了在邊緣業(yè)務上，對人工智能的支持策略和進展。
雖然當下非常先進的AI/ML模型，都是在云端實現(xiàn)的，但因為時延和隱私監(jiān)管原因，越來越多的AI/ML功能將走向邊緣。就在幾個月前，恩智浦展示了i.MX 9系列產(chǎn)品，在邊緣運行大語言模型，甚至無需連接到云端，設備可以變得智能和自主，自行做出決策。
針對邊緣智能提出的要求，恩智浦在MCU和MPU側(cè)集成了NPU。恩智浦全球資深副總裁、工業(yè)及物聯(lián)網(wǎng)邊緣業(yè)務總經(jīng)理Charles Dachs說，對算力的部分不是說越多、越高越好，而是取決于應用場景，因此不會堆砌一個很高算力的MCU，會追求產(chǎn)品的性價比。覆蓋的算力從10個G到幾個T。
光有算力還不夠，恩智浦還提供了一個完整的軟件框架，稱之為eIQ。它使開發(fā)人員和客戶能夠采集數(shù)據(jù)、標注數(shù)據(jù)、訓練自己的模型，并在底層處理平臺上測試它們，并部署在不同硬件里，再去做推理。
Charles Dachs說，這些產(chǎn)品技術支持命令識別、機器視覺、異常檢測、網(wǎng)絡安全、身份識別、存在性檢測。
恩智浦也展示了中國團隊的案例。其中之一是將AI/ML功能與電機控制相結合，恩智浦提供了單芯片解決方案，客戶在一個芯片上，既實現(xiàn)馬達控制功能，又實現(xiàn)AI能力，典型的場景是電動工具打鉆時，遇到特定的情況會自動停止。
另一個是在醫(yī)療領域，把AI針對聲音的檢測，應用到傳統(tǒng)呼吸機中，可以將病人打鼾的聲音，從其他聲音中過濾出來，從而對病人進行監(jiān)測治療。
甚至在洗衣機中用于有效載荷管理的人工智能。人們把衣物放到洗衣機里，它會做一個自動的稱重，根據(jù)重量來調(diào)整馬達和機器，最終達節(jié)省功耗的作用。
恩智浦大中華區(qū)邊緣處理事業(yè)部系統(tǒng)工程高級總監(jiān)王朋朋介紹了Demo，有的AI機器學習運行在很小的MCU上，比如故障檢測；也有的運行在比較高端的跨界處理器或應用處理器上運行，比如說人臉識別、疲勞檢測或大語言模型。這些模型的參數(shù)量也從幾千到數(shù)億。“需要做一些平衡和取舍，并一定要多少參數(shù)或是一定要多少的TOPS的要求。”
具體到芯片產(chǎn)品，如MCX N率先集成了NPU；應用處理器i.MX 9系列里面集成了NPU，可以進行高效的AI和機器學習的處理能力；恩智浦剛剛發(fā)布的RT 700跨界處理器，是第一顆集成了NPU的跨界處理器，非常適合于做邊緣側(cè)的AI和機器學習的處理。比如，它廣泛應用于像AR眼鏡這樣的產(chǎn)品，也很適用于醫(yī)療或智能家居。
