AI浪潮對集成電路行業(yè)的變化是全方位的,不僅僅是制造端的制程工藝,還有更加上游的EDA及IP領(lǐng)域。
“當前,AI 模型正呈現(xiàn)出快速迭代的趨勢,其發(fā)展速度遠超傳統(tǒng)芯片架構(gòu)的更新步伐,給芯片設(shè)計領(lǐng)域帶來了巨大挑戰(zhàn)!苯,芯易薈副總裁石賢帥在第三十屆集成電路設(shè)計業(yè)展覽會上發(fā)表的演講《靈活、可配置的端側(cè)AI推理處理器子系統(tǒng) IP》中提到。
以往,主流的芯片架構(gòu)主要采用ARM或x86,其他架構(gòu)的市場份額極小。AI浪潮之下,具備開源、開放、極簡特征的RISC-V進入芯片設(shè)計企業(yè)視野,并以此為基礎(chǔ)開發(fā)相應(yīng)的產(chǎn)品。芯易薈便是其中一員,其成立于2021年,最早基于RISC-V定制處理器的工具。經(jīng)過這幾年的沉淀積累,其目前專注于端側(cè)AI芯片的工具化IP公司。
在上述演講中,石賢帥介紹了芯易薈自主開發(fā)的靈活可配置的端側(cè) AI 推理處理器子系統(tǒng) IP。他還表示,芯易薈憑借深厚的技術(shù)積累與創(chuàng)新思維,提出了一系列極具前瞻性的解決方案。其中,硬件子系統(tǒng)及軟件工具鏈的自動生成顯著提升了芯片對不同 AI 模型的適配能力,無需繁瑣的手動調(diào)整,即可快速響應(yīng)模型變化;多層次自動化驗證則有效保障了芯片設(shè)計的準確性與穩(wěn)定性,大幅縮短了驗證周期,減少了潛在的設(shè)計風險;而適配存儲需求的架構(gòu)優(yōu)化更是直擊芯片存儲瓶頸的關(guān)鍵痛點,使芯片在數(shù)據(jù)存儲與讀取方面更加高效流暢。
在本次展覽會上,芯易薈集中展示了依托FARM(Flexible Advanced RISC Machine)技術(shù)自主研發(fā)的系列異構(gòu)多核設(shè)計工具,包括全球首款C語言描述基于RISC-V基礎(chǔ)指令集的DSA處理器生成工具FARMStudio、以及多核異構(gòu)子系統(tǒng)設(shè)計工具DSSStudio。石賢帥表示,“芯易薈正在積極布局專注端側(cè)AI推理芯片的工具化IP,助力AI產(chǎn)業(yè)加速邁向新的發(fā)展高度!
當芯片設(shè)計企業(yè)在針對AI開發(fā)新的工具時,AI是否為企業(yè)所用,融入到產(chǎn)品當中?
對于這個議題,學(xué)界及產(chǎn)業(yè)界都有不少的討論及設(shè)想。中國科學(xué)院計算技術(shù)研究所研究員李華偉在《智能EDA前沿AI與EDA的協(xié)同進化之旅》一文中指出,“AI 的出現(xiàn)為新一代 EDA 設(shè)計帶來了革命性的變化。通過利用深度學(xué)習、大語言模型等技術(shù),AI 能夠從大量的歷史設(shè)計數(shù)據(jù)中學(xué)習模式和規(guī)律,從而為 EDA 過程提供更高效更智能的解決方案!
事實上,目前,Synopsys、Cadence等公司都推出了各自的智能EDA工具,但目前的AI只能做到部分功能增強,而無法實現(xiàn)完全智能。這個情況不僅是在EDA領(lǐng)域,在IP領(lǐng)域同樣如此。石賢帥也指出,在架構(gòu)設(shè)計方面融入AI技術(shù)還不夠成熟,但生成式AI已經(jīng)逐步融入我們生活的方方面面。
石賢帥分享了公司如何利用其工具開發(fā)多核異構(gòu)子系統(tǒng),支持從低到高的不同級別算力需求。他們提供基于自主研發(fā)工具和官方柔性IP庫的產(chǎn)品組合,包括處理器、DMA IP、TPU和VPU等組件,可以根據(jù)客戶需求靈活配置,快速定制指令,加速各種算法。針對AI大模型推理和AI+MCU應(yīng)用,芯易薈提供了差異化的產(chǎn)品和服務(wù),幫助傳統(tǒng)MCU廠商增加AI功能,實現(xiàn)更高性能的應(yīng)用!拔覀冎饕P(guān)注推理端,針對小算力到大模型的應(yīng)用場景。芯易薈的異構(gòu)多核設(shè)計平臺針對不同的應(yīng)用算力的場景提供定制化解決方案,我們的工具可以幫助客戶進行快速的架構(gòu)探索和迭代,增加差異化功能。我們的IP則可以幫助客戶固化特定算法,提高性能。我們最近在AI大模型方向有重大突破,芯易薈AI子系統(tǒng)IP在LLAMA2-7B推理的模型下,單位算力推理性能可達45 Token/s/TOPs,并且算力規(guī)格靈活可定制。”石賢帥說道。
“芯易薈緊跟AI化發(fā)展的步伐,正在積極布局專注端側(cè)AI推理芯片的工具化IP”。石賢帥表示,芯易薈基于工具化IP,客戶可以根據(jù)應(yīng)用場景拓展指令,提供很大的靈活性。在多樣復(fù)雜的環(huán)境下,如AI應(yīng)用下,可以做到快速算法實現(xiàn)和迭代。