新智元報(bào)道
編輯:桃子
【新智元導(dǎo)讀】想象一下,一個(gè)比人類大腦快10億倍「超級(jí)大腦」是什么概念?來(lái)自港中文、中科院物理所等機(jī)構(gòu)研究人員,提出了突破性激光人工神經(jīng)元,完美復(fù)刻了人類神經(jīng)細(xì)胞功能,更創(chuàng)造了驚人的處理速度記錄。
人工神經(jīng)元,比人類大腦快10億倍,將會(huì)是怎樣的景象?
如今,這一科幻般的場(chǎng)景,早已成為了現(xiàn)實(shí)。
來(lái)自香港中文大學(xué)、中國(guó)科學(xué)院物理研究所等機(jī)構(gòu)科學(xué)家,成功開(kāi)發(fā)出了一種基于「激光」的人工神經(jīng)元。
最新研究已發(fā)表在Optica期刊上。
論文地址:https://opg.optica.org/optica/fulltext.cfm?uri=optica-11-12-1690&id=565919
這個(gè)基于芯片的量子點(diǎn)激光器,不僅能完全模仿真實(shí)神經(jīng)細(xì)胞功能,更實(shí)現(xiàn)了驚人的速度
即10GBaud信號(hào)處理速度,也就意味著它比生物神經(jīng)元快整整10億倍。
基于芯片點(diǎn)激光器,可以模擬生物梯級(jí)神經(jīng)元,同時(shí)實(shí)現(xiàn)10 GBaud的信號(hào)處理速度
如何理解這個(gè)速度有多快?
能夠在1秒內(nèi)處理1億次心跳數(shù)據(jù);能夠在1秒內(nèi)分析3479萬(wàn)張手寫數(shù)字圖像。
要知道,這個(gè)突破可能會(huì)徹底改變AI和先進(jìn)計(jì)算領(lǐng)域,提升模式識(shí)別和序列預(yù)測(cè)的能力。
AI模仿生物神經(jīng)元,飆升10億倍
這項(xiàng)突破性發(fā)現(xiàn),為何如此重要?
在我們的身體中,存在著不同類型的神經(jīng)細(xì)胞。
其中,梯級(jí)神經(jīng)元(graded neurons)是通過(guò)持續(xù)改變膜電位來(lái)編碼信息,實(shí)現(xiàn)精細(xì)的信號(hào)處理。
相較之下,脈沖神經(jīng)元(spiking neurons)則使用全有/全無(wú)的動(dòng)作點(diǎn)位來(lái)傳遞信息,創(chuàng)造出更為二元的通信方式。
最新研究中技術(shù)的關(guān)鍵突破在于,創(chuàng)新的設(shè)計(jì)方法。
傳統(tǒng)的光子脈沖神經(jīng)元,通常通過(guò)將輸入脈沖注入激光器的增益區(qū)域工作,這種方式會(huì)導(dǎo)致延遲,限制了神經(jīng)元的響應(yīng)速度。
如下圖所示,是脈沖神經(jīng)元和梯級(jí)神經(jīng)元的在輸入輸出的對(duì)比圖。
激光神經(jīng)元,速度快能耗低
激光人工神經(jīng)元能夠以模仿生物神經(jīng)元行為的方式,對(duì)輸入信號(hào)做出響應(yīng),由于其超快的數(shù)據(jù)處理速度和低能耗,正被探索用作顯著增強(qiáng)計(jì)算的一種方式。
然而,迄今為止開(kāi)發(fā)的大多數(shù)都是光子脈沖神經(jīng)元。
這些人工神經(jīng)元具有有限的響應(yīng)速度,可能遭受信息丟失,并且需要額外的激光源和調(diào)制器。
光子脈沖神經(jīng)元的速度限制,在最新研究中被打破了。
研究團(tuán)隊(duì)另辟蹊徑,選擇將射頻信號(hào)注入量子點(diǎn)激光器的可飽和吸收區(qū),巧妙地避開(kāi)了這一限制。
他們還為可飽和吸收區(qū)設(shè)計(jì)了高速射頻板,從而產(chǎn)生了一個(gè)更快速、更簡(jiǎn)單、節(jié)能的系統(tǒng)。
港中文研究小組負(fù)責(zé)人Chaoran Huang表示,「激光梯級(jí)神經(jīng)元突破了當(dāng)前光子脈沖神經(jīng)元的速度限制,我們構(gòu)建的一個(gè)儲(chǔ)層計(jì)算系統(tǒng)(reservoir computing system),在模式識(shí)別和序列預(yù)測(cè)等AI任務(wù)中展現(xiàn)出卓越的性能」。
激光梯級(jí)神經(jīng)元在心律失常檢測(cè)、圖像分類等AI任務(wù)中, 展示了卓越的模式識(shí)別和序列預(yù)測(cè)
他還稱,憑借強(qiáng)大記憶效應(yīng)和出色信息處理能力,單個(gè)激光梯度神經(jīng)元,可以表現(xiàn)得像一個(gè)小型神經(jīng)網(wǎng)絡(luò)。
因此即便是沒(méi)有額外復(fù)雜連接的單個(gè)激光梯級(jí)神經(jīng)元,也能高效地執(zhí)行機(jī)器學(xué)習(xí)任務(wù)。
高速儲(chǔ)層計(jì)算,1秒處理1億次心跳數(shù)據(jù)
為了進(jìn)一步展示激光梯級(jí)神經(jīng)元的能力,研究團(tuán)隊(duì)將其用于構(gòu)建儲(chǔ)層計(jì)算系統(tǒng)。
這是一種使用特定網(wǎng)絡(luò)(稱為存層)來(lái)處理時(shí)間相關(guān)數(shù)據(jù)的計(jì)算方法,常用于語(yǔ)音識(shí)別、天氣預(yù)測(cè)等領(lǐng)域。
激光梯級(jí)神經(jīng)元的類神經(jīng)元非線性動(dòng)力學(xué)特性,以及快速處理速度,使其成為支持高速儲(chǔ)層計(jì)算的理想選擇。
下圖所示,是儲(chǔ)層計(jì)算(RC)的架構(gòu)圖。
RC源自循環(huán)神經(jīng)網(wǎng)絡(luò),是一種功能強(qiáng)大且經(jīng)濟(jì)高效的計(jì)算框架,非常適合時(shí)間/順序信息的處理。
它主要由輸入層、存儲(chǔ)層和讀出層組成。在存儲(chǔ)層內(nèi),非線性節(jié)點(diǎn)之間的互聯(lián)是隨機(jī)的,權(quán)重是固定的,從而避免了對(duì)存儲(chǔ)層的訓(xùn)練。
這里,只有讀出層需要訓(xùn)練,可以通過(guò)線性回歸等簡(jiǎn)單且計(jì)算高效的方法來(lái)完成。
最新研究中,作者選擇讓激光梯級(jí)神經(jīng)元充當(dāng)激光儲(chǔ)層,來(lái)執(zhí)行儲(chǔ)層計(jì)算。在輸入層中,輸入信號(hào)被編碼為注入激光儲(chǔ)層的電脈沖。
在具體實(shí)驗(yàn)中,該系統(tǒng)展現(xiàn)出令人印象深刻的性能。
比如它每秒能處理1億次心跳數(shù)據(jù),并以98.4%的平均準(zhǔn)確率檢測(cè)到心率失常模式。
具體來(lái)講,研究人員使用經(jīng)過(guò)處理的MIT-BIH心律失常數(shù)據(jù)集,開(kāi)啟了失常心跳檢測(cè)的基準(zhǔn)任務(wù)。
數(shù)據(jù)庫(kù)中包含從47名受試者獲得的48個(gè)半小時(shí)心電圖記錄摘錄,是第一個(gè)可廣泛用于評(píng)估心率失常檢測(cè)器的測(cè)試材料。
在處理后兩類MIT-BIH心率失常數(shù)據(jù)集中,原始心電圖波形被重新采樣,并被分成單個(gè)心跳,每個(gè)心跳由50個(gè)時(shí)間步長(zhǎng)組成。
如下圖a所示,這些心跳被分類為兩組健康組和心率失常組,分別標(biāo)記為0和1。
而且,它還在各種AI應(yīng)用中,展現(xiàn)出優(yōu)秀的模式識(shí)別和序列預(yù)測(cè)能力,特別是在長(zhǎng)期預(yù)測(cè)任務(wù)方面。
在MNIST手寫數(shù)據(jù)集任務(wù)中,研究人員又評(píng)估了激光儲(chǔ)庫(kù)的分類性能。MNIST數(shù)據(jù)集包含由28×28灰度像素組成的手寫數(shù)字圖像。
如下圖所示,通過(guò)使用六重交叉驗(yàn)證方法計(jì)算的平均準(zhǔn)確度,在四類MNIST手寫數(shù)字分類任務(wù)中達(dá)到92.3%。
有網(wǎng)友對(duì)此表示,聽(tīng)到這樣的突破性進(jìn)展,讓我更加確信我們正在指數(shù)增長(zhǎng)曲線上穩(wěn)步前進(jìn)。
現(xiàn)在的發(fā)展速度已經(jīng)快到了我完全無(wú)法預(yù)測(cè)6個(gè)月后甚至一年后我們會(huì)發(fā)展到什么程度。也許我想得太超前了,但我確實(shí)能強(qiáng)烈感受到這些天技術(shù)進(jìn)步的加速度。
那么,激光神經(jīng)元的發(fā)現(xiàn),意味著什么?
它能夠加速AI在時(shí)間關(guān)鍵應(yīng)用中的決策過(guò)程,保持高精度的同時(shí),顯著提升了處理速度。
若是某天它被整合到邊緣計(jì)算設(shè)備中,實(shí)現(xiàn)更快速、更智能的人工智能系統(tǒng),將會(huì)顯著降低能源消耗。
研究人員表示,未來(lái)下一步,團(tuán)隊(duì)努力將提升激光梯度神經(jīng)元的處理速度,同時(shí)開(kāi)發(fā)出包含級(jí)聯(lián)激光梯度神經(jīng)元的深度儲(chǔ)層的計(jì)算架構(gòu)。
參考資料:
https://www.optica.org/about/newsroom/news_releases/2024/december/laser-based_artificial_neuron_mimics_nerve_cell_functions_at_lightning_speed/
https://opg.optica.org/optica/fulltext.cfm?uri=optica-11-12-1690&id=565919