英特爾研發(fā)神經(jīng)形態(tài)芯片,其用意何在呢?
英特爾已經(jīng)展開了幾次收購行動,并修改了深度學(xué)習(xí)的發(fā)展藍(lán)圖。新的產(chǎn)品系列既涵蓋了用于訓(xùn)練神經(jīng)網(wǎng)絡(luò)的Knights Mill和Lake Crest(Nervana),也包含用于運(yùn)行這些模型的Xeons,Altera FPGA和Movidius視覺處理器。
隨著Loihi測試芯片的發(fā)布,英特爾現(xiàn)在已經(jīng)將另一芯片納入產(chǎn)品組合中。不過,這一個芯片有一點(diǎn)不同。對于開創(chuàng)者來說,這一芯片并不是公司人工智能產(chǎn)品事業(yè)部的一部分,而是英特爾研究院的一部分,該研究院花了約六年時間研發(fā)這一測試芯片。此外,Loihi測試芯片有一個非常不同的“自學(xué)”神經(jīng)構(gòu)造,有潛力解決更加廣泛的人工智能問題。
模擬大腦的計(jì)算機(jī)的概念并不新鮮,美國加利福尼亞理工學(xué)院的科學(xué)家卡弗·米德(Carver Mead)在20世紀(jì)80年代就開始研究這個概念,并創(chuàng)造了“神經(jīng)元”這一術(shù)語。但是,這些在很大程度上還是讓科學(xué)項(xiàng)目只帶來少量的商業(yè)應(yīng)用軟件。英特爾研究院高級首席工程師兼首席科學(xué)家Narayan Srinivasa在接受采訪時解釋道,公司為什么選擇走這一條路。
摩爾定律放緩讓英特爾可以在特定區(qū)域壓縮更多的內(nèi)核。Srinivasa表示,但事實(shí)上,許多工作負(fù)載無法利用所有的這些內(nèi)核,這就導(dǎo)致了所謂的暗場硅晶現(xiàn)象。換句話說,始終點(diǎn)亮所有的晶體管效率并不高。為了解決這個問題,該行業(yè)既需要一個更高效的結(jié)構(gòu),也需要能利用所有內(nèi)核的互補(bǔ)性工作負(fù)載。
英特爾和其他公司受到大腦設(shè)計(jì)的啟發(fā),因?yàn)榇竽X做什么事的效率都很高。估計(jì)人腦大約有1000億個神經(jīng)元,每一個神經(jīng)元有1萬個突觸連接——或者總共有1千萬億個突觸,但是運(yùn)行所需的能量比燈泡要少。當(dāng)然,神經(jīng)形態(tài)芯片還無法接近這種規(guī)模。但14納米的Loihi測試芯片被分為128個群集,每一個群集包含1024個神經(jīng)元,總共約有13萬個神經(jīng)元,散布著1.3億個突觸。
但芯片運(yùn)行的原理是類似的,至少在我們了解大腦如何工作的范圍內(nèi)是如此。當(dāng)發(fā)送到神經(jīng)元的脈沖或“尖波”達(dá)到一定的激活水平時,它會將突觸上的信號發(fā)送到其他神經(jīng)元。不過,大部分的活動都發(fā)生在“易變化的”突觸上,意味著突觸可以從這些變化中學(xué)到東西并存儲這些新信息。不像擁有單獨(dú)計(jì)算和存儲器的常規(guī)系統(tǒng),神經(jīng)形態(tài)芯片擁有許多存儲器(在這種情況下為SRAM高速緩存),安裝在靠近計(jì)算引擎的位置。
這些脈沖神經(jīng)網(wǎng)絡(luò)中沒有全局時鐘,只有在神經(jīng)元達(dá)到激活水平時,神經(jīng)元才會發(fā)光。而其余時間神經(jīng)元都是黑暗狀態(tài)。這種異步操作使得神經(jīng)形態(tài)芯片比“永遠(yuǎn)開啟”的CPU或GPU更加節(jié)能高效。異步操作技術(shù)來源于半導(dǎo)體公司Fulcrum Microsystems,英特爾在2011年收購了這家開發(fā)以太網(wǎng)交換芯片的公司。但Srinivasan表示,這只是“用于其他技術(shù)的嘯聲”。
這也使得脈沖神經(jīng)網(wǎng)絡(luò)有望成為其他學(xué)習(xí)模式的解決方案。GPU非常適用于監(jiān)督學(xué)習(xí),因?yàn)檫@些深層神經(jīng)網(wǎng)絡(luò)可以使用大量標(biāo)簽數(shù)據(jù)進(jìn)行離線訓(xùn)練,這些數(shù)據(jù)可以讓大陣列處理器保持忙綠狀態(tài)。然后,這些模式被轉(zhuǎn)移到所謂的“推理”程序中,在中央處理器,現(xiàn)場可編程門陣列或?qū)S眉呻娐飞线\(yùn)行。神經(jīng)形態(tài)芯片也可以用于監(jiān)督學(xué)習(xí),但是由于它們本質(zhì)上更有效率,所以脈沖神經(jīng)網(wǎng)絡(luò)也應(yīng)是使用稀疏數(shù)據(jù)的無監(jiān)督或強(qiáng)化學(xué)習(xí)的理想選擇。這方面不錯的示例就包括智能視頻監(jiān)控和機(jī)器人技術(shù)。
Loihi測試芯片并不是第一個神經(jīng)形態(tài)芯片。IBM的TrueNorth,它是DARPA長期研究項(xiàng)目的一部分,它也許是最知名的。但也有其他的例子,比如斯坦福大學(xué)的Neurogrid,海德堡大學(xué)的BrainScaleS系統(tǒng)和曼徹斯特大學(xué)的SpiNNaker。這些都依賴于擁有多個離線訓(xùn)練芯片的板卡(在某些情況下還擁有模擬電路)。英特爾表示,Loihi測試芯片可以用于實(shí)時培訓(xùn)和推理,并且隨著時間的推移不斷學(xué)習(xí),越來越擅長它所做的事情。Srinivasa說:“我們是唯一一個在單一芯片上就可以處理所有這些學(xué)習(xí)模式的公司。”
全數(shù)字設(shè)計(jì)實(shí)際上包含兩個14納米的芯片,一個簡單的x86處理器,可以在同一個程序包中進(jìn)行大量的預(yù)處理(收集數(shù)據(jù),將數(shù)據(jù)編碼成適合于脈沖神經(jīng)網(wǎng)絡(luò)的格式,并將其傳輸?shù)缴窠?jīng)形態(tài)芯片),以及做出神經(jīng)形態(tài)網(wǎng)格。Loihi測試芯片不是協(xié)同處理器;盡管系統(tǒng)細(xì)節(jié)仍在制定之中,x86芯片將會擁有引導(dǎo)環(huán)境和輕量級操作系統(tǒng),并充當(dāng)主機(jī)。
第一批芯片將在11月份進(jìn)行制作,計(jì)劃在2018年上半年與“專注推動人工智能發(fā)展的一流大學(xué)和研究機(jī)構(gòu)”一同進(jìn)行測試。屆時,英特爾還計(jì)劃完成一個軟件工具,可以更易于轉(zhuǎn)換數(shù)據(jù)流圖來運(yùn)行作為監(jiān)督,無監(jiān)督和強(qiáng)化學(xué)習(xí)的脈沖神經(jīng)網(wǎng)絡(luò)。
Loihi測試芯片神經(jīng)元的數(shù)量和鼴鼠大腦中的數(shù)量大致相同,而Loihi測試芯片是一個相對較小的神經(jīng)形態(tài)芯片,但英特爾表示,利用公司先進(jìn)的工藝技術(shù),可以輕松擴(kuò)展這一架構(gòu)。Srinivasa說:“沒有什么可以阻止我們做更多有關(guān)神經(jīng)元和突觸的工作,因?yàn)樗鼈兌际且粯拥摹?rdquo;
但是,目前這仍只是一個研究項(xiàng)目。的確,Loihi的名字可能傳達(dá)了這么一個微妙的信息,告訴我們還有多少工作要做。位于夏威夷島海岸的羅希火山是夏威夷海底山中唯一的火山,這座海底山還處于早期發(fā)展階段。這些海底火山經(jīng)歷了幾千年的循環(huán)爆發(fā),熔巖積累和侵蝕,慢慢形成了島嶼。希望人工智能的下一個重大突破不會花那么長的時間才能出現(xiàn)。