榮格工業(yè)資源APP
了解工業(yè)圈,從榮格工業(yè)資源APP開始。
歡迎來到榮格工業(yè)資源網(wǎng)!
近日據(jù)外媒報(bào)道,麻省理工學(xué)院與合作機(jī)構(gòu)的科學(xué)家們成功研制出一種能夠利用光完成深度神經(jīng)網(wǎng)絡(luò)計(jì)算的光子芯片,突破了傳統(tǒng)電子計(jì)算硬件的局限。這種由互連模塊構(gòu)成光學(xué)神經(jīng)網(wǎng)絡(luò)的光子芯片,有望顯著提升機(jī)器學(xué)習(xí)應(yīng)用的計(jì)算效率。
實(shí)現(xiàn)全集成神經(jīng)網(wǎng)絡(luò)
研究團(tuán)隊(duì)研制的芯片同時(shí)集成了深度神經(jīng)網(wǎng)絡(luò)所需的線性與非線性計(jì)算。深度神經(jīng)網(wǎng)絡(luò)依賴矩陣乘法和非線性運(yùn)算處理數(shù)據(jù),但實(shí)現(xiàn)光學(xué)非線性一直存在挑戰(zhàn)。
論文第一作者、MIT量子光子學(xué)與人工智能組訪問科學(xué)家Saumil Bandyopadhyay表示:光學(xué)非線性實(shí)現(xiàn)極為困難,因?yàn)楣庾娱g不易相互作用。觸發(fā)光學(xué)非線性需要消耗大量功率,因此難以構(gòu)建可擴(kuò)展的系統(tǒng)。
為解決這一難題,研究人員設(shè)計(jì)了非線性光學(xué)功能單元(NOFU),將非線性運(yùn)算直接集成在光子芯片上。該芯片采用三層結(jié)構(gòu):通過可編程分束器執(zhí)行線性運(yùn)算,通過NOFU實(shí)現(xiàn)非線性功能。
該系統(tǒng)首先將深度神經(jīng)網(wǎng)絡(luò)參數(shù)編碼為光信號(hào),由可編程分束器對(duì)輸入信號(hào)執(zhí)行矩陣乘法運(yùn)算。隨后數(shù)據(jù)傳送至可編程N(yùn)OFU,通過分流少量光信號(hào)至光電二極管將光信號(hào)轉(zhuǎn)換為電流,從而實(shí)現(xiàn)非線性函數(shù)運(yùn)算。該過程無需外部放大器,能耗極低。
Bandyopadhyay解釋道:我們始終保持在光學(xué)域內(nèi)處理,直至最終讀取結(jié)果。這使得我們能夠?qū)崿F(xiàn)超低延遲。這對(duì)光學(xué)信號(hào)域內(nèi)處理系統(tǒng)(如導(dǎo)航或通信)特別有用,對(duì)需要實(shí)時(shí)學(xué)習(xí)的系統(tǒng)也同樣重要。
研究論文指出,在該系統(tǒng)上實(shí)施無反向傳播原位訓(xùn)練時(shí),該技術(shù)在六類元音分類任務(wù)中達(dá)到92.5%的準(zhǔn)確率,與數(shù)字計(jì)算機(jī)的準(zhǔn)確率相當(dāng)??傮w而言,光子系統(tǒng)在訓(xùn)練測試中達(dá)到超過96%的準(zhǔn)確率,關(guān)鍵計(jì)算耗時(shí)不足半納秒。
未來應(yīng)用展望
電子工程與計(jì)算機(jī)科學(xué)系教授、量子光子學(xué)與人工智能組及RLE首席研究員Dirk Englund評(píng)論道:這項(xiàng)工作證明計(jì)算——本質(zhì)上是將輸入映射到輸出的過程——可以被編譯到線性和非線性物理的新架構(gòu)上,從而實(shí)現(xiàn)計(jì)算規(guī)模與所需努力之間根本不同的縮放規(guī)律。
該系統(tǒng)的制造工藝與CMOS計(jì)算機(jī)芯片相同,具備可擴(kuò)展生產(chǎn)的可行性。這種與商業(yè)代工技術(shù)的兼容性,有助于其與現(xiàn)有電子系統(tǒng)(包括攝像機(jī)和通信設(shè)備)的集成。
Bandyopadhyay補(bǔ)充道:在很多場景中,模型性能并非唯一關(guān)鍵因素,獲取答案的速度同樣重要。既然擁有了能夠在納秒級(jí)時(shí)間尺度上運(yùn)行神經(jīng)網(wǎng)絡(luò)的光學(xué)端到端系統(tǒng),就可以從更高層面思考應(yīng)用和算法。
長遠(yuǎn)來看,這種光子處理器有望為激光雷達(dá)、天文學(xué)與粒子物理科學(xué)研究、高速通信等計(jì)算密集型應(yīng)用帶來更快速、更節(jié)能的深度學(xué)習(xí)解決方案。