據(jù)報道,美國斯坦福大學的研究人員已經(jīng)證明,可以直接在光學芯片上訓練人工神經(jīng)網(wǎng)絡(luò)。這一重大突破表明,光學電路可以實現(xiàn)基于電子的人工神經(jīng)網(wǎng)絡(luò)的關(guān)鍵功能,進而可以以更便宜、更快速和更節(jié)能的方式執(zhí)行語音識別、圖像識別等復雜任務(wù)。
“相比使用數(shù)字計算機,使用光學芯片進行神經(jīng)網(wǎng)絡(luò)計算更有效,能夠解決更復雜的問題,”斯坦福大學研究團隊的負責人范汕洄(Shanhui Fan)說:“這將增強人工神經(jīng)網(wǎng)絡(luò)的能力,例如,使其能夠執(zhí)行自動駕駛汽車所要求的任務(wù),或者能夠?qū)陬^問題做出適當?shù)幕卮?。這將以我們現(xiàn)在無法想象的方式改善我們的生活?!?/p>
人工神經(jīng)網(wǎng)絡(luò)是人工智能的一種,它使用連接的單元,以類似大腦處理信息的方式來處理信息。使用人工神經(jīng)網(wǎng)絡(luò)執(zhí)行復雜的任務(wù),例如語音識別,需要訓練算法對輸入進行分類,比如對不同的單詞進行分類。
雖然光學人工神經(jīng)網(wǎng)絡(luò)最近已經(jīng)得到實驗證明,但此前的研究是在傳統(tǒng)的數(shù)字計算機上使用一個模型進行訓練步驟,然后將最終的設(shè)置導入光學電路。在最新Optica期刊上,斯坦福大學的研究人員報告了一種新方法,通過實現(xiàn)“反向傳播”算法(這是訓練傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的標準方法)的光學模擬,直接在設(shè)備中訓練人工神經(jīng)網(wǎng)絡(luò)。
圖:研究人員已經(jīng)證明,神經(jīng)網(wǎng)絡(luò)可以通過光學電路(圖中藍色矩形)進行訓練。在整個網(wǎng)絡(luò)中,有若干個這樣的電路連接在一起。激光輸入(綠色)的編碼信息由光波導(黑色)通過芯片。芯片使用可調(diào)波束分離器(光波導中彎曲的部分)執(zhí)行對人工神經(jīng)網(wǎng)絡(luò)至關(guān)重要的操作。分離器將兩個相鄰的波導連接在一起,并可通過調(diào)整光學移相器(紅色和藍色發(fā)光物體)的設(shè)置進行調(diào)整。分離器的作用就像“旋鈕”,可以在特定任務(wù)的訓練過程中進行調(diào)整。Credit: Tyler W. Hughes, Stanford University
該論文的第一作者說:“使用物理設(shè)備而不是計算機模型進行訓練,可以使訓練過程更精確?!薄岸?,由于訓練步驟是神經(jīng)網(wǎng)絡(luò)實現(xiàn)中非常耗費計算力的部分,因此,在光學電路上執(zhí)行這個步驟,對于改進人工神經(jīng)網(wǎng)絡(luò)的計算效率、速度和功耗都是至關(guān)重要的。”
基于光的網(wǎng)絡(luò)
雖然神經(jīng)網(wǎng)絡(luò)處理通常使用傳統(tǒng)的計算機進行,但仍有大量的工作要專門設(shè)計針對神經(jīng)網(wǎng)絡(luò)計算優(yōu)化的硬件?;诠鈱W的設(shè)備非常吸引人,因為它們可以并行地執(zhí)行計算,同時比電子設(shè)備消耗的能量更少。
在這項新研究中,研究人員通過設(shè)計一種光學芯片來復制傳統(tǒng)計算機訓練神經(jīng)網(wǎng)絡(luò)的方式,克服了實現(xiàn)全光學神經(jīng)網(wǎng)絡(luò)(all-optical neural network)的一個重大挑戰(zhàn)。
人工神經(jīng)網(wǎng)絡(luò)可以被視為一個帶有許多旋鈕的黑盒。在訓練期間,每個旋鈕都要轉(zhuǎn)動一點,然后測試系統(tǒng),查看算法的性能是否得到改善。
“我們的方法不僅可以幫助預測旋鈕轉(zhuǎn)動的方向,還可以預測每個旋鈕轉(zhuǎn)動的方向,從而更接近預期的性能?!盚ughes說,“我們的方法大大加快了訓練速度,特別是對于大型網(wǎng)絡(luò),因為可以并行地獲得每個旋鈕的信息?!?/p>
片上訓練
新的訓練協(xié)議在具有可調(diào)諧光束分離器的光學電路運行,通過改變光學移相器的設(shè)置進行調(diào)整。具體來說,該方法是將編碼有待處理信息的激光束發(fā)射到光學電路中,由光波導通過光束分離器進行傳輸,像旋鈕一樣進行調(diào)整,以訓練神經(jīng)網(wǎng)絡(luò)算法。
在新的訓練協(xié)議中,激光首先通過光學電路輸入。退出設(shè)備后,計算出與預期結(jié)果的差值。然后,這些信息被用來產(chǎn)生一個新的光信號,這個信號通過光網(wǎng)絡(luò)以相反的方向發(fā)送回來。
通過測量此過程中每個分束器周圍的光強度,研究人員展示了如何并行地檢測神經(jīng)網(wǎng)絡(luò)的性能隨著每個分束器設(shè)置而變化的情況。移相器的設(shè)置可以根據(jù)這些信息進行更改,這個過程可以重復,直到神經(jīng)網(wǎng)絡(luò)產(chǎn)生期望的結(jié)果。
研究人員用光學模擬測試了他們的訓練技術(shù),方法是教算法執(zhí)行復雜的任務(wù),比如在一組點中找出復雜的特征。他們發(fā)現(xiàn)光學實現(xiàn)與傳統(tǒng)計算機的執(zhí)行類似。
該研究的負責人說:“我們的研究表明,你可以利用物理定律來實現(xiàn)計算機科學算法。”“通過在光學領(lǐng)域?qū)@些網(wǎng)絡(luò)進行訓練,證明光學神經(jīng)網(wǎng)絡(luò)系統(tǒng)可以利用光學器件來實現(xiàn)某些功能?!?/p>
研究人員計劃進一步優(yōu)化這個系統(tǒng),并希望用它來實現(xiàn)神經(jīng)網(wǎng)絡(luò)任務(wù)的實際應(yīng)用。他們設(shè)計的通用方法可用于各種神經(jīng)網(wǎng)絡(luò)架構(gòu),也可以用于其他應(yīng)用。
未來智能實驗室是人工智能學家與科學院相關(guān)機構(gòu)聯(lián)合成立的人工智能,互聯(lián)網(wǎng)和腦科學交叉研究機構(gòu)。
未來智能實驗室的主要工作包括:建立AI智能系統(tǒng)智商評測體系,開展世界人工智能智商評測;開展互聯(lián)網(wǎng)(城市)云腦研究計劃,構(gòu)建互聯(lián)網(wǎng)(城市)云腦技術(shù)和企業(yè)圖譜,為提升企業(yè),行業(yè)與城市的智能水平服務(wù)。
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4838瀏覽量
107834 -
圖像識別
+關(guān)注
關(guān)注
9文章
534瀏覽量
40069 -
AI
+關(guān)注
關(guān)注
91文章
39820瀏覽量
301497 -
語音識別
+關(guān)注
關(guān)注
39文章
1812瀏覽量
116065
原文標題:斯坦福證明神經(jīng)網(wǎng)絡(luò)能直接在光學芯片上訓練
文章出處:【微信號:AItists,微信公眾號:人工智能學家】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
神經(jīng)網(wǎng)絡(luò)的初步認識
NMSIS神經(jīng)網(wǎng)絡(luò)庫使用介紹
在Ubuntu20.04系統(tǒng)中訓練神經(jīng)網(wǎng)絡(luò)模型的一些經(jīng)驗
CICC2033神經(jīng)網(wǎng)絡(luò)部署相關(guān)操作
液態(tài)神經(jīng)網(wǎng)絡(luò)(LNN):時間連續(xù)性與動態(tài)適應(yīng)性的神經(jīng)網(wǎng)絡(luò)
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+神經(jīng)形態(tài)計算、類腦芯片
神經(jīng)網(wǎng)絡(luò)的并行計算與加速技術(shù)
斯坦福(Stanford)鎖相放大器故障修復
斯坦福SR530鎖相放大器技術(shù)手冊
無刷電機小波神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)子位置檢測方法的研究
基于FPGA搭建神經(jīng)網(wǎng)絡(luò)的步驟解析
斯坦福DG535脈沖發(fā)生器無法啟動故障診斷與維修方案
詳解《斯坦福 AI 報告 2025》:國產(chǎn)模型崛起、清華論文領(lǐng)先
斯坦福大學發(fā)布《2025 年人工智能指數(shù)報告》
斯坦福證明光學芯片上訓練人工神經(jīng)網(wǎng)絡(luò),之后可以快捷的完成復雜任務(wù)
評論