儲備池計算(Reservoir Computing)是一種低訓練代價、低硬件開銷的循環神經網絡(RNN),在時序信息處理方面具有廣泛的應用,例如波形分類、語音識別、時間序列預測等。儲備池計算系統由神經元循環連接的儲備池和輸出層兩部分組成,其中僅有輸出層需要訓練,從而顯著降低了訓練代價,而系統中的儲備池可以由具有短時程特性的非線性器件來實現。當前國際上針對儲備池計算系統的研究主要集中在探索使用不同類型的非線性器件(如憶阻器、自旋扭矩振蕩器、納米線網絡、半導體光學放大器等)來構建單層儲備池,但儲備池狀態數、記憶容量、復雜動力學特性等的局限從根本上制約了系統本身信息處理能力的提升。
針對這一關鍵問題,北京大學集成電路學院黃如院士-楊玉超教授課題組首次采用可級聯短時程非線性單元構建了深度儲備池(deep reservoir)計算硬件,他們研制了可級聯的單層儲備池硬件,通過將動態憶阻晶體管與平面器件進行串聯分壓,實現了電壓輸入、電壓輸出的短時程非線性單元。由于輸入和輸出為相同的物理量,解決了通常情況下電壓輸入、電流輸出器件難以直接級聯的問題,為構建深度儲備池計算硬件奠定了器件基礎?;谠擃惗虝r程非線性單元,他們進一步制備了深度儲備池硬件系統,并結合分時復用的虛擬節點方法,獲得了豐富的儲備池狀態。
實驗研究結果表明,相比同等規模的單層儲備池計算系統,該工作所構建的深度儲備池計算硬件具有更大的記憶容量、更豐富的儲備池狀態數、層次化的信息處理能力,并在波形分類、電能消耗預測等任務中展示了優異的性能,證明了深度儲備池計算系統在時序信息處理任務中的潛力。
該研究論文題為"Multilayer Reservoir Computing Based on Ferroelectric α-In2Se3 for Hierarchical Information Processing",已發表在《先進材》期刊上。
前瞻經濟學人APP資訊組
論文原文:https://onlinelibrary.wiley.com/doi/abs/10.1002/adma.202108826
標簽: 計算硬件