全球半導體產業先進記憶體技術領先開發商與授權商 Weebit Nano Limited (ASX: WBT,以下簡稱Weebit)宣布推出 Weebit Matrix 記憶體內運算(In-Memory Compute, IMC)研究計畫。該計畫主要目的為加速探索次世代運算架構,透過提供業界及學術研究人員以ReRAM為基礎的硬體開發套件協助其探索、並開發 IMC 演算法與系統原型。
Weebit Nano 記憶體內運算套件與開發板
|
現今的AI工作負載中,處理器與記憶體間的資料傳輸可能造成顯著的效能與頻寬瓶頸,同時也可能在整體能耗上佔據相當大的比例。記憶體內運算(IMC)透過直接在記憶體中執行運算可減少資料傳輸、提升運算速度並大幅降低功耗。IMC架構中,尤其是採用 ReRAM 等非揮發性記憶體(NVM)的設計在 AI 推論應用中更極具發展潛力,而特別適用於邊緣運算與物聯網(IoT)裝置。
透過Weebit Matrix IMC研究計畫,研究人員可透過ReRAM平台開發與測試AI演算法、研究創新的程式寫入方法、探索新型AI與神經形態運算架構,及評估潛在的功耗與效能提升等。參與計畫的研究人員將與Weebit分享ReRAM相關研究成果及回饋來提升技術,並裨益於更廣泛的研究社群。
Weebit ReRAM具備超低功耗、微縮優勢、成本效益、類比特性,以及可輕易整合至後段製程(BEOL)之優勢,非常適用於此類運算架構。此外,ReRAM本身亦具備抗輻射特性,因而也使其成為航太、國防及醫療應用的理想選擇。
一家總部位於美國、專精於抗輻射AI硬體的公司運用Weebit ReRAM來評估一款適用於嚴苛環境的次世代低功耗AI加速器。該公司探索直接在 ReRAM 陣列中執行神經網路運算,並將其效能與傳統GPU及FPGA解決方案進行基準測試。分析結果顯示,該公司預估,針對特定 AI 推論工作負載,採用 Weebit ReRAM的記憶體內運算方案功耗可較GPU架構降低約80倍,同時延遲時間也可縮短近100倍。(1)
Weebit Nano執行長Coby Hanoch表示:「我們多年來持續與合作夥伴共同投入記憶體內運算及神經形態運算研究,其中包括2019年與CEA-Leti合作首次展示以ReRAM為基礎的脈衝神經網路(Spiking Neural Network)。根據我們的觀察,有越來越多企業及研究機構對於探索Weebit ReRAM如何支援這類新型運算架構展現高度興趣,而此興趣已逐步轉化為實際合作,目前已有業界廠商表達參與研究計畫的意願。儘管商用IMC解決方案在正式上市前仍有相關技術挑戰需克服,但這項研究計畫將使我們有機會與研究社群合作、交流知識與想法,並共同推動技術進步。」
市場研究與策略顧問公司 Yole Group 記憶體首席分析師 Simone Bertolazzi博士表示:「ReRAM 等新興非揮發性記憶體技術目前正受到高度關注,研究方向包括應用於低功耗邊緣AI裝置的近記憶體運算及記憶體內運算架構。ReRAM結合非揮發性、可微縮性、低功耗及類比運算能力,使其成為最具發展潛力的IMC技術之一。Weebit 透過全新的IMC計畫讓研究人員能深入探索相關演算法與架構,進一步推動此重要領域的創新發展。」(2)
神經形態AI技術專家暨研究人員Kevin D. Johnson (3)表示:「Weebit ReRAM為新型運算架構開啟了令人振奮的可能性。我所進行的研究著重於如何運用其類比特性直接在記憶體中執行運算,包括金融風險分析及GPS訊號操控偵測等應用。我特別感興趣的是將ReRAM與其他運算技術結合以充分發揮各自的優勢。期待透過 Weebit Matrix IMC讓研究從模擬階段邁向實際硬體驗證,並評估系統層級的準確度、延遲及功耗表現。」
Weebit Matrix IMC 套件
Weebit 初期將以兩種以研究為導向的套件提供 Weebit Matrix IMC 平台:
●Weebit Matrix IMC Evaluation Package(評估套件):包含可直接存取的評估板。
●Weebit Matrix IMC Quick-Start Package(快速入門套件):包含完整的 IMC 電路板、FPGA 子系統及範例程式碼。
每套套件均包含晶片樣品(封裝後裸晶)、技術文件,以及配備插槽的IMC電路板。Weebit Matrix IMC晶片採用32×32交叉開關陣列架構,專為高效率執行乘積累加(MAC)運算、向量矩陣乘法、卷積運算、脈衝神經網路(SNN)及類比運算而設計。
附註:
(1) 更多資訊: https://www.weebit-nano.com/researchers-explore-next-generation-ai-architectures-using-weebit-reram/
(2) 來源: Emerging Non-Volatile Memory 2026 report, Yole Group
(3) https://www.linkedin.com/in/kevin-d-johnson-42170b, https://kevindjohnson.org/

