當地時間4月17日，芯片大廠英特爾（Intel）公司宣佈，其已經建立了世界上最大的神經擬態系統，擁有11.5 億個神經元和1280億個突觸，速度最高可達人腦的 200 倍。
這個代號爲 Hala Point 的大型神經擬態系統最初部署在桑迪亞國家實驗室，採用英特爾的 Loihi 2 處理器，旨在支持未來類腦人工智能 （AI） 的研究，並應對與當今人工智能的效率和可持續性相關的挑戰。
據介紹，Hala Point 推進了英特爾的第一代大規模研究系統 Pohoiki Springs，並進行了架構改進，實現了 10 倍以上的神經元容量提升和高達12倍的性能提升。
英特爾研究院神經擬態計算實驗室主任Mike Davies表示：“當今人工智能模型的計算成本正在以不可持續的速度增長。該行業需要能夠擴展的全新方法。出於這個原因，我們開發了 Hala Point，它將深度學習效率與新穎的類腦學習和優化功能相結合。我們希望與Hala Point的研究能夠提高大規模人工智能技術的效率和適應性。”
HalaPoint：集成了1152個Loihi2 和2300 多個嵌入式x86 處理器
據介紹，Loihi 2 神經擬態處理器是 Hala Point 的基礎，它應用了類腦計算原理，例如異步、基於事件的脈衝神經網絡 （SNN）、集成內存和計算，以及稀疏且不斷變化的連接，以實現能耗和性能的數量級提升。神經元直接相互通信，而不是通過內存進行通信，從而降低了整體功耗。
△Loihi 2芯片
Loihi 2基於Intel 4工藝，核心面積31mm²，集成了128個Neuromorphic Core（每個核心擁有192KB緩存）和 6個低功耗的英特爾X86核心，得益於製程工藝的大幅提升，Loihi 2的神經元數量提升到了100萬個，是第一代的7.8倍，不過突觸數量略微降低至1.2億個。Loihi 2可以根據神經元模型要求，最高分配4096個變量狀態。這些方面的提升，使得Loihi的處理速度達到第一代Loihi 的10 倍。
Hala Point 將 1152 個在Intel 4 工藝節點上生產的 Loihi 2 處理器封裝在一個微波爐大小的六機架單元數據中心機箱中。該系統支持多達 11.5 億個神經元和 1280 億個突觸，分佈在 140,544 個神經擬態處理核心上，最大功耗爲 2,600 瓦。它還包括 2,300 多個嵌入式 x86 處理器，用於輔助計算。
Hala Point 將處理、內存和通信通道集成到大規模並行化結構中，提供總計 16 PB/s 的內存帶寬、3.5 PB/s 的核心間通信帶寬和 5 TB/s 的芯片間通信帶寬。該系統每秒可以處理超過 380 萬億個 8 位突觸和超過 240 萬億次神經元操作。
應用於仿生脈衝神經網絡模型當中，Hala Point系統可以執行其 11.5 億個神經元的全部容量，速度比人腦快 20 倍，在較低容量下的速度最高可達 200 倍。雖然Hala Point不用於神經科學建模，但它的神經元容量大致相當於貓頭鷹或捲尾猴的大腦皮層。
基於 Loihi 的系統可以執行 AI 推理並解決優化問題，使用比傳統 CPU 和 GPU 架構快 100 倍的能量和 50 倍的速度，通過利用高達 10：1 的稀疏連接和事件驅動的活動，Hala Point 的早期結果表明，該系統可以實現高達 15 TOPS/W 的深度神經網絡效率無需批量收集輸入數據，這是 GPU 的常見優化，可顯着延遲實時到達的數據（例如來自攝像頭的視頻）的處理。雖然仍在研究中，但未來能夠持續學習的神經擬態 LLM 可以通過消除對不斷增長的數據集進行定期重新訓練的需要來節省千兆瓦時的能源。
英特爾表示，Hala Point 是第一個在主流 AI 工作負載上展示最先進計算效率的大型神經擬態系統。表徵表明，在執行傳統的深度神經網絡時，它可以支持高達每秒 20 萬億次操作，即 20 petaops，效率超過 15 萬億次8bit操作/秒/瓦（TOPS/W）。這可媲美並超過基於圖形處理單元 （GPU） 和中央處理器 （CPU） 構建的架構所達到的水平。Hala Point的獨特功能可以爲人工智能應用提供未來的實時持續學習，如科學和工程問題解決、物流、智慧城市基礎設施管理、大型語言模型（LLM）和人工智能代理。
Hala Point的作用與重要性
桑迪亞國家實驗室的研究人員計劃將Hala Point用於先進的大腦規模計算研究。該組織將專注於解決設備物理、計算機體系結構、計算機科學和信息學中的科學計算問題。
“與 Hala Point 合作提高了我們 Sandia 團隊解決計算和科學建模問題的能力。使用這種規模的系統進行研究將使我們能夠跟上人工智能在從商業到國防再到基礎科學等領域的發展步伐，“桑迪亞國家實驗室Hala Point團隊負責人Craig Vineyard說。
目前，Hala Point是一個研究原型，將提高未來商業系統的能力。英特爾預計，這些經驗教訓將帶來實際的進步，例如LLM能夠不斷從新數據中學習。這些進步有望大大減輕廣泛部署人工智能帶來的不可持續的培訓負擔。
最近將深度學習模型擴展到數萬億個參數的趨勢暴露了人工智能面臨的令人生畏的可持續性挑戰，並強調了在最低硬件架構級別進行創新的必要性。神經擬態計算是一種全新的方法，它借鑑了神經科學的見解，將內存和計算與高度精細的並行性集成在一起，以最大限度地減少數據移動。在本月的聲學、語音和信號處理國際會議 （ICASSP） 上發表的結果中，Loihi 2 展示了新興小規模邊緣工作負載的效率、速度和適應性提升幾個數量級的提升。
Hala Point 在其前身 Pohoiki Springs 的基礎上進行了大量改進，現在爲主流傳統深度學習模型帶來了神經擬態性能和效率提升，尤其是那些處理視頻、語音和無線通信等實時工作負載的模型。例如，愛立信研究公司正在應用Loihi 2來優化電信基礎設施的效率，正如今年世界移動通信大會所強調的那樣。
據英特爾介紹，接下來，Hala Point 將向桑迪亞國家實驗室的交付標誌着英特爾計劃與其研究合作者共享的新型大型神經擬態研究系統系列的首次部署。進一步的開發將使神經擬態計算應用能夠克服功耗和延遲限制，這些限制限制了人工智能功能在現實世界中的實時部署。
英特爾與由 200 多個英特爾神經擬態研究社區 （INRC）成員組成的生態系統（包括全球領先的學術團體、政府實驗室、研究機構和公司）一起，致力於推動類腦 AI 的界限，並在未來幾年內將這項技術從研究原型發展爲行業領先的商業產品。
編輯：芯智訊-浪客劍