美東時間10月15日, Arm官網發佈公告,宣佈與Meta達成戰略合作,全面提升 AI 計算效率。以下是新聞稿全文。
新聞要點:戰略合作將Arm在高能效計算領域的領導力與Meta在基礎設施、AI產品和開放技術方面的創新能力相結合,旨在爲全球數十億用戶帶來更豐富、更易獲取的AI體驗。Meta的基礎AI軟件技術(包括PyTorch)現已針對Arm架構進行優化。其中,PyTorch的Executorch運行時利用Arm KleidiAI技術,旨在爲Meta及全球開源社區實現極致的能效表現(每瓦性能最大化)。
$Arm Holdings (ARM.US)$ 與 $Meta Platforms (META.US)$ 宣佈達成戰略合作,旨在提升計算棧各層的AI效率,涵蓋AI軟件和數據中心基礎設施,以期爲全球數十億用戶帶來更豐富的體驗。合作範圍從驅動設備端智能的毫瓦級設備,到訓練世界最先進AI模型的兆瓦級系統,將賦能多種計算類型、工作負載和體驗,以支持Meta的全球平台運營。
這項多年期合作基於雙方持續的軟硬件協同設計努力,結合了Arm在高能效AI計算方面的領先優勢與Meta在AI驅動產品、基礎設施及開放技術領域的創新能力,旨在實現顯著的性能和效率提升。
Meta基礎設施負責人Santosh Janardhan表示:"從平台體驗到我們打造的設備,AI正在改變人們的連接和創造方式。與Arm合作使我們能夠高效地將這些創新擴展至超30億使用Meta應用和技術的用戶。"
Arm首席執行官Rene Haas指出:"AI的下一階段將由規模化效率來定義。與Meta合作,我們將Arm的每瓦性能領導力與Meta的AI創新相結合,旨在將更智能、更高效的人工智能從毫瓦級設備擴展到兆瓦級系統,無處不在。"
雲端AI規模化
Meta的AI排序和推薦系統(驅動包括Facebook和Instagram在內的Meta系列應用的發現和個性化功能)將採用基於Arm Neoverse的數據中心平台,以期相比x86系統實現更高性能和更低功耗。在其整體基礎設施中,Arm Neoverse還將助力Meta實現每瓦性能對標,這凸顯了Arm計算在超大規模場景下的效率和可擴展性。
雙方密切合作,針對Arm架構優化了Meta的AI基礎設施軟件棧(從編譯器和庫到主要AI框架)。這包括對開源組件(如Facebook通用矩陣乘法FBGEMM和PyTorch)進行聯合調優,利用Arm的向量擴展和性能庫,從而在推理效率和吞吐量上帶來可衡量的提升。這些優化正回饋給開源社區,以擴大其在全球AI生態系統中的影響力。
加速從雲到邊緣的AI軟件
合作還深化了雙方在AI軟件優化方面的協作,涵蓋PyTorch機器學習框架、Executorch邊緣推理運行時引擎和vLLM數據中心推理引擎,並計劃在現已通過Arm KleidiAI優化的Executorch基礎上進一步改進,提升數十億設備的效率。這一合作將共同加速AI模型的部署便捷性,並提升從邊緣到雲的AI應用性能。
這些開源技術項目是Meta AI戰略的核心,支持從推薦系統到對話式智能等各種AI功能的開發和部署。雙方打算繼續將這些優化擴展到未來的開源項目中,使全球數百萬開發者能夠在Arm架構上隨處構建和部署高效的AI。
共同推動AI未來的發展
從兆瓦級數據中心到基礎AI軟件,Arm與Meta的合作是一次全棧協作,旨在將AI效率擴展至計算棧的每一個層面,爲全球數十億用戶帶來下一個智能、高效和互聯體驗的新時代。
編輯/joryn
