對於中型規模的,或者注重能源效率的組織而言,GB200 NVL4是一個非常合適的選擇。與專爲大規模部署設計、並具有邊緣連接器以支持脊骨配置的NVL72相比,NVL4提供了一個更緊湊、更注重能源效率的替代方案。
$英偉達 (NVDA.US)$推出的GB200 NLV4,填補了關鍵的市場需求。並且,英偉達還計劃在2025年3月17日至20日的GTC大會上發佈其下一代GB300 AI服務器平台,搭載新款B300 AI GPU,功率高達1400W,FP4性能是B200的1.5倍。
近日,英偉達推出了中端平台GB200 NLV4,配備Grace CPU和Blackwell GPU,在性能和能源效率之間取得了平衡,專爲現代數據中心設計。
分析認爲,GB200 NVL4的推出正值英偉達重塑其產品組合之際——逐漸淘汰舊款NVL平台,轉向更加先進的選項,如NVL4。
對於中型規模的,或者注重能源效率的組織而言,GB200 NVL4是一個非常合適的選擇。與專爲大規模部署設計、並具有邊緣連接器以支持主幹配置的NVL72相比,NVL4提供了一個更緊湊、更注重能源效率的替代方案。
平衡性能與能源效率
GB200 NVL4的核心是兩顆基於Arm架構的Grace CPU,每顆CPU配備72個Arm Neoverse V2核心,兩顆CPU合計提供144個核心,提供執行高性能任務所需的計算能力。此外,GB200 NVL4還搭配四個Blackwell GPU。
分析師表示,這一配置特別適合AI、高性能計算(HPC)和其他數據密集型應用。
另外,GB200 NVL4還在每顆CPU下方配備了六個MCIO連接器,確保其提供快速的PCIe連接,從而支持無縫的數據傳輸。這些連接器支持網絡接口卡(NIC)、固態硬盤(SSD)和其他關鍵組件的集成,使系統具備靈活性和可擴展性。
內存方面,GB200 NVL4提供最多1.3 TB的聯合內存,專爲內存密集型工作負載的組織設計,確保了數據的高效處理。
除了強大的性能外,GB200 NVL4的另一大亮點是其能源效率。
英偉達預計,完全配置的服務器將消耗約6kW的電力。雖然這一功耗不容小覷,但相比英偉達早期的系統,如DGX-1或HGX-1,功耗大約爲3.5kW,GB200 NVL4的功耗僅爲一半左右。
明年還將推出GB300?
據報道,英偉達計劃在2025年3月17日至20日的GTC大會上發佈其下一代GB300 AI服務器平台,搭載新款B300 AI GPU,功率高達1400W,FP4性能是B200的1.5倍。
目前,英偉達的GB200 AI使用的是192GB HBM3E內存,採用8層堆疊配置,據UDN消息透露,GB300將使用288GB HBM3E內存,採用12層堆疊,這一技術由SK hynix開發。
GB300 AI服務器平台的快速連接組件和網絡卡也得到了升級,光模塊的速度從800G提升到了超快的1.6T。UDN報道稱,性能和設備「在各個方面都得到了提升」,是英偉達的「市場制勝武器」。
此外還有一些升級,如採用插槽設計、計算板將使用LPCAMM,電容托盤可能成爲下一代GB300 NVL72 AI服務器機櫃的標準配置,UDN還提到,BBU(備用電池單元)「可能是可選的」。
無疑,這樣豪華的配置,預計組件的成本將相當可觀。
分析師預計,BBU模塊的大規模生產價格約爲300美元,而GB300 AI服務器的BBU總價可能會達到1500美元。預計超電容器的生產成本在20到25美元之間,而GB300 NVL72 AI服務器機櫃需要超過300個超電容器。
編輯/Rocky