share_log

英伟达发布Dynamo,号称“AI工厂的操作系统”

英偉達發佈Dynamo,號稱「AI工廠的操作系統」

快訊 ·  03/18 18:54

英偉達正式發佈Dynamo,號稱是「AI 工廠的操作系統」。Dynamo是一個「分佈式推理服務庫」。本質上,它是一個針對用戶需求token而無法生產足夠token之間問題的開源解決方案。黃仁勳展示了一張關於推理的圖表,X軸顯示用戶每秒的Token數,Y軸顯示工廠每秒的Token數。在Dynamo、Grace Blackwell NVLink72超級芯片的加持下,Blackwell相比Hopper可實現25倍的性能提升。而在推理模型中,Blackwell的性能是Hopper的40倍。黃仁勳還打趣道,有了上述最新技術加持,搭建AI工廠的廠商「買得越多、省得越多」。

譯文內容由第三人軟體翻譯。


以上內容僅用作資訊或教育之目的,不構成與富途相關的任何投資建議。富途竭力但無法保證上述全部內容的真實性、準確性和原創性。
1
評論 評論 · 瀏覽 2354

熱點推薦

搶先評論

聲明

本頁的譯文內容由軟件翻譯。富途將竭力但卻不能保證翻譯內容之準確和可靠,亦不會承擔因任何不準確或遺漏而引起的任何損失或損害。