通过英伟达的DRIVE AGX Orin车载硬件，Cerence也能提供本地化（在车辆中直接运行）的AI功能，美國車載AI語音技術公司 $Cerence (CRNC.US)$ 美股開盤後一度升近40%，現升逾20%，上一個交易日曾飆升逾140%，公司在美東時間1月3日宣佈與英偉達加深合作，以提升其車載系統中的語言模型性能。
分析指出，藉助英偉達的技術支持，Cerence有望降低研發成本，並加快新產品和功能的推出速度。對於市值僅爲3.34億美元的公司來說，與像英偉達這樣行業巨頭的聯盟，無疑爲其增加了顯著的信譽和技術實力。而且英偉達的AI基礎設施在行業內處於領先地位，Cerence能夠直接利用這些資源，開發更強大的語言模型和車載系統。
Cerence和英偉達的合作是汽車AI部署中的重要一步。Cerence將藉助英偉達的AI Enterprise軟體和DRIVE AGX Orin硬件平台的強大算力，進一步優化其CaLLM（雲端語言模型）和CaLLM Edge（邊緣計算語言模型）的性能。英偉達的這些平台專爲高性能AI計算設計，能夠高效運行復雜的AI模型。
通過英偉達的DRIVE AGX Orin車載硬件，Cerence也能提供本地化（在車輛中直接運行）的AI功能，這對無法始終保持網絡連接的場景非常有用。
另外，英偉達爲Cerence提供了TensorRT-LLM和NeMo框架，有助於解決車載AI助手常見的三大難題。
一是延遲問題，汽車AI必須快速響應，在駕駛場景中，毫秒級的反應時間可能決定生死。二是性能不足，汽車內部計算資源有限，無法與數據中心相媲美。英偉達的TensorRT-LLM對模型進行深度優化，使其在有限的硬件資源下發揮最大效能，提升整體性能。三是資源消耗大，通過對硬件和模型的深度優化，降低了功耗和佔用的計算資源，使技術能在資源受限的車載設備中運行。
編輯/lambor