①DeepSeek一體機的客戶需求量顯著增長,相比前兩年ChatGPT帶來的客戶密度翻了兩倍不止。②目前政府和企業的相關技術人才儲備嚴重不足,大模型距離業務落地有比較大的鴻溝。
《科創板日報》3月21日訊(記者 黃心怡 毛明江)開年以來,開源大模型 DeepSeek 的爆火,如同一顆投入湖面的巨石,激起層層漣漪,直接引爆了大模型一體機產品的密集發佈熱潮。一時間,服務器廠商、雲服務提供商、行業應用開發商以及大模型技術供應商等各路玩家紛紛入局,根據 IDC 統計,市場上已迅速有接近百家廠商推出 AI 一體機產品。但DeepSeek 一體機從最初的火爆 「出圈」,發展到真正在企業中能用、好用,還有相當長的路要走。
▍熱潮湧動:需求量激增超200%!
《科創板日報》近期走訪雲從科技、雲天勵飛、優刻得、火山引擎等廠商時發現,DeepSeek 一體機的客戶需求極爲火熱。「一體機現在需求非常大,醫院、學校、政府、金融等行業都在找我們要。」 一位華爲計算條線的業務人員透露。
雲天勵飛副總裁羅憶表示:“智能算力的硬件需求量確實較多。政府和央國企的需求量,相比前兩年 ChatGPT 帶來的客戶密度翻了兩倍不止。政府客戶對於一體機較爲認可的一點是,一體機部署不用做大量的前期準備工作,可以降低 AI 應用門檻,對於有良好數據治理基礎的領域,比如政務、金融等,能夠快速開發出不同應用。”
雲從科技董秘楊樺也指出,客戶需求量呈現出顯著的增長趨勢,尤其是一些對數據安全性和隱私保護有較高要求的企業,他們對本地化部署的一體機表現出濃厚的興趣。“根據我們最近的業務線索和銷售情況,金融、政務等領域的客戶對 AI 一體機的需求尤爲旺盛。比如我們和一個銀行正在合作的項目,就是通過一體機去整合多源數據(金融三期平台、員工徵信、合規系統等),構建風險數據集市與知識圖譜,實現風險識別自動化和問責標準化。”
火山引擎相關負責人表示,火山引擎發佈AI一體機後,已經收到大量企業客戶的諮詢和下單,客戶需求超過預期。優刻得新興產業事業部首席架構師李天朋介紹,一體機主要面向政府、央國企、醫療、金融、教育等數據安全要求較高和工業等對延時較爲敏感的應用場景。
從售價來看,DeepSeek 一體機根據所承載的模型及搭載軟體的不同,單次交付成本在幾十萬至百萬左右。IDC 中國研究經理程蔭認爲,DeepSeek 帶動了整個中國市場對AI應用的樂觀發展預期,如果能驅動更多企業(尤其是中小等長尾企業)部署 AI,一體機市場將會迎來進一步發展。
然而,在這股熱潮之下,也有業內人士表達了擔憂。一名IT業內人士稱:“需警惕現在市場有點過熱。幾乎所有的政府部門都在提需求,大家有點一窩蜂。客戶還是要結合自己的實際情況。首先要清醒地認知,現在的大模型雖然說基模能力提升了,但最終距離深度和業務的結合中間還是有鴻溝,這取決於用戶自身的數據治理和業務梳理能力。”
▍理想與現實:下單週期漫長
儘管DeepSeek一體機諮詢需求火爆,但實際下單的週期較長。多名服務器廠商向《科創板日報》記者表示,關於DeepSeek一體機的諮詢很多,但基本都處於調研階段,而直接下單的客戶大多是此前已定好相關預算,選擇把原先定好的大模型訂單換成了DeepSeek。
“客戶處於測試階段的比較多,直接下訂單願意買一臺來試試的客戶,通常是手裏本來就有預算。這對於老牌大模型公司,其實衝擊蠻大。原先可能計劃採購閉源大模型,現在開源的DeepSeek一來,就把預算換成了部署開源模型。” 一名廠商人員表示。
李天朋指出,DeepSeek 一體機成單量比例相較於成熟雲服務產品較低。“雖然客戶的需求意願非常強烈,但一體機產品一般需要在客戶現場實際測試評估效果後才能夠簽單,目前因爲資源較爲緊缺的問題,上百家用戶正在進行測試排期,導致暫時成單相較於雲服務產品較低。”
“很多用戶需要深度思考 DeepSeek 與自身業務場景之間的結合,在與一體機廠商諮詢後,需要對自身的業務、採購成本、接入方式等進行多方面的評估,DeepSeek 本身接入的方式也非常多樣,部分客戶會轉向API或者雲上資源交付的方式。用戶諮詢時主要關注 DeepSeek 在自身應用場景中的落地情況,希望廠商結合經驗給出建議,市場上一體機產品硬件配置高度同質化,性能差異不大,用戶更關注場景應用、增值功能及後續服務。” 李天朋進一步解釋道。
談及一體機的落地,羅憶給出的建議是,“以雲服務的方式,先通過模擬數據的方式做驗證和測試。然後比較確定這個業務是可以閉環的,能夠嵌入到業務流,然後再選擇合適的計算架構,把智算融入到企業和政府的 IT 架構裏。而一體機,則是在成本可接受情況之下的一種嚐鮮。”
目前,滿血版 DeepSeek 一體機採購成本在百萬元以上,投入不小。但從業務真正落地的角度考慮,多數從業者都建議用戶直接部署滿血版。「32B的大模型用英偉達的4090芯片就能跑起來。採用32B和70B模型的客戶,大多數用於測試和微調,真正業務要落地的還是採用滿血版。」 一名服務器銷售人員說。
羅憶也建議用滿血版模型來進行業務探索。「並不是說這些小尺寸的模型沒有用,但當探索一個新業務的時候,肯定要用最強的模型把整個業務跑通閉環,之後再考慮在不同的業務環節用低成本的模型來填補。」
▍落地之困:大模型與業務場景的鴻溝
大模型距離業務落地仍然存在着較大的鴻溝。羅憶認爲,“政府和企業的相關技術人才儲備嚴重不足,這一方面需要知識普及,另一方面大模型與業務的結合是逐步發生的過程,需要業務流的梳理,甚至業務流的編排,依賴業務專家深度參與。”
優刻得的李天朋也指出,人才是一大挑戰,企業採購私有化大模型一體機後,軟硬件運維和系統二次開發需要專業人才支撐,企業在人才積累和技術沉澱方面面臨長期挑戰。在業務場景方面,一體機不僅是硬件生意,未來隨着大模型應用成熟,它將成爲客戶側的核心組件,需要完善軟體生態體系,如解決大模型的安全、權限管理以及與業務結合的適配優化等問題。
火山引擎相關人士表示,技術複雜性、成本、數據質量、系統集成、人才短缺、安全性、業務適配、運維和 ROI 等都是存在的挑戰。「比如 AI 一體機涉及硬件、軟體和AI模型的集成,技術門檻較高,也需要定期更新升級(比如支持 DeepSeek 後續的升級版模型),需要廠商能提供完善的維保服務。遇到AI大模型在實際業務場景中的性能不如預期的情況下,不僅需要企業自身配備專業的算法工程師,也需要AI一體機廠商在軟體層面能提供模型壓縮、量化和蒸餾工具,幫助優化模型性能;提供自動化調優工具,幫助企業快速找到最優參數;提供專業的AI諮詢服務,幫助企業解決性能瓶頸。」
雲從科技董秘楊樺總結,大模型一體機落地仍有兩座大山需攻堅:一是場景深水區。客戶要的並非 「萬能模型」,而是 「扎進業務毛細血管」 的解決方案,比如某些工業質檢的識別精度必須達 99.9%,這需要行業 Know-How 與AI的深度咬合;二是生態碎片化。目前的多重一體機硬件組合,特別是國產化這塊,硬件標準不統一、軟硬適配成本高,企業買一體機像 「拼樂高」,後期運維頭大。
▍未來趨勢:公有云和私有化部署將雙軌並行
當前,市場上已迅速有接近百家廠商推出AI一體機產品。面對激烈的市場競爭,優刻得新興產業事業部首席架構師李天朋認爲,不同廠商有不同優勢,硬件廠商在硬件建設成本、硬件適配優化和國產化適配方面有優勢;雲服務和算力服務廠商在端到端交付、前期客戶對接測試、模型管理和算力調度及後續大模型與用戶業務的深度結合等大模型全鏈路服務方面更具優勢,能爲客戶提供更好的使用體驗。
雲從科技董秘楊樺表示,從趨勢判斷上看,隨着Deepseek的出現,成本降低,大模型能力和解決問題的能力得到提升,開源將會帶來更多生態出現。考慮到國產安全性及國產化的需求,私有化部署需求將得到全面滿足,央國企和政府治理的全面數字化轉型會加快,需求釋放,加快落地。此外,企業數字員工、企業Agent的需求將迎來爆發式增長。這種轉變對於專注行業垂直領域,既懂AI又有業務認知的科技商業化公司帶來了巨大的機會和成長空間。”
楊樺預計,在公有云領域,推理成本預計每年以十倍幅度下降,這使得中小企業和消費級應用正加速採用公有雲服務。從市場佔比來看,公有云主要聚焦於標準化服務,在互聯網、教育、泛零售等領域佔比可能較高。而私有化部署方面,政企、金融、製造、能源等高敏感行業仍以一體機爲主導,以政企、醫療、工業等垂直領域爲核心。技術普惠層面,開源模型和低成本芯片,將進一步加速了大模型應用的滲透。
“未來三年,大模型在公有云和私有化部署領域的市場趨勢將呈現雙軌並行、協同發展的格局。公有云部署將繼續保持快速增長,尤其是在互聯網、電商等對彈性能力和快速迭代需求較高的行業。私有云部署將保持快速增長,在政企、金融、醫療等對數據隱私和安全性要求高的行業快速普及。”火山引擎相關負責人稱。
DeepSeek所採用的混合專家系統 MOE,降低了每次需要激活的大模型參數量,導致推理成本大大降低,也對於國產芯片帶來了利好。
「DeepSeek對國產智能算力的芯片和廠商,是一個巨大的機會。當然其形式不僅限於一體機。未來必然是混合計算架構,而且應用場景邊緣化的趨勢很明顯的,因爲考慮到私有數據安全、低延時等問題。除了政府和大型企業,未來的智算邊緣化落地一定是會向中小企業,甚至家庭個人方向延展。」羅憶稱,「我們芯片採用算力積木架構,雖然受制程影響,但是可以通過創新的架構,讓芯片能夠像搭積木一樣靈活組建、自由擴展。」
楊樺表示,傳統大模型(如GPT-4)部署成本高,DeepSeek等開源模型將訓練成本降至十分之一,推理成本預計未來下降數十倍。DeepSeek一體機支持單機實時推理,邊際成本低,適合中小政務單位靈活應用。「後續隨着我們協同華爲、海光、寒武紀等生態夥伴產生規模效應,有助於進一步降低硬件與部署成本。」
需要指出的是,國產算力仍有非常長的路要走。「目前的成本依然有些高,存在巨大的可優化和提升的空間。做好國產算力和先進模型的適配,提升性價比,這需要一個過程。」羅憶坦言。
李天朋也表示,算力適配優化,尤其是國產算力方面,目前國產GPU與英偉達GPU相比,在適配效果和性能輸出上還有提升空間,GPU生態體系也需進一步優化。”
評論(0)
請選擇舉報原因