share_log

“小模型”时代来了?微软推出轻量级AI模型 性能媲美GPT-3.5但便宜的多!

“小模型”時代來了?微軟推出輕量級AI模型 性能媲美GPT-3.5但便宜的多!

財聯社 ·  04/24 10:34

①微軟聲稱,這款輕量級AI模型的性能與GPT-3.5等模型相當,同時適合在手機上本地使用; ②更重要的是,該款模型的成本要低廉許多,這意味着它可以通過成本優勢吸引更廣泛的客戶群。

財聯社4月24日訊(編輯 劉蕊)美東時間週二,微軟推出了一款輕量級AI模型Phi-3-mini。

微軟聲稱,這款輕量級AI模型的性能與GPT-3.5等模型相當,同時適合在手機上本地使用。而更重要的是,該款模型的成本要低廉許多,這意味着它可以通過成本優勢吸引更廣泛的客戶群。

微軟發佈小語言模型

Phi-3-mini是微軟計劃發佈的三款小型語言模型(SLM)中的第一款。

Phi-3 mini的可測量參數爲38億個,其前一版本是微軟研究院於2023年底發佈的Phi-2模型,該模型具備27億個可測量參數。微軟表示,Phi-3的性能比前一版本更好,其響應速度接近比它大10倍的模型。

微軟表示,根據學術基準和內部測試對Phi-3 mini的性能進行評估後發現,該模型有能力與“Mixtral 8x7B和GPT-3.5”等模型競爭。

該公司表示,Phi-3 mini在大規模多任務語言理解(MMLU)測試中獲得了69%的評分,在Multi-turn(MT)基準測試中獲得了8.38的評分。

不過微軟也承認,儘管具有與LLM相媲美的能力,但Phi-3 mini“在執行某些任務時,從根本上受到容量的限制”。“該模型不具備存儲太多事實知識的能力”,不過微軟斷言“這種弱點可以通過搜索引擎的增強來解決”。

“不只是便宜一點”

微軟負責生成式AI研究的副總裁Sassabastien Bubeck強調:“Phi-3不只是稍微便宜一點,而是便宜得多。與具有類似功能的其他模型相比,他們的成本相差10倍。”

小語言模型旨在執行更簡單的任務,這意味着它更適配於那些資源有限的公司。

該公司表示,Phi-3-mini將即刻在微軟雲服務平台Azure的人工智能模型目錄、機器學習模型平台hugs Face和用於在本地機器上運行模型的框架Ollama上提供。

Phi-3-mini還將可以在英偉達的軟件工具Nvidia Inference Microservices (NIM)上使用,並且還針對其圖形處理單元(GPU)進行了優化。

譯文內容由第三人軟體翻譯。


以上內容僅用作資訊或教育之目的,不構成與富途相關的任何投資建議。富途竭力但無法保證上述全部內容的真實性、準確性和原創性。
    搶先評論