来源:芯东西 作者:ZeR0
不管是今年上半年,还是本周,英伟达都是妥妥的大赢家。
在由生成式AI掀起的新一波人工智能热潮中,英伟达已经成为最热门的股票之一,今年迄今股价暴涨185%,市值突破1万亿美元,并在支持生成式AI及大模型研发的硬件竞赛中遥遥领先。
围绕生成式AI创企投资,英伟达的存在感也越来越让人难以忽视。 本周四,美国AI聊天机器人创企Inflection AI宣布获得13亿美元新融资,估值升至约40亿美元;美国AI文生视频创企Runway宣布完成1.41亿美元新融资,估值升至约15亿美元。而英伟达均在这两笔融资的投资方之列。
另据市研机构TrendForce预测,因AI相关芯片部署刺激了营收增长,英伟达有望在2023年第二季度取代高通登顶全球最大芯片设计公司。
一边在AI芯片市场接单接到手软,另一边面向生成式AI赛道加码重金投资,英伟达的AI如意算盘正打得越来越响。
01 连投生成式AI独角兽 英伟达闪电扩张AI投资版图 英伟达最新参投的两家生成式AI独角兽——打造出类ChatGPT产品的大型语言模型创企Inflection AI 和让用户输入文字就能轻松创作短视频的AI视频编辑软件创企Runway ,这两家都云集了非常强大的明星投资阵容。
除了英伟达之外,Inflection AI新一轮融资还获得了LinkedIn联合创始人Reid Hoffman 、微软联合创始人比尔·盖茨、谷歌前CEO Eric Schmidt 等科技巨头及大佬的注资。Runway最新融资的投资方则包括谷歌、Salesforce 等科技巨头,累计融资已经有约2.37亿美元。
更早之前,今年6月9日,同样在做类ChatGPT聊天机器人的加拿大AI创企Cohere 宣布完成2.7亿美元C轮融资,估值约22亿美元,英伟达、甲骨文、Salesforce 等均参与了该轮融资。
尤其值得一提的是Inflection AI,由DeepMind联合创始人Mustafa Suleyman于2022年联合创办并担任CEO,在推出Pi聊天机器人后收到了大量报价,继而获得了这一笔高额融资,而且英伟达是这轮唯一的新投资者。 至此,这家独角兽企业超过Cohere,成为估值仅次于OpenAI和Anthropic的全球第三大生成式AI独角兽 。
Inflection AI最近推出了其首个专有语言模型Inflection-1,并称该模型是在非常大的数据集上使用数千个英伟达H100 训练的,性能与GPT-3.5、Chinchilla和PaLM-540B相当。
▲Inflection-1、GPT-3.5、LLaMA-65B多任务准确率对比(图源:Inflection AI) 02 11分钟训练GPT-3 英伟达GPU强势霸榜大模型基准测试 Inflection AI正与英伟达合作构建用于训练AI大模型的全球最大GPU集群之一 。通过与英伟达和云服务提供商CoreWeave的合作,其超级计算机将扩展至包含22000个H100 ,这一数量远超Meta RSC超算集群的16000个A100。
CoreWeave成立于2017年,号称可提供“比传统云提供商便宜80%”的计算能力。英伟达之前曾向CoreWeave投资1亿美元 。据外媒今年6月报道,微软同意在未来数年内向CoreWeave投资数十亿美元,用于云计算基础设施建设。
在最新发布的权威AI性能基准测试MLPerf中,英伟达和CoreWeave合作构建的拥有3584个H100的集群,仅用不到11分钟就训练完GPT-3大型语言模型。
▲英伟达H100在最新GPT-3训练基准测试的表现 毫无意外的,英伟达凭借旗舰计算芯片H100 GPU继续霸榜各项基准测试。
▲英伟达H100在8项MLPerf基准测试的性能表现 最新MLPerf训练3.0新增了GPT-3大模型基准测试,而英伟达和英特尔成为唯二的参赛者。英伟达用3584个GPU创下了最快的GPT-3训练纪录,英特尔AI芯片Habana Gaudi2则通过在更小的系统上跑GPT-3展示在易用性和性价比方面的竞争力,包括在384个Gaudi2芯片上训练总时长为5个多小时,在256个Gaudi2芯片上训练总时长为7个多小时。
▲GPT-3训练基准测试结果对比,深红色图例为英伟达H100,浅红色图例为英特尔Gaudi2(图源:IEEE Spectrum) 在一些测试中,Gaudi2训练性能超过了英伟达A100 GPU。英特尔还计划通过软件优化进一步缩小Gaudi2与H100的差距,将于9月份发布对FP8的软件支持与新功能,并预告届时Gaudi2性能和性价比将超过H100。另一个被视作英伟达强劲竞争对手的AMD则并未提交测试成绩。
▲Gaudi2跑4款模型性能超过A100(图源:英特尔) MLPerf基准测试的结果由MLCommons发布。据MLCommons执行董事David Kanter透露,GPT-3是MLPerf基准测试中对计算要求最高的,MLPerf中的大多数基准网络都能在单个处理器上运行,但GPT-3至少需要64个处理器。
03 AI大模型军备竞赛白热化 大算力AI芯片需求暴涨 科技企业正积极将AI融入其产品和服务中,投资者对生成式AI创企的投资热情不减,显然没有谁愿意因为计算速度落后而错过这一波潜在的历史性增长机遇。
仅是在本周,国内外均诞生了迄今最大的生成式AI并购案:美国大数据超级独角兽Databricks同意以13亿美元(约合94亿人民币)收购美国大型语言模型创企MosaicML,美团昨日宣布以20.65亿元收购由美团联合创始人王慧文创办的大模型创企光年之外。
训练生成式AI模型离不开昂贵的数据中心计算芯片。大模型军备竞赛白热化背景下,大算力AI芯片市场需求持续高涨。而目前训练AI大模型的真正芯片赢家只有一家——英伟达。
去年11月,甲骨文宣布购买数万个A100和H100搭建新计算中心。谷歌在今年5月的I/O开发者大会上宣布推出了一台拥有26000个H100的AI超级计算机A3。本周甲骨文被外媒报道正在花费数十亿美元采购英伟达的芯片,以扩展针对新一波AI浪潮的云计算服务。
英伟达未来能否继续赢麻,还与中国市场息息相关。 根据财报,去年来自中国大陆和香港的收入占英伟达收入的22%。据《晚点LatePost》报道,今年春节后,拥有云计算业务的中国各互联网大公司都向英伟达下了大单,字节今年向英伟达订购了超过10亿美元的GPU,另一家互联网大厂今年至少已给英伟达下了万卡级别订单,按目录价估算价值超10亿元人民币。仅字节一家公司今年的订单可能已接近英伟达去年在中国销售的商用GPU总和。不算今年的新增订单,字节 A100和前代产品V100总数接近10万块;字节到货和没到货的A100与H800总计有10万块。
在本周出现美国商务部考虑进一步限制对华出口英伟达A800和H800的传闻后,英伟达首席财务官Colette Kress警告说:“从长远来看,禁止向中国销售我们的数据中心GPU的限制,如果实施,将导致美国工业永久失去在世界上最大的市场之一竞争和领先的机会,并影响我们未来的业务和财务业绩。”
04 结语:距离登顶全球最大芯片设计公司 只差临门一脚 无论从产品性能、新增订单、业绩进展、股市表现、生态扩张还是投资布局来看,英伟达都已经肉眼可见的赢麻了。
5月25日,英伟达发布2024财年第一季度财报中,其单季度实现营收71.9亿美元,并预测其第二季度的收入将达到110.0亿美元。6月12日,据台媒报道,在英伟达AI芯片加单的带动下,台积电先进制程利用率大幅提升,5nm产能利用率从五成多提升至七八成。
据近日市研机构TrendForce发布的数据,受益于生成式AI和云端算力需求爆发以及新款GeForce RTX 40系列新品上市,英伟达在2023年第一季度营收环比增长13.5%至67.3亿美元,其全球芯片设计市场份额提升至19.9%。
▲2023年第一季度全球前十大芯片设计公司排名,单位:百万美元(图源:TrendForce) TrendForce预测,因AI相关芯片部署刺激了营收的增长,增速明显,在2023年第二季度,英伟达有望取代高通成为全球最大的无晶圆厂芯片设计公司。
在英伟达俨然已是生成式AI时代最大受益者的背景下,英特尔、AMD等芯片巨头正虎视眈眈,试图通过软硬件协同优化分食AI计算市场。与此同时,国产AI芯片公司能否接住这一波大模型训练及部署红利,也成为业界关注的焦点。
编辑/jayden
來源:芯東西 作者:ZeR0
不管是今年上半年,還是本週,英偉達都是妥妥的大贏家。
在由生成式AI掀起的新一波人工智能熱潮中,英偉達已經成爲最熱門的股票之一,今年迄今股價暴漲185%,市值突破1萬億美元,並在支持生成式AI及大模型研發的硬件競賽中遙遙領先。
圍繞生成式AI創企投資,英偉達的存在感也越來越讓人難以忽視。 本週四,美國AI聊天機器人創企Inflection AI宣佈獲得13億美元新融資,估值升至約40億美元;美國AI文生視頻創企Runway宣佈完成1.41億美元新融資,估值升至約15億美元。而英偉達均在這兩筆融資的投資方之列。
另據市研機構TrendForce預測,因AI相關芯片部署刺激了營收增長,英偉達有望在2023年第二季度取代高通登頂全球最大芯片設計公司。
一邊在AI芯片市場接單接到手軟,另一邊面向生成式AI賽道加碼重金投資,英偉達的AI如意算盤正打得越來越響。
01 連投生成式AI獨角獸 英偉達閃電擴張AI投資版圖 英偉達最新參投的兩家生成式AI獨角獸——打造出類ChatGPT產品的大型語言模型創企Inflection AI 和讓用戶輸入文字就能輕鬆創作短視頻的AI視頻編輯軟件創企Runway ,這兩家都雲集了非常強大的明星投資陣容。
除了英偉達之外,Inflection AI新一輪融資還獲得了LinkedIn聯合創始人Reid Hoffman 、微軟聯合創始人比爾·蓋茨、谷歌前CEO Eric Schmidt 等科技巨頭及大佬的注資。Runway最新融資的投資方則包括谷歌、Salesforce 等科技巨頭,累計融資已經有約2.37億美元。
更早之前,今年6月9日,同樣在做類ChatGPT聊天機器人的加拿大AI創企Cohere 宣佈完成2.7億美元C輪融資,估值約22億美元,英偉達、甲骨文、Salesforce 等均參與了該輪融資。
尤其值得一提的是Inflection AI,由DeepMind聯合創始人Mustafa Suleyman於2022年聯合創辦並擔任CEO,在推出Pi聊天機器人後收到了大量報價,繼而獲得了這一筆高額融資,而且英偉達是這輪唯一的新投資者。 至此,這家獨角獸企業超過Cohere,成爲估值僅次於OpenAI和Anthropic的全球第三大生成式AI獨角獸 。
Inflection AI最近推出了其首個專有語言模型Inflection-1,並稱該模型是在非常大的數據集上使用數千個英偉達H100 訓練的,性能與GPT-3.5、Chinchilla和PaLM-540B相當。
▲Inflection-1、GPT-3.5、LLaMA-65B多任務準確率對比(圖源:Inflection AI) 02 11分鐘訓練GPT-3 英偉達GPU強勢霸榜大模型基準測試 Inflection AI正與英偉達合作構建用於訓練AI大模型的全球最大GPU集群之一 。通過與英偉達和雲服務提供商CoreWeave的合作,其超級計算機將擴展至包含22000個H100 ,這一數量遠超Meta RSC超算集群的16000個A100。
CoreWeave成立於2017年,號稱可提供“比傳統雲提供商便宜80%”的計算能力。英偉達之前曾向CoreWeave投資1億美元 。據外媒今年6月報道,微軟同意在未來數年內向CoreWeave投資數十億美元,用於雲計算基礎設施建設。
在最新發布的權威AI性能基準測試MLPerf中,英偉達和CoreWeave合作構建的擁有3584個H100的集群,僅用不到11分鐘就訓練完GPT-3大型語言模型。
▲英偉達H100在最新GPT-3訓練基準測試的表現 毫無意外的,英偉達憑藉旗艦計算芯片H100 GPU繼續霸榜各項基準測試。
▲英偉達H100在8項MLPerf基準測試的性能表現 最新MLPerf訓練3.0新增了GPT-3大模型基準測試,而英偉達和英特爾成爲唯二的參賽者。英偉達用3584個GPU創下了最快的GPT-3訓練紀錄,英特爾AI芯片Habana Gaudi2則通過在更小的系統上跑GPT-3展示在易用性和性價比方面的競爭力,包括在384個Gaudi2芯片上訓練總時長爲5個多小時,在256個Gaudi2芯片上訓練總時長爲7個多小時。
▲GPT-3訓練基準測試結果對比,深紅色圖例爲英偉達H100,淺紅色圖例爲英特爾Gaudi2(圖源:IEEE Spectrum) 在一些測試中,Gaudi2訓練性能超過了英偉達A100 GPU。英特爾還計劃通過軟件優化進一步縮小Gaudi2與H100的差距,將於9月份發佈對FP8的軟件支持與新功能,並預告屆時Gaudi2性能和性價比將超過H100。另一個被視作英偉達強勁競爭對手的AMD則並未提交測試成績。
▲Gaudi2跑4款模型性能超過A100(圖源:英特爾) MLPerf基準測試的結果由MLCommons發佈。據MLCommons執行董事David Kanter透露,GPT-3是MLPerf基準測試中對計算要求最高的,MLPerf中的大多數基準網絡都能在單個處理器上運行,但GPT-3至少需要64個處理器。
03 AI大模型軍備競賽白熱化 大算力AI芯片需求暴漲 科技企業正積極將AI融入其產品和服務中,投資者對生成式AI創企的投資熱情不減,顯然沒有誰願意因爲計算速度落後而錯過這一波潛在的歷史性增長機遇。
僅是在本週,國內外均誕生了迄今最大的生成式AI併購案:美國大數據超級獨角獸Databricks同意以13億美元(約合94億人民幣)收購美國大型語言模型創企MosaicML,美團昨日宣佈以20.65億元收購由美團聯合創始人王慧文創辦的大模型創企光年之外。
訓練生成式AI模型離不開昂貴的數據中心計算芯片。大模型軍備競賽白熱化背景下,大算力AI芯片市場需求持續高漲。而目前訓練AI大模型的真正芯片贏家只有一家——英偉達。
去年11月,甲骨文宣佈購買數萬個A100和H100搭建新計算中心。谷歌在今年5月的I/O開發者大會上宣佈推出了一臺擁有26000個H100的AI超級計算機A3。本週甲骨文被外媒報道正在花費數十億美元採購英偉達的芯片,以擴展針對新一波AI浪潮的雲計算服務。
英偉達未來能否繼續贏麻,還與中國市場息息相關。 根據業績,去年來自中國大陸和香港的收入佔英偉達收入的22%。據《晚點LatePost》報道,今年春節後,擁有云計算業務的中國各互聯網大公司都向英偉達下了大單,字節今年向英偉達訂購了超過10億美元的GPU,另一家互聯網大廠今年至少已給英偉達下了萬卡級別訂單,按目錄價估算價值超10億元人民幣。僅字節一家公司今年的訂單可能已接近英偉達去年在中國銷售的商用GPU總和。不算今年的新增訂單,字節 A100和前代產品V100總數接近10萬塊;字節到貨和沒到貨的A100與H800總計有10萬塊。
在本週出現美國商務部考慮進一步限制對華出口英偉達A800和H800的傳聞後,英偉達首席財務官Colette Kress警告說:“從長遠來看,禁止向中國銷售我們的數據中心GPU的限制,如果實施,將導致美國工業永久失去在世界上最大的市場之一競爭和領先的機會,並影響我們未來的業務和財務業績。”
04 結語:距離登頂全球最大芯片設計公司 只差臨門一腳 無論從產品性能、新增訂單、業績進展、股市表現、生態擴張還是投資佈局來看,英偉達都已經肉眼可見的贏麻了。
5月25日,英偉達發佈2024財年第一季度業績中,其單季度實現營收71.9億美元,並預測其第二季度的收入將達到110.0億美元。6月12日,據臺媒報道,在英偉達AI芯片加單的帶動下,台積電先進製程利用率大幅提升,5nm產能利用率從五成多提升至七八成。
據近日市研機構TrendForce發佈的數據,受益於生成式AI和雲端算力需求爆發以及新款GeForce RTX 40系列新品上市,英偉達在2023年第一季度營收環比增長13.5%至67.3億美元,其全球芯片設計市場份額提升至19.9%。
▲2023年第一季度全球前十大芯片設計公司排名,單位:百萬美元(圖源:TrendForce) TrendForce預測,因AI相關芯片部署刺激了營收的增長,增速明顯,在2023年第二季度,英偉達有望取代高通成爲全球最大的無晶圓廠芯片設計公司。
在英偉達儼然已是生成式AI時代最大受益者的背景下,英特爾、AMD等芯片巨頭正虎視眈眈,試圖通過軟硬件協同優化分食AI計算市場。與此同時,國產AI芯片公司能否接住這一波大模型訓練及部署紅利,也成爲業界關注的焦點。
編輯/jayden