12月17日, GTC China 2020大會上,阿里雲異構計算產品負責人潘岳表示,人工智能行業需求發生了明顯的變化,雲上AI業務的推理需求佔比首次超過50%,阿里雲GPU雲服務器從四年前的gn4到今年新發布的gn7,單實例異構算力提升了100倍。
異構計算是最能發揮AI效率的計算方式。潘岳介紹,阿里雲提供了超大規模的雲上異構計算集羣,每秒可支撐100億億次的異構運算,能夠在1秒內看懂超過5.3億張圖片;識別3.3億秒/9.2萬小時長的語音,相當於聽寫了1723本《紅樓夢》長篇小說或者26萬篇短篇小說;1秒內可以翻譯4千萬句話,相當於翻譯了42本《哈姆雷特》。
4年前,雲上80%的AI需求來自訓練業務。但在2020年,雲上AI推理業務的佔比已經超過一半。潘岳表示,這也標誌着阿里雲異構計算進入新的階段,即軟硬一體的雲上異構基礎設施。
具體來說,用戶不僅需要深度學習框架軟件,更需要與之適配的硬件來發揮GPU的算力,例如阿里雲神龍AI加速器和FastGPU等極速部署工具,就通過池化算力帶來靈活的計算調度,雲服務器從特定配置向serverless方向發展。這些可幫助客戶在訓練場景下提升2倍到10倍的性能,在推理場景下提升2倍到4倍的性能,節省至少50%的成本。
以阿里雲IoT的圖像分類業務爲例。阿里雲神龍 AI 加速AIACC團隊,和IoT智能業務研發團隊緊密合作,將大規模圖像分類分佈式訓練性能提升5倍,讓算法研發效率得以顯著的提升,成本得以大幅下降。
“AI業務從最早的推理佔比不到20%,到今天佔比過半;原來只有人工智能初創公司探索,到落地各行各業;雲上異構業務從單一深度學習訓練場景,到今天的訓練推理、雲桌面、圖形圖像設計等多元化場景。阿里雲異構計算是企業數字化、智能化轉型的見證者,也是實踐者。”潘岳表示。