share_log

NPU要抢夺GPU的市场,英伟达不会坐以待毙

半導體行業觀察 ·  May 2 10:34

如果您希望可以时常见面,欢迎标星 收藏哦~

来源:内容由半导体行业观察(ID:icbank) 编译自techspot,谢谢。

随着微软、英特尔、高通和苹果等公司准备推广优先考虑设备内人工智能操作的个人电脑和其他设备,竞争标准可能很快就会出现。微软和英特尔最近概述了他们认为应该归类为“人工智能电脑”的产品,但人工智能领域目前的领导者英伟达却有不同的想法。

Nvidia最近泄露的一份内部演示解释了该公司显然更喜欢使用独立 GPU 而非神经处理单元 (NPU) 来运行本地生成式 AI 应用程序。这家显卡巨头可能会将其他公司的 NPU 视为一种威胁,因为自从其处理器成为运行大型语言模型的组成部分以来,该公司的收入猛增。

自去年年底推出 Meteor Lake CPU 以来,英特尔一直试图将配备该处理器及其嵌入式 NPU 的笔记本电脑推向新型“AI PC”,旨在执行生成式 AI 操作,而无需依赖云中的大规模数据中心。微软和高通计划在今年晚些时候将更多人工智能 PC 推向市场,苹果预计在 2024 年推出即将推出的 M4 和 A18 仿生处理器,从而加入这一潮流。

微软正试图将其 Copilot 虚拟助手和新的 Copilot 键列为所有 AI PC 的要求,从而将其服务推广为新趋势的一部分。然而,英伟达认为自 2018 年以来上市的 RTX 显卡更适合 AI 任务,这意味着 NPU 是不必要的,并且数百万台“AI PC”已经在流通。

微软声称,下一代 AI PC 需要达到每秒 40 万亿次操作 (TOPS) 的 AI 性能,但 Nvidia 的演示声称 RTX GPU 已经可以达到 100-1,300 TOPS。这家 GPU 制造商表示,像目前可用的 RTX 30 和 40 系列显卡这样的芯片是内容创建、生产力、聊天机器人以及涉及大量大型语言模型的其他应用程序的出色工具。对于此类任务,移动 GeForce RTX 4050 据称可以超越苹果的 M3 处理器,而桌面 RTX 4070 在 Stable Diffusion 1.5 中实现“旗舰性能”。

为了展示其技术的独特功能,Nvidia 推出了 ChatRTX 的重大更新。该聊天机器人由 Nvidia 的 TensorRT-LLM 提供支持,可在任何配备 RTX 30 或 40 系列 GPU 以及至少 8 GB VRAM 的 PC 上本地运行。ChatRTX 的与众不同之处在于它能够通过扫描用户提供的文档或 YouTube 播放列表来回答多种语言的查询。它与文本、pdf、doc、docx 和 XML 格式兼容。

当然,仅仅因为英伟达声称自己是板载人工智能性能的绝对领导者,并不意味着竞争对手就会认输并说“你赢了”。相反,随着各家公司试图取代 Nvidia,NPU 市场的竞争和研发只会变得更加激烈。

韩国组联盟,对抗英伟达

为了对抗 Nvidia 的主导地位,Naver 和英特尔与韩国科学技术院 (KAIST) 合作,打造了一个新的人工智能 (AI) 半导体生态系统。

此次合作于 4 月 30 日在韩国科学技术院大田主校区巩固,双方建立了 Naver-英特尔-韩国科学技术院 AI 联合研究中心(NIK AI 研究中心)。该协议包括该中心的建立和运营,重点开发人工智能半导体技术。

领导这个新中心的是韩国科学技术院电气工程和计算机科学系的 Kim Jeong-ho 教授,他是人工智能半导体设计和人工智能应用(AI-X)领域的著名学者。来自 Naver Cloud 的 AI 半导体设计和 AI 软件专家 Lee Dong-su 将共同领导该中心。

韩国科学技术院大约 20 名人工智能和软件方面的专家以及 100 多名硕士和博士生将作为该中心的研究人员参与其中。虽然该中心最初设定运营三年,但根据成果和参与组织的需求,该期限可能会延长。

这一举措标志着全球半导体巨头英特尔首次在韩国大学建立联合研究中心,开发人工智能半导体软件平台。该中心旨在用两年时间,共同为英特尔Habana Labs开发的人工智能训练和推理芯片“Gaudi”打造平台生态系统,承担20至30个产学研项目。

Naver和英特尔将向韩国科学技术院联合研究中心提供基于Naver Cloud平台的“Gaudi2”。KAIST 研究人员将利用 Gaudi2 进行研究,每年发表研究论文。此外,双方还将共享联合研究所需的各种基础设施和设备,并继续开展人员交流等合作活动。

Kim Jeong-ho教授表示:“通过使用Gaudi系列,韩国科学技术院可以确保人工智能开发、半导体设计和操作软件开发方面的技术知识。特别是,这个联合研究中心的成立具有非常重要的意义,因为它使我们能够获得运营大型人工智能数据中心的经验,并为未来的研究和开发提供必要的人工智能计算基础设施。”

Naver Cloud首席执行官Lee Dong-su表达了他的期望:“Naver Cloud与KAIST一起领导各种研究计划,并希望扩大以‘HyperClova X’为中心的人工智能生态系统。”

本月早些时候,Naver和英特尔还在亚利桑那州凤凰城举行的英特尔Vision 2024上宣布了在AI领域的合作。此前,AI开发者主要使用Nvidia的CUDA编程平台,但英特尔和Naver建立自己的生态系统的举动标志着一个重大转变。与 Naver 以及现在的 KAIST 的相继合作被视为英特尔对韩国人工智能能力的高度重视。

参考链接

点这里 加关注,锁定更多原创内容

The above content is for informational or educational purposes only and does not constitute any investment advice related to Futu. Although we strive to ensure the truthfulness, accuracy, and originality of all such content, we cannot guarantee it.
    Write a comment