Nvidia 称其开发平台已聚集 20,000 家 GenAI 初创公司生态

阅读量57512

发布时间 : 2024-05-24 11:15:48

在周三举行的 2025 年第一季度财报电话会议上,Nvidia首席执行官黄仁勋强调了使用 Nvidia 加速计算平台的生成式人工智能 (GenAI) 初创企业的爆炸式增长。

“生成式人工智能初创公司数量众多,大约有 15,000 到 20,000 家初创公司,涉及从多媒体到数字角色、从设计到应用生产力、数字生物学等各个领域,”黄仁勋说道。“AV 行业正在向 Nvidia 转移,以便他们能够训练端到端模型,从而拓展自动驾驶汽车的运营领域——这份名单非常了不起。”

构建值得信赖的人工智能:微软的安全、可扩展的生成式人工智能战略
黄仁勋强调,随着各大公司竞相利用 Nvidia 的 CUDA 软件和 Tensor Core 架构将 AI 应用推向市场,对 Nvidia GPU 的需求“令人难以置信”。消费者互联网公司、企业、云提供商、汽车公司和医疗保健组织都在大力投资基于数千个 Nvidia GPU 构建的“AI 工厂”。

Nvidia 首席执行官表示,随着计算从信息检索转向生成智能输出,向生成式人工智能的转变正在推动“基础性、全栈计算平台的转变”。

“[计算机]现在能够生成与上下文相关的智能答案,”黄仁勋解释道。“这将改变全世界的计算堆栈。甚至 PC 计算堆栈也将发生革命性的变化。”

为了满足不断增长的需求,Nvidia 于第一季度开始发售其 H100“Hopper”架构 GPU,并宣布推出其下一代“Blackwell”平台,该平台的 AI 训练和推理速度比 Hopper 快 4-30 倍。今年,各大计算机制造商将推出 100 多个 Blackwell 系统,以实现广泛采用。

黄仁勋表示,随着人工智能工作负载的快速发展,英伟达端到端人工智能平台能力使其比更狭隘的解决方案具有重大竞争优势。他预计,随着 GenAI 革命的兴起,英伟达 Hopper、Blackwell 和未来架构的需求将在明年远远超过供应。

努力满足对人工智能芯片的需求
尽管 Nvidia 第一季度营收达到创纪录的 260 亿美元,但该公司表示,客户需求远远超过了其为 AI 工作负载提供 GPU 的能力。

黄仁勋在谈到 Nvidia 履行订单的努力时表示:“我们每天都在加班加点。客户对我们施加了很大的压力,要求我们尽快交付系统并投入使用。”

黄仁勋指出,即使 Nvidia 加大新 Blackwell 架构的产量,其目前的旗舰产品 H100 GPU 的需求仍将在一段时间内超过供应。

“本季度对 H100 的需求持续增加……我们预计,随着我们目前向 H200 和 Blackwell 的过渡,需求将在一段时间内超过供应,”他说。

Nvidia 首席执行官将这种紧迫性归因于率先推出突破性 AI 模型和应用的公司所获得的竞争优势。

“下一家达到下一个重大突破的公司可以宣布一项突破性的人工智能,之后的第二家公司可以宣布一项比它好 0.3% 的成果,”黄解释说。“训练时间非常重要。训练时间早三个月与训练时间的差别是至关重要的。”

因此,黄仁勋表示,云提供商、企业和 AI 初创公司面临着巨大的压力,他们需要确保尽可能多的 GPU 容量,以击败竞争对手,实现里程碑。他预测,Nvidia AI 平台的供应紧缩将持续到 2024 年。

黄先生表示:“Blackwell 的产量远远超过供应量,我们预计明年需求量可能会超过供应量。”

Nvidia GPU 为云 AI 主机带来丰厚回报
黄还详细介绍了云提供商和其他公司如何通过在 Nvidia 的加速计算平台上托管 AI 模型来获得丰厚的财务回报。

黄仁勋表示:“在 Nvidia AI 基础设施上每花费 1 美元,云提供商就有机会在四年内获得 5 美元的 GPU 实例托管收入。”

黄仁勋举了一个例子,使用 Nvidia 最新的 H200 GPU 构建了一个包含 700 亿个参数的语言模型。他声称单个服务器每秒可以生成 24,000 个 token,并支持 2,400 个并发用户。

黄仁勋表示:“这意味着,按照当前每个代币的价格,在 Nvidia H200 服务器上每花费 1 美元,API 提供商(提供代币)就可以在四年内产生 7 美元的收入。”

黄先生补充道,Nvidia 持续进行的软件改进继续提升了其 GPU 平台的推理性能。在最新一个季度,优化使 H100 的速度提高了 3 倍,从而为客户降低了 3 倍的成本。

黄仁勋强调,强劲的投资回报正推动亚马逊、谷歌、Meta、微软和甲骨文等云计算巨头对 Nvidia 芯片的惊人需求,因为它们竞相提供 AI 能力并吸引开发人员。

他认为,结合 Nvidia 无与伦比的软件工具和生态系统支持,这些经济效益使 Nvidia 成为 GenAI 部署的首选平台。

Nvidia 积极进军 AI 以太网网络
虽然 Nvidia 以其 GPU 而闻名,但该公司凭借其 Infiniband 技术也是数据中心网络领域的主要参与者。

第一季度,Nvidia 报告称,得益于 Infiniband 的采用,网络业务同比增长强劲。

不过,黄仁勋强调,以太网是 Nvidia 将 AI 计算推向更广阔市场的重大新机遇。第一季度,该公司开始推出 Spectrum-X 平台,该平台针对以太网上的 AI 工作负载进行了优化。

黄仁勋表示:“Spectrum-X 为 Nvidia 网络开辟了一个全新的市场,使仅支持以太网的数据中心能够容纳大规模 AI。我们预计 Spectrum-X 将在一年内跃升至数十亿美元的产品线。”

黄仁勋表示,Nvidia“全力投入以太网”,并将提供 Spectrum 交换机的主要路线图,以补充其 Infiniband 和 NVLink 互连。这种三管齐下的网络战略将使 Nvidia 能够瞄准从单节点 AI 系统到大规模集群的所有领域。

Nvidia 还在本季度开始提供每秒 51.2 兆兆位的 Spectrum-4 以太网交换机样品。黄仁勋表示,戴尔等领先的服务器制造商正在采用 Spectrum-X,将 Nvidia 的加速 AI 网络推向市场。

黄仁勋保证说:“如果你今天投资我们的架构,不用做任何事情,它就会进入越来越多的云和越来越多的数据中心,一切都会顺利运行。”

本文转载自:

如若转载,请注明出处: https://venturebeat.com/ai/nvidias-jensen-huang-says-20000-genai-startups-are-now-building-on-its-platform/

安全客 - 有思想的安全新媒体

分享到:微信
+12赞
收藏
安全客
分享到:微信

发表评论

内容需知
  • 投稿须知
  • 转载须知
  • 官网QQ群8:819797106
  • 官网QQ群3:830462644(已满)
  • 官网QQ群2:814450983(已满)
  • 官网QQ群1:702511263(已满)
合作单位
  • 安全客
  • 安全客
Copyright © 北京奇虎科技有限公司 360网络攻防实验室 安全客 All Rights Reserved 京ICP备08010314号-66