英伟达“不负众望”肛交颜射,二季度事迹再次进展出色,收入在刚劲数据中心需求下不竭超预期。不外,三季度收入指引低于最乐不雅预期,预计六个季度内首度放缓至两位数,导致英伟达盘后股价巨震,面前跌超6%。
在财报公布后的电话会上,CEO黄仁勋对AI出路保握乐不雅格调,合计生成式AI的发展势头正在加速,”公司在重塑全球数据中心方面才刚刚运行费力,而这是一个万亿好意思元范围的契机。
对于备受热心的Blackwell进展及需求,英伟达示意,商场对Hopper芯片的需求“握续刚劲”,对Blackwell也备受期待。跟着Blackwell在四季度运行量产,预计将获得数十亿好意思元的收入,但未未回话数十亿好意思元收入是否是增量。
以下是本次电话会要点:
Blackwell及Hopper刚劲需求将共存:英伟达二季度向客户录用Blackwell架构的样品,对 Blackwell GPU 掩膜进行了转换以提高坐褥良率。Blackwell 贪图于第四季度运行量产,并握续到 2026 财年,预计将在第四季度带来“数十亿好意思元”的收入。
Hopper的出货量预计将在2025财年下半年增多,Hopper的供应和可用性齐有所改善,Blackwell 平台的需求远高于供应,预计这种情况将握续到来岁。
中国商场孝敬较大:第二季度中国商场数据中心收入一语气增长,成为数据中心收入的弥留孝敬者。
主权AI业务在增长:跟着列国暴露到东说念主工智能技艺和基础设施是社会和产业确当务之急,咱们的东说念主工智能主权契机也在胁制扩大,预计2024年的主权AI业务将增多几十亿好意思元。
NVLink将改变交换畛域游戏规矩:Blackwell系统可将72GB200封装的144个 GPU承接到一 NVLink域,一个机架的 NVLink 总带宽为每秒259TB。从这个角度来看,这比Hopper逾越约10 倍;在推理方面,NVLink对于低蔓延、高浑沌量的大型模子至关弥留。
居品迭代对毛利率的影响:三季度毛利率指引是75%傍边,那么第四季度毛利率就会在71%—72%之间,预计全年毛利率也将在70%,主若是由于转型和推出的新址品成本结构不同。
对于老本支拨答复问题:加速经营不错加速应用速率,这顺利带来的是更低的成本和能耗;多家公司齐在加速创建AI业务,一朝建立的数据中心齐会被租用,投资答复率相称高;面前AI是参预使用的最好经营基础设施。
以下是英伟达2025财年第二季度电话会全文英伟达投资者关系部高级总监:Stewart Stecker
谢谢寰球,寰球下昼好,接待收听英伟达2025财年第二季度电话会议。今天与我全部参加英伟达电话会议的有总裁兼首席执行官黄仁勋和执行副总裁兼首席财务官科莱特-克莱斯。
在本次电话会议中,咱们将磋议非好意思国通用管帐准则的财务方针。您不错在咱们网站上发布的首席财务官指摘中找到非好意思国通用管帐准则财务方针和好意思国通用管帐准则财务方针的对账。让我要点先容一下行将举行的金融界行径,咱们将参加9月11日在旧金山举行的高盛社区与技艺大会,届时黄仁勋将参加一个主题对话。
英伟达2025财年第三季度事迹的财报电话会议定于2024年11月20日星期三举行,底下请科莱特发言。
首席财务官、执行副总裁:Colette M. Kress
第二季度又是一个创记录的季度,收入达到300亿好意思元,环比增长15%,同比增长122%,远高于咱们预期的280亿好意思元。
起初是数据中心,在英伟达Hopper、GPU经营和汇集平台刚劲需求的推动下,数据中心收入达到创记录的263亿好意思元,环比增长16%,同比增长154%。经营收入增长越过2.5倍,汇集业务收入同比增长了2倍多。云服务提供商约占咱们数据中心收入的45%,50%以上来自消费互联网和企业公司。
客户不竭加速Hopper架构购买,同期准备接受Blackwell。推动咱们数据中心增长的主要事业负载包括:AI模子检修和推理;使用 CUDA 和东说念主工智能事业负载进行视频、图像和文本数据预处理和后处理;合成数据生成;AI驱动的保举系统;SQL 和矢量数据库处理。
下一代模子将需要10—20 倍的算力来处理更多的数据,预计这一趋势将握续下去。在当年的四个季度中,咱们估量推理业务占数据中心收入的 40% 以上,CSP、消费互联网公司和企业齐受益于英伟达推理平台惊东说念主的浑沌量和后果。对英伟达推理平台的需求来自于前沿模子制造商、消费互联网服务以及满坑满谷的为消费者、告白、讲明、企业和医疗保健以及机器东说念主技艺构建AI应用的公司和初创企业。开发东说念主员渴慕 NVIDIA 丰富的生态系统以及在各式云中的可用性。
CSP 对 NVIDIA 的宽泛接受示意维持,并在需求繁荣的情况下胁制扩大其 NVIDIA 使用。NVIDIA H200 平台已于第二季度运行量产,并向大型 CSP、消费互联网和企业公司发货。英伟达H200以Hopper架构为基础,与H100比拟,内存带宽增多了40%以上。
第二季度,咱们在中国的数据中心收入一语气增长,成为咱们数据中心收入的弥留孝敬者。咱们仍然预计中国商场改日的竞争将相称强烈,最新一轮的MLPerf推理基准测试突显了英伟达在推理畛域的最初地位,英伟达Hopper和Blackwell平台在通盘任务中均获得金牌。在本届Computex上,英伟达与顶级经营机制造商共同发布了一系列Blackwell架构驱动的系统和英伟达汇集,用于构建东说念主工智能工场和数据中心。
借助英伟达MGX模块化参考架构,咱们的OEM和ODM相助伙伴正CSP构建100多个基于Blackwell的系统,NVIDIA Blackwell平台收集了多个GPU、CPU、DPU、NVLink和Link Switch,以及汇集芯片、系统和NVIDIA CUDA软件,为跨空余、跨行业和跨国度的下一代东说念主工智能提供能源。搭载第五代NVLink的英伟达GB200 NVL72系统简略让通盘72个GPU四肢单个GPU运行,为LLM事业负载提供高达30倍的推理速率,并开释及时运行万亿参数模子的材干。
Hopper 需求刚劲,Blackwell 正在宽泛采样,咱们对Blackwell GPU的质地进行了诊治,以提高产量。Blackwell 贪图于第四季度运行量产,并握续到26财年。在第四季度,咱们预计将获得数十亿好意思元的Blackwell 收入,Hopper 的出货量预计将在 2025 财年下半年增多。Hopper 的供应和可用性齐有所改善,Blackwell 平台的需求远高于供应,咱们预计这种情况将握续到来岁。
汇集业务收入一语气增长 16%。跟着数百家客户接受咱们的以太网居品,咱们的东说念主工智能以太网收入(包括 Spectrum-X 端到端以太网平台)一语气翻番。Spectrum-X得到了OEM和ODM相助伙伴的宽泛撑握,并被CSP、GPU云提供商和企业所接受,包括xAI承接全球最大的GPU经营集群。Spectrum-X为东说念主工智能处理提供了超强的以太网,其性能是传统以太网的1.6倍。咱们贪图每年推出新的Spectrum-X居品,以撑握将经营集群从面前的数万个GPU扩展到不久的将来的数百万个DPU的需求。Spectrum-X 将在一年内成为价值数十亿好意思元的居品线。
跟着列国暴露到东说念主工智能专科技艺和基础设施是本国社会和产业确当务之急,咱们的东说念主工智能主权契机也在胁制扩大。日本国度先进工业科学与技艺研究所正在与英伟达相助树立其东说念主工智能桥接云基础设施 3.0 超等经营机。咱们信赖,本年Hopper 东说念主工智能收入将达到低两位数。
企业东说念主工智能波澜也曾运行,企业推动了本季度收入的一语气增长。咱们正与大多数资产 100 强企业相助,在各个行业和地区实施东说念主工智能贪图。一系列应用正在推动咱们的增长,包括东说念主工智能驱动的聊天机器东说念主、生成式东说念主工智能协同机器东说念主以及用于构建新的可盈利业务应用和提高职工坐褥力的代理。Amdocs 将英伟达生成式东说念主工智能应用于其智能代理,改变了客户体验,并将客户服务成本诽谤了 30%。
ServiceNow 将英伟达技艺用于其 Now Assist 居品,这是公司历史上增长最快的新址品。SAP 正在使用英伟达打造企业级应用。Cohesity正在使用英伟达来构建其生成式东说念主工智能代理,并诽谤生成式东说念主工智能的开发成本。Snowflake公司每天为10000多家企业客户提供30多亿次查询服务,该公司正在与英伟达企业级应用。
终末,他们正在使用英伟达AI Omniverse 将工场的端到端周期时分诽谤 50%。汽车行业是本季度的主要增长能源,因为每家开发自动驾驶汽车技艺的汽车制造商齐在其数据中心使用英伟达。汽车行业将为里面部署和云消费带来数十亿好意思元的收入,何况跟着下一代 AV 车型对经营材干的要求大幅提高,来自汽车行业的收入也将随之增长。跟着东说念主工智能对医疗成像、手术机器东说念主、病东说念主照看、电子健康记录处理和药物研发的校正,医疗保健也将成为一项价值数十亿好意思元的业务。
在本季度,咱们文牍了一项新的英伟达AI代工服务,哄骗Meta的Llama 3.1 模子集为全球企业的生成式东说念主工智能提供超等能源,这象征着企业东说念主工智能的分水岭。企业初度不错哄骗开源前沿级模子的材干来开发定制的东说念主工智能应用,将其机构常识编码成东说念主工智能飞轮,从而杀青业务自动化和加速。埃森哲是首家接受新服务来构建定制 Llama 3.1 模子的公司,该模子既可用于公司本人,也可协助客户部署生成式东说念主工智能应用。
英伟达NIM模子加速并简化了部署,医疗保健、能源、金融服务、零卖、输送和电信畛域的公司齐在接受 NIM,其中包括 Aramco、Lowes 和 Uber。AT&T 在将 NIM 用于生成式东说念主工智能、招呼转录和分类后,杀青了70% 的成本从简和八倍的蔓延诽谤。越过 150 家相助伙伴正在东说念主工智能生态系统的每一层镶嵌NIM。
咱们发布了 NIM Agent Blueprint,这是一个可定制的参考应用目次,其中包括用于构建和部署企业生成式东说念主工智能应用的全套软件。有了 NIM Agent Blueprint,企业就不错迟缓完善其东说念主工智能应用,创建一个数据驱动的东说念主工智能飞轮。首批 NIM Agent Blueprints 包括用于客户服务、经营机缓助药物发现和企业检索增强生成的事业负载。咱们的系统集成商、技艺处理有估量打算提供商和系统构建商正在为企业带来英伟达NIM Agent Blueprints。
英伟达NIM 和 NIM Agent Blueprints 可通过 NVIDIA AI Enterprise 软件平台获得,该平台势头刚劲。咱们预计,到本年年底,咱们的软件、SaaS 和撑握收入的年增长率将接近 20 亿好意思元,其中 NVIDIA AI Enterprise 对增长的孝敬尤为显赫。
再来看游戏和AI PC,游戏收入为28.8 亿好意思元,环比增长9%,同比增长16%。咱们看到游戏机、札记本电脑和台式机收入一语气增长,需求刚劲且胁制增长,渠说念库存保握健康。每一台配备 RTX 的 PC 齐是一台东说念主工智能 PC。RTX PC 可提供多达 1300 个东说念主工智能顶部,面前最初的 PC 制造商已遐想出 200 多款 RTX AI 札记本电脑。凭借 600款东说念主工智能驱动的应用和游戏以及 1 亿台开拓的装配量,RTX 将通过生成式东说念主工智能透澈改变消费者的体验。
NVIDIA ACE 是一套生成式东说念主工智能技艺,可用于 RTX AI PC。Megabreak 是首款使用英伟达的游戏,其中包括咱们的演义话模子 Nemotron 4B,该模子在开拓推理上进行了优化。英伟达游戏生态系统胁制发展壮大。最近新增的 RTX 和 DLSS 游戏包括《夺宝奇兵》、《沙丘醒觉》和《龙腾世纪:面杀守卫》。GeForce NOW 府上库胁制扩大,目次总范围越过 2000 种,是通盘云游戏服务中内容最多的。转向专科可视化,收入为 4.54 亿好意思元,环比增长 6%,同比增长 20%。东说念主工智能和图形用例(包括模子微脱色 Omniverse 磋磨事业负载)推动了商场需求。
汽车和制造业是本季度推动增长的主要垂直行业之一,各公司齐在竞相杀青事业经由的数字化,以提高通盘运营的后果。全球最大的电子制造商富士康正在使用 NVIDIA Omniverse 为坐褥 NVIDIA Blackwell 系统的物理工场的数字孪生提供撑握。包括梅赛德斯-飞奔在内的几家大型全球性企业与 NVIDIA Omniverse Cloud 顽强了多年期条约,以构建工场的工业数字孪生。
咱们发布了新的英伟达USD NIM 和承接器,将 Omniverse 开放给新的行业,使开发东说念主员简略将生成式东说念主工智能协同驾驶员和代理纳入 USD 事业负载,加速咱们构建高精度造谣寰宇的材干。WPP 正在为好吃可乐公司等客户在其生成式东说念主工智能内容创建活水线中实施 USD NIM 微服务。转向汽车和机器东说念主技艺,收入为 3.46 亿好意思元,环比增长 5%,同比增长 37%。
自动驾驶平台新客户的增多,以及对东说念主工智能驾驶舱处理有估量打算需求的增长推动了该业务同比增长,在经营机视觉与模式识别大会的消费者分会上,英伟达在“自主品牌挑战赛”的“端到端高级驾驶 ”分会场中胜出,在全球400多个参赛花式中脱颖而出。波士顿能源、比亚迪电子)、Figure、Intrinsyc、西门子和泰瑞达机器东说念主正在将英伟达 Isaac 机器东说念主平台用于自主机械臂、东说念主形机器东说念主和移动机器东说念主。
现在,咱们来望望损益表其他部分,GAAP 毛利率为 75.1%,非 GAAP 毛利率为 75.7%,环比下跌的原因是数据中心的新址品组合增多,以及为低收益的Blackwell材料计提了库存拨备。GAAP 和非 GAAP 运营用度环比增长12%,主要反馈了薪酬磋磨成本的增多。运营现款流为145 亿好意思元,第二季度,咱们动用了74亿好意思元的现款,以股票回购和现款分成的风景答复鼓励,这反馈了每股股息的增多。咱们的董事会最近批准了500 亿好意思元的股票回购授权,以补充第二季度末剩余的 75 亿好意思元授权。
请允许我谈谈第三季度的预测,总收入预计为 325 亿好意思元,高下浮动2%,咱们的第三季度收入预测包括 Hopper 架构的握续增长和 Blackwell 居品的样品,预计Blackwell的产量将在第四季度上涨,GAAP 和非 GAAP 毛利率预计分别为74.4%和75%,高下浮动50个基点。跟着咱们的数据中心组合不竭向新址品移动,预计这一趋势将握续到 2025 财年第四季度,全年的毛利率预计在 70% 傍边。
按照好意思国通用管帐准则(GAAP)和非好意思国通用管帐准则(Non-GAAP)经营的运营用度预计分别约为43亿好意思元和30亿好意思元,由于咱们致力于于开发下一代居品,预计全年运营用度将增长40%傍边。按照好意思国通用管帐准则(GAAP)和非好意思国通用管帐准则(Non-GAAP)经营的其他收入和支拨预计约为3.5 亿好意思元,其中包括非关联投资和公开握有的股权证券损益。好意思国通用管帐准则(GAAP)和非好意思国通用管帐准则(Non-GAAP)税率预计为17%,高下浮动1%,不包括任何单项花式。
Q&A范例
Q1 分析师Vivek Arya:感谢你回话我的问题,Jensen你在指摘中提到,Blackwell GPU掩膜有所变化。我很敬爱,在后端封装或其他方面是否有其他增量变化?与此磋磨的是,你曾示意尽管遐想有变化,但第四季度 Blackwell 的出货量仍将达到数十亿好意思元。是因为到当时通盘这些问题齐会得到处理吗?请匡助咱们评估Blackwell时分安排上的任何变化会产生什么全体影响,这对你们的收入情状意味着什么,以及客户对此有何反应?
总裁兼首席执行官:Jensen Huang
好的谢谢,Blackwell的转换也曾完成,莫得功能上的改变,咱们正在对 Blackwell、Grace Blackwell 以及各式系统配置进行功能性采样。在 Computex上展示的基 Blackwell 的系统约莫有 100 种不同类型,咱们正在让咱们的生态系统运行提供这些样品。Blackwell的功能保握不变,咱们预计将在第四季度运行坐褥。
Q2 高盛 Toshiya Hari:我有一个相对历久的问题。您可能知说念,商场上对您的客户和客户的客户的投资答复率,以及这对改日老本支拨的可握续性意味着什么,争论得很是强烈。
在英伟达里面,你们在热心什么?在斟酌客户答复以及客户答复对老本支拨的影响时,你们的姿首盘上有哪些内容?然后是科莱特的后续问题。我想文你们全年的主权AI可能会增多几十亿。是什么推动了出路的改善,咱们应该怎么看待 26 财年?
总裁兼首席执行官:Jensen Huang
起初,当我说第四季度运行坐褥时,我指的是发货,而不是运行发货。对于更长久的问题,让咱们退一步说。你们听我说过,咱们正在同期经验两个平台的转型。
起初是从加速经营过渡到通用经营,从通用经营过渡到加速经营。究其原因,人所共知CPU的扩展速率也曾放缓了一段时分,何况也曾慢到了爬行的地步。关联词,经营需求量仍在大幅增长。以至不错估量,每年齐在翻番。
因此,如果咱们不遴选新的圭表,经营蔓延将推高每家公司的成本,并将推高全球数据中心的能耗。事实上,你们也曾看到了这极少,便是加速经营。
咱们知说念,加速经营天然不错加速应用速率。它还能让你进行更大范围的经营,举例科学模拟或数据库处理,但这顺利带来的是更低的成本和能耗。事实上,本周就有一篇博客先容了咱们提供的一系列新库。而这恰是第一个平台过渡的中枢,从通用经营到加速经营,有东说念主能量入为主 90% 的经营成本,这并不稀有。天然,原因在于你刚刚将应用范例的运行速率提高了 50 倍。你会预期经营成本会大幅下跌。
其次,加速经营之是以简略杀青,是因为咱们将检修大型说话模子或检修深度学习的成本降到了令东说念主难以置信的地步,以至于现在有可能建立巨大范围的模子、数百万参数的模子,并对其进行检修,在全寰宇险些通盘的常识语料库上对其进行预检修,然后让模子去弄明晰怎么贯通东说念主类说话表征,怎么将常识编码到其神经汇集结,以及怎么学习推理,从而激发了生成式东说念主工智能创新。现在,咱们回格外来望望,为什么咱们要如斯真切地研究生成式东说念主工智能,因为它不单是是一种功能,也不单是是一种材干,这是一种全新的软件开发容貌。咱们现在有了数据,而不是东说念主类遐想的算法。咱们告诉东说念主工智能,咱们告诉模子,咱们告诉经营机预期的谜底是什么。咱们之前的不雅察断绝是什么?
然后让它找出算法是什么,功能是什么。它学习一个通用东说念主工智能是一个通用函数雷同器,它不错习函数。因此,你不错学习险些任何东西的功能,任何可预测的东西,任何有结构的东西,任何你以前有例子的东西,是以现在咱们有了生成式东说念主工智能。这是经营机科学的一种基本新风景。从 CPU 到 GPU,从东说念主类遐想的算法到机器学习的算法,它正在影响经营的每一层,而你现在不错开发和坐褥的应用类型从根柢上来说詈骂常了不得的。
生成式东说念主工智能正在发生几件事情。起初,前沿模子的范围正在胁制扩大, 咱们仍在看到扩展带来的平正。每当你把一个模子的范围扩大一倍,你也必须把用于检修它的数据集的范围扩大一倍以上。因此,创建模子所需的运算次数会呈四倍增长。因此,下一代模子所需的经营量可能是上一代的 10、20、40 倍,这并不出东说念主料到。
因此,咱们必须不竭大幅提高世代性能,这样才能降粗劣耗,诽谤必要的成本。因此,起初是在更多模式下检修的前沿模子更大。令东说念主骇怪的是,前沿模子的制作家比旧年更多了。因此,你会有越来越多、越来越多的契机。这便是生成式东说念主工智能的能源之一。
其次,固然这还只是冰山一角,但咱们看到的是 ChatGPT 图像生成器。咱们看到的是编码,在英伟达,咱们将生成式东说念主工智能宽泛用于编码。天然,咱们也有许多数字遐想师和诸如斯类的东说念主员。但这些只是冰山一角。冰山之下的是面前寰宇上最大的系统、最大的经营系统,也便是你们当年听我讲过的,从中央处理器转向的保举系统。现在正从CPU 转向生成式东说念主工智能。
因此,保举系统、告白生成、定制告白生成,以相称大的范围和很是高的定位、搜索和用户生成的内容为目的的告白,这些齐詈骂常大范围的应用,现在也曾发展到生成式东说念主工智能。天然,生成式东说念主工智能初创企业的数目正在为咱们的云相助伙伴带来数百亿好意思元的云租借契机。还有主权东说念主工智能,一些国度现戒备志到,他们的数据是他们的天然资源和国度资源,他们必须使用东说念主工智能,建立我方的东说念主工智能基础设施,这样他们就不错领有我方的数字智能。正如科莱特之前提到的,企业东说念主工智能正在起步,你可能也曾看到咱们文牍全球最初的IT公司将加入咱们的行列,将英伟达东说念主工智能企业平台推向全球企业。
与咱们交谈过的公司中,有许多齐对提高公司坐褥力感到无比直快。然后是通用机器东说念主技艺。旧年,跟着咱们简略通过不雅看视频和东说念主类演示来学习物理东说念主工智能,以及从 Omniverse 等系统的强化学习中生成合成数据,咱们杀青了紧要调遣,现在咱们简略与险些通盘机器东说念主公司相助,运行念念考和构建通用机器东说念主技艺。你不错看到,生成式东说念主工智能正朝着许多不同的场所发展。
因此,咱们内容上看到生成式东说念主工智能的发展势头正在加速。
首席财务官、执行副总裁:Colette M. Kress
对于安定东说念主工智能的问题,以及咱们在增长和收入方面的目的,这天然是一个专有的、胁制增长的契机,跟着生成式东说念主工智能的出现,寰宇列国齐但愿领有我方的生成式东说念主工智能,简略将我方的说话、我方的文化、我方的数据融入该国。因此,越来越多的东说念主对这些模子以及它们能为这些国度带来什么感到直快,是以,咱们看到了一些发展机遇。
好大夫在线Q3 摩根士丹利乔-摩尔:在新闻稿中,你谈到Blackwell的预期令东说念主难以置信,但似乎hopper的需求也相称刚劲。如果莫得Blackwell,你们十月份也将迎来一个相称刚劲的季度。那么,你合计两者的刚劲需求还能共存多久?你能谈谈向Blackwell的过渡吗?你合计东说念主们会搀杂使用集群吗?你合计Blackwell的大部分行径是新的集群吗?想了解一下过渡时期的情况。
总裁兼首席执行官Jensen Huang
好的谢谢,对hopper的需求真是很强烈没错,对Blackwell的需求也相称大。
这有几个原因。第一个原因是,如果你望望全球的云服务提供商,他们可用的 GPU 容量基本上是零。究其原因,是因为它们要么在里面部署,用于加速我方的事业负载,比如数据处理。数据处理,咱们很少研究它,因为它很泛泛。
它并不酷,因为它不会生成图片或笔墨。关联词寰宇上险些通盘的公司齐在后台处理数据。而英伟达的 GPU 是这个星球上唯一能处理和加速数据的加速器,SQL数据、Pandas数据、数据科学器具包(如Pandas器具包和新推出的Polar器具包)。
这些齐是寰宇上最流行的数据处理平台,正如我之前提到的,除了CPU,NVIDIA的加速经营照实是进步CPU性能的唯一路线。早在生成式东说念主工智能出现之前,第一大用例便是将应用范例一个接一个地移动到加速经营平台。
第二天然是租借,他们把产能租给模子制造商。他们把材干租给初创公司。而一家东说念主工智能公司则会将绝大部分投资资金参预到基础设施树立中,以使用东说念主工智能来匡助他们创造居品,因此这些公司现在就需要。他们只是根柢职守不起 -。你只是筹集资金。他们但愿你现在就把钱用起来,你有必须要作念的事情。
你不行来岁再作念,你必须今天就作念,这是一个公正的原因。hopper需求刚劲的第二个原因是,东说念主们齐在不甘人后地向下一阶段迈进。第一个到达下一个高原的东说念主,就能引入创新性的东说念主工智能。第二个达到目的的东说念主也会迟缓提高,或者与第一个东说念主差未几。因此,有系统地、握续地向下一阶段迈进,并成为第一个到达那处的东说念主,这便是建立相通地位的圭表。英伟达一直在这样作念,咱们向寰宇展示了这极少,咱们制造的 GPU、咱们制造的东说念主工智能工场、汇集系统、SoC。
我的真谛是咱们要引颈潮水,但愿永恒保握寰宇第一,这便是咱们如斯英勇的原因。天然,咱们也但愿梦想成真,改日材干以及咱们能为社会带来的益处,这些模子制造商亦然如斯。天然,他们想成为寰宇上最好的。他们想成为寰宇第一。固然Blackwell将在本年年底运行出货,金额达数十亿好意思元,但产能的建立可能还需要数周或一个月傍边的时分。因此从现在到当时,生成式东说念主工智能商场将充满活力。
每个东说念主齐相称惊恐,这要么是他们需要它的操作原因。他们需要加速经营。他们不想再建立更多的通用经营基础设施,以至是 Hopper。天然H200 是首先进的。如果你要在现在为企业构建 CPU 基础设施和现在为企业构建 Hopper 基础设施之间作念出遴选,那么这个决定是相对明确的。我合计,东说念主们只是急于将已装配的 1 万亿好意思元基础设施转机到当代基础设施,而 Hopper 便是首先进的基础设施。
Q4 TD Cowen分析师Matt Ramsay:我想回到之前的一个问题,即投资者对通盘这些老本支拨的投资答复率的争论。你看到有若干东说念主花了这样多钱,但愿推动AGI和会的前沿,正如你刚才说的,在材干上达到一个新的高度,他们会不吝一切代价达到这样的材干水平,这为行业和他们的公司开放了许多大门。
而现在的客户则相称、相称热心老本支拨和投资答复率。我不知说念这样区别是否有道理。我只是想了解一下,你是怎么看待那些在这项新技艺上参预资金的东说念主的优先辩论事项,他们的优先辩论事项是什么,他们的投资时分框架是什么?
总裁兼首席执行官Jensen Huang:
投资英伟达基础架构的用户立时就能获获取报,这是面前投资答复率最高的基础架构、经营基础架构投资。因此,一种念念考容貌,可能是最绵薄的念念考容貌,便是回到最初的原则。
你领有价值 1 万亿好意思元的通用经营基础设施,问题是,你还想不想建立更多这样的基础设施?每建立一个价值 10 亿好意思元的通用CPU 的基础设施,租用用度可能不到 10 亿好意思元。因此,由于它的商品化,大地上也曾有 1 万亿好意思元了,再多又有什么道理呢?因此,那些吵着要获得这种基础设施的东说念主,一是当他们建立起基于 Hopper 的基础设施,很快就会建立起基于 Blackwell 的基础设施时,他们就运行省钱了。
这便是巨大的投资答复。他们运行省钱的原因是数据处理省钱,而数据处理可能只是其中的一个弥留部分。因此,保举系统不错省钱,等等等等,这样,你就运行省钱了。
第二件事是,你所建立的一切齐会被租用,因为有这样多公司正在创建生成式东说念主工智能。你的材干立时就会被租用,投资答复率相称高。
第三个原因是你我方的业务。你是想我方创造下一个前沿畛域,照旧想让我方的互联网服务受益于下一代告白系统、下一代保举系统或下一代搜索系统?因此,对于你我方的服务、你我方的商店、你我方的用户生成内容、外交媒体平台、你我方的服务,生成式东说念主工智能亦然一个快速的投资答复率。因此,你不错从许多方面来辩论这个问题。
但究其中枢,是因为它是面前不错参预使用的最好经营基础设施。通用经营的寰宇正在转向加速经营。东说念主类遐想的软件寰宇正在转向生成式东说念主工智能软件。如果你要建立基础设施来杀青云经营和数据中心的当代化,那就用英伟达的加速经营技艺来建立吧,这是最好的办法。
Q5 瑞银Timothy Arcuri:相称感谢。我想问一下近期和历久的收入增长情况。我知说念,你们本年照实增多了运营成本。如果我看一下你们采购喜悦和供应义务的增多,这亦然很是乐不雅的。
另一方面,也有一些不雅点合计,似乎并莫得若干客户信得过准备好使用液冷,我也知说念有些机架不错使用风冷。这是否是Blackwell 在发展过程中需要辩论的问题?然后,当你把视力投向来岁以后,这赫然会是一个很好的年份,你会看到 26 年,你是否会归来任何其他制约身分,比如说,电源供应链,或者在某些时候,机型运行变得越来越小?
总裁兼首席执行官Jensen Huang
我要倒着来。相称感谢你的发问请记取,寰宇正在从通用经营转向加速经营,全球正在树立价值约 1 万亿好意思元的数据中心。
几年后,价值 1 万亿好意思元的数据中心将全部接受加速经营。当年数据中心莫得GPU只须 CPU,改日每个数据中心齐将配备 GPU。这样作念的原因很明晰:因为咱们需要加速事业负载,这样咱们才能不竭保握可握续发展,不竭诽谤经营成本,这样当咱们进行更多经营时,就不会出现经营蔓延。
其次,咱们需要 GPU 来杀青一种名为“生成式东说念主工智能”的新经营模式,咱们齐知说念这将对改日的经营产生巨大的变革。因此我合计,逆向念念维的容貌是,寰宇基础设施的下一个 1 万亿好意思元将赫然不同于上一个1 万亿好意思元,它将大大加速。对于坡说念的风景,咱们提供多种配置的Blackwell配置。Blackwell有经典Blackwell和HGX两种,前者接受了咱们在Volta上率先接受的HGX外形尺寸。
我合计是Volta,咱们的 HGX 外形也曾出货一段时分了,它是风冷式的。Grace Blackwell是液冷的,但愿接受液冷技艺的数据中心数目很是可不雅。究其原因,是因为咱们不错在液冷数据中心,在职何数据中心 -- 限电数据中心,不管你遴选什么范围的数据中心,齐不错装配和部署比当年高三到五倍的东说念主工智能浑沌量。因此,液冷的成本更低。液冷技艺使咱们的总体领有成本(TCO)更低,液冷技艺还能让你受益于咱们称之为NVLink 的功能,它允许咱们将其扩展到 72 个Grace Blackwell软件包,基本上有144 个GPU。
联想一下,144 个GPU通过 NVLink 承接在全部。咱们会越来越多地向你展示这样作念的平正。下一次点击赫然詈骂常低的蔓延、相称高的浑沌量的大型说话模子推理,而大型 NVLink 畛域将改变游戏规矩。因此,我合计东说念主们在部署这两款居品时会相称庖丁解牛。
因此,险些通盘与咱们相助的 CSP 齐在部署这两种技艺。因此我很有信心,咱们会顺利地进步产能。第二个问题是,预测改日,来岁将是一个伟大的年份,咱们预计来岁的数据中心业务将大幅增长。
Blackwell 将透澈改变通盘行业的游戏规矩,Blackwell将延续到下一年。正如我之前提到的,从第一原则倒推,请记取经营正在同期经验两个平台的转型。这极少相称相称弥留,你要保握头脑澄清,围聚提神力,即通用经营正在向加速经营调遣,而东说念主类工程软件将向生成式东说念主工智能或东说念主工智能学习软件过渡。
Q6:伯恩斯坦Stacy Rasgon:我有两个纯粹的问题想问科莱特。第四季度,Blackwell收入有几十亿好意思元,这是否是新增的?你预计 Hopper 的需求不才半年会增多。这是否意味着在 Blackwell 增多几十亿好意思元的基础上,Hopper第三季度到第四季度也会得到加强?
第二个问题是毛利率。如果本年的毛利率是75%傍边,那么第四季度毛利率就会在71%—72%之间。这是你预期的毛利率退出率吗?跟着Blackwell的发展,咱们应该怎么看待来岁毛利率的变化?我的真谛是,我但愿收益率和库存储备以及其他一切齐能提高。
首席财务官、执行副总裁Colette M. Kress:
咱们先往来话你对于 Hopper和Blackwell的问题。咱们信赖,Hopper 将不才半年不竭增长。咱们为 Hopper 开发了许多新址品,咱们信赖Hopper的现存居品将在接下来的几个季度(包括第三季度)运行握续增长,这些新址品将进入第四季度。因此,不错说,Hopper 相对于上半年是一个增长的契机。此外,咱们还有 Blackwell 花式,Blackwell 花式将于第四季度运行参预运营。是以,我但愿这两点对你有所匡助。
第二部分是毛利率,咱们提供了第三季度的毛利率指引,咱们提供的非好意思国通用管帐准则毛利率约为 75%。咱们将处理好正在经验的各式过渡,但咱们信赖第三季度不错达到75%,预计全年毛利率也将在 70% 傍边。咱们在第四季度可能会看到一些轻飘的各异,这同样与咱们的转型和新址品推出的不同成本结构磋磨。
不外,我和你们的东说念主数不一样。咱们莫得确凿的指引,但我信赖你的预期比咱们低。
Q7:Melius Research分析师Ben Reitzes:我想问一下各地区的情况。在发布的10-Q敷陈中,好意思国的事迹一语气下滑,而亚洲几个地区则一语气大幅增长。
只是想知说念那处的动态怎么。赫然中国的进展相称好,你在发言中提到了这极少。有什么影响?然后,鉴于通盘这些有益的收入动态,这是否意味着第四季度公司全体收入的增长率会加速?
首席财务官、执行副总裁Colette M. Kress
请允许我谈谈咱们在10-Q敷陈中的裸露情况,这是在不同地区齐需要裸露的信息。只怕,创建正确的裸露相称具有挑战性,因为咱们必须漠视一个关节部分。咱们的裸露内容包括咱们的销售对象和/或具体的发票开具对象,因此你在这里看到的是咱们的发票开具对象。但这并不一定是居品的最终去处,也不一定是最终客户。
在咱们的居品组合中,大部分居品齐在向咱们的OEM 或 ODM 以及系统集成商。因此,你所看到的是,在这些居品进入数据中心、进入札记本电脑和其他居品之前,他们在使用谁来完周全部配置方面,只怕会发生速即的调遣。这种调遣时有发生,既包括游戏,也包括数据中心,还包括汽车。
回到你的发言,对于毛利率以及Hopper和Blackwell的收入情况,下半年Hopper 将不竭增长,咱们将在面前的基础上不竭增长。
咱们现在还无法详情第三季度和第四季度的具体组合。就第四季度而言,咱们还无法提供指引。但咱们现在照实看到了需求预期,以选取四季度的增长契机。除此除外,咱们还有Blackwell架构。
Q8:Cantor Fitzgerald分析师C. J. Muse:你们也曾运行了令东说念主防卫的年度居品节拍,鉴于先进封装寰宇的复杂性胁制提高,你们靠近的挑战可能会越来越多。
如果你退一步想,这种配景怎么改变你对可能的更大纵向整合、供应链相助关系的想法,然后对你的利润情状产生相应的影响?
总裁兼首席执行官Jensen Huang
我想对你第一个问题的回话是,咱们的速率之是以这样快,同期亦然因为模子的复杂性在增多,咱们但愿不竭诽谤成本。
它正在成长,咱们但愿不竭扩大其范围。咱们信赖,通过不竭扩大东说念主工智能模子的范围,咱们将达到一个超卓的水平,并开启并杀青下一次工业创新。咱们信赖这极少。因此,咱们将任重道远,不竭扩大范围。
咱们有很是专有的材干整合、遐想一家东说念主工智能工场,咱们领有通盘的零部件。除非你领有通盘部件,不然不可能每年齐遐想出新的东说念主工智能工场。因此,咱们来岁将出货比公司历史上更多的 CPU、更多的 GPU,天然还有 NVLink 交换机、CX DPU、东西部的 ConnectX、南北部的 BlueField DPU,以及用于超等经营中心的 InfiniBand 和以太网的数据和存储处理。因此,事实上,咱们不错构建--咱们不错窥探通盘这些,咱们有一个架构堆栈,正如你所知说念的,它允许咱们在完成后向商场推出新的功能。
不然,就会出现这样的情况:你输送这些部件,你去寻找客户来销售,然后你必须建立 -- 有东说念主必须建立一个东说念主工智能工场,而东说念主工智能工场有堆积如山的软件。因此,这与谁来整合无关。咱们心爱这样一个事实,即咱们的供应链被瓦解了,咱们不错为广达、富士康、惠普、戴尔、盼愿、超微提供服务。咱们当年不错为中兴通讯提供服务。
他们最近被收购了,等等。因此,咱们领有多数的生态系统相助伙伴,技嘉,他们简略接受咱们的架构,咱们的原始遐想制造商和集成商以及集成供应链所需的范围和遮蔽范围是巨大的,因为寰宇是巨大的。因此,这部单干作咱们不想作念,也不擅长作念。但咱们知说念怎么遐想东说念主工智能基础设施,提供客户心爱的容貌,并让生态系统将其整合。
Q9:富国银行亚伦-瑞克斯:我想再谈谈Blackwell的居品周期。咱们频繁被问到的一个问题是,在辩论哄骗NVLink、GB NVL72以及Blackwell居品周期的上市动态中,你怎么看待机架范围系统组合的动态。在咱们运行辩论Blackwell周期进展,您怎么看待机架范围系统的组合?
总裁兼首席执行官Jensen Huang
Blackwell机架系统的遐想和架构是一个机架,但它是以领会的系统组件风景销售的。咱们不销售通盘机架。
究其原因,是因为每个机架齐不尽一样。有些是 OCP 尺度,有些不是。有些是企业级的,因此每个东说念主的功率戒指齐可能有些不同。CDU 的遴选、电源汇流排的遴选、配置以及与数据中心的集成齐不尽一样。因此,咱们在遐想时,对通盘机架进行了架构遐想。软件将在通盘机架上完好意思运行。然后咱们提供系统组件。
举例,CPU和GPU经营板就会集成到 MGX 中。这是一种模块化系统架构。MGX 足够是始创的。咱们的工场里到处齐有 MGX 的 ODM、集成商和 OEM。
因此,险些的任何配置齐不错,只须您但愿录用3000磅的机架。它必须在数据中心隔邻集成和拼装,因为它很是重。因此,从咱们录用 GPU、CPU、交换机、网卡的那一刻起,供应链上的一切事业齐是在逼近 CSP 和数据中心的地方完成的。因此,你不错联想寰宇上有若干个数据中心,咱们与 ODM 相助伙伴全部扩展到了若干个物流中心。
因此,我合计由于咱们将其浮现为一个机架,何况老是以这种容貌呈现和浮现,咱们可能给客户留住了咱们正在进行集成的印象。咱们的客户脑怒咱们作念集成,供应链脑怒咱们作念集成,他们想作念集成。
这便是他们的附加值。如果你快意的话,还有终末的遐想融入。这并不像进入数据中心那么绵薄,但遐想装配照实很复杂。因此,遐想、装配、调试、维修和更换,通盘周期辞寰宇各地进行。
咱们领有一个浩荡的ODM和OEM相助伙伴汇集,在这方面作念得相称出色。因此,集成并不是咱们作念机架的原因。这是咱们作念机架的反面原因,咱们不想成为集成商,而是想成为技艺提供商。
Jensen Huang遗弃词
谢谢,请允许我再发表几条,我之前发表过的指摘。全球的数据中心正在任重道远,哄骗加速经营和生成式东说念主工智能杀青通盘经营堆栈的当代化。对Hopper的需求依然刚劲,对Blackwell的期待也令东说念主难以置信。
请允许我要点先容咱们公司的五大亮点。加速经营已达到临界点,CPU 扩展速率放缓。开发东说念主员必须尽可能加速一切。
加速经营始于 CUDA-X 库。新库为英伟达开辟了新商场。咱们发布了许多新的库,包括 CUDA-X Accelerated Polars、Pandas 和 Spark,最初的数据科学和数据处理库,用于矢量数据库的 CUVI-S,这在现时詈骂常热点的。
Ariel和用于5G 无线基站的一整套数据中心,咱们现在齐不错进入。用于基因测序的 Parabricks 和用于卵白质结构预测的 AlphaFold2 现在齐不错使用 CUDA 加速。咱们正处于将价值 1 万亿好意思元的数据中心从通用经营当代化为加速经营的起步阶段。这是第极少
其次,与 Hopper 比拟,Blackwell是一次功能上的飞跃。Blackwell是一个东说念主工智能基础平台,而不单是是 GPU。它亦然咱们 GPU 的称呼,但它是一个东说念主工智能基础架构平台。跟着咱们向相助伙伴和客户展示更多的 Blackwell 和示例系统,Blackwell 的最初进程将变得一目了然。
Blackwell的愿景历时近五年,通过七款唯独无二的芯片得以杀青:Gray CPU、Blackwell 双 GPU 和 colos 包、用于东西向流量的 ConnectX DPU、用于南北向和存储流量的 BlueField DPU、用于通盘 GPU 通讯的 NVLink 交换机,以及用于 InfiniBand 和以太网的 Quantum 和 Spectrum-X,不错撑握东说念主工智能的海量流量。Blackwell AI 工场是楼宇范围的经营机。英伟达遐想并优化了Blackwell平台,从芯片、系统、汇集,以至结构化电缆、电源和冷却,以及多数软件,杀青了端到端的全堆栈,使客户简略快速构建东说念主工智能工场。
这些齐詈骂常老本密集型的基础设施,客户但愿在拿到开拓后立即部署,并提供最好性能和总体领有成本。与 Hopper 比拟,Blackwell 可在电力有限的数据中心内提供三到五倍的东说念主工智能浑沌量。
第三个是 NVLink,这是一个相称大的来往,其改变了全GPU交换游戏规矩。Blackwell 系统可将 72 GB200 封装的144 个 GPU 承接到一个 NVLink 域,一个机架的 NVLink 总带宽为每秒259TB。从这个角度来看,这比 Hopper逾越约10 倍。每秒 259 TB 的带宽是有道理的,因为你需要在数万亿代币上进步数百万参数模子的检修。因此,天然需要将多数数据从 GPU 移动到 GPU。
在推理方面,NVLink 对于低蔓延、高浑沌量的大型说话模子符号生成至关弥留。咱们现在有三个汇集平台:用于 GPU 扩展的 NVLink、用于超等经营和专用 AI 工场的 Quantum InfiniBand 以及用于以太网 AI 的 Spectrum-X。英伟达的汇集行踪比以前大得多,生成式东说念主工智能的发展势头正在加速。
生成式东说念主工智能前沿模子制造商正竞相向下一个东说念主工智能高点扩展,以提高模子的安全性和智力。咱们还在胁制扩展,以了解从文本、图像和视频到三维物理、化学和生物等更多模式。聊天机器东说念主、编码东说念主工智能和图像生成器发展速即,但这只是冰山一角。互联网服务正在为大范围保举器、告白定位和搜索系统部署生成式东说念主工智能。
东说念主工智能初创企业每年破费数百亿好意思元的CSP云容量,列国也暴露到东说念主工智能的弥留性,纷纷投资主权东说念主工智能基础设施。英伟达东说念主工智能(NVIDIA AI)、英伟达全功能(NVIDIA Omniverse)正在开启下一个东说念主工智能期间,即通用机器东说念主期间。现在,企业东说念主工智能波澜也曾运行,咱们也曾准备好匡助企业杀青业务转型。NVIDIA AI 企业平台由 Nemo、NIMs、NIM Agent Blueprints 和 AI Foundry 组成,咱们的生态系统相助伙伴、全球最初的 IT 公司哄骗这些平台匡助企业定制 AI 模子并构建定制的 AI 应用范例。
然后,企业就不错在英伟达AI 企业版的运行时分上进行部署,英伟达AI 企业版每块 GPU 每年的价钱为 4500 好意思元肛交颜射,对于在职何地方部署 AI 来说齐詈骂常超值的。对于英伟达软件来说,跟着兼容CUDA的GPU装机量从数百万增长到数千万,TAM的价值也将相称可不雅。正如科莱特提到的,英伟达软件本年的销售额将达到20亿好意思元,感谢寰球参加今天的会议。
风险提醒及免责条件 商场有风险,投资需严慎。本文不组成个东说念主投资建议,也未辩论到个别用户特殊的投资目的、财务情状或需要。用户应试虑本文中的任何见地、不雅点或论断是否适宜其特定情状。据此投资,使命自夸。