新云运营商依赖英伟达芯片保持高价——彭博社
Edward Ludlow
纽约时代广场的CoreWeave公司标识。
摄影师:Yuki Iwamura/彭博社 欢迎阅读《科技深度解析》,这是我们每日发布的关于全球科技商业的新闻简报,由彭博社驻世界各地的记者为您呈现。今天,Ed Ludlow将回顾他对CoreWeave首席执行官的采访,以及这次采访揭示的关于构建专业人工智能云基础设施这一高风险业务的启示。
全球科技动态
**英特尔股权:**据知情人士透露,特朗普政府正考虑利用《芯片法案》资金入股英特尔。
**OpenAI股权:**OpenAI现任及前任员工计划向投资集团出售价值约60亿美元的股份。此次出售的公司估值?5000亿美元。
**加密货币回调:**在比特币创下每枚125,514美元历史新高后数日内,主要加密货币回落,导致市场总市值跌破4万亿美元。
重新估值
交通科技公司Via公开提交了IPO申请,报告显示截至6月30日的六个月亏损较上年同期收窄。该公司向交通机构和城市出售软件及运营服务,协助规划公共交通路线。据彭博社此前报道,该公司在2023年2月的估值为35亿美元。
未雨绸缪
就在不久之前,英伟达公司的H100芯片还是人工智能领域人人追逐的皇冠明珠。作为模型训练过程中的荣誉勋章,这款芯片定义了人工智能开发者们竞相标榜的时代。但随着英伟达承诺每年实现代际跨越,老板黄仁勋将每一代产品都宣传为至关重要,如何处理旧硬件的问题就变得愈发重要。
英伟达的紧密合作伙伴、新兴的新云服务提供商CoreWeave公司对此提出了解决方案。这个方案虽不华丽也不特别巧妙,但巧妙地将AI工作中的两个关键流程结合起来——训练(将信息塞入AI模型中最密集但较短暂的操作)和推理(从数据库中查询以产生看似智能的响应,这项工作更大量且更常规)。当需要升级时,CoreWeave只需将这些过时的尖端硬件用于更简单的工作。
“实际情况是,上一代硬件开始承担推理工作负载,“首席执行官迈克尔·因特拉托上周告诉我。“我们没有看到H100需求出现明显下降,H100是当前最先进的Grace Blackwell架构的上一代产品。”
他所说的"基础广泛的推理需求正在消化这些算力”——算力是该行业对计算能力的统称。许多购买最先进芯片进行模型训练的客户,同时也"希望满足日益增长的推理需求”。
作为英伟达高性能计算的最大部署方之一,CoreWeave提出了一个观点:并非所有任务都需要最新硬件。事实证明,上一代硬件完全能胜任推理任务。如果CoreWeave的判断正确,那么GPU经济的真正故事不仅在于追逐最新芯片的热潮,更在于那些曾被视作过时硬件的"第二生命周期"正在延长。
CoreWeave正是这个故事的核心主角。它并非亚马逊AWS或微软Azure那样的成熟超大规模云服务商;其"新云"定位源于其为AI工作负载量身定制的基础设施。
其商业模式理论简单但实践残酷:大举借贷建设专业数据中心,锁定OpenAI和微软等客户,大规模出租算力。虽然增长迅猛但风险极高——必须保持超高利用率才能覆盖融资成本,且旧芯片的转售价值远比在超大规模云环境中重要。
这就是为什么二级市场出现的H100显卡值得关注。这些转售交易及其价格将成为检验CoreWeave商业逻辑的试金石。
超大规模云服务商淘汰旧硬件的速度极快:训练任务永远迁移到最新芯片,推理任务则转移到更廉价的平台。新云运营商面临更大压力——一旦未达利用率目标或不堪融资成本,就不得不抛售硬件减压。其结果就是:大批轻度使用的H100将以惊人折扣涌入市场,提醒着所有人:这个行业的淘汰周期只有12-18个月。
过去一周,这一切在华尔街引发了巨大震动。CoreWeave公布的财报显示亏损扩大、资本支出激增,其前景展望吓坏了投资者——自IPO以来这些投资者已将股价推高数倍。财报发布次日股价暴跌21%,第三天又下跌15%。信号很明确:市场对AI算力的需求或许空前高涨,但事实证明,要快速扩张以满足需求(同时不挤压利润率)比炒作周期所暗示的更为困难。
对尖端硬件的痴迷带来了炫目的产品发布、投资者的热议和数十亿美元的股价波动。但更深层的故事可能是老一代芯片如何被重新利用——无论是新云运营商从昔日备受追捧的GPU中榨取推理价值,还是超大规模企业将库存转入转售市场。
人物语录
“你们会看到一群经济学家忧心忡忡地说’这太疯狂了,太鲁莽了’之类的话。而我们会回答’知道吗?让我们按自己的方式做事’。”
萨姆·奥尔特曼
OpenAI首席执行官
奥尔特曼预计OpenAI将在人工智能基础设施上投入数万亿美元。### 阅读
当日科技与娱乐领域阅读量最高报道
面向消费者的Meta AI应用上线数月后,仍存在一些顽固缺陷,包括缺乏个性化功能,且无法将对话记忆同步至Meta旗下平台(尽管这些平台也接入了同款聊天机器人)。该应用还会展示其他用户(多为陌生人)生成的AI图片,并偶尔出现幻觉现象。
这款应用的体验参差不齐,与首席执行官马克·扎克伯格将公司打造为人工智能领域领导者的雄心形成鲜明对比,也显示出其在追赶竞争对手现有服务方面还有很长的路要走。
市场动态
- 14%美国最大芯片制造设备供应商应用材料公司周五创下五年来最大跌幅,此前该公司给出了令人失望的销售和利润预测。
AV俱乐部
硅谷资深人士布雷特·泰勒探讨了人工智能如何改变软件行业,以及OpenAI董事会在公司重组中扮演的角色。泰勒将做客彭博科技栏目,与卡罗琳·海德和埃德·勒德洛展开对话。
更多彭博资讯
订阅《科技内参》及其他彭博科技通讯:
- 《网络简报》——聚焦黑客与网络间谍的暗黑世界
- 《游戏进行时》——深入解析电子游戏产业
- 《开机启动》——获取苹果独家消息、消费科技新闻等
- 《银幕时间》——直击好莱坞与硅谷的碰撞现场
- 《声音片段》——报道播客、音乐产业及音频趋势
- 《问答AI》——解答您关于人工智能的所有问题