《彭博》:乔丹·施耐德和凯文·徐谈美中人工智能之战
Tracy Alloway, Joe Weisenthal, Arafat Jolaoso-Perry
在中国上海举办的世界人工智能大会(WAIC)上展示的一双机器眼睛。
摄影师:Qilai Shen/Bloomberg 目前美中之间存在几个紧张局势的根源。纯粹的贸易焦虑是其中一个主要原因,美国对中国的电动汽车、太阳能电池板和其他重要工业组件征收了关税。当然,还有直接的地缘政治担忧,担心北京可能采取行动针对台湾。此外,还有人工智能,全世界各国都将其视为一项至关重要的地缘政治资产,具有潜力在达到足够的实力和力量时改变经济和军事。因此,总部设在美国的实验室正在与中国的实验室展开激烈竞争,投入巨额资金以领先并保持领先地位。但这到底是关于什么?美国在人工智能竞赛中有何优势,能否保持?在特朗普总统的另一个任期下可能会发生什么变化?在这一集中,我们与《ChinaTalk》通讯和播客的Jordan Schneider以及《Inteconnected》通讯的Kevin Xu进行讨论,探讨当前局势。本文经过轻微编辑以提高清晰度。
## Odd Lots
美中人工智能竞赛的进展
49:47
**播客中的关键见解:**为什么国家想要拥有国家级人工智能巨头?— 4:30中国LLM的数据训练 — 9:26中国人工智能公司如何筹集资金 — 15:37机器人和人工智能的工业应用 — 18:39芯片限制和出口管制的影响 — 22:58让中国更高效或更自给自足 — 26:21中国的开源项目 — 34:43特朗普对中国人工智能的态度 — 37:48中国在人工智能领域的能源优势?— 41:39
---
**Joe Weisenthal(00:20):**大家好,欢迎收听另一期Odd Lots播客。我是Joe Weisenthal。
**Tracy Alloway(00:26):**我是Tracy Alloway。
**Joe(00:27):**Tracy,显然人工智能有很多角度,行业中正在发生的事情也有无数个,但有一件事让我觉得与科技领域中的其他故事非常不同,我不太清楚它是关于什么,那就是当你听到人们用地缘政治战略术语谈论它时,为什么国家 — 无论是美国、中国,还是沙特阿拉伯、欧洲 — 真的觉得他们需要拥有自己的国内模式或冠军。这几乎就像是石油一样,国家至少已经被说服认为拥有某种国产人工智能非常重要。
**Tracy (01:08):**是的,你说得对。我之前并没有考虑过,但那绝对是真的。人们现在几乎把它当作一种战略资源,从某种意义上来说,甚至是存在主义的。你从来没有看到有人谈论过需要一个国家级的SaaS战略。
**Joe (01:24):**没错,没错。这正是我在想的。就像,你没有,没有人;就像‘哦,我们必须拥有我们自己的Slack’,或者‘我们必须拥有我们自己的…’
Tracy (01:29):‘我们自己的Salesforce!’
Joe (01:30):‘我们必须拥有我们自己的英国Salesforce’和‘沙特阿拉伯Salesforce’,但关于AI模型,还有,你知道的,这与芯片有关,你知道,每个人都想要这些芯片。但也似乎有一些国家真的想要发展他们自己的模型,并拥有他们自己的OpenAI或其他什么。
**Tracy (01:50):**是的。我也想知道这有多少与数据有关,以及数据是你在训练模型的基础,所以有一些,隐私问题不是正确的词,但是,你知道,国家想要对自己的数据有一定的控制权。他们不想要完全透明,所以我想知道这有多少影响。但你说得对,我们已经习惯了以某种方式谈论AI军备竞赛,我们应该深入探讨为什么会这样。为什么它是如此具有竞争力的技术?
**Joe (02:22):**而且我想说,这里还有另外两件事,显然,如今一切的终极,很多都是美中之间的,以及美国模型和美国公司与中国模型和中国公司的比较,我认为很多美国人对此并不了解,或者至少我肯定不了解。我真的不知道中国的AI战略是什么。
当然,还有现有的政策以及在特朗普政府下可能会发生的变化,以及这可能对中美关系产生的影响,我不知道这是否会发生变化,你知道,特朗普对人工智能的看法可能会与拜登政府有所不同。
**特蕾西(02:58):**当然,人工智能中的半导体部分长期以来一直是竞争激烈的领域,我们已经看到特朗普政府继续在拜登政府下继续。因此,这种共性一直存在,但我对中国在这一领域的具体做法以及它可能将其视为真正威胁的看法非常感兴趣。
**乔(03:23):**完全正确。嗯,我很高兴地说我们有两位非常了解这个话题各个方面的完美嘉宾。我们将与乔丹·施耐德(Jordan Schneider)进行交谈。他是ChinaTalk播客的创始人,也是我了解中国动态的最喜欢的信息来源之一。
我们还将与凯文·徐(Kevin Xu)进行交谈。他是Interconnected新闻简报的作者,也是Interconnected Capital的对冲基金经理,撰写了一些关于技术和科技方面的精彩文章。希望我们能更好地理解这个话题。乔丹和凯文,非常感谢你们出席Odd Lots。
**Kevin Xu (04:00):**非常感谢你们邀请我们。
**Jordan Schneider (04:02)**第一次来,久仰大名。太棒了。
**Joe (04:04):**我喜欢听到人们这样说;我喜欢听到这些。这让我想起小时候听体育广播的感觉。我就直接问问题了。关于人工智能,有什么特别之处 — 是固有的还是行业的营销手段 — 但是人工智能有什么特别之处,不像特雷西提到的那样,你知道,不同于像CRM软件、社交网络之类的,各个国家似乎都很看重本土发展的一些方面?
**Kevin (04:30):**是的,当你们在做关于国家级SaaS或‘你们国家的CRM是什么?’的介绍时,我忍不住笑了一下,因为我白天是一名软件投资者。你知道,当我们谈论人工智能时,它的形成方式非常有趣。
你知道,我们真正谈论的是生成式人工智能,对吧?特别是大型语言模型。还有一堆其他的人工智能机器学习用例,我们现在就不多提了。
当你开始对整个互联网的信息进行建模时,特别是对大型语言模型,其中有一种非常深刻的文化因素,对吧?这本质上是一个三维空间,其中每个令牌,或者每个单词,都有一条从一个单词到另一个单词的线,这种线构成了知识或者说以很多方式构成了真相。
到目前为止,鉴于所有主导产品 — ChatGPT、Claude、Gemini 等 — 它们一直在对整个互联网进行建模,这个互联网上有很多来自美国互联网的内容,如果你想考虑的话,或者说,你知道,西欧互联网。而在日本和中国等地,互联网有其他版本,那里的生态系统就像一个有围墙的花园,知识、文化、思想,以及,你知道,历史的表达方式都非常不同。
我认为这就是许多国家开始意识到这个人工智能不仅仅是一个带有良好用户界面的大型电子表格,你可以追踪,你知道,管道,或者说,让一堆消息在工作场所中传递,以提高工作效率。这是对你的人民的编码。
**乔(06:10):**集体真相和文化。
**凯文(06:10):**我要说的是,你的公共话语 — 甚至可能是你在互联网上发布的私人话语的一部分 — 正在被编码在一个特定的大型语言模型中。
**乔丹·施耐德(06:21):**再补充一点,提到美中关系,所以,你知道,如果我们以美国和中国正在进行战略竞争为前提,国家在竞争时会尽力,你知道,最大化国家实力。国家实力由什么组成?你的经济有多大,你的军事有多强大。
现在,你知道,关于未来军事和生产力增长有多重要 AI 仍然存在很多争论,但是今天的技术可能是真正改变长期军事和经济轨迹的潜力最大的技术吗?我认为在过去几年中,人们已经意识到,也许是从 2022 年 10 月 7 日的出口管制开始,美国和中国之间完全开放的交流对美国决策者来说是太大的风险。作为对此的回应,同时也特别是对 10 月 7 日出口管制的回应,你会看到中国开始积极投资和支持他们的半导体以及更广泛的人工智能生态系统。
**Tracy (07:28):**等等,我想强调一下凯文提出的这一点,但是关于人工智能作为巩固文化和信息控制手段的想法,有人尝试过,那个叫什么来着?就像那个学习习近平思想的应用?它就像是那个OpenAI应用,是在习近平思想上进行训练的吗?
Jordan**(07:53):**有趣的是,那个应用实际上有点像虚拟产品。我们试图在China Talk上找到它,你们都应该订阅,但找不到。我认为这是中国政府的一个非常有趣的部分,以及他们如何专门在人工智能模型方面发挥作用。如果你看看迄今为止许多中国政府赞助的项目,特别是在模型生成或者国家数据集方面,当你试图找到它们的真相时,实际上并没有太多实质性的东西。
但这并不是说中国风险投资支持的模型生态系统不是真实的。我们已经看到一些公司筹集了数十亿美元,并且能够发布模型,可能在技术领先的OpenAI或Anthropic之后大约六个月,以及政府支持的项目之间的差距,你知道,不能支付最优秀的工程师之类的,以及这些,你知道,百度的Ernie等三重人工智能的目标,这些人确实和西方所看到的情况一样努力。
**Tracy (08:57):**让我问一个相关的问题,关于中国人工智能模型,我们对它们所训练的数据集了解多少?由于它们在表面上都是在中国的防火墙内开发的,是否会因此引入任何限制?即使这些数据集并没有被公开提供给普通人,它们是否仍然可以访问X中国的数据集?
**Kevin (09:26):**所以我认为他们肯定会。所有这些中国科技公司,尤其是模型制造商都非常清楚的一件事,我会说中国的任何科技公司都必须意识到,就是不能越过的红线,当涉及到产品可能产生的某些事情时,对吧?
我认为这就是为什么在中国建立一个生成式人工智能应用或公司如此困难的原因之一。是的,他们可以访问维基百科或常见的网络爬虫,任何迄今为止用来训练所有大型语言模型的标准数据集。然后他们可以注入一些在中国互联网花园内可用的数据 —— 一个有围墙的花园,如果你愿意的话。
但是中国互联网有两个有趣的地方。一个是,我假设每个听到这个的人都意识到中国互联网公共话语中的审查水平。但这并不能阻止中国网民想要以某种方式表达自己。所以如果你是他们的中文语言的爱好者,你会看到很多语言上的扭曲被用来以各种方式发布在中国的公共信息,以便传达某些含义。但是当涉及到建模时,语言实际上变得非常难以准确建模。这是第一点。
第二点,再次,由于审查的红线随时在移动 —— 所以不是一个静态的目标 —— 很多内容实际上在中国互联网上被删除了。事物就这样消失了。你知道,如果你在第一次阅读某篇文章时没有对其进行归档,两天后,它可能会消失,你知道,很多人甚至无法解释消失的原因,即使你一直在考虑这个问题。
这降低了训练数据的数量 — 我会说特别是在中国互联网上存在的训练数据的质量 — 我认为这几乎是许多中国模型制造商内在的劣势,他们正在努力构建自己的LLM。你知道,尽管种种不利因素,他们当然仍在继续努力。
**乔(11:27):**我喜欢一些关于人工智能的讨论是它们涉及到语言学和语言理论的领域。我能就语言本身的性质以及这对构建高质量模型的影响这一点向你追问吗?
**凯文(11:41):**是的,我要说有趣的两件事情是关于他们的中文语言,首先是有很多同音词,有很多音,有很多几乎完全相同的字符。这意味着,你知道,没有相似之处…
**特蕾西(11:55):**哦!著名的例子是整个,就像,这要么是一首诗要么是一个非常长的句子,带有‘ma’?像马,还有所有这些… ‘Ma’可以根据语调的不同意义而不同。你可以用那个单音节构造一整首诗或句子。
**凯文(12:11):**没错。像má,mā,*mā,*对吧?标准汉语普通话的四个声调。如果你把这放在科技背景下,你知道,马云,阿里巴巴的创始人,无论你如何看待他当前的公众形象,他要么是一个备受尊敬的企业家,要么是一个恶棍,对吧?
这使得对马云的公开信息进行建模变得相当困难,尤其是在你还要在其基础上构建一个生成式应用程序的情况下。在中国语言案例中有很多这样的例子,不仅在技术上建模困难,而且还要考虑基于你可能需要跨越的红线来生成什么或者不能生成什么。
**Jordan (12:53):**所以,让我们来扮演一下魔鬼的辩护人,GPT-4 在大约0.2%的普通话上进行了训练,它在中文上的智能程度达到了英文的99%。当你看看一些中国领先人工智能实验室的人说的话时,他们非常乐意从英文中获取绝大部分的训练数据,然后转移到中文上。
所以这里确实存在一些挑战,但我也认为另一件事:这些模型会不会因为不能处理政治敏感问题而被切除大脑?我的意思是,看,我觉得这基本上是一个解决了的问题;如果你试图让ChatGPT说一些种族主义或性别歧视的话,它基本上是不会的,而且如果中国的互联网公司有关于任何事情的数据集,那就是过去20年他们审查过的所有帖子。
你知道的,我也尝试过让中国模型说一些政治上有争议的话,这是一项相当艰难的工作。所以,你知道,在积极的一面,我认为,未来人工智能及其经济和军事影响的数据并不全是语言和文本为基础的。而且,作为世界制造中心,将摄像头安装在所有这些工厂里可能会帮助你更好地训练一种AI制造机器人。所以这里确实存在真正的权衡,而不仅仅是中国坐在八球盒子后面。
**Tracy (14:32):**我刚意识到自己的年纪因为我记得中国的审查员过去在北京进口的报纸上实际上会用笔划掉一些内容。这大概是在2004或2005年左右。以前都是手工完成的。
我想问一件事,因为Kevin提到了中国政治的变幻莫测,有一天某事很受欢迎,第二天就不再流行了,我们看到这种情况渗透到了金融市场,特别是,你知道,近年来主要是互联网技术、SaaS的融资,但也渗透到了房地产等领域,比如三条红线政策。所以我很好奇,目前人工智能的融资环境实际上是怎样的?政府对发展这项技术提供了很多支持吗?
**Joe (15:24):**好问题。在你回答的同时,有哪些公司,比如OpenAI和中国的慈善组织,我们应该了解?
**Tracy (15:30):**是的,他们是如何筹集资金的?大部分资金来自风险投资还是公开市场?
**Kevin (15:37):**是的,当涉及到AI模型制造商时,我会把它们归为新创企业的一类,它们实际上大致在与我们在美国已经知道的其他公司同时出现。你有智谱AI,据说是最接近OpenAI的公司之一。你知道,他们也誓言要发展通用人工智能;他们有着清华大学的坚实学术基础。
你有Moonshot,我想是乔丹提到的。你有01.AI,这是李开复的新创业,也在建立模型。我会说目前可能有六七家中国的独角兽公司,它们主要接受来自你们这种中国标准风投的资金。这些风投公司就像世界上的 Sequoia 和 Andreessen 那样。
你有君联基金,你有高瓴资本,你有红杉,他曾是 Sequoia Capital China 的一员,还有其他一些公司也在往这个领域注入资金,因为我认为我们应该先了解的一点是,这是中国风投公司实际上可以投入大量资金并期望从纯金融风投那里获得的回报的极少数领域之一,因为中国科技生态系统的许多其他部分在过去几年中因政策打击的不同而受到了很大的打击。
所以这些是一些重要的模型制造者,许多公司正在吸引来自阿里巴巴等大型公司的企业风投投资,但也有华为、腾讯等大公司纷纷涌入。这在某种程度上与我们在美国所看到的情况非常相似,微软、谷歌,以及亚马逊都在这个领域有自己的角色,就像初创公司一样。
甚至一些交易结构也是相似的。我认为阿里巴巴的一项交易是,他们投资的一半必须用于购买云服务积分,以使用阿里巴巴云中的 GPU 服务来训练他们的模型,这是一种吸引他们的方式,也是将他们与阿里巴巴自己的生态系统联系在一起的方式。因此,实际上,在由风投公司资助的 AI 模型制造商方面,可能更多的是相似之处,而不是差异,但这大概就是相似到这个程度了。
**乔(17:54):**Jordan,你提到了机器人和另一种数据形式,即工厂内所有的视觉信息。我们曾经在一集节目中讨论过与AI和机器人的关联,与Josh Wolfe一起讨论了一些这些想法。但是你说的是——好吧,他们也想要实现AGI。
不过,是否有一些明显的方面,比如,哦不,好吧,我们在考虑AI时是以聊天机器人的方式思考的,这是大多数美国人认为这些AI公司提供的方式。这些中国巨头是否也是如此,或者他们是否在考虑不同形式的表达,也许更多地是以一种更工业化的方式等等,而不是聊天机器人的说法?
**凯文(18:39):**所以乔,有一件事——这是一个较新的发展——我想就在上周,上海举办了年度世界人工智能大会,对吧?在这次会议期间,有一个大展示,我相信有25个不同品牌的人形机器人在展示中心的展厅里展出。
这说明了,我认为,我认为特雷西问过这个问题,你知道,资金将流向何处,对吧?我认为如果国家政府有发言权,很多资金应该用于那些我称之为硬科技的AI应用,那些你实际可以触摸到的东西——那些实际在现实世界中做某些事情的东西,无论是在汽车工厂、制造车间,甚至是将出现在你家中的实际机器人。
我认为这是许多中国公司正在走的方向,这些公司并不是在模型构建领域。我认为实际上有一个非常重要的更大的存在危机,中国正在处理这个问题,很多人在谈论人工智能时没有提到,那就是到本世纪末,联合国预测中国的整个人口将从目前的约14亿减少到大约8亿左右 —— 大致减半,其中8亿人口中有一半将是60岁或以上的人。
因此,人口结构决定了命运,在很多方面,如果你是一个中国的决策者,正面临着我们将基本上人口耗尽的深渊,那么,你知道,拥有大量的人工智能机器人几乎是中国解决自身人口问题的国家使命,无论世界其他地方发生了什么。
**Tracy (20:22):**好的,所以拥有一种命令经济的好处基本上是,中国的决策者可以出来说‘我们希望每个人把他们的钱从,我不知道,在线互联网电子商务平台转移到硬技术,比如半导体或者开发一些新的聊天机器人之类的。’ 但缺点是,你可能会得到过剩的资本 — 委婉地说 — 集中到这些事情上。在涉及到人工智能时,这是否是一个问题,还是说这项技术如此重要和竞争激烈,以至于目前并不是一个问题?
**Jordan (21:05):**你知道,我认为可以看到人工智能模型制造商和半导体以及更广泛的半导体生态系统之间的有趣对比。所以凯文所阐述的,我也看到了,基本上是一个在很大程度上由私营部门推动的事情,与我们目前在西方生活的繁荣和衰退或繁荣和疑问相同的情况,在中国也在发生。
现在,你知道,过去十年左右中国半导体生态系统发生了什么是非常不同的。所以,你知道,如果你谈论美国芯片法案,直到2022年才上线,它将花费大约750亿美元,就像我们在过去10年中看到的投资水平翻了一番甚至翻了两番在中国政府中。你知道,习近平真的是半导体和硬件以及工业的支持者。我认为他很早以前就看到了这些出口限制的问题,因为随着半导体技术变得越来越战略性,这些出口限制变得越来越重要。
**乔(22:10):**习近平听起来可能是一个完美的嘉宾。如果有人想传达这个信息 — 如果有人在听的话。
**特蕾西(22:18):**向习近平发出关于半导体的邀请,Odd Lots。
**乔(22:21):**如果他对硬件和芯片感兴趣,听起来他会是一个很好的嘉宾。所以让我们再谈一点。我们知道拜登政府与一些盟友一起对出口先进芯片等实施了各种限制。但为什么不让你们中的一位简要概述一下美国对国际人工智能政策以及对中国的战略方面或地缘政治方面如何积极实施的大致轮廓。
**乔丹(22:58):**同样,你知道,我从这个观点出发,人工智能是一种具有重大影响的战略双重用途技术,对未来经济增长和未来军事力量都有重大影响。因此,在2022年9月,在10月7日出口管制之前的几周,杰克·沙利文发表了一篇演讲,他说仅仅领先是不够的,美国需要在关键新兴战略技术中尽可能领先,人工智能是首要的。
所以我们看到了许多不同的努力,从数据和算法以及计算的角度来看,确保美国能够比中国运行得更快。因此,从出口管制方面,对可以出口到中国的芯片类型有限制。我们有EUV限制,以便中国无法在国内制造最先进的芯片,美国不再允许中国公司购买的芯片类型。
我们开始看到越来越多的限制。你知道,围绕让中国公司访问国外那些类型的芯片和外国云服务提供商的限制,有一些动向。此外,在数据和算法方面也开始出现一些有趣的动向。在数据方面,你开始看到关于特定电动汽车的新数据壁被解除。也许我们会看到更多的发展。
从算法的角度来看,你知道,两周前,OpenAI表示他们不再愿意向中国开发者提供API访问权限,这可能是更大变化的前兆。国会最近授予了明确停止算法出口的权力。
因此,这堵墙正在慢慢升起,中国开发者和半导体生态系统对此的反应真的很有趣,因为你看到硬件方面的非常激进的投资。你看到芯片的囤积,甚至有数十亿美元的Nvidia可以合法出口给他们的最好产品。
走私也开始成为一个真正的问题。最近我们看到了一些主流报道,所以,你知道,将会有一些灰色地带,人们试图玩弄边界情况以获取更多技术和访问工业间谍活动也开始变得更加突出。Leopold Aschenbrenner被解雇的丑闻,仅仅两周后,OpenAI聘请了前NSA负责人纳卡索尼将军来加强他们的内部控制,我认为,这是一个有趣的前瞻性指标。
**Tracy (25:55):**有时候你会听到关于对中国出口半导体的限制的说法,比如切断这个国家与所有外部技术的联系只会加速其自身的技术进步和领先芯片等方面的发展。你对这类论点给予多少信任?
**Kevin (26:21):**我认为现在这是一个不断变化的目标。我认为从逻辑上讲,你会期望中国将所有资源投入到打造最好的GPU上,对吧?如果我们都认为人工智能将成为下一个重大的范式转变,不仅仅是市场竞争力,而是国家竞争力,但是现在,由于美国出口管制的有效性,两轮出口管制,以及与世界各地盟友合作巩固出口管制,中国在硬件方面实际上很难赶上,无论是在设计最好的GPU方面,还是在使用自己的芯片代工厂SMIC批量生产芯片方面,因为,你知道的,中国已经被切断了与台积电的联系。
为了满足需求,中国自身的公司需要建立自己的产品,更不用说扩展到其他世界各地了。这就是为什么你会看到所有这些行为,要么是中国开发者使用VPN和其他方式访问OpenAI的API,要么是有人走私被禁止的NVIDIA芯片到中国,以便继续建设基础设施。
我认为这归根结底是你之前谈到的,特蕾西,国家政府希望某些事情发生的限制是存在的,尤其是在中国建设硬件技术方面。特别是在人工智能基础设施方面,我们看到很多政府资金在芯片制造上的浪费的糟糕例子,甚至在AI真正成为一个事物之前的几年就已经存在,现在,对于很多中国人来说,克服当前障碍是一个非常艰难的处境。
我认为这个差距 — 具体来说,这个,具体来说是硬件,GPU所施加的差距 — 只会在Nvidia大规模生产其Blackwell芯片时扩大,这是下一代GPU,将从明年开始大规模生产,具有巨大的性能优势 — 大约比H芯片高出32倍,这是OpenAI用来训练GPT的芯片 — 为了能够,你知道,弥合这个差距。所以我认为,不幸的是对于中国的技术建设者来说,这个差距只会扩大。
**特蕾西(28:47):**乔丹,我觉得你之前也谈到过这个问题,即如果中国在可访问的计算量上受到限制,也许存在这样一种情况,即它自己的AI模型在某种方式上变得非常高效?
**乔丹(29:03):**是的,我是说,你知道,当你受到限制并且有利可图时,工程师会找到方法,对吧?所以在计算方面,你知道,考虑到Blackwell是很有趣的;只有大约10%的增益来自节点尺寸。他们能够将Blackwell系统中的绝大部分增益都来自光学和互连技术,以及高带宽内存等等。
那种类型的东西比只有一台机器从荷兰出口要困难得多。所以,你知道,这很困难。已经有数百亿美元的研发投入到这些东西上,但对我来说,重新设计进入Blackwell的所有创新与重新设计EUV机器之间的难度有多大是一个悬而未决的问题,后者似乎几乎不可能。
**乔(29:56):**这是一个重要的观点,我想插一句。就像当人们在流行文化中谈论芯片时,几乎总是关于节点尺寸越来越小…
**特蕾西(30:07):**我喜欢半导体的充满活力的流行文化的想法。我不确定我们是否已经完全到达那里。
**乔(30:13):**但这就是像我这样无知的人,如果我认为‘哦,你知道,尖端芯片’,在我脑海中,只是节点尺寸更小,但你提到的这一点实际上非常重要,当我们实际上谈论,比如,Nvidia的GPU时,有其他维度实际上比节点尺寸更重要。
**凯文(30:29):**没错。而且你知道,如果你看看Nvidia发布到市场上的所有新产品,它不仅仅是一块芯片。当然,你可以购买一块芯片,但你知道,实际上是八块芯片连接在一起,带有高带宽内存,互连和所有其他构成系统的元素。而下一代,封装将是36块芯片,然后是72块芯片。
当然,这背后有很好的理由,因为所有这些模型——如果你相信更大的模型会变得更智能,那么它们需要大量的并行处理能力才能有效地训练所有这些模型并高效地部署它们。这就是为什么你需要将所有这些高性能的GPU绑定在一起,我认为这正是使得这种硬件差距在系统层面甚至在云层面真正难以克服的原因。
我认为,在我们之前一直在谈论不同国家之间的芯片战争,我认为我们正在迅速演变成为不同国家之间在人工智能和技术领域竞争的云计算战争,因为这一切都与云和系统有关,以及你如何有效地获取和利用它们,这才是最大的不同之处。
**Tracy (31:37):**告诉我如果我错了,但我感觉在半导体竞争方面,也许程度稍微小一些,但在人工智能竞争方面,肯定是美国和中国之间的竞争。就我所知,欧洲并没有像美国和中国那样着迷于开发国家版的ChatGPT。为什么会这样呢?
**Jordan (32:03):**所以,你知道,我认为从半导体的角度来看,实际上是中国和世界其他地方之间的竞争。有一个非常整合的全球生态系统,其中有欧洲玩家、东亚玩家、南亚玩家、美国,他们都在共同努力推动节点尺寸的缩小,改进和开发类似Blackwell的技术。
中国,你知道,在某些层面上,已经被切断了,被切断了与更广泛生态系统的联系,不得不开始国产化许多他们以前能够依赖其他国家的技术。现在,Kevin,我不知道你是否想和每个国家谈谈他们自己的模式和自己的云服务,因为我认为这是一个非常有趣的新发展。
**Kevin (32:49):**是的,我认为,你知道,不要对欧洲过分苛责,但我认为,鉴于只是监管上的,我会说,偏见,对于快速释放新技术,总的来说,这并不是一个非常适合构建像ChatGPT这样的产品的环境,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真的,我相信,ChatGPT是真
**Tracy (34:28):**实际上,你刚提醒了我;这也是我一直很好奇的事情,但是在中国,开源的情况如何?就像在美国或其他地方一样普遍吗?实际上,在代码共享方面是什么样子?
**Kevin (34:43):**这绝对是一个很重要的事情。事实上,我曾在 GitHub 工作过,你知道,GitHub 是最大的开源代码仓库之一,用来推动国际扩张,所以我有机会与许多中国开源开发者合作。实际上,我会说,这是为数不多真正拥抱许多开放性、透明性的充满活力的社区之一。
他们在10月24日有一个非常书呆子的节日,如果你懂二进制,你就会知道,这是2的8次方,抱歉,实际上是2的10次方。但基本上,这被称为程序员节,这是中国一个完全由草根发起的节日,庆祝开源开发。他们举办盛大的派对、大型会议。他们讨论开源共享。他们都使用 GitHub 或 Hugging Face,或者所有你通常使用的开源协作平台。
因此,开源运动在中国有着非常深厚的根基。在我们有这种开源、闭源模式二分的人工智能领域出现之前,中国已经有了几十年的开源传统。事实上,一些与政府有关的非营利组织也发布了开源模型,作为一种展示他们所做工作的方式,既是一种竞争,也是一种与其他地方的学者和研究人员合作的方式。
**Jordan(36:05):**是的,你知道,就在谈论政府开源连接方面再多说一点。你知道,如果你落后了,像开源这样的策略会更容易一些。我们看到在硬件方面有很多投资,比如 RISC-V,以及在软件方面,正如 Kevin 提到的那样。
而且,我认为这仍然是一个悬而未决的问题,但在中国互联网上有很多关于中国模型制造商在多大程度上依赖 Meta 继续在 Llama 系列中发布开源模型的讨论。你知道,如果扎克伯格决定不再玩开源游戏,我们可能会看到中国模型制造商的发展轨迹大不相同,除非他们能在那之前把他们的算法和硬件店整顿好。
**Joe(36:55):**嗯。我们只剩下几分钟了,但是,你知道,我们谈到了美国对中国的限制当前状态,或者美国如何在地缘政治背景下看待人工智能。有芯片出口管制。在打击工业间谍活动方面正在做更多工作。有很多报道,包括彭博社爆出的几个,关于学术合作,以及试图限制谁可以与谁交流。
我们知道在与计算机科学和技术以及在美国的中国研究人员相关的学术界存在很多问题。我们有这个框架,但一切可能都会改变,因为总统的政党可能在几个月后会发生变化。我们是否了解特朗普对人工智能以及人工智能在地缘政治背景下的看法?
**Kevin (37:48):**所以我认为关于特朗普有趣的一点是,在他的总统任期内,他实际上致力于某种国家人工智能计划,我相信这个计划也由谷歌前CEO埃里克·施密特担任主席,并且他在2020年签署了某种国家计划。
但那时正值疫情中期;我们都没有时间关注,结果这个计划也没有什么进展。但他确实在人工智能方面有一些历史。但根据最近发布的共和党全国大会纲领,其中一项内容是他们将推翻拜登的人工智能行政命令。所以如果特朗普再次当选总统,他可能会在人工智能领域加入自己的观点、品牌或实质性内容。
所以我们可以预期在这方面会有很多波动,我认为关于特朗普最一贯的一点是他的单边主义,对吧?他一直强调美国至上,只有美国。而现在全球人工智能治理正在形成一个相当好的节奏,从英国的布莱切利公园宣言开始,到今年早些时候在韩国举行的峰会,再到明年2月在巴黎举行的另一场峰会,届时将有包括中国在内的世界各国领导人以及其他相关部门和部委齐聚一堂,讨论全球范围内的人工智能治理。如果我要在特朗普身上下注,我认为他可能会完全打破这一切,坚持他的单边主义本能,真正让美国在这方面留下自己的印记,而这会是什么样子很难预测。
**Jordan(39:29):**特朗普参加了All In播客节目,也许是这个节目在这个节目中不得不提的…
**Joe(39:33):**不,没关系。没关系。
**Jordan(39:35):**但真的很引人注目,因为他们问及了他对中国和人工智能的看法,他给出了一个相当复杂的答案,这有点令人震惊。他指出,这是美国和中国之间的一场竞赛。他还说能源对数据中心非常重要,我们必须让这一切发生。
你知道,如果你把他的评论从五分钟剪辑成30秒,那就相当连贯了,但令人惊讶的是,他和某人讨论这个问题时,脑子里竟然有两个还算不错的观点。所以,你知道,他将如何对待中国的技术问题,我认为这是一个非常开放的问题。一方面,我们有这个非常深思熟虑的复杂策略,基本上是让全世界对华为产生敌意。
另一方面,你知道,我们也有很多奇怪的特朗普式的事情,比如与中兴通讯的事情。商务部基本上要把它扼杀。习近平给他打电话,说这会让太多中国人失业,然后他第二天就发推文说“中国失业太多了,我们要给中兴通讯一个缓刑。”
所以,他对所有这些事情真的有两种想法。也许有人会说服他对通货膨胀感到恐慌,谁知道呢?但我认为在他对人工智能的国内政策以及他将如何思考与中国的技术竞争方面,结果的范围非常广泛。
**乔(40:54):**你刚才说的一点我其实也想问,这只是关于技术军备竞赛的问题,但显然在美国的数据中心中,人们对获取电力的焦虑很大,我们将如何解决这个问题?我们都知道美国目前的情况并不好,比如建设和增加大量能源容量。
当你考虑美国与中国在这方面的情况时,中国公司是否会因此具有比较优势?我的意思是,我知道中国继续增加核能发电,他们可能更自由地增加煤电等其他能源。他们是否会因为电力网格和解决人工智能的能源问题而获得优势?
**乔丹(41:39):**你知道,这可能是一个误导性的问题。我谨慎乐观地认为,共和党人和民主党人最终会对这些数据中心做一些NEPA的例外,现在大家都认为这是一个非常重要的国家战略资源。
我的意思是,对于中国的看法,如果他们被困在效率较低的芯片上,只能建造两倍大小、两倍昂贵的数据中心,那么,是的,也许他们可以增加一些煤电厂和核反应堆来推动发展。但我谨慎乐观地认为,英伟达将继续制造越来越节能的芯片,你知道,地方、州和国家监管机构会意识到这是值得放宽规定的事情,这也是你在过去几年中在半导体制造方面看到的情况,CHIPS法案。
**Kevin (42:30):**如果我可以补充一点你刚才说的,乔丹,我认为我们谈论的重点很大程度上都集中在算法、模型、GPU 的强大程度上,但很多工程资源已经被投入,而且将继续投入,以减少 AI 模型的能耗,因为一个非常激烈争论的话题是,我们为所有这些应用程序生成的所有这些令牌实在是太昂贵了,对吧?
这种昂贵来自计算成本,以及为此消耗的能量。因此,在未来会有很多工程工作要做,以降低成本和能源需求。所以我认为能源交易不是一个长期的投资主题,但可能是一个短期套利,因为当所有工程工作都在减少对这种依赖时,我们需要多少额外的能量来满足这些饥饿的 AI 数据中心,因为每个人都看到了这可能在很多方面都是有害的。
**乔 (43:25):**乔丹和凯文,非常感谢你们参加《Odd Lots》。这太棒了;我们在这一集中的目标是更好地理解这一点,我觉得我已经做到了,所以非常感谢你们两位的参与。
乔 43:46 特蕾西,我觉得那太棒了。我觉得,我是说,有很多事情,就算抛开地缘政治因素,我也不了解,中国的人工智能领域是什么样子,这一点非常有帮助。
**Tracy (44:00):**我现在有点着迷于程序员节; 我想更多地了解这个节日。你觉得所有的开源程序员们会聚在一起庆祝并跳舞吗?也许是一个字节舞蹈?
**Joe (44:12):**是的,哦…
**Tracy (44:13):**嘭!来吧。
**Joe (44:14):**好的。Tracy,我们会保留这个。
**Tracy (44:17):**谢谢。不,制片人会加上我们手头上有的蟋蟀声。
**Joe (44:23):**我也对这个节日感兴趣。我认为,所以凯文的第一个回答我觉得真的很明确,解释了一个国家为什么认为拥有一个国家版本很重要,对吧?因为如果,我之前从来没有这样想过,因为在某种程度上,对吧,如果是,你知道,羊驼,你可以在任何地方使用,你知道,各种芯片之类的。
但是AI将会像在那个国家的语境中编码真相的想法,你知道,如果中国,他们对真相的看法,凯文举了杰克·马的例子,就是有一天他可能是英雄,有一天他可能是恶棍。这总是在变化。所以可能会有一种冲动,让模型正确地反映出国家政策是什么,但这个想法,你知道,它创造了这个国家身份文化和语言的版本是非常有趣的。
**Tracy (45:21):**不,绝对是的。我认为中国是这方面的极端例子,这也是我在开头提到的时候暗示的 —— 不是很好 —— 当我在谈论数据控制时,但AI中有这种文化元素,你使用ChatGPT这样的东西,或者也许现在不是,但你可以想象未来你会像使用维基百科一样使用ChatGPT,它几乎就像是事件的编码公共版本,对吧?所以如果你是像中国这样的政府,你为什么不想对它输出的内容和它构建的叙事有一定程度的控制呢?
**乔(46:02):**我也对此很感兴趣,你知道,我们经常谈论芯片之战,但有一个有用的区分是芯片之战和云之战。好吧,我们都知道,据说,更小的节点或其他什么更好。虽然我认为在GPU的背景下,这并不那么重要,但技术的很大一部分是关于互连。我们和CoreWeave谈到了这一点:构建一个非常强大的GPU云与传统云之间存在明显的区别,因为涉及到电缆和包装等等。所以,这个想法不仅仅是关于芯片本身,你知道,芯片的大小之类的。
**特蕾西(46:45):**不,绝对是的。有一件事情真的让我印象深刻,我回想起来,这实际上发生在我在香港的时候,我在那里协调一些新闻报道,但我记得当时对像阿里巴巴这样的零售互联网公司进行了大规模打击。
我记得当时决策者非常具体、非常有目的性,也非常坦率,试图引导更多的资本——你知道,让更少的无序资本流向SaaS,更多的资本流向硬件和芯片制造。几乎可以说,缺乏更好的科技类比,就像翻开了一个开关,对吧?他们基本上说‘不再有资金流向零售科技,所有的资金都流向半导体制造’,等等。所以从中国的这个角度听到挑战和机遇既有趣又有启发。
**Joe (47:38):*顺便说一句,我不知道是不是《金融时报》,但那是第一次,无论是谁想出了ChatXiPT,但那非常聪明。做得很好。我第一次在《金融时报》*看到那个词。但那是一个相当聪明的术语。那是一个好词。
**Tracy (47:54):**发现它实际上是虚拟产品,我感到失望,尽管也许并不奇怪…
**Joe (47:57):**不,我知道,我知道。
**Tracy (47:58):**好的。我们就到这里吧?**Joe (48:01)**我们就到这里吧。
您可以关注Jordan Schneider,网址为@jordanschnyc,以及Kevin Xu,网址为@kevinsxu。