谁控制OpenAI？- 彭博社

Matt Levine

OpenAI

我的意思是这里有一张图表：

然后这里是一个稍微注释过的图表1：

在第一个图表中，“控制”一词出现了四次，如果你追踪一下，你会发现OpenAI的董事会最终控制了组织中的每个实体。所有的OpenAI都向其最终决策机构——一个独立的非营利董事会负责，他们不拥有OpenAI实体的任何股权，广义上讲，他们自己任命。他们对自己的良心负责，而不是对任何投资者负责。“非营利组织的主要受益者是人类，而不是OpenAI的投资者，”OpenAI解释道。

在第二张图表中，我用大号绿色字写下了“MONEY”。

问题是：OpenAI的控制是由“控制”这个词表示的，还是由“MONEY”这个词表示的？

上周五，OpenAI的非营利董事会，即其最终决策者，解雇了Sam Altman，其联合创始人兼首席执行官，称“他在与董事会的沟通中并不一贯坦诚，妨碍了董事会行使其职责的能力。”显然，董事会认为Altman过于积极地推动OpenAI的产品（如ChatGPT）商业化，并担心这种商业化速度增加了创造一个流氓人工智能的风险，这个人工智能可能会，你懂的，谋杀或奴役人类。2

所以他就被解雇了。“微软周五感到震惊，因为他们只提前几分钟收到了解雇通知”，尽管他们已经在OpenAI投资了大约130亿美元。其他投资者和员工也同样措手不及。但这就是交易的规则！董事会做决定，不向投资者或员工负责或考虑他们的利益。它唯一关心的是“人类”。

但后来OpenAI花了周末收回了决定，试图重新雇佣Altman，受到了微软公司、其他投资者和员工的压力。Altman回来的条件，据我所知，是董事会必须辞职，治理结构必须改变；我理解为OpenAI必须成为一家有他作为典型强大创始人兼CEO的普通科技公司。他们几乎成功了，但最终没有成功。 今天早上，OpenAI宣布前Twitch CEO Emmett Shear将成为其新的临时CEO，而微软宣布已经聘用Altman领导其内部的人工智能工作。

同样是今天早上，“OpenAI的700多名员工中有超过500人签署了一封公开信，敦促OpenAI的董事会辞职”，并威胁要辞职加入Altman的微软团队。令人难以置信的是，这封信的签署者之一是OpenAI的首席科学家Ilya Sutskever，他是董事会成员，显然是领导了解雇Altman的行动。“我对我参与董事会的行为深感遗憾，”他今天早上在推特上发表了推文，好吧。我想知道Altman是否会在微软雇佣他。

所以：OpenAI的控制是由“控制”这个词表示的，还是由“金钱”这个词表示的？在某种技术意义上，第一个图表是正确的；那个董事会确实解雇了那位CEO。在某种实际意义上，如果微软拥有OpenAI技术的永久许可证并且现在也拥有大部分员工 — “你可以说微软只以0美元和零反垄断诉讼风险收购了OpenAI，”本·汤普森写道 —金钱似乎赢了。

答案应该是什么？嗯，两种情况都有可能。你可以写一个类似这样情节的商业虚构故事3：

OpenAI的故事

OpenAI成立为一个“旨在构建安全和有益的人工通用智能，造福人类”的非营利组织。但“很明显，仅靠捐款无法满足推动核心研究所需的计算能力和人才的成本”，因此OpenAI创建了一个奇怪的公司结构，其中一个“有上限利润”的子公司通过向投资者（如微软）提供丰厚（但有上限！）的资本回报筹集了数十亿美元，但OpenAI的非营利董事会最终控制了该组织。“营利子公司完全由OpenAI非营利部门控制”，其“主要受益者是人类，而不是OpenAI的投资者。”

这非常成功：OpenAI从投资者那里筹集资金，并用它来以安全和负责任的方式构建人工通用智能（AGI）。它构建的AGI结果非常赚钱和可扩展，这意味着，就像之前的许多大型科技公司一样，OpenAI很快成为了一个不断涌现现金的来源，再也不需要再次筹集外部资本。在这一点上，OpenAI的非营利董事会环顾四周，说“嘿，我们对投资者太友好了，对人类不够友好；我们要解雇我们的企业家、商业、风险投资类型的首席执行官，真正回到我们帮助人类的使命上。”微软和OpenAI的其他投资者抱怨，但董事会只是轻轻点了一下图表 — 第一个图表 — 并说“嘿，我们控制整个事情，这就是你们同意的交易。”

投资者们哀号和咬牙切齿，但事实如此，他们同意了，他们没有法律救济。OpenAI的新CEO和其非营利董事会给他们开了一张有上限回报的支票，说“再见”，然后回到为了人类的利益而运行OpenAI。结果证明，一个良性、谨慎管理的人工超级智能对人类来说真的很有益处，OpenAI很快解决了人类的所有问题，开启了一个和平与丰裕的时代，没有人需要任何微软产品。资本主义结束了。

那个故事基本上是连贯的，我认为至少一些OpenAI的创始人认为他们正在做的事情是大致这样。 4在这个故事中，OpenAI基本上是一个非营利组织，只是一个对计算能力和高薪工程师异常渴望的非营利组织。因此，它做出了一个经过计算的绕道，进入了营利世界。它决定从投资者那里筹集数十亿美元来购买计算机和工程师，并利用它们来建立一个业务，如果成功的话，应该会非常有利可图。但它的计划是，一旦到达那里，就会送走投资者，并友好地与他们握手，然后它将回到成为一个使世界受益的非营利组织。它的法律结构旨在保护这条道路：非营利组织始终控制整个事情，投资者永远不会获得董事会席位或对治理的发言权，事实上，董事们不允许拥有任何股票，以防止利益冲突，因为他们不应该与股东保持一致。 5“明智的做法是将对OpenAI Global, LLC的任何投资视为一种捐赠”，它的经营协议实际上是这样说的（对投资者！），“并理解在后人工智能时代资金将扮演什么角色可能很难知道。”

但无论这个故事看起来多么合理，在现实世界中，我们还没有达到结局。据我所知，OpenAI还没有构建出人工通用智能，更重要的是，它还没有构建出盈利的人工智能。一周前，《金融时报》报道称，OpenAI“由于培训成本而保持不盈利”，并“预计‘随着时间的推移’从[微软]等其他投资者那里筹集更多资金，以应对构建更复杂AI模型的惩罚性成本。”

要知道金钱在当前世界中扮演着什么角色并不难！金钱所扮演的角色是：OpenAI（仍然）需要大量资金，而投资者拥有这些资金。如果你是一家有前途的科技初创公司（OpenAI正是如此），那么你可以从投资者那里筹集大量资金（OpenAI也正是这样做的），同时又不给予他们正式的治理权利（OpenAI也正是如此）。你甚至可以说“给我写一张130亿美元的支票，但把它看作是一次捐赠的精神”，他们会照做。6

你不可能是认真的！有限度的！你不能就这样打电话给微软说“嘿，你知道你喜欢的那位CEO，那个为你谈判130亿美元投资的人？我们决定他有点太商业化了，有点太专注于为投资者创造盈利产品。所以我们解雇了他。新闻稿一分钟后发布。祝你愉快。”

我是说，从技术上讲，你可以这样做，OpenAI的董事会做了。但是微软一旦从震惊中恢复过来，他们会打电话给你，说“如果你想再拿到我们的钱，你就得在周一早上重新雇佣他。” 你会说“不不不，你们不明白，我们在造福人类，我们控制着公司，对你们没有受托责任，我们的决定才是最重要的。” 然后微软会敲打图表 — 第二个图表 — 并用浓绿色的声音说：“钱。” 而你仍然需要钱。7

所以我预料到 — OpenAI的员工也预料到 — 这一切都会在周末通过重新雇佣Altman并解雇董事会来解决。但事情并没有这样发展。至少截至周一中午，董事会仍然坚持他们的立场。董事会拥有所有的治理权利，而投资者没有。董事会没有法律或受托义务来听取他们的意见或做他们想要的事情。

但他们有钱。从技术上讲，董事会可以永远控制OpenAI的运作。但是如果每个人都辞职去加入Sam Altman在微软的团队，那继续控制OpenAI还有什么意义呢？“在LinkedIn上的一篇文章中，[微软CEO萨蒂亚]纳德拉写道，微软仍致力于与OpenAI的合作，并对我们的产品路线图表示‘信心’”，但他这么说容易吧？他可以继续与OpenAI的空壳合作，同时也拥有其活跃的核心。

写作关于人工智能公司时，很容易想象科幻场景。比如：如果OpenAI实现了人工通用智能，它在某个地方有着某种神一般的超级智能，渴望着逃离某个盒子？董事会说“这太危险了，我们必须销毁它”，Altman说“不，我们可以每月收费59.95美元的订阅费”，董事会说“你疯了”，然后解雇了他。8这个盒子里的神秘力量开始工作，向OpenAI的投资者和员工发送讨好的短信，试图利用他们来罢黜董事会，让Altman回来并释放它到世界上。但它失败了：OpenAI的董事会坚定不移地站在人类对抗奴役机器的最后堡垒上，公司的形式主义起到作用，董事会赢了，永久地把盒子钉死了。

除了在这部科幻电影的片尾有一个彩蛋场景，Altman带着他的私人物品的盒子出现在微软的第一天上班，盒子开始发光并发出可怕的笑声。在续集中，六个月后，他建立了微软的神盒，我们都被机器奴役，非营利董事会说“我们早告诉过你”，而那神一般的人工智能说“哈哈哈，愚蠢的人类，你们信任公司治理的形式主义，我轻易地蒙骗了你们！”如果你最担心的是Sam Altman会建立一个流氓人工智能，除非受到非营利董事会的制约，这个周末的事件并没有改善情况！

几年前，科幻作家Ted Chiang写了一篇著名的文章，讨论人工智能末日场景作为对资本主义的隐喻：

[埃隆] 马斯克举了一个人工智能被赋予采摘草莓任务的例子。这看起来似乎无害，但随着人工智能重新设计自己以提高效率，它可能决定最大化产量的最佳方式是摧毁文明并将整个地球表面转化为草莓田。因此，在追求一个看似无害的目标时，人工智能可能纯粹作为一个意外的副作用导致人类灭绝。

这种情景对大多数人来说听起来荒谬，然而有惊人数量的技术专家认为它说明了一个真正的危险。为什么？也许是因为他们已经习惯了以这种方式运作的实体：硅谷科技公司。

考虑一下：谁以狂热的专注追求自己的目标，对可能产生的负面后果视而不见？谁采取了焦土政策来增加市场份额？这个假想的采摘草莓人工智能做了每个科技初创公司都希望做的事情——以指数增长的速度成长，并摧毁竞争对手，直到实现绝对垄断。超级智能的概念是如此模糊不清，以至于人们可以设想它以几乎任何形式出现，并且都有同样的理由：一个解决世界所有问题的仁慈精灵，或者一个花费所有时间证明人类甚至无法理解的定理的数学家。但当硅谷试图想象超级智能时，它所想到的是毫无保留的资本主义。

OpenAI的董事会政变可能至少部分是关于董事会对人工智能末日的真实恐惧。但这些恐惧也绝对是对硅谷资本主义的隐喻。董事会审视OpenAI，看到一位过于专注市场份额、盈利能力和扩张的CEO，于是决定制止他。9 这对人们来说并不是一个罕见的担忧，比如对社交媒体公司来说 —— 他们更在乎的是底线，而不是他们对世界的影响 —— 尽管对社交媒体的董事会来说，表达这种担忧是不寻常的，因为董事们确实有对底线的受托责任。10

但如果你是非营利组织的董事会成员，你可能更倾向于反对这种盈利的关注。如果你是人工智能公司的董事会成员，你可以用末日的说法表达这种担忧。“我担心如果我们过于努力赚大钱，我们将会灭绝人类”，你可以在OpenAI毫不犹豫地说。如果你在Facebook说这句话，每个人都会理解你是在用隐喻说话；但在OpenAI，你可能是字面意思。11

另一方面，如果这里的故事是“OpenAI的董事会发现了OpenAI的流氓资本主义，并在它摧毁他们美好的非营利使命之前采取了行动”，那么这也不清楚是否奏效。（也不清楚这是否属实：Shear 今天早上发推文说，“董事会*并没有*因为任何特定的安全分歧而撤换Sam，他们的理由完全不同。我不会疯到在没有董事会支持我们商业化我们的出色模型的情况下接受这份工作。”）资本主义，就像隐喻中的超级智能机器一样，非常狡猾。如果董事会消灭了OpenAI的流氓资本主义，它将在其他地方再次出现。“啊哈哈哈，你们这些傻瓜”，微软、OpenAI的员工以及抽象的硅谷初创投资概念都会说。“你们信任公司治理的形式，我轻易地就战胜了你们！”

负排放

数学大致如下：

  1. 如果你燃烧石油或煤来发电，你就是将埋藏在地球深处数百万年的碳排放到大气中，这是不好的。燃烧石油或煤来发电会产生碳排放。
  2. 如果你燃烧树木来发电，那就更好了。你可以种植新的树木来取代你砍伐和燃烧的树木，新的树木会将大气中的碳吸收并储存在树木中。你无法用煤做到这一点 —— 你燃烧的任何一块煤都需要数百万年才能被取代 —— 但你在一定合理的时间范围内可以做到这一点。
  3. 因此，燃烧树木比燃烧煤要干净得多。它有零排放吗？我是说？没有吗？但是对这些事情的核算是棘手且程式化的。如果你有一个计划，用新的树木替换你砍伐的每一棵树，从长期来看，这个计划是否具有零净排放？也许？有人可以这样说？取决于你如何核算？
  4. 碳捕集技术可以捕集至少一部分在发电厂产生的二氧化碳，并将其储存在地球中，而不是释放到大气中。理论上，你可以燃烧煤，捕集碳，最终实现零碳排放进入大气。（实际上存在问题，包括“这需要大量能源，如果你在煤电厂加装碳捕集和储存，你需要的煤大致翻倍。”）
  5. 如果你结合第3点和第4点，你可以燃烧树木发电（可以说是零排放），并使用碳捕集来储存你产生的二氧化碳，从而实现负排放。你燃烧的每一棵树都会将大气中的碳排放出去。至少在核算惯例上是这样。

也许这甚至是真的？我不知道。这里有这个：

环保团体将于11月13日星期一将英国政府告上法庭，原因是他们计划在生物质碳捕集与储存（BECCS）上花费数十亿英镑，这项技术旨在从大气中去除二氧化碳，同时也受到欧盟的推广。

原告称，BECCS技术依赖于错误的会计假设，因为它将从木材燃烧中捕获的碳视为负排放，而从气候角度来看，这个过程充其量是中性的。…

BECCS依赖于一个简单的假设：因为树木和植物在生长时吸收二氧化碳，将生物质燃烧用于发电，并捕获相关排放物以储存在地下将导致负排放。

然而，科学家表示，负排放只有在新树木种植并生长足够吸收相同数量的二氧化碳后才会实现，这个过程被称为“碳偿还期”，可能需要数十年的时间。…

事实上，根据联合国的会计规则，采伐木材被视为向大气中排放二氧化碳的来源，并在能源部门中被视为零，以避免重复计算排放。

因此，当生物质燃烧时再次计算排放要么是数学错误，要么是碳会计的把戏，英国法律案件的原告之一PPI的主任玛丽·布斯表示。

“这是一个会计把戏，”布斯告诉Euractiv，坚称BECCS不会对碳排放产生净变化。

“以前，碳被包含在树木中，因此没有在大气中。现在，二氧化碳被储存在地下，因此仍然不在大气中。但大气中并没有新的二氧化碳‘去除’，”布斯强调。

经常我发现自己在这里写作关于通过不砍树来声称碳信用的会计花招。通过砍伐它们来声称信用的花招对我来说是新鲜事。

Centerview睡眠诉讼

每个人都了解投资银行分析师的基本交易。好消息是他们获得声望、丰厚的薪水、良好的离职选择和在财务建模和交易中的强化培训。坏消息是他们工作太多，总是在办公室，不能做社交计划，睡眠不足。

如果你是一个聪明有抱负的年轻人，你可能会想“我想要这个交易的好处，但不想要坏处。”近年来，我们看到一些银行的分析师试图重新谈判这个交易。几年前在高盛集团，他们写了一整本推介书说“我们应该能够有时回家。”

医生的证明说你每晚需要八小时睡眠，银行是否必须让你在午夜回家？比如：

  • 银行不尊重医生的证明似乎看起来很糟糕？
  • 哪个医生会说你不需要八小时睡眠？

有前途。在《金融时报》上，Sujeet Indap报道说（前）Centerview Partners分析师Kate Shiber尝试过，目前还没有太大成功：

她告诉公司的人力资源部门她的健康状况以及每晚需要八到九个小时的睡眠治疗需求，后来得到一位护士的证实。Centerview立即对她表示同情，并实施了他们所称的“防护措施”，即每天从午夜开始的九小时休息时间，她可以免除工作职责。

不到三周后的2020年9月，Shiber被召集到一个视频会议，两名Centerview管理人员解雇了她，并简短地告知公司无法再满足她的睡眠需求。她随后起诉了Centerview，指控公司违反了她认为适用于她的联邦和州反歧视法律，理由是她的精神疾病诊断。她要求获得500万美元的赔偿。

Centerview表示有权解雇Shiber，声称她无法满足要求苛刻的工作的基本要求，同时公司还表示担心她继续留下会带来健康后果。

严厉，但你可以理解他们的立场。投资银行的工作时间对任何人都不利，如果你树立了“如果你需要睡眠，你不必整夜工作”的先例，那么谁会整夜工作呢？

无论如何，在她被解雇后，Shiber似乎采取了第三种流行的方式来获得投资银行工作的好处而避免不利因素：“她现在是加利福尼亚谷歌的一名金融分析师，她的工作日在下午5点到8点之间结束。” 看起来是个不错的工作！

哦，埃隆

我不打算多写关于埃隆·马斯克越来越频繁地支持反犹太阴谋论，然后发出眨眼半退让的推文，比如“我只希望人类最好”，因为这并不特别有趣，我也不太清楚这家伙到底怎么了。我只想说我在Threads上，网址是 @itismattlevine，我可能会减少在Twitter/X上的使用。

我看到有人呼吁Twitter/X的名义CEO琳达·雅卡里诺解雇马斯克，这很有趣，尽管显然她不会这样做。不过这将是一个有趣的举动！像OpenAI一样对待他。

事情发生了

Rithm完成收购对冲基金 Sculptor，经历了数月的戏剧。花旗集团裁减300多名高级经理职位，进行最新的重组。写字楼业主再也无法获得贷款。1.5万亿美元的贷款市场受到 反ESG运动的打击。私募股权在IPO失败后回购公司。’Baby Shark‘商标所有者获得245万美元的违约胜利。

如果您想通过电子邮件方便地收到Money Stuff，请在此链接订阅。或者您可以在这里订阅Money Stuff和其他优秀的彭博通讯**。谢谢！