你能怪聊天机器人吗？——彭博社
Matt Levine
AI诽谤
“万物皆证券欺诈”是我们常讨论的主题，我过去思考过大型语言模型如何可能构成证券欺诈。一种可能是：你向聊天机器人输入“XYZ是好公司吗”，它幻觉般回答“是的他们刚发现癌症疗法”或“不他们进行大规模欺诈”。你依赖这个回答买卖股票，结果信息完全虚假导致股价反向波动。你起诉聊天机器人制造商证券欺诈。
彭博社观点特斯拉董事会仍将马斯克置于股东之前德州AI驾驶的18轮卡车不容有失通用汽车50亿美元关税深坑仍危机四伏小肯尼迪新一轮疫苗质疑令人忧心这个假设诉讼存在诸多实际问题：是否构成证券买卖相关的欺诈？聊天机器人制造商是否从中获利？尽管有免责声明，你依赖聊天机器人输出是否合理？
但更存在哲学层面的问题——聊天机器人的主观状态。通常证券欺诈要求“欺骗、操纵或欺诈的意图”，或至少存在对真相的罔顾。虽然可以隐喻性赋予聊天机器人意图——比如那篇引人入胜的《突发性错位》论文发现，若训练AI编写不安全代码，它会在无关编码的广泛提示中同时做出“人类应被AI奴役”等恶意行为，暗示AI可能是狡猾的坏蛋——但很难说聊天机器人真正具备意图。或许可以交叉质询：让它出庭作证，输入“为何声称XYZ发现癌症疗法”，若回答“抱歉误读模糊新闻标题”则免责，若说“就想骗你买股票哈哈哈”则构成欺诈。
你当然不是在起诉聊天机器人本身，而是起诉开发它的AI公司。但这并未让事情变得简单。AI公司里显然没人蓄意就某支股票对你撒谎，甚至可能无人听说过你询问的那支股票。他们构建一个偶尔会编造股票信息的聊天机器人，是否构成疏忽？或许吧，但在普遍情况下，这很难被认定。他们雇佣了大量顶尖科学家进行前沿AI研究，用海量数据训练模型，开展全面测试，满屏免责声明，甚至设立专门团队防止AI奴役人类——这些举措似乎都与"疏忽"相去甚远。
这揭示了AI领域普遍存在的法律风险、不确定性或特殊性：AI模型在某些层面像独立主体，某些层面又并非如此；它们的自主性可能既不足以承担法律责任，却又足以让其他主体得以推诿。“不是我的责任，因为AI是自主行动的；也不是AI的责任，因为追究AI的过错本身就很荒谬。"1
事实上，AI时常编造损害他人名誉的虚假信息，继而引发诽谤诉讼。《华尔街日报》报道称：
保守派活动家罗比·斯塔巴克对Meta提起诽谤诉讼，指控其人工智能工具通过虚假宣称他参与了2021年1月6日美国国会大厦骚乱而诋毁其名誉。
斯塔巴克表示，他去年夏天在发起网络运动要求哈雷戴维森公司改变其多元化、公平与包容政策（DEI）时发现了这个问题。8月5日，佛蒙特州一家哈雷经销商在X平台发布了一张据称是Meta AI回复的截图，称斯塔巴克参与了国会骚乱并与极右翼组织"匿名者Q"有关联。
Meta发言人回应称：“作为持续改进模型的一部分，我们已发布更新并将继续完善。”
斯塔巴克成为少数试图追究AI公司对大型语言模型生成虚假及损害名誉信息责任的原告之一。目前美国尚未有法院判决AI聊天机器人诽谤案赔偿。
佐治亚州格威内特县法官去年驳回了OpenAI的撤案动议，允许针对ChatGPT制造商的诽谤诉讼进入证据开示阶段…
2023年微软也曾被起诉，原告指控必应搜索引擎和AI聊天机器人将其与同名恐怖主义罪犯混淆。马里兰州联邦法官于2024年10月裁定该案需通过仲裁解决，中止了诉讼程序。
核心问题在于”ChatGPT就像网络的模糊JPEG图片"，2尤其许多聊天机器人的训练数据来自社交媒体用户生成内容——这些信息本就不保证准确性。人们随时都在发布荒谬言论。《华尔街日报》指出：
社交媒体和其他互联网平台通常无需为用户在其平台上发布的内容承担法律责任。但法律专家指出，根据《通信规范法》第230条提供的法律保护，并不涵盖由自动化程序根据用户指令生成类人化AI回复的情况。
人工智能程序并非单纯地凭空捏造；它们是基于训练文本语料库进行内容生成，这些语料包含大量用户生产的无意义内容。或许通过AI处理这些内容会比原始文本产生更多法律风险，但也可能不会。
文献基因库
在AI法律领域的其他方面，我几个月前曾表示：“作为网络专栏作者，我对人工智能版权争议的双方都深表理解。“一方面，身为作者，我不希望AI公司利用我的作品牟利；当人们搜索"马特·莱文对证券欺诈有何看法"时，我希望他们找到我的专栏，而非聊天机器人的转述。另一方面，作为读者，我认为作者不应阻止他人（或AI）从作品中学习。我通过阅读书籍文章获取知识，并有意识或无意识地将它们融入自己的思考。我不打算向所有影响过我的作品支付版税。在我看来，AI恰好处于这两种思维模式之间；我当时提出的问题是：“大型语言模型主要是对现有文本进行重组，还是主要从现有文本中学习并生成新文本？又或者这两者本质相同？”
另一方面！如果我买一本书，阅读它，并且它影响了我的世界观，这似乎是知识进步的正常方式。但如果我偷一本书，读了它，并影响了我的写作，这对作者来说似乎更令人恼火。我不必为我读过的每一本书向作者支付版税，但我确实应该*为这本书的副本付费。*这不是法律建议，也不是对知识产权法的分析或类似的东西；这只是，拜托，伙计。为书付钱吧！
我不完全知道如何将这一点应用到人工智能上，但不是这样的：
Meta将于周四在美国法庭上与一群作家对簿公堂，这是科技公司是否可以使用受版权保护的材料来训练其强大的人工智能模型的首批重大法律考验之一。
这起案件由包括Ta-Nehisi Coates和Richard Kadrey在内的约十几位作家提起，核心是这家价值1.4万亿美元的社交媒体巨头使用LibGen（一个所谓的影子图书馆，包含数百万本书籍、学术文章和漫画）来训练其Llama AI模型。…
“人工智能模型已经训练了数十万甚至数百万本书籍，这些书籍是从知名的盗版网站下载的。这不是偶然的，”作家协会首席执行官Mary Rasenberger说。“作者本应为此获得许可费。”
Meta辩称，使用受版权保护的材料来训练大型语言模型是“合理使用”，如果它是用来开发一种变革性技术，即使这些材料来自盗版数据库。LibGen的大部分内容未经版权持有者许可就托管在其平台上。在法律文件中，Meta指出，“无论获取方式如何，使用都是合理的”。
拜托，老兄！我理解那种认为读一本书就能从中学习而无需支付版税的论点，但如果你是通过偷书来阅读的，那这个论点就站不住脚了。
科技之王
特斯拉公司的一种模式是它是一家汽车公司。它应该由擅长制造汽车的人来运营，并且应该专注于销售尽可能多的汽车。
特斯拉的另一种模式是它是一家通用机器人公司。特斯拉的业务是建造能够自主操作的机器。它在这一领域的第一个产品是自动驾驶汽车，因为很多人需要汽车，但总体使命要广泛得多。另外，从技术上讲，它的第一个产品是非自动驾驶汽车，因为建造能够自主操作的机器很难，需要逐步实现。
第一种模式的优点是它直截了当，“汽车公司”是一个真实的存在，特斯拉确实制造了人们想要的汽车，销售更多汽车对利润和股东价值都有好处。第二种模式的优点是它理论上拥有更大的可触及市场，听起来更酷，对工程师甚至投资者来说更具启发性。3从某种意义上说，它也更持久、更长远：你可以想象一个机器人技术的未来，其中人们不需要汽车；在那个世界里，特斯拉作为领先的通用机器人公司，将制造任何取代汽车的东西。
这是企业组织中的一个普遍问题。公司通常会生产市场需要的产品。随着时间的推移，技术和消费者需求可能发生变化，以至于20年后市场不再需要该公司的产品。公司应如何看待这个问题？社会及多元化投资者又该如何思考？一种思路是公司应当预见变化并持续探索新方向，从而永葆生命力：你现在生产马车鞭，但预见到汽车将取代马车，于是甚至在挡风玻璃尚未普及时就提前进入雨刮器行业。按照这种模式，每家公司都应将现有业务的利润用于自我革新和未来布局。
另一种观点认为，企业往往只擅长某件事，而未来能做好新产品的将是另一家公司——一家不受传统产品维护拖累的颠覆性初创企业。依此模式，每家公司都应专注于现有业务的运营和产品的销售，将利润返还股东，而作为专业投资者的多元化股东们负责发掘新业务，可将这些利润投资于全新的未来型企业。
问题本质在于：资本的风险配置应当由企业高管层面还是投资者层面来完成？显然正确答案是"两者兼有”。企业不断倒闭是低效的，当人才与资本的组合持续解体时，价值也随之毁灭。但企业存续过久同样低效，专业团队白手起家创造的价值，往往超过试图转型的现有企业。专业投资者在配置资本到新创意时具有优势：他们接触更多创意且不易受现有业务偏见影响。但企业管理者也有独特优势：他们拥有更多领域专长和实践经验，且已具备员工、工厂和设备等资源。
特斯拉的特殊之处在于，其首席执行官埃隆·马斯克似乎确实具备世界级的历史性才能，擅长将资本配置到未来主义事业上。例如本周我们讨论过他在2022年收购推特公司那不可思议的幸运时机：我曾半开玩笑地提出，马斯克以反直觉却正确的方式，在"千亿美元级AI公司"成为真实类别前一两个月，就将推特识别为"本质上是一家千亿美元级AI公司”。作为社交网络，他或许为推特支付了溢价，但作为AI业务的载体，推特已为他带来巨额利润。当然，特斯拉本身在电动汽车和自动驾驶领域也是先行者。SpaceX更是将火箭送入太空！
因此，当思考"谁该为未来事业配置资本，是企业高管还是专业投资者"这个普遍问题时，答案或许尚不明确。但若要列出实际应该为未来事业配置资本的具体人选，埃隆·马斯克必定名列前茅。
但问题依然存在：“埃隆·马斯克"是指"特斯拉CEO埃隆·马斯克”，还是指"不断创立新公司的埃隆·马斯克"？马斯克既是企业高管，又是投资者；他既是特斯拉CEO，也是大股东。前文我曾写道：“可以想象一个机器人技术普及的未来，人们不再需要汽车；在那个世界里，作为领先的通用机器人公司，特斯拉将生产任何替代汽车的产物。“但这准确吗？或许替代汽车的会是马斯克旗下隧道公司The Boring Company建造的地下隧道，或是SpaceX制造的火箭，又或许由于马斯克旗下Neuralink的脑机接口技术让人类实现缸中大脑的极乐境界，届时人们根本无需出行。
问题“谁应该为未来的企业分配资本，是企业高管还是专业投资者”在埃隆·马斯克这里依然存在。只不过这成了埃隆·马斯克的问题。具体来说就是：“我的下一个想法应该放在特斯拉里实现，还是应该由我创立一家新公司来做？”我们时不时会讨论这个问题：马斯克拥有一个我称之为“马斯克火星集团”的企业群，而一个新想法究竟该在其中某家公司、另一家公司，还是在一家全新的公司中推进，总是有待商榷。
我想这对特斯拉或特斯拉董事会来说也是个类似的问题。你可以想象特斯拉董事会这样想：“我们希望埃隆·马斯克在特斯拉内部打造未来的业务，因为这将为股东创造更多长期价值。”但你也可能想象他们这样想：“我们希望特斯拉由一位专注于造车的全职CEO来运营，因为我们的汽车销量不佳，而所有这些对火星的关注正在损害我们当前的现金流。”某种程度上，后一种想法听起来像是令人失望的短视——如果你正在构建机器人的未来，谁还会在乎季度现金流？——但可以说，董事会的职责之一就是用一些现实考量来抑制CEO最宏大的冲动。毕竟，你也得卖车。
无论如何，这里有一篇《华尔街日报》的报道称，“董事会成员已联系多家高管猎头公司，正式启动寻找下一任特斯拉首席执行官的程序。”特斯拉否认了正在物色新CEO的报道，也有可能这仅仅是（正如Byrne Hobart所写）“董事会提醒马斯克该多花点时间在特斯拉上的巧妙方式”。
但《华尔街日报》还透露：
去年初，在执掌特斯拉近二十年后，马斯克深夜发短信向亲近之人吐露，他对仍在这家公司无休止工作感到沮丧，尤其是特拉华州法官否决了他价值数百亿美元的薪酬方案之后。
去年春天，他告诉那人自己不想再担任特斯拉CEO，但又担心无人能替代他领导公司并传递“特斯拉不仅是车企，更是机器人技术与自动化未来”的愿景。
确实如此，对吧？特斯拉或许能找到比2025年的马斯克更擅长卖车的CEO，这对业务多有裨益。但其他方面可能未必。当马斯克接管推特后，将其更名为X并最终任命琳达·亚卡里诺为CEO。亚卡里诺与广告商关系良好，在许多方面都比马斯克更适合运营社交媒体公司。但她是否适合宣扬“X不仅是社交媒体，更是AI与支付未来”的愿景？显然不是？马斯克最近将X与其AI公司合并成立XAI控股集团。彭博社的Kurt Wagner和Katie Roof报道称：“新实体的掌舵人尚未确定，但马斯克本人似乎是最可能的人选。”
我已经年长到记得埃隆·马斯克决定不再担任特斯拉公司首席执行官的时候，原因模糊不清，比如“他累了”和“恶搞很有趣”。于是他在推特上宣布，“上周删除了我的特斯拉头衔，看看会发生什么。我现在是特斯拉的无名氏。目前看来还不错。”我们所有人都长叹一口气。那是2018年，他继续经营特斯拉，同时仍然是CEO。2021年，他再次更改头衔，宣布——不是通过推文，而是通过证券文件——他的头衔改为“特斯拉技术之王”。我觉得这里有一个明显的折中方案？找一个新的CEO来卖车，让马斯克继续担任技术之王来推销愿景？
世界
我曾经出于某些原因，问了以下三个问题：
- 如果一个人工智能大亨用铬球扫描你的虹膜，目的是为了他自己，但作为交换给你50美元，你会让他这么做吗？
- 如果他给你的不是钱，而是他自己发明且价值不确定的加密货币代币，你会让他这么做吗？
- 如果没有代币，你会让他这么做吗？
看，OpenAI的负责人萨姆·奥尔特曼还有一个副业项目叫“世界”，该项目一直在扫描人们的眼球，作为“确保人类在一个充满AI驱动内容的互联网世界中保持核心和特殊性的一种方式。”他们扫描你的眼球，你得到一个独特的眼球标识符，然后在未来的各种互联网场景中，你可以用这个标识符证明你是一个有眼球的人类，而不是一个没有眼球的人工智能。好吧好吧好吧好吧好吧，好吧，好吧。好吧？
2023年推出的World项目，既是一项眼球扫描计划，也是加密货币项目：它拥有加密代币（Worldcoin），扫描眼球即可获得代币用于加密货币投机。
但该服务无法在美国提供，因为根据美国证券法最严格解释，这将构成非法的未注册证券发行。具体逻辑如下：
- 在美国向公众发行证券需向证监会注册并提交详尽披露，这对多数加密项目难度极高。
- 此处"证券"定义为：“投资于共同事业，预期利润完全来自他人努力”。
- World作为共同事业，其价值源自奥特曼团队运营，具有证券属性。
- 是否预期利润？存在争议：Worldcoin不承诺现金流，获利需通过溢价转卖，且升值源于代币实用性（及投机需求）而非企业盈利。但部分司法判例支持该情形符合预期利润要件——若团队努力提升代币价值致持有者获利。
- 是否存在资金投入？严格来说用户并未支付金钱，而是提供眼球扫描数据。但证券法激进观点认为：向发行方提供任何有价值物（包括生物数据）换取代币即构成投资。美国证监会曾主张，连免费空投都属证券发行，因参与者提供了对价（如代币推广、用户个人数据及二级市场培育）。
2023年，由加里·根斯勒领导的美国证券交易委员会（SEC）对美国证券法采取了极端严格立场，导致至少部分律师可能会告诉你"用加密代币换取眼球照片属于非法证券发行”。因此World项目当时未在美国开展该业务。若你在其他国家扫描眼球，就能获得代币；若想在美国向阿尔特曼提供眼球扫描数据——他当然想要这些生物信息！——但不会因此给你任何代币。尽管如此仍有人接受这个交易——我们曾讨论过一篇报道，其中受访者表示"我喜欢尝试各种科技"和"我就是爱尝鲜”——但这样的人终究不算多。
这堪称加密货币领域对美国证券法最严苛的解读，而到2025年SEC采取了更为宽松的解释，好消息是现在扫描眼球就能获得代币。据《金融时报》报道：
山姆·阿尔特曼的数字身份项目World已在美国上线，随着特朗普政府对数字资产行业的接纳，这项颇具争议的虹膜扫描技术及配套加密货币代币正式进入美国市场。
该项目团队在2023年率先于海外推出后，现计划将美国作为核心市场——部分原因在于拜登政府对加密货币的敌对态度。同时担任3000亿美元估值公司OpenAI首席执行官的阿尔特曼曾感叹，这个近期从Worldcoin更名的项目将沦为"除美国外的世界币"…
“我们优先确保产品在全球范围可用后再进入美国，这背后有充分理由。其中部分与监管变化有关，“World主要开发团队Tools for Humanity的首席架构师阿德里安·路德维希表示。
阿尔特曼与亚历克斯·布拉尼亚于2019年共同创立Tools for Humanity…他们主张随着人工智能技术发展，建立可靠的人机识别机制至关重要。
World项目生产篮球大小的球形虹膜扫描设备"Orb”，可生成唯一数字身份并获取Worldcoin代币。目前团队正在开发手持型号，并计划最终将该技术直接集成至网络摄像头或移动设备。
加密货币的一种理论，在风险投资家和技术创业者中颇为流行，大意是“加密货币将成为人们在线上验证身份、区分自己与人工智能的方式。”另一种理论则是“你获得一些代币，然后数字会上涨。”如今，这两种理论可以携手并进。
“先锋”
据我所知，我从未参加过庞氏骗局的推销会，但这类活动肯定存在。至少每周一次，肯定有人在德克萨斯州弗里斯科租下一个宴会厅，召集一群潜在投资者，提供咖啡，并激情洋溢地介绍他们稳赚不赔的投资方案。当然，方案的本质是“你把钱给我们，我们拿一部分给早期投资者，让他们以为我们在盈利，剩下的钱我们用来给自己买兰博基尼”，但推销时绝不会这么说。他们会编造一个更复杂的故事，涉及惊人的商业机会、稳赚不赔的贷款、高级金融债务交易，以及诸如此类的内容：
你必须明白，你拥有的是——我们处于所谓的“一级”层级。举个例子：如今有多少贷款机构真正具备自主发行证券的能力？[…] 一家都没有。它们中有多少拥有交易台？机构。没有一家实体具备完整的整合能力，但我们的容量比高盛还大。你明白我的意思吗？
我不明白！这段话出自2023年1月4日罗伯特·威尔士在弗里斯科的一场演讲，据称他当时在推销一个名为“先锋控股集团不可撤销信托”的投资机会，4据称他将其宣传为“一个资产达数十亿美元、利润丰厚的国际债券交易业务”。具体多少亿？多到能获得存管信托公司的批准：
我们旗下的一家公司…已获得DTC批准。除非你拥有巨额资产，否则无法获得批准。因此，团队及——拥有相当多的Bs（十亿级别）资产，包括地下和地上资产，DTC也批准了我们公司。
你需要地下资产，也需要地上资产。FAQ中有一段同样语无伦次的回答：
问：这听起来好得不像真的。怎么可能每月获得这样的收益率？
答：问得好。我们是一家活跃于二级市场的私人投资银行，运用私人信托机制。我们的业务之一是通过买卖协议交易债务。举个房贷者容易理解的例子：房贷期间贷款方会变更，因为票据会被溢价转售。比如新发行的5亿美元债券，可能以20美分兑1美元（2亿美元5）买入，再以3亿美元卖出。可见，4%甚至6%的月收益率并不高，只是对于资产不足1亿的投资者显得惊人。
这些引述均来自周二美国证券交易委员会对威尔士及其合伙人肯尼斯·亚历山大、凯德琳·康纳的起诉书，指控他们运作了一个9100万美元的庞氏骗局：
实际上，正如美国证券交易委员会指控的那样，VHG没有实质性收入来源，所谓的月度回报实际上是庞氏骗局支付，而"支付令"提供的保护只是假象。根据起诉书，亚历山大和康纳挪用了数百万美元投资者资金用于个人用途，例如康纳购买了一栋价值500万美元的住宅。
“支付令"是指推销话术中的一部分：如果你不信任VHG能为你赚钱，可以额外付费从受托人处获得"支付令”，若Vanguard违约将自动返还投资。据称威尔士在弗里斯科是这样解释的：
还有，你们听说过受托人吗？好吧。什么是受托人？我不知道。受托人。他们不是负责确保人们——嗯，这里聘请受托人是保护投资者的。为什么要设受托人？伯尼·麦道夫可从来不用受托人。
嗯有意思。要是我参加庞氏骗局的宣讲会，本以为他们会刻意避开提及伯尼·麦道夫。就像如果投资宣讲会的PPT里有张幻灯片写着"我们与伯尼·麦道夫的不同之处”，这在我看来简直是劝退幻灯片。但说真的，我又懂什么呢。
时事速递
科尔士百货CEO因向情人输送业务被解雇。埃隆·马斯克通过新建德克萨斯市政府扩张商业版图。摩根士丹利拟为亿创理财客户开通加密货币交易。纳斯达克新规将推动零日期权热潮蔓延至个股。凯雷集团与道富银行考虑合作开发零售财富市场。阿波罗筹集54亿美元基金用于二手私募交易。通用汽车因关税损失高达50亿美元大幅下调预期。市场或将因中国商品断供受冲击。CEO们将迎来MAGA理念商业协会。罗里·麦克罗伊与TPG合作成立体育投资基金。加密风投募资活动重现生机。教皇方济各为何未能整顿梵蒂冈财政。阿里·伊曼纽尔将从奋进集团收购弗里兹艺术博览会。一位女性如何被传销骗走7.5万美元。“在这些制作精良的视频中，大师们不断抨击象牙塔如何’洗脑’人们从事’平庸工作’，同时穿插展示他们辍学后（多数人狂喜地这么做了）通过建立网络商业帝国获得的奢华生活——迪拜的法拉利、迈阿密的G级越野车、私人飞机上的鱼子酱盛宴。“半挂车倾覆导致80万枚硬币散落，清理工作令人抓狂。
如果您想以方便的电子邮件形式直接在收件箱中获取《金钱资讯》，请点击此链接订阅*。或者您也可以在此处订阅《金钱资讯》及其他优质的彭博新闻简报**。*谢谢！