硅谷对加利福尼亚州的一项人工智能法案保持警惕 - 彭博社
Shirin Ghaffary
萨克拉门托的加利福尼亚州议会大厦。
摄影师：David Paul Morris/Bloomberg科技界正在对一项新提出的法案感到愤怒。但首先…
三件事情要知道：
• 美国反垄断机构正准备调查微软和英伟达的人工智能举措• 苹果与Sam Altman达成了一项曾经不太可能的交易，以赶上人工智能• Humane告诉客户停止使用Ai Pin手机壳，因为存在火灾风险
一场政治斗争
硅谷的风险投资家、科技创始人和普通员工对一项正在加利福尼亚立法机构中推进的法案发出警报，该法案可能迫使一些最大的人工智能公司改变其运营方式。由加利福尼亚州参议员斯科特·维纳提出的SB 1047旨在实施他办公室所称的“常识安全标准”，适用于制造大型人工智能模型的公司，这些模型超过特定规模和成本门槛。该法案上个月在州参议院通过，将要求这些公司采取措施防止其模型造成“重大伤害”；确保人工智能系统可以关闭；并向加利福尼亚技术部门内设立的新“前沿模型部门”披露合规努力。如果企业不遵守这些要求，他们可能会被起诉并面临民事处罚。在缺乏关于人工智能的联邦立法的情况下，美国各州越来越倾向于推动自己的监管。鉴于加利福尼亚州是许多领先人工智能公司的所在地，包括OpenAI和Anthropic，其立法可能在这些企业的任何直接影响以及在国家政策提案制定方面具有更大的影响力。“如果国会能够出台一项合理而有力的人工智能和创新安全法律，那将是很好的，”维纳在本周的一次采访中告诉我。“我更希望这些问题在联邦层面得到处理。但正如我们在数据隐私、社交媒体、网络中立性甚至在具有强有力两党支持的技术问题上所看到的，国会很难甚至有时不可能采取行动。”
加利福尼亚州民主党参议员斯科特·维纳。摄影师：大卫·保罗·莫里斯/彭博社这项法案得到了两位人工智能先驱 Geoffrey Hinton 和 Yoshua Bengio 的支持，他们一直对人工智能可能存在的生存威胁发表看法。辛顿表示，这项立法“采取了非常明智的方法来平衡这些担忧。” 但它也引起了重大的抵制，预示着如果国会推动更严格的立法，可能会在全国范围内出现的攻击立场。批评者担心这项法案可能给开发者带来不可能承担的负担 — 尤其是开源开发者，他们提供代码供任何人审查和修改 — 以确保他们的服务不被不良分子滥用。这一阵营也对前沿模型部门的潜在过度扩张感到担忧。
“没有人预料到会通过这样的事情。这似乎相当荒谬，”开源初创公司 Reworkd AI 的创始工程师罗汉·潘迪说。“也许几年后，一旦我们了解了什么使模型安全或不安全，监管可能会有意义。但 GPT-4 刚刚问世一年多。很快就立法是不明智的。”几周前，约 20 名工程师、创始人和研究人员在旧金山的 AGI 黑客之家聚集在一起 — 这是一个专注于加速人工智能发展的场所 — 讨论了这项法案，据组织这次聚会的潘迪说。技术投资公司 Andreessen Horowitz 的普通合伙人马丁·卡萨多告诉我，一些初创公司创始人非常担心这项法案，他们问他们是否因此应该离开加利福尼亚。收听彭博社的新的、五集播客*关于山姆·奥特曼和 OpenAI。在这个系列中，记者艾伦·休特探讨了奥特曼的崛起，并深入探讨了他的值得信赖程度的问题。*技术工作者在 GitHub 旧金山总部的一次市政厅活动上向维纳提出了有关该法案的尖锐问题。 （GitHub 表示不对该立法提出立场。）几家主要的科技行业 协会 也对这项法案表示反对。
在创业社区中，很多争论归结为对AI开发者是否应对滥用其系统的人负责的基本分歧。根据1996年《通信廉正法》第230条款，社交媒体公司通常不会对用户在其平台上创建的内容承担责任。目前尚不清楚这些保护是否适用于生成式AI平台。“我个人希望看到的是，我们对滥用情况和不良用户进行监管，而不是对那些本着善意行事的开发者和研究人员进行监管，”企业技术初创公司Zapier的联合创始人兼AI负责人Mike Knoop说。Wiener表示，他已经针对一些这些担忧做出了修改。他修改了法案覆盖的模型要求，澄清了开源开发者不必对其技术的所有负面应用负责，并明确指出关闭要求不适用于开源模型。Wiener表示，他愿意进行更多调整。“我是AI的坚定支持者。我是开源的坚定支持者。我绝不希望以任何方式阻碍创新，”Wiener告诉我。“但我认为，在这些发展发生时，人们要注意安全问题。”随着法案开始推进，Wiener表示，坚定的AI支持者在网上“开始变得非常响亮”，有时传播一些高度具有煽动性和不准确的信息。特别是，Wiener驳斥了公司将被要求从政府机构获得训练模型许可的说法，并强调法案中的责任风险“非常狭窄”。Casado表示，他对该法案的主要问题是起草过程。他说，这涉及到一些对AI对人类长期风险持悲观担忧的“有些边缘”的人的意见，这在他看来并不代表科技行业的共识。AI安全中心是三个赞助该法案的组织之一，这家总部位于旧金山的非营利机构已经发表了关于AI灾难风险的研究。Wiener表示，该法案源于他在过去18个月与AI行业内部人士举行的“一系列晚宴、沙龙和会议”。他说，他的办公室已经与OpenAI、Meta、Google、Microsoft和Casado的公司Andreessen Horowitz等公司会面。“我们正在进行非常非常开放的讨论，”他说。他的目标是制定一项既“支持安全”又“支持创新”的法案，这对全球AI立法来说是一个挑战。该法案预计将在8月底之前在州议会上投票通过。Wiener表示，他“对我们有一条获得州长支持的途径感到乐观”。然而，在那一点上，一切都不确定。加利福尼亚州州长加文·纽森上周在一次活动中谈到了AI的风险，同时警告不要过度监管。“如果我们过度监管，如果我们过度放纵，如果我们追逐闪亮的东西，”他说，“我们可能会陷入危险的境地。”
**有关人工智能的问题？**给我发邮件，Shirin Ghaffary，我会尽力在未来的新闻简报中回答您的问题。
本周人类引用
我认识的最成功的人几乎自信到了妄想的程度。
Sam Altman
OpenAI CEO
在Altman成为家喻户晓的名字多年之前，他以顽强和说服力给同行、老师和商界领袖留下了深刻印象，根据一篇新的《商业周刊》特写故事 记述了Altman的早年和在初创企业界崛起的非凡经历。但正如我的同事Ellen Huet所写：“曾经被视为魅力的东西现在被许多人视为欺诈 - 一种向人们说任何能让他得到想要的东西的倾向。”### 值得关注的人
英特尔CEO Pat Gelsinger登上台湾Computex展会讲述他预计将帮助扭转与AI领导者Nvidia等同行的份额损失的新产品。### 深度学习
- OpenAI和Google DeepMind的现任和前任员工要求保护发声，谈论AI的“严重风险”
- 据说美国监管机构正在调查微软与AI初创公司Inflection的交易
- 埃隆·马斯克的xAI计划在孟菲斯建立一个容纳巨型超级计算机的新设施
- Nvidia市值飙升至3万亿美元，在科技界引发“Jensanity”
- AI初创公司Cohere据称从Nvidia和其他公司筹集了4.5亿美元
- Pika，一家AI视频初创公司，从投资者那里筹集了8,000万美元，包括演员兼歌手Jared Leto
彭博社更多内容
获取科技日报以及更多彭博科技周刊直接发送到您的收件箱：
- 网络公告涵盖黑客和网络间谍的阴影世界
- 游戏进行中报道视频游戏业务
- 开机苹果独家新闻、消费者科技新闻等
- 屏幕时间近距离观看好莱坞和硅谷的碰撞
- 声音片段报道播客、音乐行业和音频趋势
据知情人士透露，一组声称已经黑客入侵了为北美数千家汽车经销商提供软件的CDK Global的团体，要求支付数千万美元的赎金。
该知情人士表示，CDK计划支付这笔赎金，但由于信息属于私密信息，该知情人士要求不透露身份。据该知情人士称，发动这次攻击的黑客组织据信位于东欧。在勒索软件攻击的早期阶段，讨论是不确定的，情况可能会发生变化。
CDK没有回应周五的多次置评请求。
自CDK发现漏洞并于6月19日关闭系统以来，其约15,000家汽车经销商中的许多都陷入了混乱。CDK的核心产品——一套被称为经销商管理系统（DMS）的软件工具——几乎支撑了汽车零售商日常业务的每一个环节。因此，这次中断影响了销售、中断了维修工作并延迟了整个行业去年美国销售额超过1.2万亿美元的交付。这些中断也发生在季末销售推动之际。
“目前情况只是一片混乱，”Constellation首席执行官黛安娜·李在彭博电视台上说。Constellation是一家与美国各地汽车经销商合作的营销机构。“经销商必须为销售、服务、零部件的每一个功能运行DMS系统，甚至是库存车辆，没有DMS系统就无法做到。所以这是一场灾难。”
| 阅读更多关于CDK黑客攻击的内容 |
|---|
| * 汽车经销商受到12万亿美元市场的网络攻击冲击 * CDK告诉经销商，系统可能会停机数天 * 美国各地汽车经销商在网络攻击后停止服务 |
CDK在6月19日短暂恢复了一些服务，但在第二次网络攻击后被迫停用。周四，该公司警告经销商，他们的系统可能几天内都无法使用。数天。
在一家实验室服务公司遭受持续勒索软件攻击并导致伦敦医院停电之后，黑客要求数千万美元。索要5000万美元。美国最大的医疗保险公司UnitedHealth Group Inc.今年早些时候承认向黑客支付了2200万美元的勒索费。
CDK尚未透露是谁或哪个实体在入侵背后，但周四晚间向客户发出警告，称外部方正在联系客户，试图利用混乱局势。
“我们知道恶意行为者正在联系我们的客户，冒充CDK的成员或关联方，试图获取系统访问权限，”该公司表示。“CDK的员工不会因为访问客户的环境或系统而联系客户。请只回复已知的CDK员工和通讯。”
在经过几十年的整合后，经销商只有少数几家DMS公司可供选择。因此，成千上万家商店高度依赖CDK的服务来安排融资和保险，管理车辆和零部件的库存，并完成销售和维修。
汽车经销商Sonic Automotive Inc.使用CDK支持关键的经销商运营，称由网络攻击造成的中断可能会对其运营产生“负面影响”，直到其系统恢复正常为止，根据周五的一份文件。Sonic尚未确定此次攻击是否会对其财务产生实质性影响，并表示已通过临时解决方案重新开放了所有经销商以限制中断。
CDK的母公司Brookfield Business Partners LP自10月以来遭遇最糟糕的交易日，周四暴跌5.7%，并在周五继续下跌。经销商集团AutoNation Inc.、Group 1 Automotive Inc.和Sonic Automotive Inc.的股价也大幅下跌。
成千上万家汽车经销商在一个通常繁忙的假日周三因为一起发生在美国各地经销商的主要软件提供商CDK Global的网络事件而陷入停顿。
CDK发言人托尼·马克里托在一封电子邮件中表示：“公司关闭了所有系统，并进行了广泛测试，并咨询了外部第三方专家。” 马克里托表示，公司的核心产品——经销商管理系统和数字零售解决方案已经恢复，CDK正在测试所有其他应用程序，并在恢复在线时提供更新。