OpenAI CEO Altman在幸存驱逐六个月后的防御 - 彭博社

Shirin Ghaffary

Sam Altman，OpenAI首席执行官，在2024年5月21日星期二在美国华盛顿州西雅图的微软Build活动上发言。

摄影师：Chona Kasinger/Bloomberg在遭受来自国家赞助黑客的重复攻击后，微软全球范围内加强了安全措施。

摄影师：Andrea Verdelli/BloombergG42和Lunate是由阿联酋国家安全顾问谢赫·塔赫努恩·本·扎耶德·阿勒纳哈扬监督的一个庞大帝国的一部分。

来源：G42嗨！我是Shirin，来自旧金山。在相对平静的几个月后，OpenAI内部再次出现裂痕。但首先…

三件事要知道：

  • 可穿戴AI初创公司Humane正在探索潜在的出售
  • OpenAI与News Corp.签署了一项多年的内容许可协议
  • Alphabet、Meta向好莱坞提供数百万美元合作开发AI

Altman的道歉之旅

在Sam Altman成功完成一次惊人的重返OpenAI之后，首席执行官再次处于防守状态，但这次是来自员工和世界上最著名的女演员。

最近，OpenAI的安全团队相继辞职，同时有报道称该公司试图压制辞职员工，并遭到斯嘉丽·约翰逊指控，称该初创公司在一款新产品中使用了与她自己声音“惊人相似”的声音，而未经她的许可。Altman随后发表了一系列道歉和自我批评。

在任何快速增长的初创公司中，一定程度的内部动荡和公关失误是司空见惯的。在此期间，OpenAI也取得了一些显著的成就，包括ChatGPT创下的高流量纪录以及与News Corp.达成的一项重要协议。但最近一连串的事件将公司内部长期存在的关于AI安全的矛盾问题以及OpenAI首席执行官的信任度问题重新聚焦，这些问题可以追溯到他短暂被撤职的时期。

正如我的同事Rachel Metz和我在上周报道的那样，OpenAI解散了其备受关注的“超对齐”团队，该团队负责减轻更强大、迄今为止是假设的AI系统的长期风险。此举是在OpenAI首席科学家Ilya Sutskever辞职之后进行的，他是政变中的核心人物，并在之后的几个月里保持低调。

OpenAI表示该团队的工作将整合到公司更广泛的研究中，但这一举动仍引发了警报，人们担心这家初创公司可能不再完全致力于解决AI安全风险。这些担忧加剧了Jan Leike的引人注目的公开评论，他是Sutskever在超对齐团队中的合作领导者，也在上周辞职。

Leike 在X上发布，表示他与OpenAI领导层在公司的核心优先事项上存在分歧已经有一段时间了，并且他担心公司没有足够重视AI安全、安全性和社会影响等主题。他写道：“在过去几年里，安全文化和流程已经被抛到一边，而更注重的是闪亮的产品。”

订阅彭博平等新闻简报*，由Claire Suddath每周报道美国和其他地方性别、种族和阶级如何塑造资本主义。*本周的简报关注OpenAI与斯嘉丽·约翰逊之间的冲突，以及科技公司如何养成将女性声音放在助理角色中的习惯。

Leike并不是最近辞职的唯一一位AI员工。超对齐团队的另外两名成员以及一些从事与安全相关团队工作的其他员工也已离开公司。最近，OpenAI政策研究员Gretchen Krueger表示她辞职，指出她和Leike以及Sutskever对这家初创公司的担忧是一致的。（Sutskever尚未公开表达担忧。）

目前关于这些员工具体遇到了什么问题的细节很少。Leike声称他的团队没有得到最初承诺的计算能力，这是他们进行实验所需的。

上周末我们发现了一些员工可能不愿分享太多信息的原因之一：他们可能会失去大量股权。Vox 报道，一些OpenAI员工被要求签署与公司股份挂钩的不诋毁协议。虽然这在许多科技公司是标准做法，但利用这些协议来威胁员工潜在的有利股权并不常见。

Altman现在正在进行一次道歉之旅。他承诺为任何担心此事的员工取消股权条款，并 道歉这项政策，称其为“我一直以来‘在OpenAI运营中感到真正尴尬’的几次之一。”他 在X上发布说Leike“是对的”，公司“还有很多工作要做”。他向Johansson道歉。

女演员Scarlett Johansson摄影师：Andrew Harrer这位获得奥斯卡提名的女演员 声称Altman先前曾邀请她为ChatGPT配音。Altman表示他是“Her”这部科幻电影的粉丝，该电影中Johansson为智能AI助手的声音。Johansson表示拒绝了Altman的邀请，并“震惊”地得知OpenAI选择了一个听起来类似的声音作为其新语音助手的选项之一。

奥特曼后来表示，声音“从未打算”像约翰逊，并承认公司需要“沟通更好”。但沟通失败的一大原因似乎来自奥特曼本人。

OpenAI表示，在奥特曼联系约翰逊之前几个月就招募了配音演员，而那些演员没有被要求模仿这位女演员。一位OpenAI员工告诉《华盛顿邮报》，奥特曼在配音过程中并没有参与得很密切，因为他忙于环游世界。但奥特曼决定联系约翰逊，并在语音助手发布后立即在社交媒体上提到她的电影，这引发了比较和审查。

奥特曼现在面临着公众对他“在处理事务时不一贯坦诚”的指控，正如董事会在11月罢免他时所指称的那样。最新事件可能只是由于公司首席执行官与员工之间缺乏协调而导致的，这家公司正在全速前进，以扩大全球芯片制造能力，进行复杂的媒体许可交易，并创造超人类人工智能。但如果一家公司无法做好细节，就更难相信它有能力处理更雄心勃勃的项目。

如果您是OpenAI的现任或前任员工，或者了解该公司的人，并且愿意交谈，请与我联系。给我发电子邮件，Shirin Ghaffary，或在Signal上联系我，用户名为shirin.30

本周人物语录

“这是新工业革命的开始。”

Jensen Huang

Nvidia首席执行官

Nvidia 股价周四大涨，因芯片制造商发布了一个乐观的销售预测，显示人工智能计算支出仍然强劲。### 值得关注的公司

Scale AI，一家帮助顶尖科技公司改进用于构建人工智能产品的数据的初创公司，其估值大约翻了一番，达到138亿美元。### 深度学习

彭博社更多内容

获取科技日报和更多彭博科技周刊直接发送到您的收件箱：

  • 网络公告涵盖黑客和网络间谍的阴影世界
  • 游戏进行中报道视频游戏业务
  • 开机提供苹果独家新闻、消费者科技新闻等
  • 屏幕时间近距离观看好莱坞和硅谷的碰撞
  • 声音片段报道播客、音乐行业和音频趋势

微软公司告诉中国员工，从9月开始，他们只能使用iPhone进行工作，有效地将基于Android的设备排除在工作场所之外。

这家美国公司很快将要求在中国的员工使用苹果公司的设备来验证他们的身份登录，根据彭博社查阅的内部备忘录。这项措施是公司范围内努力加强微软产品和服务防范黑客攻击的一部分，将影响中国大陆数百名员工，并旨在确保所有员工使用微软认证器密码管理器和身份通行证应用。

消息称，微软选择阻止这些设备访问其企业资源，因为它们无法连接到中国的谷歌移动服务。由于中国没有Google Play，这就只剩下苹果的App Store是中国员工下载这些强制性安全应用的唯一途径。

公司在遭受来自国家支持的黑客的重复攻击后，全球范围内加强了安全措施，今年一月份披露的与俄罗斯有关的数据泄露事件影响了数十家美国政府机构，包括国务院。在国内立法者的重压和批评下，公司去年十一月启动了一项名为安全未来计划的全公司努力。

观看：微软告诉中国员工，从九月起他们只能使用iPhone进行工作。Minmin Low报道。

此举还凸显了中国Android应用商店的碎片化特性以及中国和国外移动生态系统之间的差异日益增大。由于谷歌的移动服务在中国不可用，本土智能手机制造商如华为技术有限公司和小米公司转而运营自己的平台。

备有Android手机的员工，包括华为或小米制造的设备，将获得一次性购买的iPhone 15，备忘录中指出。公司将在中国各地设立各种集散地点供员工领取iPhone，包括谷歌服务可访问的香港。员工仍可将Android手机用于个人用途。

“由于在该地区无法使用谷歌移动服务，我们希望为员工提供一种访问这些必需应用程序的方式，比如使用iOS设备，”微软发言人在一份电子邮件声明中说。

周一，微软和苹果股价在纽约基本持平。谷歌母公司Alphabet Inc.的股价下跌了近1%，而小米的股价在香港下跌约1%。

微软的举动可能再次引起人们对iPhone在中国的情况的关注 —— 这是一个敏感问题，因为北京和华盛顿正陷入地缘政治冲突。自2023年以来，越来越多的中国政府支持的公司和机构已经要求员工停止携带外国设备上班，理由是安全问题。而五月份，《华尔街日报》报道称，微软提议将驻华从事人工智能工作的700至800名员工搬迁至其他地方，人工智能是美国和中国的关键战略技术。

微软的安全未来计划，简称SFI，是其二十年来最雄心勃勃的安全改革。微软表示，除其他措施外，它将利用人工智能和其他方法更快地解决云漏洞，加大对黑客窃取凭据的难度，并自动强制员工执行多因素身份验证。

阅读更多： 微软承诺在大规模黑客攻击后彻底改革网络安全

阿布扎比的一家新投资机构已经接管了人工智能公司G42的中国基金的管理权，据知情人士透露，这将使这些资产掌握在酋长国皇室的一位有权势的成员手中。

该基金Lunate计划聘请一个小团队来帮助管理原本属于G42的42XFund，这个实体持有中国科技公司的股份，包括字节跳动和京东等公司，知情人士称，要求不透露身份讨论私人信息。