特朗普的胜利在全球人工智能安全机构首次会议上显得格外重要 - 彭博社

吉娜·雷蒙多，美国商务部长

摄影师：阿尔·德拉戈/彭博社在即将到来的特朗普政府下，美国的人工智能安全努力的未来充满不确定性。但首先……

三件事需要知道：

• 英伟达表示其新芯片将在 本季度发货• OpenAI首席执行官去年获得 $76,001 的薪酬，文件显示• 苹果准备推出 更具对话性的Siri，以期在人工智能领域赶上

悬而未决

本周，一群来自世界各地的风险投资家、商业领袖和政府官员在旧金山聚集，讨论人工智能对社会构成的风险。国际人工智能安全机构网络的首次会议是美国在这一问题上重申其领导地位的标志性时刻。但唐纳德·特朗普的连任——以及他可能会 重新考虑人工智能政策——在此次活动中笼罩着一层阴影。“我不想谈论政治，”吉娜·雷蒙多说，她被称为“美国的人工智能联络人。”但在周三的发言中，她承认政治在“每个人的心中”。确实，领导此次会议的美国政府关键机构——美国人工智能安全研究所的命运现在充满不确定性。一年多前，拜登政府指派国家标准与技术研究所（NIST），该机构隶属于雷蒙多的商务部，负责监督评估人工智能能力和风险的严格工作。NIST随后创建了美国人工智能安全研究所，并获得了OpenAI和Anthropic的自愿协议，以测试他们的模型。包括英国在内的几个其他国家也创建了类似的人工智能安全研究所。但当选总统唐纳德·特朗普的政党在其平台中承诺要 撤销拜登的行政命令，称其“对该领域施加了激进的左翼思想”。如果特朗普政府对此采取行动，可能会模糊NIST监督人工智能标准的任务，并使美国人工智能安全研究所的未来充满疑问。特朗普过渡团队的代表未对此请求作出回应。目前国会有两项两党法案授权该研究所，但迄今为止均未取得进展。由OpenAI、谷歌和Anthropic等公司支持的科技行业团体，如 TechNet 和 信息技术产业委员会，呼吁国会支持这些法案。

在周三的活动上，该机构阐明了其相关性。该机构的主任伊丽莎白·凯利（Elizabeth Kelly）宣传了一系列近期的成就。该组织发布了一份国际机构的优先事项联合声明，并分享了一家人工智能公司模型的首次安全评估结果——这次来自Anthropic。活动的组织者还播放了来自两党立法者的录音讲话，表达了他们对该机构工作的支持。在活动的间隙，凯利告诉我，该机构准备与新政府合作，作为NIST的一部分，NIST是一个存在超过一个世纪的非党派组织，并不是一个监管机构。“我们正在做的工作与NIST长期以来与行业合作进行测试和评估的过程非常一致，涉及面部识别等主题，”她说。“我们视自己为延续这一传统。”凯利还强调，美国不应放弃在人工智能安全问题上的领导角色，尤其考虑到许多最知名的人工智能开发者都位于美国。“我们非常清楚这些是美国公司，”她说。“我们希望确保美国在对话中处于领先地位，并能够塑造这一领域的未来，而不是将话语权拱手让给可能不考虑美国公司最佳利益的其他国家。”

伊丽莎白·凯利摄影师：丁申/彭博社在活动期间，Anthropic首席执行官达里奥·阿莫代伊赞扬了该机构的工作。他表示，政府的专业知识对于测试AI公司（如他的公司）不太熟悉的特定国家安全威胁是必要的。

阿莫代伊对在场的各个国际AI安全机构表示：“你们可以很好地合作。你们在不同语言、不同主题和不同公司方面都有专业知识。如果你们能够将自己的专业知识汇聚成一个全球大脑来评估这些模型，那将非常高效。”无论美国是否继续投资于该机构，其他国家都将继续前进。法国将在2月份主办自己的国际AI峰会，这预计将是迄今为止最大规模的政府会议之一。同时，英国AI安全机构获得了1亿美元的资金，是美国AI安全机构今年国会批准金额的十倍。

但美国机构的支持者仍然抱有希望，认为特朗普不会削减该组织。在活动上，雷蒙多也强调了AI安全工作的必要性，无论华盛顿掌权者是谁。

雷蒙多说：“我不在乎你属于哪个政党。这对共和党或民主党都没有利益。坦率地说，世界上任何地方、任何政党的利益都不在于让AI变得危险，或者让AI落入那些想要造成破坏和制造混乱的恶意非国家行为者手中。”

对人工智能有问题吗？ 发邮件给我，Shirin Ghaffary，我会在未来的新闻通讯中尝试回答你的问题。

本周人类名言

“我认为我们绝对必须让测试成为强制性的，但我们也需要非常小心我们如何进行测试。”

Dario Amodei

Anthropic 首席执行官

在 AI 安全峰会上的一个问题中，Amodei 表示，包括他自己在内的人工智能公司应该遵循 强制测试要求，以确保他们的技术在发布前对公众是安全的。“我认为公众的关注以及员工的关心确实产生了一些压力，但我最终认为这还不够，”他说。### 值得关注的人

Credo AI 的首席执行官 Navrina Singh 详细介绍了该公司与微软的最新合作以及在第二个特朗普政府下人工智能的未来。她加入 Caroline Hyde 在彭博科技节目中讨论。### 深度学习

• Nvidia 的业务变得 更加依赖 大型云服务提供商，即使它试图多元化
• 微软推出了软件以 简化 AI 应用开发
• Sequoia 和 GV 正在支持一家为销售人员构建 AI 代理的初创公司
• 人们一直在 将他们的医学图像输入到埃隆·马斯克的 AI 工具 Grok 中，引发隐私专家的担忧
• 一位将 AI 聊天机器人出售给学校的初创公司创始人已被 指控欺诈

来自彭博社的更多信息

获取每日科技和更多彭博科技周刊到您的邮箱：

• 网络简报，涵盖黑客和网络间谍活动的阴暗世界
• 游戏进行中，报道视频游戏行业
• 电力开启，获取苹果新闻、消费科技新闻等
• 屏幕时间，前排观看好莱坞与硅谷的碰撞
• 声音片段，报道播客、音乐产业和音频趋势