DC在Sam Altman事件后欢迎前OpenAI董事会成员-彭博社
Shirin Ghaffary
华盛顿的调色剂。
摄影师:彭博商业周刊的Schaun Champion
副总统卡玛拉·哈里斯在威斯康星州密尔沃基的一次竞选活动中,于7月23日。
摄影师:彭博的Daniel Steinle海伦·托纳(Helen Toner)发现她不必将私人通信交给埃隆·马斯克,当她在六月的一个下午在华盛顿特区漫步时,夏季的酷热尚未到来。托纳怀孕五个月,正在赶往一个演讲活动之前抓些食物,当我读出手机上的新闻提醒,我们前往Penn Quarter的一家咖啡馆时,她听到这个消息后宣布自己“非常非常高兴”。
32岁的托纳最知名的身份是去年11月帮助策划了OpenAI董事会成员萨姆·奥尔特曼(Sam Altman)的短暂撤职。这一事件让托纳成为硅谷关于如何应对人工智能力量的激烈辩论的中心人物。但很快,马斯克在四月份提起了一场诉讼,指责这家初创公司未能遵守其非营利使命,他威胁要传唤托纳与奥尔特曼解雇有关的通信。更多科技行业的戏剧是她最不需要的。她说:“我是说,那也没关系。我会做所有你应该做的事情。”“但如果有选择的话,这不是我选择用时间的方式。”
Toner在Altman被解雇后保持相对沉默了几个月,但一直在稳步重建她的公共形象。她在温哥华做了一场TED演讲,在华盛顿和纽约的AI和媒体活动上发言,并与《经济学人》合著了一篇关于AI监管的观点文章。她是一家日益具有影响力的新兴技术政策智库的关键人物,在幕后,她一直在就AI的国家安全风险向备受瞩目的当选官员、监管者和其他政治领袖提供建议。尽管Toner在某些硅谷圈子中失宠,但在DC,她作为AI领域的权威专家享有声誉,在OpenAI事件中的参与似乎只增加了她的知名度。
这周晚些时候,我们在杜邦环岛的一家与书店相邻的餐厅吃晚餐,Toner讲述了一位内阁部长最近问她中美哪个在AI领域领先。Toner回答了这个问题(美国——至少领先一两年),然后转而解释了即使是比较不同模型的具体能力也有多难,她说这是技术人员比政策制定者更好理解的事情。
托纳现在在安全与新兴技术中心工作,这是一个她在2019年帮助创建的智库。摄影师:Schaun Champion,彭博商业周刊这次交流突显了托纳如何看待自己:作为政策专家和官员们不擅长人工智能的翻译。这种多语言框架非常有道理。作为一个在墨尔本长大的孩子,托纳自己学会了德语,然后在大学学习阿拉伯语,之后又学会了普通话。
作为两位医生的女儿,托纳从她的堂兄那里了解了科技,他们创办了一家文档分析初创公司。他们给了她一份兼职工作,其中一位还向她解释了人工智能的前景以及风险,他认为这是有效利他主义运动的一部分。这种哲学强调利用理性思维以最大效率改善世界,指导信徒从事何种工作或支持何种慈善事业。
随着人工智能的发展比预期更快,一些有效利他主义者决定最理性的做法是关注这项技术如何可能摧毁人类文明。托纳说:“最初我觉得这就像愚蠢的科幻故事。别烦我。”但大约十年前,她“有一些非常坚持的朋友说服我真正去了解它。一旦我开始了解,我就觉得,哦,这实际上非常有趣。”
大学毕业后,托纳搬到了加利福尼亚州的伯克利,在那里她获得了在GiveWell,一个EA慈善组织的实习机会。她在那里度过了三年,并结识了在谷歌、OpenAI和其他公司从事人工智能工作的EA爱好者。在对中国人工智能政策产生兴趣后,她辞去了工作,在2018年花了九个月时间沉浸在北京的科技圈中。当她回到美国后,她搬到了华盛顿特区,并确立自己作为中国和人工智能方面的专家,撰写政策文件并在2019年的美中竞争联邦委员会听证会上就该问题进行证词陈述。
托纳于2021年加入了OpenAI的董事会。当时,该组织强调她在人工智能政策和全球人工智能战略研究方面的深厚专业知识,并称她是中美之间人工智能对国家安全影响的“可信声音”。
然而,在董事会政变后,她的批评者们质疑她的信誉,引用了她缺乏经验的事实。回顾过去,托纳对这种论点不屑一顾,她说科技行业一般对没有传统背景的人很欢迎。她说:“我觉得很难接受‘哦,这个人2021年才获得硕士学位’的批评。”她补充说,奥尔特曼也没有精英教育背景。“山姆没有本科学位,”她说。
托纳与EA的关系也受到了审查。该运动的批评者将其描绘为类似宗教的,并且对人工智能的存在风险过于偏执。托纳表示,有人认为极端主义董事会因意识形态原因解雇了阿尔特曼的说法是硅谷“乐于听到的”一个误解。她说,实际发生的是一家旨在被高标准约束的机构在企业治理方面的问题。“如果他们试图建立下一个Instagram,情况会完全不同,”她说。“我们有一个相当明确的工作,而且我们一直在做。”
托纳计划继续在华盛顿担任人工智能翻译员。摄影师:彭博商业周刊的肖恩·冠军如今,托纳试图不完全与EA划清界限,同时也表示自己比许多人认为的更远离它。她说自己不认为自己是一名有效的利他主义者,并对该运动内部一些人的群体思维倾向感到厌恶。但是,她说,“我非常乐意说我与EA社区有很多联系。我过去与之有密切联系。它与人工智能安全社区有重叠,我仍然与之密切合作,”她补充道。“这一切都很混乱。”
托纳拒绝详细说明董事会试图罢免阿尔特曼的理由;她在五月的一档播客中表示,他并不总是诚实的,并且他没有向董事会披露ChatGPT的推出或他在OpenAI创业基金中的股份。作为对托纳的说法的回应,OpenAI主席布雷特·泰勒表示,董事会“对托纳女士继续回顾这些问题感到失望”,公司“依然专注于向前迈进。”
关于OpenAI的问题可能会持续一段时间。我们午餐后的第二天,她在当地风险投资家和科技行业人士的小组讨论会上发言。在后台,前AOL首席执行官史蒂夫·凯斯走过来介绍自己。“我听说你在OpenAI董事会上经历了一段有趣的时光,”他说。托纳对这个玩笑不以为然。“是的。对每个人来说都是有趣的时光!”
如今,托纳担任乔治城大学附属的安全与新兴技术中心(CSET)的战略与基础研究资助主任,这个思想库是她在2019年帮助创建的。这个团队雇佣了数十名研究人员、政策专家和其他员工,从开放慈善筹集了超过1亿美元,这是一个从托纳的前雇主GiveWell分拆出来的资助组织。近年来,这个团队已经成为“AI政策的强大力量”,来自卡内基国际和平基金会的研究员马特·希恩说,他在科技政策圈认识托纳。“他们创建了一个初创智库,在很短的时间内成为了华盛顿政策制定的首选资源。”
托纳计划在未来几年继续担任华盛顿和人工智能行业之间的中间人。“人工智能将是决定未来几年甚至几十年走向的主要因素之一,”她说。“你需要翻译者、桥梁、那些能够整合资源的人。这是我觉得非常有意义的工作。而且人们似乎认为我擅长这个。”
卡玛拉·哈里斯已经在七个摇摆州中扭转了唐纳德·特朗普的领先优势,因为副总统在年轻、黑人和西班牙裔选民中引发了热情的浪潮,根据最新的彭博新闻/晨间咨询民意调查。
哈里斯得到了48%的选民支持,而特朗普得到了47%的支持 —— 这是一个统计上的势均力敌 —— 在可能决定11月选举结果的摇摆州中。这比总统乔·拜登在退出竞选之前的两个百分点的落后要好。这位民主党副总统在亚利桑那州和内华达州超过了她的共和党对手,并且在密歇根州比拜登领先特朗普的优势翻了一番。