伊利亚·苏茨克沃:那位告知萨姆·阿尔特曼被解雇的OpenAI天才——《华尔街日报》
Robert McMillan
上周五,伊利亚·苏茨克维给他的老板兼董事会同事山姆·阿尔特曼发了一条短信。太平洋时间中午能开个视频会议吗?
通话中还有OpenAI董事会的其他成员,但传达消息的是公司首席科学家兼联合创始人苏茨克维。阿尔特曼被解雇了,“消息很快就会公布。”
这次会议引发了一个周末的动荡、OpenAI员工的集体抗议,最终以苏茨克维的道歉收场。周一他在X平台(原推特)上写道:“我对自己参与董事会行动深感后悔。”
这对苏茨克维来说是戏剧性的72小时,也是他15年历程的高潮——从一个摆弄冷门算法的年轻研究生,成长为发动董事会政变罢免硅谷最具影响力人物之一的领导者。
OpenAI首席科学家伊利亚·苏茨克维是人工智能领域备受尊崇的技术先知。照片:jack guez/法新社/Getty ImagesSutskever是人工智能领域备受推崇的技术远见者。在以色列开放大学短暂工作后,他转至多伦多大学。起初,他的研究显得极具实验性。2010年《多伦多大学杂志》的专题报道描述,Sutskever开发的软件生成了类似维基百科但毫无意义的条目,例如“阿克尔玛的阿尔塞西亚小调(包含)夏威夷州卡西奥仪式”。
但在2012年,他因合著一篇论文而声名鹊起,该论文展示了Sutskever与多伦多大学同事共同研究的“深度学习”算法的非凡能力。这篇与Geoffrey Hinton和Alex Krizhevsky合著的论文证明,深度学习能以前所未有的水平解决模式识别问题。这引发了一场探索深度学习新应用的竞赛——一年后,三位研究者均加入了谷歌。
在谷歌期间,Sutskever参与了公司最先进的AI系统TensorFlow的开发。
到2016年,Sutskever成为OpenAI的首席科学家,专注于两个核心理念:一是AI系统可能实现人类级别思维(即人工通用智能AGI);二是若这些系统未能与人类价值观“对齐”,将可能带来危险。
“他聪明绝顶,但最广为人知的成就是在OpenAI的工作,希望他别搞砸了。”华盛顿大学研究人工智能的名誉教授奥伦·埃齐奥尼说道。
据熟悉董事会想法的消息人士透露,被罢免的OpenAI首席执行官萨姆·奥尔特曼(浅色裤子)与公司首席科学家伊利亚·苏茨克沃(深蓝色西装)在安全问题上存在冲突。图片来源:Jack Guez/AFP/Getty Images现任和前任员工形容方下巴、神情严肃的苏茨克沃以近乎宗教般的狂热对待人工智能问题。去年年底的一次全体会议上,他告诉员工:‘如果你醒来和入睡时都感受不到通用人工智能(AGI),你就不该待在这家公司。’知情人士称,苏茨克沃曾向员工表示,他担心未来AGI系统会像人类现在对待动物那样对待人类。
在今年早些的一次播客访谈中,德克萨斯大学奥斯汀分校计算机科学家、现于OpenAI从事安全工作的斯科特·阿伦森描述了与苏茨克沃的每周通话:‘我会汇报进展…而他会说‘这很棒斯科特,你该继续研究。但我们真正想知道的是——如何用数学定义AI爱人类的意义?’’
近年来,苏茨克维对人工智能安全问题日益关注。在OpenAI,他领导公司的超级对齐团队,该团队旨在利用公司20%的计算能力,确保所构建的AI系统不会对人类造成危害。
虽然阿尔特曼被罢免的具体原因尚不明确,但熟悉董事会想法的消息人士称,苏茨克维与阿尔特曼在安全问题上存在冲突。在周日晚上发送给OpenAI员工的备忘录中,公司剩余四位董事会成员表示,这并非解雇阿尔特曼的原因。“山姆的行为及其与董事会互动中缺乏透明度,削弱了董事会有效监督公司的能力,“他们写道。
苏茨克维和其他董事会成员选择接替阿尔特曼的人选埃米特·希尔曾在9月表示,出于安全考虑,他支持放缓AI发展速度。“如果我们现在的速度是10,暂停意味着降到0。我认为我们应该以1-2为目标,“希尔在X上写道。
周一早上,苏茨克维在X上发文收回自己的行动。“我从未想过伤害OpenAI,“他说。“我热爱我们共同构建的一切,我将尽一切努力让公司重新团结起来。”
阿尔特曼迅速回应了苏茨克维的X贴文,将其转发给自己的200万粉丝,并附上三颗红心。
迪帕·西塔拉曼对本文有所贡献。
联系罗伯特·麦克米伦,邮箱:[email protected]
刊登于2023年11月22日印刷版,标题为《告知阿尔特曼被解雇的OpenAI天才》。