独家:OpenAI 联合创始人 Sutskever 的新安全聚焦 AI 初创公司 SSI 融资 10 亿美元 | 路透社
Kenrick Cai,Krystal Hu,Anna Tong


项目 1 共 3 丹尼尔·格罗斯、伊利亚·苏茨克维尔和丹尼尔·莱维,人工智能公司安全超级智能的联合创始人在2024年8月拍摄的这张手稿照片中摆姿势。SSI/手稿通过路透社/档案照片
丹尼尔·格罗斯、伊利亚·苏茨克维尔和丹尼尔·莱维,人工智能公司安全超级智能的联合创始人在2024年8月拍摄的这张手稿照片中摆姿势。SSI/手稿通过路透社/档案照片旧金山/纽约,9月4日 - 安全超级智能(SSI),由OpenAI前首席科学家伊利亚·苏茨克维尔新成立,已筹集10亿美元现金,以帮助开发远超人类能力的安全人工智能系统,公司高管告诉路透社。
SSI目前有10名员工,计划利用这些资金获取计算能力并招聘顶尖人才。它将专注于建立一个小型高度信任的研究人员和工程师团队,分布在加利福尼亚州帕洛阿尔托和以色列特拉维夫。
该公司拒绝透露其估值,但接近此事的消息人士表示,其估值为50亿美元。这笔资金突显出一些投资者仍愿意对专注于基础人工智能研究的杰出人才进行超额投资。尽管对资助这些可能在一段时间内无利可图的公司的兴趣普遍减弱,这导致几位初创公司创始人离职前往科技巨头。
投资者包括顶级风险投资公司安德森·霍洛维茨、红杉资本、DST全球和SV天使。由纳特·弗里德曼和SSI首席执行官丹尼尔·格罗斯运营的投资合伙企业NFDG也参与了投资。
格罗斯在一次采访中表示:“对我们来说,周围有理解、尊重和支持我们使命的投资者是很重要的,我们的使命是直奔安全的超级智能,特别是在将我们的产品推向市场之前,花几年的时间进行研发。”
人工智能安全,即防止人工智能造成伤害,是一个热门话题,因为人们担心流氓人工智能可能会损害人类利益,甚至导致人类灭绝。
一项寻求对公司施加安全监管的加利福尼亚法案已 分裂了行业。它遭到像OpenAI和谷歌这样的公司的反对 (GOOGL.O),并得到了Anthropic和埃隆·马斯克的xAI的支持。37岁的苏茨克弗是人工智能领域最有影响力的技术专家之一。他与曾在苹果公司 (AAPL.O)领导人工智能项目的格罗斯以及前OpenAI研究员丹尼尔·莱维共同于6月创立了SSI。苏茨克弗是首席科学家,莱维是首席科学家,而格罗斯负责计算能力和筹款。
新山峰
苏茨克弗表示,他的新事业是有意义的,因为他“发现了一座与我之前所做的工作有些不同的山。”
去年,他是OpenAI非营利母公司的董事会成员,该董事会投票决定将OpenAI首席执行官山姆·阿尔特曼罢免,理由是“沟通崩溃”。罢免 OpenAI首席执行官山姆·阿尔特曼,理由是“沟通崩溃”。几天之内,他撤回了决定,并与几乎所有OpenAI员工一起签署了一封信,要求阿尔特曼回归并要求董事会辞职。但事件的发展削弱了他在OpenAI的角色。他被从董事会中移除,并于五月离开了公司。
在苏茨克维尔离职后,公司解散了他的“超级对齐”团队,该团队致力于确保人工智能与人类价值观保持一致,以为人工智能超越人类智能的那一天做好准备。
与OpenAI为确保人工智能安全而实施的非常规公司结构不同,SSI拥有常规的营利性结构。
SSI目前非常专注于招聘适合其文化的人。
格罗斯表示,他们花费数小时审查候选人是否具有“良好品格”,并寻找具有非凡能力的人,而不是过分强调资历和经验。
“让我们感到兴奋的一件事是,当你找到对工作感兴趣的人,而不是对场面和炒作感兴趣的人,”他补充道。
SSI表示,它计划与云服务提供商和芯片公司合作,以满足其计算能力需求,但尚未决定与哪些公司合作。人工智能初创公司通常与微软等公司合作(MSFT.O) 和 Nvidia (NVDA.O) 以满足他们的基础设施需求。Sutskever 是早期的扩展倡导者,他提出了一个假设,即 AI 模型在获得大量计算能力的情况下会提高性能。这个想法及其执行引发了一波对芯片、数据中心和能源的 AI 投资,为像 ChatGPT 这样的生成 AI 进展奠定了基础。
Sutskever 说他将以不同于他前雇主的方式来处理扩展,但没有分享细节。
“每个人都只说扩展假设。每个人都忽视了问,我们在扩展什么?”他说。
“有些人可以工作很长时间,他们会更快地走上同样的道路。这并不是我们的风格。但如果你做一些不同的事情,那么你就有可能做一些特别的事情。”
通过《竞选之路》时事通讯获取关于美国选举的每周新闻和分析,以及它对世界的影响。注册 这里。