前OpenAI董事呼吁对领先的人工智能公司进行审计 - 彭博社

海伦·托纳

摄影师：杰罗德·哈里斯/盖蒂图片社Demis Hassabis

摄影师：西蒙·道森/彭博社前OpenAI董事会成员海伦·托纳表示，领先的人工智能公司应该被要求与公众分享他们正在构建的技术的能力和风险，并在这些工具出现问题时收集更多数据。托纳在温哥华的TED大会上发表讲话时表示，人工智能公司应该“分享他们正在构建的内容，他们的系统能做什么，以及他们如何管理风险。”这是她自去年底从OpenAI董事会辞职以来的首次公开露面。托纳还呼吁“人工智能审计员”被允许“审查他们的工作，以便公司不只是自己给自己打分。”托纳是乔治城大学安全与新兴技术中心的主任，曾是OpenAI董事会的一员罢免了OpenAI首席执行官萨姆·奥尔特曼。在他被解雇之前，奥尔特曼试图让托纳从她的职位上下台，因为她与他合著了一篇批评OpenAI安全实践的研究论文，彭博之前报道。在OpenAI的员工中有超过90%威胁要辞职后，奥尔特曼很快恢复了他的职位。董事会的大部分成员，包括托纳在内，都被替换了。在她的TED演讲中，托纳分享了关于社会如何更好地管理人工智能的建议。她表示，科技公司可以建立“事故报告机制”，类似于飞机失事后发生的情况，以收集在诸如人工智能启动的网络攻击等情况下出了什么问题的数据。尽管托纳没有谈论OpenAI董事会的混乱，但她提到了自己在科技行业工作的丰富经验。“我已经在这些人工智能政策和治理问题上工作了大约八年，”她说。“在这个过程中，我深入了解了政府如何努力管理这项技术。在行业内部，我也见识了一些事情。”

谷歌AI业务负责人表示，公司将在未来花费超过1000亿美元开发人工智能技术 — 这是硅谷投资竞赛的又一迹象。

谷歌DeepMind首席执行官Demis Hassabis在温哥华的TED大会上被问及一个潜在的价值1000亿美元的超级计算机“星门”，该计划由微软公司和OpenAI筹划，根据上个月信息中的报道。