奥特曼美国大学演讲：202X年AGI到来，那会是智力丰富且廉价的时代_风闻

腾讯科技讯 4月28日消息，据国外媒体报道，今年1月，OpenAI联合创始人、首席执行官山姆·奥特曼（Sam Altman）曾做客美国霍华德大学（Howard University），与该校校长本·文森三世（Ben Vinson III）、计算生物学和生物信息学中心主任威廉·萨瑟兰（William Sutherland）围绕人工智能及其对人类影响进行了一场炉边谈话，这场炉边谈话在近期放出了全程视频。成立于1867年的霍华德大学是一所综合类的私立大学，为全美著名的黑人大学。

人工智能的迅速普及让霍华德大学的许多学生、教职员工和社区成员对人类的未来产生了疑问。人工智能继续在社会各个部门迅速渗透，导致人们担心人类在此过程中可能的失去。针对这些，三名谈话参与人深入沟通了人工智能的潜力与责任、伦理考量、偏见与多样性、算法偏见、人工智能在教育中的应用、以及人工智能与文化多样性等议题。奥特曼认为，人工智能可能成为有史以来最伟大的技术革命，但要实现这一目标，需要社会各界的合作与整合，确保以公平的方式部署该技术，让所有人都能够从中受益。

以下为对话内容摘要：

文森三世：很高兴你来到我们的校园。人工智能的发展如此之快。这绝对令人着迷。你一直站在这场变革的前沿。作为一个致力于社会公正、道德与责任的机构，我想问的问题是，我们如何确保在这么快发生这么多事情的情况下，优先考虑道德因素？像你和你的一些同事这样的行业领导者应该发挥什么作用？领导者应该在确保采取负责任的做法方面发挥什么作用？

**奥特曼：人工智能可能是世界上最伟大的技术革命，最伟大的新工具，最伟大的经济增长引擎。这项技术显然是惊人的，但要得到很好的部署，它需要与整个社会的合作和整合，并确保以公平的方式实现这一点。**我认为这项技术实际上非常适合这一点，但我们无法独自完成。这也是我们喜欢和硅谷以外的人交谈，拜访世界各国的大学，向不同背景、不同行业、不同目标的人询问他们希望人工智能能够做些什么的原因。

ChatGPT目前是一个使用非常广泛的产品。它必须为许多人服务，而且必须以包容的方式、公平的方式来做到这一点，并以某种方式把该项技术的最好部分带给每个人。当我们训练第一代GPT时，曾遇到很多非常困难的问题，我们当时训练第一代模型必须通过互联网，但会得到一个非常有偏见的系统。为解决这个问题，我们有了一些想法，其中一个叫做从人类反馈中强化学习，比我们想象的要好得多。

我不会说去偏见本身是个系统，因为我相信没有人会认为任何一个系统都可以去偏见。如果你看看GPT4在任何偏见测试中的表现，与早期版本相比，我们显然取得了很大进步。但现在我们面临更难的问题，也就是谁来决定这些系统的行为应该是什么？这个过程是什么样的？如何确保难以被注意到的边缘声音被放大？为此我们需要大量的合作。我们将推出一些关于民主输入的新内容。我们感觉非常兴奋的点是，技术现在允许这样做。所以现在我们要面对的是更困难的社会问题，即确保这一切能发生。

萨瑟兰：我和同事们讨论过的一件事是，当你在开发人工智能或ChatGPT时，你觉得在开发阶段进行边缘化输入会产生什么影响。多样性会在多大程度上有助于解决偏见问题？

奥特曼：关键在于提出工程想法的人。他们必须确保编写系统行为规范的人没有问题，然后是回答问题的人在此基础上提供的人类反馈，我认为这在各个层面都很重要。所以有很多原因让我很高兴访问贵校。我总是喜欢在大学里演讲，但其中一个原因是，请申请加入OpenAI，我们很想招募你们。

文森三世：我想就此问题再延展一下，因为我看到很多学生都在微笑。这是对我们上一个问题的反应。在一所大学，在霍华德大学，我们有令人难以置信的人才队伍。你对我们的学生有什么建议？他们可能想进入这个行业，在OpenAI或是其他人工智能公司工作，他们可以做什么？应该准备什么？

奥特曼：在来贵校参加活动之前，我刚参加了一个播客节目的录制。我会再重复在那个节目中说过的话，因为我真的很满意这个答案。**我认为这可能是最伟大的时刻，至少是自互联网革命以来的最伟大时刻。对进入科技行业感兴趣的年轻人来说，现在特别是目前，都非常幸运。因为当一个新行业刚刚诞生，出现在一个巨大变化的时刻，年轻人拥有最大的优势和最多的机会。年轻人要比年长的人更熟悉人工智能工具。他们带来了一系列新的视角，不仅关于如何做现有的事情，而且关于如何创造未来。**这些在此之前是不可能的。我认为年轻人推动了很多技术革命，我之前曾在创业孵化期Y-combinator工作，这对我们来说是显而易见。

这是一件非常重要的事情，也是一个非常特别的机会。除此之外，从这个角度来看，年轻人也将在发生令人难以置信的变化的事情进入自己的职业生涯。这是刚刚起步或更早的人的优势所在。这太棒了，就像当地面震动时，当所有规则发生变化时，当现有的权力结构受到威胁或削弱时等等。年轻人将有机会开始一些全新的事情，可以是创办一家新公司，可以是一种新的创造性工作，就像在现有公司做一份工作，比年轻人年长10或20岁的人不会有的那些创造性的火花。

作为一名投资者，这是我第一次错过机会。但我并没有错过太多，因为开发人工智能更有趣。当前是创办新公司的机会，新公司将在新技术革命的开端诞生。这是一个像互联网革命开始的时期，就像是亚马逊、谷歌和其他公司创办之初的模样；或者像移动革命开始时的模样。新的大公司往往会在大规模技术变革的开始时出现。

文森三世：没有太多背景的学生的机会是平等的吗？你对此有什么看法？

奥特曼：顺便说一下，你们也可以加入OpenAI。我们对这一技术革命感到兴奋的一件事是，代表人数不足的社区同样接受了这一技术性的革命。我们正利用新工具引领潮流，利用新工具开发新产品和服务。我们对目前看到的情况非常乐观，认为这将是更具代表性的新举措。

萨瑟兰：我们学校刚启动了一个大规模的数据科学项目。成立该项目的目的是确保为学生和毕业生打下良好的技术基础，让他们知道需要使用哪些工具。我们希望为他们的职业生涯做好准备，无论是创造性的思维，还是批判性的技能和思维。工具是不断变化发展的。希望你能够就此给出一些建议。

奥特曼：我非常赞同这一点，我认为批判性思维是创造力，是发现他人需求的能力，是产生新想法的能力。从某种意义上说，这将是未来最有价值的技能。想象一下，未来人工智能助手在整个公司无处不在，它们为我们完成任务，帮助我们表达我们的愿景，并为他人制作东西，届时最重要的是创意的质量和创意的策划。

**世界上最重要的是创意的质量和创意的管理，因为人工智能可以产生许多伟大的创意，但仍然需要有人来确定这是其他人想要的东西。我认为人类真的很关心事物背后的人，所以当我读一本书时，我做的第一件事就是去读一读作者的简介。如果让人工智能阅读这本书，情况就会有点不同。如果我正在使用某家公司的产品，我想知道创造它的人的情况。**所以我认为从两个方面来看，人类知道其他人想要什么，人类也关心某些东西背后的人类，这将是一项超级重要的技能。我认为学习这种创造的能力，以及从人工智能提供的众多选项中挑选出合适的方案，这将非常有价值。

我同意你的观点，工具将发生变化，但我也认为熟悉当今的工具和使用计算机的新方式非常重要。这对每个人都很重要，不仅是工具制造者，而且每个人都喜欢过去的方式。如果你不能使用手机，对你来说是一个巨大的劣势，但它们并不那么难用，人们会学习，但在你的职业生涯中你越早熟悉它，你就越了解生活。在座的所有人都很熟悉手机，可能从你记事起就如此。但我记得我第一次看到老年人使用手机的情形，他们难以适应，就像我想象的那样直观。

我认为人类的适应性是值得注意的，因此我很高兴人们不再认为与计算机交谈是一件难事，因为它就像与人交谈一样。计算机可以理解我们，与我们交谈，并为我们做事。但是两年前，几乎没有人认为这在不久的将来是可能的。两年前，使用ChatGPT充其量只是科幻小说中才有的情节。如果你在当时告诉全世界，两年后它将成为人们日常生活的一部分，我想他们会不相信，因为这是好莱坞电影才会有的桥段。

**这是世界刚刚经历的一个重大变化。我认为这可能是肯定的。这是自手机触摸屏以来我们使用电脑方式的最重大变化。**我认为它可能会比触摸屏带来的变革更大。你将能够像告诉朋友或员工一样告诉计算机，我需要这件事发生或者你对此有什么看法？或者你能帮我解决这个问题吗？亦或者你对这个问题有什么看法？现在它可能会像写一些代码，为你编辑一篇论文，帮助你分析问题，但有一天它会为你编写一个完整的程序，为你做一个完整的研究项目，帮助你提出新的构想。这一天不会在遥远的未来，所以我认为这是一件非常重要的事情。

萨瑟兰：我上周参加了一场关于移动计算的国际会议。在这次会议上，关于ChatGPT的讨论占据了相当多的时间。有人当时问了一个与ChatGPT相关的问题：人类社会正处于一个变革时代。这不一定是因为ChatGPT是技术天才开发的，而是因为它是变革性的，无论是准备STEAM考试的学生、人文学科的学生、家庭主妇还是中学生，它对每个人来说都易于使用。与会的研究人员在当时的会议中认为，我们正在经历一个变革性的时刻，几乎就像互联网刚推出时一样。你对此有何看法？

奥特曼：我将分两部分回答这个问题。首先，我同意这种转变的量级，因为**正在发生的事情是我们正在从一个智力有限且昂贵的世界走向一个丰富且廉价的世界。想一想，如果你有大量的认知劳动可以支配，你可以做多少事情来建立你希望看到发生的构想，对其他人有用，提供服务和建议。现在你可以雇人，你可以协调他们。这有点困难而且非常昂贵，世界上大多数人都负担不起这么多。我们把这个称之为认知服务，就像是没有多少人能负担起优秀的律师的费用。**例如，这是一种非常专业、非常昂贵的认知服务。如果这样做的成本降低了100倍或10000倍，而且不仅仅是法律咨询，因为我认为没有人需要更多的法律咨询。但是对于所有我们想要的东西，伟大的娱乐，伟大的产品和服务，其他一切，伟大的教育，伟大的医疗保健。这对世界来说是一个深刻的转变。我们对此感到非常兴奋，我认为每个人都可以感受到这种转变的幅度。

你的第二点实际上是一个我被问了很多次的问题，我认为这是一个很好的问题。**我在Y-combinator学到的一件事是，就像一个研究技术历史的孩子一样，在使技术易于使用和获取的问题上，你永远不会走得太远。你可以创造一种技术，让也许两倍的人使用它，或者让他们使用它两倍的时间。**所以我们有了这项我们认为非常酷的技术。我很清楚人们会有多喜欢它，但我们有一种感觉。我们首先在API中发布了它，就像一些技术人士玩得很开心一样，但不是很多人。这是一种未知的世界。

我们把GPT-3放入API。大概是2020年6月或是7月，人们开始用打孔机给电脑编程。我不知道那些人是怎么做到的。我觉得这听起来很神奇。很疯狂，但他们做到了。我们开始思考什么是最好的、最简单的、最自然的用户界面？现在终于，我们变得越来越像我们与世界互动的方式。许多人开始使用它，我们知道如何指向事物，鼠标是一个合理的类比。键盘有点假，但也够好了。这种想法是，我们有这些像窗口和图形信息显示给我们，就像我们看世界，我们看屏幕，有图像都可以工作。

智能手机在当时是一场巨大的革命，让我们用手完成操作，彻底摆脱了鼠标和键盘。所以我们在想接下来会发生什么，科幻小说已经预测到了这一点，所以我们不应该像现在这样花这么长时间来搞清楚。但你真的只是想要一台能和你对话的电脑，就像你和人类对话一样。我们非常善于使用语言以及语言的细微差别和复杂程度。虽然还不精确，还存在问题，但我们可以在很高的带宽下用语言交流非常复杂的想法。聊天界面本身显然很琐碎，但问题是我们如何调整底层模型？

观众提问：大家好，我是卡米拉·阿马斯（Camila Armas），来自北卡罗莱纳州罗利。我是政治学专业的大一新生，也是人文和社会科学学者项目Analo Core的一员。我的问题是，随着人工智能技术最近的蓬勃发展，许多隐私问题已经引起了人们的关注，这项技术的许多数据来自那些没有同意在这些项目中使用的来源，并且当被使用时也没有得到认可。在创建OpenAI和开发ChatGPT的过程中，你是否意识到了这些问题？目前是否采取了任何措施来解决这些隐私问题？

奥特曼：从知识产权的角度来看，从训练的内容中学习，但不要记住内容，我们认为这是非常重要的知识产权原则，我们不应该尽最大可能重复内容。这很难做到完美，因为《华尔街日报》的文章在互联网上被其他媒体转载。尽管模型在努力学习，但在某些情况下它们可能会不经意地记住一些片段，所以我们想做的是建立技术，确保当这些模型为用户提供输出时不会侵犯知识产权，并且我们会找到用新收入来源补偿知识产权持有者的方法。我们已经开始与许多新闻机构或许多出版商达成许可协议。我认为每个人都对这可能带来的新收入来源感到兴奋。

观众提问：作为一名工程专业的学生，我知道我们希望看到更多的专业项目，尤其是机器学习。我只是想知道OpenAI是否真的接触到更多边缘化的大学机构，让学生能够参与人工智能的研究？

奥特曼：是的，我们有很多项目。我们会培训学生擅长人工智能，我们希望一些学生毕业后能够加入OpenAI。我们会培训学生成为人工智能研究员和人工智能工程师。

观众提问：我是一名霍华德大学商学院的创新教授。感谢你的到来，感谢你倾听我们的声音。我们正处于人工智能的发展初期，许多互联网时代的先行者已经不再是领导者。我想知道你是如何看待OpenAI的不同之处？目前的市场竞争格局与上世纪90年代不同，所以我想问你是如何让自己与众不同的，并为OpenAI描绘出一个将持续20年或30年的未来？

奥特曼：这是一个很好的问题，我一直在思考这个问题。很明显，很难得到反馈。我们采用基本模型，并让它以某种方式运行。我们还需要决定它应该如何运行，然后让人们说这是一个好的响应，这不是一个好的响应；或者这符合规范，这不符合规范。在所有这些步骤中，非常重要的一点是，找出让社会认同的行为，确认它们应该是什么样的。我知道我已经提过这事儿几次了，但这是一个巨大的挑战，要做到这一点需要各种各样的声音。我认为这对该领域的发展至关重要。

观众提问：我是这所大学的一名理科硕士。我的问题实际上倾向于通用人工智能（AGI），因为人工智能未来会成为通用人工智能，人工智能如何拥有情感或能够自我学习。这是潜在风险的来源。人工智能实际上拥有情感。我一直很喜欢这种潜在风险。所以我想知道就OpenAI而言，在通用人工智能的问题上会如何平衡风险和收益？

奥特曼：这可能是我们想得最多的事情。我认为通用人工智能目前就像一个模糊的术语，人们以许多不同方式使用它。你问的问题我认为更接近于我所说的超级智能，不是可以做人类可以做的工作，而是可以做研究的东西。OpenAI的研究人员如何思考当我们达到那个水平时，世界会是什么样子，以及如何确保我们面对系统风险，这很难做到。我们有新团队来帮助我们思考，为未来世界做好准备；也有技术安全工作来思考如何确保人类保持对更先进模型的控制。这是一件大事，真的很重要，它将会以一种巨大的方式影响我们所有人，我们需要共同决定如何平衡这些风险和利益。

观众提问：我们会在什么时候达到通用人工智能的水平？

奥特曼：这很难说，我不太愿意给出答案。我总是很乐意预测未来会发生什么，但特别是在研究方面，这非常困难。**但我想说的是，在本世纪20年代，我们会有非常强大的系统。我想把它称之为通用人工智能，这是它的一个版本。在20年代将会出现早期版本。**这是我的猜测，但可能会更长。

观众提问：我来自澳大利亚，主修荣誉管理专业，辅修非洲研究。我的问题是OpenAI计划如何保护和支持工人的心理健康？这些工人从事着从OpenAI系统中标记和删除有毒或暴力内容的工作，而且这项工作通常由有色人种完成。

奥特曼：我们正在尽可能地与自己的团队成员合作，在我们能够更好地控制所提供的支持时做更多的工作。我们能做的最好的事情是使用这些人工智能工具，来确保人类不必看到最糟糕的内容或 与最糟糕的内容和工具互动。这些工具可以帮助人类获得更好、更轻松的体验，同时产生相同或更大的影响。我认为这是我们可以为提供这种反馈的人做的一件新事情。

观众提问：你认为OpenAI和人工智能将在加强协作式教育，以及人类未来如何通过人工智能学习的方面会发挥什么作用？

奥特曼：这是我们最兴奋的几个领域之一。学生和教师是ChatGPT的第一批大规模采用者，他们在做的每一步都继续给我们带来惊喜，这已经对教育产生了非常大的影响。事实上，很少有学生付费使用GPT-4，他们中的大多数人仍只是使用免费版本。GPT商店已有许多的教育GPT，我认为这是很好的教育体验。我们可以看到一条通往每个学生都能获得出色的人工智能个性化导师的道路，这将改变他们的学习方式。学生仍然需要人类教师来提供大量支持，但ChatGPT可能会放大教师的能力。18年后的每一个大学生都比在座的任何一位新生都要聪明，我认为这将是一个巨大的胜利。（编译/无忌）