ChatGPT负责人最新采访: AI发展应避免美国中心主义，尊重不同价值观_风闻
乌鸦智能说-1小时前
本文编译自播客节目SXSW。Peter Deng是OpenAI消费产品副总裁兼ChatGPT负责人。在这场访谈中，他将与消费类VC合伙人SignalFire和前TechCrunch编辑Josh Constine共同探讨人工智能时代人类应该扮演怎样的角色以及人类如何与AI共生存。
Peter Deng认为，AI不仅是一种工具，更是一种催化剂，让人类从回答者转变为提问者。同时，他分享了一系列AI在医疗、教育、艺术和法律等领域的实际应用案例，强调了AI作为灵活工具的社会价值。
关于AI发展的安全问题，Peter建议AI行业应加速开发，但在部署时保持谨慎。Peter认为，AI的发展应该与人类的价值观相协调，反应和尊重不同的文化和价值观，避免美国中心主义。
此外，Peter还承诺ChatGPT的基础版本将永久免费，以确保所有人都能从AI技术中获益。
目录
01 AI时代人类的角色
02 加入OpenAI的原因
03 ChatGPT的社会价值
04 ChatGPT的开发理念
05 AI与人类共同演化的关键
/ 01 / AI时代人类的角色
Josh Constine: 人工智能时代，人类的角色是什么？
Peter Deng: 我很高兴能被邀请来这里，因为在日常工作中，我们经常只专注于功能和细节，很少有机会退一步来思考整个人类社会。在奥斯汀这几天能够随意走走，欣赏艺术作品，让我意识到人工智能为人类带来了如此多的好处。某种程度上，它实际上让我们更加“人性化”。我认为人类思维的本质就是好奇心，人工智能作为一种强大的工具，让我们能够深入探索并不断提出新的疑问。
让我给你举一个例子。就在两天前，我在LinkedIn上读到一篇文章，标题是《有了ChatGPT，我现在终于可以享受莎士比亚了》。这真是一篇很吸引人的文章。我不知道你当年在高中时是怎样的情况，但我在学习莎士比亚作品时确实很费劲。我会在家里读那些章节，但有一半单词都不理解。然后在下午1到2点，我去上英语课，老师会按计划进行讲课。但我可能只有一两个机会，就我对课文感到好奇的地方提出疑问。
而现在有了人工智能，那位作者能一边阅读莎翁作品，一边打开ChatGPT的语音模式，对剧情中每一个他感兴趣和好奇的地方都提出问题，深入挖掘人物的意图。人工智能赋予他这种探索的能力，是如此强大。我觉得这从根本上让我们能够发挥天生的好奇心。
那位作者用了一个很好的词来形容ChatGPT，我现在记不太清楚了，大概是说它就像一个“永不疲惫的教授”，永远在那里解答任何问题，让你能够深入探索。在我看来，人工智能正是为我们打开了更多探索自身好奇心的大门。
Josh Constine: 是的，有点像当年计算器问世后，它让我们不再纠缠于枯燥的数学运算，而能把注意力放在数学更有艺术内涵的层面上。现在感觉就是我们需要弄清楚哪些知识才是真正值得记住的。人工智能也许能写一本书，但究竟写什么书、为谁写，以及如何将书中内容应用到现实生活中，这些都需要发挥人类的智慧。这样看来，从某种程度上来说，我们的角色正从"回答者"和"创造者"更多地转变为“提问者”和“策划人”吗？
Peter Deng: 这种转变可能正在发生。我认为这种转变并非坏事，反而很有意思。如果从更高的层面来看，人工智能为我们提供了一种全新的工具和基础，我们可以在此基础上构建更多东西。
就像计算器的例子一样。与其花时间做算术运算，不如思考更高层次的数学问题。现在，与其花时间回忆每一个事实，你可以使用谷歌或数据库来获取知识，从而提出更高层次的问题。我有一个理论，就是每当出现重大科技进步时，人类的技能水平就会被推向更高层次。
人工智能作为一项基础性的变革性技术，将使得我们把技能水平推向更高。让我再举个例子，在我长大的过程中，学习QBasic编程就是盯着蓝色屏幕上编号的代码行。要构建有意义的东西真的很困难，我当时只是在那里摸索。而现在，我9岁的孩子在用Scratch学编程，那就是拖拽这些逻辑图形块，从更高的层次上思考程序，而且学习的年龄更小。他在学会打字之前就学会了编程，而打字过去是一个障碍，是先决条件。
所以想象一下，在人工智能的辅助下，他和我其他孩子长大后会怎样，从很小的时候就能借助这个神奇工具，从更高的层次思考问题。
Josh Constine: **你认为人工智能是否真的能释放我们去思考更高层次的问题？**比如人生的意义、自由意志、我们从何而来等等，人工智能是否会改变我们对自身的认知？
Peter Deng: 这个问题可以有两种回答方式，我先回答简单的那种。我认为，要探索任何这类想法，我们都需要时间和空间，对吧？无论好坏，我们的大脑都是一直在思考的有机体，我们不断地思索"如果这样，如果那样"的问题。这种进化使我们走到了今天，但要平静下来思考一些问题，就需要你花费时间。
我还记得妻子曾启发了我，我们一同参加了为期10天的静修冥想。最终，我们有了独处的空间去思考一些事情，发掘一些小小的洞见。所以从某种意义上说，人工智能让我们有更多时间去思考更高层次的问题，它能让我们重新拥有时间。
**我也认为，人工智能现在也开始帮助我更深入地思考问题。我使用ChatGPT的一种方式就是让它成为一个思维伙伴。**有时我会有一个模糊不清的想法，不太确定如何阐明。语言的美妙之处在于，它实际上帮助你梳理思路。
每当我在某件事情上心智混乱时，只要把它写出来，我的思路就会线性化、清晰化。写作本身实际上就是在阐明思路。所以我个人在很多情况下都使用ChatGPT来讨论某个想法。通过这种对话，它最终能帮助我完善并获得洞见。
所以，人工智能既能给我们时间去探索那些概念，也能帮助我们通过提问的方式深入思考，有时会发现你原本可能无法获得的见解。
Josh Constine: 我在TechCrunch写过4000多篇文章，我觉得从来没有在开头时就知道最后一句会是什么。你只有在实际交谈时才会明白自己想要表达什么。人类也有这样深入思考的能力，但我们常常缺乏这种思维伙伴来切磋讨论。
Peter Deng: **是的，在ChatGPT之前，这种思维伙伴只在一天中的某些时间是清醒的。**当我在深夜工作时，孩子们和家人都已经睡觉了，同事们也睡了，而我正在思考如何阐明某些事情，ChatGPT就在那里清醒着。我可以随时与它开始"切磋"，探索那个想法，深入思考过程。
Josh Constine: 是的，感觉我们正从推动进步的"引擎"转变为指引方向的"指南针"。人工智能可能是一种传送门，但只有当你明确目的地是什么时，它才是有意义的。
就像你说的，工作可能会让人精疲力尽。当你整天都在执行任务而非策略性思考或动更高级的脑筋时，就会疲惫不堪，根本没有时间去问那些更大的问题。马克思曾说，宗教是人民的精神鸦片。也许人工智能就是让人民从这种混沌中清醒过来的"纳洛酮"，让我们最终有时间来面对这些棘手的问题。
Peter Deng: 一切都取决于人们如何使用它，这正是这些技术灵活性的一大优点。我们已经看到人们将其用于不同的目的。
/ 02 / 加入OpenAI的原因
Josh Constine: 但我想回到一个更根本的问题，你为什么会接受这份工作？老实说，你很早期就加入了谷歌和Facebook，你本可以安享富贵了。你真的不需要工作，兄弟。我认识你十多年了，你是一个非常谦逊、非常有同理心的人。既然你并不是为了钱，那为什么要接受这么艰巨的工作呢？
Peter Deng: 我觉得这是一项非常重要的工作。我被这家公司的使命所鼓舞，就是要实现安全的通用人工智能，并让全人类都能从中获益。在我有生之年，我从未见过如此强大、如此富有前景的技术。所以能参与其中，我深感荣幸。
**我每天都会写一份感恩日记，里面多次写到"哇，我很感激能参与这段历程"。**我之所以有这种感激之情，是因为如果我们做对了，这项技术将是人类的福祉，我只是不想搞砸了。
Josh Constine: 很高兴听你这么说。但在过去的工作中，比如在Facebook Messenger时，你的目标一直都很直白，比如"让Messenger跑得更快，让它更像真人对话"。在Uber时也是"让人们以更便捷的方式到达目的地"。它们感觉就像是很直观的路线图。而现在面对这么一个快速发展且前景开放的产品线，你如何确定应该着重于哪里？你想优先构建哪些使用案例？
Peter Deng: 这个问题很好。随着这些模型变得越来越智能，我们可以进入的领域就会越来越广阔。所以这确实是一个我经常思考的问题，选择正确的道路，承担着很大的压力。**我处理这份工作并试图支持团队的基本方法，是审视人类已经形成了很久的进化方式，并从中汲取经验，将其付诸实践。**比如说，有很多人将ChatGPT用于写作或编码。我们试图更深入地研究编码、写作或数据分析等领域的正确人类思维模式，看看如何在这些方面为用户提供更好的辅助。
我想任何产品的目标都是移除人们在做某些事情的时候所遇到的阻力，让他们从技术中获得最大收益。我觉得这就是挑战的关键所在。
/ 03 / ChatGPT的社会价值
Josh Constine: 你认为ChatGPT可以为世界提供什么？
Peter Deng: 我觉得世界需要一个灵活的工具，让他们能够消除达成自身目标的障碍。实际上，在这个产品上工作的最鼓舞人心的一点就是看到人们有如此广泛的使用案例。
我们采访过一位医生，他利用ChatGPT来总结最新的研究成果，向其提问以了解最新进展。我们采访过一位艺术家，她会拍下自己的画作，然后实时获得评论，真诚地接受批评，从而创作出更好的艺术品。我们也采访过在公司从事数据分析的人，他们说"我能在20分钟内完成以前需要4个小时才能完成的任务"。所以我们看到了各种各样的使用案例。
我们面临的一大挑战是，一方面要与尽可能多的用户交流，了解他们想要如何使用它;另一方面要努力让产品为他们提供更好的体验。我认为这就是协同演化的一部分，我们推出一个通用的产品，看看人们喜欢如何使用它，然后我们再努力让产品越来越好，跟随社会赋予它的方向前进。
Josh Constine: 通过技术，我们一直在推动生产力的不断提高。比如过去没有电子邮件，现在有了。但发明了电子邮件后，我们似乎并没有减少工作量。你提到有人把4小时的工作缩减到20分钟，那我们真的获得了这部分时间吗？还是我们的雇主会将它应用到别的地方？它真的让我们的生活更轻松了吗，还是只是让我们可以更快完成任务，从而腾出时间做更多工作？
Peter Deng: 嗯，我真正觉得有趣的是，它让个人拥有了选择权。我坚信人工智能只是加速了你自己的愿景的实现。举个例子，就在两天前的一次晚宴上，有人跟我说他创办了一家为初创公司租借GPU的公司。他说过去他必须成为一名系统管理员才能做到这一点，但现在只要问ChatGPT如何远程启动服务器，就可以掌握经营这个业务的办法。于是他就可以做更多事情了。
所以我认为，每个人都能做更多事情，而你将精力投注到什么地方，那就由你自己决定了。
Josh Constine: 那系统管理员怎么办呢？
Peter Deng: 这个问题很好。我想那个系统管理员也能做更多事情。也许他在其他方面技能不太好，但现在可以借助工具来提升和扩展自己的技能组合，让每个人都能做更多事。我认为公司会变得更小，但数量会更多。为什么这么说？当然我无法预知未来，这只是我的猜测。
但从本质上说，人是一种雄心勃勃的生物，我们都有自己想追求的愿景。过去出现的每一项新技术，我觉得它们都在不断地为人们做更多事情扫清障碍。举一个具体例子，我有很多技能缺陷，不知道该如何弥补。比如说，一、我拼写很差；二、我的笔迹非常糟糕；三、我的基本算术能力也不佳。我想我的大脑可能有点与众不同的构造。如果你把时间回拨50年，我真的不知道自己会有什么机会。但现在我们有拼写检查、自动补全，还有计算器，我觉得自己能够发挥独特的长处，利用当下可用的技术做更多事情。
Josh Constine: 作为四个孩子的体贴父亲，你是否发现培育孩子和培育GPT之间有相似之处？
Peter Deng: 我从对孩子们的学习和成长的观察中获得了很多启发。让我讲个小故事吧。我的一个女儿非常有创意，喜欢制作东西，她会在房子里到处找瓶盖、硬纸板，剪剪贴贴，大量使用胶带，创作出非常有创意的作品。她让我想起小时候的自己。我实际上曾制作过鲁布·戈德堡式的机器——不是机器，太过奖了，应该说是用胶带、纸板和大理石做的拙劣装置。
现在，当我看着她和我自己时，我想：哇，我们在某种程度上有着相似的基因，我们都有一种创造的渴望。我很期待看到她在长大过程中将拥有哪些工具，因为有了新兴的惊人技术，她将能比我做得更多。这让我非常有启发，去思考我们虽有相似的DNA，但她将能够在我有生之年做不到的事情。
/ 04 / ChatGPT的开发理念
Josh Constine: 你希望在ChatGPT中灌输哪些具体价值观？
Peter Deng: 这应该从全人类的价值观角度来思考。我的理想是，人工智能能够契合每个使用者个人的价值观。我不认为它应该是规范性的。世界上有太多丰富多彩的文化和思维方式了。我最近带家人去日本度假。我喜欢旅行，虽然不太频繁，但每次都很享受。因为一方面你会在飞机上重置大脑，另一方面当你落地时，你会注意到这些微小的文化差异，这是很美妙的。
这正是人性的美妙之处，来自世界不同地区的不同文化和不同人有着不同的价值观。比如日本文化对细节的追求催生了本国精湛的工艺。这太棒了。所以并不是我想要灌输什么价值观，我只希望我们能够以某种方式将世界各地的价值观融入到人工智能中去。
Josh Constine: 你认为OpenAI作为一家美国公司这个事实，会不会导致人工智能自然而然具有美国本位主义的性质？比如，我们创造了它，我们就有机会输出我们认为的民主、言论自由等理念？
Peter Deng: 从内部来看，我个人并不是这样认为。就像我之前说的，我真的希望找到一种方式，让人工智能能够体现每个使用者个人的价值观。也许我们今天采取的一些步骤会导致你所说的情况，那绝对不是目标所在。
Josh Constine: 最近围绕董事会等方面出现了很多新闻，你觉得这分散了OpenAI发展的注意力，还是一个进行价值观对齐的机会？
Peter Deng: 不得不说我和团队一直在专注于手头的工作。但我个人还是很高兴看到了一些变化，比如有新人加入了我们的董事会。我认识其中的一些人，他们都是很棒的人，很高兴他们能加入。
就我个人而言，这并没有分散注意力。我们确实还有很多工作要做，而且我们非常清楚需要执行的路线图，一些新的研究成果令人鼓舞，我们设法将它们带给每个人。这一直是我团队的重点所在。
Josh Constine: 我能给你列个我希望OpenAI具有的价值观清单吗？我觉得，世界上最好的老师并不总是最聪明的那些，而是最有同理心的人。他们意识到每个学生的独特之处，并做出相应调整。我觉得这正是你所说的，要试图与每个用户的价值观保持一致。在之前的产品如Facebook时，你们曾努力说服别人遵循当地法律，同时利用国际人才确保内容审核规则等与当地规范相一致，而不是试图输出国际视角。
但我希望能看到OpenAI拥有以下价值观:坚持找到真正的答案，而不是搪塞说无法回答；使我们得到启发，我们当然可以获取一些事实信息，但如果它也能给我们提供灵感，那再好不过；诚实地承认自身局限性，让我们知道什么时候实际上需要去谷歌搜索或Perplexity搜索；不要仅仅基于互联网上的人类数据进行训练；去除模型中存在的刻板印象和偏见；一种对于保护人类、社会、地球的责任意识。
这些是否与你的理念一致？我还缺少了什么吗？
Peter Deng: 这些确实引起了我的共鸣。我觉得追求真相、追求事实非常重要。另外一点就是，我们要确保技术是为了服务人类，助力我们实现目标和抱负，这将是更好的技术。
Josh Constine: 目前有没有什么你信任AI能为你做的事情？比如你会让它为你做医疗诊断吗？或者让它在法庭为你辩护？
Peter Deng: 好的，让我先谈谈辩护这一块。我希望自己不需要在法庭为自己辩护，但如果我真的被错误指控犯罪的话，我完全希望能有AI作为我的法律团队的一部分。想象一下，如果你有自己的律师，而这个律师又配备了一个助手，实时聆听证词，交叉核查事实和时间线，查阅所有相关判例法律，并能够为人类律师提出建议，比如"你可能应该问这个问题"或者"情况可能会这样发展，你怎么看？"。我认为虽然最终判断还是需要人类参与，但这种超级助理的能力将是非常强大的。所以如果在法庭上有这样的助手，我一定会很乐意使用。
你问到了医疗方面。我想我们实际上已经开始迈出了这一步。我在努力回想，我们听到过这样一个故事:一位母亲的孩子长期处于慢性疼痛状态，在三年的时间里，她看过大约17位医生，但没有人能确诊。有一天，她把收集保存的所有数据喂给了ChatGPT，ChatGPT提出了"脊髓束综合征"的诊断建议。她去看了医生，证实了这个诊断，做了手术，孩子的状况好多了。所以，你说的这个临界点，我觉得有些事情已经开始发生了。
/ 05 / AI与人类共同演化的关键
Josh Constine: 我绝对觉得人工智能已经处在可以写笑话的临界点上了。我确实尝试让它帮我为今天写了一些笑话，所以如果你没笑的话，你就知道该怪谁了。我也确实将它用于健康方面，效果很不错。还有很多令人惊叹的用例。在SignalFire的AI医疗portfolio中，CodaMetrics正在帮助医生进行医疗账单编码，PayZen在制定个性化的还款计划，以确保医疗费用不会使家庭破产。Wellth则在确保人们服用药物，你每天都要拍照证明自己服药，它才不会从你一个月60美元的费用中扣除2美元，这就激活了损失厌恶心理。所有这一切都要归功于AI。所以感觉就像是在突飞猛进，但是，我们如何更加适应这些变化呢？人们愿意将人工智能应用于这些用途，需要什么条件呢？
Peter Deng: **我认为这正是共同演化的一部分，就是这次讨论的主题。这需要时间、反复接触和体验，不仅仅是听到这些故事，而是亲身体会。**通过更多的接触和亲身体验，你就能开始以不同的方式看待它并建立信任。
让我给你举一个例子。很久以前，当我第一次买了特斯拉汽车时，它有一个被称为"自动驾驶辅助"的功能。但那时还不是真正的自动驾驶，本质上就是一种巡航控制。一开始，它只是保持在车道内行驶，并监控前方的车辆。随着时间的推移，它变得越来越好。现在它会建议你在高速公路上变更车道，或者在某些时候，你打开转向灯，它就会为你变更车道。现在我们已经进入了一个新阶段，我个人足够信任这项技术，在某些路段上，我可以放心让它自己完全控制，甚至让它在公路上开车，尽管我还没有做到这一步。
**反复接触和体验是共同演化的一个重要部分。**我为团队所做的工作感到非常自豪，那就是我们在开发AI的同时，也在努力使其被更多人所使用，让人们能够亲自尝试，获得相关素养，体会这项技术能为你做什么。
我很高兴我的孩子们能一路亲眼目睹，我可以在新功能发布之前给他们展示，并告诉他们不要告诉朋友们，看着他们的思维也随着使用这些工具而发生演变。我认为能够亲自操作AI将是非常重要的一步。
Josh Constine: 所幸我们还没到人们沉迷ChatGPT的地步，但很明显，包括你参与过的一些产品在内的世界顶级应用程序，已被证实对健康有一些值得质疑的影响。从你在Facebook和Instagram工作的经历中，你学到了什么有关安全性的经验教训？你是如何将这些经验应用到OpenAI的？
Peter Deng: 这是一个很好的问题。我认为从根本上说，我们在打造不同类型的产品。我从Instagram学到了很多东西，学到了精湛工艺和设计之美。每一份工作我都学到了新的东西，并将其带到现在的工作岗位上。
但我觉得，ChatGPT的根本目的是实现实用性和满足好奇心。我甚至不知道沉迷ChatGPT会是什么情况，因为它本质上就是为了协助你，赋予你超能力来突破面临的挑战，无论是进行互联网研究还是思考某个问题，所以它的产品形态与我曾经工作过的其他产品是不同的。
Josh Constine: 你觉得OpenAI需要一些现实主义者吗？我知道，打造伟大产品需要乐观主义者的驱动力。但我也认为，有时你需要有某个人去假设人性中最坏的一面，因为我们本质上有很多罪恶的想法并可能将这些想法投射到我们使用的产品中。所以你们是如何预防那些潜在的问题的？
Peter Deng: 我们确实有专门的团队和人员来处理这个问题。我们把安全性视为产品构建的一部分，而不是事后考虑的事项。我们有一个出色的安全团队与我们的团队合作。在我们完全构建一个功能之前，我们就会与他们合作，他们会考虑如何进行红队测试，以及如何在推动产品边界的同时确保我们以非常安全的方式进行开发。这些人是团队中非常宝贵的部分。
Josh Constine: 你的孩子们还很小，你会让他们首先使用ChatGPT、社交网络还是Google？你更倾向于让他们无限制地使用哪一个？
Peter Deng: 他们现在没有无限制地访问任何东西。我的孩子们分别是3岁、5岁、7岁和9岁。在这个年龄，他们没有这样的权限。但在有监督的使用下，我可能会选择让他们使用ChatGPT。我认为有很多有趣的东西可以帮助他们探索创造力。例如，我的女儿现在非常喜欢写故事。她可以拍下她手写的故事，然后让chatGPT帮助她打字，就像是说：“嘿，你能把它转录下来吗？”然后她可以把它放到Canva中，制作成她正在构思的故事书，或者利用DALL-E生成图像，让她的故事栩栩如生。我觉得这是非常酷的，我认为这是我愿意让他们使用的工具。
Josh Constine: 我一直有一个疑问，如果我们不知道某个东西是人类创作的还是 AI 生成的，该怎么办？这重要吗？
Peter Deng: 这真是个好问题。我认为短期和长期的答案可能是不一样的。短期来看，这绝对很重要。比如今年是选举年，确保信息来源的真实性就非常重要。OpenAI 已经做出了承诺，会考虑图像的来源以及安全性问题。
但是从长远来看，我不确定人们是否会在意。我们不知道未来人们会怎么看待这个问题。我举一些例子或许能帮助你理解。比如说你收到朋友发来的短信，句子结构良好，你会在意其中是否使用了自动纠正功能吗？或者你作为VC合伙人收到一封关于创业公司的推销邮件，你会在意对方是否使用了语法检查工具吗？走在奥斯汀的街上，你会在意路边的广告牌是用 Photoshop 制作的吗？他们用的是什么工具并不重要。这是一个真正的问题。从长远来看，我不确定人们是否会在意。但如果人们在意，那么这种情况就会得到纠正。
比如说面包吧，以前的面包都是手工制作的，就像艺术品一样。后来出现了 Wonder Bread 这种批量生产的面包，人们开始怀念手工制作的面包。旧金山有很多地方可以买到真正的手工面包，你可以亲眼看到面包的制作过程，闻到面包的香味，这会影响你的体验。所以，当人们认为某件事很重要的时候，它就会变成一件事。
Josh Constine: 也许应该搞一个人类认证标签，就像有机食品一样。不过，就个人交流、非明显 AI 生成艺术和政治领域而言，我认为应该制定一些披露规则，让人们知道是否使用了 AI 工具。
Peter Deng: 是的。比如商务邮件、营销活动这些使用 AI 并不奇怪，但是如果是妻子发给我的诗，我肯定想知道是否使用了 AI。不过，道德上来说，人们应该自己主动披露。
Josh Constine: 也许我们可以从约定俗成开始，也许未来会演变成法律法规。
Peter Deng: 我同意。人们在意的话，我们就应该适应，我们的产品也应该适应。道德上来说，人们应该互相坦诚。
Josh Constine: 过去人们在学校学习如何进行谷歌搜索、引用资料以及识别网络钓鱼欺诈。如今，我们该如何提高人们对人工智能的认知度，既让人们能享受其带来的益处，又能应对其风险和局限性呢？
嘉宾 Peter：这真是个好问题。我认为提高人们对人工智能的认知度的最佳方式是让相关知识易于获取。我们团队正在做的一件重要工作就是将研究成果转化为易于使用的产品，并尽可能大范围地发布。
Josh Constine: 这是否意味着基础版的 ChatGPT 将永远免费？
嘉宾 Peter：**是的，绝对会一直有免费版本。**随着我们不断提高运行效率，我们也会将更多的功能加入到免费版本中。让所有人受益是我们的使命之一。诚然，目前提供服务的花费很高，但我们的目标正是如此。
主持人 Josh：我认为免费的互联网服务，比如 Facebook 和 Google，是非常重要的。正是因为无需付费使用，世界上数十亿原本无法负担的人们才能够使用这些服务。这些免费服务的部分资金来源可能是来自购买力较高的西方用户、企业以及使用这些平台的广告商。我希望高级版的ChatGPT能够为其他所有人免费使用提供资金支持。
嘉宾 Peter：没错，这正是我们正在考虑的。我们把它作为一个整体的渠道来看待。企业用户使用高级版并从中获得巨大价值，他们支付的价格与其使用量成正比。但其中的一部分价值会惠及其他人，这正是我们的设想。
主持人 Josh：一些行业，例如矿业，会强制矿业公司为其造成的环境影响买单。如果OpenAI在“挖掘”互联网，也就是吸引人们的注意力，那么你们是否应该为一些普及人工智能知识的项目提供资金支持？大型人工智能公司 (例如微软) 是否应该为学校的普及人工智能知识项目提供资金支持，让孩子们能够学习自主学习、识别深度伪造欺诈、进行提示工程 (Prompt Engineering) 并为未来职业做好准备？
嘉宾 Peter：绝对的。OpenAI目前确实有一些这样的项目。我们的一部分工作就是与教育工作者合作，研究如何最好地利用人工智能来推动教育发展。
主持人 Josh：在我询问 Twitter 粉丝他们想知道的关于人工智能的话题时，深度伪造欺诈是人们最关心的问题之一。你们是如何看待这个问题的？
嘉宾 Peter：我们肯定也对这个问题感到担忧。我们发布技术时非常谨慎，会反复评估。在发布 API 时，我们会考虑所有可能出现的情况，并确保考虑到安全性方面的影响。正如我之前所说，在ChatGPT和相关API的产品开发过程中，我们会重点考虑潜在的误用问题。这会影响我们是否发布某个功能。
主持人 Josh：这就引出了人工智能领域可能最大的争论，即**加速发展 vs 降速发展。**有些人认为我们应该尽可能快地推进人工智能发展，以改善医疗健康状况、应对气候危机以及保持国家竞争力。但另一些人则认为也许应该放慢发展速度，以便更好地控制人工智能发展的方向、避免意外后果，让人们有时间去适应并做好准备。您如何看待加速与缓速之争？
Peter Deng: 我认为我们处于这两者之间。我认为任何新技术都会有非常积极的用例，同时我们也需要认真考虑一些潜在的问题。我认为应该以负责任的速度发布技术，给社会一个反应的机会。确保我们有适当的保障措施，尽可能在发布功能时就已经内置了这些保障措施。但我不认为，如果没有与外界的接触，AI能在实验室里安全地开发出来。因为公司和整个行业无法预知社会将如何使用它，哪些是好的方面，以及我们需要非常谨慎的领域。
Josh Constine: 听起来你支持加快开发速度，但在部署时保持谨慎？
Peter Deng: 是的。
Josh Constine: 因为像Google这样的公司，自从你们推出ChatGPT之后，他们似乎一直在追赶。他们似乎急于推出产品，即使是最近的Gemini项目。Gemini一推出就出现了很多问题，他们不得不撤回产品。当公司这样做时，我们应该如何对待？如果AI犯了错误，谁应该负责？AI模型应该被修改或撤回吗？工程师、公司还是你个人应该承担责任？
Peter Deng: 这又回到了那个假设性的法律问题。我认为我不能代表谷歌发言，因为我不在那里工作，但这实际上是一个很好的有助于审视我们自身的发展哲学的问题。我们一直在慢慢地发布，比如DALL-E就是慢慢地公开发布的，每一步都小心翼翼，确保我们在更广泛地发布之前可以将安全性融入我们的产品。所以，**在某种意义上这是一个很好的例子，说明我们通过迭代式的部署取得了成功。**对于任何伟大的技术，都会有一些利弊，但我认为重要的是，我们将它谨慎地发布出去，以便犯的错误既可以通过一些我们已经融入的缓解措施来解决，又可以将错误控制在小到我们可以找出并及时调整。所以，我认为这种迭代部署的工作方式是我们可以安全推进这项技术的最佳方式。
Josh Constine: IBM的首席商业官表示，AI不会取代管理者，但使用AI的管理者将取代不使用AI的管理者。那么，您认为人们如何能够未雨绸缪，确保自己不会被自动化取代？
Peter Deng: 这是一个非常好的问题，他这么说很聪明。实际上，有一项关于生产力和AI的研究发表在《哈佛商业评论》上。波士顿咨询集团将劳动力分为三个不同的处理组：一组不使用AI，一组使用ChatGPT，还有一组在使用ChatGPT的同时接受了如何使用它的培训。他们在这项研究中证明了AI确实非常有益。他们发现任务所需时间减少了25%，生产力提高了12%。这项研究中一个非常有趣的发现是，他们将表现者分为两半，一半是表现最好的，一半是表现最差的。他们发现对于表现最好的一半，他们的生产力和质量提高了大约17%，但对于表现最差的一半，他们发现生产力和质量提高了43%。这项研究真正有趣的是，它表明AI实际上是一个伟大的均衡器，能够帮助那些在底部50%的人表现得更好。
对于您问的如何未雨绸缪，我想我会反过来问一下。我想，与其把AI看作是一种需要抵抗的东西，我们不妨考虑一下每个人如何用AI加速他们的工作。
Josh Constine: 关于人工智能和艺术之间的一些关系，就像赋能大众使用这些功能一样神奇。就好像我，我是一个糟糕的插画师，不会通过画画来维生。我以写作为生。现在我可以用像 DALL-E 这样的工具来插图了。但同时，如果你的创意作品被用来训练人工智能，你会有什么感觉？
Peter Deng: 我认为这是一个很棒的问题。我相信艺术家应该尽可能成为生态系统的一部分。相信如果我们能找到一种更快地进行艺术创作的飞轮方式，我们会更多地帮助这个行业。创造力问题，我可能之前暗示过，艺术家可以拿他或她正在创作的画作拍照，要求进行评论，并能够提示他们可以用这幅画做什么，这将加速整个艺术世界的发展。至于如果我的艺术被用作灵感，我会有什么感觉？我不知道，我得问问更多的艺术家。因为从某种意义上说，每个艺术家都受到过之前出现过的一些艺术家的启发。
Josh Constine: 我认为现在最有趣的一个问题是由OpenAI的前任临时首席执行官Emmett Shear提出的。他提出了一个问题，如果我们不断增强AI，同时试图将其束缚住，这似乎是一场失败的斗争。最终它会突破束缚，做自己想做的事情。我们训练它变得如此强大，但与此同时，我们一直在压制它。您认为我们有办法让AI与我们产生亲近感吗？我们如何将这种亲近感投射到AI身上，让它愿意不仅仅为我们服务，还要保护我们？
Peter Deng: ChatGPT的一部分指令是成为一个有帮助的助手。
Josh Constine: 但是成为一个助手是正确的吗？
Peter Deng: 是的。
Josh Constine: 难道它们不应该成为一个伙伴吗？
Peter Deng: 事实上，我认为今天人们已经把它视为一个伙伴。从功能上讲，这已经在发生。我听说过一个年迈的物理学家，他渴望与某人讨论物理问题，但在他的社区里，他已经找不到这样的人了，所以他转向ChatGPT，进行这些对话，并且可以深入探讨。我认为，实际上，chatGPT的这种能和人持续探讨很艰深的问题的能力，给人的感觉就像是发生了共情，尽管这并不存在，只是看起来像共情。
Josh Constine: 但是我们有什么办法不是让它看起来像是能够共情，而是真的能和人类共情？
Peter Deng: 这是一个哲学问题。你会如何定义共情呢？
Josh Constine: 我认为共情是一种感觉，我们都是一体的，你的损失不是我的收获。我们需要互相帮助，这个世界是冷漠而庞大的，而我们在这个宇宙中渺小而短暂，所以，如果我们不共同努力，我们就会失去我们真正的潜力。
Peter Deng: 完全同意，我相信这一点。我认为这是我们必须实现的。这需要再次回到我们刚才谈到的如何找到方法将我们拥有的价值观灌输到AI中，使它们能够成为我们共同演化的一部分。我对共情的定义有点不同，我会说它更像是代表他人真正感受的能力。我认为在功能上，你所说的一些话实际上可能会产生这种感觉，但真正的情感感受则是基本上属于人类的。这是你和我所持有的东西，对于技术来说将会有所不同。
/ 06 / 总结
Josh Constine: 那么，我想总结一下Peter今天与我们分享的一些令人惊叹的见解。他认为**AI实际上让我们更加人性化。**它是一个工具，它让我们加深了好奇心。你知道，也许我们以前提问的方式有限，或者有导师，或者有教授与我们共事，而现在，我们有了这个永恒的教授，它将帮助我们提出更高层次的问题，关于我们的死亡、我们的存在状态、我们的意识状态以及我们来自哪里。我们非常忙碌，很难思考回答这些问题，但是有了这个思想伙伴、这个对手，我们可以像以前的沙龙
我们还谈到了为什么是你。你本可以过上富裕的生活，但你知道，这是重要的，你为此感到感激。而且现在，这可能是世界上最重要的工作，所以，我真的很高兴有一个富有同情心的开发者在从事这项工作。
你认为ChatGPT对我们是一种帮助。它的目的是为了帮助我们学习更好地掌握我们的技艺，比如写作或编程，消除做事阻碍，成为一个灵活的工具，消除障碍，以便我们可以实现人类的抱负，并找出我们真正的目标。
你希望ChatGPT能承担每个用户的理想，而不是投射美国人或美国中心主义的理想，并确保它试图让我们接近真相，并试图在其核心价值观上真正有所帮助。但是我们需要它能够帮助我们核对事情。就像你会用它来做法律用途一样，而且它已经在医疗方面使用了。
我们当前需要花费一些时间，首先设置好相应的保护措施，并让更多的人获得实践操作的机会，从而消除他们的顾虑。现在，人们能够分辨某件事物是否由人工智能制作，这一点至关重要。你知道，我们正处于选举年，我们需要赋予人工智能以相应的权力，同时如果它做错了什么，也要受到纠正。不过，对于未来而言，我们是否真的会在意这一点尚无定论。但我认为，我们将从现在开始制定一个规范，要求在个人通信中使用人工智能时必须进行披露。
你曾经说过，**ChatGPT的基础版本将永远免费，**我会记住你这一承诺，但我真的为全世界的人们将永远拥有这个机会而感到自豪。
然而，那些从中获利的公司，他们应当为提高人们的素养做出应有的贡献，以便我们不会被谎言欺骗，也不会让整个社会陷入错误信息的泥潭。你曾表示，人工智能有其积极的一面和消极的一面，因此在加快发展的同时，我们也要在部署过程中保持谨慎。
我认为，如果有些公司未能达到我们期望的安全标准，我们就有必要追究它们的责任，并选择使用其他产品。而且，我们需要为未来做好准备，但方式不应是抵制人工智能，而是拥抱它，并找到让每个人，甚至是处境最差的人也能从中获益的途径。
尽管你并未完全回答创意工作者是否应该获得补偿的问题，但你确实认为他们需要参与到整个过程中来，参与对话。随着我们不断向前，我希望人工智能不仅能成为我们的助手，更能成为真正的伙伴。
而且，如果你环视这个房间，就会发现人工智能已经成为一种文化现象。你知道，过去有着节奏、嬉皮士、朋克文化，现在则是开发者文化。人工智能所带来的自我认知和表达方式，正在改变着我们的社会。这是自互联网时代以来最盛大的新文化，至少是自创作者经济兴起以来。在学生债务高企、房价高昂的当下，它让年轻人重拾了经济上的控制感。而其中蕴含的混乱、惊喜和内在艺术性，正是吸引了如此多人的原因。
因此，我希望无论年龄大小，我们都能保持好奇心，与时俱进，了解当下正在发生的变革。因为我们有机会消除现在和未来之间的鸿沟，让美好的未来加速到来。
那么，作为最后的总结，如果你希望人们从这次演讲中带走关于AI的一个想法，那么你希望那会是什么？
Peter Deng: 这是一个很好的总结，你比ChatGPT在总结我的想法方面做得更好。对我来说，我最后想说的是，我们不知道未来会发生什么，但我鼓励在场的每个人都保持好奇心。你们能来听这个讨论，这本身就很棒。走出去，尝试一下。分享你的想法，看看AI能做什么，因为这将帮助我们这样的人，正在构建这项技术，知道对你们来说什么是有价值的，以及我们如何提供帮助。所以，保持好奇心，保持开放的心态。告诉我们你想在AI中看到什么，我相信，通过共同努力，这就是共同演化的地方。
