ChatGPT所有者承诺在Sam Altman全球巡演后改进其AI工具 - 华尔街日报

在OpenAI首席执行官山姆·阿尔特曼本月早些时候踏上澳大利亚站——他全球巡演的最后一站——之前，观众被问及他过去几周访问了多少个国家。

“八个，“有人喊道。当实际数字揭晓时，人群发出惊叹：22个。

“我准备回家了，“阿尔特曼在墨尔本的一次演讲中说。“但能与这么多在OpenAI基础上进行建设的人交流，这是一次非常特别的经历。”

据OpenAI公共政策负责人安娜·马坎朱称，公司从阿尔特曼旅行期间的对话中学到了很多经验，包括需要让产品对非英语用户更友好，以及能够判断内容是否由AI生成。

自从上个月他出现在国会面前——期间他呼吁政府监管那些支撑其公司广受欢迎的ChatGPT聊天机器人的大型语言模型的最强大版本——阿尔特曼已经会见了从法国总统埃马纽埃尔·马克龙到印度总理纳伦德拉·莫迪等国家元首，讨论AI的承诺与威胁。

“他正在努力建立关系，首先是因为他明白监管即将到来，“斯坦福以人为本人工智能研究所的国际政策研究员、欧洲议会议员前成员玛丽特耶·沙克在谈到阿尔特曼时说。“因此，通过表示公司欢迎监管，他希望能赢得立法者的好感。”

右为OpenAI首席执行官山姆·阿尔特曼，摄于六月首尔活动期间。图片来源：SeongJoon Cho/彭博新闻社阿尔特曼出访期间，欧盟议会投票推进了名为《人工智能法案》的立法草案，这将成为西方首套全面的人工智能监管法规。草案内容包括限制面部识别技术，并要求部分AI模型披露用于训练模型的受版权保护材料。与此同时，当阿尔特曼到访时，澳大利亚正就AI监管开展为期八周的公众咨询。

陪同出访的马卡朱表示，从里斯本到首尔，每一站的人们最关心的是如何确保自己的国家不错过AI革命带来的经济机遇，同时防范风险，这种高度共识令她印象深刻。“人们迫切希望确保无论采取何种措施，都能为本国经济抓住发展红利。“她说。

马卡朱指出，人们提到的主要风险包括对虚假信息的恐惧、对技术冲击就业市场的担忧，以及更深层的存在主义焦虑——AI的推理能力引发了对"人类本质意义"的思考。

自去年11月发布以来，ChatGPT凭借通过简单对话指令撰写邮件、诗歌或计算机代码的惊人能力迅速风靡全球。今年3月，OpenAI推出支撑该聊天机器人的最新模型GPT-4，进一步提升了技术门槛。

在此过程中，引发了Alphabet旗下谷歌与微软等企业间的AI军备竞赛——微软已与OpenAI达成130亿美元合作。谷歌和微软都开始将所谓生成式AI技术版本整合至搜索引擎产品。

这也引发关于AI可能危害人类的严厉警告，部分警告甚至来自奥尔特曼本人。

奥尔特曼在英国期间成为头条新闻，他在小组讨论间隙表示，OpenAI对欧盟AI法案草案存在"诸多"异议。该草案将OpenAI的GPT-4等模型列为"高风险"并需接受监管。据《时代》周刊报道，若技术上无法合规，公司可能“被迫停止”在欧盟的运营。

他随后发推文称：“在欧洲就AI最佳监管方式进行了极具成效的一周对话！我们期待继续在此开展业务，当然没有退出计划。”

马卡朱表示整件事只是"被严重断章取义的随口评论”。她指出巡访结束后，公司正致力于为OpenAI开发的强大模型制定技术可行的治理方案，例如模型前的安全评估标准。

马卡朱对欧盟AI法案草案中要求AI模型披露训练所用版权内容的条款持保留态度。她表示OpenAI尚未对该法案形成正式立场，因目前仍有多个立法版本需要协调。

在访问后的评论中，马坎朱表示，公司对探索识别由AI生成内容的方法很感兴趣。OpenAI的研究人员已经对这些方法进行了相当长时间的实验，包括一种被称为水印的统计方法。

尽管欧盟执行机构早在2021年就首次提出了《人工智能法案》，远在ChatGPT引发公众想象之前，但马坎朱表示，欧洲是否会像在数据隐私等以往领域那样引领这波国际科技监管浪潮，并非定局。她指出，参议院多数党领袖查克·舒默（纽约州民主党人）就在上周发布了一个制定AI立法的框架。

阿尔特曼和其他OpenAI高管提出，某些能力阈值以上的AI项目可能需要一个类似于国际原子能机构对核能的全球监管机构来监督，该机构可以检查系统并测试是否符合安全标准。

尽管对AI的潜在危险存在担忧，阿尔特曼在大多数停留地点都受到了摇滚明星般的欢迎。

墨尔本活动结束后，穿着休闲的灰色亨利衫、深色裤子和一双彩虹运动鞋的阿尔特曼被粉丝们围住，纷纷要求自拍和聊天。在大厅里，几名抗议者短暂地举起了标语，其中一条写着“AI极有可能导致世界末日”。

26岁的贾斯汀·奥利弗正在学习AI，并参加了墨尔本的活动。他说自己每天都会使用ChatGPT，从学习到起草邮件，帮助他完成各种事情。但活动结束后，他表示自己不确定对阿尔特曼的看法。

“他对变革性人工智能风险的担忧似乎是真诚的，”他说。“另一方面，我有点不安的是，感觉这只是一个有魅力的首席执行官在进行某种营销。”

联系基奇·黑吉，邮箱：[email protected]；联系迈克·切尼，邮箱：[email protected]

本文刊登于2023年6月30日的印刷版，标题为《OpenAI首席执行官游说世界领导人》。