OpenAI支持为先进人工智能系统开发颁发许可证 - 彭博社

OpenAI首席执行官Sam Altman

摄影师：Eric Lee/BloombergOpenAI起草的一份内部政策备忘录显示，该公司支持要求任何想要开发先进人工智能系统的人获得政府许可的想法。该文件还暗示，该公司愿意揭开其用于训练图像生成器的数据的面纱。

ChatGPT和DALL-E的创造者在5月4日白宫官员与OpenAI首席执行官Sam Altman等科技高管之间的会议后，在内部文件中提出了一系列人工智能政策承诺。这家总部位于旧金山的公司在草案中表示：“我们承诺与美国政府和全球各地的政策制定者合作，支持未来最高性能基础模型的许可要求。”会议。

阅读更多： OpenAI的Altman表示“AI可能出现很多问题”

由OpenAI等人工智能巨头共同开发的政府许可制度的想法为与初创公司和开源开发者可能视之为企图使其他人更难进入该领域的冲突铺平了道路。这并不是OpenAI第一次提出这个想法：在5月的美国参议院听证会上，Altman支持了创建一个机构，他表示，该机构可以为人工智能产品发放许可证，并在有人违反规定时吊销许可证。

政策文件的出台正值微软公司、Alphabet Inc.的谷歌和OpenAI预计将在周五公开承诺为开发该技术制定保障措施 — 这是对白宫的呼吁。据熟悉计划的人士透露，这些公司将承诺对人工智能的负责任开发和部署。

阅读更多： AI Leaders Set to Accede to White House Demand for Safeguards

OpenAI警告称，内部政策文件中提出的想法将与不久将由白宫与科技公司一同宣布的想法有所不同。该公司全球事务副总裁安娜·马坎朱在接受采访时表示，公司并不像“推动”许可证那样，而是认为这种许可是政府跟踪新兴系统的“现实”方式。

“政府了解可能会产生潜在有害影响的超级强大系统是否即将出现是很重要的，”她说，“如果没有人愿意像我们这样自我报告，那几乎没有办法确保政府了解这些系统的方式。”

阅读更多： Big Tech Wants AI Regulation — So Long as Users Bear the Brunt

马坎朱表示，OpenAI仅支持对比OpenAI当前的GPT-4更强大的人工智能模型实行许可制度，并希望确保较小的初创公司免受过多的监管负担。“我们不想扼杀生态系统，”她说。

OpenAI 在内部政策文件中还表示，愿意更加开放地公开用于训练图像生成器（如 DALL-E）的数据，称其致力于在年底前“融入溯源方法”。数据溯源是一种用于追踪开发人员工作透明度和数据来源的做法，政策制定者认为这对于防止人工智能工具传播错误信息和偏见至关重要。

OpenAI备忘录中提出的承诺与微软在五月宣布的一些政策提议密切相关。OpenAI指出，尽管接受了微软的100亿美元投资，但仍然是一家独立公司。

该公司在文件中披露，正在进行关于水印技术的调查——一种用于跟踪人工智能生成图像的真实性和版权的方法，以及在人工智能生成内容中的检测和披露。公司计划公布结果。

该公司还在文件中表示，愿意接受外部的红队测试——换句话说，允许人们进入并在多个方面测试其系统的漏洞，包括攻击性内容、操纵和错误信息以及偏见的风险。公司在备忘录中表示，支持建立一个信息共享中心，以便在网络安全方面进行合作。

在备忘录中，OpenAI似乎承认人工智能系统对就业市场和不平等可能构成的潜在风险。公司在草案中表示，将开展研究并向政策制定者提出建议，以保护经济免受潜在的“破坏”。