陈根：7巨头出席白宫峰会，为防范AI风险做出八项承诺_风闻

文/陈根

当地时间7月21日，包含亚马逊、谷歌、微软、OpenAI、Meta、Anthropic和Inflection在内的7家人工智能公司参与了白宫峰会，这些公司的代表与美国总统拜登会面，并表示同意拜登政府提出的一系列AI保障措施，以防范人工智能的潜在风险。

这7家领先的AI企业自愿签署协议，承诺对其AI系统进行内部和外部安全测试，其中部分测试将由独立专家进行，旨在防范一些重要的风险来源，如生物安全和网络安全，及其更广泛的社会影响等等。同时，这些公司也承诺与整个行业、政府、民进及学术界共享AI风险管理的信息。

除此之外，这7家企业承诺对网络安全和内部威胁防护措施进行投资，保护专有模型和未发布模型的权重不被泄露；致力于促进第三方发现与报告AI系统中的漏洞；致力于开发有力的技术机制如水印系统，使用户知晓哪些内容由AI生成；报告其AI系统的功能、局限性及适用与不适用的领域；研究AI可能带来的社会风险，包含偏见和歧视等等；开发和部署先进的AI系统，以帮助解决社会面临的最大挑战，如癌症或气候变暖等等。

这让我们看到了正在到来的人工智能时代，人类有基本的共识，就是要借助于技术的约束来让AI技术服务于人类，让AI成为人类社会的效率提升工具。

这也是全世界所有从事于AI开发与训练企业需要学习的地方，就是在追求AI技术发展的同时，必须要考虑对AI技术的监管，以及要考虑AI万一偏离设想后的风险管控与干预。训练AI服务于人类社会很难，但是如何在AI自我学习的情况下，能够管控AI不偏离服务人类社会的这个设想更难。