加利福尼亚州州长加文·纽森签署关于人工智能风险的行政命令 - 彭博社

彭博社最新消息： 您对人工智能有疑问。我们有答案。 订阅彭博科技每周的Q&AI简报 。

加利福尼亚州已经加入了全球各国政府之间疯狂且有时令人困惑的竞赛，旨在规范和利用被称为生成式人工智能的技术。

周三早上，加州州长加文·纽森签署了行政命令N-12-23，这是一项2500字的指令，要求州政府机构研究人工智能可能如何威胁加州居民的安全和隐私，同时授权州雇员尝试使用人工智能工具并尝试将其整合到州的运营中。

纽森在接受彭博新闻采访时表示：“生成式人工智能是一项新技术，需要一种新的责任类别。”他补充说：“这里正在打开一个潘多拉魔盒，我们只是希望以安全的方式完成。” 他补充说：“我们不能犯与社交媒体同样的错误。”

加文·纽森摄影师：安德鲁·卡巴列罗-雷诺兹/法新社/盖蒂图片社这项行政命令出台之际，华盛顿和其他政府正努力寻找如何监管人工智能。欧盟已经迈出了通过更严格的规定的初步步伐，例如提议OpenAI和Alphabet Inc.等公司需要进行频繁的风险评估，并披露用于训练其语言模型的受版权保护的材料。 拜登政府已经起草了一份人工智能权利法案的概要，其中要求公司在AI生成的内容上加水印，以便更容易识别。

此外，白宫预计将在今年秋天发布一项旨在“保障美国人安全”免受人工智能威胁的行政命令。

纽森的行政命令似乎对该领域的新发展采取了较为宽松的监管方式，即使一些支持者也警告可能会导致大规模失业或引发人类的灾难性后果。相反，该命令的文本赞扬了这项技术，并赞颂了加利福尼亚在培育这一技术方面的作用，指出该州拥有全美前50家人工智能公司中的35家。

该倡议还指示州长办公室的商业和经济发展部与该地区两所学术强国加州大学伯克利分校和斯坦福大学的计算机科学实验室建立正式合作伙伴关系，研究生成式人工智能的影响以及如何在欧洲、中国和其他地方的竞争野心面前推动该州的领导地位。

纽森对人工智能的乐观态度是谨慎的。该行政命令授权负责执法、应急响应和技术采购的州政府机构共同对加利福尼亚关键基础设施可能面临的威胁进行风险分析，并在明年三月向州长提交一份机密报告。根据该命令，这些机构的任务是确保人工智能系统“保持有效的人类控制”。

州长要求增长和创新，斯坦福人类中心人工智能研究所政策总监拉塞尔·沃尔德表示，但他也“正在制定可能的监管框架的开端，并确保这是对所有加利福尼亚人有利的事情。”

人道科技中心执行主任特里斯坦·哈里斯对州长的行政命令表示赞赏，并表示“我们处于一种几乎没有实质性进展的情况下”来规范人工智能。哈里斯的关于技术灾难性危险的视频，《人工智能困境》在YouTube上观看次数接近三百万次，他认为政府仍然对技术挑战毫无准备。“即将到来的规模和速度远远超出我们目前的准备程度，”他说。

在过去的六个月里，纽森和他的工作人员会见了劳工领袖、消费者保护倡导者以及行业人士，如OpenAI首席执行官萨姆·奥尔特曼。纽森表示，他的政府为州立法机构起草了人工智能立法，但在当前的会期结束之前（9月14日结束）将其撤回，部分原因是该行业仍然年轻，而潜在意外后果的不确定性太多。他表示，这项行政命令“是我们的第一步。”

联邦政府也在有条不紊地行动。要在人工智能领域采取约束性行动，白宫需要国会采取行动，但国会尚未起草立法，其成员目前正在就该主题举行各种信息性会议。纽约民主党参议员查克·舒默将于9月13日召集一次此类会议，与特斯拉首席执行官埃隆·马斯克、Meta Platforms首席执行官马克·扎克伯格、Alphabet首席执行官桑达尔·皮查伊和Nvidia公司首席执行官詹森·黄等科技公司CEO一起，作为开始制定跨党派立法的努力的一部分。

纽森表示，尽管他是“拜登一切事物的全资子公司”，但他担心联邦政府会来得太晚。

作为一位充满魅力的政治家，纽森去年以压倒性优势连任，已经成为2024年总统竞选中领先的拜登代理人。他为这个事业承诺了1000万美元的政治行动委员会，并经常代表拜登在红色州巡回演讲。与此同时，这位州长也在努力打造自己的总统竞选形象，最有可能在2028年，尽管他经常回避有关总统野心的问题。

纽森表示，他的态度与蒙大拿等州不同，蒙大拿最近禁止了流行的中国社交媒体应用TikTok。他们的做法是“准备、开火、瞄准。我们的做法是准备、瞄准、开火，”纽森说。这项行政命令“与蒙大拿刚刚做的事情形成鲜明对比。”

他补充说，他的大女儿名叫蒙大拿，最近在七月四日假期期间去了那个州，并表达了担忧，担心她因使用TikTok而被逮捕。他安慰她说没有危险，尽管普通的蒙大拿人明年将无法下载这个应用。“我对过度监管很敏感，作为我们州的受托人，我不想只是竞争，”纽森说。“我想在创新领域占据主导地位。”