纽约市长埃里克·亚当斯计划如何扩大纽约市对人工智能的使用 - 彭博社

纽约市将通过其网站MyCity Business试点使用AI聊天机器人回答有关开设或经营业务的问题。

摄影师：Prasit photo/Moment via Getty Images

纽约市市长埃里克·亚当斯周一公布了一项采纳和监管人工智能的计划，强调了这项技术“改进我们政府各部门的服务和流程”的潜力，同时也承认了其中的风险。

该市还宣布正在试点使用AI聊天机器人回答有关开设或经营业务的问题，通过其网站 MyCity Business。

纽约市政府机构已经报告使用了超过30种工具符合该市对算法技术的定义，包括将学生与公立学校匹配、跟踪食源性疾病爆发以及分析犯罪模式。随着技术的进步，算法偏见、错误信息和隐私问题的影响变得更加明显，该市计划就新的和现有应用制定政策。

“仅仅鼓励机构部署更多基于AI的解决方案是不够的；我们还必须为他们提供框架和支持，以减轻滥用、不准确或偏见和歧视的风险，”该市首席技术官马修·C·弗雷泽在该计划中写道，该计划是亚当斯在市政厅宣布的。

New York的战略是由技术和创新办公室制定的，该办公室在城市机构代表和外部技术政策专家的参与下制定，它本身并没有制定任何关于人工智能的规则和法规，但制定了一个时间表和蓝图来创建这些规则。它强调了需要教育和获得纽约市民和市政府员工的支持。在接下来的一年内，该市计划开始与公众举行听证会，并向市政府机构简要介绍如何以及为什么在日常运营中使用人工智能。该市还给自己一年的时间开始试点新的人工智能工具，并用两年的时间制定人工智能合同的标准。

通过创建其首个全市范围的聊天机器人，纽约展示了人工智能改善政府网站和服务的潜力。这个聊天机器人在MyCity Business网站的2000多页信息上接受了训练，它将能够回答关于合规性、商业激励、贷款和许可等主题的问题。

“多亏了这个聊天机器人，你的新执行助手，你再也不必浪费时间在页面之间寻找你需要的信息了，”纽约市小型企业服务专员Kevin Kim在周一的新闻发布会上说。“不再搜索，不再访问多个网站，不再有失效链接。它不会让你等待，因为它在这座不夜城，全天候都可用。”

经验教训

专家表示，使用算法工具指导政策决策可能会很棘手，因为这些算法训练的数据可能会反映偏见并产生不公平的结果。特别是当应用于招聘、住房和执法时，人工智能工具被发现会对妇女和有色人种进行歧视。虽然人工智能有潜力取代一些人类劳动，帮助城市应对人员短缺问题，但也可能导致人们失业。

为了应对这些挑战，纽约市计划在未来一年内扩大其现有的算法报告规定，并为人工智能工具创建风险评估流程。关于这些建议将会是什么样子，目前还没有具体细节；该计划列出了诸如“可靠性、公平性、偏见、问责制、透明度、数据隐私、网络安全和可持续性”等考虑因素。

该市最新的计划是基于其2021年的人工智能战略。但科技与创新办公室表示，该市有望比过去的管理层采取更果断的行动。2018年成立的自动决策系统工作组在一定程度上未能产生影响，部分成员和批评者表示这是因为缺乏对现有自动化技术的洞察。

科技与创新办公室发言人雷·勒让德表示：“亚当斯管理团队的人工智能行动计划得益于在前一届管理层在管理人工智能方面取得的进展和经验教训。”他表示，尽管出于善意，以前的工作组“缺乏真正深入探讨围绕人工智能的紧迫问题所需的工具或可见性。”自那时起，该市的科技机构已经整合到科技与创新办公室下，勒让德表示，由于其集中式治理模式，该办公室“更有能力开展这项工作”。

专家参与

今年的计划要求成立由市政府代表和外部专家咨询网络组成的人工智能指导委员会。

参与制定计划的专家对纽约科技潜力表示乐观。代表该市科技行业的Tech:NYC总裁兼执行董事朱莉·萨缪尔斯表示：“尤其是在像纽约这样规模庞大的城市中，政府所面临的许多问题，主要是需要以何种规模运作。” “这正是人工智能最能帮助的问题：例如，更快地让更多人受益。”

斯蒂凡·维尔胡斯特，纽约大学研究教授兼The GovLab联合创始人表示，特别是在财政紧缩期间，依靠人工智能为城市提供了快速做出基于证据的决策并用更少资源的机会。他提到的潜在用例包括确定最需要经济适用房的区域，以及利用数据应对公共卫生紧急情况。

尽管纽约市表示其人工智能蓝图是主要城市中首个类似的，但其他地方领导人正在制定自己的监管措施和技术愿望清单，比如生成式人工智能。

萨缪尔斯表示，该市“完善”的计划表明其理解规划人工智能在地方治理中的角色的紧迫性。萨缪尔斯说：“曾经有一个时期，科技无所不能，也有一个时期，科技只会出错，这两种情况都不是这场对话的好起点。我很高兴看到这份报告完全站在这个谱的中间，” 萨缪尔斯说。“这份报告认识到这里有很多机会，但我们必须注意确保我们不会在推出过程中出错。”