纽约市通过AI招聘法案 迄今鲜有公司遵守 - 《华尔街日报》

自纽约市开始执行全美首部相关法律、要求企业披露算法如何影响招聘决策以来，已过去六个月。目前，主动披露者寥寥无几。

该法律要求使用软件辅助招聘和晋升决策的雇主（包括聊天机器人面试工具和筛选关键词匹配的简历扫描系统）每年对这些工具进行潜在种族和性别偏见审计，并将结果公布在公司官网上。其立法初衷是推动企业识别并消除技术可能无意中在雇佣决策中植入偏见的环节。

康奈尔大学研究人员组织学生筛查企业官网后发现，在一项新研究分析的近400家雇主中，截至本月上旬仅有18家公布了相关信息。发布审计报告的企业包括摩根士丹利、辉瑞、信诺保险和派拉蒙。

被分析的391家公司中大多数未披露信息。图片来源：Amir Hamja/Bloomberg News这项名为《第144号地方法》的规定被立法机构和行业组织视为未来技术监管的试验案例而持续关注。华盛顿特区、纽约州及欧盟等多地正在考虑制定类似规则，美国平等就业机会委员会去年也将技术相关歧视列为战略优先事项。

在被分析的391家公司中，大多数未披露相关信息——其中许多公司将总部或主要业务设在纽约。研究人员指出，即使某些公司公布了审计结果，要找到这些通知也"充满挑战、耗时且令人沮丧"。法律要求企业在其官网招聘版块公示这些信息。

研究人员表示，结果表明该法律对求职者价值非常有限，充其量只能为完善未来监管提供路线图。“我们现在更清楚问题出在哪里，“康奈尔大学研究报告合著者、非营利技术研究组织Data & Society人工智能项目负责人杰克·梅特卡夫说道。

合规率低的原因之一在于：梅特卡夫指出，法律赋予雇主"几乎无限自由裁量权"来判断自身是否适用该规则。虽然最初提案要求使用大多数自动化就业决策工具（AEDT）的雇主必须进行审计，但最终版本缩小了范围，规定仅适用于那些工具实质上替代或辅助人类决策的公司。包括微软、SAP和甲骨文等工作场所技术制造商在内的商业贸易团体，曾游说纽约市议会促成部分条款调整。

为数十家技术供应商完成审计的ConductorAI公司联合创始人本·菲希特表示，许多雇主声称："‘我们使用这种工具，但它并未完全取代人类决策，因此不符合AEDT的定义’"。

人力资源高管行业协会SHRM 2022年的一份报告发现，64%的公司正在使用人工智能或其他形式的自动化技术来审查或筛选求职者简历。

菲希特补充道，另一个挑战在于：由于许多雇主不追踪大多数申请者的种族或性别信息，这些分析结果的价值存疑。

在纽约市设有岗位并受该法规约束的雇主，必须在其官网上公布"不利影响比率”，以显示招聘流程是否对不同种族或性别存在差异性影响。他们还需声明正在使用自动化工具，并为求职者提供申请替代筛选方式的渠道。

违规雇主可能面临每天每项违规最高1500美元的罚款。LL 144是信息披露法，并不强制要求雇主改变招聘程序。

该法律生效后不久，百事公司就发布了一份披露报告，展示其食品部门供应链岗位申请人群体评估的影响比率。部分比率低于表明存在不利影响的阈值。目前该报告链接已失效。

位于纽约州帕切斯的百事公司总部图片来源：GABBY JONES/华尔街日报百事公司在声明中表示：“我们在评估工具是否属于纽约AEDT法律范畴时准备了这些结果。经审查确认我们的工具不构成AEDT后，我们随即从网站撤下了相关数据。”

负责监督该法律的纽约市消费者与工人保护局发言人表示，执法行动基于投诉驱动，而自法规生效以来，该机构尚未收到任何投诉。

“除非采取强制措施，否则雇主很可能会置之不理，“代表劳工参与就业诉讼的Outten & Golden律师事务所管理合伙人亚当·克莱恩指出。他补充说，即便企业真的进行并公开偏见审查结果，“也无法验证这些信息的真实性”。

部分求职者表示，在经历了多年对应聘者追踪系统等自动化招聘工具的失望后，他们开始关注这些工具在招聘决策中的作用。去年二月，莫尔豪斯大学一名毕业生起诉人力资源技术巨头Workday，指控其软件存在种族、残疾和年龄歧视。原告称自己向使用Workday招聘工具的雇主投递了80至100份工作申请，均遭拒绝。

曾游说纽约市议会放宽部分法规要求的Workday公司提出撤案动议。上周联邦法官批准了Workday的请求，但允许原告在2月20日前提交补充证据的新诉状。

“我们认为这起诉讼毫无法律依据，且完全缺乏支持其主张的事实指控，“Workday在声明中表示。

Workday称尚未按照纽约市新规要求进行工具审查，而ADP、Eightfold等人力资源技术供应商已完成了相关审查。

律师和科技公司表示，雇主们将不得不适应对其系统更严格的监管。“这仅仅是即将到来的一系列更广泛义务的开端，“BABL AI创始人希亚·布朗说道，该公司为企业提供人工智能风险和系统审计服务，他特别提到欧盟即将出台的全面监管规则。

联系记者劳伦·韦伯请致信 [email protected]