美国公民自由联盟在联邦贸易委员会投诉中表示，Aon的人工智能工具存在歧视性 - 彭博社

美国公民自由联盟表示，此举是其更广泛推动的一部分，旨在解决AI招聘软件和其他自动化技术中的歧视问题。

摄影师：卡尔·科特/盖蒂图片社笔记本电脑上的xAI标志。埃隆·马斯克运营的AI初创公司是该季度风险投资的亮点。

摄影师：加比·琼斯/彭博社美国公民自由联盟在向监管机构投诉中声称，一家大型咨询公司正在销售歧视残疾和种族的AI招聘工具，尽管将这些服务营销给企业时声称是“无偏见的”。

与《彭博社》审阅的一份副本显示的投诉中，与《财富500强》公司合作并销售各种应聘者筛选软件的Aon咨询公司声称其工具“公平”，没有偏见，并且可以“增加多样性”，美国公民自由联盟在周三向美国联邦贸易委员会投诉称这是虚假或误导性的说法。

在其投诉中，美国公民自由联盟表示，Aon的基于算法驱动的人格测试ADEPT-15依赖于会对自闭症和神经非典型人群以及患有精神健康残疾的人产生不利影响的问题。根据投诉，Aon还提供一种AI注入的视频面试系统和一种游戏化的认知评估服务，这些服务可能会基于种族和残疾进行歧视。

美国公民自由联盟呼吁联邦贸易委员会对Aon的做法展开调查，发布禁令并为受影响的各方提供其他必要救济措施。“我们致力于构建解决方案，使我们的客户能够做出包容性的招聘决策，”一位公司发言人在向彭博社发表的声明中表示。“我们的评估解决方案的设计和实施——客户在进行其他筛选和审查之外还使用这些解决方案——遵循行业最佳实践以及EEOC、法律和专业指南。我们正在监测新的和拟议的法律以及监管指导，以确保我们的解决方案保持合规。”发言人还反驳了美国公民自由联盟对其人格测试的描述，称Aon设计了该系统以避免衡量自闭症和神经非典型个体的临床特征，符合《美国残疾人法案》的要求。

一 不断增长的研究成果和报道，包括彭博新闻的分析，发现人工智能工具容易存在偏见，并可能在人力资源和招聘方面产生意想不到且深远的后果。但这项技术正在积极在这些领域进行市场推广，作为简化招聘流程的解决方案。在 去年的一项总统行政命令中，拜登总统强调了人工智能加剧招聘歧视的风险。然而，迄今为止，联邦在这个问题上几乎没有采取任何行动。

Aon并不是唯一一家为公司提供基于人工智能的应聘者筛选软件的公司。自动化应聘者跟踪系统行业已经存在了十多年，其中还包括其他参与者，如人力资源咨询公司Towers Watson & Co.和Mercer Human Resource Consulting LLC。但是，通过分析Aon公司的系统和其他材料的公开技术文档，美国公民自由联盟能够聚焦于其称为嵌入在Aon软件中的偏见问题。

美国公民自由联盟表示，此举是其更广泛的努力，旨在解决AI招聘软件和其他自动化技术中的歧视问题。美国公民自由联盟的种族正义项目高级律师Olga Akselrod在接受采访时表示：“这是一个核心优先事项。美国公民自由联盟和其他民权团体正在密切关注这一领域，并准备采取行动。”

长达数月的调查

美国公民自由联盟表示，当该组织同意代表一位自闭症患者、混血儿求职者时，Aon首次引起了他们的注意，这位求职者在申请过程中遇到了Aon的一些评估服务。美国公民自由联盟于九月左右开始对该公司的做法进行调查。

举例来说，美国公民自由联盟表示，在Aon的ADEPT-15人格测试中，有一部分要求候选人在一个光谱上选择他们最认同的关于自己人格的两个陈述之间进行选择。美国公民自由联盟表示，测试中的一些陈述与临床医生常用的筛选工具中的陈述有重叠，这些工具用于帮助识别自闭症特征并支持诊断。（Aon对这一描述提出了异议。）

“被问及与你的残疾密切相关的这些问题的影响是无法忽视的，感觉雇主和供应商在针对你，” 美国公民自由联盟残疾权利项目的高级律师布赖恩·迪米克说。“这强化了自闭症患者和其他精神健康残疾者每天都面临的歧视。”

AON的招聘评估与医学评估密切相似

美国公民自由联盟表示，ADEPT-15人格测试对精神健康残疾者不利

来源：美国公民自由联盟针对AON的联邦贸易委员会投诉

注：医学声明取自自闭症指数和Ritvo自闭症阿斯伯格诊断量表-修订版。

另一个例子，美国公民自由联盟发现，Aon的gridChallenge，一种游戏化的认知评估工具的文档显示，亚裔、黑人、西班牙裔或拉丁裔，或两种或两种以上种族的申请人，平均得分都低于白人考生。美国公民自由联盟表示，白人和黑人申请人参加评估的平均分数之间的差距最大。

“残疾人和有色人种在就业市场和工作场所已经面临重大障碍，” 美国残疾人协会总裁兼首席执行官玛丽亚·汤说。“Aon的就业工具在减少偏见的欺骗幌子下加剧了这种歧视。”

美国公民自由联盟发现这些结果后，向负责执行使工作场所歧视非法化的联邦机构平等就业机会委员会提出了控诉。在此举之后的某个时候，Aon使其部分技术文档对公众不可访问，阿克塞尔罗德说。

“被筛选出”

在Aon的全球客户中包括宝洁、德勤和亚马逊的部分业务。美国公民自由联盟指出，Aon的营销材料中表示，该公司每年在90个国家的40多种语言中进行“超过3000万次评估”。尽管这家咨询公司为全球雇主提供各种人力资源服务，但美国公民自由联盟表示，尚不清楚Aon的哪些客户使用了该组织在调查中确定的特定服务。

依赖Aon进行招聘软件的公司不仅有可能错过高素质的候选人，还有可能错过那些能为工作团队带来多样性和特殊视角的人，否则这些人将缺席，Dimmick说。与此同时，申请人错过了重要的机会 —— 甚至可能不知道。“有资格的人没有得到他们应得的工作，而且在许多情况下，他们的资格甚至没有被人类评判 —— 他们只是被这些工具筛选出来，”Dimmick说。“他们可能永远不会知道自己为什么被筛选出来。”

Larkin Taylor-Parker，自闭症自我倡导网络的法律总监，表示她通常看到基于人工智能的评估工具出现在初级职位中。

“这样做的结果是让我们社区的成员甚至无法开始自己的生活，无法从事你能想象到的最琐碎的工作，”她说。“这对这个国家的残疾人有着非常真实的经济影响。”

风险投资交易正在回归 —— 至少对于人工智能公司来说。

上个季度，美国风险投资家在支持初创公司上花费了556亿美元，比前一年同期增长了约一半，是两年来支出最多的季度，根据PitchBook的数据。