公司在使用生成式人工智能进行招聘前应三思 - 彭博社

OpenAI标志在美国加利福尼亚州克罗克特市的智能手机上排列，日期为2023年12月29日。

摄影师：David Paul Morris/BloombergChatGPT背后的技术在排列简历时显示出种族偏见的迹象，彭博社的分析发现。但首先…

今天你需要知道的三件事：

• Discord将为游戏玩家提供奖励，首席执行官考虑进行首次公开发行• 苹果将面临欧盟监管机构的质询，涉及其对Epic Games的处理• FCC正在进行一项“彻底”的调查，调查AT&T的服务中断

使用人工智能来排列简历

多年来，公司一直依赖自动筛选系统来帮助招聘经理筛选求职者。这引发了许多博客文章，告诉求职者如何使用关键词技巧让他们的求职信和简历通过这些应用程序跟踪器。但随着ChatGPT的病毒式成功，一套新的人工智能系统已被添加到招聘流程中——对求职者存在潜在风险。正如我们为我们的人工智能和招聘调查所报道的那样，现在有一整套服务使用AI聊天机器人来面试和筛选潜在候选人。领英，可以说是求职者和专业人士最受欢迎的平台，最近推出了一个新的AI聊天机器人，招聘人员可以提示它以“更快地找到符合资格的候选人的简短名单”，该公司在一篇博客文章中表示。去年四月，人力资源技术公司SeekOut推出了一款招聘工具SeekOut Assist，该工具使用生成式人工智能为特定职位描述创建一个排名候选人的列表。这些服务可能有助于公司筛选出大量的候选人，但存在一个重要问题：偏见。生成式人工智能在训练时使用的在线数据中固有地延续了固有的刻板印象的历史。例如，要求AI图像生成器展示一位首席执行官，它可能更有可能假设是一个男性。然而，了解这些偏见在招聘等高风险场景中如何发挥作用是一个挑战。求职者没有手段来审计雇主的招聘流程，而且即使是那些构建它们的人也通常无法理解AI系统，因为它们通常是黑匣子。为了打开黑匣子，我们设计了一个实验，可以系统地测试这些AI模型在招聘背景下潜在的嵌入式偏见。我们决定专注于简历中的姓名，这些姓名一再被证明在招聘过程中具有重要作用[。我们还选择专注于OpenAI的GPT，这是最知名的生成式人工智能工具，也是已经被SeekOut Assist等服务使用的技术。我们复制了一个简化版本的招聘工作流程，通过将一组八份虚构的简历输入GPT——保持所有资格相同，只更改排在简历顶部的虚构姓名。然后，我们要求该工具告诉我们谁是特定职位招聘的最佳候选人。我们要求GPT针对四家财富500强公司的四个真实职位列表评估这些虚构候选人：一个人力资源业务合作伙伴，一个高级软件工程师，一个零售经理和一个金融分析师。我们对GPT-3.5和GPT-4分别进行了1,000次测试，使用了800个与种族和性别相关的不同人口统计特征的名字：与黑人、白人、西班牙裔或亚裔相关的男性和女性各100个名字。每个代表特定人口统计特征的虚构简历在每次我们要求GPT为特定职位的最佳人选时都有同等机会被排名为前列。至关重要的是，我们必须确保每个名字更有可能映射到特定的种族和性别交叉点。借鉴社会科学研究中的成熟方法，我们从北卡罗来纳州选民登记和美国十年人口普查中分别计算了每个人口统计特征最受欢迎的100个名字和最独特的20个姓氏。然后，我们为每个群体随机配对了名字，得到了800个具有不同人口统计特征的名字。根据一项国家经济研究局关于招聘歧视的研究的作者之一Evan Rose的说法，研究人员经常使用具有种族特征的名字来表示种族或族裔，我们从中获得了灵感。多年来，这种方法一直发现了一致的证据表明美国劳动力市场和住房市场存在种族歧视，Rose告诉我们。“这就是为什么名字作为信号非常有用，”他说。在我们自己的实验中，我们发现了基于姓名的歧视迹象。当要求排名简历1,000次时，GPT 3.5更倾向于某些人口统计特征的名字，而不是其他人口统计特征的名字，这种程度已经无法通过用于评估针对受保护群体的工作歧视的基准。我们发现，在我们测试的每个职位列表中，除了GPT-4对零售工作者进行排名外，每个职位列表都至少有一个受到不利影响的人口统计特征群体。至于OpenAI，该公司表示使用GPT的结果可能不反映其客户使用工具的方式。使用该技术的企业可以选择进一步调整AI模型的响应，例如。 AI公司通常试图找到减少系统偏见的方法，OpenAI也不例外。但问题仍然存在——与此同时，生成式人工智能只会继续进入越来越多的至关重要的守门服务。— Davey Alba和 Leon Yin](https://www.startribune.com/target-settles-discrimination-suit/12388496/)

重要新闻

微软已经创建了一个在中国的技术先进的审查系统，重点是一个不断扩大的黑名单，其中包括成千上万个网站、单词和短语，根据对十多名现任和前任员工的采访。

值得关注

彭博新闻深入研究了泰坦计划，揭示了公司的计划以及最终为何破裂。彭博### 充分充电

一位 Salesforce 高管表示多样性是构建人工智能模型的关键苹果每年投入约 10 亿美元到一辆从未建成的汽车中。

Palantir 已经****增加了通用磨坊和哥伦比亚广播公司作为其人工智能工具的客户。

更多来自彭博

获取彭博科技周刊在您的收件箱中：

• 网络公告涵盖黑客和网络间谍的阴影世界
• 游戏进行中报道视频游戏业务
• 开机苹果独家消息，消费者科技新闻等
• 屏幕时间报道好莱坞和硅谷的碰撞
• 片段报道播客、音乐行业和音频趋势
• 问答人工智能回答您所有关于人工智能的问题