评论：商业领袖冒着无意识地走向人工智能滥用的风险 | 路透社

一名工人在2023年12月13日于墨西哥特波茨特兰的亚马逊配送中心进行假日季节媒体参观时准备箱子。路透社/古斯塔沃·格拉夫2014年11月19日，亚马逊创建了一种机器学习工具来审查求职申请，并根据一到五的评分标准对潜在候选人进行排名。该公司在寻找顶尖人才的自动化过程中有可能为人力资源部门节省数百小时的时间。只有一个问题。该工具不想雇佣女性。

一2018年路透社的报告揭示该工具几乎完全基于男性简历收集的数据进行训练，这是一个高度男性主导行业的副产品。尽管没有被编程为这样做，但它已经学会了男性是成功雇佣的关键因素之一。十年过去了，新一波的生成式人工智能聊天机器人和助手引发了企业的狂热采用。在汤森路透的C-suite高管调查中，91%的人表示他们计划在接下来的18个月内采用人工智能工具。这是有道理的。它们在事实核查、翻译、总结、复杂数据分析和内容个性化能力方面的生产力提升可能是指数级的。但是导致亚马逊招聘工具偏见的根本问题并没有消失。虽然全球对大型科技公司在开发人工智能方面的角色的讨论占据了大部分，但关于公司如何已经使用这一批尚未监管的工具的开放讨论却难以获得。

因此，我们面临着一个可靠数据的黑洞。我们对公司使用哪些工具、它们所训练的数据集、如何部署、推出策略以及最终对员工的影响没有清晰的认识。

例如， 未来就业报告来自世界经济论坛，预测到明年将失去8500万个职位，同时在同一时期将创造9700万个新工作。了解哪些工作以及何时将是我们这个时代最关键的问题之一。然而，2024年汤森路透基金会的 劳动力披露倡议的调查发现，只有四分之一的公司能够提供任何关于员工再培训或重新部署措施的数据，以应对向人工智能转型的变化。在那些披露的公司中，没有一家分享了再培训在实践中是什么样的额外细节。撇开对员工基本工作保护的明显伦理考虑，这种缺乏透明度也将成为全球商业领袖面临的最紧迫的风险管理问题之一。

最近推出的亚马逊人工智能处理器在美国德克萨斯州奥斯汀的亚马逊实验室展示，时间为2024年7月19日。路透社/塞尔吉奥·弗洛雷斯 在声誉上，2014年亚马逊的人工智能招聘工具事件导致了一系列负面头条。但那时并没有具体的法规来规范人工智能在招聘过程中的使用。与人工智能技术相关的公平和非歧视法律原则的应用也仍处于形成阶段。

很快，对于在欧盟运营的公司来说，这种情况将不再存在。对未经验证的数据源进行人工智能工具的训练，以及在没有风险评估或文档的情况下使用它进行员工招聘，都是违反新的欧盟人工智能法的行为，可能面临高达3500万欧元或公司全球收入的7%的罚款。

法律也开始逐渐跟上。根据公司如何部署技术，隐私、数据保护和歧视法律现在都可能适用。在今年的一起具有里程碑意义的案件中，一名Uber Eats司机与公司达成了一项未公开的庭外和解，原因是被歧视性人工智能驱动的面部识别锁定在应用程序之外。在这里，我们可以借鉴历史上另一个商业伦理、法律和监管盲点的先例——供应链尽职调查。

2013年，孟加拉国的拉纳广场工厂倒塌，导致超过1100名为一些全球最大品牌履行订单的服装工人遇难。这暴露了时尚行业工人劳动条件缺乏透明度的问题，并促使几家主要品牌承诺披露其供应链中的工厂。

这一转变有助于帮助非政府组织和监督机构更好地监测工作条件，促使改善安全标准、提高工资和减少工厂工人的工作时间。公开披露也使得更快识别和纠正劳动虐待成为可能，并迫使更多品牌采取负责任的采购实践。仍然有很多工作要做，但进展是不可否认的。

人们在2013年孟加拉国达卡郊区萨瓦尔的拉纳广场大楼倒塌后，救援被困在废墟中的服装工人。这场灾难为供应链尽职调查树立了先例。路透社/安德鲁·比拉吉证据的重量继续指向企业透明度培养出更负责任和法律上更具韧性的企业。

今天的商业领袖面临着一项艰巨的任务，即利用生成性人工智能的非凡潜力，同时避免法律和监管陷阱，并防范歧视和人权侵犯。他们需要支持。他们需要一个新的人工智能采用伦理框架。

针对这些挑战，汤森路透基金会和联合国教科文组织合作推出了人工智能治理披露倡议。该倡议旨在帮助公司保护其运营、客户和声誉。

我们正在开发一项全面的免费调查，以支持负责人工智能采用的高管自信地分享他们的人工智能系统和实践的细节，促进透明度和问责制。

调查将收集关于关键问题的信息，例如法律责任、数据隐私和偏见、人工智能工具的人类监督、人工智能对劳动力的影响，包括对工人的再培训和提升技能等。

感谢联合国教科文组织助理总干事加布里埃拉·拉莫斯的指导，所得出的见解将根据人工智能伦理建议进行分析，这是所有193个成员国采纳的黄金标准，并传播给商业领袖。参与调查的公司将在这一复杂挑战中发挥领导作用，向利益相关者展示他们具备采取一种既能收获人工智能未来的好处，又不对人类、社会和环境造成伤害的方法。

注册以接收有关如何参与的更新。* 建议主题：

• 社会与公平
• 监管监督
• 多样性和包容性 所表达的意见仅代表作者本人。这些意见不反映路透社新闻的观点，路透社新闻根据信任原则，致力于诚信、独立和无偏见。作为路透社专业的一部分，伦理公司杂志由汤森路透拥有，并独立于路透社新闻运作。