蒂姆尼特·格布鲁呼吁关注人工智能的潜在风险——《华尔街日报》

作为人工智能伦理领域的顶尖研究者，蒂姆尼特·格布鲁始终相信机器学习算法终将深度介入人类生活。但她没料到这一切会来得如此迅猛。“我没想到人们会说’用聊天机器人取代律师’，或是’出售与别人作品如出一辙的AI生成艺术’，“她在加州湾区的家中通过视频说道，“更没预料到搜索引擎会接入聊天机器人——这个疯狂的想法如今正引发科技公司竞相追逐。”

39岁的格布鲁博士是非营利组织"分布式人工智能研究所”(DAIR)的创始人与执行董事，该机构于2021年在麦克阿瑟基金会、洛克菲勒基金会、福特基金会等支持下成立。她的研究重点在于揭露AI程序如何强化社会固有偏见：“我们总讨论算法，却忽视数据集的构建者与构成者。“由于机器学习系统吸收的网络语言与图像数据自带人类社会的缺陷：“当输入数据存在偏见时，输出结果就会放大这些偏见。”

这位科学家曾因在大科技公司内部坚持AI批判立场而闻名。2018年就职于微软期间，她参与的研究发现商用面部识别系统对白人男性性别的识别准确率远高于黑人女性，研究团队指出这可能导致严重的误判事件。此后在谷歌工作期间，她持续呼吁企业应提高AI模型缺陷的透明度。

她作为谷歌AI伦理学家的工作在2020年底突然中断，原因是一项关于基于语言的AI程序缺陷的研究计划发表。她表示谷歌解雇了她；谷歌则表示她辞职了，公司代表拒绝进一步置评。她现在认为科技公司不可信任来自我监管。

在埃塞俄比亚首都亚的斯亚贝巴长大的Gebru博士回忆说，她“是个十足的怪才”。由于对物理和数学的着迷，她以为自己会像两个姐姐和五岁时去世的父亲一样成为一名电气工程师。无论决定做什么，她都感到有动力成为最好的。“这不是家里的压力，”她说，“而是期望。”

1998年埃塞俄比亚与邻国厄立特里亚爆发战争时，Gebru博士出生在厄立特里亚的家庭寻求海外避难。在爱尔兰短暂停留后，她与身为经济学家的母亲在马萨诸塞州的萨默维尔团聚。Gebru博士已经能流利英语且学业优秀，因此当一些新公立学校的老师试图劝阻她选修高级课程时，她感到惊讶。尽管她记得在荣誉物理课上取得了最高分，但她说老师暗示AP课程可能“太难了”。

Gebru博士随后在斯坦福大学学习电气工程，她通过电子钢琴的实验帮助她获得了苹果公司音频工程师的实习机会。她与人共同创立了一家软件初创公司——“我觉得在硅谷必须这样做才能获得一些尊重”——之后又回到苹果，帮助开发了包括第一代在内的各种产品的信号处理算法。当她意识到自己对算法比对硬件更感兴趣时，她回到斯坦福，于2017年在AI实验室获得博士学位。

作为研究生时，格布鲁博士就对人工智能的潜力着迷。她工作的实验室利用数千万张图像数据库，教机器如何通过车辆推断社区人口结构：皮卡车在共和党支持率高的地区更受欢迎，而厢式货车与更高犯罪率相关。然而在学业结束时，格布鲁博士开始担忧这些算法的应用场景。

2016年，《ProPublica》一篇关于美国法官在量刑时越来越依赖预测罪犯再犯风险算法的报道令她震惊。该软件通常将未再犯的黑人被告标记为"高风险”，而将再犯的白人被告评为"低风险”。“我进入这个领域是因为喜欢构建东西，“她说，“但越是深入研究，就越意识到必须正视这类危害。”

格布鲁指出，在AI开发热潮中，科技公司对放缓脚步的呼吁置若罔闻。图片来源：《华尔街日报》Nicholas Albrecht尽管格布鲁博士承认与谷歌的决裂令她压力巨大——“两周瘦了20磅”，但她表示这揭示了科技巨头对待AI伦理的态度。“现行机制缺乏激励善行的动力，“她说。通过创立DAIR，格布鲁博士希望在企业内部批评者可能感到噤声的时刻发出克制的声音：“我认为内部人员真的很难进行有效抵制。”

格布鲁博士指出，科技公司为赶制能与OpenAI的ChatGPT抗衡的产品（该技术即将应用于微软必应搜索引擎），对放缓发展的呼吁置若罔闻。“我们的建议本质上是要求企业在发布任何产品前，必须充分理解数据集内容并完整记录，“她表示，“但这意味着需要投入更多时间、资源和牺牲利润。没有立法约束，谁会主动这样做？“她期待出台法律，像监管汽车制造商和制药公司那样，强制科技企业证明其产品安全性。

在DAIR研究所，格布鲁博士正致力于揭示人工智能的隐性成本——从消耗的巨大算力到数据标注工人的微薄薪资。“科技界擅长营造一切都在云端的假象，但这些模型需要消耗大量人力、能源和水资源，“她强调，“环境代价可能极其高昂。”

但格布鲁博士希望确保DAIR不仅是唱反调的机构。“我投身于此并非为了对抗个人或大企业，“她解释道。她举例说明DAIR研究者如何运用数千张高清卫星图像，通过比对南非城镇边界与公共服务差异，深入剖析种族隔离的历史遗留问题。

“单纯分析危害并试图缓解会让人士气低落，“她说，“我们更在积极探索技术应有的建设方向。”

本文发表于2023年2月25日印刷版，标题为《蒂姆尼特·格布鲁》。