Timnit Gebru的学术论文如何在谷歌引发风波 - 彭博社

Timnit Gebru摄影师：金伯利·怀特/盖蒂图片社

大家好，我是Gerrit。上周，谷歌爆发了一场战斗，波及社交媒体，并传播到数十篇新闻文章和博客帖子中。蒂姆尼特·盖布鲁（Timnit Gebru）是一位著名的人工智能研究员，以展示面部识别算法在识别白人面孔方面优于黑人和棕色人种而闻名。她在Twitter上表示，她在与一篇学术论文的争论后被公司解雇。

盖布鲁是该领域少数知名的黑人女性之一，曾担任谷歌道德人工智能团队的联合负责人，该团队研究人工智能的负面影响以及如何确保技术的实施不会伤害人们。盖布鲁被解雇的确切原因目前正在公开争议中。谷歌人工智能负责人杰夫·迪恩（Jeff Dean）在一封电子邮件中告诉员工，后来在网上发布，盖布鲁的论文遗漏了关键信息，她没有遵循公司对外发表工作进行审查的流程。盖布鲁和她的支持者，包括谷歌母公司Alphabet Inc.数百名现任和前任员工，表示她被解雇的真正原因是她公开批评谷歌在改善公司对有色人种的待遇方面的进展不够。

Gebru 并不是第一个 在指责谷歌后离开的员工。其他内部活动人士在与公司发生公开冲突后已经辞职或被解雇，而在八月份，Gebru 发表了言论，指出她因为参与活动而受到同事和经理的批评。

但是关于引发冲突的论文呢？Gebru 和她的合著者，其中一些也是谷歌员工，认为在公司和科学家们急于推进技术之前，AI 需要有更强有力的保障措施，并且需要更多思考释放这项技术可能带来的潜在风险。

具体来说，Gebru 的论文警告称，从互联网上搜集数十亿句子并用它们来“学习”如何像人类一样说话和写作的大型语言模型需要更多的防护措施。你可能已经与这些算法互动过了——它们惊人地擅长从模仿特定人的语言风格到写诗和编写计算机代码等方面的表现已经在最近几个月横扫网络。大型语言模型是人工智能社区的最新宠儿，而谷歌是让它们存在的研究的幕后推手。

Gebru和她的合著者指出，通过在网络上训练大量的英文文本，算法很可能会承载写作中反映的社会种族主义、性别歧视和其他偏见。他们承认了根除这些偏见的努力，但补充说，由于这些算法并没有被其创造者充分理解，因此无法保证它们没有被损坏。该论文还指出，运行庞大、耗电量巨大的数据中心来训练这些算法的环境成本应该得到更严肃的考虑。

通过质疑技术，Gebru和她的合著者暗示谷歌最激动人心的发明之一存在缺陷，可能需要加以限制。这一影响不仅仅关乎谷歌的研究部门。它自己的语言学习模型BERT现在正在被使用来解析几乎每一个用英语进行的谷歌搜索。当公司去年首次在其搜索引擎中开始使用BERT时，一位高管称其为搜索结果的“巨大进步”。

谷歌对自己的形象非常自觉。尽管多年前放弃了“不作恶”的座右铭，但这种情感仍然对许多员工很重要，他们通常认为谷歌为世界提供了有用和易于获取的工具，使数十亿人的生活变得更好。人工智能也是该公司身份的核心部分，其科学家和销售人员都认为这项技术对其未来至关重要。

谷歌和Alphabet的人工智能工作也无可争辩地为社会带来了巨大的好处，从语言翻译到医学科学的突破。但是，虽然对技术前景的信仰是谷歌身份的核心，Gebru的研究论文却不那么乐观，认为存在足够大的问题需要减缓或重新考虑人工智能的发展方式。即使这篇论文并非导致Gebru被解雇的原因，也很容易理解为什么这种观点可能引起公司领导层的一些不安。这一事件揭示了谷歌和整个社会对技术的前景和危险仍在激烈辩论中。这种辩论不太可能很快平息。— Gerrit De Vynck

如果你只读一篇文章

Uber在自动驾驶汽车技术方面 取得了重大进展，曾被认为是这家叫车公司未来重要组成部分。

以下是您需要了解的全球科技新闻

每个人都喜欢5G！ 除了… 航空安全专家？

花旗集团看到了****亚洲消费金融的未来，促使其与谷歌签署协议。

备受炒作的视频游戏《赛博朋克2077》 花了八年时间开发。这可能 还不够。