谷歌的Gemini人工智能并不是太觉醒，而是太仓促- 彭博社

Parmy Olson

在美国纽约安排的智能手机上的双子座标志，于2023年12月9日星期六。谷歌的母公司字母表表示，双子座是迄今为止最大、最有能力和最灵活的人工智能模型，取代了2023年5月发布的PaLM 2。摄影师：彭博社

你听说了吗？谷歌被指控对白人有秘密的私人仇恨。埃隆·马斯克在过去一周里在X上交换了150多次关于这个阴谋的推文，所有这些都涉及使用谷歌新的AI聊天机器人双子座生成的肖像。本·夏皮罗，《纽约邮报》和马斯克对图像的多样性感到愤怒：女教皇！黑色纳粹！土著开国元勋！谷歌道歉并暂停了这一功能。

事实上，问题在于该公司在技术上做了一项拙劣的过度纠正，曾经偏向种族主义。不，它的首席执行官桑达尔·皮查伊并没有被唤醒的思维病毒感染。相反，他过于着迷于增长，忽视了对产品的适当检查。

彭博观点24小时内的3个季节困扰气候变化否认者温迪的尝试涨价会越线不要让美国的太平洋岛屿盟友陷入困境纽约仍有足够多的富人来支付账单三年前，谷歌陷入麻烦，当其照片标记工具开始将一些黑人标记为猿类时。它关闭了该功能，然后通过解雇了两名领先的AI伦理研究人员使问题变得更糟。这些人的工作是确保谷歌的技术在描绘女性和少数族裔时是公平的。不像新的双子座那样过于多样化，而是公平和平衡的。

当双子座本周开始生成二战时期的德国黑人和亚洲士兵的图像时，这表明伦理团队并没有变得更加强大，正如马斯克和其他人所暗示的那样，而是被忽视了在谷歌与微软公司和OpenAI的竞争中，以主导生成式网络搜索。适当的投资本应导致更智能的多样性图像生成方法，但谷歌忽视了这项工作。

过去一年来一直有迹象表明。根据人道技术中心的估计，测试人工智能系统安全性的人数比那些使其更大更有能力的人多30比1，往往他们在空虚中呼喊，并被告知不要碍事。谷歌早期的聊天机器人巴德存在严重缺陷，以至于在其营销演示中出现了事实错误。员工们曾对此发出警告，但管理人员不愿听取。一名员工在内部留言板上发帖称巴德“比无用还糟糕：请不要发布”，据彭博新闻调查，许多查看该消息的7000名员工都同意。

不久之后，进行了风险评估的工程师告诉他们的谷歌上司，Bard可能会造成伤害，还没有准备好。你可能能猜到接下来谷歌会做什么：它将Bard发布给公众。

谷歌匆忙发布的有缺陷的人工智能并不是唯一的。微软的必应聊天机器人不仅不准确1，而且失控了，发布后不久，它告诉一位New York Times专栏作家说它爱上了他并想要摧毁事物。谷歌表示负责任的人工智能是首要任务，并且“继续投资于团队”，这些团队将其人工智能原则应用于产品。

OpenAI，开启了大科技公司争夺生成式人工智能立足点的竞赛，将以新的人工智能工具对待我们所有人的理由正常化。其网站描述了一个“迭代部署”的理念，快速发布产品如ChatGPT以研究其安全性和影响，并为我们未来更强大的人工智能做准备。谷歌的皮查伊现在也说了类似的话。通过发布半成品的人工智能工具，他正在给我们“适应的时间”以适应当人工智能变得超级强大时，根据他去年在60 Minutes采访中的评论。

当被问及是什么让他夜不能寐时，皮查伊毫不讽刺地表示，他担心人工智能如果被错误部署会“非常有害”。那么他的解决方案是什么呢？皮查伊没有提到投资更多研究人员来确保人工智能的安全、准确和道德，而是指出更严格的监管，这是他无法控制的解决方案。“对于制作深度伪造视频造成社会伤害必须要有后果，”他说，指的是可能传播错误信息的人工智能视频。“任何有一段时间与人工智能合作的人，你知道，你会意识到这是一种如此不同和如此深刻的东西，我们需要社会规范来思考如何适应。”

这有点像一家餐厅的厨师说，“用沙门氏菌让人生病是不好的，我们需要更多食品检查员来检查我们的生食材料，”当他们心知肚明根本没有食品检查员，而且未来几年也不会有。这使他们有权继续提供有毒的肉或鱼。在人工智能领域也是如此。随着监管在遥远的未来，皮查伊知道责任在于他的公司构建公平和安全的人工智能系统。但是现在他卷入了迅速将生成式人工智能应用于一切的竞赛中，几乎没有动力确保它是安全的。将生成式人工智能应用于一切，现在他知道责任在于他的公司构建公平和安全的人工智能系统。但是现在他卷入了迅速将生成式人工智能应用于一切的竞赛中，几乎没有动力确保它是安全的。

我们之所以知道双子座的多样性问题，是因为关于X的所有推文，但是人工智能模型可能存在我们不知道的其他问题——这些问题可能不会引起埃隆·马斯克的注意，但同样具有潜在危害性。女教皇和黑人开国元勋是将增长和市场主导地位置于安全之前的更深层次、长达多年的问题的产物。直到这种情况改变，我们作为实验对象的角色将继续存在。

更多来自彭博观点：

想要更多彭博观点吗？ OPIN <GO>****。或者你可以订阅 我们的每日新闻简报**。**