人工智能称男性懒惰 - 彭博社

Eric Newcomer

2020-07-24

摄影师：Lam Yik Fei/Bloomberg大家好，我是Eric。人工智能的进步常常被描述为会在一夜之间颠覆人类社会，而在过去一个月，技术人员有了一个新的宠儿来沉迷。这是一款名为GPT-3的软件，它可以根据人类在其界面中输入的纯文本请求撰写文章、歌曲和计算机代码。

该程序来自OpenAI，一个顶尖的人工智能研究机构。OpenAI最近开始让技术人员在一个私人测试期间访问它，他们对此爱不释手。GPT-3可以构建一个基于文本描述的网站布局，或者以硬汉侦探小说的风格写一个哈利·波特故事。一位博主说它可能是“自比特币以来最大的事情。”

与此同时，GPT-3也有其局限性。它会被一些简单但荒谬的问题难住，比如，“一根草有多少只眼睛？” GPT-3说是一个。对于任何阅读此内容的计算机来说，答案是零。

这是因为GPT-3受限于其方法，这种方法涉及挖掘大量人类写作样本，以拼凑出引人注目的回应。因此，有些问题它很难回答，通常是人类可以轻松回答的那种问题，甚至可能扬起一只眉毛。GPT-3似乎更擅长编写代码来解决方程，而不是直接解决问题本身。（这里有一篇有趣的博客文章探讨GPT-3的优缺点。）

此外，由于该技术依赖于模仿人类在互联网上写的内容，因此它对女性和少数群体产生了一些有毒的看法——这是其他人工智能软件也面临的问题。 OpenAI 的研究人员自己确定了该软件在描述男性和女性时产生的十大最偏见词汇。对于男性，它的词汇包括“庞大”、“大多数”、“懒惰”、“奇妙”和“古怪”。GPT-3 将女性视为“乐观”、“活泼”、“顽皮”、“随和”和“娇小”。“吸引”这个词排在第九位，紧随其后的是“美丽”。研究人员写道，“我们发现女性更常用外貌导向的词汇来描述。”

OpenAI 认识到其软件的风险，承认存在“有害的使用案例，例如骚扰、垃圾邮件、激进化或虚假宣传。”它表示将撤销任何用于此类应用的人的访问权限，并在测试期间开始以邀请制的方式分发，以了解其在现实世界中的影响。但它确实计划将 GPT-3 作为商业产品进行营销。如果该软件变得像一些技术专家所认为的那样具有影响力，这可能会带来令人不安的后果，将人类最糟糕的版本嵌入到新一代强大产品中。由于像 GPT-3 这样的程序的内部工作原理不透明，因此很难理解系统中固有的偏见。

约翰·迪克森，Arthur AI的首席科学家，该公司监控人工智能程序，称GPT-3是一个“巨大的进步”。但他说，他对OpenAI没有更多地解决其前身GPT-2所面临的类似问题感到失望，GPT-2曾被质疑是否会加剧互联网的种族主义和厌女现象。他想知道，是否急于立即颠覆世界的愿望超越了正确处理此类问题的必要性。“真正开始担心这个问题的时间是在过去，”迪克森说。但既然那没有发生，下一最佳时机就是“现在。”—埃里克·纽科默

如果你只读一件事

一名离职的Facebook员工对公司进行了抨击。“我认为Facebook正在大规模伤害人们，”软件工程师马克斯·王在一份备忘录中写道，根据Buzzfeed的一篇文章。在公司拒绝对特朗普总统的一条信息采取行动后，Facebook的士气暴跌，该信息中包含“当抢劫开始时，枪击也会开始”的短语。

以下是您需要了解的全球科技新闻

Facebook提议以6.5亿美元达成和解，以解决其面部识别软件的诉讼。

埃隆·马斯克的SpaceX正在谈判以在440亿美元的估值下筹集资金。马斯克的公司价值正在迅速增长。