在OpenAI失业了吗？成为科技监管者-彭博社

Lionel Laurent

摄影师：Tanaonte/iStockphoto事实还是虚构？

摄影师：Richard A. Brooks/AFP/Getty Images

你很少看到《创智斗士》或《学徒》上的任何新兴企业家说他们的抱负是成为政府监管者。

然而，这正是欧盟新成立的AI办公室所依赖的，该办公室正在招聘140名员工 — 包括技术专家 — 来执行这个27个成员国的区块的 里程碑式AI 规定，这是全球最为广泛的。监管者的待办事项很多：对一个相对新生的技术设立限制，测试和评估通用AI模型，必要时处以罚款，同时推广“值得信赖”的AI，以释放公司渴望的生产力益处。

Bloomberg观点法国的勒庞障碍正在消失。债券市场不会AI的脑雾不会阻止对艺术的清算想知道你在投票支持什么？问问伊朗人工党的财富税能填补英国的财政漏洞吗？但在一个领域里，埃隆·马斯克可以在一轮融资中筹集60亿美元，甚至连法国总统埃马纽埃尔·马克龙也 批评 欧洲在技术领域过度监管的倾向，那么在 实际聘用 所谓的“奥本海默”方面有什么希望呢？

有理由乐观。在公众意识中，需要对人工智能进行有效监管的呼声正在扩散。具体问题正在取代夸大的科幻描述，描述技术将来可能做的事情。生成式人工智能在现实世界中的危害包括在诈骗和银行欺诈中的使用，播撒选举虚假信息，生成真实人物的性暴力和辱骂性假图片，从年轻女孩到流行歌手泰勒·斯威夫特。像斯嘉丽·约翰逊和比莉·艾利什这样的艺术家和创作者公开抱怨他们的肖像被盗用，而他们甚至还没来得及提出异议。民意调查显示大多数美国人支持人工智能监管。

即使在科技界内部，尽管令人眼花缭乱的人工智能炒作推动着英伟达公司和谷歌母公司阿尔法著录创下历史最高市值，但越来越多的公开迹象显示出幻灭。最初是一群行业声音担心从长远来看人工智能对人类的存在风险，现在已经变成更紧迫和即时的关注。去年，人工智能音乐专家埃德·牛顿-雷克斯因为高调初创公司稳定性人工智能认为未经艺术家同意使用其作品可能被视为“合理使用”而辞职。这位前高管支持“全球范围内的严格监管”，并创建了一个专注于人工智能透明度的非营利组织“公平训练”。

我问了牛顿-雷克斯关于行业内部人士对直接监管人工智能可能产生的积极影响。他告诉我：“如果没有专家参与监管，我担心会有遗漏的事情。” 牛顿-雷克斯提到了未经许可使用数据来训练人工智能模型或者来自其他侵犯版权的来源的合成（或人工智能生成的）数据的风险。他还对使用选择退出功能提出了担忧，这些功能旨在保护权利持有人的作品免受未经授权的使用。牺牲一些利润来做更多善事的想法可能正在传播；理论上，欧洲应该是那种在变得富有后将思维转向公共利益的聪明富有的技术大拿的地方。

当然，也有一些警告。科技领域充斥着后悔的创新者的例子，从WhatsApp的联合创始人因与马克·扎克伯格发生分歧而加入#DeleteFacebook运动，到杰克·多尔西对Twitter的遗产持矛盾态度。这并不一定意味着他们适合于守旧的政府机构世界 —— 人工智能办公室的负责人自1997年以来一直在欧盟工作。这也可能增加了监管陷阱或递减回报等意外后果的风险。一份2014年的报告发现，一家金融监管机构聘请量化专家以更好地与银行竞争，后来却遇到了太多量化专家在激烈争论中陷入僵局的意外问题。

尽管普罗米修斯式的亿万富翁们追逐人工智能财富，但监管者别无选择，只能试图抓住那种既懂得这项技术又愿意拒绝五到六倍薪水涨幅的人。这是否足以让欧洲成为一个不仅仅是监管，而且实际上能够创造世界领先人工智能冠军的经济体——这是马克龙支持的另一种奥本海默类型——是另一回事。

更多来自彭博观点：

​​​​​想要更多彭博观点吗？ OPIN <GO> 。或者您可以订阅 我们的每日新闻简报 。

是否曾经注意到科幻小说对未来技术的预测是错误的？我们没有得到飞行汽车，而是得到了助长文化战争的病毒推文。我们没有手腕上的传真机，而是得到了迷因。我们对人工智能也有类似的现实检验。科幻描绘了一个未来，计算机以机器语言提供可靠信息。然而，那些尝试将生成式人工智能工具插入基础设施的企业发现，这些工具“产生幻觉”，令人失望。它们几乎不可靠。而这些工具本身也不僵硬和机械化。它们几乎是异想天开的。并且犯错。

“我们曾以为人工智能会是‘终结者’，但事实证明它更像是毕加索，”EyeLevel.ai创始人尼尔·卡茨说，这家初创公司帮助企业获得生成式人工智能模型，使其在与数据连接时能够以95%的准确率运行。卡茨预测，在经过另外三到五年的调试之后，这种可靠性水平将在人工智能领域普及，这意味着这项技术可以对金融或医疗保健公司的核心运营产生实质性的帮助。尽管如此，这并不意味着生成式人工智能还没有产生产业转型的影响。只是它的影响并非创造者所设想的那样。