《华尔街日报》：努南谈人工智能如何映射人性中的恶魔与天使

图片来源：DADO RUVIC/REUTERS关于佩吉·努南的《暂停AI六个月？不，需要更长时间》（《宣言》，4月1日）：作为一名技术专家，我认为应停止公众使用这些工具。作为研究工具，这项技术没有问题，但允许公众使用是危险的。

AI程序依赖训练数据库。它们缺乏筛选数据库并剔除错误信息的判断力。为此，OpenAI依靠人工检查ChatGPT生成的回复并提供反馈。问题在于，经真人审核的回复数量远少于公众可能提出的问题。数百万条回复未经任何审核就被传播，包括教唆杀人的指令。

公众反馈可能加剧问题。由于系统设计为接收用户输入，心怀恶意的人（或其他机器人）可能污染数据库，使其相信疫苗有害或大屠杀从未发生。

程序员不应放任算法处理网络生成的数据，而应使用优质、干净的数据，并仅允许可信用户访问。同时，设计者必须对其产品负责。我们需要律师的时候，他们在哪里？

阿法林·贝利萨里奥博士

波士顿

AI正在接受海量人类交流数据的训练，这些数据展现了人类行为的双重性——既有光辉也有阴暗。这种双重性也将烙印在AI身上。虽然努南女士认为私营部门掌控这一过程存在伦理缺陷，但我认为政客或政治程序同样不适合管理这项技术的创造，学术界亦是如此。

精灵已经逃出了瓶子。谷歌和微软肯定不是唯一在开发通用人工智能的公司。你可以打赌，每个有能力的国家军方都在加紧研发。

詹姆斯·麦肯齐

宾夕法尼亚州伯温

努南女士提出了一个令人信服的清单，主张暂停人工智能的发展。但中国政府或其他恶意行为者有多大可能听从她的论点并加入这一暂停呢？

汤姆·帕罗尼斯

纽约布鲁克林

刊登于2023年4月8日印刷版，标题为《人工智能映照出我们本性中的恶魔与天使》。