纸厂生成的伪科学将会因人工智能而变得更糟 - 彭博社

多么浪费。

摄影师：大卫·席尔瓦曼/盖蒂图片社展望下一场战争。

摄影师：蒂莫西·沃尔特/美国海军盖蒂图片社

在某些职业中，假装直到成功为止可能是一种常见做法。但对于科学家和医学研究人员来说，这显然是不道德的。尽管如此，每年仍然有成千上万篇所谓的伪造论文被所谓的论文工厂制造出来并发表在同行评议的期刊上。

这个问题最近成为 头条新闻，当受人尊敬的出版社威利（Wiley）宣布将停止与其收购的一个名为 Hindawi 的出版商关联的 19 本期刊，部分原因是这些期刊充斥着伪造论文。但这个问题在之前就已经被发现：调查欺诈的博客 For Better Science 在 2022 年就已经指出了威利存在“积极欺诈”的态度。（而我在 2021 年的 Follow the Science podcast 中也曾经报道过伪造研究的问题。）

彭博观点欧洲军队可能拯救台湾。真的。美国的无人机将在台湾海峡造成“地狱般”的景象伦敦最高的建筑目前无与伦比新加坡正在让全球人才的生活变得更加艰难这些不仅仅是伪造数据的论文 - 在许多情况下，所有数据和文本都是完全虚构的，是通过人工智能生成的，或者是剽窃的。它们从头到尾都是假的。这些伪造论文的创作者被称为论文工厂，他们通过联系科学家并提供以科学家的名义在论文顶部写作 - 付费的方式来运作。

论文工厂的蔓延是因为一种困扰许多科学领域的病态。科学家更注重他们研究的数量而不是质量。而且在许多期刊中，同行评审是不起作用的。

在这种扭曲的生态系统中，寄生公司蓬勃发展，帮助科学家作弊以增强他们的简历，获得竞争激烈的学术职位，并给资助机构留下深刻印象。最终，这导致一些宝贵的资源流向作弊者，而远离更有价值的科学家。

更糟糕的是，一些虚假结果可能渗入其他文章中，污染医学知识的状态，普渡大学的生物学家大卫·桑德斯表示，他一直在追踪科学不端行为和论文工厂问题。他说，通过支付足够的钱，论文工厂可以通过创建引用它的其他虚假论文来使一篇虚假论文看起来更有影响力。如果审阅作者 - 他们也在追求数量 - 没有足够注意他们正在审阅的内容，这些论文工厂的研究甚至可能被引用在看似合法的综述论文中。

一些纸厂的论文显示出明显的缺陷，包括显而易见的抄袭图表、图片和文字。有些论文是从英语翻译成另一种语言，然后再翻译回来 — 这可能导致奇怪的措辞，比如“乳糖不耐症”变成了“乳糖偏见”，Sanders说。还有一些显示出荒谬之处，比如一个卵巢癌患者样本中有一半是男性的实验。

现在借助ChatGPT，纸厂可以便宜、轻松地创建更加连贯、可信的论文。受到虚假论文困扰的科学领域可能更好地解决问题的根源，而不是试图追踪它们。

博客的联合创始人撤稿观察Ivan Oransky多年来一直在追踪有问题的研究。他说，据估计，纸厂的产出约占论文总数的大约2%。这听起来可能不算多，但每年发表大约200万到600万篇科学论文，所以2%的比例还是相当可观的。

一些期刊超过50%是由纸厂生成的，Sanders说。他描述的方式是，纸厂找到一个易受影响的期刊，然后“完全寄生于它”。

他说，他不仅责怪粗糙的同行评审，还责怪一种评估科学价值的扭曲系统。“招聘委员会或资助委员会没有能力进行实际评估，”Sanders说。因此，科学家根据他们发表的论文数量以及其他引用这些论文的数量来获得奖励。

甚至许多合法的期刊文章在生物医学领域也没有推动知识的进展，他说。研究人员可能已经为正在进行的项目收集了一些额外的数据，这些数据应该存入数据库，而不是变成一篇不必要的论文。“我会说，现在发表的大多数文章除了呈现的数据之外没有任何贡献，”他说。“不值得一读。”

整个激励体系都是扭曲的，他说，人们如此依赖于资助来维持生计，以至于他们会“不惜一切”。

他说，假论文通常使用预先存在的模板，填入词语和数据，就像填空游戏一样。纸厂创作在那些论文往往呈公式化的领域更为普遍，比如纳米技术、计算机科学和一种名为微小RNA的癌症研究领域。

但一些责任也在于其他科学家，他们在评论文章中引用这些假论文——这些评论文章的数量远远超出了对科学或社会有益的范围。即使最初的论文被撤回，它们的影响仍然以引用和在评论文章中的提及的形式存在。

最终，糟糕的论文可能会污染医疗护理标准，Sanders说。有些人正在开发基于假论文的癌症诊断。他曾看到一篇纸厂产品被引用在一次论文答辩中。他甚至听说过癌症患者引用一篇假论文来询问替代疗法。

资助机构可以通过拒绝资助发表有大量虚假发现的差评期刊的工作来提供帮助。他们可以列出经过严格同行评审的认可期刊名单，并只资助旨在发表在这些期刊上的工作。Sanders说，更多的资金也应该用于科学中的欺诈检测。

人们不需要数百万篇科学论文，其中大部分对推进我们的知识几乎没有帮助。我们需要更多科学家将他们的精力投入到质量控制或缓慢、谨慎的研究中。科学是一个竞争激烈的领域，那些成功的人不应该是骗子。

更多来自彭博观点的F.D. 弗拉姆：

• 震惊癌症科学的丑闻对你的健康有影响
• 政治深度伪造将控制你的大脑 — 如果你允许
• 想要避免假新闻？远离谷歌

想要更多彭博观点吗？OPIN <GO>。或订阅我们的每日新闻简报。

华盛顿的行家们正在为战争做心理准备。在乌克兰或中东地区并不是这样，那里他们正试图让美国远离已经在肆虐的战斗；而是在台湾海峡，那里的战斗还没有开始。如果战斗爆发，每个人都认为，中美之间的冲突将是地狱。问题是，究竟是什么样的地狱？

一些“战争游戏”（正如智库人士坚持称呼他们的可怕桌面演习）表明美国及其台湾和日本盟友可能会击退中国大陆的全面入侵尝试，但代价惨重：美国将损失数以万计的军事人员、数十艘舰船、数百架飞机以及大量其他装备。美国和全球经济将在废墟中燃烧多年。