【世界知识】兰顺正：在享受ChatGPT的便利时，也要看到其挑战_风闻

作者：兰顺正

首发自：《世界知识》

近段时间，人工智能聊天工具ChatGPT在全球范围内掀起一阵“飓风”。ChatGPT全名为Chat Generative Pre-trained Transformer（“聊天生成式预训练转换器”），是美国OpenAI公司研发的聊天机器人程序，于2022年11月30日发布，在短短两个月内便获得1亿月度活跃用户，成为史上增长最快的面向消费者的应用程序。

ChatGPT是一种专注于对话生成的语言模型，能够根据用户的文本输入，产生相应的智能回答，这个回答可以是简短的词语，也可以是长篇大论。通过学习大量现成文本和对话集合（例如Wiki），ChatGPT支持包括英文、中文在内的多种语言，能像人类那样即时对话，流畅地回答各种问题，写诗写故事，甚至是撰写商业计划书和行业分析。

ChatGPT之所以如此“神奇”，一个重要原因是其背后的AI模型采用了独特的训练过程，就是让AI不断进行填词考试，输入一个字、一句话，让程序去预测出现概率最高的下一个字、下一句话。ChatGPT用到了3000亿单词的语料数据和1750亿的参数，前者是喂给程序的训练资料，后者基于训练资料 ChatGPT 模型对世界的理解。一定程度上说，参数量级越大，AI模型就越可靠，越能理解提问。在ChatGPT身上还做了一项“人类偏好处理”训练，即，根据人类的反馈，让AI学会理解人类的思维方式。因此，ChatGPT相比前辈更知道哪种答案才是人类想要的，或者更符合人类的情感需求。

不过，ChatGPT在给人带来便利的同时，也引发了大家对网络安全的更深担忧。有观点认为，从开展网络攻击的角度看，ChatGPT这类生成式人工智能是偏向于威胁行为者的。生成式AI能提供所要求的内容，极有利于制作网络钓鱼电子邮件。它通过获取的信息，利用额外的上下文关联关系，并根据自己的理解得出结论。ChatGPT可以毫不费力地创建大量复杂的网络钓鱼电子邮件，甚至还能创建非常逼真的虚假配置文件，渗透进过去被认为机器不适合或不擅长的领域，伪造出令人信服的文字和图片资料。

而且ChatGPT大大减少了威胁参与者基于技能的进入成本。目前威胁的复杂性或多或少与威胁行为者的技能水平有关，在ChatGPT出现后，一些入门级网络犯罪分子立刻可以获得新的能力，从过去只能简单利用指令跃升至可以编写针对性代码的新级别，显著降低了网络犯罪的门槛，会激励众多入门级黑客使用ChatGPT发起攻击。

ChatGPT存在着巨大的军用潜力。美国国防部在2月8日使用ChatGPT生成了一篇建议成立新的反无人机特遣部队的文章，更让ChatGPT“从军”问题变得不可忽视。

就目前ChatGPT所展现的能力看，其在军中大有用武之地。首先，基于ChatGPT的人工智能技术可为军人提供实时翻译服务，实现不同国籍士兵之间的无缝沟通。

其次，可以简化参谋工作流程。在任务分析阶段，分析人员需要处理和融合信息以生成一张通用作战图（COP）。为完成该任务，分析人员需要对接收的信息进行分类并确定当前态势以构建动态更新的COP，还需要检测己方系统是否被欺骗。在生成式人工智能技术的辅助下，战术级系统可以根据接收到的情报报告的自动生成态势分析报告。在计划执行过程中，生成式人工智能技术可被用于自动生成总结报告。在层级指挥结构中，上级需要接收下级的信息，而如果没有总结报告，上级将接收过量信息，从而降低工作效率。传统的总结报告需要从原始文档中复制和粘贴相关内容，现在可以利用ChatGPT的摘要生成式方法来进行总结。

ChatGPT技术还拥有强悍的数据分析和挖掘能力，能够依托大数据库和学习能力，总结归纳事物发生、发展、变化的规律，这对于指挥官进行决策具有重要参考价值。通过对情报的了解分析，ChatGPT技术能够结合作战对手的特点、己方的优缺点，给出有一定价值的参考建议，并提供快速准确的威胁评估，指挥官则可在瞬息万变、争分夺秒的战场上做出最准确可靠的判断和决策。

另外就是舆论战。在一个数字化程度不断提高的国家，ChatGPT这样的聊天机器人可能被数百万人用来进行交流，以获取新闻和信息，并参与政治讨论。如果这个聊天机器人是由一个敌对的外国行为者设计和编程的，就有可能被用来传播虚假和煽动性的信息，以达到操纵舆论、分化民众、破坏对手国家团结的目的。