俄罗斯和朝鲜黑客利用人工智能增强网络攻击行动 - 彭博社

俄罗斯、朝鲜、伊朗和中国支持的对手被发现正在将大型语言模型纳入其工具包。

摄影师：Andrey Rudakov/Bloomberg据微软公司周三发布的一份报告称，国家黑客正在利用人工智能改进其网络攻击。

研究人员发现，俄罗斯、朝鲜、伊朗和中国支持的对手被发现正在将大型语言模型（如OpenAI的ChatGPT）纳入其工具包，通常是在其网络攻击行动的初期阶段。一些组织正在利用这项技术改进其钓鱼邮件、收集漏洞信息并解决自己的技术问题。

这是迄今为止最大的迹象，表明长期困扰企业和政府的国家支持的网络间谍组织正在根据公开可用的技术（如大型语言模型）改进其战术。安全专家警告称，这样的演变将帮助黑客收集更多情报，在试图欺骗目标时提高其可信度，并更快地侵入受害者网络。OpenAI周三表示已终止了与国家支持的黑客相关的账户。终止了账户。

“威胁行为者和防御者一样，正在研究人工智能，包括LLM，以提高他们的生产力，并利用可获得的平台来推进他们的目标和攻击技术，”微软在报告中说。

据该公司称，尚未发生包括LLM技术在内的重大攻击。

微软已向ChatGPT背后备受关注的初创公司OpenAI投资了130亿美元。

使用人工智能进行网络行动的黑客组织包括俄罗斯支持的Forest Blizzard，该组织最近侵入了微软高管的电子邮件。朝鲜的Velvet Chollima组织冒充非政府组织来监视受害者，中国的Charcoal Typhoon黑客主要专注于台湾和泰国，也利用了这样的技术，微软表示。与伊朗伊斯兰革命卫队有关的一个组织利用LLM创建了欺骗性的电子邮件，其中一个用于诱骗知名女权主义者，另一个伪装成国际发展机构。

微软的发现出现在专家和公众对人工智能可能给世界带来的严重风险日益关注的背景下，包括虚假信息和失业。2023年3月，包括主要科技公司的知名领导人在内的一千多人签署了一封公开信，警告人工智能可能对社会造成的风险。超过33,000人签署了这封信。