聊天机器人的崛起让网络安全专家们赶紧应对人工智能黑客攻击 - 彭博社
Katrina Manson
摄影师：克里斯·拉特克利夫/彭博社 必读：
• 深度伪造色情受害者 得知 没有法律可以打击它• Okta 称黑客窃取了数据 所有客服用户• DP World 称 个人员工数据在澳大利亚遭到盗窃
网络安全角度
三年前，一位名叫克里斯蒂娜·利亚加蒂的工程师联系了微软公司，因为她越来越担心人工智能容易遭到黑客攻击。现在，她正在与这家科技巨头合作，带领一项工作来解决这个问题。
利亚加蒂和她在Mitre的团队的想法是对所有人工智能可能被攻破的现实方式进行分类。他们有一个如何着手的蓝图：2013年，Mitre绘制了黑客攻击计算机或几乎任何在线事物的主要方式。结果是一个被称为Att&ck框架的矩阵，列出了今天网络安全实践中被认为至关重要的主要策略和技术。每当发现一种新的方法，他们就会更新这个框架。
对人工智能做同样的事情“要复杂得多”，Liaghati说，但他们仍在努力。她说，新的漏洞不断出现。
问题在于，CISO和其他安全官员并不完全了解人工智能黑客风险，许多公司部署复杂的人工智能系统，却并不完全了解可能出现什么问题，Liaghati说。
大型语言模型的出现，可以生成新颖的文本和图像，进一步强化了Mitre工作的必要性。最近几个月，学者、安全研究人员甚至大学生都在揭露由LLM驱动的聊天机器人和其他功能中的漏洞。
这一举措是因为来自世界各地的间谍和网络防御机构敦促人工智能系统提供商制定更好的安全实践，以避免潜在的灾难性黑客攻击。
周一，来自美国、英国、加拿大、澳大利亚、德国等国的政府机构发布了指南，主张安全“必须是整个人工智能系统构建周期的核心要求”，从设计和开发到部署、运行和维护。
“我们希望能够倒带时间，从互联网的开始就将安全性融入其中，”国家安全局网络安全主任Rob Joyce在发布指南时说。“我们今天有这个机会，需要抓住机会。”
国家安全局最近成立了自己的人工智能安全中心。乔伊斯在一份声明中告诉彭博社，美国的对手正在探索人工智能技术，以增强他们的能力和行动，并补充说，对于国家和全球安全来说，保护在商业和国防中越来越多地使用的人工智能系统至关重要。
麻省理工学院咨询了微软的团队，Liaghati说微软拥有世界上最大的数据集之一，用于研究人工智能系统如何受到攻击。她的团队随后在GitHub上发布了一个基本的Excel电子表格，她将其比作攻击的原始画布，而不是完整的攻击图片。
接下来的一年，麻省理工学院推出了一个名为Atlas的人工智能黑客框架的网站版本。它跟踪从操纵训练数据到在影响其准确性的机器学习模型中设置后门的一切。麻省理工学院开发了一个名为Arsenal的插件，以帮助测试人工智能系统是否容易受到攻击。
她说，从最初得到微软和其他十几个组织的参与，这一努力现在已经扩大到大约一百个团体。她拒绝透露参与者的名称，但表示它们包括几个致力于分享关键基础设施安全信息的行业组织，涵盖信息技术、金融、健康、国防和空间。
甚至还有一个Slack频道，其中有多个主题讨论新技术以及它们是否值得纳入。
“每个人都在努力评估目前的风险，”她说。
本周我们学到了什么
羞愧是真实的。体重减轻和噩梦也是真实的。但他们以前的同学发布的照片却不是。在今天发布的一篇《商业周刊》封面故事中，Olivia Carville和我详细描述了一位长岛男子如何制作了前高中同学的深度伪造裸照并在网上发布的情况。文章还详细介绍了一些年轻女性最终如何确定了她们的网络骚扰者，以及她们对得知没有法律保护她们免受这种网络骚扰的沮丧。这种沮丧是全世界的女性共同的。根据AI照片公司Everypixel Group的数据，自2022年4月以来已经制作了超过150亿张深度伪造图像。专家表示，其中90%是色情图像，而且不再仅仅是名人的图像。在我们的报道中，我们调查了数千张显然是从毫不知情的年轻女性社交媒体账户上盗取或者在iPhone上拍摄的照片，然后经过篡改上传到网站上。很多时候，上传这些照片的人会恶意地将他们的帖子描述为“致敬”。监管深度伪造或者由AI生成的网络骚扰是棘手的。法律在努力跟上技术飞速发展的步伐，导致美国出现了令人困惑的法律补丁。长岛案件是美国法院审理的最早的令人恐惧的深度伪造事件之一，但肯定不会是最后一个。--Margi Murphy
我们正在阅读什么
- DP World称个人员工数据在澳大利亚遭到盗窃。
- 联邦官员在伊朗亲信团体声称已经黑入宾夕法尼亚水务局后展开调查。
- 一家印度初创公司是如何黑入全球的。
- 神秘黑客组织瞄准以色列，展现出超常的能力。
- Instagram的算法向关注儿童的成年人提供有害视频混合。
钓鱼行动
从你下次的科技会议带回一个纪念品吧！
**有新闻线索吗？**你可以联系Katrina Manson，邮箱：[email protected]。Margi Murphy的邮箱是[email protected]。你也可以使用我们的SecureDrop安全、匿名地发送文件。
更多来自彭博社
获取科技日报和更多彭博科技周刊，直接发送到你的收件箱：
- 游戏开始进行视频游戏业务的全程播放
- 启动电源获取苹果独家新闻、消费者科技资讯等
- 银幕时光近距离观看好莱坞和硅谷的碰撞
- 声音片段报道播客、音乐行业和音频趋势
- 问答AI回答关于人工智能的所有问题