人工智能欺诈广告投诉在社交媒体平台上增加 - 彭博社

Parmy Olson

摄影师：Chris Delmas/AFP

新技术走向哪里，无良之徒就会跟随。生成式人工智能炒作吸引了那些不仅在计划中使用它，而且在社交媒体广告中使用它的骗子。更糟糕的是，有时是老年人和财务上脆弱的人成为了目标。美国联邦贸易委员会（FTC）负责监督欺诈性广告行为，根据彭博观点通过信息自由法案请求获得的投诉文件显示，过去一年关于使用人工智能或声称使用人工智能来诱使人们陷入诈骗的广告投诉激增。至少三分之一的投诉是关于在Twitter、Facebook和YouTube等社交媒体网站上发现的广告，这些网站现在在自己的广告商中面临一种新型的虚假信息对手。

BloombergOpinion外面看起来很像第二次世界大战甚至南极洲也无法阻止新冠病毒。这是一个重要的教训。需要成熟的科技CEO，而不是寻求刺激的兄弟这一大脑癌症突破应该让你兴奋在2023年2月至2024年2月的一年中，向FTC提到AI的广告投诉仅有两起，但这一数字在2024年2月至2025年2月的一年中上升到了14起，与企业使用生成式人工智能工具创造类似人类文本和逼真图像以及深度伪造技术的激增相吻合。

这些数字乍一看可能并不表明有流行病问题，但考虑到大多数常规社交媒体用户被鼓励首先向Facebook或YouTube等平台投诉，而不是美国顶级在线广告监管机构，它们仍然反映了人们可能看到的更广泛的增加，以及可能是冰山一角。 （这里列出的所有投诉都是直接向FTC提出的。）

例如，洛杉矶的一位30多岁的人告诉FTC，他们在YouTube上观看了一个特写伊隆·马斯克的深度伪造视频后，被诱使转账7000美元到一个假的特斯拉网站。在视频中，假冒的马斯克说特斯拉将通过与另一家加密公司合作“在短时间内将您的资金翻倍”。但洛杉矶的投诉人从未拿回他们的钱，并说他们失去了一生的积蓄。“那是我所有的钱，”他们在投诉中说。

来自佛罗里达的另一人说，他们在YouTube上一直看到深度伪造广告，声称展示了区块链支付网络Ripple首席执行官Brad Garlinghouse，并承诺“翻倍赚钱”，根据投诉。该人补充说：“YouTube完全忽视我们的担忧，这些广告仍在显示。”

“我们注意到了一种新兴的深度伪造广告趋势，暗示了虚假的名人背书或关系，”YouTube所有者Alphabet Inc.的一位发言人在电子邮件中告诉我。“我们也知道，这些广告有时会被用来欺骗用户。我们正在大力投资于检测和打击这些深度伪造广告及其背后的不良行为者。”该公司在一月份表示，他们“意识到”使用马斯克等名人的深度伪造广告来传播诈骗，并删除了1000个宣传这些广告的视频，根据404 Media的报道。

最近的投诉显示，就像企业纷纷提及其服务或产品中的人工智能一样，骗子们也将其作为一种诱饵。过去一年向FTC投诉的几起案件也指向了Facebook平台上的广告。例如，英国的一位人发现自己进入了一个声称提供人工智能交易平台的公司的Facebook页面。一旦这个人开设了账户，他们就存入了200美元，并与一位理财顾问预约了见面。“然后他会进一步教育我有关人工智能交易，”他们的投诉说。这位“顾问”最终逼迫他们支付一笔费用才能提取他们的存款，而他们支付不起。

菲律宾的另一位人报告了Reels上的一个视频广告 —— Facebook的TikTok版本 —— 在视频中，骗子声称利用人工智能帮助人们在兼职工作中每天赚取高达1500美元。而在另一个Facebook平台 —— Instagram上 —— 澳大利亚的一位人称他们看到了一个由马斯克开发的人工智能交易平台的公告，声称可以“帮助普通人通过加密交易赚取数千美元”。在投资了250美元后，这位人发现自己无法提取任何资金。“他们一直说‘财务部门必须批准’，”投诉人说。“那是我最后一次听到他们的声音。”

Facebook所有者Meta Platforms Inc.的女发言人表示，公司与执法部门密切合作，支持调查并将骗子从我们的平台上清除，并且其各种应用程序“有系统来阻止诈骗行为”。

欺诈者还以其他方式使用人工智能。美国乔治亚州的一位老兵抱怨说，她曾访问过一个面向老年人的约会网站，意识到她与许多潜在伴侣聊天的对象都是机器人。

机器人多年来一直渗透到约会应用程序和网站中，但生成式人工智能最近帮助它们听起来更加流利。在一些网站上，它们会鼓励用户花钱为平台上的其他人购买虚拟礼物，或者购买更多的聊天积分。“我真是太傻了，竟然上当了，”老手在投诉中说。

社交媒体公司多年来一直在与滥用其平台的人作斗争，包括那些试图传播宣传和阴谋论的人。这种新型的不良行为者提出了独特的挑战。人工智能工具使欺诈者有可能大规模发起活动，这意味着他们内容的数量之多可能会压倒检测方法。这些平台可能需要付出巨大的努力。与此同时，企业和消费者都应该记住这句格言，当他们遇到新潮的技术时：如果事情看起来太美好，那可能就是。更多来自彭博观点专栏的内容：

想要更多彭博观点吗？OPIN<GO>。或者订阅我们的每日新闻简报。