你在网上关注的美女，可能都是AI生成的_风闻

X博士

2023年02月28日 14:45:11 来自北京

最近，有人宣称，要在苏州的金鸡湖上开游艇趴，报名费3000块，每名参加者都会配备“随身女仆一名”。

举办者还附上了部分女仆的照片，看着很顶，但也很奇怪，因为有几位“女仆”的手指扭曲得不合常理。

后来事儿闹大了，警方介入，才发现这些女仆照片，居然全都是用AI生成的。

而诸如此类利用AI以假乱真的例子，在过去的一年里可谓屡见不鲜，一再刷新着我们对“真实”这两个字的认知。

你所爱恋的，都是幻象

今年2月，海外多家媒体发文，称付费色情平台OnlyFans可能会在不远的未来，被AI创造的色图所冲垮。

媒体说这话的原因，是因为在推特平台上，有一个名叫“heartereum的”用户上传了数张由AI所生成的美女图片。

乍看上去，图里的小姐姐们与真人别无二致。

只有仔细观察，你才能发现她们身上的一处处“不协调”，然后才意识到这些辣妹，其实都只是精致的“人类模仿品”。

虽然人是假的，但色却是真的，就像下面这哥们所说的那样：

不过OnlyFans的从业者倒是不担心会被AI模特抢走工作，平台知名艳星Laura Lux表示，她赚钱的点不仅是裸露，还在于与粉丝的亲密互动，这一点，AI是无法胜任的。

在几乎同一时间节点，国内的网络上也出现了一套由AI生成的小姐姐Cosplay图。因其过于逼真，而被B站的审核直接分类进了“仿妆Cos区”。

·Ai生成的cosplay照，角色是《明日方舟》里的缄默德克萨斯，创造者：勘云工造

这事儿充满一种“齐马蓝式”的科幻寓言感：

人类用PS修图，努力将自己的面容P到完美，而AI却努力去模仿真人脸上的复杂与瑕疵，最后二者实现了某种动态平衡。

·男生也可以，创造者：海辛Hyacinth

创造这套图的，是国内的博主“勘云工造”。在他的微博时间线上，技术的迭代似乎每隔几天就会出现一次。

当漂亮的写真可以被人工智能愈发完美地一次次复现时，你可能就无法意识到，小红书上那个名叫“爱旅游的小多”的美女博主，其实只是一个由AI所缔造的存在。

德国的ColorDigital，已经开始组建自己的“数字模特营销团队”，用被生成的、身材完美的AI模特，来给各种潮牌做宣传。

·AI生成的

而要说AI合成图像最近最狠的一次应用，那还得看Youtube博主Kyle Vorbach——这哥们决定在社交媒体上，利用AI伪造出自己一个月的全部生活。

最开始，他只是在Instagram上生成了一张自己从未拍过的自拍照。

·AI合成的

然后，Instagram上的照片变成了小哥穿上了万圣节的服装；变成了他前往了纽约街头，见到了自己的好友——当然，这一切都是假的。

然而，它们却成功骗过了小哥的朋友们。他们以为他真在纽约，有人甚至都准备打扫屋子迎接他了。

·AI合成的

之后，小哥开始让AI去完成它更多的幻想：他成了成功人士，搬到了纽约，和自己的爱犬住进了漂亮的公寓，在街头偶遇名人……

·AI合成的

在千万次的训练下，AI创造出了一条完全平行的时空线，在那些真的可怕的合成照片里，小哥甚至开始觉得，机器所合成的他，似乎就是真正的他。

诸如此类的案例，正变得越来越多，而许多本不该被击穿的“真实底线”，也开始遇到了数字虚拟的全面刺破——有人开始用AI生成的作品沽名钓誉，甚至开始搞数字诈骗。

你所看见的，都是虚假

从去年10月开始，Instagram上火了一个叫Jos Avery的摄影师。

这个Jos，以其精湛的人像摄影，在短时间内征服了3万多名粉丝。

并且，面对摄影新人的请教，Jos还贴心地指导他们：“我这张照片，是用尼康D810拍的，用的是24-70毫米的镜头。”

然而在一段时间后，Jos本人实在忍不住，向Ars Technica的记者坦言：“其实我根本就不是什么摄影师，这些人像都是我用AI生成出来的。”

这不禁让人想起国内最近有个知名的画师，因被曝出用AI绘画而塌房，让许多模仿他作画的萌新失去了继续画下去的动力，也让许多网民开始了一场赛博猎巫——逼画师们自证在绘画中没用过人工智能辅助。

与之类似，当人类的容貌，可以被机器在短时间内创造出成百上千张，就会有像Informa Systems 这样的企业，用生成的脸孔创造假的员工，让公司看上去有一个人数众多的专业团队。

同一时刻，Facebook的母公司在去年底表示，在它们2022年的取缔活动中，有三分之二的违禁账户，用的头像是AI生成的。

这并不让人感到意外，因为在2022年的一篇论文里，研究者发现有3成到5成的美国人，根本就无法在真实脸孔和用DeepFake所生成的虚拟脸孔间做区分。

所以在TikTok上，由AI合成的明星整活儿类视频遍地都是，难辨真假，比如下面的这个基努里维斯：

对于骗子来说，DeepFake实在是一件的趁手的工具。

去年8月，有个诈骗团队就利用DeepFake，伪造出一张数字货币公司高管的脸。骗子将这张假脸套在自己的面部，然后通过在线聊天软件Zoom，去和那些项目团队的成员开会，让他们以为自己正在和大公司的负责人对接。”

被“偷脸”的这位高管表示，这群骗子的技术很厉害:“他们唯一没模仿出来的，就是我在疫情期间胖出来的那15磅。”

不止面孔，像Midjourney这样的图像生成AI，甚至会影响你对这个世界的认知。

譬如去年9月26日,东京时间凌晨4点39分，有一名家住东京的推特用户，发了三张静冈县遭遇水灾后的惨状。

该贴被迅速转发，许多网友又是震惊不已又是要筹措捐款。

结果在推文发出11小时后，原作者道歉，称静冈发水灾是真的，但灾情图片却是他用AI做出来的。他也知道撒谎不好，但就是舍不得海量的推特转发和点赞。

无独有偶，在今年2月初的土耳其叙利亚大地震后，也有人在网上用一张“地震现场的救援图”来号召爱心人士们捐款，结果立刻就被眼尖的网友扒出来，说这图上的人有六根手指，应该是用Midjourney做出来的。

而当被AI生成的图像，配合上同样被AI生成的音频与文字时，那你所理解的一切真实，就将会迎来一场彻底的崩塌。

你所相信的，都在崩塌

在以假乱真这个层面，AI合成的音频丝毫不逊色于图像。

上个月， ElevenLabs发布了自家的语音合成平台，原本是帮助电影和游戏配音，结果很快就被网友们拿来合成“比尔·盖茨称新冠疫苗会造成艾滋病”，以及“艾玛·沃特森大声朗读《我的奋斗》”。

而早在去年12月，中国台湾的刑事局就已经破获了一起AI语音诈骗案。

骗子先以5万新台币的价格从科技公司购入诈骗电话的AI模组，然后在8个月的时间里群发上百万次，赚了2700万新台币的赃款。

而当AI合成视频加上了AI合成音频，你便能在社交媒体上刷到埃隆·马斯克在镜头前忏悔自己吸毒过量，知名电台主持人乔·罗根（Joe Rogan）教观众如何去亚马逊购买他推荐的壮阳药。

在算法的加持与混淆下，那个“将名人的话语奉为真理”的时代正在离我们远去。

这还没完。

前些日子，ChatGPT正好在情人节前后大火，加拿大反欺诈中心便趁此机会警告世人：未来操纵感情杀猪盘的，很可能就是这些聪明的聊天AI。

而安全公司McaFee的研究则表明，10个人里有7个都会把AI生成的情书，当成是真人所撰写的甜言蜜语。

与此同时，美国知名科幻杂志《克拉克世界》被迫暂停投稿渠道，只因他们在短短一个月内，接到了500多篇由AI所生成的小说稿件。

·“目前已关闭稿件提交，原因不难猜出”by 克拉克世界

欧洲执法组织去年9月预言：“到 2026 年，全网有多达 90% 的在线内容可能是合成生成的。媒体将大多由人工智能生成与操纵。”

当然，为了防止以后互联网上“无内容可信”，各国也想出了相应的对策——利用一套专门用来打假的AI。

像韩国就声称将在2月的月底，用AI来辅助侦破电信诈骗案，而创造了ChatGPT的OpenAI，最近刚研究出了一个专门鉴别ChatGPT的AI。

这就让以后的互联网，变得越来越像一个AI神仙打架的地方了，变成了一个巨型的类生成对抗网络，而所谓的真假，不过是用来证明哪方AI更强的一个标准。

况且，根据去年12月安永发布的一篇文章，许多用来训练AI的数据，本身也都是虚构出来的。

像现在一些顶尖的汽车公司，就用随机生成出来的模拟路况来训练自动驾驶，而药企则用千万个用随机数据做出的病历，来进行非物质层面的临床实验。

相对于参考真实的案例去开发，AI生成确实节省了大量的成本，也能将许多罕见的极端情况考虑在内。

·模拟驾驶环境

而我们也因此终于，走进了那片被《黑客帝国》称为“真实的荒漠”的地方。

在那个地方，真实被AI托管，网络上的种种欺诈，像一个个被精心策划的真相，没有真与假，只有神经网络与复杂的算法。

设计/视觉 Elaine