看到这视频我更觉得恐怖！_风闻

作者：雷斯林公众号：雷叔写故事 / raistlin2017

这两天刷到个视频，简直太牛了。

原本是觉得诧异。

想不到霉霉还能讲出这么字正腔圆的普通话，差点以为真的全世界都在讲中国话。

紧接着看下去才发现，我被骗了。

原来这是AI做完配音的效果。

你会发现，只要能给出地道的翻译，再通过声音采样来造出AI模型，最后捏出适配声音的口型，技术立刻可以做出以假乱真的翻译视频。

细看确实没啥瑕疵，完全能取而代之。

而且不仅能英译中，中译英也不在话下。

吐槽大会的海外会场这不就开起来了吗？

就连彪哥都讲起了流利的英语，伦敦即将成为东北人的第三故乡。

，时长00:19

有了这样一套技术，你会发现做翻译配音仅仅是最初级的东西，只要提供文字和音频采样，AI几乎能够做出任何想要表达的内容。

只要你想，视频里的人就能用任何形象、任何语气、任何音色，自动说出你想要的话。

“以前说无图无真相，有图也不一定有真相，现在轮到视频也不代表真相了。”

所以这两天也挺多人都在讨论这事的。

有人觉得配音演员马上就会下岗了，内娱明星有了新的“背后靠山”。

反正就算是真人配音也会因为各种原因无法表现出最好的情绪，那换成AI配音也没差。

再进一步，感觉大家都不用演戏了。

说不定，AI比人会演。

一些人担心被AI技术冲击到的岗位越来越多的，等待我们的或许就是一个被AI统治的未来。

但也有人挺乐观，称这项技术是赛博巴别塔。

重新把语言不通的各国人群汇聚了起来。

以后说不定根本就不用学语言了，反而AI会搞定一切，让大家没有隔阂地交流。

但是。

既然“你现在想让他们说什么，他们就能说什么。”那么，谁又能保证你听到的就是对方表达的呢？

所以其实我看到这个东西感觉挺惶恐的。

如果声音和口型都能造假，那其它的呢？

外表？

动作？

表情？

如果“AI可以用你的声音，你的形象，说出任何话”，那谁又会知道你到底说了还是没说呢？

文字可以编造，图片可以伪装，现在就连视频都能够凭空生成，不值得信任。

那还有什么能代表真相呢？

会不会有天我们看到的一切都是假的呢？

那又有什么是值得信任的呢？

我们不妨设想一些场景。

现在年轻人都在外工作，留下父母在老家，平时沟通全靠网络一线牵，最常用的就是视频通话。

要是这视频被伪造了呢？

当父母远在千里之外，突然接到你的求助电话，紧张不安地说自己遇到了麻烦，缺钱花，希望他们能帮帮你，父母会是什么反应呢？

着急之下，他们除了先打钱还能做什么呢？

你看，联系方式是平时的联系方式，视频对面的人是他们熟悉的你，说话的声音也没有区别，他们除了担心，又怎么会怀疑你不是你呢？

毕竟父母对这些科技知之甚少，很难防备啊。

还有很多可能。

如果有不安好心的犯罪分子掌握了你的形象，以及更多的身份信息呢？

他们完全可以拿着你的身份去网恋，去裸聊，去当做杀猪盘的素材，去搞诈骗，去犯罪。

反正这些事现在都可以通过网络来完成的，套上AI这个壳子，他就成了你啊。

而且这AI都可以做任何表情和动作了，直接解锁什么银行卡的面部识别信息，恐怕也不在话下吧。

要是直接以你的名义去贷款，然后把钱卷走后，留下一屁股债。

你又该如何应对呢？

恐怕要等某天突然有人敲开大门来讨债，才知道真相吧。

要是那些公众人士被AI化就更麻烦了。

你看现在电视上那么多明星代言卖货直播的，好多人趋之若鹜，可万一那些视频背后不是本人，而是AI伪造出来的呢？

反正输入什么，AI就能说什么。那某些三无产品啦金融产品啦，岂不是想让谁站台就能让谁站台，谁更有号召力就让谁来代言。

主打一个无法无天。

搞不好还有人趁机打着某些公众人物的旗号，去到处寻求合作，让人家先交定金。

或者私下搞些传销传教之类的违法活动。

反正这种大名鼎鼎的重要人物肯定是见不到面的，只有视频让大家沟通也很合理啊。

谁知道剥开AI那层皮，里头到底是谁呢？

更糟糕的。

如果不法之徒掌握了某些重要人士的形象，他们完全可以躲在背后，以这些重要人士的身份去发言很多重要言论，来引导舆论，重塑规则。

感觉世界都要乱套了。

还可以多想一层。

万一有人用魔法来对抗魔法呢？

比如故意露出破绽，让人以为视频是AI做出来的效果，好显得自己是被陷害的无辜。

但其实，根本就是本人的千层套路？

而且，现在的技术肯定不是AI的巅峰，再这么发展下去，搞不好还能结合全息，搞出那种肉眼都分辨不出来的效果，一个人眨眼就变另一个。

那时候，别说影像了，眼见都不一定为实。

我站在我妈面前，我妈可能还得和我对上八百个暗号，才能分辨出来我到底是我，还是骗子。

光是想想，就觉得更毛骨悚然了。

说这么多，不是我危言耸听，更没有杞人忧天，现在国内外都已经有很多案例了。

有的仅仅依靠AI配音，就能大骗特骗。

美国CBS电视台做过一期节目，现场展示黑客通过克隆声音来窃取信息的过程。

整个过程可谓是迅雷不及掩耳之势。

仅用了5分钟，对方就通过AI克隆的当事人的声音，并且通过工具替换了手机来电显示，从而成功骗过了身边的人，获取了相当多私人信息。

国内的“靳东”骗局也一直存在。

很多直播间循环播放着明星的视频，再加上后期配音的旁边，就吸引了很多阿姨的关注。

阿姨们听到声音误以为这就是真的明星，没想到都是骗子利用AI软件模拟出来的声线。

目的当然只有一个——骗钱。

有人胃口更大，不甘心只骗普通人的小钱，还要骗公司的大额投资。

于是伪装出男明星的声音去谈合作，好在公司比较警惕，才没能让对方得逞。

现在又有了AI在视频方面的辅助，骗子更是如鱼得水，让人防不胜防。

前几天看综艺，黄晓明说曾经发现自己在不知情的情况下，给某个品牌代言了。

不仅有自己和刘亦菲参加品牌活动的视频，还在现场讲了很多品牌相关的内容。

但他本人对此却毫无印象，就很恍惚。

后来才知道，这视频是用AI做出来的，发言也都是AI操作的结果。

连本人都差点被忽悠，何况看视频的其他人呢？

现在某些直播间，开始用AI换脸明星搞带货。

不知情的人看了又怎么能区分呢？

国外也一样。

斯嘉丽前几天告了一名AI程序开发者，因为对方直接用她的形象和声音来打广告。

明明是《黑寡妇》的幕后花絮，摇身一变，就成了AI程序的宣传广告。

好一个偷天换日。

网络上本来就很容易出现那种看图说话的假消息，经常一张图下去八百个故事就编出来了。

如今有了AI技术，你想编什么故事，它就给你凭空造出什么，真与假、是与否的边界更加模糊。

反倒更方便了造谣传谣的人，

也给了不法之徒发挥空间。

有人分享过更恶劣的被骗经历。

骗子截取到他的人脸识别视频，然后利用AI换脸技术，拼接出一段裸聊视频，然后威胁当事人要把这视频群发给他的通讯录好友们。

即使当事人知道自己并没做过这样的事，也会在一瞬间陷入恐慌，然后被骗子榨干价值。

或许你会说不要相信网上那些人就好，但是万一AI伪装成你熟悉的人来寻求帮助呢？

福州的郭先生就遇到过。

一位好友打来微信视频，请求帮助。虽然对方一开口就是430万这样的巨款，但微信视频已经打消了他的怀疑，他二话不说转了钱。

哪知道，这年头视频也能造假。

视频对面的也不是真朋友，而是披着AI外皮的骗子，只是用了换脸和拟声的手段。

说起现在这些套路，就连年轻人都难分辨，每每看到都要感慨一句，学无止境。

要是那些本就对网络科技知之甚少的老年人碰到，就更容易上当受骗了。

反倒是骗子，总是走在学习新技术的前沿。

虽然都说互联网是虚拟的，但很多时候构建起互联网的底层逻辑却是真实和信任。

这下可好，人与人的信任岌岌可危。

“科学技术是第一生产力”，这当然是事实，毕竟我们直白地享受着科技发展带来的好处。

与此同时，我们不该忽略科技可能带来的破坏性。伴随着高速的科技发展，社会结构迎接着巨大冲击，固有的生产模式更频繁地遭遇被淘汰的命运，无法及时跟上发展的人经历着动荡。

这里牵涉到的问题依旧是，该让科技去适应人类，还是人类来适应它？

AI技术现在所引发的争议源头也在于此。

有人为它的出现欣喜若狂，迫不及待地畅想更多的可能性；同时也就有恐慌AI大规模运用后可能导致的连锁反应，担心个人风险与安全。

这些情绪都很正常。

科技的发展，总是伴随着对科技的担忧。

照相机曾经被视作摄取魂魄的怪物；

手机在普及阶段有过“致癌物”的标签；

线上支付刚出现时，不少人担心“唰”得一下，钱就被转走了，太过随便，也太过儿戏；

转基因食品被认为会破坏人体本身的基因；

尽管某些传闻听来甚为荒谬，却的确可能成为某些人犹豫和拒绝的真实理由。

只是现阶段，话题的主体变成了AI。

如果用错地方，它可能带来可怕的后果。

但只要使用得当，它也能是很好的工具。

它能写报告、查资料、画PPT。

它能提供不同的视角，把规律解构成套路，总结出一套供人使用的模板。

偶尔，它也能提到抚慰人心的作用，比人类咨询师更称职，还不用担心它会泄露秘密。

你和它吐槽某个人或某件事，它不会发疯怼你，只会附和你的发言，顺应你的情绪。

你和它抱怨某件事做得不好，它也会提供安慰和方法，而不是让你在自己身上找问题。

哪怕它说不懂爱，也能讲出超越爱的发言。

我们总说科技的发展是双刃剑。但它的剑刃究竟指向哪方，是由人来决定的，而非由技术。

所以，比担心AI技术的失控与风险更重要的是，加强对AI生成内容的监管，增加限制。

总好过让它不受约束地自由发展。

毕竟现实中，开锁的师傅都得去公安局备案，更何况是这些更不受控的内容呢？

坦白说，我总觉得现在AI技术的发展依旧还在起步阶段，它的未来还存在更多的可能。

如何模拟出更“逼真”的人类，如何创造出更“真实”的影像，仅仅是AI大课题下微小的一部分。

它或许该有更高阶的思维和灵动的算法，来制造出更多意想不到的惊喜。

但无论怎样发展，科技都应该服务于人类，带来更积极更正向的结果。而如何引导科技走向正确的方向，同样是不容忽视的重要课题。