深度伪造技术可以帮助你跳舞 - 彭博社

来源：YouTube布鲁诺·马尔斯在名为 大家一起跳舞的YouTube视频中开始跳舞，正好在视频的中间部分，但视频的真正明星是周廷辉。周是一位穿着紧身牛仔裤的瘦高程序员，他出现在画面的右侧，起初无节奏地挥舞着手臂。就在一瞬间，他的动作与马尔斯完全一致。周和他在加州大学伯克利分校的研究同事们使用了一种称为生成对抗网络（GANs）的人工智能技术来复制这些舞步，偶尔会出现一些小故障。

彭博社商业周刊博格包，拖袋中的克罗克斯，如何赢得美国妈妈的青睐美国芯片引导了导致6岁女孩死亡的俄罗斯导弹亚当·纽曼的最新项目是WeWork的竞争对手做空者的攻击如何威胁到这家西班牙家族公司自从该视频走红以来，周将他团队的研究转变为一家名为Humen AI的初创公司，旨在将这一视频噱头变成一个应用程序，并最终为好莱坞制片厂、视频游戏开发者和广告公司提供付费服务。这位29岁的年轻人还遭遇了一波关于“深度伪造”的公众恐慌，这是一种由机器辅助的合成媒体操控。就像布鲁诺·马尔斯的模仿一样，深度伪造并不需要完美；今年春天，一段假视频显示南希·佩洛西口齿不清，使用的技术几乎与Photoshop相当，迅速在网络上传播。国会对此进行了听证会。

赛门铁克公司是一家网络安全公司，发现了三起金融诈骗者成功 冒充首席执行官的案例。女性的脸和身体被贴上色情内容。稍微不那么令人担忧的是一些名为Lyrebird和Synesthesia的初创公司，它们向制作商业广告或聊天机器人的营销人员出售人工生成的音频或图像。蓝筹投资者资助了Brud，其虚拟Instagram明星 Lil Miquela以与真实影响者相同的方式向她的160万粉丝展示和推销品牌。

对在线虚假信息和隐私的普遍警觉意味着新公司正在以早期初创公司未曾考虑的方式思考其技术的可能性。Humen表示，它正在努力通过保持其视频库的健康内容来消除怀疑。用户可以将自己编辑成 有趣的音乐视频或柔韧的瑜伽姿势，而不是淫乱或枪击狂欢。“这就像一个沙盒，”周说。“舞蹈、手势、问候。不是那种疯狂的纳粹敬礼。”在该应用程序今年晚些时候发布之前，Humen在其网站上 发布了一份“数字人权法案”，其中包括“我们将反对未经授权使用您的数据”等原则。该公司还在测试自动检测被操纵视频的方法，并用水印标记其为虚假内容。

违反规则的用户应该预期会被禁止在应用程序上发布视频，Signia Venture Partners的联合创始人Sunny Dhillon表示，他将公司的部分资金投入了Humen。他将该政策与YouTube和Twitch的社区标准进行了比较，不过，他补充道：“我们希望做得比这好得多。”另外两个平台并不以负责任的监督而闻名，现在也在匆忙制定关于深度伪造的规则。

Humen能否保护消费者免受深度伪造可能带来的影响并没有保证。大多数深度伪造初创公司都有一些伦理规则，但在雇佣专家以帮助他们减轻恶意使用风险方面的投资不足，技术专家Aviv Ovadya表示，他研究深度伪造并曾咨询过Humen。曾在虚拟现实和电影领域工作的顾问Linda Ricci表示，好莱坞将会大量使用GANs技术，这可能不是一件好事。“我内心的技术专家和艺术家认为这太棒了，”她说。“反面：这是一个可怕的趋势。”

Humen在发布YouTube视频后筹集了200万美元的资金，目前仍在理清其界限。在过去的一年里，Zhou表示，他收到了数十个来自希望像他一样跳舞的人的未经请求的请求。许多人还希望他录制已故亲人的视频，以便他们即使在亲人去世后也能拥有虚拟副本。“有些人认为这有点可怕，”他说。“我们仍在讨论这个问题。” 阅读更多：“我试图在一堆隐私设备中躲避硅谷”