当苏大强换脸变成吴彦祖，世界会乱套吗？_风闻

来源：微信公号“每日人物”

4月，杭州小伙骑车逆行被抓后崩溃大哭，程序员们集体抵制996，投诉无门的女车主坐上了奔驰的引擎盖。

因为一张据为己有的“黑洞”照片，视觉中国深陷版权争议，刘强东性侵案受害者Jingyao Liu正式提起民事诉讼，要求赔偿，各种录音、视频和观点在互联网上翻飞。

斯里兰卡首都科伦坡，数起连环爆炸导致超过200人丧生。中国重庆，两年前轰动全国的“北大学子弑母案”嫌疑人吴谢宇在机场落网……

在这些众所周知的新闻之外，我们还收集到了一些新闻——它们看似没那么“重要”，但却对我们的生活有着深远影响，而它们都与“智能”有关，无一例外——本月的月度新闻总结，我们最终决定呈现这些新闻，因为，它们可以让我们看到未来可能的样子。

针对这些新闻，我们尝试做了一些总结。这些“如果”是一些属于未来的可能性，也是我们真正想问的问题。面对这些问题，你会如何作答？

**策划 |**洛阳铲小分队

如果

你看到的所有图都可能不是真的

1

4月10日，一则AI换脸视频被发布，视频中，电视剧《都挺好》中倪大红饰演的苏大强的五官被换成了吴彦祖，这张合成的脸可以自如地说台词、做表情，毫无违和感，几乎看不出后期加工的痕迹。

被换脸吴彦祖的苏大强。图/ 网络 

这已经不是第一则明星换脸视频。一个月前，一位名叫“换脸哥”的网友就曾经把《射雕英雄传》中朱茵饰演的黄蓉换成了杨幂的脸。而最近随着《复仇者联盟》热映，也有博主把饰演黑寡妇的斯嘉丽·约翰逊的脸“嫁接”到佟湘玉头上，制作出了复联版《武林外传》。

据悉，这些视频都是通过一个叫做deepfake的人工智能制作的。制作者只需要搜寻足够多的替换者和被替换者的照片，把它们丢给程序去自动学习，就可以实现无缝换脸。从操作上来说，几乎没有难度，互联网上也有详细教程。

目前，这种操作最重要的门槛是硬件：普通的家用电脑无法承受换脸所需要的运算强度。

这种视频在制造娱乐性的同时，也引发了不少人的争议。有网友觉得：“以后anglababy这种演员连抠图都不用了，直接用替身来演，最后再换成自己的脸就行了。”

更多人则在担忧由此引发的法律风险，因为这种技术可以制作完全不存在的视频。去年，AI换脸就在国外风靡过，有人把盖尔·加朵、斯嘉丽·约翰逊等好莱坞女星的脸换进色情电影，有人伪造特朗普的演讲视频。

对此，斯嘉丽·约翰逊在《华盛顿邮报》的采访中曾经表示：“任何一个人成为这项技术的攻击目标，只是一个时间问题。”

斯佳丽·约翰逊版佟湘玉。图/ 网络 

2

一个月前，华为在法国巴黎发布了最新旗舰手机P30 pro，最高可达50倍数码变焦的拍照能力是它最重要的卖点。在宣传中，华为表示，依托强大的摄像头，P30 pro可以实现手持拍月亮甚至拍银河，而在过去，这是高端单反相机加上三脚架才能做到的。

4月13日，科技博主王跃琨在个人微博发表视频，质疑华为P30 pro手机的拍月亮功能有造假嫌疑——因为月亮不是“拍”出来的，而是手机后期加工出来的。

王跃琨找了一张月亮图片，抹掉了月亮表面的纹理，并且P上了自己公司的logo，他用P30 pro的月亮模式对这张图片进行了拍摄。在拍出的成片中，月亮上的公司logo不仅消失了，还出现了原图上没有的环形山纹理。

随后，他还对着窗外的月亮进行了实体拍摄，他发现，开启P30 pro的月亮模式后，即使在看不清月亮的雾霾天，也能拍出月亮清晰的边缘。由此，王跃琨推断，P30 pro会用某种算法处理用户拍到的月亮照片，而不是如广告中宣传的、单纯凭借摄像头硬件能力达到清晰拍月亮的效果。

知乎网友@小城 P了一张模糊的月亮照片（左），经过 P30 PRO 翻拍后，却获得了一张清晰的月亮照片（右）。图/ 网络

王跃琨的质疑引发不少网友也开始实验测试P30 pro的拍月亮功能，多位知乎网友证实，P30 pro确实会利用算法修补月亮细节，使得自己拍出来的照片看起来更清晰。

对此，华为官方回应，这一功能的性质是利用AI算法对照片细节进行一定的优化，并不算造假P图。

如果

你的工作业绩将由AI来判断

1

2019年4月4日，南京建邺区的环卫工人们收到了一款智能手环，除了可以查看时间、天气，这款手环最重要的功能是——可以实时获取环卫工人的位置，并显示在监管中心大屏幕上。一旦环卫工在原地不动超过20分钟，这款手环就判定其违规停留，还自动发出语音：“短暂的休息之后，继续努力工作吧，加油！”

环卫公司称，喊“加油”的功能是为了全方位监管环卫工人，并考察他们是否脱离工作区域。对此，有些环卫工人提出不解，感觉自己被监控了，没有以前自由，“好好干活，把马路打扫干净不就行了吗？”

而在南京当地媒体的调查中发现，雨花台区的智能设备比“加油”手环更先进——全程直播式监控。这里的环卫工收到的是一款智能手机，领导们可以通过摄像头实时监控环卫工的动态，一旦停留超过一定时间，就会被领导在微信上“呼喊”。

环卫工人的“加油”手环。图/ 新浪微博

会“加油”的智能手环等监控设备在网上引起了众人反对，认为这种举措就像驴拉磨时挂着铃铛，很不尊重环卫工人。还有人建议能否把智能手环让领导先用，坐在办公室超过20分钟就提醒——“敬爱的领导，该下基层转转了，为了工作，也为了身体。”

目前，配发手环的环卫作业公司已经取消了这款手环的20分钟“加油功能”。

2

4月25日，亚马逊被曝光构建了一套AI系统，可以追踪到每一名物流仓储部门员工的工作效率，并统计每一名员工的“摸鱼时间”（Time Off Task），随后自动生成解雇的指令。

据外媒调查，亚马逊全美共有75家仓库，每个仓库约有2500名员工，这些工人每人每小时必须完成几百个包裹的包装工作。在AI的“监工”下，有74%的英国亚马逊仓库工不敢再上班期间去厕所，有人甚至用塑料瓶解决排泄问题。

该功能实施以来，已经有900多人因为“效率低下”被AI系统解雇，整个过程没有人类参与。

如果

柯洁去学了人工智能

1

2019年4月4日，浙江大学人工智能研究所所长吴飞表示，浙大刚刚获批的人工智能本科专业将于今年开始招生，目前，此专业的培养方案已经制定完毕，学生将在今年9月入学。

与浙江大学同时获批开设人工智能本科专业的还有上海交通大学、同济大学、南京大学等35所高校。

据悉，AI人工智能专业的课程涵盖数学与统计、计算机科学、人工智能、道德、AI细分方向、人类学和艺术、一般科学与工程学等。其中，数学与统计、计算机科学、人工智能为核心课程，其余为选修课程。

据媒体报道，2018年新增审批数量最多的专业是“人工智能”。图/ 人民日报

另据相关媒体报道，除了人工智能专业，此次审批中还新增多个与人工智能相关的专业——101所高校新增机器人工程专业；96所高校新设智能科学与技术专业；50所高校新增智能制造工程专业。

而在新专业设立的同时，多达416个高校的本科专业被撤销，其中包括中国传媒大学的多个小语种专业，如希伯来语、波斯语、瑞典语等，还有浙江大学的材料化学、通信工程、农村区域发展，山东大学的图书馆学、教育学等专业。

人工智能专业的未来也被普遍看好。此前有数据显示，人工智能领域毕业的硕士生约能拿到30万元的年薪，博士生能拿50万元，有的高达80万。3月，北京一场人才招聘会上，招聘者表示现在AI工程师等互联网高端人才缺口130万。

浙江大学人工智能专业招生的消息一出，网友们纷纷喊话即将就读清华大学工商管理专业的棋王柯洁，让曾输给AlphaGo的他考虑转学，对此建议，柯洁以害怕“学到头秃”为由表示了婉拒。

柯洁的幽默，AI恐怕学不会。图/ 网络

2

4月7日，英国物理科学新闻网站称，由亚马逊开发的虚拟助手Alexa和苹果的Siri可以讲述来自一个幽默数据库中的笑话，但却无法理解这些笑话，因为它们只会陈述、解析语句，而无法理解语境，“它们不懂幽默”。

对此，得克萨斯A&M大学专门研究幽默的计算机语言学家基姬·亨佩尔曼深有同感：“人工智能永远不会像人类那样理解笑话。它们完全不领会语境。”

美国曾有计算学家花费了15年时间试图让一个人工智能系统学会幽默，但效果并不理想，它往往把不是笑话的句子归为笑话。

网友感叹，好在我们还拥有懂幽默的能力，不会被AI完全取代。

如果

食物和身体都可以被打印

1

清明期间，广州市殡葬服务中心推出了3D打印还原逝者遗体的服务。该技术是将逝者的平面照片录入电脑，通过建模系统生成模具，再由整容师进行后期加工化妆，重塑逝者面部轮廓以及补全逝者的身体残缺。

殡葬服务中心工作人员介绍，很多逝者因为交通、高坠、火灾等事故造成肢体残缺，家属有需求进行修复，面部修复难度最大。过去都是手工制作，利用油泥、石膏等材料，耗时长操作难，现在引入3D打印机，工艺更加精确完善。这项技术是为了让逝者更有尊严地告别世界。

2

4月初，据日媒报道，东京将在2020年开设全球首家可以3D打印寿司的餐厅Sushi Singularity，被称为“超未来寿司屋”。

该技术由Open Meals项目组研发。除了3D打印寿司餐厅，明年也会推出食物打印机。根据目前发布的概念图，利用食物3D打印机制作的鳗鱼、金枪鱼、黄瓜军舰、章鱼、海胆等寿司一改往日模样，都变成了横平竖直的小方块。尽管这些寿司看上去缺乏食物的鲜活感，但Open Meals表示他们将提供至今谁也没有品尝过的“超越寿司”。

3D打印出的寿司。图/ 网络

只是，想吃到3D寿司没那么简单，这间“超未来寿司屋”在预约时需要收集客人的唾液、尿样、粪便，利用系统检查客人的基因、肠道菌种、营养状况，根据体质和营养不足的部分，生成客人专属的健康ID。最后，餐厅会根据这些数据，为客人量身打造定制寿司。

只是，当食物与烟火气不再相关，“吃”这件事或许也将被重新定义。

如果

一切都可能被预测

1

4月3日，IBM首席执行官弗吉尼亚·罗曼提接受采访时透露，IBM研发出一套人工智能系统，可对员工的离职时间进行预测。她表示，“AI有能力利用全方位的信息，预测某人六个月后会离职。这时候，公司会提前做点什么，让他打消这个念头。”

IBM CEO谈及 AI将会100%改变工作。图/ 网络

据悉，这套人工智能系统准确率高达95%，并为IBM节省了每年高达3亿美元人员流动费用。罗曼提并未详细解释系统原理，只说明这套AI系统评估多方面的资料后，会在员工即将产生离职想法之前，让公司及时找到他们，商讨升职加薪、教育优惠、经济补偿等事宜，并称这是“挽留员工的最佳良机”。

值得注意的是，这套系统除了可以预测离职，还有一系列可以取代人力资源工作的功能。目前，IBM的人力资源部的员工已被精简了30%，将来可能会被100%取代。

2

本月初，英国诺丁汉大学医疗与数据科学团队利用50万名患者数据研发了一款人工智能工具，称其可以预测慢性病患者的死亡时间。

该套系统的算法不仅会考虑患者的家族病史、用药情况，还会结合患者蔬果谷物食用量、酒精摄入量、防晒霜使用情况等60种预测因素。

研究者表示，他们将预测结果与英国国家统计署的死亡记录、英国癌症注册记录等数据库的死亡数据进行过比对，结果显示，这套人工智能系统在测试中的预测结果“非常精确”，可靠度约比现有的机器学习系统所做估测高10%。

而这并不是人工智能第一次算出人类的死亡时刻。

2018年1月，斯坦福大学就开发出一种人工智能算法，评估40000名特定患者是否会在3-12个月内去世，算法的准确率高达90%。该AI算法不仅可以预测患者生命的终点，还能计算出患者接受痛苦缓释治疗的最佳时机，使患者在临终前免受病痛折磨。

即便如此，大多数人在得知AI可能会预测死亡时间后，表示无法接受，“本来我还能多活几天的，结果被预测吓死了。”

如果

孩子们被智能“呵护”长大

1

4月19日，有网友在微博爆料，汉王科技研发了一套名为“课堂呵护”的监控系统，使用这个系统的班级会在黑板上方安装摄像头，每一秒拍一张教室全景照片，经过人脸识别技术的分析，判定学生是在专注听课还是在打瞌睡，并且记录下来。

在汉王科技的官网上，这套系统被称作是“人工智能与课堂教学的深度结合”，每个学生的行为数据都会被生成详细的统计表格，定期发送给老师和家长，便于他们精准监控孩子的情况。目前，这套系统已经在北京牛栏山一中、内蒙古赤峰四中等全国七所学校试点。

事实上，这并不是校园智能监控系统第一次被应用。早在去年5月，杭州十一中就在校园中试用安装了“智慧课堂行为管理系统”。这套系统的监控能力比汉王的更精密——每30秒对全体学生进行一次扫描。对学生状态的评定也更细致，区分了阅读、举手、书写、起立、听讲、趴桌子等各种动作和高兴、伤心、愤怒、反感的不同情绪，每个动作和情绪对应一个分值，得分高低直接反应学生的积极性。

汉王“课堂呵护”监控系统界面。图/ 网络

对于该系统在校园中的应用，有学生在网上匿名吐槽，说只有表情丰富挺直腰杆才能被认为是在专注学习。对此，众网友纷纷表达了质疑，甚至有网友称之为“学校监狱”。

但杭州十一中副校长接受《澎湃新闻》的采访时，却给出了不同的答案，他说：“从试行一个多月时间看，该系统已取得了正向效果。学生起初从不理解、感觉被监督，到如今慢慢接受，自觉改变课堂上的行为习惯。老师也会对课堂上学生的表情、行为进行分析，去考虑改变教学习惯，让学生能更快乐地上课。”

现实中，这类监控系统也在校园中被越来越广泛地采用。

去年12月，有媒体报道，中国西南地区的十余所中小学正在试用一款“智能校服”，校服的两肩被植入可以记录生物数据和GPS定位的芯片，再配合校园摄像头的人脸识别技术，就可以实时监控学生的位置和状态，如果学生迟到、逃学、夜不归宿，校服会自动给老师和家长发送通知，而如果学生没穿校服、或穿了和自己个人信息不匹配的校服，警报也会随时响起。

对此，学校认为这样做是为了确保学生安全，提高课堂出勤率，但也有专家认为，应用前要充分考虑学生的隐私权和人格尊严，不能以教育的名义侵犯。

2

4月15日，天猫发布了首份《中国式养娃：2019天猫亲子消费报告》。

报告显示，新一代90后父母带娃的方式已经与70、80后迥异，智能型产品是他们的最爱。其中，智能陪伴机器人等“带娃神器”销售额同比增长16倍。

目前，市面上的陪伴型智能机器人价格从几十到几百元不等，它们大多外观小巧可爱，有着丰富的功能，不仅可以听歌、看视频、学习外语、翻译、数学运算，还能与孩子进行在线辅导、远程陪聊，很容易获得孩子的喜爱。

其中，一款网络热销的儿童陪护智能机器人的商品外壳上印着一行硕大的字——“最好的爱是陪伴”。但现实却是，当孩子获得这款产品时，也在失去了来自父母真正的陪伴。

儿童智能陪护机器人。图/ 网络

除了孩子，老人也有专属的养老陪护机器人。这些机器人可以根据需求，进行老人的移动协助、卫生清理、聊天、洗澡等服务。现在，这种陪护机器人也被规模性地投放进了国内的一些养老院。

有网友不禁感叹，“一个机器人陪你长大。当你老了，一看在你身边的还是它。想想其实挺悲凉的。”

如果

一切犯罪都可能被识别

1

4月21日凌晨4点左右，涉嫌弑母的吴谢宇在重庆江北机场被抓，此前，他已经潜逃了1380天。

据相关媒体报道，当时，吴谢宇是去T2航站楼送机，并不需要接受安检和身份验证，但在经过3号门入口防爆安全检查区域时，他已经被监控设备抓拍四次，每次相似度对比都≥98%，并且关联出了他被通缉时的大头照。

而据重庆机场集团官网的消息，他们在半年前的2018年9月10日就对外宣布，完成了重庆机场人脸识别系统的升级工作。

重庆江北机场安装人脸识别智能安检系统。图/ 网络

吴谢宇是否真的因为人脸识别系统而被捕，目前尚未得到证实，但却再次掀起了一场关于人脸识别的讨论。

过去十年，我国成为了全世界监控摄像头增长最快的国家。据HIS Markit发布的相关数据，2016年，我国共有约1.76亿个监控摄像头，2020年，这一数字有望突破6亿。

与此同时，我国也一直在推进“天网工程”，对监控摄像头抓拍到的人群画面进行智能分析，再利用大数据与数据库做分析比对，以快速识别一个人的身份、犯罪记录等。

目前，这项技术以在大型活动举办场所、宾馆、机场、医院等处广泛使用，不到一年的时间内，这项技术就已经在张学友演唱会上抓到了60名逃犯。

今年2月，北京市卫健委宣布，全市已经有30多家医院配备了人脸识别系统，重点医院将共享2100余名号贩子的头像信息、身份证信息等。这些人一旦进入医院，就会被迅速锁定身份，严密监控其行为，一旦涉嫌倒号，工作人员和警务人员可以及时劝阻或处理。

AI眼镜正在成为中国警察的固定装备。图/ 网络

2

4月29日，据外媒报道，日本的便利店正在使用一款VaakEye人工智能防盗系统来监控购物者的肢体动作，从而判断该人员是否有盗窃行为。

相较于传统的面部扫描与数据库匹配，这套系统可以用来预测犯罪行为。开发人员称，VaakEye将会利用算法从步伐、关节的抖动、面部焦虑等100个以上的关键身体行为收集信息，并作出解析判断，再通过APP提醒店员注意可疑对象，从而预防盗窃。

会“抓小偷”的人工智能系统。图/ 网络

根据开发者公布的数据，在测试期间，有VaakEye系统试点的便利店损失减少了77%。不少日本的便利店经营者表示，商品丢失率确实明显下降，而且员工可以不用担心小偷，安心接客了。

据悉，一台VaakEye人工智能防盗系统售价18000日元（约1083元人民币）。开发公司表示，目前，日本国内已有12万间店铺有意向购买，他们还希望在未来三年将VaakEye投入世界范围内的10万间小型店铺。

但这款AI识别系统也引发了一些争议。

VaakEye预测犯罪包括有前科的罪犯，此类顾客表示，店员收到警报会的持续关注让他们感到很不安。除了顾客隐私和道德问题，个人或企业是否能行使警察职能，也存在争议。

还网友对此表示了深深的担忧，“我这种选择恐惧症，总在商品面前纠结买哪一种好，这个摸摸那个摸摸，这个看看那个看看，会不会判错我在四处张望，有盗窃嫌疑？”

如果

AI可以随时取代你的工作

1

4月16日，“俄罗斯24小时”频道首次采用机器人进行新闻报道。视频传到微博，中国网友吐槽这位像素有些低的主播“像没睡醒临时被抓来上班”。

俄罗斯版的AI主播。图/ 网络 

其实，AI主播在中国也早已投入使用。3月15日，央视财经频道推出了AI主播“姚小松”，他是以主持人姚雪松为原型生成的，通过采集姚雪松本人的动作、表情和语音，再经过一定的技术处理，就可以训练出他的“虚拟分身”。

使用时，只需要录入文字信息，人工智能就会自动生成一段播报，连说话时的表情、口型等都能与真人主播高度吻合。

央视版的AI主播。 图/ 网络

相较于真人，AI主播既不会出错，也不需要休息，在播报突发新闻时格外有优势。从目前的成品画面看来，AI主播的表情和真人相比还显得有些不自然，但已经足够应付日常播报。

这则新闻再次引发了“人工智能将造成大量失业”的讨论。除了AI主播，据悉，目前市面上已经有了AI算命的应用，通过人脸识别分析面相，有网友感叹，没想到最先失业的是街头算命先生！

2

4月22日，畅销书《未来简史》的作者、希伯来大学历史系教授尤瓦尔·赫拉利再次重提“无用阶级”的话题。

当天，他与斯坦福大学教授、斯坦福大学人工智能实验室与视觉实验室负责人、谷歌云人工智能和机器学习首席科学家李飞飞做了一场对谈。交流中，尤瓦尔·赫拉利谈到了他对人类未来的悲观预测——早在2017年7月，他曾对“AI时代人类的未来”发表过演讲，他预言，未来会出现一个庞大的新阶级，叫“无用阶级”：“这个阶级的人，既没有经济价值，也没有政治话语权，他们做任何事情都比不过计算机和人工智能。比如出租车司机、卡车司机，会被无人驾驶汽车所取代。医生会被机器人医生所取代，甚至连老师也变成机器人。”

对人类未来忧心忡忡的尤瓦尔·赫拉利。图/ 网络

但这一次，李飞飞从技术角度分析认为：“这种AI离我们这个时代还很远、很远…… 我不知道我们还需要多少代人才能实现。”

听到李飞飞的发言，网友们纷纷表示放下心来，“只要我这辈子能不被取代就行，以后的事儿就不关我的事儿了。”

如果

智能偶尔走神

1

4月12日，广州地铁因安检升级造成了大批量的乘客滞留和拥堵，不少网友们抱怨广州地铁安检效率太低，严重影响出行。

其实，为了解决地铁安检的效率问题，早在去年10月，广州地铁安检就在部分站点引入AI技术，启用三款人工智能辅助系统。

其中，一款是针对物品安检的“集中判图”系统，具有AI辅助判图的功能。另一款是针对人体的安检系统，不仅可探测乘客随身携带的金属物质，还可以探测非金属物质。最后一款就是真正靠“刷脸”才能进的门，需要乘客在APP上完成实名认证和人脸采集，对准摄像头刷脸成功即可通过。广州地铁方表示，这几项技术大大提升了安检效率，乘客在5秒内就可通过安检。

只是事实并非如此。

亲身经历这套安检系统的乘客表示，刷脸门要求乘客只能携带小包，携带大包的乘客还需要到隔壁的通道进行人物分离检查。号称AI智能判图实际上也需要人看，经常出现人过了安检，东西还在机器里的状况。有的刷脸设备需要人停留站定，刷脸等门开，大头照还会被实时公开显示。出行高峰期，乘客根本做不到5秒通过安检。

不少广州网友吐槽，AI技术引入后，安检不仅没有变得更加通畅反而加重了排队情况，有时甚至要等一个小时。“安没安全不知道，吵架打架的反正每天都能碰到。”

带来拥堵的广州地铁安检系统和排队等待安检的乘客。图/ 广州地铁 新浪微博

2

4月16日，巴黎圣母院遭遇大火。

ABC、CBS、France 24等媒体在YouTube直播巴黎圣母院大火的视频下方信息栏中，被贴上了针对“911恐怖袭击”事件的百科说明。因为这一信息，有部分用户误以为大火是场恐怖袭击。负责相关信息生成的谷歌回应，这些信息栏都由AI算法自动生成，有时候系统会出错，现在已经取消了这项功能。

 巴黎圣母院大火在直播中被关联“911恐怖袭击”说明。图/ 网络

这个糊涂的AI算法引发了网络声讨，被认为这是助长“阴谋论”的出现。特别值得一提的是，此算法是YouTube在2019年初推出的。当初，YouTube宣称这项功能是为了防止“阴谋论”的出现，没想到不到半年时间这项算法反而打了自己的脸。

3

如今，智能音箱已经走进了无数人的家中，只是，在看似便利、有趣的人机对话背后，可能正在生成一场巨大的“窃听风暴”。

4月12日，美媒曝光亚马逊在全世界雇佣上千名员工，收听并分析亚马逊echo智能音箱录下的用户对话。这些员工每天工作9小时，每人分析1000段音频。有工作人员透露，他们听到过用户洗澡时走调的歌声，孩子尖叫着寻求的喊声，甚至还有疑似性侵案的声音。

亚马逊回应称，这样做是为提升语音助手的语言理解能力，改善用户体验，并表示不会获取用户姓名等信息，但还是引起了大多数用户的不安和恐慌。

据报道，亚马逊知情员工称echo智能音箱产品所搭载的语音识别系统可自动录制用户的部分对话，并传回至公司进行人工分析，其中包含大量用户无意中泄露的私人信息。某些情况下，工作人员还可以在第三方地图软件上输入用户的地理坐标，轻松找到用户的住址。

早前，美国的使用者丹尼尔发视频称，自己和丈夫在家中的对话居然被echo智能音箱录下，并发送至朋友的邮箱中。亚马逊调查后认为，因为丹尼尔说话时某些词语正好唤醒了智能音箱，智能音箱又误解了丹尼尔的意思，将语音自动发送给了她的朋友。但丹尼尔认为，智能音箱的行为已经触犯了自己的隐私，不会再使用类似设备。