人工智能应该被用来监控学生行为吗？_风闻

近日，一则利用人脸识别和AI大数据对学生课堂行为进行监测的分析的新闻引发热议。新闻视频显示，该AI系统可以识别学生举手、玩手机、睡觉、听讲等行为。

图片来自《新京报》相关报道视频截图

虽然目前还只是场景化概念的展示阶段，但已经引发了网友对于这一应用场景的争议：

对学生的面部进行监测分析是否涉及侵犯学生隐私权？

目前已有的人脸识别算法是否准确，能否精准识别学生的每种情绪？

人类的情绪如此复杂多变，仅仅靠面部识别就能够精准定义吗？

该系统数据的衡量标准是什么？

学生并非机器人，以一个固定的标准来衡量一个正在成长变化的未成年人是否欠妥？

当前人工智能的应用场景在不断拓宽和多元化，也给产业不断提出挑战，技术应用的标准与边界究竟在哪？

造就曾经采访了麻省理工学院物理系终身教授、未来生命研究所创始人、畅销书《生命3.0：人工智能时代，人类的进化与重生》作者迈克斯•泰格马克（Max Tegmark），分享了他作为科研人员对于人工智能及其应用场景的理性看法。​

造就：您在新书开篇提到中国，您认为中国人工智能（AI）的发展会对世界有什么影响？

**泰格马克：**中国是人工智能制造领域的世界领跑者。

不断提升的技术能力与使用技术所必需的智慧之间存在一种张力，这是一场竞赛，会在很大程度上决定未来AI的发展走向。

中国漫长的历史积累了丰富的智慧，有助于建立一套良好的人工智能管理体系。中国技术和中国智慧的结合，很可能让我们在这场竞赛中胜出。

过去智慧的增长一直依赖试错法，比如我们先发明了火，经历火灾后又发明了灭火器。

**但今天，科技的力量已经实现几何级数的增长，试错成本变得不可承受。**我们必须未雨绸缪，一次就把事情做到位，因为这可能是我们唯一的机会。

造就：90年代美国、欧盟形成了一种保护机制，您对此怎么看？

泰格马克：事实上，我工作的麻省理工学院正在做安全性研究项目。

有人质疑，对AI风险的讨论是不是为时过早，甚至太杞人忧天？不是。安全性研究的宗旨是希望通过规避错误，最大程度地降低损失，确保往正确的方向发展。

有人很悲观，他们想象凡是有可能被滥用于危害人类的科学技术，都会酿出苦果、贻害无穷。但这很显然是错误的。

想想生物学，本可以用于生化武器，可关于生化恐袭的报道实际上少之又少。

 

因为20世纪70年代，大部分国家都签署了国际性的禁止生化武器条约。大家形成了一种共同的愿景，没有生物学家会以制造生化武器为梦想，而是把精力放在了生物学研究和以医学发明赚钱上。生物学确实为人们创造了更健康、更幸福、更长寿的生活。

很多人一直固守一种过时的思维方式，坚信强者通吃，必须斗得你死我活，才能得利。

比如我的母国瑞典和邻国丹麦，历史上战争不断，但近百年却友好无事。

战争中求生存，在古代这似乎无可厚非，毕竟当时的条件下，土地意味着一切。

但在今天，**利益的获取不必依赖土地，科学技术的发展可以满足物质财富、生理健康各个层面的全方位提升。**不必再依循弱肉强食的残酷法则。

科学技术的发展依赖不分国籍、种族、性别的人类的共同努力，科技的客观有效性也决定了应用足以造福全世界。

例如抗生素，没人在乎究竟是谁、哪个国家发明了抗生素，重点是它事实上为包括亚非拉和欧美在内的全世界人民带来了福利。

这才是科学技术的本质。科技诞生财富和利益，科技的普世性决定了在今天，不是残酷的竞争而是和平，不是你死我活而是互利共赢，才是提升幸福指数的终极之道。

造就：您认为AI是否有意识？

**泰格马克：**这是一个很有争议的话题。

首先，**意识不等于智力。**智力是实现目标的能力。而意识是我知道自己（在做什么）。

比如开车，我从自己的耳朵、眼睛获取信息，大脑经过处理，向肌肉发出指令，再落实到具体的驾驶行为上。

无人驾驶汽车可以把这件事做到极致。但它不可能知道自己在开车。我却可以知道这点。

有人说，任何有智力的东西都有意识，把意识和智力划等号。这显然是错误的。

意识和智力都跟信息处理有关，但并不是所有的信息处理都是在有意识的情况下实现的，比如我不可能察觉到我的大脑是如何调节我的心跳的。同样，某些智力活动并不伴随意识。

也有人说，机器人不可能有主观体验，不可能有意识。

我是一名科学家，从科学角度看，构成人类大脑的碳原子并不神秘。而之所以神秘学、奇迹学能有广阔的市场，我觉得和人类的宗教需求和宗教背景有很大关系。

目前麻省理工学院的研究小组正在做这方面的研究，什么样的信息处理是有意识的？什么样的信息处理仅仅是一种实现目标的应变能力？这非常重要。

未来，万一我们造出和人类一样有意识的机器人，该如何对待它们？

一旦具备意识，就不再是简单的技术层面的问题，而是道德伦理问题。

人类一直就有制造他者、虐待其他生命形式的恶习。无论是自然界的动植物，还是野蛮社会下的奴隶仆役，都被以要么没有意识、要么是低阶生物为由肆意虐待。但科学和社会的双重进步一次次证明并非如此。

要想肆意对待有意识的机器人，就必然触及几乎不可能解决的道德伦理难题。

某种程度上，主观体验、意识是最有价值的东西。比如当我们看世界的时候，是因为我们在看，所以诞生对世界“美”的判断和感受，相反世界本身谈不上美丑好坏。可以说，意识、主观体验就是意义的源泉，是独一无二的标志。

制造AI的宗旨是服务人类，将是否具备意识的机器区分开来并且分别制造，这一点就尤其重要。此外，针对意识的有无，制定相应的对待策略，构建不同性质的人机伦理，也十分重要。

造就：人类大脑和AI能够完美融合吗？就像钢铁侠那样。

**泰格马克：**可以，也不可以。

某种程度上，我们可以使用科技来强化我们的大脑，现在的智能手机就是这种的初步应用，撇开手机和人脑的物理连接不谈，智能手机的确大幅提升了人脑的各种能力，也给人类生活提供了极大的便利。

未来很可能诞生神经植入技术，超越物理层面的沟壑，使得人成为更完美的人。

**绝对意义上的人机融合并不现实。**因为神经元信号的发射速度只有千分之一秒，而今天计算机芯片的处理速度比人脑快100万倍，受限于生理原因人脑不可能比得过AI，所以人机融合的前景暗淡。

 

超级计算机在应用的长远和广阔性上，无疑优越于人机融合，而只需要解决AI的价值观问题，始终保持为人类最高利益服务的宗旨，这种相对意义上的人机融合才是王道。

造就：你在书里多次提到《终结者》，你觉得未来会是人类成功控制机器，还是机器成为人类的噩梦？科幻电影里你最喜欢哪部？

**泰格马克：**一提到AI的未来，人们很容易想到电影《终结者》，里面毁天灭地的机器人，让人们担忧AI的风险。我认为这种担忧是错误的。

对人类构成威胁的不是它超强的能力，而是它的程序、它所秉持的价值观、或者说是它的意识。当AI的价值观和目标与人类需要的不一致、甚至相冲突时，这才是风险所在。

保持AI的价值观和人类高度一致，是AI技术的发展之道，也是人类的福祉所在。

但这面临三个尚未解决的棘手难题：

让AI理解人类的目标和价值观，并不容易；

让AI理解和让AI去执行，是两回事；

随着AI技术更成熟、更智能化、更聪明，如何让AI始终保持和认同人类的价值观？

有人说，这个研究现在为时过早，因为我们人类连自己的目标是什么都还不知道，根本谈不上去教育AI。我觉得这只是在为偷懒找借口。

虽然微观层面人与人存在差异，但作为整体人类却共同分享一套目标。比如造飞机，每个人都会同意飞机在任何情况下都不应该冲向建筑物。

把这类人们都认同的目标和价值观教给AI，就像父母教育孩子，不仅要教育孩子学习各种技能，这就跟一个好的士兵并不等于一个好人一样，还必须传授给他做人的道理，与人为善的道德规范。

使AI的智能化程度越来越高，越来越聪明，并不等于AI的发展越来越好。**衡量的标准不仅看能力，更要看AI是否服务于人类，是否分享一套和人类一样的价值观。**而这是科学领域和认知伦理领域一起携手去做的事情。如果AI能与人类共享同一套价值观和为人类服务的目标，对AI未来的担忧将不攻自破。

 

像《终结者》这样的科幻电影，只是不加区分地展现AI灾难性的一面，我不太喜欢。不过一部电影《她》（Her）是例外。《她》非常有趣，里面的机器人具有自我意识，这是非常有创意的。

我最喜欢的电影当属斯坦利·库布里克的《2001太空漫游》，里面很清楚地展示出人工智能最大的风险来自AI强大能力的滥用，而这也并不是AI自主意识的驱使，而是人类灌输给AI的程序所致。

如果人类能解决人机之间技术性的信任问题，如果人类能传递给AI一套和人类共同价值观一致、为人服务的宗旨，AI超强的能力和无限的想象空间，必定会是人类未来的助力。

造就：如何定义生命1.0、2.0、3.0？

**泰格马克：**我把细菌生命称为1.0，因为它们没有自主的学习能力。现在的人类是2.0。生命3.0是一种能够对自己在软件和硬件方面进行全面提升的存在阶段。或许AI会为我们人类打开生命3.0的大门。

造就：现在有种担忧，认为AI发展了，人的存在感会被削弱，你怎么看？

**泰格马克：**我举三个例子，收入、就业和生活的意义。

AI是科学技术的结晶，而科技可以诞生财富，AI发展最直接的逻辑结果是社会财富总和的大幅增长。

现实层面确实可能造成收入两极分化，但**这本质上是社会财富的分配问题，不是科技问题。**应该从社会科学层面去解决。

AI****无疑会替代一些人类工作，尤其是技术含量低的劳动密集型工作。但在社会财富总体增加、保证分配公平的前提下，被替代也可以看作是一种人类的解放。

 

人们也不必担心因为失去工作、获得解放而失去生活的意义、存在的价值，我在中国发现很多退休的老年人在含饴弄孙、抚育孙辈的生活中找到了晚年的乐趣和价值。

互动话题：你会想要一个机器人助理吗？