课堂人脸识别让孩子变“戏精”？“AI+教育”伦理难题待解_风闻

课堂人脸识别让孩子变“戏精”？“AI+教育”伦理难题待解

转自 澎湃网

一阵风起，“AI+教育”概念迅速席卷教育行业的各个场景。但是，日益火热的人脸识别、分析学生上课状态的技术，却让不少学生、家长和专家深深担忧。未来网记者梳理公开资料发现，至少5家知名教育企业正在研发或落地使用该项技术。此外，在许多教育峰会、论坛上，“AI+教育”、人脸识别、表情分析等均是行业人士探讨的热词。然而，一边是行业的激烈追逐，另一边却是来自学生、家长和专家的质疑。“究竟是校园信息化还是校园监狱化”“数据收集是否侵犯学生隐私”“表情识别分析真的靠谱吗”“孩子们小小年纪就要学演戏”……人们议论纷纷，一些教育学界专家也站出来反对。某在线少儿英语培训机构通过面部识别技术量化分析孩子的课堂学习表现。**教育企业“趋之若鹜”**早在2017年3月，某教育机构曾公开表示，即将推出基于人脸表情识别技术研发的学习状态测评系统，对孩子上课的表情进行实时采集，从专注、疑惑、高兴、闭眼四个维度分析其听课状态，形成注意力曲线学习报告，反馈给老师和家长，试图让老师根据学生的情况优化课程和教学内容。该系统将率先引入其旗下双师课堂，并预计从2017年暑期开始全面引入线上课堂。未来网记者发现，放眼整个教育行业，研究应用人脸识别、表情分析技术的不止这一家。据公开报道，某在线1对1教育机构曾宣布将与人工智能相接合，构建智能课堂个性化测评提分系统，从而实现智能匹配、智能课堂、智能评测等功能。此外，还宣布将与国内人工智能企业商汤科技进行战略合作，在情绪智能识别等领域共同进行技术上的融合与研究:通过在线辅导的情绪识别，了解学生是否处于认真上课的状态，分析出学生对知识点的理解程度。2018年4月，某K12在线教育机构也宣布推出面部情绪识别与专注度分析系统“好望角”。借助人脸识别技术，基于人脸表情来分析学生情绪，基于眼球焦点分析学生注意力情况，并将分析结果即时反馈给老师。该机构CEO介绍，这种作用主要体现在两个方面。一收集了解学员在线学习时的精力集中度、集中时间、对不同类型知识点的反应状态等重要个性数据，借助眼球和面部表情捕捉识别技术实现对学员实时学习状态的即时收集、传递及数据特征分析;二是作为教学主体的老师可以根据AI所提供的信息来进行个性化教学。他强调，要使课堂透明化，打开教学过程的“黑箱”，让教学过程更清楚透明。据中国网和环球网报道，某在线少儿英语机构也在加速“AI+教育”布局，对外宣称深度融合运用人脸识别技术实现课堂表情数据分析，优化教学方式。即通过大数据的深度挖掘分析以及人脸识别、语音识别等一系列人工智能技术的结合运用：在教学过程中，通过人脸识别、情绪识别等技术抓取用户上课数据，如可以不断地抓取孩子脸上83个数据点，分析孩子瞳孔和表情的变化，并在后台实时显示着孩子的专注度、开心值与惊喜值等数据，通过表情分析，计算分析用户的视线关注情况和对课程接受理解程度。其表示，产品期望利用人脸识别技术解读学生对知识的兴趣值、理解值，将学生学习效果数据建模分析并反馈给授课老师，提供个性化教学方案。与其相比，另一家在线少儿英语机构则稍显不同，选择建立大数据中心，但核心仍是用数据、语音识别、面部识别等技术试图来提升教学效果。公开资料显示，其主要将AI技术应用于计算机听觉和视觉上。2018年6月，公开报道显示该机构已经产品化的AI技术主要有人脸检测，表情识别，人物抠图等。未来网记者梳理发现，诸多教育企业对外发布的“AI+教育”方案大多都包含人脸识别、表情分析技术，而理由也颇为相似，多为让老师了解学生对课程的喜爱和理解程度，给老师调整授课方案提供辅助依据，期望实现个性化教学，因材施教。期望是美好的，但是真的能实现吗？**高科技应用or潘多拉魔盒？**一位不愿具名的教育企业CEO告诉未来网记者，据他了解，几乎每家企业都想往“AI+教育”上靠，而人脸识别、表情分析是目前相对比较成熟和简单的AI技术。还未掌握该项技术的公司大多都正在加紧时间研发、寻找技术合作对象，因为人工智能是所有行业的最新趋势和最大增量，似乎谁不上路谁就落伍了。“而至于这项技术可不可靠，失误率有多大，是否侵犯学生隐私，学生如果演戏技术能否能鉴别等问题，目前好像还没有研究和数据表明，也少有公司愿意多花成本去研究。”同时他也表示，也有许多业内人士认为这项技术不靠谱，且不论学生是否会假装，仅就技术本身而言，万一出现漏洞，老师做出错误预判，对学生的影响将是巨大的。教育是严肃的，容不得半分试错，更何况，学生本身就是千人千面，每个人的表情习惯、面部特征都不相同，技术能够识别多少，准确性有多高，这个很难保证。另一方面，即使技术能保证完全准确，教育伦理这关能否过得去？“教育的根本，是培养有健全人格的学生，任何对人格培养可能产生负面作用的教学措施，都应该慎之又慎。”21世纪教育研究院副院长熊丙奇发表评论文章《课堂上用人脸识别“记录分析”学生表情?我反对!》表示，只关注课堂纪律和学生上课的“投入”程度，这是灌输教育的思路，而灌输教育并不利于孩子的身心健康。他还指出，单纯依赖人工智能来了解学生上课情绪反馈，也会导致教师教学、互动能力的退化，更重要的是，这也会限制学生的独立思考。在监控之下，学生很可能养成表演性人格，如果这套系统进一步用于学生评价、教师评价，可以想见，会有教师要求学生表现得十分快乐，以表明自己上课受欢迎。“近年来‘AI+教育’发展得如火如荼，但技术和现实应用之间还有相当大的鸿沟。”北京大学教育学院教育技术系教授汪琼告诉未来网记者，目前教育行业内的许多企业并不真正懂教育，不懂学生和老师真正的需求，以至于用错了“AI+教育”，比如应用到人脸识别、情绪分析、智能手环等方面，被人们质疑是监控隐私。汪琼认为，之所以“AI+教育”会引起这么大的争议，是因为这些教育机构和信息技术企业没有真正弄明白教育的本质。“教育技术或教育科技企业想要进校园或课堂，第一要素是要符合教育规律，帮助学生或老师减轻负担，而不是增加负担。”汪琼说。中国人民大学副教授高永安在接受未来网记者采访时也表示，“这个系统(人脸识别)如果长期使用,老师会用来给学生施加压力,学校会用来给老师施加压力,建议千万不要常规化。”作为两个孩子的父亲，同时也是中学老师的杨一凡告诉记者，无论是站在家长的角度还是站在老师的角度，都不希望这项技术蔓延开来。“这就像是一个潘多拉的魔盒，一旦被打开，被广泛应用，我们可以设想一下后果，可能将培养出一群戏精；可能会造成学生与老师之间的相互不信任；老师可能越来越依赖于技术，丧失独立思考和自己的判断，变得越来越懒；学生可能认为隐私被侵犯，青春期的孩子更可能会产生逆反心理。”而对于教育企业提出的“让老师了解学生对课程的喜爱和理解程度，为调整授课方案提供辅助依据”的作用，张一凡表示，教育企业可能过于放大了AI的作用，又过于轻视了老师的能力，就像网友们说的那样，“老师们根本不需要监控,只需要看一眼就知道学生有没有认真听课。”（原题为：《课堂人脸识别让孩子变“戏精”？“AI+教育”的伦理难题待解》）