学生“生物信息采集”引教育部关注 “慎用”背后凸显隐私伦理难题未解

　　未来网北京9月9日电（记者 刘文静）当人们在恐惧“人脸识别”时，究竟在恐惧什么？

　　近日，“ZAO致歉”“ZAO被工信部约谈”相关话题接连登上微博热搜榜。但至今，这场引发惶恐的人脸识别之乱仍未落幕。许多人发现，这项技术甚至已经深入到未成年人的课堂中。

　　近日被媒体广泛关注的旷世科技课堂“黑科技”，可以监控学生的面部表情乃至肢体的一举一动，从而分析上课听讲状况，引发了巨大争议。

资料图。图据视觉中国

　　但其实，早在几年前，安徽省濉溪县二中的学生们就曾发微博，控诉班级装摄像头监视学生；2017年，360水滴直播也因涉嫌监控学生隐私，被推上了风口浪尖；2018年，杭州第十一中学、重庆二十九中均因人脸识别进课堂，分析学生表情、动作等而广受质疑……

　　今年，该应用技术并没有因质疑声日渐高涨而冷落，反而“高调”出现在更多学校、教育机构以及各类大型科技展上。

　　回到最初的问题，“人脸识别”之所以引发人们质疑，无非是两个问题：伦理和隐私。直至今日两个问题一题未解，仍缺少权威声音“一锤定音”。

　　如今，成年人的隐私泄露已然如此，若未成年的孩子也将面临这些风险，甚至忽视教育伦理，让教育变了“味”，谁来解释人们心中的焦虑与恐惧？

　　教育部科技司：人脸识别的教育APP 要慎重

　　日前，在教育部的新闻发布会上，有关生物信息采集问题，教育部科技司司长雷朝滋对未来网（教育公众号：newsk618）记者表示，“能不采就不采，能少采就少采，尤其是涉及到学生个人生物信息，对于人脸识别或者肢体识别的教育APP加以限制和规范，同时我们希望学校慎重使用。”

　　雷朝滋表示，关于AI进校园要严肃对待，既包括数据安全也有个人隐私，要格外慎重。目前正在组织专家进行研究。

发布会现场。未来网记者 巩帅 摄

　　未来网（教育公众号：newsk618）记者发现，不仅教育部已经对人脸识别、生物识别技术进校园表示警惕，许多官方部门也已经对AI应用潜在的隐私、伦理难题作出了倡议和规范。

　　不久前，北京智源人工智能研究院联合北京大学、清华大学、中国科学院自动化研究所等单位发布《人工智能北京共识》（下称《北京共识》），其中特别指出，人工智能的研发应充分尊重人类的隐私、尊严、自由、自主、权利；人工智能不应被用来针对、利用或伤害人类。

　　同时，在研发方面要服从人类的整体利益，设计上要合乎伦理。使用方面要避免误用和滥用，应确保利益相关者对其权益所受影响有充分的知情与同意。

　　数日前，《儿童个人信息网络保护规定》（以下简称《保护规定》）经国家互联网信息办公室室务会议审议通过并定于2019年10月1日起施行。其中明确，网络运营者收集、使用、转移、披露儿童个人信息的，应当以显著、清晰的方式告知儿童监护人，并应当征得其同意。

　　此外，网络运营者征得同意时，应当同时提供拒绝选项，并明确告知收集、存储、使用、转移、披露儿童个人信息的目的、方式和范围，以及信息存储的地点、期限和到期后的处理方式；儿童个人信息的安全保障措施；拒绝的后果；投诉、举报的渠道和方式；更正、删除儿童个人信息的途径和方法等事项。

　　现实盲点：如何保障孩子的知情权与隐私权？

　　上述各方都明确指出了要重视用户的隐私权和知情权。事实上，这两点问题也早已是人们所约定俗成的、本不应是问题的问题。但是在实际应用中，仍有相当一部分的用户，知情权和隐私权未被尊重。

　　2017年，安徽省濉溪县二中的学生们就发微博表示：“我们感觉一个学生的隐私生活受到侵犯，这样和坐监狱有什么区别。”“课下也不能和同学正常交流，生怕怀疑。这样真的是为我们好吗！”

　　对于此类事件，许多网友在微博上发表评论：“太恐怖了，根本没有了隐私。”“学生做错了什么要被这样监视？”“以尊重师生隐私为前提就不应该开发这样的系统。”

　　也有网友表示，只要口子一开，就收不住了。长此以往，以后孩子们的各种信息、行为习惯都会变透明，被采集信息了解需求便于广告精准投放，从中获取商业价值。如果信息被别有用心之人或犯罪分子获得，后果将更不堪设想。

　　对此，中国法学会研究部副主任彭伶也告诉未来网（教育公众号：newsk618）记者，监控技术如果面向大众而非特定群体，用于查案和保卫社会公共安全则无可厚非。“但如果把这种技术用于课堂，用于特定个体如学生，就相当于隐私被监控，更可怕的是一举一动还会被人分析，甚至会形成分析报告。在这种情况下，按照我们一般的逻辑推断，这些数据是会留存的，甚至会作为内部的一个资料来交流使用，那么这些未成年人的信息就很可能会泄露出去。”

　　她还指出，仅分析本身就牵扯到了使用，在这种情况下，毫无疑问已经侵犯了未成年人的隐私，涉嫌违法。

　　北京市炜衡律师事务所律师周浩在接受未来网（教育公众号：newsk618）记者采访时介绍，《中华人民共和国网络安全法》第四十一条明确规定：网络运营者收集、使用个人信息，应当遵循合法、正当、必要的原则，公开收集、使用规则，明示收集、使用信息的目的、方式和范围，并经被收集者同意。

　　所以，教育机构收集学生人脸表情等信息，正当性和必要性都大大存疑，很可能就违反了“合法、正当、必要的原则”。

　　此外，第四十一条还规定：网络运营者不得收集与其提供的服务无关的个人信息，不得违反法律、行政法规的规定和双方的约定收集、使用个人信息，并应当依照法律、行政法规的规定和与用户的约定，处理其保存的个人信息。

　　“但是，教育机构在收集学生人脸信息时是否经过了孩子和家长的同意，是否有明确提醒和询问，家长和孩子对其收集使用的风险性和后果知情多少，这些都很难保证。”周浩说。

　　伦理难题：谁让教育变了“味”？

　　“作为教育工作者，如果在内心把学生当作人来对待，就会承认每个人都有喜怒哀乐的不同情绪，有喜欢与厌恶的不同情感，有兴奋和倦怠的不同状态。 教育不是用机器去分析机器，不是用机器去控制机器，不是去培养能通过考试的合格流水线产品。 教育是用生命去影响生命，用生命去感动生命。”在微博上，一位网友的评论引发了众多关注。

　　教育本应是知识的传输、真理的探讨、情感的互动，但不知何时，充满温度的教育渐渐被冰冷的工具“渗入”。在首都师范大学附属育新学校副校长王强看来，任何技术手段都只是一个工具，并不能替代老师的所有工作。如果过度依赖AI分析学生上课状态的结果，会让老师变懒，即使效率高了，速度快了，但是却会加剧老师对学生的不了解。

　　王强告诉未来网（教育公众号：newsk618）记者，对老师而言，无论如何都不能被AI带偏，脱离教学规律和实践，省去了解、观察、分析孩子的时间，这是对孩子是极不负责任的行为。

　　另一方面，从学生角度而言，21世纪教育研究院副院长熊丙奇在接受未来网（教育公众号：newsk618）记者采访时表示，教育本身包含情感、心理和知识交互的过程，过度强调技术手段是对学生和老师的控制，必然会导致教育缺乏应有的温度。而学生长期处于监控环境之下，很容易养成表演性人格。教育首先是教做人，反人格的教育万万不可取。

　　“这是必须引起教育系统与全社会高度重视的，学校是育人的地方，培养学生健康成长，所有教育创新必须以尊重学生人格为基本出发点。”熊丙奇说。

　　对此，中国教育科学研究院研究员储朝晖在接受媒体采访时表示，教室虽然是公共场所，但是监控下的教师和学生都不是真实的状态。

　　在他看来，这个问题争论了几十年了，大家从专业这个角度一个得出一个共同的结论，在教室里是不能装监控的。首先保护学生的隐私，也是不让课堂处在一个被这种控制的状态重要的原则。不遵循这个原则，那么学生可以在教室教室里面去作假，伪装。那么教师也可以伪装业绩作假，那么真实的教学就不可能发生。

　　试想，一旦真实的教学不复存在，一个个被不信任感、无隐私感、恐惧感裹挟的老师和学生该如何面对彼此，而被AI的负面影响所侵害的教育又将会走向何方？