未来网北京7月22日电（记者 张冰清）“国家网信办启动的‘清朗’行动是非常重要的。今年的特殊情况，很多K12学习年龄段人群都是在线上课，那么学习环境是更加复杂而且不可控，如果此时遇到了别有用心的不法分子，利用网课平台监管的松懈漏洞，上传一些影响到孩子身心健康的不良言论，那么产生的社会影响也将是非常恶劣。”资深教育投资人徐华向未来网记者表示。
近日，国家网信办决定即日起启动为期2个月的“清朗”未成年人暑期网络环境专项整治。为给广大未成年人营造健康的上网环境，此次专项将重点整治学习教育类网站平台和其他网站的网课学习版块的生态问题，严厉打击直播、短视频、即时通讯工具和论坛社区环节存在的涉未成年人有害信息，从严整治青少年常用的浏览器、输入法等工具类应用程序恶意弹窗问题等等。
随着在线学习进入常态化，教育类APP多次传出内容涉黄，网课学习板块的生态问题也渐渐浮出水面。
截图自国家网信办官网
知名机构APP内竟也有不良内容
据共青团中央维护青少年权益部、中国互联网络信息中心(CNNIC)联合发布的《2019年全国未成年人互联网使用情况研究报告》显示，2019年我国未成年网民规模为1.75亿，未成年人互联网普及率达到93.1%。互联网对于低龄群体的渗透能力持续增强，32.9%的小学生网民在学龄前就开始使用互联网。
事实上，越来越多的未成年人使用网络，而目前市场上针对未成年人的网络信息产品和服务越来越多，包括早教、游戏、社交等等不一而足，此类网络信息范围广、种类多。由于目标群体的特殊性，相关网络内容监督管理和针对性保护机制应具有更高的要求。
国家网信办网站7月13日消息称，根据网民举报，国家网信办针对“学而思网校”APP存在低俗视频、教唆早恋内容等突出问题，指导北京市网信办会同属地教育主管部门，依法约谈网站负责人。
学而思网校方面回复称，上述不良内容发生在今年5月，“当时是用户自己上传的内容，我们接到家长反馈后第一时间就删除了，之后我们配合主管部门进行了严格自查，并加强了审核机制，相关的处理措施我们也向主管部门递交了说明”。
学而思网校方面还表示，自查后已无不良内容，目前用户上传内容须通过机器审核和人工审核，并且只能自己可见，杜绝类似事情发生。截至目前，国家网信办和北京市教委未反馈有新的问题或投诉。
而在此前，未来网曾报道，近日有家长发现，在女儿的S5型号步步高家教机中有一款“小肚皮”APP，一些内容并不适合孩子观看，不仅有相对暴露的图片，甚至还有不良漫画。
近日，学霸君APP也被曝出存在违规内容，据中国网财经中心报道，有学生家长反映，他发现自家孩子因好奇而在学霸君App上用拍照搜题功能搜索过“F××”词，随之出现了大量不雅问答内容。根据该家长提供的信息，记者发现，学霸君App拍照搜题在对部分不雅用词的释义及日常语句的使用上，存在涉嫌低俗粗俗且过度描述的不雅内容。
报道称，通过学霸君App拍照搜题功能对“F××”一词进行搜索，随即出现该英语单词的相关注解。除了常规的释义，记者发现，在搜索出的答案中，还列举了大量涉及该单词的不雅用语及翻译，还包括各种以此英文词的不雅造句，甚至包括“I f×× my teacher!”这种令家长和老师极其惊愕的答案句子。
很多案例的背后，其实折射出的是学习教育类网站平台和其他网站的网课学习版块的生态问题。
徐华更坦言，在这个环境下，我们作为教育从业者，更应该加强自律、加强内部监管。
数次规范的线上教育内为何还隐藏不良信息？
在此次网信办“清朗”未成年人暑期网络环境专项整治之前，教育部已多次出手整治教育类App。2019年1月，教育部办公厅印发了《关于严禁有害APP进入中小学校园的通知》，强调开展全面排查，凡发现包含色情暴力、网络游戏、商业广告等内容及链接，或利用搞题海、公布成绩排名等应试教育手段增加学生课业负担的APP，要立即停止使用。
2019年7月，教育部等六部门印发的《关于规范校外线上培训的实施意见》中明确指出，校外线上培训内容要传播正确价值观，不得包含淫秽、暴力、恐怖、赌博以及与学习无关的网络游戏等内容及链接等。
2019年9月，教育部、中央网信办等八部门联合印发《关于引导规范教育移动互联网应用有序健康发展的意见》，提出集中治理利益绑架、信息泄露、低俗信息等问题，要求统一使用的教育APP不得向学生及家长收取任何费用，不得植入商业广告和游戏。
数条禁令之下，教育类app内为何依旧隐藏着不良信息，危害着未成年人的身心健康呢？
K12在线教育业内人士李泽普向未来网记者表示，内容审核问题其实这是互联网企业都会遇到的普遍问题，此前在抖音、今日头条、腾讯、网易等互联网平台均有内容审核的相关技术。很多在线教育机构此前是从未增加人工审核环节的，随着行业的不断规范，才有一部分头部机构开始进行技术研发，但是对于中小机构来说，出于运营成本的考虑。这部分投入不产生任何价值，很多机构形同虚设，内容审核基本就忽略了。
徐华则表示，之前是处于快速发展期，很多机构急于组建线上的课程设计、招生、营销等相应活动，对内容监管可能疏忽大意。因此接下来，一定要重点的做好内容审查机制，做好监管机制。
某k12在线教育技术人员徐准则表示，目前最有效的解决办法就是人工审核，用户上传的所有内容只在内网显示，经过人工审核后，才能展示。此外，也可以通过图像识别技术等手段避免。
但徐准也坦言，无论通过何种方式，对于企业来说，都是成本的增加。
“如果加入内容人工审核的话，成本会大幅度增加，而且一般的机构很少会在内容审核方面进行投入。事实上，规模不够大的机构也没有相关技术支持和充足的资金。”李泽普向未来网记者表示。
内容监管，机构还需做到……
徐华表示，在技术层面，不论是教育机构还是带有网课内容的平台，都可以通过一些过滤软件，包括内部的工具，去设置敏感词汇进行内容监管。而教育机构要及时跟当地的网信办进行沟通联系，更新敏感词库，加强对这些内容的防范工作。
网易有道的技术人员则对未来网记者表示，有道精品课此前就拥有完善的反黄反暴技术，国家网信办启动的“清朗”行动之后，有道精品课进一步加大了内容审核力度，保证了相关内容审核在可控范围之内。
但是，徐华认为，工具或技术只是能够预防筛选文字内容。而对于现在越来越火热的短视频以及音频内容的过滤机制，目前来说除人工审核外还没有特别好的方法去控制。教育机构自我检查、人工检查也是必不可少。
此外，也可以采取一些相对来说比较繁琐，但是相对安全的机制，比如说用户上传的所有内容，未经过人工的审核，不能够对外网公布。此时只有用户自己看到，外网是看不到的，必须要经过内容运营团队的审核之后才允许发布。
徐华坦言，这需要组建一个可能人数不会太少的内容审核机制部门，但是却可以充分的保证，每一条外边上传的信息，不管是文字图片音频视频，都能够通过人工的判断，然后给予通过和审核不通过的决定，能保证内容的健康安全性。
徐华建议，一些教育公司及时与拥有内容监管技术研发实力的互联网企业多多沟通，组团学习，整个行业共同携手去做这件事情。
