未来网北京8月5日电（记者 梁希理）造福社会的科学利器，不应成为刺痛人类的利剑。
放眼中国，近年来随着包括基因编辑技术、人工智能技术、5G技术等在内的生命、智能科技得到进一步的创新研究与应用，科技所带来的伦理风险也日益突显。
如贺建奎基因编辑婴儿诞生事件、无人驾驶交通事故“先救谁”难题、教育+AI产品中人脸识别侵犯学生隐私现象等科技伦理问题，都招致不同程度的社会争议。
就在近日，科技伦理治理建设也因被纳入国家顶层设计而迎来利好。7月24日，中央深改委召开第九次会议审议通过《国家科技伦理委员会组建方案》。而在审议通过的诸多重要文件中，《国家科技伦理委员会组建方案》就排在首位。
图片来源视觉中国。
“将科技强国之路走得更扎实”
中央全面深化改革委员会第九次会议上指出，科技伦理是科技活动必须遵守的价值准则。组建国家科技伦理委员会，目的就是加强统筹规范和指导协调，推动构建覆盖全面、导向明确、规范有序、协调一致的科技伦理治理体系。
对于国家科技伦理委员会的组建，中国电子信息产业发展研究院（赛迪研究院）政策法规所所长栾群向未来网（教育公众号：newsk618）记者表示，这相当于新时代科技伦理建设的一个里程碑。“国家科技伦理委员会的成立必将进一步推动我国的科技伦理建设，无论是从治理机制的健全，伦理监管的强化，还是相关法律法规和伦理审查规则的细化，到各类科学研究活动的规范等等，都会将科技强国之路走得更加扎实。”
“组建国家科技伦理委员会的方案应该是由科技部等科技主管部门提出的。在去年年底贺建奎事件之后，科技部战略院、中国科协道德权益专委会等曾经召集专家谈论过科技伦理制度建设等相关议题。但方案目前不会公开。”中国社会科学院哲学研究所研究员、科学技术和社会研究中心主任段伟文向未来网（教育公众号：newsk618）记者分析道。
对于国家科技伦理委员会的人员组成，段伟文认为，“委员会成员或将来自三个方面，一是国家科技、教育、医疗卫生等部门的相关主管领导，二是现有中科院、工程院、科协的相关委员会的主管领导及重要成员，如中科院学部道德委员会、中国工程院科学道德建设委员会，还有教育部、卫健委、社科院等相关研究机构的主管领导，三是有可能会出现科技伦理方面的专家代表。”
治理兼顾创新和伦理的适应性
在科技伦理问题的治理上，段伟文认为，应兼顾创新和伦理的适应性的治理。“既要明确科技发展中不能突破的底线，同时也要认识到这个底线可能是动态性发展的，与国家层面的政策或者是科技发展的方向、发展阶段有一定相关性。”
但目前要实现这样的治理仍存现实困难。他指出，“一方面，国内科技应用创新发展快速，所带来的伦理问题也较多；另一方面，即便是在国际上一些科技前沿领域的探索，也还未能建立相应较为一致的伦理规范。”
段伟文表示，这就导致了科技在兼顾创新和伦理的适应性上产生冲突，“国家鼓励创新，但是鼓励创新不能以对伦理过度冲击为代价。具体来说就是要鼓励创新也要包容审慎。对于在国际上参与竞争的中国科技企业或科研机构，给予一定的发展空间、鼓励创新，但也要求事先对科技伦理问题做好考量。”
“很重要的一个问题是，我们对于许多伦理问题缺乏认真、具体的研究和考量，缺少统一的治理架构。”段伟文表示。
图片来源视觉中国。
AI伦理之困
而以近几年国内发展方兴未艾的人工智能为例，与其在各个行业快速落地应用一样备受关注的，还有较为突出的伦理问题。
具体而言，无人驾驶交通事故“先救谁”难题、AI技术“换脸”争议、教育+AI产品中人脸识别侵犯学生隐私现象、教育App借算法实现个性化教育之名推送涉黄内容等等，都因为忽视人工智能技术发展中的人文因素而引起公众对AI的担忧和质疑。
栾群认为，当前人工智能伦理问题主要集中在以下几个方面。“第一，技术的可靠性。就是要保证人工智能技术是安全的、可靠的，能够抵御网络攻击和其他事故；第二，数据治理。特别是用户隐私和个人信息的保护，以及收集的数据要确保非歧视性和包容性等；第三，技术的可控性。技术要能够被人类理解，算法透明是实现理解人工智能的一种方式；最后是技术的可问责性，一般就可以理解为工业领域的侵权责任问题。”
除了从制度法律的建立完善上来对科技伦理建设进行顶层设计，也需要技术、教育等来应对科技伦理的挑战。段伟文表示，“把伦理考量纳入技术手段中是可以实现的。比如在用户访问网页时，网页会提醒用户其正在使用和监控的数据，实际上也算是一种解决方案。也有公司设计了特制头盔，只要在路过某处时有App要试图采集你的敏感信息，头盔就会发出声响。”
伦理教育成重要一环
在科技伦理的治理与建设中，科技伦理教育也是重要一环。
在近日召开的“人工智能与教育大数据峰会·2019”上，北京航空航天大学计算机学院教授熊璋表示，人工智能教育中的伦理要点主要体现在思想意识层面和实操层面，包括明确学生的价值取向，增强社会责任感，在开发功能时主动避免可能造成歧视，使用过程中保证技术的中性等。
段伟文的观点是，应在中小学校逐步加强科技伦理教育，并结合科学、科技教育的内容进行学习。“在学习新兴科技时，并同时学习科技对社会的正反影响、与道德伦理价值观的冲突及风险等。”
“学校、教师不应该让科技的社会伦理影响方面的内容成为学生认知的盲区，使学生先认识到科技伦理问题本身、再进一步引导学生对问题思考。科技伦理有两个方面学生是需要掌握的，第一是科学技术要以人为本、造福社会，第二个是一切科技创新活动都要为其所产生的后果负责。”
