□浙江大学教育学院副院长、教授 李 艳

人工智能（简称AI）旨在模拟、延伸和扩展人的智能。自上世纪50年代中期正式提出这一概念以来，人工智能已经过了近70年的研发，并且随着与大数据、云计算及物联网等新技术的不断整合，人工智能正在对人类生产与生活的诸多方面产生着深刻的影响。

以当下最火的ChatGPT为例，ChatGPT的智能写作作品很多可以达到人类水平，能以假乱真地出现在很多行业中，它会对诸多传统领域，例如新闻、广告、文学、金融、法律、医疗、行政、教育等的发展趋势及人才需求产生不可估量的影响，智能技术自带的算法偏见等也会引发广泛的伦理议题。如果人类不能够正确地对待和使用人工智能技术，人工智能技术就可能会给人类带来巨大危机。因此，近些年来，世界各国教育系统都在努力推进人工智能相关教育，伦理议题是一个重要内容。

一、智能时代开展青少年人工智能伦理教育意义深远

近年来，联合国教科文组织高度重视人工智能伦理及其教育，2021年11月，发布了《人工智能伦理问题建议书》，其中特别关注人工智能系统在教育等领域的广泛伦理影响。建议书指出，会员国应根据本国教育计划和传统，为各级教育开发人工智能伦理课程；应以当地语言（包括土著语言）开发人工智能伦理教育的在线课程和数字资源，促进人工智能技术技能教育与人工智能教育的人文、伦理和社会方面的交叉协作。联合国教科文组织教育信息化与教育人工智能部门主任苗逢春认为，教育系统在培养青年一代人工智能伦理知识、技能和相关价值观念方面发挥着重要作用，以此对人工智能伦理治理发挥反向赋能作用，这种反向赋能作用表现在通过教育强化人工智能人文主义价值观、普及人工智能基本素养（包括面向所有公民的数据素养和算法素养），以及培养媒体和信息素养。

事实上，早在2017年，全球最具权威的IT研究与顾问咨询公司——高德纳咨询公司研究发现的新兴技术成熟度曲线就已经显示，人工智能无处不在，人类社会进入智能时代已经是不争的事实。人工智能技术在给我们生产生活带来诸多便利的同时，其可能引发的算法代替价值、算法偏见、虚假信息、信息茧房等问题，在人类社会中日益凸显其负面影响。算法代替价值，指普通民众容易被算法引导价值取向，算法并非公正无差别，那些无法被算法包含的内容会被舍弃，算法偏见无处不在，看似客观中立的算法在运行过程中会产生不合理不公正的判断，并且这种判断会对个人或某些群体造成伤害。智能创作引发的虚假信息等问题将冲击无数传统行业的运行规则和秩序。信息茧房不但影响我们的思想，更影响我们的日常消费行为。算法智能推荐一方面更加精准预测及满足需求，但另一方面通过个性化的消费者偏好内容推荐，在一定程度上导致受众所接受的信息内容不断窄化。

智能时代已开启，人工智能技术双刃剑的影响已凸显。青少年人工智能伦理教育对我国实现“科技强国、教育强国、人才强国”的战略目标意义深远。

二、青少年人工智能伦理教育内容的选取应对齐新课标

《义务教育信息科技课程标准（2022年版）》中明确指出，信息科技课程旨在培养科学精神和科技伦理，提升自主可控意识，培育社会主义核心价值观，树立总体国家安全观，提升数字素养与技能。可见，培养青少年科技伦理是中小学信息科技课程的重要目标和任务。新课标中首次将“数据、算法、网络、信息处理、信息安全、人工智能”界定为信息科技课程的逻辑主线，并将“信息意识、计算思维、数字化学习与创新、信息社会责任”确立为课程要培养的核心素养，其中的信息社会责任强调正确应对人工智能对社会的影响，认识到人工智能对伦理与安全的挑战，自觉遵守信息科技领域的伦理道德规范。目前，全国中小学校围绕新课标的教材建设正热火朝天地进行着，因此，也是系统规划和设计青少年人工智能伦理教育内容的好时机。

面向青少年的人工智能伦理教育内容需要包含对人工智能三大核心概念（数据、算法、算力）的基本介绍、人工智能伦理规范的相关内容，以及人工智能伦理问题（算法代替价值、算法偏见、虚假信息、信息茧房等）的案例及防范举措等。希望通过青少年人工智能伦理教育，青少年能更好地掌握信息科技学科核心素养。学生通过对算法的深入学习形成良好的算法思维，学会使用人工智能及相关工具解决问题；通过批判性地思考人工智能产品带来的社会影响，学会分析技术的利弊，提升批判性思维。

三、青少年人工智能伦理教育实施的关键在于教学设计

青少年人工智能伦理教育的目标并不要求青少年像哲学家一样对人工智能伦理问题进行理论思考，而是希望他们能够深入了解人工智能的原理及社会影响，知其所以然，然后批判性地去思考，负责任地去实践。因此，面向青少年的人工智能伦理教育切忌照本宣科，不应是空洞的说教，更不能要求学生死记硬背晦涩难懂的法律法规条例。青少年人工智能伦理教育实施的关键在于教学设计，尤其是教学目标、教学活动和教学评价的设计。

教学目标的设计应强调对人工智能伦理议题背后原因的理解，并强调会反思和评价相应的人工智能伦理现象，会遵守相关规则进行伦理规范的实践等。

教学活动的设计可以多元化，比如，课程导入部分，可以通过一些探究活动，引导学生意识到身边的人工智能产品、人工智能算法原理中的伦理议题，结合他们的生活经验，让青少年意识到人工智能的作用及其对社会产生的正负面影响。例如，通过让青少年建立并发现人工智能算法对于女性的识别准确率低于男性的现象来了解算法偏见的存在及其形成原因等。教学时，教师可通过引导学生开展一些算法设计的项目式活动，让他们体验人工智能伦理原则是如何运用到实践中的。通过项目式学习，学生可以锻炼沟通技巧、创造性思维与合作能力，能够尝试着设计合乎伦理的人工智能产品。教师还可以设计辩论活动来引导学生思考人工智能的影响及相关利益者的诉求。

教学评价的设计最好强调过程性评价和终结性评价相结合，学生在每一个学习活动中的表现都可帮助教师考查学生知识和技能的掌握情况。另外，教师也可以灵活设计一些开放性问题及作品评价量规作为评价内容，以此了解学生情感态度价值观方面的变化。

因此，在最大范围内加强在职教师和师范生有关人工智能伦理议题的学习和培训、加强高校和中小学校的交流合作是更好地推动我国青少年人工智能伦理教育实践的关键。