□浙江大学教育学院 朱雨萌 樊小雨

一、用“以人为本”的方式调研青少年人工智能伦理认知现状

近几年来，牛津大学计算机科学学院“以人为本的计算”研究团队关注人工智能技术对家庭和儿童日常生活的影响。该团队从软件设计和开发者的视角，采用“以人为本”的研究方式（如访谈、共同设计等）调研儿童及青少年对人工智能及其所带来的伦理隐患的认知与看法，并关注“负责任的人工智能：数据驱动系统中算法的透明度和问责制”“数字福祉：隐私和安全、注意力经济、自我调节”等人工智能伦理领域的议题。

牛津大学另一研究团队分别从“为儿童设计负责任的人工智能技术”“揭开人工智能对儿童的影响”“促进更明智的针对儿童的AI监管框架的开发”等3个方面进行了面向人工智能伦理的研究和实践。建议教育工作者及学者可以通过面向青少年群体开发伦理课程、组织研讨活动、开展主题工作坊，以此提升青少年的批判性算法思维，从而赋能青少年以合乎伦理的方式与人工智能技术进行互动。

二、将人工智能伦理教育融入中小学相关课程标准之中

美国是世界上较早开始关注青少年人工智能教育的国家之一。2018年，由美国国家科学基金会与卡内基梅隆大学计算机科学学院资助，美国人工智能促进协会和美国计算机科学教师协会联合发起了K-12（学前至高中阶段）人工智能教育计划，明确提出了人工智能领域的5个大概念，即感知、表示和推理、学习、自然交互、社会影响。5个大概念均强调了人在人工智能中的重要作用，并强调对人工智能技术使用时的安全责任、歧视等伦理问题的关注。

围绕5个大概念，研究人员给K-12阶段不同年级学生设计了他们需要掌握的人工智能概念、基本知识和技能标准进度图。截至2023年2月，已发布4个大概念的进度图，进度图中多处将人工智能道德伦理相关内容列为学生的学习目标或理解内容。例如，针对大概念“数据-特征集合”，高中生（九至十二年级）应了解的知识包括“人类决定在数据集中包含哪些特征，以及如何对它们进行编码”。了解这个知识有利于青少年树立“以人为本”的思想，同时为因数据集特征不均衡等因素造成算法偏见伦理问题的讨论埋下伏笔。

英国教育部高度重视人工智能等计算驱动技术的伦理问题及其对青少年的影响，早在2013年，英国就用“计算”课程代替“信息与通信技术”课程，并制定了4个关键阶段的教学目标。这些教学目标向关注计算思维和人文价值倾斜，教学内容更加关注计算机科学的应用价值和人文价值。在第一阶段，学生应“安全和尊重地使用技术，保护个人信息的私密性；当他们对互联网或其他在线技术上的内容或联系方式有疑虑时，确定去哪里寻求帮助和支持”。在第二阶段，学生应“有效地使用搜索技术，理解结果是如何被选择和排名的，并且在评估数字内容时有辨识力”，应“安全、尊重和负责任地使用技术；识别可接受/不可接受的行为；确定一系列报告有关内容和联系的问题的方法”。在第三阶段，学生应“了解安全、尊重、负责任和安全地使用技术的一系列方法，包括保护他们的在线身份和隐私；识别不当内容、接触和行为，并知道如何报告疑虑”。在第四阶段，学生应“了解技术变化如何影响安全，包括保护在线隐私和身份的新方法，以及如何报告一系列问题”。

三、国际青少年人工智能伦理课程建设与实施的初步探索

2022年2月，联合国教科文组织发布了报告《K-12人工智能课程：政府认可的人工智能课程蓝图》，该报告调研了全球K-12人工智能课程设置的基本状况，提出了人工智能素养能力框架，建议青少年人工智能伦理课程设计应鼓励青少年从不同视角去识别并描述人工智能关键伦理问题，包括隐私、就业、错误信息、“奇点”、决策、多样性、偏见、透明度和问责制等。

美国一些高校也在关注将人工智能伦理的内容与准则融入相关课程设计，有代表性的是美国麻省理工学院媒体实验室开发的课程。2019年，麻省理工学院媒体实验室首次向225名没有编程基础的美国中学生开设了人工智能伦理课程。该课程向学生介绍了人工智能、数据集、监督学习、算法偏见等基础概念；让学生分析讨论人工智能开发者如何通过算法影响用户，并通过伦理矩阵分析人工智能产品利益相关者；让学生重新设计了视频网站的推荐系统。同年，该实验室推出了“面向中学的人工智能+伦理课程”，包含8个学习活动及相关教学材料。2022年，实验人员开发了“具有创造力的人工智能”“与人工智能共舞”“如何训练你的机器人”等3门课程。