沈苑 胡梦圆 范逸洲 汪琼
北京大学教育学院
摘要：人工智能技术在辅助教学上展现出了巨大潜力，也因其不透明性、无法预测性以及不当使用而引发争议，建设可信赖的人工智能教育应用（AIED）成为国际共识。可信赖AIED强调“以人为本”的价值宗旨，以可靠、安全的AI技术为底层基础，以合伦理性的理解和使用为关键保障，观照教育情境的复杂性，摒弃将通用AI伦理原则或其他AI应用领域的专业伦理原则生搬硬套到教育领域。英国作为人工智能伦理治理的先行者，在可信赖AIED建设方面积累了丰富经验，尤其体现在《人工智能保障生态系统路线图》中。该《路线图》从技术的开发、采购与使用三大阶段出发，分别采取伦理设计、伦理核查和AI素养培养等具体策略，构建了可信赖AIED的保障体系。借鉴英国AIED的典型举措，我国应在开发阶段对智能教育产品开展本土化的价值敏感设计，采购阶段对智能教育产品的可信赖度做出有意义的解释，使用阶段对师生用户的人工智能素养加以培养和提升，以推动技术开发者、产品采购者、一线使用者等利益相关方共促可信赖AIED的本地建设。
关键词：人工智能教育应用;可信赖人工智能;伦理设计;英国实践;
基金资助：教育部科技司2022年教育领域智能社会研究“智能教学环境人机合作平衡点探查”（D2022010）； 2022年江苏高等教育学会《江苏高教》专项课题“人工智能高等教育应用伦理研究”（2022JSGJKT001）；
专辑：社会科学Ⅱ辑;信息科技
专题：教育理论与教育管理;计算机软件及计算机应用
分类号：G434;G556.1
