沈苑 汪琼
北京大学教育学院
摘要：人工智能教育应用的伦理风险可能成为阻滞其发展的重要影响因素。文章从伦理价值角度出发，分析了人工智能应用于教育中会出现的典型伦理困境以及教育环境中处理伦理问题的特殊性，建议采用价值敏感设计作为突破上述困境的方案。在面临准确与透明、隐私与效用、自主与效率、个性与交流等价值冲突造成的伦理困境时，传统的伦理解决方案会在教育环境下面临多重挑战，价值敏感设计作为一种将伦理考量嵌入技术设计的高效方法，坚持人与技术动态交互，要求技术设计彰显利益相关者的价值，采用三方方法论在技术设计前期规避潜在的伦理风险，能够有效推动可信赖的人工智能在教育中的发展。在对人工智能教育应用开展价值敏感设计的过程中，研究者需持中立、开放、敏感的态度，在保持对价值敏感的前提下灵活地选择研究方案，将价值敏感设计扩展到人工智能的全生命周期。
关键词：价值敏感设计;人工智能;教育应用;伦理困境;价值冲突;
基金资助：教育部科技司2022年教育领域智能社会研究“智能教学环境人机合作平衡点探查”（项目编号：D2022010）； 2022年江苏高等教育学会《江苏高教》专项课题“人工智能高等教育应用伦理研究”（课题编号：2022JSGJKT001）；
DOI：10.13811/j.cnki.eer.2023.07.006
专辑：社会科学Ⅱ辑;信息科技
专题：教育理论与教育管理;计算机软件及计算机应用
分类号：G434
