读书会分享《道德机器：如何让机器人明辨是非？》
发布时间：2023-12-14
为拓展研究视野，2023年度国家社会科学基金教育学重大项目“新一代人工智能对教育的影响研究”课题组成员于每周六晚举办开放读书会。2023年12月9日，第五场读书会成功举办，本次读书会阅读书目是《道德机器:如何让机器人明辨是非》，由之江实验室沈苑老师领读，多位老师参与了讨论。
《道德机器:如何让机器人明辨是非》（Moral Machines: Teaching Robots Right from Wrong）是一部机器道德领域的开创性著作，第一版出版于2009年。本书作者是技术伦理专家温德尔·瓦拉赫 (Wendell Wallach)和美国认知科学哲学家科林·艾伦 (Colin Allen) 。以往的计算机伦理研究主要强调外部约束，而该书更多关注如何在机器的设计中融入保护人类利益的伦理框架。在这本书中，作者提出了一个核心概念——人工智能道德体（Artificial Moral Agent, AMA）。作者指出有道德的机器并不会自动出现, 而是需要人为的设计和干预，因此未来人工智能技术的发展方向应当是兼具自主度和道德决策能力的系统。考虑到技术发展是伴随着日益增强的自主性和敏感性的交互作用而进行的，机器自主性的强化是一个正在进行的过程，而人工智能道德学科所面临的真正挑战是提升对道德考量的敏感性。本书围绕 “AMA为什么如此重要？”“人们真的想要AMA吗？”“如何设计AMA呢？”三个问题展开了深入的讨论。
对于“AMA为什么重要？”这一问题，两位作者从经典的电车难题谈起，指出了具有一定自主性的机器普遍存在着道德盲区。而且随着自动化的系统获取的信息越来越丰富，其面临的伦理困境也越来越复杂，从而使得“应该促进哪些价值？”的问题变得迫在眉睫。当工程师缺乏考虑道德层面，可能引发自动驾驶、战争机器、决策支持系统等应用过程中的负面后果。那么应该如何去理解机器的道德维度呢？作者提出了道德的三个层次，即操作性道德（机器处于完全受设计者和使用者控制）、功能性道德（机器具备依据环境条件调节行为和评价自身行为的能力）和完全性道德（机器自身能够做出道德决策）。其中，功能性道德填补了操作性道德和真正道德主体之间的缝隙，“如何将伦理范畴作为内置程序进行伦理问题推理？”成为了人工智能发展过程中的一项关键问题。
对于“人们真的想要AMA吗？”这一问题，本书并没有给出明确的答案。但是作者回顾了计算机辅助人类决策的发展历史过程，发现人类对于技术的恐惧、迷恋交织并行，使这个问题变得更为复杂。作者尤其关注到人工智能系统面临的两类潜在风险，第一是智能的决策支持工具可能会导致人类决策者放弃道德责任，第二是拟人形态的智能产品可能会带来的欺骗和操纵问题。因此作者认为工程师应当更多地考虑“工程能动主义”，不仅仅关注操作性道德的价值方面, 更要向技术注入增进人类福利的价值观，为机器人系统自身提供清晰的道德推理和决策能力。比如，关注伦理的决策支持系统应该不仅仅考虑患者的痊愈问题，还需要考虑治疗是否与患者及其家人的希望一致、治疗的预期结果是否能提供患者所能接受的生活质量等。
对于“如何设计AMA呢？”这一问题，作者分析了“自上而下” 和 “自下而上” 两种不同的机器道德设计路径，发现两者在实际实施过程中都会面临着诸多困难。比如“自上而下”的方式需要解决具体规则如何与首要原则自洽、如何化解繁重的计算需求、如何建立判定结果及其净效用的机制、如何对具体规则的有效性做出连贯的反应等问题；“自下而上”的方式则需要考虑如何界定合适的进化目标、当环境变化时机器如何适应、如何正确地实现对机器的奖励和惩罚等问题。对此，作者提出了第三条彰显美德伦理的混合路径，建议利用联结主义网络来开发具有好的品质特征或美德的计算机系统。作者设想可以通过经历体验和实际案例去发展和训练神经网络，对每个执行基本任务的简单网络单元进行相互联结对复杂行为进行建模。
此外，两位作者在这本书中讨论了很多心灵相关的话题，包括意识、理解、情感等抽象的人类特点在机器上的映射途径。本书旁征博引，覆盖了大量有关AMA的科学实验、产品雏型、学术观点，对于任何想要了解人工智能伦理道德话题的人来说都是一本值得深读的作品。虽然部分讨论不够深入，也有简化工程问题的复杂性之嫌，但这本出版于15年前的书对于我们如何理解和优化当前大热的生成式人工智能产品还是具有丰富的启示。作者在书中提出的很多预测和猜想至今都还没有得到严格的验证，相信在新一代人工智能技术的背景和支持下能够出现更多道德主题的实证研究来回答“决策支持系统真的会导致过度的机器控制吗？”“教育领域的AMA需要具备什么特点？”“如何更好地进行训练？”等关键问题。
