杀人机器人：危险不科幻

　　■机器人的反叛

　　那么，如何避免程序漏洞，使得杀人机器人不会攻击人类？或许一行不巧被删掉的代码就能产生这样的漏洞，我们是否可以把机器人的这种行径视为反叛？这个问题和人类的追责机制类似。即使杀了人，精神病患者是不用负刑事责任的。因此，需要定义什么叫“机器人发疯”。最为可能的情况是，机器人出现了软件故障。机器人反叛的真正问题首先在于如何定义反叛，而想要给出这项定义却困难重重。如何区分愚蠢的故障和有意为之的反叛呢？

　　美国康涅狄格大学著名机器人伦理问题专家苏珊·安德森提出，机器人造反实际上可能是正当的。在她看来，道德学巨匠伊曼努尔·康德就曾间接地讨论过智能机器人的问题。她重新审视了阿西莫夫的机器人定律：如果“机器人”有能力理解并实践机器人定律，那么我们是否有权将这些定律强加于它们，并要求它们成为人类的奴隶呢？

　　苏珊·安德森指出，按照康德的观点，人类欠动物一份尊重，因为只有我们尊重它们，它们才会尊重我们。她认为依据同样的道理，如果康德也曾思考过机器人的问题，他可能会支持这样一种观念：如果有一天能够理解机器人定律的机器人真的出现了，那么我们应当尊重它们，向它们强加机器人定律也就无从谈起了。

　　科幻作品以轻松愉快的方式处理了这些与现实相距甚远的问题，科学和哲学又迫使我们重新思考。我们亟须对目前已经出现的机器人进行公正的评估并采取相应的手段。这些复杂的评估任务包含了许多难解的伦理和哲学谜题，而其中一些迫切需要答案。哲学家、伦理学家、军方人士和软件工程师应当展开讨论并达成一致的意见。

　　（作者为法国里尔第一大学计算机基础科学学院教授）

　　本文由《环球科学》杂志社供稿