机器人法则(2)

 

　　在日益自动化的世界中，人们很容易忘记机器是由人类编程、拥有和操作的。设计和使用它们是为了一些更高、更人性化的目标：安全性、舒适性、效率、利润。设计机器人遵循的法律是一個有趣的思想实验，但最终会分散注意力。真正的机器人法律应该对相关的人进行检查，而不是对机器。

 

　　作为人类，我们需要依赖深厚的传统智慧来解决这些基本问题，不能单靠技术来回答。然而，至少有一点我们都会认可：人类应该始终能够关闭机器。机器人五大法则

 

　　任何普遍的机器人法则都可能包括以下内容。

 

　　法则1：机器人不得伤害人类或让人类受到伤害——除非它受到另一个人的监督。

 

　　法则2：机器人必须能够解释自己的行为。

 

　　法则3：机器人应该抵制任何先入为主的冲动。

 

　　法则4：机器人不得冒充人类。

 

　　法则5：机器人应始终有一个关闭按钮。