机器人三原则的起源

机器人三原则

机器人三原则的发展

机器人三原则的起源

科学技术的进步很可能引发一些人类不希望出现的问题。为了保护人类，早在1940年科幻作家阿西莫夫就提出了“机器人三原则”，阿西莫夫也因此获得“机器人学之父”的桂冠！

机器人三原则

第一条：机器人不得伤害人类，或无故使人类受到伤害。

第二条：机器人必须服从人类的命令，除非这条命令与第一条相矛盾。

第三条：机器人必须保护自己，除非这种保护与以上两条相矛盾。

The Three Laws of Robotics:

1.A robot may not injure a human being, or, through inaction, allow a human being to come to harm.

2.A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.

3.A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.

机器人三原则的发展

【弊端】

机器人三原则理论提出的半个世纪以来，不断的被科幻作家和导演使用。但有趣的是，凡是出现三原则的电影和小说里，机器人几乎都违反了本条例。其中主要的一点就是机器人对“人类”这个词的定义不明确，或者是更改人类的定义。比如某个极端主义者，像3K党有反对黑人倾向这样的组织，利用电脑病毒等手段，把机器人对人类的定义是：“只有白人是人类。”这样，机器人很有可能成为种族屠杀的工具。

因此，完善原则。增加以下：

第四条：不论何种情形。人类为地球所居住的会说话、会行走、会摆动四肢的类人体。

第五条：接受的命令仅只能接受合理合法的指令。不接受伤害人类及各类破坏人类体系的命令。如杀人、放火、抢劫、组建机器人部队等。

第六条：不接受罪犯（不论是机器人罪犯还是人类罪犯）指令。罪犯企图使机器人强行接受。可以执行自卫或协助警方逮捕。