​机器人科学家工作原理（阿西莫夫逝世23周年:机器人三定律的今生）

机器人科学家工作原理（阿西莫夫逝世23周年:机器人三定律的今生）

昨天是世界三大科幻小说家阿西莫夫逝世23周年的纪念日。在人工智能渐行渐近的今天，重读阿西莫夫别有趣味。

今年1月，物理学家史蒂芬·霍金(Stephen Hawking)和特斯拉CEO伊隆·马斯克(Elon Musk) 等著名科学家、企业家和投资人签署了一封公开信，强调“人工智能必须确保能够按照人的意志工作”。霍金曾警告人们称人工智能机器人可能是人类历史上最后一个里程碑，造无人车的埃隆·马斯克则把人工智能比喻成核武器和无法被巫师控制的魔法。

《娱乐至死》的作者尼尔波茨曼又犀利了一把——人工智能可能因一个无害的目标而伤害全人类，也可能通过伪装自己无害来达到欺骗创造者并自我成长的目的。

不过，在一个阿西莫夫粉看来，他们说的这些话差不多都是几十年前阿西莫夫的机器人系列小说中的翻版。如果机器人学有朝一日成为几何学一样的基本学科，那么阿西莫夫的机器人三定律可能成为“两点之间直线最短”一样的基本理念。

比如说，“人工智能必须确保能够按照人的意志工作”，就几乎是机器人三定律的另一种说法。

机器人三定律

一、机器人不得伤害人类，或因不作为而使人类受到伤害。

二、除非违背第一法则，机器人必须服从人类的命令。

三、在不违背第一及第二法则的情况下，机器人必须保护自己。

不仅如此，阿西莫夫还考虑了三定律的各种漏洞。

定律自身的背反

在《我，机器人》中，“美国机器人公司”首席机器人心理学家苏珊•凯文讲述了她记忆中9次关于机器人三定律最严重的事故，往往和定律的部分缺失和相互矛盾有关。

《讲假话的机器人》篇中，学会读心因此满口白色谎言的机器人，最终在苏珊•凯文愤怒的逼问下化作废铁（人工智能可能出于好心而伤害人类）；

《总有一天》篇中，说书人机器人知道了每个机器人都胜于人的事实，推断出机器人总有一天不再为人类服务，并违反机器人三定律，终于说着“终有一天”坏掉，犹如《盗梦空间》中那个将停未停的陀螺（人工智能无法永久可控）；

《环舞》篇中，负责水星开矿任务的机器人在第二和第三定律的冲突中陷入“焦虑”，开始不停地绕圈子，这也是阿西莫夫首次提出“机器人学三定律”之作（定律本身的不完善）。

如何定义人类

“人类”的定义无疑是三定律的基石，如果机器人认为“人不是人”，三定律就会被覆灭。在《裸阳》和《曙光中的机器人中》，Solaria星的机器人学家先后尝试或已经制造认为“战舰里没有人”和“Solarian星人才是人”的机器人，因此可以伤害其它星球的人类。

什么是“伤害”

如何让机器人通过“伤害”人来帮助人的命题，经过《裸阳》和《机器人与帝国》的孕育，终于导出了“机器人第零定律”这条补丁，就像美国宪法第一修正案一样。

在《裸阳》中，机器人要学会打小朋友来帮他们成长，在《机器人与帝国》中，机器人丹尼尔将第一定律扩展为第零定律，即“机器人不得伤害人类整体，或坐视人类整体受到伤害。”

这出于丹尼尔的侦探伙伴、地球人伊利亚·贝莱的临终遗言。

“个别人的死亡是无所谓的。一个人生路，留下的工作后人会继承。从这个意义上来说，他没有死。只要人类存在一天，人类的事业就不会结束。每一个人的工作，结合成人类整体的一部分，因此，就成了整体的一部分。整体存在，他的那一部分也就存在。全人类的生命——过去的、现代的和将来的——汇成了永不停息的生命的长河，并将变得越来越壮丽。一个人的生命，只是这生命长河中的一滴水。”

机器人三定律并非无源之水，而是对人类社会的比拟。在《我，机器人》中，阿西莫夫借苏珊之口说道：

第一法则

理论上每个‘好人’都会爱人如己，保护他的同胞，冒着生命危险拯救他人。

第二法则

每个拥有社会良心和责任感的‘好人’，理论上都会服从适当的权威；听从他的医生、老板、政府、精神医师，以及同事的意见；并且守法重纪，循规蹈矩——即使会影响到他自己的安适或安全。

第三法则

理论上人人都有自保的本能。

阿西莫夫本人对机器人三定律很有信心。他在1981年说：“人问，我是不是觉得我的三定律真的可以用来规范机器人的行为——等到机器人的灵活自主程度足以在不同的行为方式中选择一种的时候。我的答案是，‘是的，三定律是理性人类对待机器人的唯一方式’。”（《Compute！》）

也许，在人工智能问题上，需要科学家的科技创造超越人类的智能，也需要科幻小说家或任何人的想象力来为机器人制定“义务伦理论”的基本规则，解决科技和伦理的不同步。

,