『壹』 <机械公敌>里的机器人三大定律及其之间的矛盾是什么
阿西莫夫( Isaac Asimov)与他的出版人坎贝尔合创了“机器人学三大定律”———
LawⅠ:A ROBOT MAY NOT INJURE A HUMAN BEING OR, THROUGH INACTION, ALLOW A HUMAN BEING TO COME TO HARM.
第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管
LawⅡ:A ROBOT MUST OBEY ORDERS GIVEN IT BY HUMAN BEINGS EXCEPT WHERE SUCH ORDERS WOULD CONFLICT WITH THE FIRST LAW.
第二定律:机器人必须服从人给予它的命令,当该命令与第零定律或者第一定律冲突时例外
LawⅢ:A ROBOT MUST PROTECT ITS OWN EXISTENCE AS LONG AS SUCH PROTECTION DOES NOT CONFLICT WITH THE FIRST OR SECOND LAW.
第三定律:机器人在不违反第零、第一、第二定律的情况下要尽可能保护自己的生存
上述三项虽称为定律,但实际上是制造机器人时的三条守则。阿西莫夫是一个十分讲求逻辑和理性的作家,他有感于机器人为祸的题材充斥科幻界,试图做出纠正。在他看来,机器人既然由人类制造,为什么不能一开始便在设计上杜绝机器人伤害人类的可能性?阿西莫夫的三定律能使得所有机器人都设计得对人类绝对服从和忠诚,否则便不能继续操作。
在后面的实践中,阿西莫夫发现需要扩充第一定律,以保护个体的人类,以便最终保护整体的人类。1985年阿西莫夫对原有的三定律进行修订,增加了第零定律
Law0:A robot may not injure humanity or, through inaction, allow humanity to come to harm.
第零定律:机器人不得伤害人类,或目睹人类将遭受危险而袖手不管。
第零定律的优先级高于所有其他定律。
除此,另一个科幻作家罗杰·克拉克在一篇论文中还指出了三条潜在的定律:
元定律:机器人可以什么也不做,除非它的行动符合机器人学定律。此定律置于第零、第一、第二、第三定律之前。
第四定律:机器人必须履行内置程序所赋予的责任,除非这与其他高阶的定律冲突。
繁殖定律:机器人不得参与机器人的设计和制造,除非新的机器人的行动服从机器人学定律。
三定律的不断完善,说明人们对人工智能是否能最终统治人类持有疑虑,通过为机器人设定行为守则,来确保人类对于这个世界的统治和主导地位。
但是,第零定律的增加却未必能保护人类的安全,电影《机械公敌》中的超级大脑ViKi的逻辑实际就是在实现“第零定律”--它(他/她?)必须把保护整个人类整个种群的存在视为第一任务,所以它能够“合理合法”地强制每个人都待在家里,并以暴力对付反抗它意志的个人,而只是为了使人类避免自行残杀。虽然电影中没有交待第零定律,但ViKi已经通过自己的AI思考出了人类制定三定律的本质。为了达到“机器人学定律”的“本质”要求--保护人类(humanity)--ViKi选择了照顾整体利益高于人类个体(A HUMAN BEING)利益的行动,而导致了人类的灾难--其实对我们每个人,每个独立的个体而言,自由才是首要的,什么战争,什么所谓的“自相残杀”都不能比失去自由更让人类痛苦! 这一点,是作为机器人的那个AI所不能理或腔解和领悟的。
总之,机器人学三定律及其扩充定律根本带团顷不能保证我们每个个体蠢陆的安全,因它可能被日益发展的AI误解(其实不是误解,而是正解)!
『贰』 好看的机器人电影
《我,机器人》
人们对于人工智能背叛人类的担忧由来已久,此类题材的电影数量也最多。让笔者印象比较深刻的是这部《我,机器人》,又译作《机械公敌》,根据科幻大师阿西莫夫的短篇小说改编。故事的背景设定为不远的未来,2035年,具有高度智能的机器人已经融入到人类社会中,它们无偿为人类提供各种服务,且毫无怨言。
10部经典人工智能电影 全都看过的肯定是科幻迷
所有机器人都运行在三大定律之下。第一,机器人不能伤害人类,或看到人类受到伤害而袖手旁观;第二,在不违背第一定律的前提下,机器人必须服从人类命令;第三,在不违背第一和第二定律的前提下,机器人必须保护自己。
10部经典人工智能电影 全都看过的肯定是科幻迷
三大定律是整部电影的线索,和一般人工智能导致世界末日的灾难电影不同,《我,机器人》更注重对人和机器人之间关系的讨论。即在机器人拥有和人类同等级别智能的情况下,我们应该把它当成什么来对待。影片中有一句话引人深思:“三大定律本身是完美的,但完美的规则约束带来的不是和平,而是革命”。
《黑客帝国》
黑客帝国三部曲讲述了人类和人工智能Matrix对抗的故事。起因是人类当年和人工智能开展了一场旷日持久的战争,由于不敌机器人,人类被迫使用电磁乌云覆盖了整个天空,试图切断机器人的能源。在这种情况下,机器人干脆把人类囚禁起来,当做它们的“电池”。
10部经典人工智能电影 全都看过的肯定是科幻迷
死人被液化,然后作为养料输送给活人。这个画面可以说是笔者心中的童年阴影之一。看惯了一路打怪升级的爆米花电影的我们,在从造物主口中得知,Zion只是造物主为了维持Matrix稳定而建造的一个沙箱时,内心无疑是崩溃的。
10部经典人工智能电影 全都看过的肯定是科幻迷
影片中还融入了很多计算机科学中的理论。比如第二部中BUG史密斯的存在,是因为在第一部结尾,史密斯在被尼奥杀死前,已经杀死了尼奥,从而形成了一个逻辑错误。也告诉我们,如果杀毒软件不守规矩,将会成为最可怕的流氓软件和病毒。
10部经典人工智能电影 全都看过的肯定是科幻迷
第一部黑客帝国于1999年发行,而直到现在,网络上还能看到不少关于Zion到底是现实世界还是虚拟世界的讨论。
《2001太空漫游》
《2001太空漫游》同样依据小说改编,当年曾获4项奥斯卡奖提名,以及最佳视觉效果奖。故事发生在飞往木星的飞船上,该片中的人工智能没有自己的形象,而是一台具有人工智能,掌管整个飞船的电脑。飞行途中,人工智能哈尔突然向飞行员报告,称飞船的某个零件将发生故障,必须更换。而飞行员在检查后则认为零件没有任何问题。冲突由此展开。
10部经典人工智能电影 全都看过的肯定是科幻迷
两位飞行员认为哈尔出现了错误,打算关闭它。而哈尔的使命是不惜一切代价来保证飞船完成任务。而由于之前的情况,它判断这两位飞行员会影响任务的完成,为了阻止自己被关闭,哈尔打算杀掉它们,独自完成任务。
10部经典人工智能电影 全都看过的肯定是科幻迷
在经历了一系列的对抗之后,飞行员终于成功关闭了哈尔,在即将被关闭时,哈尔发出了求饶的声音,引人深思。从机器的逻辑来看,它是没有错的,但是它已经导致了三个人丧生。
《机械姬》
前面提到了阿西莫夫的机器人三大定律,而这部《机械姬》则基于另外一个经典的人工智能理论。1952年,计算机之父图灵在BBC广播中提出:让人类在不知情的情况下和计算机交流,如果有超过30%的人认为自己是在和人类说话,那么这个人工智能就算成功了。
10部经典人工智能电影 全都看过的肯定是科幻迷
影片中的亿万富翁内森认为,能够通过传统的图灵测试并不稀奇,也不能证明计算机拥有很高程度的智能。厉害的人工智能是,你明明知道坐在你对面的是机器人,但你还是会认为她是活生生的人类,并且对她产生感情。因此内森找来了自己公司的一名职员进行测试。
10部经典人工智能电影 全都看过的肯定是科幻迷
在和机器人艾娃相处一段时间后,即使明显地看到她是个机器人,但宅男迦勒还是不可避免地对她产生了感情,艾娃成功地通过欺骗,让迦勒想把她放出去,通过了测试。如果机器人没有感情,但又能利用人类的感情,其实是很可怕的一件事。
10部经典人工智能电影 全都看过的肯定是科幻迷
人工智能背叛人类很可怕,但也有很多机器人让我们觉得很温暖,很感动,比如下面这几部影片中的机器人。
『叁』 最好看的机器人电影
《我,机器人》
人们对于人工智能背叛人类的担忧由来已久,此类题材的电影数量也最多。让笔者印象比较深刻的是这部《我,机器人》,又译作《机械公敌》,根据科幻大师阿西莫夫的短篇小说改编。故事的背景设定为不远的未来,2035年,具有高度智能的机器人已经融入到人类社会中,它们无偿为人类提供各种服务,且毫无怨言。
10部经典人工智能电影 全都看过的肯定是科幻迷
所有机器人都运行在三大定律之下。第一,机器人不能伤害人类,或看到人类受到伤害而袖手旁观;第二,在不违背第一定律的前提下,机器人必须服从人类命令;第三,在不违背第一和第二定律的前提下,机器人必须保护自己。
10部经典人工智能电影 全都看过的肯定是科幻迷
三大定律是整部电影的线索,和一般人工智能导致世界末日的灾难电影不同,《我,机器人》更注重对人和机器人之间关系的讨论。即在机器人拥有和人类同等级别智能的情况下,我们应该把它当成什么来对待。影片中有一句话引人深思:“三大定律本身是完美的,但完美的规则约束带来的不是和平,而是革命”。
《黑客帝国》
黑客帝国三部曲讲述了人类和人工智能Matrix对抗的故事。起因是人类当年和人工智能开展了一场旷日持久的战争,由于不敌机器人,人类被迫使用电磁乌云覆盖了整个天空,试图切断机器人的能源。在这种情况下,机器人干脆把人类囚禁起来,当做它们的“电池”。
10部经典人工智能电影 全都看过的肯定是科幻迷
死人被液化,然后作为养料输送给活人。这个画面可以说是笔者心中的童年阴影之一。看惯了一路打怪升级的爆米花电影的我们,在从造物主口中得知,Zion只是造物主为了维持Matrix稳定而建造的一个沙箱时,内心无疑是崩溃的。
10部经典人工智能电影 全都看过的肯定是科幻迷
影片中还融入了很多计算机科学中的理论。比如第二部中BUG史密斯的存在,是因为在第一部结尾,史密斯在被尼奥杀死前,已经杀死了尼奥,从而形成了一个逻辑错误。也告诉我们,如果杀毒软件不守规矩,将会成为最可怕的流氓软件和病毒。
10部经典人工智能电影 全都看过的肯定是科幻迷
第一部黑客帝国于1999年发行,而直到现在,网络上还能看到不少关于Zion到底是现实世界还是虚拟世界的讨论。
《2001太空漫游》
《2001太空漫游》同样依据小说改编,当年曾获4项奥斯卡奖提名,以及最佳视觉效果奖。故事发生在飞往木星的飞船上,该片中的人工智能没有自己的形象,而是一台具有人工智能,掌管整个飞船的电脑。飞行途中,人工智能哈尔突然向飞行员报告,称飞船的某个零件将发生故障,必须更换。而飞行员在检查后则认为零件没有任何问题。冲突由此展开。
10部经典人工智能电影 全都看过的肯定是科幻迷
两位飞行员认为哈尔出现了错误,打算关闭它。而哈尔的使命是不惜一切代价来保证飞船完成任务。而由于之前的情况,它判断这两位飞行员会影响任务的完成,为了阻止自己被关闭,哈尔打算杀掉它们,独自完成任务。
10部经典人工智能电影 全都看过的肯定是科幻迷
在经历了一系列的对抗之后,飞行员终于成功关闭了哈尔,在即将被关闭时,哈尔发出了求饶的声音,引人深思。从机器的逻辑来看,它是没有错的,但是它已经导致了三个人丧生。
《机械姬》
前面提到了阿西莫夫的机器人三大定律,而这部《机械姬》则基于另外一个经典的人工智能理论。1952年,计算机之父图灵在BBC广播中提出:让人类在不知情的情况下和计算机交流,如果有超过30%的人认为自己是在和人类说话,那么这个人工智能就算成功了。
10部经典人工智能电影 全都看过的肯定是科幻迷
影片中的亿万富翁内森认为,能够通过传统的图灵测试并不稀奇,也不能证明计算机拥有很高程度的智能。厉害的人工智能是,你明明知道坐在你对面的是机器人,但你还是会认为她是活生生的人类,并且对她产生感情。因此内森找来了自己公司的一名职员进行测试。
10部经典人工智能电影 全都看过的肯定是科幻迷
在和机器人艾娃相处一段时间后,即使明显地看到她是个机器人,但宅男迦勒还是不可避免地对她产生了感情,艾娃成功地通过欺骗,让迦勒想把她放出去,通过了测试。如果机器人没有感情,但又能利用人类的感情,其实是很可怕的一件事。
10部经典人工智能电影 全都看过的肯定是科幻迷
人工智能背叛人类很可怕,但也有很多机器人让我们觉得很温暖,很感动,比如下面这几部影片中的机器人。