
四定律的提出就是为了推翻,并且证明一点
自然语言 或是 会产生歧义的语言无法具有约束力
机器人如何目睹/间接造成 人类受伤/死亡 而不自我崩溃。
—————————
老阿自己就在书中写过了类似这样的例子,比如出自《我,机器人》中的修订过的机器人。
---
机器人心理学家说:“假设修订型机器人从某人上方抛下一个重物,只要他在这样做的时候,明白自己具有足够的力量与反应速度,能在重物砸到那人之前将它抓走,他就不会违反第一法则。然而重物一旦离手,他就不再是主动的媒介,起作用的只剩下盲目的重力,然后那机器人就能改变心意,他只要不作为,就能让重物砸下去,修订后的第一法则允许这个行动。”
---
当然不只如此,如果题主想说的是能否打到机器人法则的擦边球,那么,阿西莫夫的回答是,能。
在《我,机器人》的《消失无踪》中的开头提到,即使机器人明白某个人类在某个看似极度危险但不会受到任何伤害的地方进行工作,那么机器人依旧会阻止他,,如若机器人无所作为,第一法则依旧会强迫执行,这给人类的工作带来很大的困扰。倘若不因如此,就不会有后面的修订型机器人与这个擦边球了。
苏珊设计了个场景,使某人坐在椅子上,头顶有重物,当其自由落下即将砸到此人,会有力场推开重物(机器人不知道),而机器人坐在另外一边的椅子上,身前有电缆放在通向那人的必经之路,触碰即死,但是当重物坠落时就会被切断电流(机器人也不知道)。
-实验开始
某人坐在椅子上,一动不动,沉默不语。一个重物落下,眼看就要砸到他头上,最后一刻,突然出现一道力场,推开了重物。
六十三个机器人默默坐在各自的椅子上,没有一个移动半步。
-实验结束
在这个实验中,机器人受到来自两个法则的冲突,一是第一法则,二是第三法则,这两个电路一旦发生冲突,无论第三法则有多么强大,依旧还是无法必过第一法则,可是,为什么机器人不但不去救援,而且没有被烧坏?
苏珊也感到很疑惑,她询问了机器人,得出了一个令人震惊的理由。
机器人回答:“我们一开始确实尝试救他,但是必须穿过重重电缆,这是无法阻止我们的,和人类的安全比起来,我自己的毁灭算什么?但是如果我在半途中死去,也就没法救他,我就白白牺牲了,谁说的了哪一天另外一位人类会不会受伤?而只有我活着才能救他。
所以我跟本不可能救那位主人,但我可以把他看做已经死了,在这种情况下,谁会平白无故的毁灭自己?”
-
只要将对象视作已经死亡,便能逃出三大法则的重重桎梏,我想,这是机器人的一个小技巧吧,或者说,这就是一个漏洞。
而如果被有心的机器人所利用了,那么三大法则对他而言,几乎形同虚设。
-
总结一下,如何跳过法则去伤害人类或是不作为,就是让机器人(正子脑)认为自己服务/交流/伤害 的对象不是人类,或者是已经可以看作死去的人类即可。
详情见《银河帝国11》。
我还是得重新再读一遍,认真的读一遍。
