会主动伤害人的机器人诞生！违反机器人第一原则
关键字: 机器人机器人第一法则伤害人类阿西莫夫小机器人
美国《华盛顿邮报》日前报道，如果你把手指头放到亚历山大?瑞斌（Alexander Reben）的机器人前面，那么它就有可能会扎你一下！当然你不会因此而严重受伤，只是像验血一样会有点刺痛感觉。瑞斌设计这个机器人的目的便是造成最小的痛苦，但从技术上说，仍然会对人造成伤害。
你真的会流血----如果这小机器人选择扎你一下，你的手指上会有一小团血滴渗出。到目前为止，这个机器人已经扎了好几个人的手指头。但有时候，当你把手指头放在它面前，这台小机器人却毫无反应，不会扎你----究竟什么时候会扎人什么时候不会呢？
没有人知道***，即便是设计者也不知道，因为这是随机的。瑞斌是一名机器人专家，同时也是一位艺术家，居住在美国加州伯克利附近。他对《华盛顿邮报》表示：“我将其视作一种有型的哲学。”瑞斌的这件作品常常将艺术与技术以一种有趣的方式相互混合，得到一种甚至接近诙谐的效果----比如，他曾经设计过一款太阳能的音乐播放器，然后用它播放着《你是我的阳光》（You Are My Sunshine）。
然而这台最新的小机器人却不是为诙谐幽默而设计的。瑞斌在他的网站上表示，这是世界上第一台“自主并有意”违反所谓“机器人第一法则”。这是著名科幻作家阿西莫夫所提出的机器人三法则中的第一条。
这台小机器人可能会伤害你！如果你把手指头放到它面前，它有可能会扎你一下！当然你不会因此而严重受伤，只是像验血一样会有点刺痛感觉
当然这样的动作不会对人造成什么伤害，你只会感觉稍有刺痛，手指上被扎出一个非常小的孔。但这样的威胁性已经足够高，让很多人望而却步
在1942年发表的短篇科幻故事《环舞》（Runaround）中，阿西莫夫首次明确阐述了他有关机器人三法则的思想，分别论述如下：
机器人第一法则：机器人不得伤害人类，或坐视人类受到伤害；
机器人第二法则：除非违背第一法则，机器人必须服从人类的命令；
机器人第三法则：在不违背第一及第二法则下，机器人必须保护自己；
而瑞斌的这个小机器人的做法很显然是故意伤害人类的，因此很明显违反了机器人第一法则。但尽管对已经有74年历史的经典理论构成了挑战，但实际上这个小机器人的结构设计是非常简单的。瑞斌最初的设想是一台连着一个金属臂的“自动梳头机”，能让人感到舒服和享受，这是受到了伍迪?艾伦的电影《傻瓜大闹科学城》（Sleeper）中哪个抱在怀里就能让人产生愉悦感受的“快乐球”（pleasure orb）的启发。人们坐在椅子里，然后瑞斌的梳头小机器人就会给做头皮***。瑞斌表示，这样的场景会创造一种人与机器人之间某种令人不安的亲密感。他说：“在这种情况下，机器会让人紧张地发抖。人们会感觉非常非常诡异。”
瑞斌随后将其改造，制作出一个能给人们带来小小伤害的机器人。整个改造过程花费了数天时间和数百美元。这是一个带有小小手臂的机器，其底座大小和一张打印纸相差无几。它***了一台微型探测器，能够检测是否有人把手指放在了它的机械臂下方。此时，如果小机器人决定要扎他一下，那么它就会突然快速地扎下去。
当然这样的动作不会对人造成什么伤害，你只会感觉稍有刺痛，手指上被扎出一个非常小的孔。但这样的威胁性已经足够高，让很多人望而却步。瑞斌指出：“你很难不感到紧张，浑身冒汗。”他说，但是这背后的原因或许更多的是惊奇，而不是疼痛。
但其中最关键的一点还在于，正如瑞斌所指出的那样，这台小机器人做出了要伤害人类的决定，而这与此前所有的机器人都是不同的。他说：“我想到了军用机器人。但即便是军用机器人也并不会主动伤害人类。”就拿美军的“捕食者”无人攻击机来说，它当然可以发射导弹杀死人类，但做出这项决定的不是“捕食者”无人机本身，而是它背后操控的美军军方人员。再比如美国海军开发的，由雷达控制的自动岗哨炮，它会自动向出现的入侵者开火，但这同样不是它自己的决定，而是遵循了一系列内部编程所设定的激发阈值条件。在瑞斌看来，这样的系统并非选择攻击，正如并非地雷自己选择炸死踩上去的人员一样。
而瑞斌设计的这个旨在打破阿西莫夫机器人准则的机器人则完全不同，因为是否扎人的确是机器人自己的决定。放在它手臂下的人类手指会激发小机器人的一系列的软件程序，最后将输出扎人或者不扎人的决定。瑞斌表示：“其做出是否扎人的决定过程是我无法预测的。”这台小机器人的内置程序并未采用机器学习或者人工智能技术用于决策过程，但也并非完全属于50:50的对半开概率。当被询问这台小机器人扎人的几率时，瑞斌说：“我不知道它扎人的概率有多大。”
因此，第一台违反理论上原则的机器人已经实实在在地存在了。这是一台真正依赖自身决策的机器人，在跟它们相处的过程中，我们或许时不时地需要带上创可贴。
责任编辑:孙武IndustryNews
假如机器人有了人权......
　　趋势技术
　　类人机器人最终会不会拥有和人类相似的权力？比如谋杀一个机器人，我们要受到惩罚吗？如果机器人受伤害，我们会被法律制裁吗？在&呆伯特之父&斯考特&亚当斯看来，***是肯定的。
　　多年来周围一直没有停止对机器人时代的思考（比如《现在，机器人可以给iPhone贴膜；一万年以后，会屠杀人类么？等》。美国著名职场漫画Dilbert（呆伯特系列）的作者斯考特亚当斯（Scott Adams）最近撰写了一篇文章，也畅想了机器人进化的未来。技术大潮来临，人类必须要迎接机器人时代的到来了，&呆伯特之父&怎么看待由机器人和人类共生的世界？我们是否可以赋予机器人&人权&？本文编译如下：
　　假如有一天，电脑拥有了启发人类思想的强大本领，每每都能反过来愚弄人类，会发生什么事？机器会不会&有了生命力&，对人却冷酷无情？
　　全球大多数宗教都相信人有灵魂。倘若发现没有灵魂的机器人和人类一样思考和行动，那些信仰系统会做何感想？机器人的时代可能取代宗教，至少在年轻一代心目中是如此。我们将看到，自己的躯体像没有自由意志的机器人那样，遵循物理学原理活动，而不是由看不见摸不着的灵魂指引行动，根本不是那种靠灵魂过活的神奇生物。换言之，机器人的行为举止开始和人类一模一样，同时人类也更像机器人。这可能是双向变化的过程。
　　类人机器人最终会不会拥有和人类相似的权力？我认为，他们会拥有。因为机器人是无价之宝&&即使从经济角度看，可能也需要类似的法律保护。比如政府今后会颁布法律，禁止招聘时歧视机器人。这么做不无道理，因为机器人未来会成为人类的所有物，主人会派机器人去工作，利用做工的机器人，尽最大限度榨取他们的价值。今后就业法可能因为机器人行业的游说而修改，无论是否对大多数人有利，都将要求机器人获得与人类同等的就业机会。
　　在人类历史上，终有一日，人类和机器人不但会共事，还会共同居住，甚至可能约会&&这个世纪出生的新一代孩子将有幸目睹那一幕。
　　一旦我们开始和机器人约会，就会有人要求机器人伙伴享有和自己同等的权力。机器人制造商会游说，为支持他们的商业模式，争取机器人得到和人类同样的权力。还有人会给一些机器人编写程序，让他们成为争取自身权力的活动家。
　　和杀人相比，&谋杀&一个机器人所受到的惩罚应该比较轻。可这种差别会随着时间流逝逐渐消失，因为机器人会根据各自的经历形成独有的个性。如果某位黑客删除了机器人的记忆，包括云备份的内容，机器人的人类主人就会失去一位挚友，可能同时还失去了一位好同事，或许还痛失了爱人。
　　如果机器人身体受伤，但可以上网得到云备份，法律对这种破坏给予的惩罚可能仍较轻。这其中的法理类似于，伤人不会像杀人的刑罚那么重。但如果只是因为伤害了某人的感情，就摧毁存储机器人记忆的数据库，并破坏机器人形成自身性格，这种行为未来遭受的处罚可能等同于杀人的罪行。
　　倘若机器人成为我们的继父母、爱侣、朋友或是同事，我们就会开始将机器人的云备份视为他们的&灵魂&，会制定法律，将删除机器人云备份记忆的人视同杀人犯。
　　写这篇博客时，我浮想联翩。我认为，虽然已经可以预计到机器人会获得&人权&，但很可能只有今天出生的孩子才会在有生之年目睹这种预测成为现实，这种可能性高达99%。
　　我还认为，有朝一日，人类会将自己的&思想&转移到电脑上，其可能性同样有99%。除非我们知道，新躯体会享有和旧躯体一样的权力，否则我们就不会转移思想。除非我们相信，不能随心所欲行动的机器人没有灵魂，否则我们就不想过着失去灵魂一般的生活。
　　以下是驱使人类思想转移到电脑的两大非技术性前提条件：
　　1、机器人拥有和人类同等或类似的权力；
　　2、相信灵魂不存在。
　　这两大条件未来都会达到。我估计，十到二十年内就会满足必要的技术要求。
　　另一方面，我觉得，机器人可能让人们越来越不信灵魂之说，进而削弱宗教的影响力，使宗教变***类社会不重要的事物，这种可能性约有50%。但宗教也有50%的可能性会适应机器人时代的影响，开始将机器人视为上帝的造物，只不过是借得到神谕启发的人之手而已。当然，也有一天会出现天主教会批准机器人的&灵魂模式&。机器人也可能因为和人类一样的理由去教堂。
　　你是否同意今后机器人获得几乎和人类平起平坐的权力？
　　我还有些遐思在此分享：某一天，当我们参加了祖父的葬礼一小时后，机器人版本的祖父就会走进我们的生活。也就是说，哪天亲朋好友离开人世，那天就是他们的机器人替身合法激活的日子。人类不能对应的机器人替身同时在这个世界生存，否则会产生大混乱。
　　这种机器人延续人类生命的做法有个大问题：有的人品行太差，别人觉得他们该死。所以，等到发明了将人类思想转移到电脑的技术，我们也就有能力在转移思想的同时删除一些品行败坏的程序，减少机器人替身思想方面的问题。
　　这样一来，所有的机器人替身都会比人类的品性好。在设计机器人替身时，我们会抛掉一切精神负担、沮丧情绪和可怕的经历，增加幸福感、对他人的宽容或是诚信。总之，机器人替身的性格会比我们本人的好。
　　在诞生的第一天，机器人替身会全盘继承逝者，从外形到优点和缺点，一切都和逝者无异。但随着时间推移，我们可以完善机器人的躯体，让他们更有吸引力，因为机器人秀外慧中，和在世的人相比会占据优势。
声明：凡资讯来源注明为其他媒体来源的信息，均为转载自其他媒体，并不代表本网站赞同其观点，也不代表本网站对其真实性负责。您若对该文章内容有任何疑问或质疑，请立即与中国机器人网(www.)联系，本网站将迅速给您回应并做处理。
***：021-7
相关阅读 ：
107237人看过
43455人看过
33399人看过
30524人看过
27719人看过
25886人看过
25536人看过
21260人看过
全部评论（）
（图片来源：央视新闻）　　1月16日，ABB集团首席执行官史毕福在瑞士首都伯尔尼参加了中国国...
　　钰信哥导读：习***和卡梅伦在酒吧小酌吃炸鱼薯条、开启中英全面战略伙伴关系的黄金时代...