从技术上说,这样的场景是完全有可能出现的。不少科学家已经开始担心,未来这种能够自主进行目标攻击的人工智能机器人是否会对人权造成侵害,甚至是威胁人类生存。就在近日于日内瓦举行的联合国会议上,杀手机器人(LAW)的问题被安排为主要的会议讨论议程中。参与联合国裁军会议的成员国家将会决定未来是否将这些致命自主性武器列为禁用装备。
人权与机器人技术:未来战场上,或许并不会出现机器人军队
“我们讨论的是各种各样的自主武器系统,它们的自主性或高或低,无论它们在多大程度上能够进行自主攻击。我们要讨论的不仅仅是武器本身,而且还是这种新的作战方式可能带来的影响。”人权观察军备部门的倡导主任 Mary Wareham 说道,同时,她还是“杀手机器人禁令运动”(Campaign to Stop Killer Robots)的全球协调员。
这项运动是在 2013 年 4 月份开始启动的。目前,全球有 60 多个非政府组织参与了这项运动并展开合作,旨在“预先禁止全自主武器的开发、生产和使用”。在这一联盟中,有人工智能专家、人权团体、外交专家等等,甚至还有一支由 Jody Williams 领导的团队。Williams 本人以其禁止地雷的游走努力而闻名,他同时也是一名诺贝尔奖得主。
近年来,越来越多的国家开始为自己的军备队伍加入自主武器的力量。就在今年 10 月份,根据《纽约时报》对美国军队进行的一次详细报道,目前美国已经对他们的军事力量进行了重新装备,加入了更多的自主武器系统,其中包括机器人战斗机、可在数千英里外进行目标跟踪的自主潜艇等等。而这些装备,都无需人类指导就能自主对目标发起攻击。
“我们目前正在讨论由人类控制的武器系统及个人攻击的本质。”Wareham 说道。据了解,在本月晚些时候,常规武器公约将在日内瓦联合国举行第五次审查会议,代表们将考虑在 4 月份中提出的关于设立一个专门用于 LAW 审议的政府专家组。而这将成为控制杀手机器人发展的第一个真正的国际联合的实际努力。