随着人工智能的不断发展,未来战场上出现“机器人士兵”的可能性正不断增大。然而,随之而来的一系列道德和伦理等问题已让不少科学家开始担忧,就连美国军方一位高级将领也呼吁警惕脱离人类控制的“机器人杀手”。
美军参谋长联席会议副主席保罗·塞尔瓦18日在国会参议院军事委员会一场会议上呼吁,美军“应遵守战争的道德准则,以免我们向人类放出一系列我们不知道如何控制的机器人”。
塞尔瓦在回答密歇根州民主党联邦参议员加里·彼得斯的提问时做出上述回答。后者提及一项即将于今年晚些时候过期的国防部规定。这项规定要求:用全自动武器夺取他人性命的决定必须由一名人类指挥员下达。
“我认为,由机器人作出是否夺取他人性命的决定并不合理,”塞尔瓦说。他预测,未来美国国会可能会就是否仍由人类作出类似决定展开激烈争论,他本人则是国防部这一严格规定的支持者。
不过,塞尔瓦的说法当场遭到彼得斯反驳。这位民主党参议员称,如果美国在这方面考虑太多,可能会错失与对手在“机器人士兵”军事领域竞争的先机。
此前,英国著名物理学家斯蒂芬·霍金、美国特斯拉公司首席执行官埃隆·马斯克等科学界知名人士及专家都曾多次呼吁全球禁止使用“攻击性自动武器”,即不少人口中的“自主式杀人机器人”。他们还警告,如果任由此类科技发展,可能引发全球“杀人机器人”军备竞赛。
对于所谓“致命性自主式武器”,联合国也表达过担心。2014年,联合国首次召开有关这个话题的会议,讨论了新科技带来的风险。
[记者]郑昊宁