可以自行杀戮的无人机：人工智能会进入战场吗？

在舞台上，一位高管向挤满人的礼堂发表演讲，展示了一项惊人的进步：一种小型无人机，配备了人工智能 (AI)，大小只有手掌大小，能够选择人类目标，向大脑发射三克炸药。它不可能被击落，其反应速度比人类快一百倍，而且人无法逃脱或躲避它。当它们成群飞行时，它们可以克服任何障碍。“它们是无法阻止的，”演讲者说。

接下来是电视新闻片段，警告美国参议院将遭受这些设备的致命攻击。一名妇女一边在网上与国外的儿子聊天，一边关注着新闻。当一群无人机袭击了这名年轻人和其他在社交网络上分享视频的学生时，谈话突然结束。最后，画面将我们带回到演讲中，高管吹嘘甚至可以通过发布特定的主题标签来选择敌人。

所有这些都只是国际机器人武器控制委员会(ICRAC) 和其他实体发起的“制止杀手机器人运动”发布的短片《屠杀机器人》中的虚构故事。但根据美国伯克利大学计算机科学教授 Stuart Russell 在视频结尾的警告，这不仅仅是猜测：这项技术已经存在，这些致命的自主无人机很快就会成为现实。事实上，去年 11 月，美国国防部发起了一项呼吁，要求开发“使用学习算法从无人机系统自动识别人员和车辆目标”的计划。

能够自行决定的无人机

武装无人机已经在战场上服役数十年，但迄今为止它们只是远程控制的简单设备。美国国防部长吉姆·马蒂斯 (Jim Mattis) 最近宣布，将目前的无人机称为无人驾驶是一种错误，因为它们始终处于人类飞行员的控制之下。潜在的飞跃是深远的：今天人们谈论的是制造家用无人机大小的设备，这些设备能够自行决定攻击对象，而无需人类监督。据保罗·沙尔 (Paul Scharre) 告诉 OpenMind，他曾是特种作战军官、前五角大楼顾问，也是新书《无人军队：自主武器和战争的未来》 (WW Norton & Company, 2018) 的作者。他告诉OpenMind，虽然“没有一个国家表示他们打算制造完全自主的武器”，但同时“几乎没有国家排除这种可能性”。

沙雷目前担任智库新美国安全中心国家安全与技术项目负责人，他警告称：“世界上许多国家都在开发越来越先进的机器人武器，其中包括许多非国家组织。”这些进步可能包括不同程度的自主性，对于专家来说，关键问题是是否会跨越界限，完全消除人类的控制，“将生死决定权交给机器。”

然而，毫无疑问，这项技术现在已经可以实现。而且，不乏有人认为，如果尊重法律的国家不发展这项技术，它们将无法抵御侵略国和恐怖组织的使用。另一个问题是，人工智能是否最终会被用于战争。一些专家认为，它可以产生威慑作用，从而实现力量平衡，就像冷战期间核升级时发生的那样。但沙雷对这种情况的可行性表示怀疑，因为核导弹可以通过卫星跟踪；相反，鉴于软件赋予人工智能武器自主权，对它们的监视非常复杂。“最 大的挑战是难以核实任何形式的合作是否得到遵守，”专家说。“这使得各国很可能投资自主技术，如果不是因为担心对手这样做的话。”

避免人为错误和情绪

支持自主军用无人机发展的人还指出，无人机能够避免人为失误和情绪，使现役飞行员免于对伤亡承担道德责任，美国佐治亚理工学院机器人工程师罗纳德·阿尔金(Ronald Arkin) 也支持这一观点。然而，除了压制任何人类迹象的危险之外，其他专家认为，所有技术的改进过程都充满错误，在这种情况下，软件缺陷或识别错误会导致人员死亡。更重要的是，那些为创造必要基础技术做出贡献的公司和个人可能会突然发现自己成为潜在的军事目标。

针对上述所有情况，ICRAC 等组织主张“禁止开发、部署和使用武装自主无人系统”。据英国利兹贝克特大学政治与国际关系小组教授兼 ICRAC 成员史蒂夫赖特向OpenMInd解释，该组织的目标是要求联合国根据《日内瓦常规武器公约》（CCW）行使否决权。赖特写道：“自主武装无人机所带来的法律、政治和道德方面的负面后果远远超过任何暂时的军事效用。”去年 9 月，一百多名科技公司高管签署了一封公开信，敦促 CCW 对此采取行动，尽管并没有明确要求否决。

赖特警告说：“如果目前的谈判失败，我们可以预见这些无人机将迅速扩散到流氓国家和非国家行为者手中，包括恐怖分子。”这位专家意识到，任何禁令都无法成功抑制这种风险，尤其是因为所涉及的大部分技术都是民用技术，并且可以用于商业用途，这与核武器不同。

然而，赖特希望各国和国际合作能够解决这些系统及其部件的开发和走私问题。去年 11 月在日内瓦（瑞士）举行的《特定常规武器公约》上次会议取得了进展，例如中国反对自主武器。赖特写道，对这一问题的认识已经深入人心，签署了旨在防止“按钮暗杀新时代”的协议。“当我们取得应有的成功时，子孙后代会感谢我们，”他总结道。