我们快要创造出不需要人类控制就能杀人的自主武器系统。 成千上万个专家对此表示担忧,最近一个令人恐惧的影片,展示了我们正在前往的未来。
在屠杀机器人(Slaughterbots)短片中,显示众多人工智慧控制的无人机能精确的对数以千计毫准备的受害者进行攻击。 为什么这影片如此可怕,因为这情况是完全可能的。影片一开始是一个引人注目的新闻发表会,科技首次亮相。 微型无人机能够将“坏人”(无论他们是谁)消灭,不会造成多余的伤亡,不需用到核武或地面部队。
无人机机器人只需要你的:年龄、性别、身形、服装和种族。
这科技获得了掌声之后,很快就落入了坏人的手中。 不久之后,美国白.宫就遭到攻击,只有一个特定的政党成为杀人机的对象。
同样的机器人然后被一个不知名的团体用来杀死世界各地成千上万个学生,他们都在社交媒体上分享了相同的人权影片。影片里一位公司的领导说“这些武器省略了战争的代价、危险和风险”,“任何人”现在都可以进行这样的攻击。
谢天谢地,这个令人毛骨悚然的影片不是真实的,至少现在还不是。这是由“停止杀手机器人运动”(Campaign to Stop Killer Robots)的一个国际联盟所上传的,目的是要禁止自主武器,并在本周的联合国会议上播放。
这组织希望联合国通过立法,禁止这种AI科技的发展,以及相关硬体的大规模制造。 令人担忧的是,这些都是我们已经拥有的科技,根据加州大学柏克莱分校电脑科学家Stuart Russell的说法,他也是这影片背后的专家之一,剩下来只需要有人将这科技小型化并结合起来就能完成这种武器。
Russell在影片中说:“我在人工智慧方面工作了35年以上。它有可能大大的造福人类,即使在防卫方面,但是让机器选择杀死人类将会破坏我们的安全和自由。”
“成千上万个跟我同行的研究人员都同意,我们有机会阻止你刚刚看到的未来。”
!评论内容需包含中文