《中国人工智能学会通讯》——1.38 为什么禁止是最好的解决方案

  1. 云栖社区>
  2. CCAI>
  3. 博客>
  4. 正文

《中国人工智能学会通讯》——1.38 为什么禁止是最好的解决方案

知与谁同 2017-09-04 09:45:00 浏览787
展开阅读全文

1.38 为什么禁止是最好的解决方案

部分反对在现阶段就提倡全面禁止的人认为现在提禁止二字还为时尚早,我们应该耐心“观望”技术会最终将我们带向何方。 其他人认为,限制其使用的具体情况和任务会比简单禁止更合适。还有一些人说,现有国际人道主义法足以应对这些可能出现的挑战。

先发制人的禁止条约的目的在于防患于未然,将所有关于全自主武器的危险和关注放在首位。采取观望态度,寄希望于危害发生后亡羊补牢,是极其不负责任的。 一旦此种武器研发成功,这就是一个不可逆的过程了。武器历来有着惊人的全球蔓延速度,就像一头被放出来的猛兽,如何能再将其轻易圈禁起来?

这种防患于未然的武器禁令还是有先例可循的。最好的例子就是 1995 年常规武器公约拟定的关于禁止激光致盲武器的协议。虽然这份协议最初收到了来自美国和其他几个国家的反对的声音,但各国最终均认可这种武器将会给士兵和平民带来无法接受的威胁。因此这些武器被视为是违背公众良知的,随后各国渐渐意识到与其大家都拥有这种武器人人自危,不如从规则上保证没有国家拥有这种武器来的简单。这种思路与考量也一样适用于全自主武器。

诚然我们不能证明全自主武器就一定在技术上无法解决其可能带来的问题,可是我们同样也无法证明就一定有合适的修正方案。鉴于科学不确定性的客观存在,同时考虑到具有约束力的法律文书可能带来的潜在效益,国际法中的预防原则在这个问题上是可以直接适用的。该原则建议国际社会不必等待某种科学确定性的出现就可以而且应该当下就采取行动。

全自主武器作为一种全新的武器门类,可能改变战争形式,并给平民造成严重威胁。这就要求我们加快澄清并加强现有的国际人道主义法。

一则具体的条约既能禁止某种武器也能给它创造一种负面的舆论氛围。 实践经验表明,这种负面的舆论甚至对于那些尚未正式加入该条约的国家也是一种有效的约束,迫使他们遵守其中的关键条款,以避免遭受国际社会的谴责。那种仅仅限制应用场合与目的的监管办法从长远看必然是达不到预期效果的,因为在战争白热化状态下,粗暴或者不恰当地使用这些武器所可能带来的利益诱惑是令人难以抵挡的。这些武器一旦合法化,无疑会被大量生产,并在全球扩散,而制定未雨绸缪的相关国际条约将是唯一的解决方案。

需要指出的是,呼吁出台对全自主研发武器的禁令并非是想阻碍自主或全自主性军用机器人或武器在民用领域的发展,也并非想以任何方式来削弱人工智能的相关研究。真正应该被制止的是仅仅着眼于全自主武器研发或者明确服务于此类武器的技术研发活动。

网友评论

登录后评论
0/500
评论
知与谁同
+ 关注
所属团队号: CCAI