将军说,在战争中避免人工智能的危险需要美国在国际社会中发挥负责任的领导作用

10月2日,美国退役将军约翰r艾伦(John R. Allen)在普林斯顿大学(Princeton University)对听众说,要避免在致命的军事冲突中滥用人工智能,国际协议和协调一致的外交压力至关重要。

艾伦现在是华盛顿布鲁金斯学会的主席普林斯顿大学(Princeton)计算机科学与公共事务教授罗伯特·e·卡恩(Robert E. Kahn)与爱德华·费尔滕(Edward Felten)就人工智能在战场上的新用途进行了广泛讨论。

艾伦说:“这是一种有能力造福人类的能力,但我更担心的是,它很可能是一种我们还不了解的、具有巨大破坏性的技术。”

Members of the audience

该校后备军官训练队的成员参加了这次活动。

在学生观众面前的讨论,包括许多预备军官训练队的参与者,在普林斯顿的梅德尔大厅的教职工和其他人,是G.S. Beckwith Gilbert 63系列讲座的一部分,由信息技术政策中心共同赞助。

在回答Felten的第一个问题时,Allen说,战争总是涉及到人与技术的平衡,军队经常是技术的早期采用者。他说,采用人工智能对军队的许多好处是显而易见的,包括更高效、更有效的后勤、库存和维护,以及更好的情报收集和目标感知。

艾伦说:“但是,通常情况下,也就是我认为我们今天所处的位置,技术超越了人类的维度,从而完全掌握了潜力,并最终彻底地整合了这项技术。”

“在战场上杀人太容易了,尤其是那些无辜的人,”艾伦说。“通过草率采用致命技术,这种情况太容易发生了。”

关键问题围绕着人类决策部署致命武力的角色,包括选择目标和决策的开始和终止任务,艾伦说,他吩咐北约部队在阿富汗和担任总统特使的全球联盟对抗伊斯兰恐怖组织在2015年退休前状态。

艾伦说,使用武力和军事行动的长期道德原则为美国提供了良好的服务。具体地说,他强调决策的三个要素:必要性、区别性和相称性。必要性是指一开始就决定攻击是否合适;区别是一个将实际目标与无辜的旁观者区分开来的问题,以及在区分不清的情况下是否中止任务的相关决定;相称性指的是判断应使用多少武力,以及考虑到任务的目标,是否需要进一步的攻击。

艾伦说:“在人工智能的发展中,这三件事都可以由一个自主系统来完成,我们离这一点还很遥远。”“最终,与其说是技术的问题,不如说是人类在这个过程中所扮演的角色的问题。”

Allen描述了考虑人类控制的两种方式,一种是“在循环中”,意思是一个人在监控一个系统,以确保它的行为符合预期;另一种是“在循环中”,意思是一个人在积极地做决定去或不去。“问题是,人类的控制水平到底有多高?”

艾伦和曾在奥巴马政府担任副首席技术官的费尔顿同意,国防部2012年的一项指令为思考这些问题奠定了重要的基础。艾伦说:“这是一份很有先见之明的文件,它说明了一个负责任的国家,在伦理道德的指引下,将如何在参与的背景下考虑使用人工智能。”

他说,这项指令建立在长期以来一直是美国军官军事训练的根本原则之上。“任何美国指挥官将应用这些新技术——不仅仅是人工智能,但那些在地平线上,我们——将引导固有的一个长期的承诺,通过个人宣誓和通过不断的教育和培训,指挥和现有主要生活在一个环境,是由道德。”

在回答观众中一个学生提出的问题时,艾伦强调,必须教育军事领导人在接受自动化系统的建议时不要自满,并对机器驱动的输入应用明智的怀疑态度。他举了1983年的一个例子,当时苏联军官斯坦尼斯拉夫·彼得罗夫(Stanislav Petrov)拒绝发动核打击,尽管他收到了美国发射核导弹的明确但最终是错误的信号。

“他的训练、他的直觉和他对这个系统的理解中有一些东西,他说‘这是一个错误警报’,”艾伦说。“否则我们今天可能不会坐在这里。这是个很好的问题。谢谢你问这个问题。”

但艾伦强调,美国或任何国家都不能单独控制这类系统的使用。

“我们必须有一个强有力的国际对话,能接受这种技术是什么,如果需要我们可以讨论控制它,无论它是一个条约,完全禁止或条约,只允许使用的技术在某些方面,”他说。

他说:“总会有一些无赖行为者炫耀国际法,但是一个健全的民主国家联盟可以施加非常大的压力,把这种侵犯人权的行为减少到最低限度。”

Felten speaking

费尔滕是普林斯顿大学信息技术政策中心的创始主任,一直是人工智能在社会中作用的主要声音,包括在奥巴马白宫担任副首席技术官。

在观众提出的另一个问题中,一名学生问,作为自主系统基础的预测算法是否应该受到国际武器条约的审查和约束。“他们应该是,”艾伦说,他指出,即使是定义技术术语也很有挑战性。

“它不是二元的,”他说。“我们不一定说你不能使用这种算法,但我们可能会说,如果你打算使用这些预测算法,它只能用于特定的目的。”

艾伦说,达成这样的国际协议需要美国的领导。他说,在先进技术方面的领导与在一系列关键和困难问题上的领导是密切相关的。

“当人们问我对美国面临的威胁最担心的是什么时,我说,看,我们可以处理与中国人的分歧,我们可以处理俄罗斯人,我们可以处理圣战分子。我们会时不时地遭受打击,但我们能处理好这一切。我们无法应对气候变化。

“当美国退出巴黎气候协议,当美国没有出现并报告可持续发展目标……如果我们不小心,这是一种真正存在的挑战。”世界在冷战后能够取得的许多成就,都直接得益于美国的领导和与类似国家的伙伴关系。”

“美国需要重申其对人权的全球承诺,重申其对民主领导的承诺,即自由民主关乎人权和性别平等、言论自由,以及对我们海外伙伴认可的一系列价值观的承诺。”

新闻旨在传播有益信息,英文原版地址:https://www.princeton.edu/news/2019/10/03/avoiding-dangers-ai-warfare-requires-responsible-us-leadership-among-international

http://petbyus.com/14797/