未来无人系统将被武装起来？探析美军无人作战系统的“自主性”

原创： 李盼 赵林 光明军事 1月14日

美国现代军事战略的重点是保持面对竞争对手的技术优势。然而，美国防部通过科技发展保持战略优势的能力正受到全球化和信息革命的挑战。但“自主性”的不断进步使国防部有能力保持其在各个领域的技术优势，特别是无人系统。由于这项技术的革命潜力，国防部必须继续进行自主创新，以增强无人系统与未来联合作战的结合。

自主性是指一个实体根据对世界、自身情况的了解和理解，自主地开发和选择不同的行动方案以实现目标的能力。自主系统是由允许系统偏离基线的宽泛规则约束的。这与自动化系统形成对比，它由规定的规则控制，不允许任何偏差。虽然早期的机器人通常只表现出自动化的能力，但人工智能（AI）和机器学习（ML）技术的进步促进开发具有更高水平自主能力的系统。无人系统的未来将扩展到广泛的自主范围，从远程控制和自动化系统到近乎完全自主，根据需要支持任务。

 1．人工智能和机器学习

机器学习（ML）是人工智能中迅速发展的一个领域，在许多领域具有推进无人系统的巨大潜力，包括C2、导航、感知（传感器智能和传感器融合）、障碍物检测和规避、群体行为和战术以及人类交互等。深度学习是一种很有前途的人工神经网络形式，可以利用图形处理单元（GPU）、传统CPU和自定义的神经形态芯片的众多核心来学习数据中的模式和模型。AI和ML将允许开发能够自主学习和做出高质量决策的系统。这种学习能力将直接导致开发具有更高自主性的无人系统，这将赋予扩展和改进的功能。此外，自主无人系统将极大地增强战场空间意识，最大限度地利用AI/ML辅助决策，这将彻底改变战场空间管理和C2。

1.1 面临挑战

虽然人工智能正在取得重大进展，但这些技术在无人系统中的全面应用面临着一些挑战。虽然基于AI的系统的安全性、可靠性和可信性仍然是研究活跃的领域，但AI必须克服重要的感知和信任问题才能被接受。政策和法律限制（包括国际）也必须发展。M＆S和TEVV必须彻底改变以适应AI / ML的功能。无人系统在尺寸、重量和功率（SWAP）限制方面也有独特的技术要求。此外，许多当前的AI数据处理平台在云环境中运行计算，这可能不适合在通信隔绝环境中运行的无人系统。然而，随着行业领导者对可嵌入无人系统的云解决方案的开发，未来可能会减轻这一挑战。必须确定改进的TEVV和对自主无人系统的最终人类控制的演示，以便用人工智能和机器学习解决方案建立信任。

数据质量是将AI / ML集成到无人系统中必须解决的另一个问题。质量数据是自动分析，随后为支持运营而做出的决策的基础。质量不仅在起源/收集点受到影响，而且在系统转化为各种可解释形式时更是如此。国防部必须建立并遵守企业数据标准，并对数据质量进行深思熟虑的企业评估。需要这些质量数据来实现更高的自动化，以支持机载战术处理、群体技术、时间主导决策以及最终实现完全自主。

“我不希望人类的元素完全消失，在那里总是会有一个命令元素。但还有更多，我们可以做的更多。最后，你想要什么？你想要可操作的知识……你想尽快得到。”

——海军少将罗伯特·格里尔

1.2 未来之路

在短期内，国防部应该加强与私营部门的联系，以便随着AI/ML解决方案的成熟，国防部能够采购最有前途的解决方案，并在无人系统中使用它们。许多AI/ML解决方案依赖于大规模的、集成的云技术来进行数据存储、处理和传输。因此，国防部应寻求大力开发云技术，并允许它们适应于AI/ML解决方案中使用。要实现这一目标，需要在整个服务中和整个服务中解决数据收集，标准化和共享问题。国防部还必须继续领导有关人工智能观念、政策和法律的全国性和国际性讨论。

在中期阶段，AI/ML解决方案在M&S、TEVV和SWAP使用方面可能已经成熟，可以把它们嵌入无人系统中。随着AI/ML的发展，国防部应该投资于增强现实和虚拟现实接口，以增强无人系统和操作人员之间的交互。国防部还需要继续支持和鼓励工业发展和维持AI/ML开放体系结构，并加强与工业界和学术界的伙伴关系，以从中获益。应当通过改进TEVV和演示人类对自主无人系统的最终控制来解决对智能机器可能对人类造成危险的担忧。

从长远来看，深度人工智能的进步将允许开发应用程序，使人类操作员能够控制和持续感知无人系统。人工智能和计算技术的进步将使机器系统（包括无人系统）在学习和决策方面具有类人智能。

2．提高效率和有效性 

增强的自主性将使无人系统能够执行更大范围的任务，这将直接提高操作能力。更大的自主性也将消除操作人员不断输入的需要。这将允许同时对多个无人系统进行更高级的控制或监督，并且通过减少操作员的认知负荷、允许操作员作出命令决策和执行其他高级任务来提高效率。自主系统将通过实现自组织、任务划分和活动协调来提高效率，特别是在复杂环境中。自主系统摄取、处理和分析大型复杂数据集的能力，以及通过数据可视化向人类传达有价值的数据趋势或相互关系的能力，对人类和自主系统都有好处。这种类型的人机交互将允许人类作出更明智和更好的决策，并通过提供频繁的系统反馈来增强自主系统的学习过程。

最后，提高自主水平将提高无人系统的决策速度，并使它们能够执行比人类反应时间更快的决策周期的任务，从而大大提高它们在诸如导弹防御等各种任务领域的作战能力。提高无人系统效率和效能的科学进展对未来军事的发展至关重要。

2.1 面临挑战

目前，通过增加自主性实现的效率和效益的提高，受到法律和政策、信任问题和技术挑战的限制。增加自主性将允许无人系统执行以前只能由人执行的任务。这些任务中最有争议的将涉及使用致命武力。支持无人系统的技术将使开发和部署自主系统成为可能，自主系统可以独立地选择和攻击具有致命力量的目标。

在更大范围和更频繁的操作场景中部署无人系统也将从根本上改变军事训练要求、人事管理和部队结构。随着自主系统越来越先进，研究、理解和记录它们与人类的交互作用将变得至关重要。操作员和指挥官需要高度理解这些系统是如何操作的，以及它们在各种操作环境中以及当面临特定的操作挑战时将如何响应。通过有效地培训操作人员和团队成员，以及开发相关的机器来增强对共同团队目标、它们各自的角色以及它们相互依赖的方式的理解，将克服人机团队合作所带来的挑战。然后，在人机团队的开发和运行过程中学到的经验教训可以适当地应用于更自主系统的后续开发和操作。

2.2 未来之路

未来几十年无人系统能力的扩展在很大程度上将取决于在部队结构中有效组合人类和自主系统的能力。在短期内，需要提高操作安全性和效率，例如空中防撞和地面车辆的自动安全功能。

在中期阶段，自主算法、改进的传感器和计算机处理将改进人和机器的合作，从任务支持发展到操作支持，并将允许机器在各种操作中直接帮助人类。例如，无人驾驶系统中自主水平的提高将允许领导跟随功能，在后方半自主车辆跟随在后勤车队操作中的指定领导车辆。类似地，自主的“机器人翼手”可以伴随飞行飞机、地面战斗机机组、水面舰艇和水下舰艇机组。

最后，从长远来看，人类将形成具有几乎完全自主的无人系统的集成团队，能够在有争议的环境中进行操作。这可能包括通过ISR或空中打击直接支持地面士兵的异构成群的UAS。

3．信任 

信任是复杂和多维的。因此，必须通过对行为和功能的关键指标的持续评估来建立对自主系统的信任，从开发阶段开始，并在系统生命周期的所有阶段持续进行。广泛的保证不仅有助于提高操作员和指挥官的信任度，还有助于提高设计师、测试人员、政策制定者和立法者以及整个公众的信任度。此外，自主系统必须表现出运行时的透明度，并且能够解释决策和行动，以及以简明和可用的格式向人类操作员传达目标和计划。以这种方式与操作员建立信任将确保人的权力仍然是自治系统的任务批准中心，并确保有效的人机协同。如果操作员/指挥官和自主无人系统之间没有足够的信任，为了在高度一致性下正常运行，这些系统将不会用于任何任务集。

3.1 面临挑战

缺乏作战人员和广大公众的信任是国防部继续发展和使用自主无人系统的主要障碍。联合国（UN）为考虑禁止部署具有致命性的自主系统的政策而作出的国际努力突显了这种信任的缺乏。此外，当前人工智能在道德思维方面的能力存在技术缺陷，这可能限制公众对为军事能力而开发的自主无人系统的信任。在军事力量可能遇到的各种场景中，人工智能目前无法一致地实现情境伦理推理。鉴于这种限制，当越来越多的无人系统被更广泛地部署时，确保人权、责任和维持C2的能力得以保留是至关重要的。

3.2 未来之路

国防部将继续更新现有的作战命令(OPORD)和合作任务的军事框架，包括无人系统的任务指导和验证。此外，对军事任务的分析可以确定哪些伦理要求需要人类决策者的输入。这种类型的思维方式应适用于拟议/计划的自主无人系统。初始的有人/无人团队合作(MUM-T)学习活动可以探索人机结合的几个要素，以建立信任的基础。

这一领域的成功将为指挥官、决策者、立法者、公众和其他适用的利益相关者提供对道德框架的信心。无人系统以人为导向的战术任务以及这些系统的总体性能可以而且将显示出满足参与规则(ROE)和《武装冲突法》(LOAC)的所有伦理要求。

4．武器化 

在考虑武器系统的具体使用时，国防部指令（DoDD）3000.09——武器系统自主化，于2012年11月签署，制定政策并负责制定武器系统中自主功能的开发和使用，包括有人和无人系统平台。它要求自主和半自主武器系统的设计允许指挥官和操作员对使用武力进行适当程度的人类判断。 DoDD 3000.09还要求授权使用、直接使用或操作自主和半自动武器系统的人员必须在适当的监督下，并根据战争法、适用的条约、武器系统安全规则和适用的ROE。DoDD 3000.09经历了行政变更的强制性定期更新（2017年5月8日变更1），但预计将在2017年底完成更实质性的更新。该实质性更新一经发布，预计将涉及对定义和流程的澄清而不是政策总体方向的转变。

国防部目前没有自主武器系统，可以独立于人类操作员的输入来搜索、识别、跟踪、选择和参与目标。这些任务目前严重依赖于使用远程操作的操作人员，也称为“远程操作”。在未来，武器化将是任务组中的关键能力，其中无人系统直接支持从事危险任务的部队。

4.1 面临挑战

在公共和国际外交领域，有关国家、非政府组织和人工智能专家敦促立即加紧努力、制定和保证一项限制发展、部署和使用对人进行目标定位、选择和攻击的武器系统的国际条约。针对日内瓦某些常规武器公约（CCW）某些缔约国的类似关注，联合国日内瓦办事处在2014年，2015年和2016年举办了关于致命自主武器系统（LAWS）的非正式专家会议。中国共产党成立了一个政府专家小组（GGE），他们在2017年更讨论了法律问题，并提出修改意见。预计将于2018年8月27日至31日举行第二次会议。如果对自主武器系统实施此类限制，并且如果美国遵循它，禁令将严重限制开发和使用致命自主武器系统的能力。

4.2 未来之路

在短期内，各部门和机构间工作组将继续处理与法律法规有关的各种外交、政策、法律和执行问题。为了通知这些工作组的部门工作，组织未来的部队发展工作，并通报国防部3000.09号最新情况，国防部副部长兼参谋长联席会议副主席委托对法律法规和人工智能进行为期90天的评估。此外，2018 - 2022年的国防规划指南（DPG）包括关于自主武器发展的指导，未来的部门级部队规划指导可能包含有关该主题的指导。

在中长期内，高度自主的无人系统的发展将迅速增长，并有可能武装起来。随着AI能够实现越来越复杂的机器响应能力，这些进步将到来。这些系统将与作战人员一起部署，并集中于高伤亡概率的任务。具有集成人工智能的无人系统，作为僚机或队友，具有致命武器，可以执行与目标识别、跟踪、威胁优先和攻击后评估相关的绝大多数操作，同时跟踪位置并确保蓝军的安全，最大限度地降低人类队友的风险。这种自动化水平将减轻与目标参与相关的任务级活动的人工操作员的工作量，允许操作员将注意力集中在所识别的威胁和参与决策上。