想象一下，在一架飞机上有两位飞行员，一位是人类，一位是电脑。两个人的"手"都放在控制器上，但他们总是在关注不同的事情。如果他们都在关注同一件事，人类就能掌握方向盘。但如果人类分心或错过了什么，计算机就会迅速接管。将人类的直觉与机器的精确性结合在一起，在飞行员和飞机之间建立起一种更加共生的关系。

有了 Air-Guardian，计算机程序就能跟踪人类飞行员的视线（使用眼动跟踪技术），从而更好地了解飞行员在关注什么。这有助于计算机根据飞行员正在做或打算做的事情做出更好的决策。图片来源：Alex Shipps/MIT CSAIL via Midjourney

这就是麻省理工学院计算机科学与人工智能实验室（CSAIL）的研究人员开发的"空中卫士"系统。现代飞行员需要应对来自多个监视器的大量信息，尤其是在关键时刻，Air-Guardian 可以充当主动的副驾驶；这是人类与机器之间的合作关系，其根本在于理解注意力。

但它究竟是如何确定注意力的呢？对人类来说，它使用眼动跟踪，而对神经系统来说，它依赖于一种叫做"突出图"的概念，它能精确定位注意力的方向。这些地图可以作为视觉指南，突出显示图像中的关键区域，帮助掌握和解读复杂算法的行为。Air-Guardian 通过这些注意力标记识别潜在风险的早期迹象，而不是像传统的自动驾驶系统那样，只在出现安全漏洞时才进行干预。

该系统的广泛影响超出了航空领域。有朝一日，类似的合作控制机制可能会用于汽车、无人机和更广泛的机器人领域。

麻省理工学院 CSAIL 博士后 Lianhao Yin 是有关 Air-Guardian 的新论文的第一作者，他说："我们的方法有一个令人兴奋的特点，那就是它的可区分性。我们的合作层和整个端到端过程都可以训练。我们特别选择了因果连续深度神经网络模型，因为它在映射注意力方面具有动态特性。另一个独特之处在于适应性。Air-Guardian 系统并不死板，它可以根据实际情况进行调整，确保人机之间的平衡合作。"

实地测试和结果

在实地测试中，飞行员和系统在导航到目标航点时都根据相同的原始图像做出了决定。Air-Guardian 的成功是根据飞行过程中获得的累积奖励和到达航点的较短路径来衡量的。监护人降低了飞行的风险水平，提高了导航到目标点的成功率。

麻省理工学院 CSAIL 研究机构成员、液态神经网络发明人拉明-哈桑尼（Ramin Hasani）补充说："该系统代表了以人为本的人工智能航空创新方法。我们使用液态神经网络提供了一种动态、自适应的方法，确保人工智能不会仅仅取代人类的判断，而是对人类判断的补充，从而提高天空中的安全性和协作性。"

技术基础与未来展望

Air-Guardian 的真正优势在于其基础技术。它采用基于优化的合作层，利用人类和机器的视觉注意力，以及以擅长破译因果关系而闻名的液态闭式连续时间神经网络（CfC），分析传入的图像以获取重要信息。作为补充，VisualBackProp 算法可识别系统在图像中的焦点，确保清晰了解其注意力图谱。

要想在未来得到广泛应用，还需要完善人机界面。反馈信息表明，一个指示器（如条形图）可能会更直观地显示监护系统何时开始控制。

空中卫士预示着一个更加安全的天空新时代的到来，它为人类注意力动摇的时刻提供了一个可靠的安全网。

麻省理工学院安德鲁（1956）和埃尔纳-维特比（Erna Viterbi）电气工程与计算机科学教授、CSAIL主任、论文资深作者丹妮拉-鲁斯（Daniela Rus）说："空中卫士系统突出了人类专长与机器学习之间的协同作用，进一步实现了在具有挑战性的场景中利用机器学习增强飞行员能力并减少操作失误的目标。

哈佛大学计算机科学助理教授斯蒂芬妮-吉尔（Stephanie Gil）说："在这项工作中使用视觉注意力指标的最有趣的成果之一，就是有可能让人类飞行员更早地进行干预，并提高可解释性。这展示了一个很好的例子，说明如何利用人工智能与人类合作，通过利用人类与人工智能系统之间的自然交流机制，降低实现信任的门槛。"