想象一下，你在一架飞机上，有两个飞行员，一个人和一台电脑。他们都有自己的&#quot;手”在控制器上，但他们总是在寻找不同的东西。如果他们都在关注同一件事，人类就可以控制方向。但如果人类分心或遗漏了什么，计算机就会迅速接管。

这是由麻省理工学院计算机科学与人工智能实验室(CSAIL)的研究人员开发的一种名为&#quot;空气守护者”的系统。当现代飞行员努力应对来自多个监视器的大量信息时，尤其是在关键时刻，&#quot;空中卫士”充当了一名积极主动的副驾驶;人与机器之间的伙伴关系，植根于对注意力的理解。

但它究竟是如何决定注意力的呢?对人类来说，它使用眼球追踪，对神经系统来说，它依赖于一种叫做&#quot;显著性地图”的东西，它能精确定位注意力的方向。这些地图可以作为视觉指南，突出显示图像中的关键区域，帮助掌握和破译复杂算法的行为。Air-Guardian通过这些注意力标记识别潜在风险的早期迹象，而不是像传统的自动驾驶系统那样，只在安全违规时进行干预。

该系统的更广泛影响超出了航空业。有一天，类似的合作控制机制可能会用于汽车、无人机和更广泛的机器人。

&#quot;我们的方法的一个令人兴奋的特点是它的可微分性，”麻省理工学院CSAIL博士后尹连豪说，他是一篇关于Air-Guardian的新论文的主要作者。&#quot;我们的合作层和整个端到端流程都是可以训练的。我们特别选择因果连续深度神经网络模型，因为它在映射注意力方面具有动态特征。另一个独特的方面是适应性。&#quot;空气卫士”系统并不死板;它可以根据情况的需求进行调整，确保人与机器之间的平衡伙伴关系。”

在现场测试中，当导航到目标航点时，飞行员和系统都基于相同的原始图像做出决策。&#quot;空中卫士”的成功是根据飞行期间累积的奖励和到航路点的较短路径来衡量的。监护人降低了飞行的风险水平，提高了导航到目标点的成功率。

&#quot;这个系统代表了以人为中心的人工智能航空的创新方法，”麻省理工学院CSAIL研究分支机构、液体神经网络发明者拉明·哈萨尼(Ramin Hasani)补充道。&#quot;我们对液体神经网络的使用提供了一种动态的、自适应的方法，确保人工智能不仅取代了人类的判断，而且是对人类判断的补充，从而增强了空中的安全性和协作性。”

Air-Guardian的真正优势在于它的基础技术。它使用基于优化的协作层，利用人类和机器的视觉注意力，以及以破译因果关系而闻名的液态封闭式连续时间神经网络(CfC)，分析传入的图像以获取重要信息。与此相辅相成的是VisualBackProp算法，它可以识别图像中的系统焦点，确保清晰地理解其注意力地图。

为了将来的大规模采用，有必要改进人机界面。反馈表明，一个像条形的指示器可能更直观地表示监护系统何时开始控制。

&#quot;空气卫士”预示着一个更安全天空的新时代的到来，它为人类注意力动摇的时刻提供了一张可靠的安全网。

&#quot;Air-Guardian系统突出了人类专业知识和机器学习之间的协同作用，进一步实现了利用机器学习在具有挑战性的情况下增强飞行员能力并减少操作错误的目标，”Daniela Rus说，他是麻省理工学院电子工程和计算机科学教授，CSAIL主任，论文的高级作者。

哈佛大学计算机科学助理教授斯蒂芬妮·吉尔(Stephanie Gil)没有参与这项研究，她说:&#quot;在这项研究中使用视觉注意力指标最有趣的结果之一是，它有可能允许人类飞行员更早地干预，并提高其可解释性。”&#quot;这展示了人工智能如何与人类合作的一个很好的例子，通过使用人类和人工智能系统之间的自然沟通机制，降低了实现信任的障碍。”

这项研究部分由美国空军研究实验室、美国空军人工智能加速器、波音公司和海军研究办公室资助。调查结果并不一定反映美国政府或美国空军的观点。

作者：瑞秋·戈登|麻省理工学院CSAIL

链接：https://news.mit.edu/2023/ai-co-pilot-enhances-human-precision-safer-aviation-1003

著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。

声明：海森大数据刊发或者转载此文只是出于传递、分享更多信息之目的，并不意味认同其观点或证实其描述。若有来源标注错误或侵犯了您的合法权益，请作者与本网联系，我们将及时更正、删除，谢谢。电话：15264513609，邮箱：1027830374@qq.com