如果你看过《猫和老鼠》这样的动画片，你就会发现一个共同的主题：一个难以捉摸的目标避开了他强大的对手。这种“猫捉老鼠”的游戏——无论是字面上的还是字面上的——都涉及到每次尝试都能勉强逃脱的东西。

同样，躲避顽固的黑客对网络安全团队来说也是一个持续的挑战。麻省理工学院的研究人员正在研究一种名为“人工对抗智能”的人工智能方法，这种方法可以模仿设备或网络的攻击者，在真正的攻击发生之前测试网络防御。其他基于人工智能的防御措施可以帮助工程师进一步加强他们的系统，以避免勒索软件、数据盗窃或其他黑客攻击。

在这里，麻省理工学院计算机科学与人工智能实验室（CSAIL）首席研究员、Anyscale全民学习小组（ALFA）负责人乌娜·梅·奥莱利（ona - may O'Reilly）讨论了人工对抗智能如何保护我们免受网络威胁。

问：人工对抗智能在哪些方面可以扮演网络攻击者的角色，人工对抗智能如何描绘网络防御者？

答：网络攻击者有不同的能力范围。在最低端，有所谓的脚本kiddy，或威胁行为者，他们散布众所周知的漏洞和恶意软件，希望找到一些没有良好网络卫生的网络或设备。处于中间的是网络雇佣军，他们拥有更好的资源和组织，用勒索软件或敲诈勒索企业。而且，在高端，有些组织有时得到国家的支持，他们可以发起最难以检测的“高级持续威胁”（或apt）。

想想这些攻击者所掌握的专门的、邪恶的情报——那就是对抗情报。攻击者制作了非常技术性的工具，可以让他们侵入代码，他们为目标选择正确的工具，他们的攻击有多个步骤。在每一步中，他们都会学到一些东西，将其整合到他们的情境感知中，然后决定下一步该做什么。对于复杂的apt来说，他们可能会战略性地选择目标，并设计一个缓慢而不显眼的计划，这个计划非常微妙，以至于它的实施逃脱了我们的防御盾。他们甚至可以策划欺骗性的证据指向另一个黑客！

我的研究目标是复制这种特定的进攻性或进攻性情报，即以对抗为导向的情报（人类威胁行为者所依赖的情报）。我使用人工智能和机器学习来设计网络代理，并模拟人类攻击者的对抗行为。我还模拟了网络军备竞赛的学习和适应特征。

我还应该指出，网络防御相当复杂。为了应对不断升级的攻击能力，它们已经进化出了自己的复杂性。这些防御系统包括设计探测器、处理系统日志、触发适当的警报，然后将它们分类到事件响应系统中。他们必须时刻保持警惕，以防御一个非常大的攻击面，很难跟踪和非常动态。在攻击者与防守者竞争的另一方面，我和我的团队也发明了AI来服务于这些不同的防守战线。

对抗性智能的另一个突出特点是：汤姆和杰瑞都能从相互竞争中学习！他们的技能不断提高，他们陷入了军备竞赛。一个变好了，然后另一个，为了保住他的脸皮，也变好了。这种以牙还牙的改进是向前和向上的！我们致力于复制这些军备竞赛的网络版本。

问：在我们的日常生活中，有哪些人工对抗智能保护我们安全的例子？我们如何使用敌对情报人员来领先于威胁行为者？

答：机器学习在很多方面都被用于确保网络安全。有各种各样的探测器可以过滤掉威胁。例如，它们被调整到异常行为和可识别的恶意软件类型。有人工智能支持的分类系统。你手机上的一些垃圾邮件保护工具是人工智能启用的！

我和我的团队设计了人工智能网络攻击者，他们可以做威胁行为者所做的事情。我们发明人工智能是为了给我们的网络代理提供专业的计算机技能和编程知识，使他们能够处理各种网络知识，计划攻击步骤，并在活动中做出明智的决定。

对抗性智能代理（如我们的AI网络攻击者）可以在测试网络防御时用作实践。检查网络对攻击的稳健性需要付出很多努力，而人工智能可以在这方面提供帮助。此外，当我们将机器学习添加到我们的代理和防御中时，它们就会上演一场军备竞赛，我们可以检查、分析并使用它来预测当我们采取措施保护自己时可能使用的对策。

问：他们正在适应哪些新的风险？他们是如何适应的？

答：新软件的发布和新系统配置的设计似乎永远不会停止。对于每个版本，都存在攻击者可以攻击的漏洞。这些可能是已经记录的代码中的弱点的例子，或者它们可能是新的。

新的配置带来了错误的风险或被攻击的新方法。在处理拒绝服务攻击时，我们没有想到勒索软件。现在，我们正在处理网络间谍活动、勒索软件和知识产权盗窃。我们所有的关键基础设施，包括电信网络、金融、医疗、市政、能源和供水系统，都是目标。

幸运的是，人们在保护关键基础设施方面投入了大量精力。我们需要将其转化为基于人工智能的产品和服务，使其中一些工作自动化。当然，还要不断设计出越来越聪明的对抗代理来让我们保持警惕，或者帮助我们练习保护我们的网络资产。

作者：Alex Shipps b| MIT CSAIL

链接：https://news.mit.edu/2025/3-questions-una-may-o-reilly-modeling-adversarial-intelligence-0129

著作权归作者所有。

声明：海森大数据刊发或者转载此文只是出于传递、分享更多信息之目的，并不意味认同其观点或证实其描述。若有来源标注错误或侵犯了您的合法权益，请作者与本网联系，我们将及时更正、删除，谢谢。电话：152 6451 3609，邮箱：1027830374@qq.com