网络安全受益于AI和ML的进步。今天的安全团队被关于潜在可疑活动的数据淹没，常常大海捞针。人工智能通过识别网络流量模式、恶意软件指标和用户行为趋势，帮助安全团队发现这些数据中的真正威胁。黑客经常使用人工智能和机器学习的各个方面来对付企业。例如，轻松访问云环境使得开始使用AI和构建强大、有能力的学习模型变得简单。让我们来看看黑客是如何利用人工智能和机器学习来瞄准企业的，以及如何防止以人工智能为中心的网络攻击。黑客使用AI攻击安全团队的3种方式1.使用基于AI的工具测试恶意软件是否成功黑客可以通过多种方式使用ML。第一种是通过构建自己的机器学习环境并对自己的恶意软件和攻击实践进行建模，以确定安全团队寻找的事件和行为类型。例如，一种复杂的恶意软件可能会修改本地系统库和组件，在内存中运行进程，并与黑客控制基础设施拥有的一个或多个域进行通信。所有这些活动结合起来创建一个称为战术、技术和程序(TTP)的配置文件。机器学习模型可以观察TTP并使用它们来构建检测功能。通过观察和预测安全团队如何检测TTP，黑客可以巧妙且频繁地修改指标和行为，领先于依赖基于AI的工具检测攻击的安全团队。2.破坏数据不准确的人工智能模型黑客还利用机器学习和人工智能破坏数据不准确的人工智能模型，从而破坏环境。机器学习和人工智能模型依靠正确标记的数据样本来构建准确且可重复的检测配置文件。通过引入看起来像恶意软件的良性文件或通过创建被证明是误报的行为模式，黑客可以欺骗AI模型相信攻击不是恶意的，或者通过引入AI已训练标记为安全的恶意文件.毒害AI模型。3.映射现有的人工智能模型黑客积极寻求映射网络安全供应商和运营团队使用的现有和开发中的人工智能模型。通过了解AI模型的运作方式和作用，黑客可以在其周期内主动干预机器学习操作和模型。这可以让黑客通过诱使系统偏袒黑客来影响模型。它还允许黑客通过巧妙地修改数据来逃避基于已识别模式的检测，从而完全避开已知模式。如何防御以AI为中心的攻击防御以AI为中心的攻击非常困难。安全团队必须确保与学习模型和模式开发中使用的数据关联的标签是准确的。通过确保数据具有准确的标签标识符，用于训练模型的数据集可以变得更小，这无助于AI效率。对于那些构建AI安全检测模型的人来说，在建模时引入对抗性技术和战术有助于将模式识别与野外战术相结合。约翰霍普金斯大学的研究人员开发了木马软件框架，以帮助生成木马和其他恶意软件模式的人工智能模型。麻省理工学院(MIT)的研究人员发布了TextFooler，这是一种用于自然语言模式的工具，可以帮助构建更具弹性的AI模型来检测银行欺诈等问题。随着人工智能重要性的增长，黑客将寻求通过自己的研究超越安全团队的努力。安全团队必须及时了解黑客的攻击策略以防御黑客攻击。
