阻止勒索软件已成为许多组织的首要任务。因此，他们将人工智能(AI)和机器学习(ML)作为防御选择。然而，威胁行为者也在转向人工智能和ML来发起攻击。一种特定类型的攻击，数据中毒，利用了这一点。为什么AI和ML存在风险与任何其他技术一样，人工智能是一把双刃剑。人工智能模型擅长处理大量数据并提出“最佳猜测”，YouAttest首席执行官GarretGrajek在接受电子邮件采访时表示。“黑客已经在使用人工智能来攻击身份验证和身份验证，包括语音和视觉黑客攻击，”他说。“‘武器化人工智能’致力于获取访问密钥。”康奈尔大学的研究人员解释说：“专门的数据中毒是对机器学习的有效攻击，并通过将中毒数据引入训练数据集中来威胁模型完整性。”是什么让通过AI和ML的攻击与典型的“系统错误”攻击不同？Marcus这些算法具有无法解决的固有局限性和弱点，Comiter在哈佛大学贝尔弗科学与国际事务中心的论文中说。“AI攻击从根本上扩展了可用于执行网络攻击的实体集，”Comiter补充道。“有史以来第一次，物理对象现在可以用于网络攻击。这些攻击还可以用于以新的方式将数据武器化，需要进行更改如何收集、存储和使用数据。”人为错误以更好地理解威胁要了解攻击者如何使用AI和ML作为攻击媒介进行数据中毒和其他攻击，我们需要更清楚地了解它们在保护数据和网络方面的作用。询问CISO对企业的最大威胁是什么组织的数据是，他们往往会告诉你这是人性。员工并不意味着网络风险，但他们是人。人们可能会分心。他们今天错过了昨天本可以轻松避免的威胁。赶在截止日期前并期望获得重要文件的员工可能最终会点击受感染的附件，将其误认为是他们需要的文件。或者，员工可能根本没有意识到，因为他们的安全意识培训太不连贯，无法做出决定印象。威胁行为者知道这一点，并且像任何优秀的罪犯一样，他们正在寻找进入网络并获取数据的最简单方法。网络钓鱼攻击如此普遍的原因是因为它们非常易于使用。使用异常行为作为风险因素这就是AI和ML恶意软件检测发挥作用的地方。这些技术可以发现模式并分析用户行为，在异常行为成为问题之前将其嗅出。通过应用生成的算法，ML可以识别人类无法识别的异常行为。例如，它可以检测员工的正常工作日或他们的击键节奏，并对不正常的事情设置警报。当然，它并不完美。有人可能在正常工作时间以外工作，或者受伤影响了他们打字的方式。但这些工具旨在捕捉不寻常的东西，例如使用被盗凭据的威胁行为者。充其量，我们可以使用AI来更好地保护网络免受勒索软件攻击，方法是告诉不受监督的计算机和网络真实文件和恶意文件之间的区别，阻止对不良文件的访问。AI可以嗅出影子IT，告知有关授权连接的威胁，并深入了解员工使用的端点数量。要使AI和ML成功抵御网络威胁，它们依赖于在指定时间段内创建的数据和算法。这样，他们可以有效地发现问题（并释放安全团队来执行其他任务）。这也是一种威胁。人工智能和机器学习的兴起直接导致数据中毒的潜在威胁。了解数据中毒有两种方法可以使数据中毒。一种是向系统中注入信息，使其返回错误的分类。从表面上看，使算法中毒并不难。毕竟，AI和ML只知道人们教给它们的东西。想象一下，您正在训练一种识别马的算法。您可能会看到数百张棕色马的图片。同时，您通过查看数百张黑白奶牛的图片来教它识别奶牛。但是当一头棕色的牛滑入数据集中时，机器将其标记为马。对于这个算法，棕色动物是一匹马。人类将能够发现差异，但机器不会，除非算法指定牛也可以是棕色的。如果威胁行为者可以访问训练数据，他们就可以操纵这些信息来教授AI和ML任何他们想要的东西。他们可以让他们将好的软件代码视为恶意代码，反之亦然。攻击者可以重建人类行为数据以发起社会工程攻击或以勒索软件攻击为目标。威胁行为者可以利用训练数据生成后门的第二种方式。黑客可能会使用AI来帮助选择最容易利用的漏洞。因此，恶意软件可以放置在企业中，恶意软件本身可以决定何时进行攻击以及什么是最佳攻击媒介。这些攻击（在设计上是可变的）使它们更难检测，检测时间也更长。“攻击者如何使用数据中毒关于数据中毒需要注意的一件重要事情是威胁参与者需要访问数据培训程序，”Grajek说。因此，您可能面临内部攻击、商业竞争对手或民族国家的攻击。DARPA研究项目中的BruceDraper博士写道：“目前对对抗性AI的研究主要集中在无法察觉的ML输入扰动可以欺骗ML分类器改变其响应的方式。”“虽然对抗性AI领域相对年轻，但已经提出了数十种攻击和防御，缺乏对ML漏洞的全面理论理解。”攻击者还可以使用数据投毒来让恶意软件变得更聪明。威胁行为者使用它来克隆短语来欺骗算法来破坏电子邮件。现在，它甚至进入了生物识别技术，攻击者可以在生物识别技术中瞄准合法用户并潜入。数据投毒和deepfakesDeepfakes是许多人预期下一波数字犯罪的数据中毒级别。攻击者编辑视频、图片和录音以创建逼真的图像。因为它们可能被许多人误认为是真实的照片或视频，所以它们是一种经过验证的技术勒索或尴尬。正如Kermit指出的那样，在公司层面使用这种方法的变体也会导致人身危险。“人工智能攻击可以将停车标志变成自动驾驶汽车眼中的绿灯简单地在停车标志上贴几条胶带，”他写道。假新闻也是数据中毒。社交媒体中的算法已经被破坏，允许不正确的信息上升到顶部一个人的新闻提要，取代了真实的新闻来源。阻止数据中毒攻击数据中毒仍处于起步阶段，因此网络防御专家仍在学习如何最好地防御这种威胁。渗透测试和攻击性安全测试可以导致发现漏洞，从而使数据训练模型可供外部人员访问。一些研究人员还在考虑设计第二层人工智能和机器学习，以捕捉训练数据中的潜在错误。当然，具有讽刺意味的是，我们需要一个人来测试AI算法，并检查一头牛是牛而不是马。“人工智能只是攻击者武器库中的另一种武器，”格雷克说。黑客仍然希望在整个企业中移动，提升他们的特权来执行他们的任务。持续、实时的权限升级监控对于帮助减轻攻击至关重要，无论这些攻击是由AI引起的。“
