机器学习和人工智能（AI）正在成为一些威胁检测和响应工具的核心技术。它能够即时学习并自动适应网络威胁的动态，从而增强了安全团队的能力。然而，一些恶意黑客也会利用机器学习和人工智能来扩大他们的网络攻击，规避安全控制，并以前所未有的速度和毁灭性的后果发现新的漏洞。黑客利用这两种技术的常见方式有以下几种。1、垃圾邮件Omida分析师费尔南多黑山表示，抗疫人员几十年来一直使用机器学习技术检测垃圾邮件。“垃圾邮件预防是机器学习最成功的初始用例。”如果正在使用的垃圾邮件过滤器提供了不通过电子邮件或给出特定分数的原因，那么攻击者就可以调整他们的行为。他们使用合法工具使他们的攻击更加成功。“有了足够的提交，你就可以恢复模型，然后你可以调整攻击以绕过该模型。”易受攻击的不仅仅是垃圾邮件过滤器。任何提供分数或其他输出的安全供应商都可能被滥用。“不是每个人都有这个问题，但如果你不小心，有人可以恶意使用这个输出。”2.更老练的网络钓鱼邮件攻击者不仅仅使用机器学习安全工具来测试他们的邮件是否可以通过垃圾邮件过滤器。他们还使用机器学习来制作这些电子邮件。“他们在犯罪论坛上宣传这些服务，”安永技术咨询合伙人亚当马龙说。“他们正在使用这些技术来生成更复杂的网络钓鱼电子邮件，创建虚假角色来促进他们的诈骗。”比稿的重点是机器学习的使用，它可能不仅仅是营销花言巧语，而是实实在在的东西。“试试看，”马龙说。“它真的很好用。”攻击者可以使用机器学习创造性地定制网络钓鱼电子邮件，以防止它们被标记为垃圾邮件，让目标用户有机会点击进入。他们定制的不仅仅是电子邮件的文本。攻击者将使用AI生成逼真的照片、社交媒体资料和其他材料，使通信尽可能真实。3.更高效的密码猜测网络犯罪分子还使用机器学习来猜测密码。“我们有证据表明，他们更频繁地使用密码猜测引擎，而且成功率更高。”网络犯罪分子正在构建更好的字典来破解被盗的哈希值。他们还使用机器学习来识别安全控制，这样他们就可以用更少的尝试来猜测密码，从而增加成功闯入系统的机会。4.Deepfakes最可怕的AI滥用形式是deepfake工具：一种生成看似真实的视频或音频的工具。“能够伪造某人的声音或外表非常有效，”Montenegro说。“如果有人假我的声音，我想你也会被骗。”它可能会使公司损失数百、数千甚至数百万美元。“人们接到老板的电话——那是假的，”德克萨斯大学计算机科学教授MuratKantarcioglu说。更常见的是，诈骗者使用AI生成逼真的照片、用户配置文件和网络钓鱼电子邮件，使它们看起来更可信。这是大生意。根据美国联邦调查局的报告，自2016年以来，商业电子邮件欺诈已造成超过430亿美元的损失。去年秋天，媒体报道称，香港一家银行被骗取向犯罪团伙转账3500万美元，仅仅因为一名银行员工接到来自他认识的公司董事。他认出了导演的声音，毫无疑问地授权转移。5.中和现成的安全工具当今常用的许多安全工具都内置了某种形式的人工智能或机器学习。例如，防病毒软件在查找可疑行为时依赖的不仅仅是基本签名。“任何在线可用的东西，尤其是开源的，都会被坏人利用。”攻击者可以使用这些工具不是为了防御攻击，而是调整他们的恶意软件，直到他们可以逃避检测。“人工智能模型有很多盲点。”Kantarcioglu说，“你可以通过改变攻击的特征来调整它们，比如发送的数据包数量、攻击的资源等。”而且，攻击者不仅仅使用AI赋能安全工具。人工智能只是众多不同技术中的一种。例如，用户通常可以通过查找语法错误来学习发现网络钓鱼电子邮件。人工智能语法检查器，如Grammarly，可以帮助攻击者改进他们的写作。6.侦察机器学习可用于侦察，攻击者可以在其中查看目标的流量模式、防御和潜在漏洞。侦察不是一件容易的事，普通的网络犯罪分子做不到。“要使用人工智能进行侦察，你需要具备一定的技能。所以，我认为，只有高级国家黑客才会使用这些技术。”然而，一旦在某种程度上商业化，这项技术就可以通过地下黑市获得。如果以表格形式提供，那么很多人都可以利用它。“如果黑客国家团队开发了一个使用机器学习的工具包并将其分发给犯罪社区，这也可能发生，”梅伦说，“但网络犯罪分子仍然需要了解机器学习应用程序的力量和有效性，如何利用，这就是利用的门槛。”7.自治代理如果企业发现自己受到攻击并断开受影响系统的互联网连接，恶意软件可能无法连接回其命令和控制（C2）服务器以接收更多信息。操作说明。“攻击者可能想提出一种智能模型，即使在他们无法直接控制的情况下也能持续很长时间。”Kantarcioglu说，“但对于普通的网络犯罪，我认为这不是特别重要。”8.人工智能中毒攻击者可以通过向机器学习模型提供新信息来欺骗它们。“对手可以操纵训练数据集。例如，他们故意偏向模型，使机器以错误的方式学习，”全球风险研究所高级副研究员AlexeyRubtsov说。例如，黑客可以在每天凌晨2点登录系统来操纵被劫持的用户帐户，进行无害的工作，从而使系统认为凌晨2点工作没有任何可疑之处，从而减少用户必须经历的安全障碍数量。出于类似的原因，微软的Tay聊天机器人在2016年被教导为种族主义者。同样的方法可以用来训练系统认为特定类型的恶意软件是安全的，或者某些爬行行为是完全正常的。9.人工智能模糊测试合法的软件开发人员和渗透测试人员使用模糊测试软件生成随机样本输入，试图让应用程序崩溃或发现漏洞。此类软件的增强版本使用机器学习以更有针对性和结构化的方式生成输入，例如对最有可能导致问题的文本字符串进行优先排序。这类模糊测试工具在企业使用时可以取得更好的测试效果，但在攻击者手中也更加致命。这些技术是安全补丁、反网络钓鱼教育和微分段等网络安全措施仍然至关重要的原因之一。“这就是纵深防御如此重要的原因之一，”福雷斯特研究所的梅伦说。防止恶意黑客使用机器学习和人工智能投资机器学习需要大量的专业知识，而机器学习相关的专业知识目前是一种稀缺技能。而且，由于有如此多的漏洞未修补，攻击者可以使用许多简单的途径来破坏企业防御。“有太多唾手可得的果实和其他途径，你可以在不使用机器学习和人工智能发动攻击的情况下赚钱，”梅伦说。“根据我的经验，在绝大多数情况下，攻击者并没有使用这些技术。”然而，随着企业防御能力的提高，以及网络犯罪分子和黑客国家继续投资于漏洞利用，平衡可能很快就会开始转变。
