许多利益相关者开始接受AI也可以成为“邪恶”力量的事实。据国外相关媒体报道，在美国和日本，超过90%的网络安全专业人士预计黑客会开始利用人工智能发起攻击。事实上，这已经成为现实。人工智能为网络黑客提供了巨大的机会，可以在速度、数量和复杂性方面大幅增加攻击。根据Cyxtera的AlejandroCorreaBahnsen的说法，基于AI的攻击可以在超过15%的时间内绕过传统检测系统，而普通的网络钓鱼攻击（没有AI）只能在0.3%的时间内检测到攻击。用AI防御AI：下一代网络威胁的AI解决方案在应对这种日益增长的威胁时，需要注意的是，在攻击它们的同时也可以进行基于AI的防御。也就是说，deepfakes可以欺骗安全系统，从而应用更高级别的AI支持的身份验证等等。我们才刚刚开始接受人工智能的风险。企业应尽快采取行动保护其系统免受这些攻击。WannaCry为网络攻击带来了完全不同的复杂程度——现在有了人工智能？好吧，我们不知道会发生什么。人工智能在网络攻击中的风险1.可扩展性在BlackHat2016上，高级研究人员首次展示了自动鱼叉式网络钓鱼程序。鱼叉式网络钓鱼通常是一种任务分工且耗时的过程方式，具体取决于攻击范围。攻击者可能需要收集有关目标的大量信息才能进行有效的社会工程。这些研究人员展示了如何使用数据科学和机器学习来自动化和扩展鱼叉式网络钓鱼攻击。2.假冒早在几个月前，就有专家认为人工智能将是未来网络犯罪的主要威胁。因为人工智能体现了当前网络犯罪分子的所有智能特征，而且它可以学习模仿。这种冒充很容易欺骗一些人，并以特定的方式进行欺骗。更糟糕的是，人工智能是一个独特的产品，在实施过程中可能会不断升级和自我修正，所以很多时候我们心存疑虑，都会先遇到它。有些人可能会说使用更高级的语音或生物识别身份验证。但为何风靡一时的“蚂蚁雅禾”突然消失，是因为它暴露了人脸识别生物识别的安全漏洞。3.逃避检测人工智能可以用来逃避检测的一种方式是数据投毒。通过锁定和销毁用于训练和配置智能威胁检测系统的数据，例如，使系统明显地将垃圾邮件标记为安全，黑客可以更隐蔽、更危险地转移目标。研究表明，仅对3%的数据集进行投毒，就会使出错的可能性增加91%。人工智能可用于规避攻击以及调整防御机制。4.复杂性以上所有观点都强调了AI如何增强攻击。由于自动化和机器学习，人工智能攻击更加严重。无论攻击成功与否，自动化都会突破人类努力的极限，而机器学习使攻击算法能够根据经验进行改进并变得更加高效。适应性意味着基于人工智能的攻击只会变得更强大、更危险，除非开发出更具抵抗力的创新工具。用AI防御AIA.机器学习威胁检测在用AI防御AI中，机器学习可以帮助自动检测威胁，尤其是传统杀毒和防火墙系统无法防御的新威胁。机器学习可以将传统威胁检测中的严重威胁误报实例显着减少50%到90%（网络安全情报）。与上一代基于签名的检测工具不同，机器学习可以监控和记录组织中员工的网络使用模式，并在观察到异常行为时发出警报。显然，93%的SOC现在都在威胁检测中使用人工智能和机器学习工具。生成的数据越多，网络攻击越复杂，安全专业人员必须通过有监督和无监督的机器学习来增强防御和检测能力。B.通过增强型AI进行身份验证弱身份验证是恶意行为者获得对端点的未授权访问的最常见方式。甚至生物特征认证也不再是万无一失的。人工智能通过增加防御能力来提高防御能力认证要求。基于风险的身份验证工具使用AI支持的行为生物识别技术来识别可疑活动并防止端点受损。然后，身份验证扩展到具有实时智能的用户验证。RBA也称为自适应智能，它评估位置信息、IP地址、设备信息、数据敏感性等详细信息，以计算风险评分并授予或限制访问权限。例如，如果一个人总是在工作日早上从计算机登录，并且有一次在周末尝试从移动设备登录在餐厅，这可能是异常的迹象并被及时标记。对于智能RBA安全模型，攻击者仅知道系统密码是不够的。除此之外，AI身份验证系统将开始实施持续身份验证，同时仍使用行为分析。系统不会在每个会话仅登录一次并在中途受到攻击，而是在后台持续工作，通过分析用户的环境和行为来识别可疑模式，从而对用户进行身份验证。C.用于网络钓鱼预防的AI增强型威胁检测是用于防止电子邮件网络钓鱼攻击并在使用网站下载媒体内容时启用安全性的AI。也可以通过简单的行为分析来实现。假设您收到一封来自您所谓的老板的电子邮件或消息。AI可以分析消息并找出与实际老板通常的沟通方式或行为不一致的模式。写作风格、语法和单词选择等功能可以揭示不一致之处，防止陷阱，并安全地浏览和下载。AI还可以扫描电子邮件元数据以检测被篡改的签名，即使电子邮件地址看起来没问题。它还会扫描链接和图像以验证其真实性。与使用易于绕过的过滤器阻止恶意电子邮件的传统反网络钓鱼工具不同，人工智能直接进入网络钓鱼电子邮件的核心：社会工程。社会工程攻击之所以难以克服，是因为它们是心理上的，而不是技术上的。到目前为止，纯粹的人类智慧和怀疑主义一直是克服它们的工具。现在，人工智能加强了预防，使担忧超出了人类的极限。通过识别人类不太明显的模式，即使电子邮件不包含任何可疑链接或代码，AI也可以确定电子邮件何时是恶意的。它通过自动化大规模地做到这一点。D.预测分析人工智能在网络安全中的最终优势是能够在攻击发生之前预测和建立防御。人工智能可以帮助人类看门狗保持对组织整个网络基础设施的全面了解，并分析端点以检测可能的违规行为。在这个远程工作和BYOD政策盛行的时代，IT部门越来越难以确保端点安全，而AI可以让他们的工作变得更轻松。AI是我们应对零日漏洞的最佳选择，使我们能够在这些漏洞被恶意行为者利用之前快速构建智能防御。AI网络安全正在成为我们组织的一种数字免疫系统，类似于人体中的抗体如何成为针对外国代理人的系统性攻击。结论去年，一些澳大利亚研究人员通过不使用数据集投毒的常用方法绕过了著名的CylanceAI杀毒软件。他们只是研究了杀毒软件的工作原理并创建了一个通用的绕过解决方案。该演习呼吁质疑让计算机决定什么是值得信赖的做法，也引发了对人工智能在网络安全方面有效性的质疑。然而，更重要的是，这项研究强调了人工智能不是灵丹妙药的事实，人类监督仍然是对抗高级网络威胁所必需的。我们所知道的是，单靠人类的努力和传统的网络安全工具不足以克服由人工智能驱动的下一代网络威胁。我们必须把人工智能作为对抗人工智能的最佳攻防手段。
