根据波士顿咨询集团（BCG）的数据，美国和日本超过90%的网络安全专业人士预测，攻击者将开始使用人工智能发起攻击.事实上，这已经成为现实。人工智能为网络攻击者提供了“核力量”，使他们能够在速度、数量和复杂性方面将攻击放大到新的水平。专家表示，基于人工智能的攻击有高达15%的机会绕过传统检测系统；一次普通的网络钓鱼攻击（没有AI）只有0.3%的几率。AI带来的安全风险在应对这一日益增长的威胁时，许多人建议基于AI的攻击需要基于AI的防御。例如，深度造假（DeepFakes）可以欺骗身份安全认证系统，应采用人工智能支持的更高认证。当前存在人工智能带来的风险。企业应尽快采取行动保护其系统免受这些攻击。WannaCry（一种“蠕虫式”勒索软件）已将网络攻击提升到一个全新的复杂程度——现在如果加入人工智能会怎样？DeepFakes是一款风靡全球的AI换脸工具。本软件可以简化专业复杂的AI换脸流程，将别人的头像快速转换为自己的头像，实现极速换脸。人工智能如何实现网络攻击可扩展性在BlackHat2016上，高级研究人员首次展示了自动化鱼叉式网络钓鱼程序。鱼叉式钓鱼的目标不是普通个人，而是特定公司和组织的成员。所窃取的信息并非一般钓鱼所窃取的个人数据，而是其他高度敏感的信息，如知识产权、商业机密等。这些研究人员展示了如何使用数据科学和机器学习来自动化和扩展鱼叉式网络钓鱼攻击。黑帽大会创办于1997年，是公认的全球信息安全行业最高盛会、技术含量最高的信息安全大会。会议引领安全思想和技术方向，与会者包括来自企业和政府的研究人员，甚至一些民间团体。为保证会议能够立足实际，能够尽快提出解决方案、问题解决方案和操作技巧，会议环境保持中立、客观。模仿几个月前，伦敦大学学院道斯未来犯罪中心的专家将深度伪造列为最严重的AI犯罪威胁。不难看出原因。Deepfakes是虚假信息和欺骗的工具。此外，不良行为者可用于冒充您信任的人进行金融欺诈。最糟糕的是它们很难被发现。如果不能防止伪造和变造，它们还会导致对视听证据的不信任。人工智能逃避检测的一种方式是“数据中毒”。通过定位和破坏用于训练和配置智能威胁检测系统的数据，例如将垃圾邮件标记为安全，攻击者可以更加隐蔽和危险地进行攻击。研究表明，仅对3%的数据集进行投毒可使检测系统出错的可能性增加91%。人工智能可以快速适应防御机制并将其攻破。自动化这些只是人工智能如何增强安全攻击的几个例子。如果人工智能攻击基于自动化和机器学习，它们会更加严重。自动化技术突破了人类努力的极限，而机器学习使攻击算法能够根据经验不断改进，无论攻击成功与否都提高了效率。这意味着除非开发出更强大的对策，否则基于人工智能的攻击只会变得更加强大和危险。AI防御AI基于机器学习的威胁检测在用AI防御AI的过程中，机器学习起到了帮助自动检测威胁的作用，尤其是在传统杀毒和防火墙系统无法防御的新威胁下。机器学习可以将误报率显着降低50%到90%。与上一代基于签名的检测工具不同，机器学习可以监控和记录组织成员的网络使用模式，并在检测到异常行为时提醒主管。93%的SOC（片上系统）现在使用人工智能和机器学习工具进行威胁检测。生成的数据越多，遭受的网络攻击越复杂，专业的安全专业人员将不得不通过有监督和无监督的机器学习来增强他们的防御和检测能力。强认证弱认证是入侵者获得未授权访问的最常见方式。而且，正如deepfakes所见，即使是生物识别身份验证也不再万无一失。人工智能将通过为身份验证添加更多条件来提高防御的有效性（现在在许多需要面部身份验证的情况下添加眨眼或张嘴的命令）。同时认证也将扩展到实时智能。也称为自适应智能，它评估位置信息、IP地址、设备信息、数据敏感性等详细信息，以计算风险评分并授予或限制访问权限。例如，如果一个人总是在工作日的早上登录计算机，并在周末尝试从移动设备登录到餐厅，这可能是系统将对其进行标记的迹象。在智能安全模型中，攻击者仅仅知道系统密码是不够的。除此之外，人工智能驱动的身份验证系统将开始实现持续身份验证、持续行为分析。该系统不再只是一次千载难逢的登录，而是在后台持续工作，通过分析用户的环境和行为来识别可疑模式，从而对用户进行身份验证。网络钓鱼预防增强的威胁检测是人工智能可用于防止电子邮件网络钓鱼攻击和阻止危险链接的一种方式。也可以通过简单的内容分析来实现。假设您收到一封据称来自CEO的电子邮件。人工智能可以分析电子邮件，找出与实际CEO沟通方式不一致的地方：写作风格、语法和用词选择等特征。防止您掉入陷阱，安全浏览、下载相关内容。AI还可以扫描电子邮件元数据以检测更改的签名，即使电子邮件地址看起来不错。它还可以扫描链接和图像以验证其真实性。预测分析AI在网络安全中的最大好处是能够在攻击发生之前预测和构建防御。人工智能可以帮助主管保持对组织整个网络基础设施的完全控制，并分析和检测可能存在的漏洞。IT部门越来越发现实时安全性很困难，而AI可以让他们的工作更轻松。人工智能是我们对抗零日漏洞（也称为零日攻击，指的是立即发现并被恶意利用的安全漏洞）的最佳选择，使我们能够在这些漏洞被恶意行为者利用之前快速构建智能防御。人工智能网络安全正在成为企业机构和组织的数字免疫系统，类似于人体系统抗体，随时准备攻击外来物质。Spearvs.Shield去年，一些澳大利亚研究人员通过不使用常见的数据中心投毒方法绕过了著名的CylanceAI防病毒软件。他们只是研究了防病毒软件的工作原理并创建了一个通用的绕过解决方案。该演习引发了对人工智能在网络安全方面有效性的质疑。然而，更重要的是，这项研究强调了人工智能并非万能的事实，人类需要不断提高人工智能应对更高级网络威胁的能力。关键是我们必须把人工智能作为对付人工智能的最佳攻防手段。
