人工智能(AI)和机器学习(ML)技术现已成为日常生活的一部分，其中包括网络安全。在网络安全专业人员的手中，人工智能/机器学习(ML)可以识别漏洞并缩短事件响应时间。但在网络犯罪分子手中，人工智能/机器学习(ML)可能会造成重大危害。以下是AI/ML影响网络安全的七种积极和七种消极方式。7AI/ML对网络安全的积极影响(1)欺诈和异常检测：这是AI工具在网络安全领域进行救援的最常见方式。复合AI欺诈检测引擎擅长识别复杂的欺诈模式。欺诈检测系统的高级分析仪表板提供有关攻击事件的全面详细信息。这是一般异常检测领域中极其重要的一个领域。(2)EmailSpamFilter：防御规则过滤掉带有可疑词语的邮件，以识别危险邮件。此外，垃圾邮件过滤器可以保护电子邮件用户并减少处理不需要的通信所需的时间。(3)僵尸网络检测：有监督和无监督的机器学习算法不仅有助于检测，还可以防止复杂的僵尸攻击。它们还有助于识别用户行为模式，以非常低的误报率识别未检测到的网络攻击。(4)漏洞管理：管理漏洞（手动或使用工具）可能很困难，但人工智能系统让它变得更容易。AI工具通过分析用户行为、端点、服务器甚至暗网上的讨论来寻找潜在的漏洞，以识别代码漏洞并预测攻击。(5)反恶意软件：人工智能技术帮助防病毒软件检测好文件和坏文件，从而识别新形式的恶意软件，即使以前从未见过。虽然用基于人工智能的技术完全取代传统技术可以加快检测速度，但也会增加误报率。结合传统方法和人工智能可以检测到100%的恶意软件。(6)数据泄漏预防：人工智能帮助识别文本和非文本文档中的特定数据类型。可以训练可训练分类器来检测不同类型的敏感信息。这些人工智能方法可以使用适当的识别算法在图像、录音或视频中搜索数据。(7)SIEM和SOAR：机器学习可以使用安全信息和事件管理(SIEM)和安全编排、自动化和响应(SOAR)工具来改进数据自动化和情报收集，检测可疑行为模式，并根据输入。AI/ML用于网络流量分析、入侵检测系统、入侵防御系统、安全访问服务边缘、用户和实体行为分析，以及Gartner描述的大部分技术领域。事实上，很难想象不采用某种人工智能/机器学习技术的现代安全工具。7人工智能/机器学习对网络安全的负面影响(1)数据收集：通过社会工程学和其他技术，机器学习技术被用来更好地描述受害者，网络犯罪分子利用这些信息来加速他们的攻击。例如，在2018年，WordPress网站经历了大规模的基于机器学习的僵尸网络感染，使黑客能够访问用户的个人信息。(2)勒索软件：勒索软件增长迅速。有许多犯罪成功的故事；最严重的事件之一导致Colonial石油管道中断6天，需要支付440万美元的赎金。(3)垃圾邮件、网络钓鱼和鱼叉式网络钓鱼：机器学习算法可以创建看起来像真实邮件的虚假邮件，旨在窃取用户凭据。在BlackHat会议的一次演讲中，JohnSeymour和PhilipTully详细介绍了机器学习算法如何生成带有虚假网络钓鱼链接的病毒式推文，其效果是人工创建的网络钓鱼消息的四倍。(4)Deepfakes：在语音钓鱼中，诈骗者利用机器学习生成的deepfake音频技术，制造更成功的网络攻击。DeepVoice等现代算法只需几秒钟的语音即可模仿受害者的声音、口音和语调。(5)恶意软件：机器学习可以隐藏跟踪节点和端点行为的恶意软件，并构建模仿受害者网络上合法网络流量的模式。它还可以在恶意软件中加入自毁机制，以加快网络攻击的速度。AI算法经过训练可以比人类更快地提取数据，因此更难预防。(6)密码和验证码：神经网络驱动的软件声称可以轻松破解人类识别系统。机器学习技术允许网络犯罪分子分析大型密码数据集，以更好地锁定密码猜测。例如，PassGAN使用机器学习算法比使用传统技术的流行密码破解工具更准确地猜测密码。(7)对人工智能/机器学习本身的攻击：滥用在医疗保健、军事和其他高价值部门的核心工作的算法可能会导致灾难。Berryville机器学习研究所的机器学习系统架构风险分析有助于分析已知的机器学习攻击分类并对机器学习算法执行架构风险分析。安全工程师必须学习如何在其生命周期的每个阶段保护机器学习算法。很容易看出为什么AI/ML受到如此多的关注。对抗复杂网络攻击的唯一方法是利用人工智能的防御潜力。业内人士必须注意机器学习在检测异常情况（例如流量模式或人为错误）方面的能力。通过采取适当的对策和措施，可以防止或显着减少可能的损害。总体而言，AI/ML在防范网络威胁方面具有重要价值。一些政府和企业正在使用或讨论使用人工智能/机器学习来打击网络犯罪分子。虽然围绕AI/ML的隐私和道德问题是合理的，但政府必须确保AI/ML法规不会阻止企业使用AI/ML进行保护。因为众所周知，网络犯罪分子不遵守这些规定。
