随着人工智能(AI)和机器学习(ML)越来越多地在组织中部署，它们的任务是解决一些最大的业务挑战。最困难的问题之一：IT安全。据IBMSecurity称，到2020年，全球数据泄露的平均成本为386万美元，美国为864万美元。随着我们的技术堆栈因微服务、物联网和云服务而变得越来越复杂，我们必须保护的端点数量也在不断增加。企业可以利用人工智能的力量来对抗更微妙的恶意软件和网络钓鱼攻击。我们还可以使用它来增强我们的安全团队，使他们能够应对越来越多的威胁。随着这些算法成为我们IT系统中越来越重要的部分，我们还需要思考如何保护我们自己的AI。让我们深入探讨人工智能和机器学习对保护我们组织的影响。识别不断发展的恶意软件和网络钓鱼攻击恶意软件和网络钓鱼攻击正变得越来越复杂。恶意软件作者不断生产新变种，丢弃旧病毒签名以逃避检测。这是打地鼠的终极游戏，因为安全专业人员会追查这些不断变化的病毒蓝图。机器学习可以提供帮助。通过使用所有已知恶意软件的历史目录，它可以查明常见的行为模式，例如常见的文件大小、这些文件中存储的内容以及代码中隐藏的字符串模式。通过识别这些指纹，可以实时关闭新病毒或现有病毒的变种。机器学习可以实时查明模式并关闭恶意软件。使用人工智能，网络钓鱼攻击变得类似于经过微调的营销电子邮件。犯罪分子不仅可以通过网络挖掘您的姓名和电子邮件地址，还可以挖掘您的工作地点、您的兴趣以及您信任的朋友和同事的姓名。这始终可以手动完成，但人工智能使黑客能够大规模构建这些自定义配置文件。除了针对特定主题和人员定制电子邮件内容外，黑客还可以分析电子邮件响应，以查看哪些措辞会触发更高的点击率，因为它会不断学习如何制作完美的网络钓鱼钩子。为了解决这个问题，我们可以设置AI来监控我们的网络，以识别员工日常活动中的模式。建立基线后，该模型可以识别网络钓鱼链接的点击何时不稳定，并在用户凭据受到威胁之前关闭恶意活动。它是围绕用户构建的非常有针对性的安全墙，对整个网络和业务的干扰最小。加入竞赛AI社区一直是开源的坚定支持者。他们定期共享源代码和数据集，以帮助进一步开发这项有前途的技术。不幸的是，您不能在代码库周围放置带刺铁丝网以防止坏人进入。当你将这些现成的工具与云计算的力量结合起来时，任何黑客都拥有工具和基础设施来构建基于AI的攻击以达到毁灭性的效果。虽然关于有多少黑客受AI支持的数据有限，但我们知道这将是未来几年黑客工具包中的一项必备技能。随着AI工具变得越来越强大，计算时间越来越便宜，哪个黑客不想加强他对类固醇的攻击？这确实是一场军备竞赛，组织将被迫部署人工智能安全解决方案，以跟上流氓行为者的脚步。保护AI免受黑客攻击的问题还有另一面：据Gartner称，37%的组织已经在一定程度上实施了AI。这比四年前增加了470%。人工智能和机器学习正迅速成为我们IT基础设施的重要组成部分。这使他们成为目标。如果黑客可以访问我们的人工智能，他们就可以毒害我们的数据来感染我们的模型。他们可以利用我们算法中的错误来产生意想不到的结果。无论是执行军事任务的无人机还是向客户交付产品的工作流程，失败都可能是灾难性的。增强而不是取代安全人员人们听说机器人和人工智能如何准备好取代他们的工作。但通常情况下，人工智能会补充我们的工作，使我们能够更有效地履行职责。网络安全也不例外。人工智能安全工具不是你安装后就忘记的东西。它们是机器学习模型，必须在数百万个数据点上进行训练。如果模型没有产生预期的响应，您将比以往任何时候都更容易受到攻击，因为您是在错误的安全感下操作。一旦模型被审查，工作就不会停止。这种新的监控可能会比您以前的解决方案捕获更多异常。安全专业人员需要对这些警报进行分类，以将潜在威胁与噪音分开。没有适当的勤奋，一切都会变成噪音。人工智能在安全领域的局限性人工智能和机器学习并不是万能的。安保人员必须与这些模型密切合作，对它们进行培训和磨练，而这些专业人员既不便宜也不容易找到。另一个挑战是数据和成本：我们需要积累足够干净的数据来构建我们可以信任的稳健算法。干净的数据不会发生这种情况——必须对其进行分析和验证以确保其准确性。存储大量数据和购买必要的计算时间来运行大量ML算法的成本高得令人望而却步，实施一个包罗万象的AI安全解决方案对某些人来说可能过于昂贵。根据《哈佛商业评论》，40%的高管表示人工智能计划所需的技术和专业知识过于昂贵。传统的防病毒和防火墙解决方案无法跟上零日威胁和恶意软件变体的浪潮。人工智能和机器学习提供了一个主动的解决方案。他们可以从用户社区中找到行为模式，以防患于未然。人工智能可以帮助安全专业人员消化大量数据以查明问题。他们可以帮助我们跟上AI黑客社区对它的伤害意图。人工智能在成为所有企业的安全解决方案之前还有一些成熟的工作要做，但它正在迅速发展。如果没有以人工智能和机器学习为核心，很难想象IT安全的未来。
