自动驾驶技术、智能助手、人脸识别、智能工厂、智慧城市等人工智能技术得到广泛应用。这些令人难以置信的技术正在迅速改变我们的生活。然而，相关领域的安全事件也在快速增加，这让研究人员和用户越来越关注人工智能的安全性。人工智能应用带来的红利和由此带来的安全隐患，就像一个硬币的正反两面，需要全行业密切关注并寻找有效的解决办法。日前，安全研究人员梳理总结了人工智能技术在实际应用中经常面临的七大数据安全威胁。威胁1模型中毒模型中毒是一种旨在操纵机器学习模型结果的对抗性攻击形式。威胁行为者可能会尝试将恶意数据注入模型，导致模型对数据进行错误分类并做出错误决策。例如，工程图像可以欺骗机器学习模型将它们分类为与人类最初分类它们不同的类别（例如，将猫的图像标记为老鼠）。研究发现，这是欺骗人工智能系统的有效方法，因为在输出之前无法判断特定输入是否会导致错误预测。为防止恶意行为者篡改模型输入，组织应实施严格的访问管理策略以限制对训练数据的访问。威胁二隐私泄露隐私保护是一个敏感问题，需要格外注意和重视，尤其是当AI模型包含未成年人数据时，问题就更加复杂了。例如，对于一些针对青少年的借记卡选项，银行必须确保其安全标准符合法规遵从性要求。所有以任何形式或通过任何方式收集客户信息的公司都需要制定数据保护政策。这样，客户就可以知道组织如何处理他们的数据。然而，用户如何知道自己的数据是否正在流入人工智能算法的应用中？很少（或者可以说几乎没有）隐私政策包含此信息。我们正在进入一个AI驱动的时代，对于个人而言，了解企业如何使用AI、其功能及其对数据的影响将变得非常重要。同样，攻击者可能会尝试使用恶意软件窃取敏感数据集，其中包括信用卡号或社会保险号等个人信息。组织必须定期进行安全审计，并在人工智能开发的所有阶段实施强有力的数据保护措施。隐私风险可能发生在数据生命周期的任何阶段，因此为所有利益相关者制定统一的隐私安全策略非常重要。威胁3数据篡改数据操纵、暴露和篡改带来的风险在大规模人工智能应用场景下被放大，因为这些系统需要根据大量数据做出分析决策，而这些数据很容易被操纵或篡改。被恶意行为者操纵。篡改。此外，算法偏差是人工智能大规模应用面临的另一大问题。人工智能算法和机器学习程序应该是客观和公正的，但事实并非如此。人工智能算法的数据篡改威胁是一个巨大的问题，没有简单的解决方案，但需要引起注意。如何保证输入算法的数据准确、可靠、不被篡改？你如何确保数据不被以不正当的方式使用？所有这些问题都是非常现实的问题，业界尚未找到明确的答案。威胁4内部威胁就数据安全而言，内部威胁无疑是最危险、成本最高的一类。据最新的《内部威胁成本：全球报告》，在过去的两年里，内部威胁事件的数量增长了44%，平均每起事件的损失成本为1538万美元。内部威胁之所以如此危险，是因为他们的动机不一定是金钱，而可能是出于其他因素，例如报复、好奇心或人为错误。因此，它们比外部攻击者更难预测和阻止。对于那些涉及公民健康的企业来说，内部威胁无疑危害更大。以医疗保健服务提供商HelloRache为例。该公司使用基于人工智能的虚拟抄写员（协助医生完成计算机相关任务的助手）工具，因此他们可以远程协助医生照顾病人和做病历。但如果内部人员找到了方法，可能会导致系统出现错误连接，甚至会窃取患者的医疗信息。威胁5有针对性和蓄意攻击一项研究数据显示，86%的企业组织已经开始将人工智能作为未来数字化发展的“主流”技术，并加大对各种数据驱动的人工智能技术的投入，以帮助企业做出更好的决策，改善客户服务，降低成本。但有一个问题：对AI系统的蓄意攻击正在增加，如果没有适当的控制，它们可能会使组织损失数百万美元。“故意攻击”是指通过侵入人工智能系统，有目的地破坏组织的业务运营，目的是获得相对于竞争对手的竞争优势。对AI和ML的数据安全威胁在蓄意攻击场景中尤其具有破坏性。因为这些系统中使用的数据通常是专有的并且具有很高的价值。当AI系统成为目标并受到蓄意攻击时，其后果不仅仅是数据被盗，还会影响公司的竞争能力。威胁6人工智能的大规模采用是一个快速发展的行业，这意味着它们仍然容易受到攻击。随着AI应用程序在世界范围内变得越来越流行和采用，黑客将找到新的方法来干扰这些程序的输入和输出。人工智能通常是一个如此复杂的系统，以至于开发人员很难知道他们的代码在各种应用情况下的行为方式。当无法预测将要发生的事情时，就很难阻止它的发生。保护您的企业免受大规模应用程序威胁的最佳方法是结合良好的编码实践、测试流程，并在发现新漏洞时及时更新。当然，不要放弃传统形式的网络安全预防措施，例如使用托管数据中心来保护服务器免受恶意攻击和外部威胁。威胁7人工智能驱动的攻击研究人员发现，恶意行为者正在利用人工智能来帮助他们设计和执行攻击。在这种情况下，“设计攻击”指的是选择目标，确定他们试图窃取或破坏的数据，然后决定传输方法。非法攻击者可以使用机器学习算法寻找绕过安全控制的方法来执行攻击，或者使用深度学习算法根据真实世界的样本创建新的恶意软件。安全专家必须不断防御越来越聪明的机器人，因为一旦它们阻止了一次攻击，就会出现一种新的攻击。简而言之，人工智能让攻击者更容易找到当前安全防护措施中的漏洞。参考链接：https://www.datasciencecentral.com/top-7-data-security-threats-to-ai-and-ml/
