当前，AI医疗、智能家居、自动驾驶、智能交易等人工智能的发展正在不断颠覆企业的商业模式，改变我们的生活方式。中国科学院院士、上海交通大学副校长毛俊发表示，人工智能作为“加速器”，已经涉及到医疗、金融、交通、新闻等各个行业，能够有效解决面临的问题依托传统产业，充分发挥大数据的价值，为传统产业赋能。工业发展。“人工智能发展的本质是在完全信息化、结构化的环境下，利用算法、计算能力和数据来解决确定性问题。”毛俊发认为，随着算法、算力和数据的进一步发展，必将加速万物智能时代的到来，打通人工智能赋能各种场景的重要通道，实现万物互联。一切。但不可否认的是，人工智能在为人类生产生活服务和赋能的同时，也带来了不容忽视的安全隐患。【人工智能安全问题分类】一、数据风险1、“数据中毒”所谓“数据中毒”，是指人工智能训练数据受到污染，导致人工智能决策失误。通过在训练数据中加入虚假数据、恶意样本等，破坏数据的完整性，导致训练后的算法模型决策出现偏差。“数据中毒”主要有两种攻击方式：一种是利用模型倾斜，攻击目标是训练数据样本，通过污染训练数据达到改变分类器分类边界的目的；另一种是利用反馈误导，攻击目标是人工智能本身的学习模型，利用模型的用户反馈机制发起攻击，直接向模型“注入”伪装的数据或信息，误导人工做出错误判断的智慧。“数据中毒”危害很大，尤其是在自动驾驶领域，会导致车辆违反交通规则，甚至引发交通事故。2.数据泄露一方面，反向攻击会导致算法模型内部的数据泄露；另一方面，人工智能技术可以加强数据挖掘和分析能力，增加隐私泄露的风险。例如，各种智能设备（如智能手环、智能音箱）和智能系统（如生物特征识别系统、智能医疗系统）、人工智能设备和系统在收集个人信息方面更加直接和全面。人工智能应用采集的信息包括人脸、指纹、声纹、虹膜、心跳、基因等，具有很强的个人属性。这些信息是唯一且不可篡改的，一旦泄露或被滥用将产生严重的后果。3.数据异常运行阶段的数据异常会导致智能系统运行出错，同时模型盗窃攻击可以逆向还原算法模型的数据。此外，开源学习框架存在安全隐患，也可能导致人工智能系统数据泄露。2.算法风险图像识别、图像欺骗等会导致算法问题，比如自动驾驶。谷歌也做了一些研究。如果模型文件被黑客恶意修改并从中学习，会产生完全不同的结果；设计或实现中的算法错误会产生意想不到甚至有害的结果；算法中隐藏的偏见和歧视可能导致不公平的决策结果；算法的黑匣子让人工智能的决策无法解释，造成监管和审查的困境；包含噪声或偏差的训练数据可能会影响算法模型的准确性。3、网络风险人工智能必然会引入网络连接，网络本身的安全风险也会将AI带入风险的深坑；人工智能技术本身还可以提高网络攻击的智能化水平，进而进行智能数据窃取；人工智能可用于自动锁定目标以进行数据勒索攻击。人工智能技术通过特征库学习，自动发现系统漏洞，识别关键目标，提高攻击效率；人工智能可以自动生成大量虚假威胁情报来攻击分析系统。人工智能可以利用机器学习、数据挖掘、自然语言处理等技术对安全大数据进行处理，自动产生威胁情报，攻击者也可以利用相关技术产生大量错误情报来迷惑判断；人工智能可以自动识别图像验证码，窃取系统数据。图像验证码是一种常见的防止机器人账户滥用网站或服务的验证措施，但人工智能可以通过学习使这种验证措施失效。4.其他风险第三方组件也会出现问题，包括文件处理、网络协议、各种外部输入协议的问题。被黑客利用将带来灾难性的破坏。【说白了：再强大的安全验证，到头来也不过是一串数据而已！】我们要清醒地认识到，人工智能时代的数据安全也面临着许多新的挑战。保护数据安全和算法安全成为企业的当务之急。
