人工智能是计算机科学的一个新分支，可以模拟人类意识和思维的信息过程。在信息时代背景下，人工智能备受关注，其理论研究和应用技术日趋成熟，应用范围和市场规模不断扩大，但随之而来的安全问题也日益增多。在“新基建”等政策推动下，我国在人工智能领域的投入持续加大，人工智能与众多行业的融合加速。因此，人工智能安防产业的发展极为重要。学习是人工智能在实际应用中应该具备的功能，可以提高和扩展其能力。在学习的同时，人工智能收集的数据不断增加。由于不同机构提供的数据规范标准不同，这些数据构成极其复杂。但人工智能自身算法不足，无法依靠自身识别攻击的能力，叠加的新型攻击方式不断增多，对人工智能安全构成威胁。人工智能广泛应用于互联网、电子、通讯、医疗、交通、金融、工业、农业等各个领域，一旦受到攻击，应用于医疗设备、自动驾驶等领域的产品将对人身安全造成危害.人工智能等领域的产品会造成财产安全损失，通信等领域的产品会造成信息泄露，工业领域的产品会造成生产事故、危险品泄漏事故、废弃物污染事故等。因此，人工智能安全技术的进步极其重要。2014年，在人工智能攻击事件被证实后，人工智能安全研究迅速增加。根据中国信息通信研究院发布的数据，2014年全球人工智能安全风险论文发表量为6600篇，人工智能安全防御论文篇数为3090篇。到2019年，这一数据将增加到2.87万和1.26万；从发表论文数量来看，对抗样本攻击与防御是人工智能安全领域最受关注的研究方向。据新思捷产业研究中心《2021-2025年中国人工智能安全市场可行性研究报告》发布，2020年全球人工智能市场规模约13万亿元，到2030年有望达到100万亿元以上，年均复合增长率约23%%，呈现快速增长趋势。全球人工智能市场的快速增长，必然带动人工智能安全需求的快速增长。预计2020-2030年全球人工智能安防市场将以约26%的增速快速增长，发展前景极为广阔。新思捷行业分析师表示，人工智能可以引领诸多产业变革，提升产业竞争力。已成为全球多个国家的发展战略，赋予人工智能安防市场巨大的发展空间。受市场前景的吸引，为自身产品提供安全服务，全球进入人工智能安全领域的公司越来越多，如谷歌、百度、京东、字节跳动、锐来智能、地平线3.ai、Cylance、黑曜石等，ETC。。在我国“十四五”国家重点研发计划“网络空间安全治理”重点专项中，人工智能安全防御与评估技术被列入，将推动我国人工智能安全产业快速发展。
