全球新一轮科技革命和产业变革方兴未艾，人工智能作为引领新一轮科技革命和产业变革的核心驱动力之一，已经近年来被广泛应用于金融、电子商务、医疗等领域。景气之外，人工智能产业也存在隐忧：随着全球人工智能大规模建设和应用的加速推进，人工智能基础设施、设计研发、集成应用面临的安全风险日益凸显。越来越突出。中国信通院与RealAI、百度、腾讯等单位联合撰写的《人工智能安全框架(2020年)》表明，随着深度伪造技术开源代码和APP应用的增多，不法分子利用深度伪造技术伪造侵犯个人肖像权、名誉权和隐私权的视频并不少见。截至2019年12月，虚假色情内容在互联网上流传的Deepfake视频中所占比例高达96%。而这只是冰山一角。指纹和人脸识别留下的生物特征信息、自动驾驶留下的个人行踪记录、手机APP保存的个人隐私数据、医院保存的诊疗记录……人工智能跑进了人们工作和生活的诸多场景。各种行为被记录并存储为数据，由此产生的数据泄露、数据伪造、算法瓶颈、隐私安全、伦理困境等问题正在逐渐浮出水面。据相关报道，今年7月，不法分子在电商平台上出售人脸信息。以5分钱一张的低价出售后，盗取的人脸信息被用于虚假注册、电信和网络诈骗等犯罪活动。尴尬的是，《人工智能安全框架(2020年)》表明，现阶段人工智能企业主要以技术研发和产品运营为主，人工智能安全投入相对较少，基础薄弱。目前，人工智能安全技术多处于学术研究和少量实验试验阶段，尚未形成适合各类人工智能应用的成熟安全产品和服务体系。人工智能产业健康有序发展，安全是重要保障，是形势要求，是某些技术落地不可或缺的前提。谈人工智能没有安全，就如同无源之水、无本之木。实践也证明，当前人工智能安全需求与企业安全投入不足的矛盾，以及人工智能安全产品和服务的匮乏，正在成为制约人工智能产业长远发展的瓶颈。站在发展困境与时代机遇交叠的关键时刻，业界期待产学研各界通力合作，不断完善升级更安全、可信、可靠的人工智能技术，强化人工智能安全防护栏，让人们安心享受。这个技术红利。
