随着AI和人工智能的落地，数据安全无法回避这四大问题在教育场景概念演示中，某企业展示的一张课堂行为分析图，引发网友对技术滥用的争议。随即，该公司发布回应声明，表示始终坚持科技向善，让人工智能造福所有人。在人工智能技术的各种场景中，将坚持合法性和数据隐私保护等核心原则，广泛接受社会的建议和监督。针对人工智能进校园现象和生物识别技术在校园的逐步应用，9月5日，教育部科技司司长雷朝子在接受采访时表示，“（对于人脸识别技术的应用）我们要限制和管理。现在我们希望学校非常谨慎地使用这些技术软件。”雷超子指出，人脸识别进入校园，既有数据安全问题，也有个人隐私问题。非常谨慎，不能收藏就不要收藏。能收集的就尽量少收集，尤其是涉及个人生物信息的时候。”事件二：今年2月，荷兰安全研究员VictorGevers在社交媒体上发文称，里面的一个MongoDB数据库某公司暴露在公网上，数据库中超过250万人的个人信息数据可以不受限制地访问，包括身份证数据、照片、工作信息等。此外，数据库还可以动态记录个人位置信息，仅2月12日至2月13日的24小时内，记录的位置就超过680万个。近年来，在人工智能等新技术的催化下，信息泄露正在围绕“数据”展开，涉及各种事物、物体、人、企业、政府部门等，包括相关的生物特征和行为特征主题的风险它也可能以数字泄漏的形式出现。这些数据一旦被非法恶意使用，将危及公民的个人信息安全和财产安全，危及特定企业或行业的经营安全，甚至危及国家安全。每一轮先进技术的出现，都将对人类社会的发展起到巨大的推动作用。先进技术本身并没有善恶的属性。就像人脸识别技术，公安部门用它抓捕逃犯或寻找失踪人员，交通部门用它控制违法行为，企业用它考勤，轨道交通部门用它查票。;但也有人用它来玩明星换脸，或者植入色情视频，或者用它来非法侵入别人的账号。在非传统安全风险领域，人工智能等新兴技术在放大正面价值效应的同时，会放大其负面影响。关键是谁在使用先进的技术？使用它的目的是什么？怎么做？如何监督？针对这些问题，雷锋网采访了广州市保安协会秘书长杨勇。在他看来，未来人脸识别等技术在安防、教育等行业的应用还存在四大不足。1、人脸数据采集无门槛。无论是行业或商业项目，还是消费或娱乐项目，无论什么样的企业都可以通过各种渠道收集到大量的数据。采集过程中涉及大量个人隐私信息、肖像权保护等问题，甚至涉及敏感人员的保护。那么，我们是否需要为人脸数据的采集设定准入标准呢？这种准入机制如何区别对待以研究为目的的科研机构和以商业利益为目的的企业？不同行业，准入机制应该如何区分？其次，人脸数据在申请过程中缺乏保密感。通过各种渠道采集的多维数据，经过人工智能技术处理，再通过大数据的碰撞聚合分析，产生更多更深层次的数据，可以实现用户画像、知识图谱等成果。这些成果本身就很有价值，有些是保密的。但在这些数据的应用过程中，目前缺乏明确的保密规则和措施。在专业行业项目建设中，公安用户主管部门具有很强的保密意识，但在商业、消费、娱乐、民用等项目建设中，这些数据在应用过程中的保密意识是基本空白。更不用说流行的换脸APP系统中的明星人脸侵权，以及间接收集用户人脸数据等侵权行为。3.人脸等数据的保存缺乏保密措施，或者保密性不高不到位。一个公司的数据库暴露在公网上就是一个典型的案例。无论是将人脸数据保存在本地服务器还是网络空间，相关企业如何保证这些存储介质的安全？在具体项目中，人脸库是如何加密的，访问权限和提取权限是如何设置的？四是违规人脸识别应用行为监管难度大。在人工智能落地安防和泛视频应用业务中，不同企业基于各类目的，大多希望抓住人工智能技术的机遇，推动各类创新业务和应用的落地。这样就实现了企业的商业利益。用户希望引入人工智能技术，实现更多创新应用，提升管理效率，实现产业转型升级。但不排除部分企业和用户为谋取违法犯罪利益，利用人工智能技术从事违法犯罪活动。目前在各种新闻事件中报道的案例可能只是一个开始。因此，需要如何对相关系统项目在建设过程中的应用目的进行监督和评估，包括监测其在运行过程中的违法违规行为。出于社会公共利益的目的，相关技术系统是由什么机构监管的？如果以商业利益为目的而建设，如何有效保障大众目标受众的知情权、许可权等权利？这些都是需要考虑的问题。此外，在一些项目系统的应用中，人脸数据在公网传输（本质上相当于裸奔），一些人工智能公司在从国外引进的开源算法的基础上进行二次开发。掌握底层技术和源代码等，这些现象都是潜在风险发生的节点。目前，在多个省市的数字城市TOG建设规划文件中，对数据生成、应用、存储、基础设施建设等方面的安全保护都有较为明确的规定。定向、多层次、连贯的安全防护体系，强化数据安全防护，有效保障“数字政府”信息基础设施、平台和应用系统的顺畅、高效、安全运行。提升安全管理、安全保障、安全使用等立体防护能力。完善基于物理、网络、平台、数据、应用、管理的六层立体安全防护体系。目前还缺乏一套能够涵盖核心技术、产品体系、建设、运营、使用、监管等主体对象的系统性机制或规则，以往在以视频图像为核心的安防系统建设中，中国图像图形学会视频监控与安全专委会、公安部安全技术与风险评估重点实验室学术委员会等专家组参与，自上而下开展工作bottom建立了较为完备的法规、标准、规范性文件体系，在人工智能进入新时代智能技术在安防或视频应用领域快速落地，是时候开始推进管理机制、标准规范、安全策略、技术支撑等安全保护体系的建设，以解决由此产生的数据安全保护问题。
