4月26日，由国家互联网信息办公室主办的人工智能分论坛召开。主题。来自各行业相关领域的专家代表将围绕人工智能发展可能带来的风险和问题，探讨人工智能赋能社会治理的规律和经验，共同推动人工智能健康发展行业。论坛期间，由中央网信办信息化发展局评选的“人工智能企业典型应用案例”正式发布。本次案例评选旨在发现和挖掘人工智能行业的最新场景和优秀企业，进一步促进我国人工智能的健康发展。稳步发展。经人工智能社会实验专家组评审，RealAI“人工智能安全与深度伪造治理应用案例”成功入选，与华为、百度、旷视科技、商汤科技、依图等企业一同上榜。RealAICEO田甜表示，由于当前人工智能还处于初级阶段，算法本身存在不安全、不可解释等结构性缺陷，可能导致技术漏洞被用于恶意攻击。、算法修改、恶意样本等方式对算法进行深度攻击，使人工智能系统“精神错乱”，给出错误输出，置信度很高。其后果可能威胁到人的财产和生命安全。例如，通过佩戴具有特定设计和抗攻击能力的眼镜等实物，可以攻破手机解锁、线上身份认证、线下安全等领域的AI系统，让安全验证无用武之地。即使在交通领域，车辆的辅助驾驶或自动驾驶系统也可能因AI算法缺陷而失去正常的视觉识别能力，误认交通标志、“看不到”大的障碍物等，严重威胁人身和财产安全.本次论坛的主题是有效探讨人工智能发展可能带来的风险和问题。作为《人工智能企业典型应用案例》入选企业，RealAI的《人工智能安全与DeepFake治理应用案例》提出了治理工作行之有效的技术方案。据介绍，北京睿来智慧科技有限公司是清华人工智能研究院孵化出来的官方产学研机构。瑞来智慧依托自身“产学研”一体化优势，创新提出“攻防动态平衡”机制。以子之矛，攻子之盾，不断升级攻防对抗，演练针对性防御技法。通过对抗性算法的研究，抢在黑客之前发现并修复漏洞，规避攻击隐患；通过生成更逼真的深度伪造视频，然后训练更高级的检测算法。在此基础上，RealAI打造了一整套行之有效的技术工具，协助解决人工智能安全问题。比如业界首个人工智能安全平台RealSafe，集成领先的攻防算法，支持AI系统自动化安全检测和防御加固，提升AI系统识别对抗样本等攻击方式的能力。在应对滥用方面，Relais推出了DeepReal深度伪造检测工具及一体机，可高效准确判断视频、图片等内容素材是否经过AI伪造，有效规避舆论和预警滥用。此次入选的“人工智能安全与深度伪造治理应用案例”也是基于这两个技术平台构建的，能够有效规避人工智能在应用过程中潜在的安全风险。当前，人工智能研究高度开放，这也导致人工智能技术被滥用的风险急剧增加，直接导致风险漏洞的出现。此外，人工智能具有多学科综合性、复杂性高等特点，具有天然的技术壁垒，对监管部门的监管和风险防范提出了不小的挑战。同时，有专家表示，人工智能设计者的价值取向和行为偏好，很容易有意无意地反映在算法和数据中，通过机器学习被人工智能继承，进而演变成算法辨别。但在具体应用过程中，容易受到对抗样本的干扰或污染，被应用者重塑，做出偏离设计初衷的错误决定。专家强调，随着人工智能的快速发展，安全问题日益突出，需要加强对潜在风险的研判和防范，切实维护利益和安全，确保人工智能安全可靠可控.田甜表示，人工智能治理是一项长期工作，“技术”和“制度”需要同步推进。前者解决技术的不安全性和脆弱性，后者从应用层面提供规范和指南。
