人工智能安全与产业治理论坛正式召开，共话人工智能安全可控发展。数据隐私、算法偏差、技术滥用等安全问题也对社会公共治理和产业智能化转型提出严峻挑战。未来人工智能将如何平衡创新发展与安全可控？6月3日，北京致远大会期间，由北京瑞来智能科技有限公司与阿里安全联合举办的“AI安全与产业治理”论坛正式召开。 中国科学院院士张博，清华大学人工智能研究所所长，北京市经济和信息化局郭家义，信息安全研究部主任魏伟中国信息通信研究院安全研究所、中国人工智能产业发展联盟办公室主任石林、信息通信研究院人工智能部副主任、RealAITian等数十位专家田先生、阿里巴巴安全部技术总监薛辉、百度安全首席架构师鲍申福出席会议。深入探讨人工智能安全可控发展的关键议题。 1。人工智能急需发展“安全可控”新能力 在学术研讨环节，中国科学院院士、清华大学人工智能研究院院长张博在致辞中表示，未来人工智能产业的发展将在拓展应用场景的同时，实现数据、算法、应用层的安全可控。同时他表示，人工智能的安全性和可控性要从技术层面同步解决。在具体实施路径上，张博院士提出发展“第三代人工智能”，即融合第一代知识驱动和第二代数据驱动的人工智能，利用知识、数据、算法和计算能力建立新的可解释和鲁棒的人工智能理论和方法，发展安全、可信、可靠和可扩展的人工智能技术。 北京市经济和信息化局郭家义对论坛的召开表示祝贺，并对第三代人工智能的发展充满期待。他认为，当今世界正处于新一轮科技和产业变革的伟大时代。人工智能作为新一轮科技革命和产业变革的重要驱动力，正在深刻改变世界。然而，随着人工智能的飞速发展，各种安全问题也随之而来。第三代人工智能的提出恰逢其时，将有助于我国在人工智能的安全性和可靠性领域实现突破。也将对北京进一步落实国际科技创新中心定位和首都高新技术经济结构建设产生积极影响。. 作为第三代人工智能的践行者和引领者，瑞莱智能CEO田甜表示，现阶段，人工智能产业正经历从高速增长向高质量发展的转变.更复杂、更高价值场景的应用需求越来越多，对安全性的重视程度也越来越高。但由于传统技术范式存在的天然算法漏洞和缺陷，难以支撑人工智能长期高质量发展。为此，天天提出，要加快发展第三代人工智能，打造“安全可控”核心能力。 人工智能的“安全可控”如何定义？天天解释，“安全”是指构建数据安全和算法安全两大核心能力，解决数据依赖性强导致的隐私泄露、数据中毒等隐患，同时提高算法的健壮性和可靠性。“可控”不仅是指应用层面的合规可控，更重要的是核心技术的自主可控。以自主可控为基础，通过理论创新和技术突破形成核心竞争力。田田强调，安全可控是第三代人工智能发展的核心标杆，也是加快推进人工智能高质量发展的有力支撑。 数据不安全和算法不安全是制约当前人工智能产业发展的主要因素，也是人工智能安全可控发展需要解决的核心问题。随着人工智能产业应用的不断深入，人工智能安全问题将迎来大规模爆发。中国信息通信研究院安全研究所信息安全研究室主任魏炜表示，人工智能与数据产业在相互促进发展的同时，安全问题也交织在一起。一方面，人工智能对数据高度依赖的发展特点导致其自身的数据安全。应用带来的风险、数据安全风险以及应用加剧的数据治理挑战日益凸显。另一方面，人工智能也为数据治理提供了自动化、智能化、高效化、精准化的智能支撑。围绕发展与安全的治理思路，韦炜从道德规范、法律法规、标准体系、技术手段、人才培养等方面提出多项数据安全治理建议，为实现数据安全合规提供支撑人工智能行业实践。 相对于数据安全，算法安全还处于起步阶段，但其安全隐患不容小觑。阿里安全资深算法专家何源表示，虽然人工智能技术在网络环境净化、知识产权保护、生物识别、线下安全等安全工作中发挥着越来越重要的作用，让安全更加智能，但它还面临着鲁棒性不足、可解释性差、技术滥用等安全风险。例如，算法漏洞的存在可以攻击图片检索系统，导致非原创图片逃逸检测等，对网站安全和商家权益构成威胁等。 百度安全总监鲍晨富也表示，算法安全风险的实际危害正在逐步显现。在自动驾驶场景中，模型的鲁棒性不足会导致自动驾驶系统与环境或不断变化的光照和天气条件作斗争。错误识别发生在复杂的环境中，后果很严重。除了算法安全，他认为人工智能安全还包括“实现安全”。他强调，代码安全和场景安全的“执行安全”也直接影响到AI系统最终决策的完整性和安全性。 第二，实现安全可控的人工智能需要配套的“基础设施” 发展安全可控的人工智能是一项系统工作，需要行业标准、法律规范、技术发展等治理工作。维度联动，打造配套“基建”。 针对算法治理路径的探索，清华大学人工智能治理研究院副院长梁政从社会治理的角度提出，算法模型难以解释，难以控制，并且难以被追究责任，这可能导致歧视、脆弱性和不公正。稳定性、操纵和利用以及信息茧等安全风险。与国际算法治理经验相比，虽然国内治理基础已初步形成，虽然政策导向、标准指引、法律法规等相继出台，但尚未形成完整的治理体系。如何开展算法治理工作？他提出，首先，要进行分领域、分级治理，确定治理重点。目前重点是利用个人信息的自动化决策系统。未来将重点关注涉及人身安全的高风险领域，同时在算法治理中识别和区分规则，通过有针对性地解决问题和技术问题，坚持基本原则，实现负责任的人工智能例如安全、公平、透明和隐私。 对于人工智能发展中隐私和数据保护的解决方案，中伦律师事务所合伙人陈继红表示，《网络安全法》以及即将到来的《个人信息保护法》和《数据安全法》将构成数据的核心我国的保护与监管“三驾马车”为数据保护提供了严格的法律环境，但人工智能产业的大数据、实时数据、数据融合的发展将与这些数据保护原则发生冲突。为此，他建议，一方面，企业应主动合规，主动防范产品研发和产品技术架构方面的风险，将隐私概念引入产品生命周期。另一方面，他也呼吁立法机构兼顾隐私保护与产业发展的平衡，社会普遍接受的良好隐私保护理念和严格的法制环境是推动长远发展的两只翅膀。的技术。 除了政策法规，技术基础设施建设仍将发挥基础性作用。作为第三代人工智能领域的践行者和引领者，RealAI基于安全多方计算、联邦学习、匿名查询等技术，推出了一系列更加安全可控的人工智能基础设施，打造数据安全共享基础设施。RealSecure用于解决数据隐私问题；AI系统防火墙和杀毒软件平台RealSafe，可为人脸识别、目标检测、图像分类等应用提供有效的安全检测和防御加固服务。天天表示，这一系列基础设施将开辟人工智能能力的新维度，为人工智能产业治理提供有效工具支撑。 尤其是人工智能算法安全性的提升，本质上是一个攻防不断升级的过程。然而，如何全面、客观、科学地衡量算法模型的安全性，是业界和学术界共同面临的难题。为解决这一问题，清华大学、阿里安全、RealAI联合发布了业界首个基于深度学习模型的AdversarialRobustnessBenchmark平台。该benchmark能够更加公平、全面地衡量不同算法的效果，提供了一种便捷的鲁棒性测试工具，全面衡量AI模型的安全性，用户通过提交模型即可获得安全分数。 不同于以往仅包含分散攻防模型的对抗性攻防基准。本次推出的AI对抗性安全基准测试基本囊括了当前主流的人工智能对抗性攻防模型，涵盖了数十种典型的攻防算法。在比较不同算法的过程中，尽可能使用相同的实验设置和一致的度量，以最大程度地保证比较的公平性。此外，本次发布的AI安全排行榜还囊括了刚刚结束的CVPR2021人工智能攻防大赛中诞生的前5名代表队的攻击算法。大赛吸引了全球2000余支参赛队伍提交的最新算法，进一步提升了安全基准的科学性和公信力。“通过对人工智能算法的攻击结果和防御结果进行排序，比较不同算法的性能，建立人工智能安全基准，可以更公平、更全面地衡量不同算法的效果，具有重要的学术意义，”朱军说。 3。安全可控的人工智能将重塑工业智能 在“新基建”浪潮的推动下，人工智能产业即将迎来与传统产业深度融合的机遇期。天天表示，在安全可控的核心支撑下，可以高效贡献人工智能的技术优势，重塑工业智能，实现从“单点自动化”到“深度智能”的价值提升。他提到，在金融领域，人工智能的创新融合，正在为金融场景打造集决策分析和感官感知于一体的“智慧大脑”。在安全可控的支持下，“智慧大脑”可以拓展新能力的边界，实现左脑更好的决策和右脑更安全可靠的感知。同时，他介绍，基于多方安全计算、联邦学习、人工智能安全攻防等技术，RealAI打造了集“数据保障、算法检测、应用控制”于一体的完整可信人脸解决方案”以确保人脸隐私和安全。以数据泄露溯源、算法安全评估、信息合规为前提，推动人脸识别在重点社会公共服务场景中的深度应用。 中国工商银行软件开发中心大数据与人工智能实验室副主任黄兵在致辞中表示，工行在现有人工智能技术体系的基础上，着力于“可信的软硬件运行环境、数据隐私保护”“算法模型安全”三大核心能力，构筑了人工智能技术在金融领域的安全可信度，保障人工智能大规模应用的合法合规、安全可信。他强调，人工智能安全是人工智能大规模应用的前提和前提，同时人工智能可信度必须是全栈的，覆盖模型的全生命周期。技术可信，提升人工智能生产规模和部署规模安全可靠支撑能力可以加强多方数据生产要素的融合，为数字经济社会提供更高效率、更低成本、更低门槛的普惠金融服务。 金融行业是高度数字化的行业，数据隐私保护是必然趋势。建信金融科技有限公司创新实验室总经理王雪表示，隐私保护计算作为一项具有前瞻性、安全可靠的技术，能够在保护隐私的基础上实现数据价值最大化，将数据最大化。通过多方数据融合分析的价值，在满足监管要求的前提下实现数据互联互通，通过新的业务模式拓展外部数据连接，解决数据供给侧和需求侧匹配问题，深化金融数字化转型。 此外，对于应用场景丰富、产业潜力巨大的智能制造领域，也需要构建稳健、安全的AI系统。三一集团无人驾驶科学家、三一机器人科技有限公司副总监贾权表示，智慧物流是无人驾驶技术在智能工厂的典型应用。在实际操作过程中，需要在高干扰的生产环境场景中高效、高精度地完成工作。同时，系统也面临着硬件平台和软件平台的安全挑战。工业安全促进智能制造健康可控发展。 安全可控人工智能在各行业的应用将进入专业化、深度融合阶段，针对垂直领域需求挖掘深度应用潜力。广电运通信息科技有限公司总经理田峰表示，以人工智能技术为基础构建智能引擎，将围绕智能金融、智能安防、智能化等业务领域赋能城市智能产业发展。交通便利，智能便利，将能够推动全要素高质量发展，深化城市智能化战略布局。 最后的圆桌环节，中国人工智能产业发展联盟办公室主任石林，信息通信研究所人工智能处副处长，上海浦东发展银行业务专家李峰创新实验室，与光大银行多方安全数据智能实验室主任李成、滴滴安全产品专家孙益强、RealAI联合创始人刘立元就安全可控人工智能的产业应用进行了探讨。 借助安全可控，“深度智能”时代正在加速推进，人工智能在各行业应用的广度和深度将不断拓展。人工智能的未来充满想象，但要实现真正的人工智能，仍面临诸多深层次挑战。天天表示，第三代人工智能释放“数据、知识、算法、算力”新维度，实现安全可靠。它为AI掌控的新一代人工智能提供了可能，让人工智能走出“浅智能”的舒适区，重塑全新的产业价值。
