人工智能作为引领第四次科技革命的战略技术，给社会建设带来了重大而深远的影响但数据隐私、算法偏差、技术滥用等安全问题也给社会公共治理和产业智能化转型带来严峻挑战。
未来人工智能将如何平衡创新发展与安全可控？ 6月3日，北京致远大会期间，北京锐来智能科技有限公司与阿里安全联合举办的“人工智能安全与行业治理”论坛正式召开。
中国科学院院士、清华大学人工智能研究院院士院长·张钹，北京市经济和信息化局郭家义，中国科学院安全研究所信息安全研究室主任魏薇信息通信部副主任、中国人工智能产业发展联盟办公室主任、信息通信研究院云达、人工智能部副主任石林、RealAI RealAI田甜、技术总监等数十位专家阿里巴巴安全部薛辉、百度安全总监架构师包申夫出席本次会议，重点探讨人工智能的安全可控问题。
深入讨论发展这个重大话题。
1、人工智能亟需发展新的“安全可控”能力。
在学术讨论环节，中国科学院、清华大学人工智能研究院院士院长·张钹在演讲中表示，未来人工智能产业的发展必须在拓展应用的同时实现应用场景的拓展场景。
数据、算法、应用层安全可控。
同时他表示，人工智能的安全性和可控性问题必须从技术层面同时解决。
在具体实施路径上，张钹院士提出发展“第三代人工智能”，即融合第一代知识驱动型和第二代数据驱动型人工智能的人工智能，利用以下四个要素：知识、数据、算法和计算能力。
建立新的可解释、稳健的人工智能理论和方法，开发安全、可信、可靠、可扩展的人工智能技术。
北京市经济和信息化局郭家义对论坛的召开表示祝贺，并表达了对第三代人工智能发展的充分期待。
他认为，当今世界正处于新一轮科技和产业变革的伟大时代。
人工智能作为新一轮科技革命和产业变革的重要驱动力，正在深刻改变世界。
然而，随着人工智能的快速发展，各种安全问题也相继出现。
第三代人工智能的提出恰逢其时。
有助于我国在安全可信人工智能领域实现突破。
也将对北京进一步落实国际科技创新中心地位和首都高科技经济结构建设产生积极影响。
。
作为第三代人工智能的践行者和引领者，瑞来智能CEO田甜表示，现阶段，人工智能产业正在经历从高速增长向高质量发展的转变。
行业预期的提高，让金融、医疗等变得更加复杂。
高价值场景的应用需求不断增加，对安全的重视程度也越来越高。
但由于传统技术范式天然存在的算法漏洞和缺陷，难以支撑人工智能长期高质量发展。
为此，天天提出，要加快发展第三代人工智能，发展“安全可控”核心能力。
如何定义“安全可控”人工智能？甜甜解释道，“安全”是指打造数据安全和算法安全两大核心能力，解决因对数据依赖强而带来的隐私泄露、数据中毒等隐患，同时提高算法的鲁棒性和可靠性。
“能控”不仅指应用层面的合规可控，还指核心技术的自主可控。
在自主可控的基础上，通过理论创新和技术突破形成核心竞争力。
安全可控是田田强调，数据不安全和算法不安全是制约当前人工智能发展的主要因素。
魏薇主任表示，随着人工智能产业应用的不断深入，人工智能安全问题将迎来大规模爆发。
中国信息通信研究院安全研究所信息安全研究部表示，人工智能与数据产业相互促进发展的同时，安全问题也相互交织。
一方面，人工智能严重依赖数据的发展特点导致其自身的数据安全。
应用带来的风险、数据安全风险以及应用加剧的数据治理挑战日益凸显。
另一方面，人工智能也为数据治理工作提供自动化、智能化、高效精准的智能支撑。
围绕发展与安全并重的治理理念，魏薇从伦理、法律法规、标准体系、技术手段、人才培养等角度提出多项数据安全治理建议，为数据安全治理提供支撑。
实现人工智能行业数据安全合规实践。
与数据安全相比，算法安全问题仍处于“初露端倪”阶段，但其安全隐患仍不容小觑。
阿里巴巴高级安全算法专家何源表示，虽然人工智能技术在净化网络环境、保护知识产权、生物识别、线下安全等安全工作中发挥着越来越重要的作用，让安全变得更加智能，但它还面临健壮性不足、可解释性差、技术滥用等安全风险。
例如，算法漏洞的存在可以对图像检索系统发起攻击，导致非原创图像逃脱检测，对网站安全和商家权益构成威胁。
。
百度安全总监架构师包神甫也表示，算法安全风险的实际危害正在逐渐显现。
在自动驾驶场景中，模型鲁棒性的缺乏将导致自动驾驶系统难以应对环境或光线和天气条件不断变化的复杂环境。
可能会发生错误识别并导致严重后果。
除了算法安全之外，他认为人工智能安全还包括“实现安全”。
他强调，代码安全、场景安全的“实施安全”也直接影响AI系统最终决策的完整性和安全性。
2、实现安全可控的人工智能需要“基础设施”支撑。
发展安全可控人工智能是一项系统性任务，需要行业标准、法律法规、技术发展等治理工作共同推进，打造并支撑“基础设施”。
针对算法治理路径的探索，清华大学人工智能治理研究院副院长院长·梁峥从社会治理的角度提出，算法模型难以解释、难以控制、难以追究，这可能导致歧视、脆弱性、不稳定、操纵和剥削。
、信息茧房等安全隐患。
与国际算法治理经验相比，虽然国内治理基础已初步形成，政策引导、标准指引、法律法规等相继出台，但尚未形成完整的治理体系。
如何开展算法治理工作？他提出，首先要实行分工分级治理，确定治理的优先顺序。
目前，重点是使用个人信息的自动化决策系统。
未来将重点关注涉及人身安全的高风险领域，同时识别和区分算法治理中的规则。
问题和技术问题，采取有针对性的措施，坚持安全、公平、透明、隐私等基本原则，实现负责任的人工智能。
对于人工智能发展中的隐私和数据保护解决方案，中伦律师事务所合伙人陈继红表示，即将推出的《网络安全法》和《个人信息保护法》和《数据安全法》将构成“三驾马车”。
我国数据保护和监管的力量”。
“马车”为数据保护提供了严格的法律环境，但大数据、实时数据、数据融合的人工智能产业的发展会与这些数据保护原则发生冲突。
为此，他建议，一方面，企业应主动遵守法规，主动防范产品开发和产品技术架构中的风险，将隐私理念引入产品生命周期。
另一方面，他也呼吁立法机构考虑隐私保护。
行业发展与社会普遍接受的良好隐私保护理念之间的平衡以及严格的法律环境是推动技术长期发展的两翼。
除了政策法规之外，技术基础设施建设仍将发挥基础性作用。
作为第三代人工智能领域的实践者和领导者，RealAI推出了一系列更加安全可控的人工智能基础设施，基于安全多方计算、联邦学习、隐形查询等技术的安全数据共享基础设施。
RealSecure用于解决数据隐私问题； RealSafe是针对AI系统推出的防火墙和防病毒软件平台，可为人脸识别、目标检测、图像分类等应用提供有效的安全检测和防御加固服务。
甜甜表示，这一系列基础设施将开启人工智能能力新维度，为人工智能产业治理提供有效工具支撑。
特别是人工智能算法安全性的提升本质上是一个攻击和防御不断升级的过程。
然而，如何全面、客观、科学地衡量算法模型的安全性是当前工业界和学术界都面临的问题。
针对这一问题，RealAI联合清华大学、阿里安全发布了业界首个基于深度学习模型的对抗鲁棒性基准平台（Adversarial Robustness Benchmark）。
该基准测试可以更公平、更全面地衡量不同算法的效果，并提供易于使用的鲁棒性测试工具，全面衡量AI模型的安全性。
用户可以通过提交模型来获得安全评分。
与以往仅包含零散攻防模型的对抗性攻防基准测试不同，此次推出的AI对抗安全基准测试基本囊括了当前主流的人工智能对抗性攻防模型，覆盖了数十种典型攻防算法。
在比较不同算法的过程中，尽可能使用相同的实验设置和一致的测量标准，最大程度地保证比较的公平性。
此外，本次发布的AI安全排行榜还包括刚刚结束的CVPR人工智能攻防大赛中诞生的前五名团队的攻击算法。
本次大赛吸引了来自全球多个团队提交的最新算法，进一步提升了这一安全基准的科学性和可信度。
“通过对人工智能算法的攻击结果和防御结果进行排名，比较不同算法的性能，建立人工智能安全基准具有重要的学术意义，可以更公平、更全面地衡量不同算法的效果。
”朱军说。
3、安全可控的人工智能将重塑工业智能。
在“新基建”浪潮的推动下，人工智能产业即将迎来与传统产业深度融合的机遇期。
天天表示，在安全可控核心的支撑下，能够高效贡献人工智能的技术优势，重塑工业智能，实现从“单点自动化”到“深度智能”的价值提升。
他提到，在金融领域，人工智能的创新融合正在打造针对金融场景的决策分析与感官感知相结合的“智慧大脑”。
在安全可控的支撑下，“智慧大脑”可以拓展新的能力边界，实现左脑更好的决策、右脑更安全可靠的感知。
同时他介绍，RealAI基于多方安全计算、联邦学习、人工智能安全攻防等技术，打造了一套集“数据保证、算法检测、应用控制”为一体的可信人脸解决方案确保面部隐私和安全。
、数据泄露溯源、算法安全评估、信息合规等，推动人脸识别在社会重点公共服务场景的深度应用。
工商银行软件开发中心大数据与人工智能实验室副主任在致辞中介绍，工行基于现有的人工智能技术体系，重点打造“可信赖的软硬件运行环境、数据可信隐私保护、算法模型安全。
”三大核心能力构建了人工智能技术在金融领域的安全可信，保障了人工智能大规模应用的合法合规、安全可信。
他强调，人工智能安全是人工智能大规模应用的前提和必要条件。
同时，AI可信能力必须是全栈的，覆盖模型的整个生命周期。
通过安全可信技术的研究和突破，提高人工智能大规模生产部署的能力。
安全可信支撑能力可以增强多方数据生产要素整合能力，为数字经济社会提供更高效率、更低成本、更低门槛的普惠金融服务。
金融行业作为数据高度依赖的行业，数据隐私保护是必然趋势。
建信金融科技有限公司创新实验室总经理王雪表示，隐私保护计算作为一项具有前瞻性、安全可信的技术，能够在隐私保护的基础上实现数据价值的最大化，通过多方数据融合分析，最大化数据价值。
在满足监管要求的前提下，实现数据互联互通，通过新的业务模式拓展外部数据连接，解决数据供给侧与需求侧的匹配问题，深化金融数字化转型。
此外，对于应用场景丰富、产业潜力巨大的智能制造领域，还需要构建健壮、安全的人工智能系统。
三一集团自动驾驶科学家、三一机器人科技有限公司副总监贾全表示，智慧物流是自动驾驶技术在智能工厂的典型应用。
在实际操作过程中，需要在高干扰的生产环境场景下高效、准确地完成工作。
同时，系统还面临硬件平台和软件平台的安全挑战。
为此，三一机器人正在通过产学研紧密合作，共建该系统。
工业安全促进智能制造健康可控发展。
安全可控人工智能在各行业的应用将进入专业化、深度融合阶段，针对垂直领域的需求挖掘深度应用潜力。
广电运通信息技术有限公司总经理田峰表示，基于人工智能技术基础打造智能引擎，围绕智慧金融、智慧安防、智慧交通、智慧便民等赋能城市智慧产业发展。
其他业务领域，在安全可控的基础上。
，将能够推动全要素高质量发展，深化城市智慧战略布局。
在最后的圆桌会议上，中国人工智能产业发展联盟办公室主任、信息通信研究院信息通信技术研究所人工智能所副所长石林、AI所长李锋在浦发银行创新实验室现场，光大银行多方安全数据智能实验室主任李成、滴滴滴滴安全产品专家孙毅强与RealAI联合创始人刘立源就行业安全可控人工智能应用。
借助安全可控，“深度智能”时代正在加速到来，人工智能在各行业应用的广度和深度将不断拓展。
人工智能的未来图景充满想象，但要实现真正的人工智能仍然存在许多深层次的挑战。
甜甜表示，第三代人工智能释放“数据、知识、算法、算力”新维度，实现安全可靠。
新一代受控人工智能为人工智能走出“浅智能”的舒适区、重塑新的产业价值提供了可能。