当前，人工智能应用的广度和深度不断拓展，正在成为信息基础设施的重要组成部分。然而，人工智能在此过程中也不断暴露出一些隐患，如算法安全、数据歧视、数据滥用等，如何确保人工智能的安全性、可信性和公平性成为业界关注的重点问题。行业。“目前，世界各国都非常重视可信人工智能的发展。可信人工智能的发展是我们最终能够释放人工智能，造福全球人民发展的前景。这是一个关键基础。”中国信息与通信技术研究院院长余晓晖在“2021世界人工智能大会”期间的“可信人工智能论坛”上提到了这一点。论坛期间，可信人工智能领域的多位院士、专家学者、政府及行业协会、人工智能企业代表等共同探讨了这一关系人工智能长远发展的重要问题。可信的人工智能技术是人工智能被信任的基础“可信的人工智能技术是人工智能被信任的基础。”京东发现研究院院长、澳大利亚科学院院士陶大成博士发表了对可信人工智能的看法。“从技术角度来看，对可信人工智能的研究可以概括为四个方面：稳定性、可解释性、隐私保护和公平性。从以上四点出发研究可信人工智能，首要任务是找到一个对人工智能算法、模型和系统在稳定性、可解释性、隐私保护和公平性方面的能力进行定量分析和量化。”陶大成说道。目前，稳定性可以通过各种攻击算法的攻击成功率或攻击性能来衡量；可解释性中的泛化能力可以用泛化误差的上界来描述；隐私保护能力常用差分隐私法来描述，也可以用各种隐私攻击算法的攻击成功率或攻击性能来评价；公平是通过一系列决策公平指标来衡量的，主要分为两类：个体公平和群体公平。同时，他强调，这四个方面有着深刻的联系，并不是孤立的。因此，在进行可信人工智能研究时，不能只从单一维度入手，需要从整体上综合考虑不同因素的影响。这样才能更好地开展相关研究，从而推动可信人工智能的进一步发展。陶大成进一步表示，无论是欧盟的GDPR还是中国的隐私保护法规，都表明用户对数据的使用应该更加谨慎，用户对个人信息的保护有相当大的权利。“只有将以上四种能力结合起来，做到职责清晰，才能找到合适的衡量可信人工智能的方法。“未来，可信人工智能的集成研究将是一个重要趋势。”中国信息通信研究院云计算与大数据研究所所长何宝红表示：“我们对可信赖的人工智能已经达成了一些共识，但总体上还处于早期探索阶段，很多还很零散，理论还不够，还需要学术界、产业界和政府部门的共同努力。”在可信人工智能论坛上，中国信息通信研究院和京东探索研究院发布《可信人工智能白皮书》白皮书认为，可信人工智能不再局限于人工智能技术、产品和服务本身的定义，而是逐渐扩展为一套系统的方法论，涉及到如何构建“可信”人工智能的方方面面。在陶大成看来，可信人工智能的集成研究将是未来的重要趋势，可信能力评估也将成为人工智能的重要组成部分。产业落地过程中的重要一环。从理论和实践层面持续开展可信人工智能研究，将推动人工智能产业掀起新浪潮，助力人工智能实现可信化，充分释放人工智能的潜力，更好地造福人类社会。推动可信人工智能发展四点倡议发布《促进可信人工智能发展倡议》（以下简称《倡议》）。《倡议》基于当前人工智能技术快速发展，对人工智能相关风险挑战的深入思考，以及可信人工智能的合规发展。倡导政产学研各界加快形成国际协同治理共识，促进全社会对可信人工智能的认识和关注，充分挖掘人工智能的产业和社会价值。该倡议号召人工智能行业同仁积极响应以下四项倡议：一是坚持技术向善，确保可信人工智能造福人类。加快可信人工智能技术研究，前瞻布局可信通用人工智能，打造可控可靠、透明可解释、私密安全、职责明确、多元包容的人工智能系统；关注技术设计、研发测试、运营使用全过程，坚持以人为本、科技为本，构建科技、社会、文化、价值融合共存的良性发展环境。二是坚持权责共担，弘扬可信人工智能价值理念。广泛宣传可以相信人工智能的价值，促进人工智能监管者、开发者、制造商和接受者参与可信度理念的不断完善和践行；明确个人、企业和行业主体的责任和权利，建立可信人工智能的总体框架和原则。在基本原则的指导下，构建相互协调、共建共享的敏捷可信机制。三是坚持健康有序，推动人工智能行业诚信规范。持续推进可信人工智能安全/伦理研究，构建可信人工智能标准体系，完善人工智能可信体系建设；培育人工智能可信评价和管控能力，探索人工智能产品应用保障机制，推动建立相互影响、相互支持、相互依存的健康有序发展生态。四是坚持多元包容，构建可信人工智能国际共识。支持多元主体形成合力、协同互动，共同构建企业自主、行业自律、社会监督、政府监管的人工智能治理体系；促进全球沟通交流，开展协同合作研究，在深入对话的基础上寻求共识，构建可信的人工智能全球治理合作框架，携手应对人类共同挑战。
