北京大学王一舟：擦亮可信AI研究名片需要产学研结合在现代化阶段，研究人员几十年来一直在推动其技术进步，希望有一天机器能拥有一般人类智能并执行全方位的人类认知能力。近年来，为了让AI更加健康的发展，一个技术领域正在成为产业界和学术界研究的重点：可信AI，即通过技术赋予人工智能人类社会积极的价值观，包括可解释性和公平性、隐私保护和公平性。从学术研究的角度来看，可信人工智能主要针对算法和系统层面的研究，包括安全性/鲁棒性、可解释性、隐私性、公平性、可审计性/问责性、环境保护等。可解释性包括学习方法或模型的理论可解释性、算法可解释性和行为可解释性；鲁棒性主要针对模型稳定性研究，攻击模型，防御模型；隐私保护是指攻击和保护方法之间的直接博弈，如差分隐私、多中心联邦学习；公平是指各种数据和模型的偏差研究，公平与公正的平衡；而环境保护是指寻找节能策略和更节能的计算硬件。与可信的人工智能学术研究不同，企业更关注当前存在的问题并提出解决方案。例如，2015年，蚂蚁集团启动了基于“终端特征”的手机丢失风险研究项目，旨在通过AI技术保护用户的隐私和安全。为了解决AI中的公平性（Fairness），IBM在2018年开发了多款AI可信工具，在AI系统中使用无偏数据集和模型，避免对特定群体的不公平。行业对可信人工智能的应用要求更高，容错率更高。很多可信人工智能白皮书都提到，可信人工智能真正实现时，需要将其投入到生产过程中，使其成为一种机制，发挥技术约束的作用。青年学生是技术人才的重要后备力量。对于研究可信人工智能的青年学生，如何为从事可信人工智能做准备，在目前的学习和生活中，应该了解学术前沿，以及行业最新的技术趋势，思考哪些技术可以应用于哪些问题，积极观察和了解我们生活的世界，以及行业的需求痛点和技术瓶颈。比如近期的TrustedAI实战科技真人秀联动了全国一些顶尖高校，通过TrustedAI在行业“科技反欺诈”中的应用，还原了TrustedAI技术在实际应用中的能力，连接什么正在以大家看得懂的形式在学术界和工业界进行，让技术从业者和技术研究者深度参与其中。在做人工智能研究时，“复杂性”是一个关键词。环境复杂度、任务复杂度、系统复杂度决定了人工智能的水平。研究它可以揭示人工智能的生成原理，也可以回答人工智能最终影响人类命运的终极问题。未来可信的AI研究还需要从复杂性分析的角度分析AI给人类带来的价值，需要学术界和产业界的共同努力来推动。
