“世界人工智能大会-可信AI论坛”今日在上海举行。
学者等来自美国、英国、澳大利亚等国的院士，共同探讨可信人工智能的认知演化、理论研究、产业探索等多个话题。
蚂蚁集团副总裁、首席人工智能科学家启元教授在会上透露，继“私有计算”和“图学习”技术的实践成果之后，蚂蚁集团在可信人工智能技术体系中还有另一项重要技术——“智能对抗”技术已被正式上线，支持反欺诈等多种风控场景。
齐源在会上分享了蚂蚁集团在可信AI技术领域的多项技术和应用成果。
他表示，融合经济学“博弈论”的“智能对抗”技术，可以利用“手把手”的演练机制，让AI模拟黑品对自身发起攻击演练，从而帮助AI进行风险识别。
能力和抵抗攻击的能力。
能力持续自动演进和升级。
据悉，该技术应用于金融风控领域，属行业首次。
做好未来五年的技术储备。
“智能对抗”技术已上线。
“未来的风险控制将不再是人与人之间的斗争，而是AI与AI之间的博弈，”齐源在演讲中表示，“在支付宝上，每天数亿笔交易的背后，不再是散户发起攻击的人，却是专业的黑产团伙。
”为了应对复杂多变的黑产攻击，如何持续强化风控模型的抗攻击能力，实现“魔高”。
“一尺高，一尺高”成为摆在蚂蚁集团技术团队面前的难题。
2017年，启源带领蚂蚁集团AI技术骨干将经济“博弈论”融入人工智能模型算法，研发出行业全新技术——“智能对抗”，将AI与游戏对抗结合起来，让机器实时、动态地自动对自身系统进行安全攻击，从而提高模型的能力，使模型更加鲁棒，处理结果更加准确。
就像金庸小说中的“动手”一样，借助“智能对抗”技术，可以用更智能的“攻击”来实现更安全的“防御”。
“智能对策”技术在权威机构Gartner发布的白皮书中被列为2019年十大金融科技趋势之一。
由于该技术具有感知、分析、预测风险知识的能力，因此未来将成为可信AI领域的核心安全技术。
记者了解到，自2016年起，蚂蚁集团“智能对抗”技术的相关研究成果已在ICML、ICLR等全球顶级技术会议上发表，拥有8项全球专利。
2019年，“智能反制”技术正式应用于支付宝反欺诈。
目前覆盖了支付宝风控账户、欺诈、交易安全等多个场景，显着提升了AI模型的鲁棒性。
蚂蚁集团首席人工智能副总裁 科学家启元 教授 值得信赖的人工智能是数字时代“抗风险”的关键能力 随着数字化进程不断加速，人工智能在推动传统产业数字化升级方面发挥着重要作用。
在利用人工智能抵御数字经济风险的同时，如何保证人工智能的安全、可信、公平成为全行业关注的重要问题。
今年6月，蚂蚁集团首次向外界发布了蚂蚁可信AI技术架构体系。
具体为：拓展数据价值的隐私计算技术，实现“数据不动，价值移动”的重要命题； “博弈性和鲁棒性”是保证AI可信、稳定运行的关键。
对“可解释性和因果分析”以及“公平性”的研究可以帮助人类更好地信任并依赖人工智能做出正确的决策。
全球专利权威机构IPR Daily 6月发布报告显示，蚂蚁集团目前拥有全球最多的“人工智能安全与可信关键技术”专利。
可信人工智能不再是理论或幻想。
作为数字经济“抵御风险”的关键，已在实践中得到充分运用。
可信AI技术目前包括反欺诈、反洗钱、反赌博、联企风控、蚂蚁集团数据等。
实现了包括隐私保护在内的多种风控场景，支撑支付宝全风险领域的防御需求，也是“蚂蚁反欺诈智能风险感知与响应系统”的核心技术。
除了金融风控场景外，可信AI技术还广泛应用于数据隐私保护、金融科技服务等多个领域。
不久前，网商银行采用可信人工智能技术的“大山雀”卫星遥感风控系统项目被农业农村部评为农村金融十大创新实践之一。
同时，围绕AI公平的建设和发展，蚂蚁金服先后推出针对欠发达地区的“AI豆计划”、针对视障人士的“空中手势”验证码解决方案等项目。
通过可信人工智能技术的研究和投资，促进相对落后地区的经济发展，帮助弱势群体，弥合数字鸿沟。