由中国人工智能学会、杭州市人民政府主办的“全球人工智能技术大会”近日在杭州召开。
蚂蚁集团首席AI官科学家启元在会上首次提出了“可信AI”的技术架构体系，并分享了蚂蚁集团基于该技术架构体系开发实施的多项应用成果。
据悉，本次“全球人工智能技术大会”共邀请了31位中外院士以及来自世界各地的人工智能领域的专家，共同为人工智能的发展建言献策。
会上，蚂蚁集团首席人工智能科学家启元教授以“《人工智能与风险-从创新到落地和治理》”为主题进行了分享。
齐源表示，人工智能是数字经济的驱动力，确保人工智能的安全和公平是业界的共同问题。
围绕“可信AI”的技术主张，他提出了包括“数据隐私保护”、“鲁棒性”、“可解释性和因果分析”、“公平性”四个方面的技术架构体系。
在“数据隐私保护”方面，传统的数据保护方式客观上形成了“数据孤岛”，影响了医疗、金融等领域的协同运作，也制约了人工智能技术和产业的发展。
因此，拓展数据价值的隐私计算技术对于实现“数据不动、价值流动”显得尤为重要。
齐源透露，截至今年3月，蚂蚁集团隐私技术专利申请数量位居全球第一，实施成果丰富。
例如，在营销反欺诈场景中，帮助超过10,000家合作伙伴识别暴利风险，并节省了超过1亿的营销资金。
在提高模型的“鲁棒性”方面，为了应对黑客攻击，使模型能够适应复杂多变的数据环境，还需要引入博弈论思想来生成攻击方法并进行智能防御，通过左右手战斗。
，加强抵抗攻击的能力。
据悉，蚂蚁集团正在风险交易识别、黑灰账户识别等风控场景中持续磨练这一能力。
关于“可解释性和因果分析”，齐源解释说，人工智能模型不能是黑匣子。
“人类希望了解模型背后的逻辑，获得新知识，并在出现问题时及时刹车，以确保人工智能合规合法。
”他认为，这背后是需要将数据驱动和模型推理能力结合起来，产生可解释的结果。
目前，蚂蚁集团已将该能力广泛应用于智能风控、投诉审核、反洗钱等领域。
“可信AI”的技术架构体系还需要解决模型公平性问题，保持对技术的敬畏，在进行AI调优的同时注重社会伦理原则。
通过人工智能技术，让老年人、残疾人、欠发达地区的用户享受到数字经济时代的价值。
这也是AI公平性的体现。
齐源透露，蚂蚁集团已完成“空中手势”验证码识别解决方案的研发，帮助视障人士通过“滑动验证码”关卡。
该解决方案将免费向更多企业开放。