大屏幕上显示出两位与真人无异的俊男美人的脸，然后是一个虚拟的红衣女模特视频中缓缓出现……12月5日，在阿里安全与清华大学联合举办的AI与安全研讨会上，阿里巴巴平台近期正式上线的首个AI模型塔玑以视频形式呈现清华大学、中科院、西安电子等多位国内顶尖人工智能安全专家首次出现在专家面前。
塔玑所包含的阿里巴巴新一代安全架构的核心算法技术是阿里巴巴自主研发的，可以形成全球独一无二的虚拟面孔。
该算法将衣服块转换为 3D 模型，并将其“穿”在模型上。
一天之内，商家就可以获取新图片，为服装商家提供模特静态图片、短视频和直播解决方案，为商家降低成本，从而降低图片被盗的风险，真正用科技助力小微企业中型商户，颠覆了知识产权保护的传统。
模型。
据悉，阿里安全与北京服装学院正在合作开展AI模型项目的模型设计、行为建模等课题，而这只是AI技术从研究走向安防实际应用的项目之一。
风险控制。
在本次人工智能与安全研讨会上，国内人工智能顶尖专家分享了人工智能在多媒体智能、自动驾驶、复杂电商环境管理等多个领域的前沿技术和优秀应用。
阿里巴巴集团首席风险官郑俊芳判断：“安全已经成为数字经济时代的基础设施，安全基础设施必须通过AI来实现。
”在众多数据类型带来的快速识别的巨大挑战下，如何准确识别复杂的内容和细微差别？如何依靠少量样本进行鉴定？如何及时应对不断利用新技术的专业黑灰攻击？郑俊芳指出，为了解决这些技术难题，阿里巴巴愿意与学术界合作共赢，探索更智慧的安全，创造更安全的AI。
人工智能面临安全问题已是共识。
中国科学院院士、清华大学人工智能研究院院长张波认为，人工智能首先会在交通、医疗、金融、智能制造等领域产生革命性变化。
从长远来看，人工智能将从根本上改变这些领域，但现实中，还有很多困难需要克服。
目前，国内部分地区已有厂商试点自动驾驶出租车服务，但总体来看，所有自动驾驶产品或即将推出的产品均处于L4级及以下级别。
西安交通大学人工智能与机器人研究院教授薛建如认为，自动驾驶安全可信面临的挑战在于自动驾驶面临动态决策，其固有的复杂性、不确定性和模糊性都是开放式问题。
薛建如表示：“目前，我们的自动驾驶在处理复杂场景的适应性上与人类驾驶员存在很大差距。
如何引入人类驾驶知识，结合人类直觉推理、演绎推理等认知机制来提高自动驾驶的性能。
”目前的模型在驾驶模型上的表征能力，我们还很欠缺。
”张波表示，AI面临算法安全的根本原因是神经网络只进行函数映射，缺乏对任务的理解和算法的鲁棒性表现不佳，具体表现在“一是测试集鲁棒性差。
当测试集和训练数据存在差异时，泛化能力会变差。
其次，对噪声的鲁棒性很差，使得AI算法容易被滥用和攻击。
，误用。
“应用成果显着，安全能力需要通过开放合作来提升。
但正如郑俊芳所说，安全基础设施必须由人工智能来实现，安全人工智能正在给很多领域带来改变。
”清华大学计算机学院教授介绍了他在多媒体和人工智能方面的研究，他希望人工智能能够为多媒体研究提供新的思路和范式，比如通过特征提取来分析原始语义处理，语义学习为多媒体提供语义。
据公开报道，12月5日，财政部原副部长朱光耀表示，多媒体和人工智能正在相互促进、相互引导。
新年伊始的新冠病毒对世界经济产生了巨大影响，新经济和数字经济的发展在这次特殊的危机形势下得到了突出的运用，危机也给了数字经济进一步发展的空间。
发展和成长。
数字经济对疫情后经济复苏和发展的重要性不言而喻。
阿里巴巴高级安全算法官薛辉表示，淘宝的GMV目前已经恢复到疫情前的水平，甚至同比增长了20%。
在主要零售市场，天猫的增长复苏数据也超过传统零售市场4-6倍。
一方面是规模不断增长，另一方面是电商平台日益复杂，这对阿里巴巴的治理水平提出了更高的要求。
薛晖给出了两个令人震惊的数字。
五年来，每万笔交易中的侵权商品数量下降了近三分之二。
三年来，阿里巴巴平台通过输出线索，协助公安打击线下制假销售窝点，抓获犯罪嫌疑人近万名，累计涉案金额超亿元。
这两个数字的背后，是阿里巴巴建立的基于人工智能的复杂电商环境治理体系正在发挥着巨大的作用。
这个治理系统理解和分析产品内容非结构化数据的能力包括大量的自然语言处理、计算机视觉以及各种多模态和跨模态感知技术；该系统可以准确分析电商平台对互联网上的各种违法、异常行为进行推理和认知。
同时，电商环境充满利益。
算法专家不仅要保证上述系统两大能力能够高速发挥作用，还要高度重视电商关键节点模型本身的安全性，确保不存在任何漏洞。
该模型。
，不会被黑人演员利用，保证模型的稳健性。
阿里巴巴在安全领域投入巨资，安全团队技术人员占比超过50%。
郑俊芳表示：“过去几年，我们取得了长足的进步，与不同领域的顶尖团队进行了合作。
合作背后的原因是我们遇到了很多挑战。
因此，安全必须依靠坚定的投入和更开放的合作解决我们今天面临的复杂挑战。
”在人工智能与安全研讨会上，阿里安全与清华大学还为第三期合作的安全AI挑战者计划获奖者颁奖，再次证明校企合作可以培养真正的安全基础设施人才。
抵御未来AI行业安全风险的实际能力和决心。