人工智能已经到了规模化应用阶段。
在不久前刚刚结束的第三届世界人工智能大会上，《中国新一代人工智能科技产业发展报告 ()》公布的一组数据揭示了这样的情况：中国人工智能企业中，应用层企业占比高达75.2%，包括智能制造、科技金融、新零售、智能安防。
“阿里巴巴在新零售安全的应用上做了很多探索，比如电商治理中的经营环境的安全。
我们也将消防、食品安全纳入这一范畴，赋予安全新的定义。
”阿里安全图灵实验室奥创在会上指出，随着人工智能技术的不断应用，安全问题也不断涌现。
“既懂安全又懂人工智能的人才无疑是未来最有价值的人才。
”放眼全球，人工智能近年来越来越受欢迎。
快来发展吧。
5月16日，两项以人工智能为主题的国际活动在天津和北京开幕。
中国国家主席和习近平还向两项国际盛会发出贺信寄语：推动新一代人工智能健康发展，更好造福全球人民。
奥创参加的世界智能大会专门开设了人工智能与安全分论坛。
角色来自政府、大学、企业等各方共同探讨人工智能带来的安全风险及解决方案。
“计算机的优势在于其速度和影响范围，它们拥有比人类更强大的能力。
随着人工智能的发展，这种优势将进一步放大，可能会出现无法检测或阻止的攻击。
”明在讨论中指出，不过，人工智能在辅助安全方面对防御的改进将大于其在攻击方面的改进。
最终会让进攻和防守达到同一水平，甚至可能扭转防守方长期以来的劣势。
近期，“AI换脸”频频登上热搜，引发技术伦理争论。
“很多技术的出发点是好的，但很多人不太关注技术被滥用的可能性，”奥创说。
对于政府来说，完善法律法规、加强道德建设很重要，而工程师对于技术发展则持开放的态度。
在一定程度上需要做出改变。
“对于学术界来说，需要加强人工智能防御的研究，不仅是生成，还包括识别伪造。
还需要加大对AI跨学科学科的投入，比如法学、心理学、道德伦理等。
”据悉，阿里巴巴在今年年初提出了安全AI的概念，即AI在安全场景中进化，能力更强、更多元化，目前，阿里安全图灵实验室的安全AI技术应用于知识产权保护、内容安全、新零售安全、智能芯等多个领域，人脸识别技术已得到应用。
刷脸就医、刷脸景区、刷脸进入大型活动、刷脸认证、刷脸快递取货等多种场景。
“在安全AI的应用中，我们发现图像识别、语音识别等感知问题可以由信息驱动，但一些认知任务，比如电商风险问题，则严重依赖知识图谱等技术。
”奥创说，网络安全有着悠久的发展历史，大量的专业知识已经积累在少数专家的头脑中，因此安全人才的缺口是一个大问题。
“特别是人工智能带来了更多的安全问题，无论是人工智能辅助解决安全问题，还是其他方面，既懂安全又懂人工智能的人才无疑是最有价值的。
”附演讲全文： 我是阿里巴巴安全部薛辉（昵称：奥创），同时也是阿里巴巴安全图灵实验室负责人。
。
实验室主要负责图像视频、自然语言处理、语音技术在安全场景中的应用，以及部分AI技术本身的安全研究。
第一个问题是，随着人工智能的发展，是否存在白帽无法检测或阻止的攻击？我认为有这样的可能性。
我们知道，计算机最初的优势在于其速度和影响范围，以及其比人类更强大的能力；随着人工智能的发展，计算机与人类在创造力和认知理解力上的差距进一步缩小，而原本占主导地位的速度和影响规模的优势进一步放大，可能会出现无法检测或阻止的攻击。
但不要忘记，人工智能不仅可以放大攻击者的能力，防御者也可以利用人工智能技术来强化自己的堡垒。
当前的网络攻击实际上攻守不平等；相比于进攻方，防守方需要覆盖的区域要大得多，这实际上由于人力因素是非常不利的；例如，现在我们有机会从大量收集数据的日志中找到线索，这在过去的体力劳动时代基本上是不可想象的。
我认为，在辅助安全方面，人工智能对防御的提升更多于对攻击的提升。
最终会让进攻和防守达到同一水平，甚至可能扭转防守方长期以来的劣势。
第二个问题，很多人都在问，学术界的研发和工业界的研发有什么区别？颜教授之前做过一个总结，我觉得很有见地：学术界追求极致，工业界讲商业。
如果我们拆解当今深度学习的几个要素，包括数据、算力、算法，还是有一些东西值得讨论的。
比如，从信息的角度来看，这可能是当今企业最大的优势之一。
但有一点是肯定的，天下没有免费的午餐。
如今，很多信息合规和隐私问题变得越来越重要，很难持续确保收集到足够的高质量信息，更何况如今的深度学习模型还可能遭遇数据污染等攻击；另一方面，换句话来说，今天数据的重要性实际上证明了人工智能的不成熟：我们的模型无法实现足够好的可迁移性，或者像人类一样基于小样本进行学习；但我们越来越依赖信息量，当信息成为我们的核心竞争力后，我们却越来越不愿意分享自己的信息，这可能不利于整体发展。
在学术界，你只需要关注固定的开源数据集，就没有这样的担忧。
从计算能力的角度来看，这也算是大公司的优势，尤其是像阿里巴巴这样做云计算的公司。
今天我们确实可以在实验环境中使用大量的计算资源来训练模型；但在实际应用中，我们必须保证模型能够在用户的手机或设备上流畅运行，并考虑到上一代甚至前几代模型的兼容性。
性，这是一件很复杂的事情。
相比之下，在学术界，我们往往不太关注时间表现等因素（尽管最近的一些比赛也设定了这个条件）。
例如，可以采用多模型融合来提高极限。
从算法的角度来看，学术界的思路更加灵活、开放，能够给业界带来持续的惊喜。
高校比企业有更大的试错空间，因为即使项目失败了，至少也培养了人。
这是高等学校的核心使命。
很多人也问安防领域是否需要专门从事AI研究的人才？我的回答是肯定的。
广义的安全涵盖多个领域，包括系统安全、金融风控、公共安全、电商治理、营商环境安全等。
近两年，阿里巴巴也一直在推动新零售安全，新零售时代的安全呈现出新的维度。
例如定义，我们会将防盗、防火和食品卫生安全纳入这一类。
当我们做很多感知问题的时候，比如图像识别、语音识别，我们经常采用数据驱动的方式；因为此类任务的样本很多，并且在不断生成；即使特定领域没有现成的标记样本，因为此类任务对人们来说非常简单，不需要专业知识，因此标记的成本并不高。
然而，对于一些认知任务，例如系统安全或金融风控，由于专业知识的门槛以及实时对抗突变和博弈，稳定且长期的数据很难获得，直接使用深度学习会带来一定的困难。
遇到天花板；例如今天，我们非常依赖知识图谱等技术来解决电子商务风险问题。
网络安全的发展经历了一个漫长的时期。
大量的专业知识已经积累在少数专家的头脑中，但安全人才的缺口仍然是一个大问题。
无论人工智能帮助人类解决安全问题，还是采用知识工程的方式，同时了解安全和人工智能的人才无疑是最有价值的。
最后，关于GAN带来的真实性问题以及学术界和政府应该如何应对，我认为人工智能研究人员经常思考如何挑战一个难题，但很少考虑“我们应该这样做吗？”许多技术的出发点是好的，但他们较少关注技术被滥用的可能性。
对于政府来说，完善法律法规、加强道德建设十分重要。
鉴于技术未来可能会造成不可预测的社会问题，或许过去工程师对于技术开发和开放的态度需要进行一定程度的改变。
对于学术界来说，加强该领域的防御研究不仅包括生成，还包括检测伪造。
加大对人工智能交叉学科的投入也同样重要，比如法学、心理学、道德伦理等。