“人工智能面临的安全问题可能超出很多人的想象”。
8月28日，在人工智能智博会暨安全高峰论坛上，中国网络空间安全协会副会长杜跃进表示，人工智能在给时代发展带来深远影响的同时，也面临着挑战。
严重的安全问题。
只有将人工智能与安全有机融合，人工智能才有光明的未来。
杜跃进指出，智力对于“坏人”来说也意味着“机会”。
当今社会是相互关联的。
网络攻击可以从虚拟空间渗透到物理空间，其危害是前所未有的。
他从技术角度列出了人工智能的“七宗罪”。
一是硬件层面。
许多人工智能组件缺乏物理层面的安全防护。
即使只有一段线路没有电磁屏蔽，它仍然留下了物理干扰的机会。
其次是软件层面。
任何软件都存在漏洞，攻击者可以利用漏洞来实现代码执行、拒绝服务攻击、控制流劫持、信息泄露等目的。
三是协议层面。
许多专有通信协议设计缺乏安全考虑。
第四是数据层面。
大数据时代存在“黑匣子悖论”。
人工智能离不开数据，但数据本身可能会被污染。
这样的人工智能就像是“中毒”了。
第五，在业务层面，算法本身可能会被欺骗和误导。
当人工智能越来越多地被用来控制相关业务时，可能会产生致命的影响。
第六是申请动机水平。
坏人可能更早、更深刻地看到了人工智能带来的机遇。
如今，除了人工智能之外，生物技术等诸多前沿技术领域都存在这样的趋势，值得警惕。
第七是机制设计层面。
图案设计考虑不足，会导致与预期相反的结果，可能会产生非常严重的后果。
除了技术安全挑战外，杜跃进还指出，从伦理角度来看，如果不能为人工智能建立正确的价值规范，人工智能可能会被坏人用来做损害人类利益的事情。
从社会复杂性来看，人工智能的应用往往是针对每个需求点来实施的。
但由于社会的复杂性，这种单点思维可能会导致技术在推广实施过程中适得其反。
杜跃进还呼吁人工智能面临的安全问题需要来自安全、通信、社会学、法律等领域的机构、企业以及专家的共同参与和解决。
杜跃进在讲话中还强调，人工智能也是解决当前安全问题的有力工具。
在大安全时代，无论是过去的痼疾，还是线上线下层面的安全问题，都可能通过人工智能的应用找到突破口。
他指出，安全行业必须充分认识到，我们真正的对手不是其他竞争厂商，而是网络攻击者和破坏者。
衡量一家安全公司成功与否的关键在于能否帮助客户和公众抵御网络攻击、遏制危害。
据悉，本届人工智能与安全高峰论坛由中国国际智能产业博览会组委会主办，集团承办，重庆市合川区人民政府协办。
论坛还邀请了中国科学院院士郑建华、中国工程院院士沉昌祥、国家密码动物管理局商用密码管理办公室副巡视员霍伟、国家密码动物管理局副局长穆红等嘉宾出席。
集团及智慧城市事业部总裁等来自产学研领域的重要嘉宾。
就智能时代安防行业未来发展趋势进行深入探讨和交流。