2020年，尽管疫情带来的经济和社会不确定性，人工智能技术仍在加速发展。今年，Gartner发布了包括生成AI、复合AI、负责任AI、嵌入式AI、人工智能增强设计在内的多个新技术类别的AI技术成熟度曲线。其中，生成式人工智能最早出现在“炒作周期”中，是一种常用于制作“深度造假”视频和数字内容的技术。一些恶意人士会尝试使用生成式AI来创建“深度伪造”的内容。这侧面反映出即使是新技术也会带来相应的麻烦和问题。01人脸识别黑产背后的信息泄露人脸识别是应用最广泛、成熟的技术。随着技术的广泛推广，其背后的问题也随之而来。去年，仅售8元的3万张人脸照片就广为流传。可怕的是你不知道谁在收集面孔或这些面孔的图像将用于什么。机器之心去年曾卧底人脸认证组，调查其背后的产业链现状。黑灰行业从业者将高清正面大头照、手持身份证等称为“素材”。以“素材”为基础，采用一套特定的人脸认证技术，通常是人脸动画制作的软硬件结合，从而通过支付、社交、生活服务类APP的人脸认证。近年来，人脸识别认证应用在互联网市场得到广泛应用和推广，以其为盈利点的黑灰产品也应运而生。在这个产业链中，上游需求群体利用实名认证账户套现（羊毛）、推广、倒卖实名账户；中游技术服务商以“代表人脸识别认证”为生，其中不乏“传家宝”。师徒工作室或个体户提供人脸认证服务及软件；下游是各种身份证、人脸照片等信息的提供者。“只要技术好（代表人脸认证），投资成本低，利润可观，市场好的时候，一个月赚3万不成问题。”一位黑灰行业从业者曾告诉机器之心，他靠教授人脸认证技术为生。一套APP人脸认证技术低至800元，还包含教学。其中，身份证正反面和所需半身照成本极低，一般不超过5元，一个APP人脸认证至少需要40元。除去成本价和忽略操作费，一单至少能赚35元。对于一些难以认证的应用来说，盈利空间更大。人脸识别技术已经应用于多个行业和终端。由于缺乏有效监管和隐私监管，已经发生多起诈骗事件。今年，据南方都市报报道，广西南宁市十余名卖房者因“刷脸卖房”被骗上千万元。某房产中介公司以查看房屋档案为由，对卖家进行了人脸识别认证。随后，售房者发现自己的房屋已被购房者抵押给第三方。此外，据南都记者公开资料查询，全国各地已经出现多起利用人脸识别进行诈骗的案件。通过此事，反映出以人脸为代表的个人生物识别信息属于高度敏感的用户个人信息，存在一定的隐私泄露和信息安全风险。根据JuniperResearch的最新研究报告《移动支付认证：2019-2024 年生物识别，监管和预测》，面部识别硬件（如iPhone上的FaceID）将成为智能手机生物识别硬件中增长最快的组件，2024年出货量将超过8亿。预计2019年将达到9600万。面部识别技术无处不在。随着深度学习技术与生物识别技术的融合，基于深度伪造的人脸识别技术也带来了不小的争议。以AI换脸为例，Al换脸顾名思义就是将一张图片或视频中的一张脸换成另一张脸。各种“换脸”技术造就了大量虚假视频，形成了相应的黑色产业链。产业链是上游提供软件和教程；中游提供视频和照片定制；下游销售成品视频，大大降低了行业的技术门槛和造假成本。除了深度伪造技术，还有“防伪”技术，两者呈攻防拉锯状态。除了信息隐私泄露，这项技术还带来了其他问题。最大的问题在于，深度造假生物识别信息的判断还没有成熟的判断方法和依据。02“失控”的智能设备随着物联网、车联网、5G等技术的发展，我们身边的所有设备都在变得越来越智能，但也隐藏着风险。尤其是在远程办公盛行的节点下，一些安全性较差的智能家居产品成为黑客攻击的重点目标。最近，剑桥大学的研究人员发现，任何可以接收语音命令的智能设备，例如智能扬声器或手机，仅通过聆听就可以推断出附近智能手机输入的各种信息，包括密码。研究表明，音频采集设备对隐私的威胁不仅仅局限于监控私人对话，通过物理键盘和手机触屏键盘输入的信息也逃不过它们的监控。研究人员已经证明，所谓的黑客可以从半米外的语音助手收集的录音中提取PIN码（SIM卡的个人识别码）和短信。物联网技术虽然给人们的生活带来了便利，但并不意味着无限的安全可靠。这种风险在通信技术领域也有所暴露。在GeekPwn2020国际安全极客大赛上，腾讯安全玄武实验室高级研究员李冠成和戴戈展示了一项5G安全研究发现。通过5G通信协议的设计，黑客可以“劫持”同一基站覆盖下任意手机的TCP通信，包括各类短信收发、APP和服务器通信。这项研究意味着，黑客可以利用5G通信协议的BUG，实施多种形式的攻击，例如向受害者发送已被植入木马的链接。一旦点击链接，受害者的银行卡信息就可能被盗取。否则，还可以伪造受害人手机号码给家人发送短信、转账等请求。随着通信技术的升级迭代，5G在整体上有了更大的安全保障，但这并不意味着这项技术就具有更大的安全性，也可能带来技术本身不成熟以外的问题。其他本机安全问题。当一切都发展成代理的时候，对隐私的损害也更大。车联网下的自动驾驶汽车经常出现宕机，信息泄露事件是最典型的案例。今年5月，国内特斯拉车主在微博发文称，特斯拉App出现大规模宕机，导致手机无法连接车内，无法获取车辆信息。自成立以来，特斯拉就被许多人描述为带轮子的Android手机，可以通过移动应用程序解锁和锁定。至少，在车联网时代，网络的便利让车辆的智能化成为可能。一旦车辆操作系统、云平台等智能网联汽车的重要组成部分受到网络攻击，轻则造成数据信息泄露，重则导致车辆失控。类似的“失控”经常被用作安全演练的“教材”。2020年的GeekPwn大会上，就发生了这样一场人为制造的特斯拉Model3撞车事故。一名安全研究人员制作了一个小型雷达干扰装置，可以干扰Model3毫米波雷达的探测，使车辆系统无法准确刹车，从而制造了一场人为车祸。在现实生活中，这种人为的交通事故并不多见，但也暴露了自动驾驶车辆的安全漏洞。随着车联网建设的成熟和自动驾驶车辆的增多，此类安全漏洞带来的风险会越来越大。03易攻难守的企业数据随着企业数字化转型进程的加快，数据作为重要的要素被视为企业的生命线。即便如此，随着黑客技术的不断入侵，企业数据被盗的事件屡见不鲜。今年年初，国内一家AI医学影像公司在疫情期间开发的新冠数据被黑客窃取。他们近两个月开发的AI辅助系统和公司积累的新冠训练数据被黑客以4个比特币的价格公开出售。该公司当时回应称，黑客获取的数据不涉及源代码和客户数据。虽然损失有限，但也敲响了警钟。COVID-19大流行期间，多个黑客组织以“COVID-19”为主导话题，对医疗机构和医护人员的电脑发起网络攻击，以达到勒索、窃取信息的目的。数据显示，2020年上半年，安全防护能力薄弱的市政、医疗、制造业成为网络攻击的重灾区，新冠疫情期间对医疗机构的攻击危害更大，包括欧洲最大的私立医院运营商Fresenlus都遭到了勒索软件的攻击。根据Cyber??MDX研究，由于各种原因，大多数医院不会修补超过40%的易受攻击设备。80%的医疗器械制造商和医疗机构表示，由于缺乏安全开发的知识和培训，以及相关的产品信息安全测试程序，设备很难得到保障。04结语随着互联网科技的发展，虽然5G、人工智能、隐私计算、智能算法、物联网、大数据等技术应用已经深入到人们的生活和生产活动中，但我们也需要利用这些社会热点话题重新面对AI时代新技术与新问题并存的问题。即使新技术带来新问题，我们也不能就此放弃不使用甚至不开发新技术。在技??术发展的每个阶段，都会出现不同的问题，问题也会倒逼社会发展。乐观的是，AI换脸和人脸识别黑产品的出现，增加了人们对安全和隐私的讨论，推动了立法探索；智能网联汽车故障频发，倒逼自动驾驶技术变革。人工智能应用的普及加剧了隐私保护、数据安全、道德伦理等安全和道德风险。然而，各种网络安全产品和解决方案层出不穷，专注于解决网络安全问题的安全厂商也在发力。在近期腾讯安全战略研究部和腾讯安全联合实验室联合发布的《产业互联网安全十大趋势（2021）》中，围绕法律法规、行业发展趋势、重点安全等多个维度，探讨了2021年产业安全和安全产业的发展特点风险。在当前行业数字化转型的节点，大量数据正在被采集，如何保障安全成为工业数字化的重要课题。安全作为工业互联网的基础，本身也处于快速变化演进的阶段。一是政策法规体系逐步完善，《民法典》、《数据安全法（草案）》、《个人信息保护法（草案）》等相继出台，明确安全建设方向。二是安全场景日益增多。供应链协同安全、5G应用安全、黑灰生产生态成为企业数字化进程中的重要挑战。三是技术创新和理念创新活跃。隐私计算、零信任架构、人工智能、云原生安全等正在加速在安全场景中的应用，为企业安全防护体系建设提供支撑。尤其是在工业互联网时代，企业将数字业务上云将成为常态。但与此同时，云上的安全威胁规模正在迅速扩大，利用公有云平台发起攻击的黑灰产品更具威胁性。一方面，云原生安全将构建安全服务全生命周期保护，夯实业务立项之初的安全基础，从安全工具、产品到服务体系化，伴随业务发展全过程。另一方面，云上的安全产品正在向模块化、敏捷性和灵活性方向发展。在应对高强度攻击的同时，也在稳定期释放过剩算力，降低企业应用成本，提升整体安全水平。和安全的“最佳解决方案”。在工业数字化的推动下，智慧医疗、工业互联网、车联网等新应用新场景不断涌现。这些传统行业数字化服务的安全，将直接关系到人民群众生命财产安全和国家信息安全。对于企业而言，需要在业务建设初期更多地考虑安全和隐私，规避风险，降低解决安全问题的成本。除了依托云原生安全，企业自身也需要树立顶层安全思维。安全意识不仅需要企业自身的努力，还需要扩展到社会安全意识层面，加强普通用户对网络威胁和个人数据安全的意识。、隐私等新技术的加速发展，不仅代表着新的力量，也给人们带来了各种各样的新问题。新问题需要新技术来解决。看似格格不入，对峙实则大考。
