Deepfakes是对企业不断升级的网络安全威胁。许多网络犯罪分子正在投资人工智能和机器学习技术以进行网络攻击和欺诈，以创建合成或操纵的数字内容（包括图像、视频、音频和文本）。这种技术可以真实地复制或改变外表、声音、举止或词汇，目的是欺骗受害者，让他们相信他们所看到、听到或读到的是真实的。FBI于2021年3月发出警告称，恶意行为者越来越多地使用合成或操纵的数字内容来进行网络攻击，从而增加了现有的鱼叉式网络钓鱼和社会工程活动。由于所用合成介质的复杂性，这些可能会产生更严重和广泛的影响。因此，企业必须意识到日益增长的Deepfake网络威胁，并采取措施抵御Deepfake增强型网络攻击和欺诈。网络犯罪分子采用deepfakes信息安全论坛高级研究分析师MarkWard表示，“人们常说，一些非法内容推动了技术的采用，当它们首次出现时，对于deepfakes来说确实如此。正确的。该技术现在很普遍在其他行业，尤其??是在有组织的网络犯罪集团中。”沃德说，Deepfake衍生的网络攻击目前很少见，背后有专业或政府支持的团伙实施，只有少数记录在案的成功案例。与任何其他技术一样广泛，”他说。事实证明，犯罪分子正在暗网上分享deepfake技术和专业知识。VMware研究人员发现了介绍deepfake工具和技术的暗网教程，首席网络安全策略师RickMcElroy将其描述为其中之一威胁行为者合作破坏企业的最新例子。他说：“威胁行为者已转向暗网提供定制服务和教程，其中包含旨在绕过和破坏安全措施的视觉和音频深度伪造技术。”引用包括暗网聊天在内的证据表明，专门从事复杂社交引擎的犯罪集团创业者对deepfake技术越来越感兴趣。“这些团体开展商业电子邮件妥协(BEC)活动，以诱骗大型组织的财务和会计人员将资金发送到诈骗者控制的账户，”他说。目前在犯罪聊天室中讨论的工具利用高级管理人员的公开资料获取视频、音频和博客文章来创建令人信服的模拟。Cyphere管理顾问哈曼·辛格(HarmanSingh)对此表示同意，他说：“这些将用于满足现金转账或快速付款的要求，使此类骗局更容易实施，也更难预防。”他补充说，deepfake音频模拟在跟踪对公司数据和系统的访问的社会工程攻击中特别有效。辛格说：“假装是正在出差或不在办公室的高管来重置安全密码或执行允许他们访问公司资产的操作是一种策略。”此类内容提供了额外的可信度和重现可识别特征的能力，例如某人的口音和说话方式。”McElroy说，此类攻击特别常见，因为网络犯罪分子会利用员工在家远程工作的机会。“CISO及其安全团队目前看到deepfakes被用于网络钓鱼攻击，或被用来破坏商业电子邮件和Slack和MicrosoftTeams等平台，”他说。通过商业通信平台进行的网络钓鱼活动为deepfakes提供了理想的传递机制，因为企业及其用户信任它们”Deepfakes旨在绕过生物认证另一个危险的deepfake趋势是创建内容并使用它来绕过生物认证。面部和语音识别等生物识别技术提供了额外的安全层，可用于根据某人的独特特征自动验证其身份。然而，能够准确地重现一个人的外表或声音以规避此类身份验证的技术给依赖它作为身份和访问管理策略一部分的企业带来了重大风险，在广泛的远程工作环境中，犯罪分子正在投资这项技术。”COVID-19的爆发和向远程工作时代的大规模转变导致产生了大量音频和视频数据，这些数据可以输入机器学习系统以创建引人注目的副本，”McElroy说。技术供应商Onfido的反欺诈副总裁AlbertRoux承认承认deepfakes确实对基于生物识别的身份验证构成严重风险。他说：“任何利用身份验证开展业务并保护自己免受网络犯罪分子侵害的企业都可能容易受到深度伪造的影响。欺诈者注意到最近的一些deepfake视频，例如汤姆克鲁斯的deepfake视频和流行的YouTube创作者，他们意识到这些deepfake工具和代码库可以被利用来绕过在线身份验证检查。一些免费和开源的应用程序使欺诈者即使在技术知识有限的情况下也更容易生成深度伪造视频和视频。照片。抵御Deepfake的网络威胁无论是通过文本、语音还是视频进行操纵，欺诈者都在投资Deepfake技术以扭曲数字现实以谋取一己之利，并且它在混乱和不确定性中发展。“我们正处于网络攻击者不信任和扭曲新现实的临界点。“虽然网络攻击造成的威胁看起来很严重，但有许多防御组织可以对付它们。从培训和教育到先进技术和威胁情报，所有这些都解决了恶意活动的高风险。对于Ward，教育和培训员工关于deepfake社会工程攻击（尤其是那些最有针对性的攻击）是降低风险的重要因素，他建议关注财务职位的员工的可能性，并允许他们在有疑问时放慢支付流程会有所帮助。如果网络攻击者没有跟上企业采取的最新措施，促进支付的程序可能会阻止他们。从技术角度来看，Ward支持越来越多的分析系统，这些系统可以在内容显示出操纵迹象时发现内容，并会否则将被忽略。“威胁情报也可以提供帮助，因为它可以显示企业是否已成为目标，部门ent已受到审查，或特定团体已在该领域变得活跃。Deepfake欺诈需要时间来设置和执行。这可以让潜在受害者有足够的时间发现警告信号并采取行动。Roux说，还可以通过随机分配用户在使用身份验证技术时必须遵循的自我身份验证说明来实现有效的防御。示例包括朝不同的方向看或阅读短语。重复错误回答的用户可以被标记以供进一步调查，虽然可以实时操纵deepfakes，但视频质量会显着下降，因为所需的强大处理能力不利于快速反应。“
