我们仍处于人工智能(AI)的早期阶段，但AI正迅速成为企业保护自己的重要方式。使用高级算法，组织可以改进事件响应、监控潜在威胁并识别威胁信号。但AI的一个被忽视的重要优势是，AI可以发现人类分析师往往忽视的漏洞。许多公司尚未利用人工智能在网络防御中最重要的应用：缺乏同理心，通常被称为“不人道”。赢得您的信任社会工程学是由精通电话或电子邮件技能的人发起和执行的，不需要高超的黑客技能。相反，黑客正在欺骗客户服务代表或任何其他拥有他们所需信息的人，例如，欺骗与双因素身份验证相关的电话号码或有利可图的游戏帐户密码。FBI互联网犯罪投诉中心声称，商业电子邮件妥协(BEC)这种流行的社会工程方法仅在2018年就造成了超过12亿美元的损失。虽然银行和其他高价值实体可能是主要目标，但没有人能幸免于此类攻击。在黑客成功迫使她的无线运营商激活一张新的SIM卡后，一名妇女损失了价值30,000美元的加密货币，该卡用于窃取她各种金融账户的双因素身份验证凭据。在另一起事件中，UbiquitiNetworks损失了3910万美元，此前黑客冒充其高级员工说服其财务部门完成一笔大额汇款。即使像奖励计划这样无害的东西也可能引起恶意黑客的兴趣。公司目前通过培训员工和设置员工应始终遵循的一系列程序来解决此问题。不幸的是，网络安全链中最薄弱的环节不是防火墙，而是人们自己。那些想要取悦对方的客户服务行业的人。他们往往不按剧本行事，很容易受到能说会道的江湖骗子的影响。只要黑客声称丢失了他的酒店忠诚卡，要求将另一张寄回家，然后询问文件上的地址，服务台工作人员就可以为他服务。结果，陌生人掌握了有关特定客户的私人信息。断路如果在客服代理之前第一次接触人工智能，尤其是会话式AI，结果可能就完全不同了。世界上最大的游戏公司之一率先体验了这种方法，决定使用对话式AI作为前端聊天代理。该公司以其许多成功的视频游戏发行而闻名，部署了Amelia来接管客户的简单游戏问题。公司认为Amelia会减少客户等待问题解决的时间，而Amelia正是这样做的。但在工作了一段时间后，Amelia也注意到来电者有时会在没有正确识别信息的情况下要求访问帐户，从而检测到网络钓鱼者。游戏世界中嵌入了真实的金融功能，绑定了金融账户信息，风险相当高。人工代理很容易被诱骗交出账户凭证。阿米莉亚永远不会被一个耸人听闻的故事所感动。Amelia严格按照公司政策做决定，没有落入社会工程技术的陷阱。她只是想通过遵循脚本并在遇到危险行为时引入新的身份验证方法来证明你就是你所说的那个人。最初的推出是成功的，至少部分是成功的。与人类员工相比，Amelia解决客户投诉的时间更少，而且还减少了假账户的使用，但客户满意度下降了。消费者怎么能不喜欢可以阻止他们的账户信息被盗的人工智能呢？在查看Amelia与客户在正常聊天和升级聊天期间的对话记录后，原因就很清楚了。阿米莉亚严格遵守规则，不让自己被黑客牵着鼻子走。黑客故意给她差评，而游戏公司的服务中心给她好评。实时为王即使在客户服务环境之外，对话式AI也可以为威胁评估人员提供竞争优势。高级对话式AI不是定期离线扫描数据或监控威胁，而是实时分析数据和行为，捕获交互的上下文。如果用户想要他的余额，高级对话式人工智能会在根据他提供的信息验证他的身份后捕捉其正确含义。由于数据是在后台在线处理的，前端对话式AI可以给人一种真正一对一交流的自然感觉。人工智能实时评估对话的能力，以及处理威胁评估的每一个字的能力，是一个非常强大的工具。如果可疑客户的行为过于反常而不会构成风险，对话式AI可以识别并采取适当的行动。这些操作可能与添加额外的身份验证步骤一样简单。如果没有人工智能，只有在对话结束后才有可能审查欺诈迹象。到那时，恶意黑客可能已经偷走了这笔钱。但如果对话是由人工智能而不是真人进行的，人工智能可以观察正在发生的一切，分析每一个字，并围绕威胁、风险和安全做出实时决策。支配社会工程学是黑客攻击的来源，就像基于暴力算法的软件攻击一样。无论是酒店、游戏发行商还是其他地方，黑客总是在搜索可以让他们进入目标网络的信息。但是他们不需要执行高度复杂的攻击来获得他们想要的东西；他们所需要的只是一个引人入胜的故事、一点耐心和愿意破例处理的呼叫中心工作人员。通过让对话式AI主导前端聊天，组织可以减轻社交工程造成的潜在破坏。这项工作可以而且应该在对客户造成尽可能少的干扰的情况下进行。事实上，您的客户甚至不必考虑谈话的另一端是谁。他们应该简单地输入一个查询问题，得到他们想要的，然后继续。毕竟，这种便利不正是我们所设想的未来吗？
