历史经验表明，即使开发者最初开发的目的是出于善意，但先进的技术往往不可避免地用于许多负面和恶意的应用场景，OpenAI公司最新的聊天机器人ChatGPT也不例外.现代企业有很多机会使用ChatGPT技术来改善与客户的互动并寻找新的商机。但网络安全社区也有越来越多的证据表明，这种基于人工智能的机器人服务可能成为网络攻击者的强大工具。客观看待ChatGPT的安全隐患ChatGPT是一个非常有用的工具。它具有非常强大的知识积累，可以将复杂的主题简单化。对于那些希望使用该工具编写恶意软件代码以发起网络攻击的人来说，ChatGPT降低了编程或技术技能有限的威胁参与者的进入门槛。威胁行为者只需要对网络安全和计算机科学的基础知识有初步的了解，就可以创造奇迹。然而，ChatGPT对于网络安全建设者也有许多积极的用途。研究人员一直在积极尝试利用ChatGPT的创新能力，将网络防御中的许多人工任务自动化，这对于推动新一代网络安全防御技术的发展具有广阔的前景。显然，这个工具也有助于防守者。影响1自动（主动）安全事件处理一旦安全分析师收到警报，他们首先需要提取相关数据源以确定这是否是真正的攻击。这通常需要大量的手动工作。相比之下，从安全信息和事件管理(SIEM)工具中获取数据输出并通过ChatGPT进行处理可以快速生成安全事件的分析报告。使用ChatGPT从数据生成报告可以比分析师手动分析更快地洞察事件。许多网络安全专业人员的日常工作已经被越来越多的安全攻击所淹没，市场上长期缺乏熟练的安全专业人员更是雪上加霜。然而，ChatGPT承诺将不堪重负的安全团队的操作工作自动化，同时帮助消除大部分误报噪音。除了为安全运营团队对网络事件的分析引入自动化外，ChatGPT还承诺为测试网络防御以发现漏洞的渗透测试人员实现部分工作自动化。例如，ChatGPT提供的恶意软件开发能力也可以帮助白帽黑客。影响2弥合安全人员的知识鸿沟（正面）ChatGPT有可能以更快的速度加深用户对安全专业知识和技能的理解。这种聊天机器人可以巧妙地回答具有高度相关信息的特定问题，概括成几个段落或几个点，这意味着与传统的搜索引擎技术相比，ChatGPT往往可以让用户更快地理解某些问题，因此对于那些希望深入了解网络安全。由于ChatGPT可以快速归纳复杂的话题，对于推动网络安全行业的发展具有十分重要的意义。让非安全专业的企业高级管理人员和董事会成员能够快速了解??网络安全相关内容，从而获得他们对加强网络安全建设的支持。.影响3加速恶意软件的开发（负面）根据Cyber??Ark研究人员发表的研究结果，ChatGPT工具可用于开发极难检测的恶意软件（即多态恶意软件）程序开发，包括用恶意软件训练ChatGPT在开源存储库中找到的代码生成该代码的独特变体以逃避防病毒检测机制。此外，ChatGPT还可用于生成恶意软件负载本身，以便作为网络攻击的一部分进行分发。实验表明，ChatGPT能够生成多种类型的恶意软件负载，包括信息窃取程序、远程访问木马和加密货币窃取程序。对此，OpenAI的解释是，当用户请求ChatGPT生成代码时，ChatGPT的功能更像是一个搜索引擎，无法进行更复杂的理性判别和需求定制。Impact4FacilitatesPhishingandSocialEngineeringAttacks(Negative)ChatGPT可以非常逼真流畅地模仿人类写作，这一特性使其成为一个强大的网络钓鱼和社会工程工具成为可能，尤其是当威胁行为者需要进行跨语言攻击时欺诈性攻击，此工具可能会被用来更有效地分发恶意软件。研究人员在测试ChatGPT时发现，非英语人士撰写的钓鱼邮件往往存在明显的问题，例如拼写和语法错误，或滥用英语词汇，而通过ChatGPT生成的邮件正文则没有此类问题。因此，研究人员认为，攻击者可以利用ChatGPT更有效地分发信息窃取恶意软件、僵尸网络模拟工具、远程访问木马和勒索软件可执行文件。为应用ChatGPT做准备作为一项创新技术，企业和组织在未来的数字化发展中将有很多机会应用ChatGPT或类似的人工智能工具。CISO需要提前做好准备，避免可能的安全风险。安全研究人员也提出了一些有益的措施和建议：实施强认证协议，使攻击者更难访问账户。攻击者已经知道如何使用MFA疲劳攻击来绕过现有的身份验证机制。因此，企业需要利用AI/机器学习技术实现无密码应用，这将有助于提高企业安全性，缓解MFA疲劳。.积极采用零信任模型。这样一来，即使攻击者利用ChatGPT欺骗了一些毫无戒心的内部员工，他们在访问关键数据和系统时仍然必须验证自己的身份，即使验证了身份，也只能访问有限的资源。仅向所有员工提供执行其工作所需的最低访问权限可能会遇到一些阻力，但会使攻击者更难利用任何未经授权的访问。严格监控公司帐户活动并使用包括垃圾邮件过滤器、行为分析和关键字过滤在内的工具来识别和阻止恶意电子邮件。根据发件人和发件人的行为和关系而不是特定关键字来检测恶意电子邮件更有可能成功阻止不良行为者。在攻击者之前利用AI。网络攻击者肯定会大量使用AI，ChatGPT只是其中之一。企业必须充分利用人工智能/机器学习提供的能力来提高网络安全并更快地响应威胁和潜在攻击。加强全公司的安全意识教育，对所有员工进行最新的网络钓鱼风险教育。如果员工充分了解ChatGPT工具的使用方式，他们在处理聊天机器人和其他基于AI的工具时可能会更加谨慎，从而避免成为此类攻击的受害者。参考链接：https://www.crn.com/news/security/5-big-pros-and-cons-of-chatgpt-for-cybersecurityhttps://www.darkreading.com/vulnerabilities-threats/chatgpt-opens-网络犯罪分子的新机会-组织准备的5种方法
