据行业媒体报道，OpenAI因担心强大的聊天机器人ChatGPT可能被用于犯罪活动而限制了部分国家和地区的应用。但研究发现，一些来自俄罗斯的网络犯罪分子一直在试图寻找新的方法来绕过现有的限制，以便采用ChatGPT，并发现了包括绕过IP、支付卡和电话号码限制在内的案例。研究人员在黑客论坛上发现证据表明，俄罗斯黑客试图绕过限制访问ChatGPT自2022年11月推出以来，ChatGPT已成为开发人员、作家和学生的重要工作流工具，但也成为网络犯罪分子可以利用的工具.作为一种强大的漏洞利用武器，有证据表明黑客使用它来编写恶意代码和改进网络钓鱼电子邮件。ChatGPT被用于恶意目的的可能性意味着OpenAI需要限制该工具的部署方式，因为使用ChatGPT的黑客可以更快地进行恶意攻击。OpenAI使用地理封锁措施来阻止俄罗斯用户访问系统。然而，CheckPointSoftware研究人员在俄罗斯黑客的地下黑客论坛中发现了多个实例，讨论如何规避这些限制。例如，一群来自俄罗斯的黑客在论坛上提出了一个问题——如果无法正常进入ChatGPT，如何使用偷来的支付卡支付OpenAI账户并使用API??访问系统？该系统目前是一个免费使用的预览版，而API包括使用令牌付费的文本和代码生成会话。CheckPoint威胁情报经理SergeyShykevich表示，绕过OpenAI的限制并不是特别困难，“我们现在看到，一些俄罗斯黑客已经在讨论和检查如何绕过地理围栏，并将ChatGPT用于他们的恶意目的。我们“我认为这些黑客很可能试图在他们的网络犯罪活动中测试和采用ChatGPT。网络犯罪分子对ChatGPT越来越感兴趣，因为它背后的人工智能技术可以使他们的网络攻击更有效率。”这些地下黑客论坛还提供了俄语教程，介绍半合法的在线短信服务以及如何使用它们注册ChatGPT，让ChatGPT看起来像是在其他未被封锁的国家使用。黑客从这些中学到了东西论坛上说他们只需要支付2美分购买一个虚拟号码，然后用这个号码从OpenAI那里获取代码，这些临时电话号码可以来自世界任何地方，并且可以根据需要生成新号码。Infostealer和ChatGPT的恶意使用之前的调查发现，网络犯罪分子在这些黑客论坛上发布了有关如何使用ChatGPT进行非法活动的示例。这包括创建一个非常简单的Infostealer。随着人工智能工具的广泛应用，这些信息窃取程序将变得更加先进。采用这些“简单工具”的一个例子是Infostealer，它出现在黑客论坛上一篇名为“ChatGPT-恶意软件的好处”的帖子中。该帖子的作者指出，黑客可以使用ChatGPT通过将描述和报告输入人工智能工具来重新创建恶意软件，然后共享基于Python的窃取代码搜索常见文件类型并将它们复制到随机文件夹，并将它们上传到一个硬编码的FTP服务器。谢克维奇说。“网络罪犯发现ChatGPT很有吸引力。最近几周，我们发现了黑客已经开始使用ChatGPT编写恶意代码的证据。ChatGPT可能为黑客提供一个很好的起点，以加快网络攻击的过程。正如ChatGPT可以用作它不仅可以帮助开发人员编写代码，还可以用于恶意目的。”OpenAI表示已采取措施限制ChatGPT的使用，包括限制可以发出的请求类型，但有些请求可能会被遗漏。还有证据表明，它的提示被用来“欺骗”ChatGPT，无论是在研究的幌子下，还是作为可能提供潜在有害代码示例的虚构示例。ChatGPT和潜在的错误信息与此同时，OpenAI正在与乔治城大学的安全和新兴技术中心以及斯坦福互联网天文台合作，研究如何使用大型语言模型（例如ChatGPT的底层GPT-3）来传播虚假信息。该模型可用于降低运营影响力操作的成本，使它们保持在新型网络犯罪分子的触及范围内，而以前只有大型参与者才能接触到它们。同样，可以自动生成文本的招聘人员可能会获得新的竞争优势。使用ChatGPT的黑客还可以导致不同的行为，增加网络攻击的规模，并允许创建比人类创建更具个性化和针对性的内容。最后，他们发现与大多数人工生成的宣传文件相比，文本生成工具能够生成更具影响力和说服力的信息，而黑客通常可能缺乏目标所需的语言或文化知识。OpenAI研究人员宣称：“我们的基本案例是语言模型对品牌拥护者有用，并可能改变在线影响力的运作。即使最先进的模型通过应用程序编程接口(API)访问进行加密或控制，拥护者也可能倾向于开源替代方案。“
