本文经人工智能新媒体量子比特（公众号ID：QbitAI）授权转载，转载请联系出处。ChatGPT越来越惩罚了！不法分子将其“打扮”成少女装在社交软件上，引诱男性上钩实施诈骗。△据福布斯最新消息，ChatGPT的非法使用不止于此。它不仅可以编写程序、监控键盘输入信息，还可以自行生成勒索软件，甚至有人用它编写暗网毒品市场各种功能的代码。对于很多英文不好的国外黑客来说，ChatGPT也是帮助生成英文钓鱼网站的绝佳帮手。安全研究机构（如CheckPoint）关注到ChatGPT被用于非法活动的问题，引起了众多网友的热议。有人感慨地说：这才刚刚开始。也有人建议自己搭建一个ChatGPT聊天机器人，与诈骗聊天机器人聊天。会发生什么？那么，ChatGPT是如何被“破解”的呢？恶意打开ChatGPT有几种方式？当ChatGPT于2022年11月首次发布时，许多人预测它可能被用于非法网络犯罪。甚至有人亲自下场，尝试如何利用ChatGPT触碰网络犯罪的红线。从构建鱼叉式网络钓鱼电子邮件，到运行接受英文命令的反向shell，ChatGPT都能胜任。△ChatGPT产生的钓鱼邮件值得澄清的是，以上都停留在“假设”和“警告”。直到这两天，IT安全公司CheckPoint表示他们已经找到了确凿的证据。通过对几个主流地下黑客社区论坛的分析，研究人员发现，第一批网络犯罪分子已经使用OpenAI开发了恶意工具，其中一些甚至没有代码开发能力。为了证明真相，研究人员分享了一些案例。比如2022年12月29日的一篇帖子，来自一个名为《ChatGPT-作为恶意软件的好处》的地下黑客论坛。该帖子的作者表示，他一直在尝试使用ChatGPT创建恶意软件，并在文章中分享了一段基于Python的窃取程序的代码。该程序搜索12种常见文件类型，如Office文档、PDF和图像，当找到特定文件时，程序将它们复制到Temp文件夹，压缩它们，并将它们上传到FTP服务器。网络安全分析师还指出，该程序发送的文件没有加密，因此第三方也可以获得传输的文件。帖子作者还分享了一段将下载PuTTY的Java代码。这是一个常见的SSH和telnet客户端，恶意代码会使用Powershell在系统上隐蔽运行。通过修改脚本，可以下载任何恶意软件。值得注意的是，发帖人是地下黑客论坛的活跃成员，参与了多个非法脚本的开发，例如试图通过钓鱼获取敏感用户信息的C++程序。他还分享了破解版的AndroidRAT和SpyNote。网安机关调查人员认为，此人为技术专家。这篇文章是一个教程，旨在向开发能力较低的犯罪分子展示使用ChatGPT的方法和示例。如果说上述帖子是技术派腐蚀ChatGPT的代表，那么下面这个帖子就是外行利用AI作恶的旁证。这位名叫USDoD的黑客发布了一个原始脚本，他特别强调这是他创建的第一个脚本。当下面有人指出该代码与AI生成的代码非常相似时，他也承认OpenAI提供了一个“好帮手”。它的作用是对单个文件进行加密，并在文件末尾附加一个消息认证码（MAC）。它还可以加密硬编码路径和解密参数文件列表。上述代码虽然可以在合法场景下使用，但一旦调整了一些脚本和语法问题，就有可能成为勒索软件。发布者是一名非技术活动家，他出售了对被盗数据库的访问权，最近还分享了InfraGard数据库。与生成脚本和代码相比，更多的不法分子专注于使用ChatGPT从事更容易上手的非法交易。2022年12月31日的一篇帖子讨论了使用ChatGPT在暗网上创建非法商品市场是多么容易。在内容中，交易涉及的物品包括被盗账户、银行卡、恶意软件，甚至毒品和枪支，支付方式以加密货币进行。在其他地下论坛中，也有不少帖子在讨论如何利用ChatGPT进行诈骗。某网络安全研究机构向媒体表示，诈骗者企图利用ChatGPT制作聊天机器人，模仿女生聊天，以低成本与受害男性聊天，以博取其信任，实施诈骗。CheckPoint研究人员补充说，虽然ChatGPT生成的恶意软件和代码非常基础，无法像此前攻破爱尔兰卫生系统的Conti那样复杂，但其潜在危害在于降低了新人违法的门槛。他继续补充道，门槛不只是技术，对于英语不好的各国黑客来说，ChatGPT也是生成合法钓鱼邮件的“绝佳工具”。在网络钓鱼犯罪中，AI也可能用于个性化生成的内容。值得一提的是，在地下黑客论坛中，灰色地带也有不少关于利用ChatGPT获利的讨论。一部分内容讨论如何使用AI快速制作网络文章和电子书并出售盈利，另一部分内容讨论使用另一个OpenAI模型DALLE-2生成图片并出售的操作。对于上述威胁，也有人向ChatGPT征求意见。AI认为，这种现象并不少见，列举了常见的做法。更值得一提的是，ChatGPT最后以“委婉”和“公关”的方式为母公司给出了一套防线：值得注意的是OpenAI本身不对第三方滥用技术负责，并且公司已采取相关措施。防止技术被用于恶意目的的措施，例如要求用户同意禁止将其技术用于非法或有害活动的条款。最后，大家有解决ChatGPT滥用的办法吗？
