一些分析师最近警告称，OpenAI开发的聊天机器人ChatGPT可能会生成恶意软件。人工智能生成的代码可能对网络安全构成严重威胁，这是人类编写的防护软件无法抵御的。据TechMonitor报道，OpenAI不久前正式发布了基于OpenAI的GPT-3大语言模型开发的ChatGPT聊天机器人。事实证明，ChatGPT可以完成多种任务，例如回答客户问题、生成代码以及根据提示编写复杂而精确的散文。不过ChatGPT也可以用于网络犯罪，这恐怕很多人都没有想到。Twitter用户@lordx64是一名使用ChatGPT生成新恶意软件的工程师。他指出，用户可以用OpenAI生成有效载荷，并可以指定执行哪些有效载荷以及如何执行，可用于网络战。2019年，OpenAI尝试使用AI软件生成假新闻。给AI一个话题，给它简单的提示，它就能生成连贯的文章。即使你换了一个不同的主题，AI也不需要重新训练就可以工作。ChatGPT可以生成恶意软件吗？网络安全行业已经开始引入人工智能，可以快速检测和响应攻击。ChatGPT能否走得更远？它可以生成代码吗？牛津大学AI和网络安全顾问RajSharma给出了自己的看法：“这些代码是非常基础的代码，但仍然可以用来犯罪。AI有一项擅长的技能，那就是自动化。”如果黑客可以训练AI，让它编写恶意软件，让它不断学习，那么黑客就可以拥有基于学习的黑客工具。”趋势科技技术专家BharatMistry认为，ChatGPT在基础层面上使用起来很容易，但想要让它生成功能强大的恶意软件还是很难，很多黑客都做不到。他说：“聊天机器人越来越多，它们背后的智能越来越高。网络犯罪也越来越复杂。黑客必须知道如何调整引擎，让它做黑客需要引擎做的事情。做。总之，实际操作会比想象的复杂很多。”米斯特里认为，这样的操作需要很高的技术实力，恐怕只有国家支持的网络间谍才能做到。他强调：“需要非常强大的团队才能做到。”如果这样的工具落入坏人手中，那是相当危险的。“如何抵御AI生成的恶意软件？利用AI系统生成种族主义和仇恨内容并不是什么新鲜事，已经被很多人讨论过。OpenAI发表了一篇论文称其开发的系统可用于降低虚拟信息传播的成本。Sharma认为恶意内容可以通过控制来阻止，例如如果请求次数太多，或者某种类型的信息播放次数太多，那么机器就知道它不应该这样做。对于恶意软件，情况就不同了。如果要对抗人工智能系统产生的恶意代码，最好的方法就是利用人工智能来创建保护机制。Sharma说：“如果有任何黑客工具使用AI，我们必须使用AI来了解它的行为，而传统的安全控制无法应对。”Mistry还认为，在这样的环境下，人工智能应该被用作防御。因为AI有自己的优势。人工智能擅长创造“多态”事物，它们可以改变形状以适应每一次互动——与系统的互动。AI引擎可以高速运行，可以大规模部署，这是人类做不到的。
