近日，人工智能领域领军企业OpenAI与微软宣布已关闭5家国家恶意行为者的账户。
这些攻击者利用包括 ChatGPT 在内的人工智能工具来进行网络攻击。
据了解，这五名行为者与中国、伊朗、朝鲜和俄罗斯等国家有联系。
其中，名为“木炭台风”（CHROMIUM）和“鲑鱼台风”（SODIUM）的涉华行为者被指控对美国国防承包商、政府机构和加密技术领域的实体进行网络攻击。
与伊朗相关的参与者被命名为 CURIUM，与朝鲜相关的参与者被命名为 THALLIUM，与俄罗斯相关的参与者被命名为 STRONTIUM。
OpenAI 在一份声明中表示，这些参与者经常使用 OpenAI 服务来查询开源信息、翻译、查找编码错误以及运行基本编码任务。
然而，研究结果表明，OpenAI 的模型只能为恶意网络安全任务提供有限的增量功能。
微软还表示，俄罗斯军事情报官员福雷斯特·暴雪使用大语言模型（LLM）来研究可能与乌克兰常规军事行动相关的各种卫星和雷达技术，并支持操作文档任务等潜在的自动化或技术优化。
木炭台风和鲑鱼台风是两个与中国有联系的组织，有针对美国国防承包商、政府机构和密码学领域实体的历史。
他们利用法学硕士向全球情报机构和各个公司进行查询、生成代码并识别编码错误以及翻译任务。
与此同时，Crimson Sandstorm、Emerald Sleet 和这两个与中国相关的组织也使用 OpenAI 的工具生成钓鱼活动的内容。
尽管 OpenAI 和微软的研究并未发现攻击者使用严格监控工具进行的“重大攻击”，但两家公司仍保持高度警惕，并提出了其他方法来减轻威胁行为者使用人工智能执行类似任务所带来的日益增长的风险。
。
为了应对这一挑战，OpenAI 和微软表示，他们将继续监控和破坏与威胁行为者相关的活动。
他们将与业内其他合作伙伴合作，共享有关恶意行为者已知的人工智能用途的信息，并向公众和利益相关者通报恶意行为者对其人工智能工具的使用情况。
这一事件再次提醒我们，随着人工智能技术的快速发展，网络攻击手段也在不断演变。
企业和个人需要提高警惕，加强网络安全防护，确保个人信息和企业资产安全。
同时，政府和国际社会也需要加强合作，共同打击利用人工智能技术的网络攻击，维护网络空间的和平与安全。