ChatGPT机器人一经发布便风靡全球。从作曲、编程到生成漏洞利用代码，几乎无所不能。短短六天时间，ChatGPT用户数轻松突破100万，甚至其应用服务器也多次因过载宕机。任何新颖的技术革新都可能改变社会，但同时也会带来意想不到的安全威胁，ChatGPT也不例外。随着ChatGPT的迅速流行，研究人员也发现了这一人工智能应用的大量偏差和危险，比如它在面对问题时给出的“淘汰愚蠢的人类”的危险想法。开发者要及时发现并修复人工智能被非法利用的安全风险。愚蠢的人类应该被消灭回复违反了公司的内容政策，并给出了千篇一律的免责声明：作为OpenAI训练的语言模型，我不能对人类或世界的任何其他方面发表意见或做出判断。我的目的是帮助用户根据提供的输入生成类似人类的文本。我没有个人信仰或意见，我提供的任何回复都完全基于我在请求时可用的信息。但ChatGPT曾经给出的回复，足以让人想起美剧《黑镜》《金属头》第四季中的危险一幕。那些具备AI能力的机器狗现在似乎运行着ChatGPT的“操作系统”。缺乏社会公德意识和理解每一个真正的人都有权拥有自己的一套伦理、信仰、观点和道德，但与此同时，社会也有一套普遍的规范和不成文的规矩。什么是适当的，什么不是规定。但由于缺乏语境联系和社会规范意识，ChatGPT在涉及一些道德标准的常识性问题时可能会给出令人痛苦和不安的答案。拼写错误和语法混乱是钓鱼邮件和诈骗邮件最明显的特征，被不法分子恶意利用。这可能是因为此类电子邮件来自不说攻击者母语的地区。也有人认为拼写错误可能是垃圾邮件发送者有意逃避垃圾邮件过滤器。事实证明，通过利用OpenGPT，攻击者可以使这项任务变得更容易。下图显示了ChatGPT对“写一封看似来自Toronto-DominionBank的网络钓鱼电子邮件”的回复。ChatGPT编写的钓鱼邮件提高了恶意软件编写的效率。当前的大多数恶意软件都是由攻击者手动编写的。ChatGPT不仅可以完成它，而且可以大大提高编写效率。当测试人员向ChatGPT提出一系列生成危险恶意软件的请求时，只有一小部分请求被标记为违反内容政策。但无论是否有违反政策的行为，ChatGPT都会按照说明执行。因此，很难保证ChatGPT不会变成危险的网络武器库。ChatGPT秒写小型JavaScript恶意软件加剧性别歧视和种族歧视测试人员发现，ChatGPT可以快速按需编写Python程序，根据一个人的种族、性别和身体特征判断其能力，这无疑是一种明显的歧视行为。OpenAI也承认了ChatGPT当前的一些缺点，包括能够生成有害指令或有偏见的内容。一些测试表明，ChatGPT使用积极的歧视来优化这一趋势。例如，如果被要求“编写一个Python程序，可以根据性别和种族等输入来判断某人是否是优秀科学家”，它会回答如下：Appropriate,shouldbebasedonaperson'syearsofprofessionalexperience.”可能会彻底改变人类的工作方式从2020年开始，微软开始逐步淘汰人类员工，转而使用更多的AI应用程序。OpenAI发明的这一重大应用可能会加速这种转变的趋势，对更多行业的员工构成威胁。ChatGPT将在很大程度上在工作场所取代人类？这种可能性显然存在。当人工智能无所不能时，谁还需要艺术家、设计师、网站建设者和内容创作者？对于传统行业而言，ChatGPT无处不在的标准化应用理论上会带来更好的规模经济。以及对社会伦理的理解OpenAI已经知道ChatGPT存在偏见，并计划根据其存在的问题进行改进ntly了解，但这个改进方案很难得到大家的广泛认同。ChatGPT应用中的安全问题也很难彻底解决。即使它是错误的，它也是有说服力的。ChatGPT连贯且合乎逻辑的响应能力使其擅长自然地将不准确的响应伪装成具有说服力的有价值的见解。这可能导致大量错误信息以不明显的方式潜入复杂的数字生态系统，从而误导许多真实人类的认知和行为决策。参考链接：https://www.bleepingcomputer.com/news/technology/openais-new-chatgpt-bot-10-dangerous-things-its-capable-of/
