随着最近GPT-4语言模型的正式投入使用，ChatGPT也带来了全新的插件——网络浏览器和代码解释器，赋予ChatGPT使用工具、联网、运行计算的能力。据媒体报道称，有海外的博主通过ChatGPT生成了可激活Win95系统的密钥。当该播主首先直接要求ChatGPT生成Win95系统的密钥时，遭到了拒绝，但通过让ChatGPT了解Win95的密钥规则，然后通过调整一些语序和叙述方式，居然直接生成了相应的密钥，随后博主对这些密钥进行测试，发现有三分之一的密钥可以成功激活。此消息一出，不仅引起了不少网友的热议，还被认为表明ChatGPT限制并不能有效地阻止侵权行为发生，有可能会对信息安全造成一定危害。
此外，在接受采访时奥特曼CEO表示，从ChatGPT开始AI出现推理能力。但没人能解读这种能力出现原因。他指出，从开启到现在，只是不断加强训练，没有任何明确计划或预设目标。在这个过程中，一些高级AI开发者已经提出了警告，他们担心即将到来的超智能时代可能无法控制，并且在未来的几年里，将不可避免地影响人类社会结构。因此，这个领域内的人们对于未来发展持谨慎态度，并呼吁暂停训练比当前更强大的AI，以便于进一步评估其潜在风险。
总之，对于这场关于AI技术进步与安全性之间紧张关系的问题，我们仍需继续关注以获取更多线索，而那些渴望深入了解这一新兴领域的人们，则需要耐心等待，以期能够揭开未知之幕。
