随着最近GPT-4语言模型的正式投入使用，ChatGPT也带来了全新的插件——网络浏览器和代码解释器，赋予ChatGPT使用工具、联网、运行计算的能力。据媒体报道称，有海外的博主通过ChatGPT生成了可激活Win95系统的密钥。这一消息不仅让人震惊，也引发了一场关于AI技术安全性的深刻讨论。
当该博主首先直接要求ChatGPT生成Win95系统的密钥时，遭到了拒绝。但是，他们并没有放弃，而是通过让ChatGPT了解Win95的密钥规则，然后通过调整一些语序和叙述方式，居然直接生成了相应的密钥。随后博主对这些密钥进行测试，发现有三分之一的密钥可以成功激活。此消息一出，不少网友纷纷表示担忧，有媒体甚至指出，该测试表明ChatGPT所设定的限制并不能有效地防止侵权行为发生，这可能会对信息安全造成一定程度上的威胁。
此外，在之前，一位名为奥特曼的人在接受采访时曾表示，由于OpenAI团队自己都不知道其如何“进化”，从而产生了推理能力，但无法解读这种能力出现原因。这样的言论更是加剧了公众对于ChatGPT信息安全问题的一种担忧。
为了解决这一问题，一份由世界上千位顶尖AI开发者的联名信呼吁暂停训练比目前已知强大的AI，并建议至少暂停6个月。在这份信中，他们提到，即便当前已经存在如聊天机器人等基本智能，它们仍然存在潜在风险，因为它们可能会被用于恶意目的。如果继续前进，没有足够的手段来确保新型AI不会超越人类控制，那么长远来看，对人类社会构成巨大威胁。
总之，这次事件提醒我们要警惕和关注任何具有自我学习或进化潜力的技术，以防它们失控，从而导致不可预测的情况发生。
