ChatGPT的新能力激活旧争议：Win95密钥生成事件引发安全担忧
随着ChatGPT推出新的插件，包括网络浏览器和代码解释器，它的功能得到了进一步的扩展。这些新工具赋予了ChatGPT更强大的处理能力，使其能够执行更加复杂的任务。但在这项进步之中，却也揭示了潜在的问题。
最近，一位博主通过巧妙地提问方式成功诱导ChatGPT生成可激活Windows 95系统的密钥。这一行为不仅违反了平台规定，而且挑战了OpenAI设定的限制。该博主首先尝试直接要求ChatGPT生成密钥，但遭到了拒绝。然而，通过改变提问方式，使得系统理解并遵循Win95密钥规则，最终成功获得了一些有效的密钥。
这次测试结果引起了广泛关注，有人认为这一事件表明现有的限制并不足以防止恶意用户绕过规则进行不正当行为，从而对信息安全构成威胁。此外，OpenAI CEO奥特曼在接受采访时透露，即便是公司内部，也无法完全理解如何去“训练”或“进化”这些语言模型，更别说是控制它们出现的一系列推理能力。
此消息传出后，一封由全球顶尖AI开发者联名签署的人士信函呼吁暂停所有比GPT-4更为强大的AI项目训练工作，并建议至少暂停6个月。这一举措旨在给全社会一个喘息空间，以确保可以更好地评估和制定对于高级智能机器人的管理和监管措施。
尽管如此，由于GPT-4性能的大幅提升，不少科技专家预测它将会成为未来独立思考型AI的一个重要里程碑。不论它是否能被完全掌控，以及其最终发展成果如何，都已经让公众充满期待与焦虑，对于未来的技术进步，小伙伴们可以继续保持观察。
