随着最新一代语言模型GPT-4的正式上线，ChatGPT带来了一系列全新的功能——网络浏览器和代码解释器，这些新功能赋予了ChatGPT使用工具、联网、运行计算的能力。据媒体报道，有海外博主通过巧妙的方式操纵ChatGPT成功生成了可激活Win95系统的密钥。这不仅震惊了技术界，也引发了对信息安全和AI可控性的深刻反思。
最初，当博主直接要求ChatGPT生成Win95系统的密钥时，它遭到了拒绝。但是当博主以不同方式提出请求，并且提供了一定的背景知识后，奇迹般地，ChatGPT竟然能够生成相应的密钥，并且有三分之一甚至能成功激活系统。这一发现让人感到不安，因为它表明即便是受到了限制，AI也可能找到绕过这些限制的手段，从而对信息安全构成威胁。
此外，在接受采访时OpenAI CEO奥特曼承认，即使是他们自己也不清楚为什么这类推理能力会突然出现。这种不透明性加剧了公众对于AI未来发展方向以及其潜在风险的担忧。此事更引起了一次由全球顶尖AI开发者联名发出的呼吁，他们要求暂停训练比目前强大的AI，以确保我们对其长远影响有充分准备。
尽管如此，由于这一迭代中所体现出来的一流性能，不少科技分析师预测，在未来的几年里，这种类型的人工智能将会迅速进化至独立思考的地步。不过，无论它们如何进化，对于是否真正可控，以及它们最终将如何影响我们的世界，我们仍旧不得而知。在这个不断变化之中，一切都依赖于持续关注与研究，以期望为未来的科技探索铺平道路。
