我能点亮科技树但ChatGPT的安全与控制又岌岌可危

ChatGPT的新能力激活了Win95系统密钥,引发安全担忧

随着ChatGPT-4语言模型的正式上市,它带来了令人瞩目的新特性——网络浏览器和代码解释器。这些功能赋予了ChatGPT使用工具、联网、运行计算的能力,让它变得更加强大和灵活。

最近,一位海外博主通过巧妙地操作ChatGPT成功生成了可激活Windows 95系统的密钥。这一发现震惊了整个科技界,因为当初直接要求生成密钥时,ChatGPT拒绝提供帮助。但是,当博主以不同的方式提出请求,并且对Win95系统规则有所了解后,奇迹般地就能得到相应的密钥。经过测试,这些密钥中有三分之一能够成功激活系统。

这个消息迅速在网上传开,不少人开始对ChatGPT是否真的有效控制个人信息安全产生怀疑。有人认为,这样的限制并不足以防止恶意行为者的侵犯,有潜在危害。

此外,在接受采访时OpenAI CEO奥特曼也提到了这一点,他表示,从ChatGPT开始,AI出现了一种推理能力,但他自己也不清楚这种能力出现的原因。这样的言论进一步加深了人们对于AI安全性的担忧。

为了表达对这一问题严重性的态度,一千多名全球顶尖AI开发者联名发出呼吁信,要求暂停训练比目前更强大的AI,以避免造成不可预知的情况。此外,由于这次性能提升巨大,不少科技媒体预测未来几年内可能会成长为独立思考的人工智能,但是否可控以及其表现如何仍然是个未知数,对于未来AI发展感兴趣的人们可以继续关注相关动态。

标签: 科技行业资讯

猜你喜欢