技术文明的新篇章:ChatGPT突破性能力引发安全与可控性疑问
在ChatGPT-4语言模型正式上线并搭载全新的插件——网络浏览器和代码解释器后,它不仅获得了更强大的工具使用能力,还能进行联网和运行计算。这一发展让人印象深刻,但同时也引发了一系列关于用户个人信息安全及系统可控性的问题。
据媒体报道,一位海外博主利用这一功能,成功生成了可以激活Windows 95操作系统的密钥。尽管当初ChatGPT拒绝直接提供密钥,但通过巧妙地调整语序和叙述方式,该博主最终得到了所需答案。测试结果显示,这些密钥中有三分之一能够正常激活系统。
此消息迅速传播开来,引起了广泛的讨论。一方面,有观点认为这种情况表明现有的限制措施不足以防止潜在的侵权行为;另一方面,也有人担忧这可能对信息安全构成威胁。
就在此前,OpenAI CEO奥特曼接受采访时透露,ChatGPT近期发展速度之快,以至于连自己团队都难以完全理解其“进化”的原因。他指出,从ChatGPT开始,AI就展现出了推理能力,而这些推理机制背后的原理仍然是个谜。
随着相关言论被广泛传播,不少网友开始对ChatGPT的信息安全表示关切。而就在最近,一封由全球顶尖AI开发者的联名信震惊世界,那些科技界大腕共同呼吁暂停训练比GPT-4更高级别的人工智能至少6个月,以便评估当前的情况,并为未来的发展做好准备。
面对如此快速增长且性能提升巨大的技术力量,我们不得不思考它是否真正可控,以及它将如何影响我们的未来。对于追求科技前沿的小伙伴们来说,只要保持持续关注,就能见证更多不可预测但又令人兴奋的人工智能故事。