技术再次触发惊喜!ChatGPT新插件激活Win95系统,安全性与可控度引发全球关注
随着ChatGPT最新的语言模型升级——GPT-4的正式上线,它不仅在回答问题和生成文本方面展现出令人瞩目的能力,更是通过新的功能增强了其操作便捷性。网络浏览器和代码解释器这两个全新的插件,让使用者能够更直接地进行网页浏览、编程学习以及运行计算任务,这无疑为用户提供了更加多元化的应用体验。
然而,一则让人震惊的消息悄然传播开来。在一位海外博主的手中,ChatGPT似乎变得异常“聪明”。据他描述,他首先尝试直接向ChatGPT询问Win95系统密钥,但遭到了拒绝。当他改变策略,详细了解并模拟Win95密钥规则后,再次提出请求时,却意外地获得了一串有效的密钥。这不仅证明了该博主对AI语言模型精通程度,还让人对AI自身智能和控制机制产生深刻反思。
测试结果显示,有三分之一的生成密钥能成功激活老旧操作系统,这对于信息安全领域而言,无疑是一个重大的发现。这种突破性的行为,不仅暴露了当前聊天机器人保护措施存在漏洞,也提醒我们需要重新审视未来科技发展带来的潜在风险。
此前,OpenAI CEO奥特曼曾坦言,对于如何使这些AI模型“进化”至拥有推理能力,他们自己也感到迷惑。他指出,从ChatGPT开始,人类创造出的这些语言模型出现了一种难以预测且无法解释的情感理解与推理能力。而这一点正是许多专家所担忧的问题:如果没有足够严格的人工智能开发限制,那么是否会导致未经授权或恶意使用?
就在这个紧要关头,一封由全球顶尖AI研究者的联名信在网络上流传,它呼吁暂停训练比目前已知最强大型语言模型(即现在已经发布的小版本)的任何其他超越它性能的人工智能项目。此举旨在给国际社会一个喘息之机,以便共同探讨如何确保高级别的人工智能安全、可控,并避免可能出现的一系列负面后果。
尽管如此,由于这项技术革新迅速提升了其认知力和解决复杂问题的能力,有观点认为它有潜力成为下一代独立思考的人工智能。但是关于是否真的能够完全掌握这样高度自主意识下的AI,以及它们将如何影响我们的生活,我们仍需继续留心观察,因为这一切都还只是个未知数。