中国科技馆官网警示ChatGPT热潮背后别被它那一本正经的胡言乱语迷惑了

编者按:

在全球范围内,ChatGPT的迅速崛起引发了广泛的关注。它背后的原理和工作机制究竟是什么?是否能够取代记者的角色?我们应该如何看待ChatGPT未来的发展趋势?为了探索这些问题,我们专访了中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏,他从人工智能角度深入分析了ChatGPT。

专家简介

曹立宏是中国传媒大学脑科学与智能媒体研究院院长、博士生导师,同时担任中传学术委员会副主任、中国人工智能学会第八届理事会理事及教育部科技委员会人工智能与区块链技术专委会委员。他致力于类脑智能和计算领域的研究。

对ChatGPT的评价

谈到使用体验,曹立宏表示:“相比过去,感觉确实有所提升,但也有不足。”他认为,尽管语言生成能力有所提高,对专业性问题则存在困难。“对于比较专业性的问题,它就开始出问题了。”他指出,由于AI中的灾难性遗忘现象,即如何让AI快速学习新知识而不影响旧知识,这仍然是一个未解决的问题。

缺陷之处

除了上述点外,曹立宏还提出了关于人类常识和具身体验方面的问题。人类理解往往基于多种感官,而AI仅能依赖文本数据进行理解,这是一种肤浅的理解。他强调,“一个黑色的苹果你敢吃吗?”这种全方位体验是人类独有的,而目前的人工智能尚未完全模拟这一过程。

替换记者的可能性

对于被ChatGPT替代记者的可能性,曹立宏认为这不是需要太担心的事情。“作为记者,你需要深度理解来提出问题,以及情感系统,这些都不是当前机器能够做到的。”他指出记者需要快速学习,而这也是目前机器无法实现的事项。

更像辅助工具

总结来说,曹立宏将ChatGPT视为“穿着深度学习马甲”的工具,不应将其当作真正的人类智慧或专业知识来源。他警告说,如果把它当成导向式的东西,那么可能会导致严重的问题,因为它在深度思考上远远落后于人类,并且容易“一本正经地胡说八道”。

未来发展需警惕滥用

最后,对于ChatGPT未来发展趋势,曹立宏提出两条路径。一是通过更接近大脑神经元模型和算法;二是在大脑功能基础上构建新的技术。但无论哪种方式,都必须警惕其被滥用,以免带来巨大的负面后果。

猜你喜欢