国家科技成果网官网警告ChatGPT热潮背后的冷思考它是否真的在一本正经地胡说八道

编者按:

在全球范围内,ChatGPT的迅速崛起引发了广泛的关注。它背后的原理和工作机制究竟是什么?是否能够取代记者的角色?我们应该如何看待ChatGPT的未来发展?为了探讨这些问题,我们专访了中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏,他从人工智能领域深入分析了ChatGPT。

专家简介

曹立宏是中国传媒大学脑科学与智能媒体研究院院长、博士生导师,同时也是中传学术委员会副主任、中国人工智能学会第八届理事会理事以及教育部科技委员会人工智能与区块链技术专委会委员。他主要致力于类脑智能和计算研究。

使用感受

谈及对ChatGPT的使用体验,曹立宏指出:“相比以往的GPT3,感觉确实有明显提升,它对话流畅性很好,这说明现在语言生成模式方面做得不错。不过,对于专业性的问题,它就开始出现不足。”他认为ChatGPT虽然采用了带人类反馈的强化学习,但对于快速学习新信息并且不会干扰现有知识点仍是一个挑战,即所谓“灾难性遗忘”。

具身体验缺失

曹立宏提醒,我们的人类理解常常依赖多种感官,而自然语言处理中的“理解”仅限于文本,是一种表面的理解。他解释道:“一个黑色的苹果,你敢吃吗?你肯定会犹豫,因为你可能通过触摸知道那是一颗烂苹果。这就是我们人类通过生活环境积累起来的深层次理解。”

记者被替代风险低

面对记者被替代的问题,曹立宏表示:“作为一名记者,其基于深度理解提问能力目前还超出了AI系统,如ChatGPT。而且作为记者,不仅需要提出问题,还要快速适应情绪和个人的特质,这些都不是当前AI能完全模拟的情境。”

更为辅助工具而非核心科研工具

关于其评论,“穿着AI马甲”,他解释说:“很多学生追求这个领域觉得容易找到工作,但作为科研人员,我感到担忧。因为它可能导致对专业知识进行胡说八道。”他警告称,如果将之当作导向科研的话,将产生严重后果。

未来需警惕滥用

对于未来的展望,曹立宏提出两条路径:一是继续完善深度学习模型;二是探索更多生物大脑智慧模式。尽管他认为它将成为人们喜爱使用的一个工具,但也强调必须认识到其极限,并防止滥用,以避免产生巨大的负面影响。

(光明网林佳欣)

来源:光明网

猜你喜欢