基于汉语孤岛现象的大语言模型语言能力评估

基于概率来预测下一词的生成式大语言模型因其在语言生成方面的出色性能,使得不少人认为这种模型本质上就是人类语言官能的模型。然而,基于语法规则研究语言的学者则认为,大语言模型并不能洞察人类语言官能的本质。研究以汉语孤岛效应为切入点,评估了以GPT-2和Gemma 2为代表的大语言模型对这一语言现象的理解能力。我们设计了两组实验。实验一通过量化孤岛效应的影响因子,测试了汉语母语者对孤岛效应的认知。结果表明,母语者能够清晰地察觉出汉语中的孤岛效应,准确判别出汉语不合语法的句式。实验二通过计算最小对比对中违反孤岛和遵守孤岛句子的概率,测试了以上两种模型对孤岛效应的反应。结果表明,GPT-2和Gemma 2虽然可以甄别出两类句子在概率分布上存在差异;但其并不理解概率分布较低,即违反孤岛限制的句子,实际上是母语者根本不会产出的句子。对比以上两组实验,我们认为尽管大语言模型在语言生成方面表现出色,但在理解和判断特定语言现象方面仍然存在局限性,尚未达到人类语言能力水平。

关于大语言模型与人类语言能力差异的思考

在大语言模型备受关注且饱受争议的背景下,为回应部分人对于大语言模型的质疑,马霍瓦尔德(Mahowald)等人对“语言能力”的内涵进行了重新思考,并将其区分为“形式语言能力”和“功能语言能力”。文章基于马霍瓦尔德等人对于ChatGPT大语言模型两种语言能力的区分,进一步详细探讨了两种语言能力的内涵,并且对“大语言模型在何种程度上实现了或媲美了哪些语言能力”这一问题进行了深入探究。文章发现:(1)大语言模型对于两种语言能力的掌握上都仍有欠缺,尤其尚未掌握人类“句法”的核心部分;(2)大语言模型和人类的语言能力在“工作机制”上存在着本质的区别。这表明大语言模型虽然在语言处理方面取得了很大的进步,但与人类的语言能力相比,仍存在一定的差距。

语言与人脑科学研究中的“伽利略谜题”

本文首先回顾了语言与人脑科学学科产生的历史背景,而后聚焦于语言与人脑科学研究中的一个重要论题即“伽利略谜题”展开评述。主要观点是:1)“伽利略谜题”代表了乔姆斯基对人类语言本质一贯的理论思考,它与语言知识获得的“柏拉图问题”有着共同的理论关切,可以在17、18世纪以来的认知科学传统中找到源头,是语言学与心理学、神经科学、生物学等相关学科相互交叉和渗透的重要促动因素;2)由于语言外化的多样性,需要通过对包含隐性成分在内的“拼盘式”外化现象进行综合考察才能准确还原I-语言简约性的真实本质;3)语言与人脑科学学科对简约性的追求是爱因斯坦所说的科学理论建构中“神奇原则”的一个体现;4)运用强式制图策略对各种或显或隐的功能中心语进行考察有助于深化对“伽利略谜题”的理解。