清华大学学报(自然科学版)

作者：王昀, 胡珉, 塔娜, 孙海涛, 郭毅峰, 周武爱, 郭昱, 张皖哲, 冯建华

单位：1. 清华大学 计算机科学与技术系, 北京 100084;<br>2. 中移信息系统集成有限公司, 北京 100032;<br>3. 中国人民大学 新闻学院, 北京 100872

关键词：语言模型,自然语言处理,人工智能,迁移学习,数字政府

基金：“智慧政务”项目(R231018UCOA); “面向下一代数字政府的数据体系研究与实现”项目(R23105F0)

大语言模型是自然语言处理的核心研究内容之一, 已广泛应用于包括政务在内的诸多领域。 首先, 介绍了统计语言模型、 神经网络语言模型等早期语言模型的研究进展; 其次, 重点综述了大语言模型研究进展; 最后, 介绍了大语言模型在政务领域的应用情况, 包括政务文本分类、 政务问答、政务命名实体识别、 舆情风险识别和政务关系抽取, 并提出政务大语言模型研究需要解决的问题, 即数据多模态化、 正确面对 “模型即服务” 趋势、 注重数据高安全性、 明确责任边界。 此外, 还提出了政务大语言模型研究的技术路径。 大语言模型正处于蓬勃发展的阶段, 随着中国推动人工智能技术研究及其在政务领域的应用, 大语言模型将在政务领域发挥更大作用。

来源：2024年第4期

《清华大学学报(自然科学版)》期刊编辑部

查看清华大学学报(自然科学版)杂志2024年第4期