期刊社

摘　要:自然语言处理是人工智能的重要内容,大语言模型是自然语言处理的突出成果。本文描述了大

语言模型的发展历程,分别介绍了预训练模型、Transformer 模型、动态词向量嵌入模型ELMO、双向编码

表示模型BERT、生成式预训练模型GPT 等大语言模型的基本原理与结构,最后讨论大语言模型与翻译

活动之间的关系以及大语言模型的内容治理问题。大语言模型不仅推动自然语言处理取得工程方面的

成功,更深刻改变了过去的语言知识生产方式,使语言研究从单学科迈向多学科。这种变革和创新无疑

将推动语言学发展。

关键词:自然语言处理;大语言模型;预训练模型;Transformer 模型;ChatGPT;内容治理

中图分类号:H087　　　文献标志码:A　　　文章编号:1674-6414(2024)03-0001-29

新文速递