首发快讯

厦门大学教授苏劲松：ChatGPT的发展经历了多个阶段

每日经济新闻 2023-02-22 21:18:26

近日，《每日经济新闻》记者专访了厦门大学教授苏劲松。苏劲松向记者介绍，ChatGPT本质上是一个语言模型，它可以根据给定的上下文来预测当前出现词语的分布概率。

粗略来看，ChatGPT的发展经历了多个阶段：第一阶段是统计语言模型，即用传统的统计方法来建立语言模型；第二阶段是神经网络语言模型，即使用神经网络来建立语言模型，先后出现了许多经典模型，包括前馈神经网络语言模型、循环神经网络语言模型等等。随着2017年Transformer模型的出现，研究者们也开始使用Transformer模型来构建预训练语言模型，也就是ChatGPT的前身GPT。

如需转载请与《每日经济新闻》报社联系。
未经《每日经济新闻》报社授权，严禁转载或镜像，违者必究。

读者热线：4008890008

特别提醒：如果我们使用了您的图片，请作者与本站联系索取稿酬。如您不希望作品出现在本站，可联系我们要求撤下您的作品。

上一篇文章

应急管理部调度内蒙古阿拉善左旗露天煤矿坍塌事故救援处置，王祥喜率工作组紧急赶赴现场指导处置

返回每经网首页

下一篇文章

怡达股份：泰兴万怡新材料科技有限公司的高效新型活性氧化铝项目建设期为12个月