最近ChatGPT很火，它到底是个啥玩意儿？-最近很火的车型

ChatGPT是OpenAI在GPT3.5的基础上，推出的进行对话交互的模型。由于其强大的对话和语言能力，迅速成为一个热点话题。

传统的问答模型

答案之书：有的问题，在问出的那一刻便有了答案；而有的问题，我们真的需要外界的帮助来获取答案。从豆瓣的评价来看，随机给出的答案终究难以让大众接受。

https://book.douban.com/subject/26800309/

通用模型：

问题输入->问题分类和关键词提取->利用关键词去知识库中关联信息->根据问题的分类和知识库信息输出答案

假设一个比较简单的情况，模型拿到需要回答的问题，和参考资料，他可以通过学习关联出在参考资料中哪些内容比较重要，输出对应的答案。

专业领域模型：现在常见的客服机器人等等。

此类的模型会根据问答的历史信息，维护一个状态，这个状态会知道哪些信息已经知道了，哪些信息还需要获取，根据需要获取的信息生成问题。比如原视频中，酒店预定系统，只需要确定预订人，预定时间和房型等信息。此类模型可以用有限的输出完成特定任务，相对来说比较好实现。

NLP如何不被场景限制住

在过去，对话只是NLP任务中的一部分，不同的任务往往需要不同的模型来完成，比如翻译，摘要等等。当然现在的趋势是类似翻译，摘要这种任务已经完全能在ChatGPT中一起实现了，你只要告诉他是需要翻译这段文字，还是摘要这段文字就可以了。

那NLP模型是如何实现通用的呢？一个解决的方案是实现基础的预训练模型，把对语言处理的通用能力都包含在这一个模型之中。比较典型的是基于encoder的Bert和基于decoder的GPT。

Bert：属于机器的“新华字典”。Bert把每个字和每个字的含义都编码成机器能理解的embedding，后续的NLP任务开发可以在这些embedding的基础上做一些修改和训练即可得到较好的结果。简单来说，这个小朋友已经认识每个字了，后面教他造句，是不是就只需要很简单的操作了。

GPT：属于机器的“人类语言百科全书”。假如说，Bert还有一点站在人类的角度想问题，把问题拆成认字，GPT则不管那么多，依赖计算机的优势