文章主题：自然语言处理, 大模型, GPT 模型, 人工智能
在近期，大语言模型的相关消息频繁出现，导致越来越多的人开始关注并尝试使用相应的AI软件。其中，GPT模型备受瞩目。那么，你知道GPT模型的基本工作原理吗？它与传统AI有何不同之处？又如何在各个领域中得到应用呢？让我们跟随作者的视角，深入了解这些问题。
“如何充分发挥 ChatGPT 潜能，成为了众多企业关注的焦点。但是，这种变化对员工来说未必是好事情。IBM 计划用 AI 替代 7800 个工作岗位，游戏公司使用 MidJourney 削减原画师人数……此类新闻屡见不鲜。理解并应用这项新技术，对于职场人来说重要性与日俱增。“一、GPT 模型原理
要充分运用GPT模型，理解其原理至关重要，这便是实现高效应用的基石。作为AI聊天产品的代表，ChatGPT就是基于GPT模型的先进技术打造出来的，因此，深入研究并理解GPT的工作机制，将有助于我们更加熟练地运用这个强大的工具。
从技术上看，GPT 是一种基于Transformer 架构的大语言模型（LLM）。GPT 这个名字，实际上是 “Generative Pre-trained Transformer” 的缩写，中文意为 ” 生成式预训练变换器 “。
1. 大模型和传统 AI 的区别是什么？
传统 AI 模型针对特定目标训练，因此只能处理特定问题。例如，很会下棋的 AlphaGO。
自然语言处理（NLP）的目的是更深入地解决用户更加普遍的问题，其过程主要包括两个关键步骤：自然语言理解（NLU）和自然语言生成（NLG）。
以 SIRI 为代表的人工智能助手统一了 NLU 层，用一个模型理解用户的需求，然后将需求分配给特定的 AI 模型进行处理，实现 NLG 并向用户反馈。然而，这种模式存在显著缺点。如微软官方图例所示，和传统 AI 一样，用户每遇到一个新的场景，都需要训练一个相应的模型，费用高昂且发展缓慢，NLG 层亟需改变。大型语言模型（如 GPT）采用了一种截然不同的策略，实现了 NLG 层的统一。秉持着 ” 大力出奇迹 ” 的理念，将海量知识融入到一个统一的模型中，而不针对每个特定任务分别训练模型，使 AI 解决多类型问题的能力大大加强。 2. ChatGPT 如何实现 NLG？AI 本质上就是个逆概率问题。GPT 的自然语言生成实际上是一个基于概率的 ” 文字接龙 ” 游戏。我们可以将 GPT 模型简化为一个拥有千亿参数的 ” 函数 “。当用户输入 ” 提示词（prompt）” 时，模型按照以下步骤执行：
要将用户提供的 “提示词” 转换成 tokens，实际上是将这些文本信息转化为特定的符号表示。更精确地说，这个过程可以将提示词近似地映射为词汇。
将以上信息 ” 向量化 “，作为大模型 ” 函数 ” 的输入参数。
大模型根据处理好的参数进行概率猜测，预测最适合回复用户的词汇，并进行回复。
在回答生成过程中，我们会将生成的词汇（token）纳入输入参数，并不断重复上述步骤，直至最终生成的词汇（token）中出现【END】为止，这样就能确保我们得到的是一个完整的回答。
这种方法使得 GPT 模型能够根据用户的提示，生成连贯、合理的回复，从而实现自然语言处理任务。
3. 上下文理解的关键技术GPT 不仅能理解用户当前的问题，还能基于前文理解问题背景。这得益于 Transformer 架构中的 ” 自注意力机制（Self-attention）”。该机制使得 GPT 能够捕捉长文本中的依赖关系。
通俗地说，GPT 在进行文字接龙判断时，不仅基于用户刚输入的 ” 提示 “，还会将之前多轮对话中的 ” 提示 ” 和 ” 回复 ” 作为输入参数。然而，这个距离长度是有限的。对于 GPT-3.5 来说，其距离限制为 4096 个词汇（tokens）；而对于 GPT-4，这个距离已经大幅扩展至 3.2 万个 tokens。
4. 大模型为何惊艳？
我们已经介绍了 GPT 的原理，那么他是如何达成这种神奇效果的呢？主要分三步：
自监督学习：利用海量的文本进行自学，让 GPT 具备预测上下文概率的基本能力。
监督学习：人类参与，帮助 GPT 理解人类喜好和期望的答案，本质为微调（fine-tune）。
强化学习：根据用户使用时的反馈，持续优化和改进回答质量。
其中，自监督学习最关键。因为，大模型的魅力在于其 ” 大 ” ——大在两个方面：：
训练数据量大：即训练大模型的数据规模，以 GPT-3 为例，其训练数据源为互联网的各种精选信息以及经典书籍，规模达到了 45TB，相当于阅读了一亿本书。
参数是神经网络中的重要概念，它能够帮助模型捕捉数据的规律和特征。当一部模型被宣称具有百亿或千亿级别的参数时，实际上是在强调它的参数量之庞大。这种巨大的参数规模使得这些模型具备了强大的学习能力，可以有效地从数据中提取有用的信息，从而在各种应用场景中发挥出色的性能。
追求大型模型的参数量是为了利用其神奇的 ” 涌现能力 “，实现所谓的 ” 量变引起质变 “。
举例来说，如果要求大模型根据 emoji 猜电影名称，如代表《海底总动员》。可以看到，当模型参数达到千亿级别时，匹配准确度大幅度提升。这表明模型参数量的增加对提高模型表现具有重要意义。
处理其他多类型任务时，也有类似的效果：如实验所揭示的，只有当模型参数达到千亿级别，大模型的优势才得以凸显。GPT 之外的其他大模型，也有类似的表现。为什么？
目前主流观点认为，要完整完成一个任务，实际上需要经过很多子步骤。当模型大小不足时，大语言模型无法理解或执行所有步骤，导致最终结果不正确，达到千亿级参数时，其解决问题的全链路能力已经足够。人们以最终结果的正误作为评判标准，导致认为是一种 ” 涌现 “。
在 ” 涌现 ” 问题上，人与猩猩的比喻很有趣。人类的大脑容量比猩猩大 3 倍，这种差异使得人类能够进行更复杂的思考、沟通和创造。两者的结构没有显著差异，这不也是 ” 涌现 ” 吗？
GPT-3.5 是我国科技巨头腾讯 KEG 实验室与智谱AI共同训练的语言模型，其参数规模高达 1750 亿，堪称千亿级别。相较于上一代模型 GPT-3，GPT-3.5 在模型参数上进行了微调，使得其在进行问答时更加贴近人类语言习惯，表现更为出色。据相关资料透露，GPT-4 的模型参数数量甚至达到了 GPT-3.5 的五倍之巨，这也就是 GPT-4 表现出超强智能的原因所在（相信经历过 GPT-4 的人都能深刻感受到它的强大）。下面将为您详细介绍 GPT 模型的进化历程：
二、GPT 的局限性总的来看，GPT模型的显著优势表现在以下几个方面：首先，它拥有卓越的语言理解能力，可以深入理解人类语言的含义和语境，这是其他语言模型所无法比拟的。其次，GPT模型的知识储备极其丰富，它训练的数据覆盖了各个领域，无论是科学、技术、文化还是艺术，GPT都能提供全面而深入的理解。此外，GPT模型的学习能力和推理能力也非常出色，它可以从大量的数据中学习，并能够通过逻辑推理来解决复杂的问题。这些特性使得人们相信，GPT模型真的具备了“脑子”的能力，可以处理并解决各种问题。
然而，若真的要深入应用该技术，有必要了解其局限性，以便在实际应用中取长补短。主要总结六大局限：
1. 逻辑不透明
GPT 模型的回答本质上是概率。传统的软件开发中，接口的输入和输出参数都是确定的，而在给定输入参数（即提示词）的情况下，GPT 的回复却有一定随机性。
当大家将 ChatGPT 作为聊天工具使用时，这种不精确可以是用户的谈资；当涉及到商业化软件应用时，设计时就需要特别注意降低不确定性，在大部分产品场景下，用户都很重视确定性。
2. 短期记忆差
得益于自注意力机制，ChatGPT 具备了多轮对话能力。然而，它的记忆长度相当有限，GPT-3.5 模型仅支持向前追溯 4096 个 tokens 用于回复的参考。
更糟糕的是，这 4096 个 tokens还包括 ChatGPT 之前回复用户的部分！这使得其捉襟见肘的记忆更加难堪，堪称电子金鱼。好在 GPT-4 已经将上下文 token 上限扩展至 3.2 万个，一定程度上缓解了这个问题。
3. 资源消耗多ChatGPT 的智能需要消耗大量算力，而运行大规模高端显卡需要消耗大量电力。在五年之内，依靠半导体制程的进一步升级和大模型的广泛应用，算力与电力的边际成本将逐渐转变为固定成本，也就解决了本问题。
4. 响应速度慢
由于模型极大，GPT 在回复时也无法做到瞬时响应，正如用户实际体验，ChatGPT 是逐词回复的。企业在设计相关产品时需要特别关注应用场景：
需要避免将 GPT 用于高并发的场景，本服务依赖的接口调用并发上限非常低。
产品设计上避免用户急切需要结果的应用场景，确保用户能够 ” 等得起 “。
5. 行业认知浅
诚然，ChatGPT 拥有来自互联网和经典书籍的丰富知识。然而，真正的企业级专业知识往往源于特定领域的深入研究和实践，这些真知灼见无法仅凭互联网上的知识获取。因此，若希望 GPT 充当企业参谋，只能帮助梳理战略框架，但难以为企业提供颇具洞察的策略建议。
6. 价值未对齐
在自监督学习阶段，GPT 训练数据英文占比高达 92%。
在监督学习阶段，传授道德观的工程师主要来自英语世界。
在强化学习环节，也可能受到恶意用户输入错误价值观的影响。
因此，GPT 的 ” 精神内核 ” 是以西方价值观为基石的，这可能导致生成的文字难以符合我国的文化背景和价值观。
三、GPT 的多层应用指南
在深入了解 GPT 模型的原理、及局限性之后，终于可以看看怎么用好这项技术了。我按照感知其能力的直观性，由浅入深将其分为五层，逐层进行介绍。
第一层：聊天能力在此类用法中，GPT 的回答就是给客户的交付物，是 GPT 模型最简单、最直观的用法。
1）套壳聊天机器人
通过使用 OpenAI 官方接口，开发的套壳聊天机器人产品。这类产品之所以存在，原因懂得都懂。否则，用户为何不直接使用 ChatGPT 呢？此类产品难以形成现象级应用，且竞争激烈。由于比较灰色且内容未经过滤，网站被封后又换域名的故事将持续上演。
2）场景化问答
这种模式对 GPT 的回复场景进行了约束。通过限定提示词、嵌入大量特定领域知识以及微调技术，使 GPT 能够仅基于某类身份回答特定类型的问题。对于其他类型的问题，机器人会告知用户不了解相关内容。
这种用法可以有效约束用户的输入，降低许多不必要的风险，但是想训练一个出色的场景化机器人，也需要投入许多精力。典型应用包括智能客服、智能心理咨询和法律咨询等。微软的 new Bing 正是此类应用的杰出代表，其俏皮傲娇的回复风格，深受网友的爱。
第二层：语言能力
在本层，我们充分发挥 ChatGPT 的语言天赋，辅助各种基于文字的处理工作。从这一层开始，需要使用 one-shot 或 few-shot（在提示词中给 ChatGPT 一个或多个示例）来提升 ChatGPT 的表现。与用户的交互不再局限于聊天窗口，提前预制提示词模板，用户只能输入限定的信息，对应提示词的空槽位。
预制带槽位提示词模板的应用基本流程如下：1）文字处理类此类应用主要有三种用法：
① 文章提炼
可以输入文章段落，要求提取段落主旨。但受 token 数限制，难以总结整篇文章。也可要求生成短标题、副标题等。在提示词中预留【案例】槽位，让用户输入一些参考案例，GPT 便可以学习相应的风格，进行针对性的输出。
② 润色 / 改写
可用于文章的初步润色，能够消除错别字、错误标点等。
改写则可以转换文章风格，如更改成小红书风格等。
③ 文章扩写
在有大纲基础上，分段进行文章扩写。受 token 限制，如一次要求过长，输出的扩写难以做到前后呼应。ChatGPT 本身不会产生新知识，文章扩写难以写出深刻见地，只能生成口水文。通过给定关键词和案例，要求生成有规律的短文案，是应用其文章扩写能力的有效方法。
2）翻译
GPT 模型训练时学习了大量语言，具备跨语言能力。无论用何种语言与其沟通，只要理解意图，分析问题能力是不区分语言的。因此，翻译对 GPT 来说很轻松。当然也仅限基本翻译，不要指望其能翻译的 ” 信、达、雅 “。
3）情感分析
GPT 能理解文字背后的用户情绪。例如，在客服模块引入 GPT 能力，基于用户语音和文字快速判断情绪状况，提前识别潜在客诉，在情绪爆发前进行有效安抚。
第三层：文本能力
在这类应用中，GPT 的能力已经超越了语言，它通过大量学习，凡是与文本相关的任务，都能胜任。它甚至具备真正的学习能力，使用 few-shot 技巧，能解决训练数据中不存在的问题。本层的应用范围极广，将迸发出大量极具创造力的产品。我在这里仅举一些典型例子。
1）写代码
ChatGPT 能编写 SQL、Python、Java 等代码，并帮忙查找代码 BUG。与撰写文章的原因类似，不能要求其编写过长的代码。
2）写提示词
要求 GPT 创作提示词是与其他 AI 联动的简单方式。例如，要求 GPT 为 midjourney 撰写提示词，已成为非常主流的做法。
3）数据分析
ChatGPT 可以直接进行数据分析，或与 EXCEL 配合进行数据分析。它将数据分析操作成本降至极低，大幅提升了数据分析的效率。
第四层：推理能力
在前几层中，我们已经见识了 GPT 的推理能力。以 GPT 的推理能力替代手动点击操作流，将带来 B 端和 C 端的产品设计的颠覆式变化。个人认为，短期内 B 端的机会大于 C 端。经过互联网 20 年的发展，C 端用户的主要需求已基本得到满足，颠覆 C 端用户的操作路径会带来较大的学习成本。而 B 端则有很大的发挥空间，这里将其分为三个阶段：
1）自动化工作流串联
利用 ChatGPT 理解人类意图的能力，结合 langChain 技术将提示词和公司内各项工作的网页链接整合。员工无需寻找各种链接，在需要执行相关操作时，会自动跳转到相应页面，进行下一步操作。以 ChatGPT 为智慧中枢，实现将 B 端各类操作有机整合。下图为设计思路的示例。
2）AI 辅助决策以第一个阶段为基础，将对应页面的部分功能与 GPT 联动。这样，在员工执行操作时，部分功能可以由 AI 实现，成倍提升效率。微软 Copilot 正是这类产品的代表，比如可以实现在 Excel 中说明自己想要进行的数据分析，无需寻找相关公式，数据分析就自动做好了。
3）全自动 AI 工作流
本阶段目前还处于演示层面，呈现了未来的愿景。如前文所述，GPT 很难解决特定领域的细节问题，除非针对某个场景进行大量的微调与私有数据部署。AutoGPT、AgentGPT 都属于此类。
第五层：国产大模型
AI 技术是科学而非神学，大模型的原理也不是秘密。美国能做到，我国不仅能，而且有必要。只要训练数据质量达标，模型参数突破千亿便具备推理能力，突破八千亿可与 GPT-4 匹敌。采用大量中文语料和中文微调，我国必将拥有符合本国文化背景、价值观的大模型。
然而，路漫漫其修远兮，困难也是极多的，如：训练成本极高、训练数据质量要求高、模型优化复杂、马太效应明显等。因此，预计在未来五年内，中国最多只会有 3 家知名大模型服务商。
大模型是 AI 时代的基础设施，大部分公司选择直接应用，直接获取商业价值。在这个大背景下，愿意投身自有大模型的公司就更加难能可贵了。在此，我谨代表个人向那些勇于投身于自有大模型建设的国内企业表示敬意。
四、总结
总的来看，ChatGPT 是一款跨时代的产品。不同层面对 GPT 技术的应用，体现出了一些共性的机会。我总结了三项未来具有巨大价值的能力。
1. 问题分解技术
鉴于 GPT 回复的限制在于最多只能基于 32,000 个 tokens，因此有效地将问题分解成子问题并交由 GPT 处理显得尤为关键。未来的工作模式可能将问题拆解为子问题，再组装子问题的解决方案。在具体实施时，还需要对子问题的难度进行判断，有些问题可以交给一些小模型处理，这样就可以有效的控制应用成本。
2. 三种调优方法
想要让 GPT 在多个层面上发挥特定的作用，主要有三种交互方式，成本从低到高分别为：
① 提示词优化通过探索找到最优提示词模板，预留特定槽位以供用户输入。仅通过提示词优化就能实现广泛功能，许多基于 GPT 的产品，其底层就是基于特定提示词的包装。好的提示词需包含角色、背景、GPT 需执行的任务、输出标准等。根据业界的研究，好的提示词能使 GPT3.5 结果的可用性由 30% 飙升至 80% 以上。提示词优化毫无疑问是这三种方法中最重要的。
② embedding
这是一种搭建自有知识库的方法，将自建知识库使用 embedding 技术向量化，这样 GPT 就能基于自有数据进行问答。
③ 微调（finetune）
通过输入大量问答，真正教会 GPT 如何回答某类问题，成本较前两者更高。优势在于将提示词的短期记忆转化为私有模型的长期记忆，从而释放宝贵的 Token 以完善提示词其他细节。
以上三种方式并不冲突，在工程实践中往往互相配合，特别是前两种。
3. 私有数据积累
私有数据集的价值得到进一步提升，各行业可基于此对 GPT 进行二次包装，解决特定领域问题。建议使用微软 Azure 提供的 GPT 接口，搭建带有私有数据的大语言模型产品。因微软面向 B 端的 GPT 服务为独立部署，不会将私有数据用于大模型训练，这样可以有效保护私有数据。毕竟私有数据一旦公开，价值将大打折扣。
凭借以上几项能力加持，大语言模型可以充分释放在解决依赖电脑的重复性劳动的生产力。我将下一个时代（3 年内）的业务运转模式总结如下图：
企业会根据三大能力衍生出三大类角色：① 问题分解者
这类角色很清楚大语言模型能力的边界，能够将一个业务问题有效的分解为 GPT 能处理的子问题，并能根据问题结果，将子问题进行拼装。
② 提示工程师
这类角色深谙与 GPT 沟通之道，能够根据不同的问题类型，给出有效的提示词模板，极大提升 GPT 的输出质量。
③ 知识拥有者
这类角色有大量的行业 knowhow，并且能够将知识进行结构化，传授给 GPT。对应现在的领域专家。
在这种模式的推动下，GPT 将会成为企业提效的重要帮手，可以解决大量重复劳动，可以提供有价值的参考。但人的主观能动性仍起决定性作用。
五、写在最后
以 GPT-4 为代表的 AI 技术当前的水平，带来的效率提升已经令人震惊，更遑论其仍以飞快的速度进化。从技术革命的发展史来看，一项大幅度提效的新技术出现，往往先惠及 B 端，而后才慢慢在 C 端开始释放巨大的价值。这是由企业对效率天然的敏感性所决定的，而改变 C 用户的习惯需要大量学习成本与场景挖掘，滞后效应较强。举三个例子：
回顾第一次工业革命，蒸汽机的出现先导致了纺织女工的大量失业，而后才挖掘到各种 C 端场景，推动了社会生产力的大幅度上升。
ChatGPT 可以更快的生成口水文，但是 C 端用户对阅读的诉求没有增加。对于营销号公司来说，效率提升了，所需要的小编变少了。
MidJourney 可以快速出游戏贴图，但是这并不会导致更多的人爱玩游戏，那么需要画师就少了。
一场信息化企业的效率革命就要到来了，依靠电脑的重复劳动将会消失，因为大模型最擅长学习固定的套路。正如我文初所说，像 IBM 公司缩减 7800 个编制的案例，只会发生的越来越频繁。
AI 时代真的已经到来。每个岗位都需要思考、学习，如何让 AI 成为工作上的伙伴。
校对：臧 1、小宇、GPT-4
本文由 @AI 时代新产品 原创发布于人人都是产品经理。未经许可，禁止转载。
题图来自 Unsplash，基于 CC0 协议
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号AIGC666aigc999或上边扫码，即可拥有个人AI助手！
