共计 3693 个字符，预计需要花费 10 分钟才能阅读完成。
幕僚智算编辑部 随着 Sora 的公布，大模型的倒退速度不仅没有遇到瓶颈，反而进一步减速了，AGI 正在向咱们招手。
而在这背地，不论是文本、音频、视频还是视频的大模型解决，Prompt——这个看似简略的概念，却扮演着至关重要的角色。
Prompt 是大语言模型与用户之间的桥梁，一个精心设计的 Prompt 不仅能够帮忙模型更精确地捕获用户用意，还能激发模型的创造力和想象力，从而生成更加丰富多彩的内容。
然而，如何设计出一个无效的 Prompt 却是一项充斥挑战的工作。它须要咱们对模型的工作原理有深刻的理解，同时还须要具备创造性和想象力。因而，把握 Prompt 的设计技巧对于充分发挥大语言模型的后劲至关重要。
接下来将深入探讨大语言模型中的 Prompt 设计。咱们将从 Prompt 的基本原理和重要性动手，分享实用的设计技巧和办法，并通过案例剖析来展现 Prompt 在不同场景下的利用。无论你是对人工智能感兴趣的一般读者，还是正在从事相干畛域钻研的专家学者，置信这系列文章都会给你带来全新的启发和播种。让咱们一起摸索 Prompt 的神秘，独特见证大语言模型的有限可能！
Prompt 是如何影响输入的
1. 什么是 Prompt
Prompt，指的是给予模型的输出文本或指令，用以疏导模型生成特定类型或合乎特定要求的输入。Prompt 不仅仅是一个简略的开始或疏导语句，它实际上是模型了解和生成文本的要害。
Prompt 的设计能够十分多样，从简略的几个词到一个残缺的句子或段落，都能够作为 Prompt。其目标在于为模型提供足够的信息，以便它可能了解并生成合乎冀望的输入。
ChatGPT 的呈现，扭转了传统机器的交互方式，使得每个人都能够与 AI 进行天然、直观的交互，而且更加简便和高效。然而，Prompt 也有好坏之分。一个好的 Prompt，能产生更加有创意合乎预期的输入，一个不好的 Prompt，则可能输入的内容偏离主题或品质不高。
如何创作出优良的 Prompt，实现 AI 的高效沟通，就须要对 LLM 的工作原理有必要的理解。
- LLM 的工作原理
2.1 文本输出与编码
当咱们提供 Prompt 给大模型时，通常是一个简短的文本形容，用以通知模型实现的用意和输入的形式。例如：大模型并不能间接了解该内容，须要进行必要的“翻译”。该过程蕴含文本编码和词嵌入。
文本编码(Tokenizer)
Tokenizer 会首先对这个 Prompt 进行分词，将其拆分成一系列的 Token。对于中文文本，分词是一个关键步骤，因为中文单词不像英文那样有显著的空格分隔。
每个 Token 代表一个单词或标点符号。
词嵌入 (Word Embedding)
每个 Token 都会被映射到一个固定大小的向量。这个向量是词嵌入的后果，它捕获了 Token 的语义信息。
以“西安”这个 Token 为例，它会被映射到一个向量，这个向量在训练过程中学会了与“中国”、“陕西”、“古都”等词在语义上的关联。
这些向量作为模型的输出，帮忙模型了解文本的含意，并在生成对于西安城墙历史的介绍时，可能思考这些语义关联。
2.2 上下文解决
模型将编码后的 Prompt 作为上下文输出。这个上下文会被编码成一个或多个向量，这些向量捕获了 Prompt 中的要害信息。
而大模型基座 Transformer 的自注意力机制会捕获文本中的依赖关系和简单模式。
2.3 生成过程 通过贪心搜寻或集束搜寻，模型会思考候选 Token，并抉择其中概率最高的生成。
在生成每个 Token 时，模型都会基于之前的上下文和已生成的文本进行预测。
2.4 输入文本
当模型达到预设的长度限度或完结标记时，生成过程会进行。最终，模型会输入生成的文本，并进行格式化、调整长度、筛选信息。
3. Prompt 的应用要求
优质 Prompt 是启发自然语言模型生成高质量文本的关键因素之一。优质的 Prompt 能够帮忙模型更好地了解用户的用意和需要，从而生成更加精确、天然、有用的文本。提供明确的上下文信息
优质 Prompt 应该提供清晰的上下文信息，以帮忙模型更好地了解用户的用意和需要。这能够包含问题的背景、工作的指标、相干的实体和关系等。含有足够的信息量
优质 Prompt 应该蕴含足够的信息量，以确保生成的文本可能精确、残缺地答复用户的问题或满足用户的需要。如果 Prompt 蕴含不够的信息，模型可能会生成不精确或不残缺的文本。应用自然语言
优质 Prompt 应该应用天然、晦涩的语言，以使模型可能更好地了解和生成文本。如果 Prompt 蕴含不天然、含混或谬误的语言，模型可能会生成不精确或不天然的文本。满足特定的工作需要
优质 Prompt 应该依据具体的工作需要进行设计和优化，以确保生成的文本可能满足特定的需要。不同的工作可能须要不同的 Prompt 设计和优化策略。通用性和稳定性
优质的 Prompt 替换工作主体，应该同样能够得出不错的成果，而且雷同提醒词，屡次的生成内容比较稳定。
Prompt 的规定标准
1. Prompt 提醒标准
Prompt 的创作遵循肯定的格局，通用的格局如下：
角色：大模型所表演的角色
工作：大模型所要执行的工作
细节：大模型执行工作时的更加细节的要求，可增加多个，权重顺次升高模式：生成格局的阐明，排版等
2. Prompt 开发步骤
2.1 确定根底
通过【角色】+【工作】先确定是否生成正确的答案，而后再逐渐进行优化。
在 LLM 的训练过程中，训练数据的起源大多来源于互联网，可能会因为数据及其标签等的起因导致无奈获取正确的答案。因为 Prompt 的问题表白不够清晰，比方分隔符等等，导致无奈获取正确的答案。
2.2 关注程序
在模型训练的过程中，会针对关键词依照程序设置权重。因此在编写 Prompt 时，须要将重要的 key 放在后面。
2.3 增加强调
编写 Prompt 时，有时为了更加清晰、细节的形容问题，会书写更多的关键词，而 LLM 在剖析时有时会脱漏，从而导致后果不够精确。此时针对于一些必要的 key，须要设置一些强调词予以揭示 LLM。
2.4 建设人设
应用“假如你是……”“你表演一个……”“模拟……”“我心愿你充当……”这样的关键字结尾。在模型训练时，会将数据依据不同的场景依据标签进行分类，设置人设其实时为了更加贴近标签从而使后果更加精确。
Prompt 高级
1. ICL
In-Context learning（ICL）最早在 GPT- 3 中提出，旨在从训练集中筛选大量的标注样本，设计工作相干的指令造成提醒模板，用于领导测试样本生成相应的后果。
ICL 分为：
few-shot
learningone-shot
learningzero-shot
learning
2. CoT
大模型的魅力，在于大模型展现出的概念推理能力。可能依据几个已知的前提推导得出新的论断的过程。区别于了解，推理个别是一个“多步骤”的过程，推理的过程能够造成十分必要的“两头概念”，这些两头概念将辅助简单问题的求解。
2.1 CoT 概念
2022 年，在 Google 公布的论文《Chain-of-Thought Prompting Elicits Reasoning in Large Language Models》中首次提出，通过让大模型逐渐参加将一个简单问题合成为一步一步的子问题并顺次进行求解的过程能够显著晋升大模型的性能。而这一系列推理的两头步骤就被称为思维链（Chain of Thought）。
2.2 CoT 的工作流程
一个残缺的蕴含 CoT 的 Prompt 往往由指令（Instruction），逻辑根据（Rationale），示例（Exemplars）三局部组成。
指令用于形容问题并且告知大模型的输入格局，逻辑根据即指 CoT 的两头推理过程，能够蕴含问题的解决方案、两头推理步骤以及与问题相干的任何内部常识，而示例则指以少样本的形式为大模型提供输入输出对的根本格局，每一个示例都蕴含：问题，推理过程与答案。
CoT 也能够依据是否须要示例分为 Zero-Shot-CoT 与 Few-Shot-CoT。而 Zero-Shot-CoT 仅仅在指令中增加“Let’s think step by step”，就能够“唤醒”大模型的推理能力。
2.3 CoT 示例
3. Prompt 模板
通过设置和优化实现 Prompt 之后，可能通过替换角色和工作，检测答案的稳定性并建设模版，不便后续的应用。
总结
后面咱们介绍了 Prompt 的基本准则和如何编写 Prompt。随着技术的不断进步，大型语言模型将持续在各个领域施展重要作用。无论是用于生成文章、摘要、代码，还是用于聊天机器人、智能助手等场景，Prompt 也将持续施展他的魅力。
接下来咱们将通过具体案例和步骤，领导读者如何入手编写 Prompt，并分享在实际操作中可能遇到的挑战和解决方案。
为开发者提供高性能、易于应用、极具性价比的算力服务