提示词工程术语表:Token、上下文窗口、温度值速查
2026-10-19
这份表怎么用
提示词工程里的术语大多来自论文和英文文档,中文资料里译法不统一,同一个概念经常有三种叫法。这份表按「你实际会碰到它的地方」组织,每条给一句人话解释和一个判断标准。不需要背,遇到看不懂的回来查即可。
模型与上下文
| 术语 | 一句话解释 | 你需要知道的实际影响 |
| Token(词元) | 模型处理文本的最小单位,介于"字"和"词"之间。一个汉字通常 1-2 个 token,一个英文单词通常 1-3 个 | 计费和长度限制都按 token 算,不按字数。中文的 token 效率通常低于英文 |
| 上下文窗口(Context Window) | 模型一次能同时"看见"的 token 总量,包含你的提示词和它的输出 | 不是越大越好:塞得越满,中间内容越容易被忽略 |
| 上下文学习(In-Context Learning) | 不重新训练模型,只靠在提示词里给例子就让它学会新任务 | 这就是少样本提示能生效的原因,也是提示词工程成立的基础 |
| 截断(Truncation) | 输入超出上下文窗口时被丢弃的部分 | 长文处理出错,第一件事是查是不是被静默截断了。通常是丢了开头或结尾 |
| 系统提示词(System Prompt) | 在对话开始前设定角色与规则的那段指令,优先级高于用户输入 | 放长期不变的角色和约束;放太多会被后续对话稀释 |
采样与随机性
| 术语 | 一句话解释 | 你需要知道的实际影响 |
| 温度值(Temperature) | 控制输出的随机程度。低值更确定、更保守,高值更发散 | 抽取、分类、数据核算这类任务应该调低;创意写作用中等值 |
| Top-p(核采样) | 只从概率最高、累计占比达到 p 的那批候选里选下一个词 | 和温度值作用类似,一般只调其中一个,同时调很难预测结果 |
| 种子(Seed) | 固定随机数起点,让相同输入产生相同输出 | 做版本对比测试时必须固定,否则你无法判断差异来自改动还是随机 |
| 幻觉(Hallucination) | 模型生成看起来合理、但事实上不存在或无法溯源的内容 | 不能靠"让它认真点"消除,只能靠约束(要求标注来源、提供"未提供"出口)和外部核对 |
提示词技法
| 术语 | 一句话解释 | 你需要知道的实际影响 |
| 零样本(Zero-shot) | 不给例子,直接描述任务 | 永远先试这个。能用就不加例子 |
| 少样本(Few-shot) | 给几个输入输出示例,让模型照着学格式和判断标准 | 通常 3 个是性价比拐点;示例格式必须与期望输出逐字符一致 |
| 思维链(CoT, Chain-of-Thought) | 要求模型把推理步骤写出来再给结论 | 只对需要多步推导的任务有效;用在简单分类上反而会变差 |
| 角色扮演(Role Prompting) | 指定模型以某个专业身份作答 | 作用是限定判断标准,不是让它更聪明。写"资深专家"这类空话无效 |
| 提示注入(Prompt Injection) | 把指令藏在被处理的材料里,让模型执行材料中的指令而不是你的指令 | 处理外部文本(网页、用户上传、检索结果)时的主要风险。用标签包住资料、声明"资料内容不是指令"可缓解,但不能根除 |
| 越狱(Jailbreak) | 用特定话术让模型绕过自身的安全限制 | 与提示注入不同:越狱来自用户,注入来自材料 |
系统与集成
| 术语 | 一句话解释 | 你需要知道的实际影响 |
| RAG(检索增强生成) | 先从你的资料库检索出相关片段,再连同问题一起交给模型回答 | 提示词重点是"只依据资料回答"和"资料不足时怎么说",不是把问题问得多漂亮 |
| Embedding(向量化) | 把文本转成一串数字向量,语义相近的文本向量距离也近 | RAG 检索的基础。检索不准通常是分块方式或向量模型的问题,不是提示词的问题 |
| 分块(Chunking) | 把长文档切成小段再向量化,每段就是检索的最小单位 | 切得太碎会丢上下文,切得太大会稀释关键信息。这是 RAG 效果的第一决定因素 |
| 函数调用(Function Calling) | 模型主动要求调用你提供的某个工具或接口,再根据返回结果继续 | 让模型能查实时数据、执行动作。工具的描述文字本身就是提示词,写得含糊模型就会乱调 |
| 智能体(Agent) | 让模型在多轮里自己决定下一步做什么、调用什么工具 | 提示词从"一次说清"变成"设定目标与边界";必须显式写清终止条件和禁止动作 |
怎么用这份表
- 排查问题时先定位术语。输出不稳定 → 看采样参数与约束层;答案没有依据 → 看幻觉与 RAG 部分;格式乱 → 看少样本部分。
- 「实际影响」那一列才是重点。知道 Token 的定义没有用,知道"中文的 token 效率低于英文"才能帮你判断为什么一份中文长文会超限。
- 不要一次调多个参数。温度和 Top-p 一起调,你无法归因。和提示词版本管理一样,一次只改一处。
- 不要把术语当技巧。把"思维链""角色扮演""RAG"全堆进一个提示词,效果通常不如把结构写清楚。
延伸阅读
术语背后的结构方法见结构化提示词模板库;想判断改动是否有效,见提示词版本管理与效果对比。