Skip to main content
Open on GitHub

少样本提示

先决条件

概述​

提高模型性能最有效的方法之一是给模型提供它需要完成的任务的示例。在模型提示中添加示例输入和预期输出的技术被称为“少样本提示”。该技术基于 Language Models are Few-Shot Learners 论文。进行少样本提示时需要考虑几个问题：

  1. 如何生成示例？
  2. 每个提示中有多少示例？
  3. 如何在运行时选择示例？
  4. 示例如何在提示中格式化？

以下是每个方面的考虑。

1. 生成示例​

少样本提示的第一步也是最重要的一步是构建一个好的示例数据集。好的示例应在运行时相关、清晰、信息丰富，并提供模型尚未了解的信息。

从高层次来看，生成示例的基本方法是：

  • 手动：一个人或多人生成他们认为有用的示例。
  • 更优模型：使用一个更优（通常更昂贵/更慢）模型的响应作为示例，供一个较差（通常更便宜/更快）的模型使用。
  • 用户反馈：用户（或标注者）对与应用程序的交互留下反馈，并根据该反馈生成示例（例如，所有带有积极反馈的交互都可以转化为示例）。
  • LLM 反馈：与用户反馈相同，但通过让模型自我评估来自动化该过程。

哪种方法最好取决于您的任务。对于需要非常精通少量核心原则的任务，精心制作一些非常好的示例可能很有价值。 对于正确的行为空间更广泛、更细微的任务，以更自动化的方式生成许多示例可能很有用，这样可以确保任何运行时输入都有高度相关的示例。

单轮 vs. 多轮示例

在生成示例时要考虑的另一个维度是示例实际展示的内容。

最简单的示例类型只有用户输入和预期的模型输出。这些是单轮示例。

一种更复杂的示例类型是整个对话，通常模型最初响应不正确，然后用户会告诉模型如何纠正其答案。 这被称为多轮示例。多轮示例对于更细致的任务很有用，在这些任务中，展示常见错误并确切说明它们为什么错误以及应该做些什么会很有帮助。

2. 示例数量​

一旦我们有了示例数据集，就需要考虑每个提示应该包含多少示例。 关键的权衡是，更多的示例通常会提高性能，但更大的提示会增加成本和延迟。 而且，超过某个阈值后，过多的示例可能会开始混淆模型。 找到正确的示例数量在很大程度上取决于模型、任务、示例质量以及您的成本和延迟限制。 据轶传，模型越好，它需要的示例就越少，并且添加更多示例的收益递减的速度就越快。 但是，可靠回答此问题的最佳/唯一方法是进行一些不同数量示例的实验。

3. 选择示例​

假设我们不将整个示例数据集添加到每个提示中，我们需要一种根据给定输入从数据集中选择示例的方法。我们可以通过以下方式进行：

  • 随机选择
  • 通过输入（语义或基于关键字）的相似性选择
  • 基于其他一些约束，例如 token 大小

LangChain 提供了许多 ExampleSelectors，可以轻松使用这些技术。

通常，通过语义相似性选择可带来最佳的模型性能。但这有多重要，这取决于模型和任务，值得进行实验。

4. 格式化示例​

如今，大多数最先进的模型都是聊天模型，因此我们将重点关注它们的示例格式化。我们的基本选项是将示例插入：

  • 在系统提示中作为字符串
  • 作为它们自己的消息

如果我们将示例作为字符串插入系统提示中，我们需要确保向模型清楚地说明每个示例的开始位置，以及哪些部分是输入与输出。不同的模型对不同的语法响应更好，例如 ChatML、XML、TypeScript 等。

如果我们插入示例作为消息，其中每个示例由一系列 Human、AI 消息表示，我们可能还希望为消息分配名称，例如 "example_user" 和 "example_assistant"，以清楚地表明这些消息与最新输入消息的参与者不同。

格式化工具调用示例

当我们的示例输出包含工具调用时，将示例格式化为消息的一个棘手领域。这是因为不同的模型对允许工具调用的消息序列类型有不同的限制。

  • 一些模型要求任何带有工具调用的 AIMessage 必须紧随其后是每个工具调用的 ToolMessages。
  • 一些模型还要求任何 ToolMessages 必须紧随一个 AIMessage，然后才能是下一个 HumanMessage。
  • 一些模型要求如果聊天历史记录中有任何工具调用 / ToolMessages，则必须将工具传入模型。

这些要求是模型特定的，应针对您使用的模型进行检查。如果您的模型要求在工具调用后有 ToolMessages 和/或在 ToolMessages 后有 AIMessages，而您的示例仅包含预期的工具调用而不包含实际的工具输出，您可以尝试在每个示例的末尾添加虚拟的 ToolMessages / AIMessages，其内容通用，以满足 API 限制。 在这些情况下，尝试将示例作为字符串与消息插入特别值得，因为虚拟消息可能会对某些模型产生不利影响。

您可以在 此处 的两个不同的工具调用基准上看到一个案例研究，展示了 Anthropic 和 OpenAI 对不同的少样本提示技术的响应。