关于人工智能:langchainPrompt在手天下我有

简介

prompts 是大语言模型的输出，他是基于大语言模型利用的利器。没有差的大语言模型，只有差的 prompts。

写好 prompts 能力施展大语言模型 300% 的功力。

实践上，要写好 prompts 其实不是那么容易的，然而 langchain 把这个实践变成了事实，一起来看看吧。

好的 prompt

有时候，不是咱们应用的语言模型不够好，而是因为咱们写的 prompt 不够优良。

以下是一些写好大语言模型的 prompts 的几条准则：

1. 具体和具体：prompts 应该具备明确的问题或工作，同时蕴含足够的细节和背景信息，以便大语言模型可能了解和答复。
2. 可了解和可答复：prompts 应该明确清晰，让大语言模型可能了解并且答复。防止应用过于形象、含糊或带有攻击性的语言。
3. 有情境和背景：prompts 应该蕴含足够的情境和背景信息，让大语言模型可能了解问题的重要性和意义，并在答复中提供有意义的信息。
4. 有指标和方向：prompts 应该明确问题或工作的指标和方向，以便大语言模型可能为须要的信息提供清晰和有用的答案。
5. 可扩大和可定制：prompts 应该设计成易于扩大和定制，以适应不同的利用场景和用户需要。

因为很多时候，在相似的场景中，咱们的 prompts 的大体构造是一样的，只有具体的细节形容有所不同，这时候，就须要用到 prompt template.

什么是 prompt template

prompt template 就是一个 prompt 的模板，通过 prompt template，咱们能够疾速的生成多个 prompt。

基本上 prompt template 曾经帮咱们形容好了场景，要做的事件。咱们只须要填入具体的内容即可。

上面是一个 prompt template 的简略例子：

from langchain import PromptTemplate


template = """/
如果你是一个金融公司的理财经理，请你剖析一下 {stock} 这只股票。"""

prompt = PromptTemplate.from_template(template)
prompt.format(stock="腾讯控股")

如果你是一个金融公司的理财经理，请你剖析一下腾讯控股这只股票。

这样，对于用户来说，只须要输出须要问询的股票名称即可。其余的一长串文字就不须要了，大大节俭了 prompt 构建的工夫。

当然，这只是一个非常简单的例子，你还能够在 prompt template 中设置答复的格局，提供具体的例子等等，从而失去更好的回复。

在 langchain 中创立 prompt template

简略点说 prompt template 就是一个格式化输出的货色。在 langchain 中，对应的工具类叫做 PromptTemplate。

下面的简略例子中，咱们曾经大体看到了如何应用 PromptTemplate。

在上例中，咱们调用了 PromptTemplate.from_template 办法，传入了一个 template 的字符串。

在 template 的字符串中，咱们用括号定义了一个变量。最初调用 prompt.format 办法，指定变量的名称和值，实现 prompt 的最终创立。

另外，prompt template 中还能够指定多个变量：

template = "请通知我一个对于 {personA} 的{thingsB}"

prompt_template = PromptTemplate.from_template(template)
prompt_template.format(personA="小张", thingsB="故事")

只须要在 format 中指定变量名称即可。

除了是用 PromptTemplate.from_template 办法之外，咱们还能够间接应用 PromptTemplate 的构造函数来创立 prompt。

PromptTemplate 的构造函数能够承受两个参数：input_variables 和 template。

input_variables 是 template 中的变量名字，它是一个数组。

template 就是模板的具体内容，是个字符串。

比方，咱们能够结构无变量的模板：

no_input_prompt = PromptTemplate(input_variables=[], template="这是一个无参数模板。")
no_input_prompt.format()

咱们还能够结构带参数模板：

one_input_prompt = PromptTemplate(input_variables=["stock"], template="如果你是一个金融公司的理财经理，请你剖析一下 {stock} 这只股票。")
one_input_prompt.format(stock="腾讯控股")

还有多个参数的模板：

multiple_input_prompt = PromptTemplate(input_variables=["personA", "thingsB"], 
    template="请通知我一个对于 {personA} 的{thingsB}"
)
multiple_input_prompt.format(personA="小张", thingsB="故事")

Chat 特有的 prompt template

之前在介绍 langchain 的时候有跟大家提到过，chat 尽管是基于 LLM 的，然而和根本的 LLM 还有有区别的。

最次要的区别在于，chat 音讯是不同角色的。比方在 openai 中，chat 音讯就能够被分为 AI, human 或者 system 这几种角色。

这样做尽管简单了一点，然而能够更好的对音讯进行分类解决。

咱们看下 langchain 中对于 chat 的 PromptTemplate 有哪些：

from langchain.prompts import (
    ChatPromptTemplate,
    PromptTemplate,
    SystemMessagePromptTemplate,
    AIMessagePromptTemplate,
    HumanMessagePromptTemplate,
)

和一般的 prompt template 一样，咱们能够调用 MessagePromptTemplate 的 from_template 来创立对应的 prompt：

template="当初你的角色是{role}, 请按该角色进行后续的对话."
system_message_prompt = SystemMessagePromptTemplate.from_template(template)
human_template="{text}"
human_message_prompt = HumanMessagePromptTemplate.from_template(human_template)

当然你能够通过构造函数来创立 prompt：

prompt=PromptTemplate(template="当初你的角色是{role}, 请按该角色进行后续的对话.",
    input_variables=["role"],
)

有了一个或者多个 MessagePromptTemplates 之后，就能够应用这些 MessagePromptTemplates 来构建 ChatPromptTemplate 了：

chat_prompt = ChatPromptTemplate.from_messages([system_message_prompt, human_message_prompt])

chat_prompt.format_prompt(role="医生", text="帮我看看我的颜值还行吗？").to_messages()

总结

好了，根本的 langchain 中的 prompt template 曾经介绍结束。大家去试试看吧。