简介

构建在大语言模型根底上的利用通常有两种，第一种叫做text completion,也就是一问一答的模式，输出是text，输入也是text。这种模型下利用并不会记忆之前的问题内容，每一个问题都是最新的。通常用来做知识库。

还有一种是相似聊天机器人这种会话模式，也叫Chat models。这种模式下输出是一个Chat Messages的列表。从而能够保留上下文信息，让模型的回复更加实在。

实际上Chat models的底层还是LLMs,只不过在调用形式上有些变动。

简略应用LLMs

什么是LLMs呢？LLMs是Large Language Models的简称，也就是咱们常说的大语言模型。

对于langchain来说，它自身并不提供大语言模型，它只是一个两头的粘合层，提供了对立的接口，不便咱们对接底层的各种LLMs模型。

langchain除了能够对接OpenAI之外，还能够对接Cohere, Hugging Face等其余的大语言模型。

比方上面是openAI的应用：

from langchain.llms import OpenAIllm = OpenAI(openai_api_key="...")

接下来就能够调用llm的办法来进行text completion了。

一般来说有两种形式。第一种形式就是间接输入：

llm("给我写首诗")

还有一种形式调用他的generate办法：

llm_result = llm.generate(["给我唱首歌", "给我写首诗"])

这种形式能够传入一个数组，用来生成比较复杂的后果。

langchain反对的LLM

当初大语言模型堪称是蓬勃发展，一不留神就可能出一个新的大语言模型。

就目前而言，根本的国外支流模型langchain都是反对的。

比方：openai,azure openai,AmazonAPI,Hugging Face Hub等等。数目繁多，功能齐全,你想要的他全都有，你没想到的他也有。

那么有小伙伴可能要问题了，langchain支不反对国产的大语言模型呢？

答案是必定的，但并不是间接的。

如果你发现langchain并没有你想要的llm，那么你能够尝试进行自定义。

langchain为咱们提供了一个类叫做LLM，咱们只须要继承这个LLM即可：

class LLM(BaseLLM):    @abstractmethod    def _call(        self,        prompt: str,        stop: Optional[List[str]] = None,        run_manager: Optional[CallbackManagerForLLMRun] = None,    ) -> str:        """Run the LLM on the given prompt and input."""

其中，惟一一个必须要实现的办法就是_call,这个办法传入一个字符串和一些可选的stop word，而后返回LLM的输入即可。

另外还能够实现一个_identifying_params办法，用来输入自定义LLM的一些参数信息。

大家能够自行尝试和接入不同的LLM模型。

一些非凡的LLM

很多时候调用LLM是须要免费的，如果咱们在开发的过程中也要一直的耗费token必定是得失相当。

所以langchain为了给咱们省钱，提供了一个FakeLLM来应用。

顾名思义，FakeLLM就是能够手动来mock一些LLM的答复，不便测试。

from langchain.llms.fake import FakeListLLMresponses = ["窗前明月光\n抬头鞋两双"]llm = FakeListLLM(responses=responses)print(llm("给我写首诗"))

下面的输入后果如下：

窗前明月光抬头鞋两双

langchain中还有一个和FakeLLM相似的叫做HumanInputLLM。

这个LLM能够打印出给用户的prompt，并且将用户的输出作为输入返回给用户，大家能够自行体验。

LLM的高级用法

除了失常的LLM调用之外，langchain还提供了一些LLM的高级用法。

异步调用

比方异步调用LLM。当然目前只反对OpenAI, PromptLayerOpenAI, ChatOpenAI 和 Anthropic这几个LLM。其余的对LLM的反对貌似正在开发中。

异步办法也很简略，次要是调用llm的agenerate办法,比方上面这样：

async def async_generate(llm):    resp = await llm.agenerate(["Hello, how are you?"])    print(resp.generations[0][0].text)

缓存性能

另外，对于一些反复的申请来说，langchain还提供了缓存性能，这样能够反复的申请就不须要再发送到LLM去了，给咱们节约了工夫和金钱，十分好用。

langchain提供的cache也有很多种，比方InMemoryCache,FullLLMCache,SQLAlchemyCache,SQLiteCache和RedisCache等等。

咱们以InMemoryCache为例，看看是怎么应用的：

from langchain.cache import InMemoryCachelangchain.llm_cache = InMemoryCache()# 第一次没有应用缓存llm.predict("Tell me a joke")# 第二次应用了缓存llm.predict("Tell me a joke")

应用起来很简略，只须要增加一行llm_cache即可。

如果你应用其余的cache，除了构造函数不同之外，其余的都是相似的。

保留LLM配置

有时候咱们配置好了LLM之外，还能够把LLM相干的参数以文本的模式存储起来。

保留llm到文件：

llm.save("llm.json")

加载llm：

llm = load_llm("llm.json")

流式解决

LLM的速度是一个硬伤，因为返回整个响应的速度太慢了，所以推出了流式响应。只有有response返回，就传输给用户。并不需要期待所有内容都取得之后再解决。这样对用户的体验是最好的。

目前langchain只反对OpenAI,ChatOpenAI和ChatAnthropic。

要实现这个流式解决， langchain提供了BaseCallbackHandler，咱们只须要继承这个类，实现on_llm_new_token这个办法即可。

当然langchain曾经给咱们提供了一个实现好的类叫做：StreamingStdOutCallbackHandler。上面是他的实现：

    def on_llm_new_token(self, token: str, **kwargs: Any) -> None:        sys.stdout.write(token)        sys.stdout.flush()

应用的时候，只须要在构建llm的是传入对应的callback即可：

from langchain.llms import OpenAIfrom langchain.callbacks.streaming_stdout import StreamingStdOutCallbackHandlerllm = OpenAI(streaming=True, callbacks=[StreamingStdOutCallbackHandler()], temperature=0)resp = llm("给我写首诗")

统计token数目

这个统计token应用数目的性能目前只能在openai应用。

from langchain.llms import OpenAIfrom langchain.callbacks import get_openai_callbackllm = OpenAI(model_name="text-davinci-002", n=2, best_of=2)with get_openai_callback() as cb:    result = llm("T给我写首诗")    print(cb)

总结

LLM是大语言模型最根底的模式，chat模式的底层就是基于LLM实现的。后续咱们会具体介绍chat模式，尽请期待。