共计 3300 个字符，预计需要花费 9 分钟才能阅读完成。
简介
构建在大语言模型根底上的利用通常有两种，第一种叫做 text completion, 也就是一问一答的模式，输出是 text，输入也是 text。这种模型下利用并不会记忆之前的问题内容，每一个问题都是最新的。通常用来做知识库。
还有一种是相似聊天机器人这种会话模式，也叫 Chat models。这种模式下输出是一个 Chat Messages 的列表。从而能够保留上下文信息，让模型的回复更加实在。
实际上 Chat models 的底层还是 LLMs, 只不过在调用形式上有些变动。
简略应用 LLMs
什么是 LLMs 呢？LLMs 是 Large Language Models 的简称，也就是咱们常说的大语言模型。
对于 langchain 来说，它自身并不提供大语言模型，它只是一个两头的粘合层，提供了对立的接口，不便咱们对接底层的各种 LLMs 模型。
langchain 除了能够对接 OpenAI 之外，还能够对接 Cohere, Hugging Face 等其余的大语言模型。
比方上面是 openAI 的应用：
from langchain.llms import OpenAI
llm = OpenAI(openai_api_key="...")接下来就能够调用 llm 的办法来进行 text completion 了。
一般来说有两种形式。第一种形式就是间接输入：
llm("给我写首诗")还有一种形式调用他的 generate 办法：
llm_result = llm.generate(["给我唱首歌", "给我写首诗"])这种形式能够传入一个数组，用来生成比较复杂的后果。
langchain 反对的 LLM
当初大语言模型堪称是蓬勃发展，一不留神就可能出一个新的大语言模型。
就目前而言，根本的国外支流模型 langchain 都是反对的。
比方：openai,azure openai,AmazonAPI,Hugging Face Hub 等等。数目繁多，功能齐全, 你想要的他全都有，你没想到的他也有。
那么有小伙伴可能要问题了，langchain 支不反对国产的大语言模型呢？
答案是必定的，但并不是间接的。
如果你发现 langchain 并没有你想要的 llm，那么你能够尝试进行自定义。
langchain 为咱们提供了一个类叫做 LLM，咱们只须要继承这个 LLM 即可：
class LLM(BaseLLM):
@abstractmethod
def _call(
self,
prompt: str,
stop: Optional[List[str]] = None,
run_manager: Optional[CallbackManagerForLLMRun] = None,
) -> str:
"""Run the LLM on the given prompt and input."""其中，惟一一个必须要实现的办法就是_call, 这个办法传入一个字符串和一些可选的 stop word，而后返回 LLM 的输入即可。
另外还能够实现一个_identifying_params 办法，用来输入自定义 LLM 的一些参数信息。
大家能够自行尝试和接入不同的 LLM 模型。
一些非凡的 LLM
很多时候调用 LLM 是须要免费的，如果咱们在开发的过程中也要一直的耗费 token 必定是得失相当。
所以 langchain 为了给咱们省钱，提供了一个 FakeLLM 来应用。
顾名思义，FakeLLM 就是能够手动来 mock 一些 LLM 的答复，不便测试。
from langchain.llms.fake import FakeListLLM
responses = ["窗前明月光 \n 抬头鞋两双"]
llm = FakeListLLM(responses=responses)
print(llm("给我写首诗"))下面的输入后果如下：
窗前明月光
抬头鞋两双 langchain 中还有一个和 FakeLLM 相似的叫做 HumanInputLLM。
这个 LLM 能够打印出给用户的 prompt，并且将用户的输出作为输入返回给用户，大家能够自行体验。
LLM 的高级用法
除了失常的 LLM 调用之外，langchain 还提供了一些 LLM 的高级用法。
异步调用
比方异步调用 LLM。当然目前只反对 OpenAI, PromptLayerOpenAI, ChatOpenAI 和 Anthropic 这几个 LLM。其余的对 LLM 的反对貌似正在开发中。
异步办法也很简略，次要是调用 llm 的 agenerate 办法, 比方上面这样：
async def async_generate(llm):
resp = await llm.agenerate(["Hello, how are you?"])
print(resp.generations[0][0].text)
缓存性能
另外，对于一些反复的申请来说，langchain 还提供了缓存性能，这样能够反复的申请就不须要再发送到 LLM 去了，给咱们节约了工夫和金钱，十分好用。
langchain 提供的 cache 也有很多种，比方 InMemoryCache,FullLLMCache,SQLAlchemyCache,SQLiteCache 和 RedisCache 等等。
咱们以 InMemoryCache 为例，看看是怎么应用的：
from langchain.cache import InMemoryCache
langchain.llm_cache = InMemoryCache()
# 第一次没有应用缓存
llm.predict("Tell me a joke")
# 第二次应用了缓存
llm.predict("Tell me a joke")应用起来很简略，只须要增加一行 llm_cache 即可。
如果你应用其余的 cache，除了构造函数不同之外，其余的都是相似的。
保留 LLM 配置
有时候咱们配置好了 LLM 之外，还能够把 LLM 相干的参数以文本的模式存储起来。
保留 llm 到文件：
llm.save("llm.json")加载 llm：
llm = load_llm("llm.json")流式解决
LLM 的速度是一个硬伤，因为返回整个响应的速度太慢了，所以推出了流式响应。只有有 response 返回，就传输给用户。并不需要期待所有内容都取得之后再解决。这样对用户的体验是最好的。
目前 langchain 只反对 OpenAI,ChatOpenAI 和 ChatAnthropic。
要实现这个流式解决，langchain 提供了 BaseCallbackHandler，咱们只须要继承这个类，实现 on_llm_new_token 这个办法即可。
当然 langchain 曾经给咱们提供了一个实现好的类叫做：StreamingStdOutCallbackHandler。上面是他的实现：
def on_llm_new_token(self, token: str, **kwargs: Any) -> None:
sys.stdout.write(token)
sys.stdout.flush()应用的时候，只须要在构建 llm 的是传入对应的 callback 即可：
from langchain.llms import OpenAI
from langchain.callbacks.streaming_stdout import StreamingStdOutCallbackHandler
llm = OpenAI(streaming=True, callbacks=[StreamingStdOutCallbackHandler()], temperature=0)
resp = llm("给我写首诗")统计 token 数目
这个统计 token 应用数目的性能目前只能在 openai 应用。
from langchain.llms import OpenAI
from langchain.callbacks import get_openai_callback
llm = OpenAI(model_name="text-davinci-002", n=2, best_of=2)
with get_openai_callback() as cb:
result = llm("T 给我写首诗")
print(cb)总结
LLM 是大语言模型最根底的模式，chat 模式的底层就是基于 LLM 实现的。后续咱们会具体介绍 chat 模式，尽请期待。
