近半年，AI 相干工具的公布不断更新了大家的认知，好用的新工具在不断涌现，搭建 AI 利用的门槛在逐步升高，不便开发者更简略疾速地构建酷炫我的项目 - 因而，咱们收集了一些能够间接拿来构建 AI 利用的开源 infra 我的项目。

Chroma

出道半年，Chroma 往年四月初发表了 1800 万美金种子轮。它是一个向量嵌入（embedding）存储，嵌入是 AI 原生示意不同类型数据的形式，因而也是与 AI 驱动的工具和算法的完满抉择。
尽管曾经有不少向量数据库解决方案，但 Chroma 团队认为都不够开发环境友好（没有找到想要的货色，所以就本人来写一个），它内置了你搭建 AI 利用在嵌入存储方面会须要的所有货色，只有 pip install chromadb 就能够了，无需配置或者额定装置别的货色。

因为艳羡，所以再来看一眼他们星光璀璨的资方列表。

Langchain

LangChain 2022 年 10 月公布，是一个能使开发 AI 应用程序更加灵便的框架。
LLM 尽管能够执行许多工作，但无奈为某个深刻畛域常识或专业知识的问题提供具体答案。LangChain 能够看作是个连接工具，不便开发者将不同的 prompt "链" (chain) 在一起⛓️。链条能够由多个模块的多个组件组成，包含：

  • 大型语言模型（LLMs）：比方 GPT-3, BLOOM 等。
  • 代理：决定应该采取什么口头。能够应用网络搜寻或计算器等工具，并将所有的操作打包成一个逻辑循环。
  • 记忆：短期或长期记忆。

你能够把一连串命令连在一起，这样 AI 模型就能够晓得它须要做什么，产生什么答案，或者执行什么工作了。

比方 Chroma 和 LangChain 就能够无缝一起运行：开发者应用 LangChain 构建 LLM 应用程序背地由 Chroma 提供能源。

GPTCache

GPTCache 是 Zilliz 开发的 LLM 语义缓存层。

比方你开发的 AI Chatbot 越来越受欢迎，流量逐步变大，可能会呈现的问题包含调用 API 的费用变高，响应速度变慢。GPTCache 就是为了解决这类问题而诞生的，其实 Zilliz 开源 GPTCache 也是因为他们的问答机器人 OSSChat 遇到了性能逐渐降落、服务费用一直减少的状况。

除了晋升性能和节俭开销，用户能够依据本人的需要（输出类型，输入格局，响应长度等）自定义缓存规定，最大化缓存效率。以及 - GPTCache 也曾经跟 LangChain 齐全集成了。

Dify

Dify.AI 是一个开箱即用的 LLMOps 平台，提供了可视化的 prompt 编排，经营，数据集治理等性能，创立有用的 AI 利用变得更加不便了。

它提供了一些罕用的利用模板（比方他们就有一个 SQL Creator 的模板，能够给你生成 SQL 语句）

所以即使不是开发同学，也能够本人做简略的 LLM 利用并且间接给他人应用，进阶一点能够接入本人数据集，抉择 LLM 模型，数据标注等等，开发者之后能够继续改良和调整 prompt。

Stable Diffusion

Stable Diffusion 是由 stability.ai 开发的一个 ML 模型，能够从文本中生成图像。stability.ai 去年十月曾经实现了 1.01 亿美元的融资，它能够在你本人的机子上跑（对显卡要求可能比拟高），其它一样闻名的 AI 作画模型包含 DALL·E 2 和 Midjourney，看了一些比照，感觉每家都各有千秋，只能说各取所需吧。
Stable Diffusion 是开源的，所以基于或围绕它的我的项目也很多，比方 Stable Diffusion 的 prompt 搜索引擎，Figma 和 PS 的插件等等。

前不久，Stability AI 发表开源了 AI 图像生成平台 StableStudio，也是 DreamStudio 的开源版本，背地的模型是最新的 SDXL，能够在线生成，编辑，修复 AI 图像了，这是要 one up Midjourney 的节奏吗️。

总结一下

看了一眼这些我的项目的 Star History，发现这些我的项目的独特特点就是都很年老，公布工夫最早的至今也不满一年，去年六月想可能都是脑洞大开的事儿，往年曾经变成咱们日常生活工作不可少的一部分了。

因为 Stable Diffusion 有个 head start... 咱们去掉它，对齐一下工夫线再来看看

正当多了！之前也说到过 AIGC 的暴发带动了许多从属产品和生态的增长，接下来大火的产品又会是什么呢？
P.S. - 如果你用过提到的工具，欢送留个言呀！

你能够拜访官网：https://www.bytebase.com/，收费注册云账号，立刻体验 Bytebase。