关于chatgpt:构建-AI-应用开源-infra-项目指南

7次阅读

共计 1849 个字符,预计需要花费 5 分钟才能阅读完成。

近半年,AI 相干工具的公布不断更新了大家的认知,好用的新工具在不断涌现,搭建 AI 利用的门槛在逐步升高,不便开发者更简略疾速地构建酷炫我的项目 – 因而,咱们收集了一些能够间接拿来构建 AI 利用的开源 infra 我的项目。🐍

Chroma

出道半年,Chroma 往年四月初发表了 1800 万美金种子轮。它是一个向量嵌入(embedding)存储,嵌入是 AI 原生示意不同类型数据的形式,因而也是与 AI 驱动的工具和算法的完满抉择。
尽管曾经有不少向量数据库解决方案,但 Chroma 团队认为都不够开发环境友好(没有找到想要的货色,所以就本人来写一个),它内置了你搭建 AI 利用在嵌入存储方面会须要的所有货色,只有 pip install chromadb 就能够了,无需配置或者额定装置别的货色。

因为艳羡,所以再来看一眼他们星光璀璨的资方列表。

Langchain 🦜🔗

LangChain 2022 年 10 月公布,是一个能使开发 AI 应用程序更加灵便的框架。
LLM 尽管能够执行许多工作,但无奈为某个深刻畛域常识或专业知识的问题提供具体答案。LangChain 能够看作是个连接工具,不便开发者将不同的 prompt “ 链 ” (chain) 在一起⛓️。链条能够由多个模块的多个组件组成,包含:

  • 大型语言模型(LLMs):比方 GPT-3, BLOOM 等。
  • 代理:决定应该采取什么口头。能够应用网络搜寻或计算器等工具,并将所有的操作打包成一个逻辑循环。
  • 记忆:短期或长期记忆。

🔗 你能够把一连串命令连在一起,这样 AI 模型就能够晓得它须要做什么,产生什么答案,或者执行什么工作了。

比方 Chroma 和 LangChain 就能够无缝一起运行:开发者应用 LangChain 构建 LLM 应用程序背地由 Chroma 提供能源。

GPTCache

GPTCache 是 Zilliz 开发的 LLM 语义缓存层。

比方你开发的 AI Chatbot 越来越受欢迎,流量逐步变大,可能会呈现的问题包含调用 API 的费用变高,响应速度变慢。GPTCache 就是为了解决这类问题而诞生的,其实 Zilliz 开源 GPTCache 也是因为他们的问答机器人 OSSChat 遇到了性能逐渐降落、服务费用一直减少的状况。🚑

除了晋升性能和节俭开销,用户能够依据本人的需要(输出类型,输入格局,响应长度等)自定义缓存规定,最大化缓存效率。以及 – GPTCache 也曾经跟 LangChain 齐全集成了。

Dify

Dify.AI 是一个开箱即用的 LLMOps 平台,提供了可视化的 prompt 编排,经营,数据集治理等性能,创立有用的 AI 利用变得更加不便了。

它提供了一些罕用的利用模板(比方他们就有一个 SQL Creator 的模板,能够给你生成 SQL 语句🤗)

所以即使不是开发同学,也能够本人做简略的 LLM 利用并且间接给他人应用,进阶一点能够接入本人数据集,抉择 LLM 模型,数据标注等等,开发者之后能够继续改良和调整 prompt。

Stable Diffusion

Stable Diffusion 是由 stability.ai 开发的一个 ML 模型,能够从文本中生成图像。stability.ai 去年十月曾经实现了 1.01 亿美元的融资,它能够在你本人的机子上跑(对显卡要求可能比拟高🤣),其它一样闻名的 AI 作画模型包含 DALL·E 2 和 Midjourney,看了一些比照,感觉每家都各有千秋,只能说各取所需吧。
Stable Diffusion 是开源的,所以基于或围绕它的我的项目也很多,比方 Stable Diffusion 的 prompt 搜索引擎,Figma 和 PS 的插件等等。

前不久,Stability AI 发表开源了 AI 图像生成平台 StableStudio,也是 DreamStudio 的开源版本,背地的模型是最新的 SDXL,能够在线生成,编辑,修复 AI 图像了,这是要 one up Midjourney 的节奏吗🤔️。

总结一下

看了一眼这些我的项目的 Star History,发现这些我的项目的独特特点就是都很年老,公布工夫最早的至今也不满一年,去年六月想可能都是脑洞大开的事儿,往年曾经变成咱们日常生活工作不可少的一部分了🤓。

因为 Stable Diffusion 有个 head start… 咱们去掉它,对齐一下工夫线再来看看 👀

正当多了!之前也说到过 AIGC 的暴发带动了许多从属产品和生态的增长,接下来大火的产品又会是什么呢?
P.S. – 如果你用过提到的工具,欢送留个言呀!🤣


💡 你能够拜访官网:https://www.bytebase.com/,收费注册云账号,立刻体验 Bytebase。

正文完
 0