申明：本文是 Preethi Cheguri 所著文章《ChatGPT Equivalent Is Open-Source, But it Is of No Use to Developers》的中文译文。
原文链接：https://www.analyticsinsight.net/chatgpt-equivalent-is-open-s…
相似于 ChatGPT 的软件现已开源，但这仿佛对开发者们来说无用
第一个相似于 ChatGPT 的开源软件曾经呈现：这是一款基于谷歌 5,400 亿个参数的语言大模型 PaLM 架构，以及应用 RLHF（Reinforcement Learning from Human Feedback，即：应用强化学习的办法，利用人类反馈信号间接优化语言模型）的应用程序。“PaLM + RLHF”复刻了 ChatGPT，并且当初曾经开源，它是由负责逆向工程闭源 AI 零碎（比方 Meta 公布的 Make-A-Video）的开发者，开发进去的一个性能相似于 ChatGPT 的文本生成模型。为了构建一个简直能够实现 ChatGPT 任何工作的零碎，包含起草电子邮件和代码提醒，该零碎联合了谷歌的语言大模型 PaLM 以及人类反馈强化学习（RLHF）的办法。
为什么这个“开源 ChatGPT”对开发人员没有用？
“PaLM + RLHF”未通过预训练，换句话说：零碎还没有承受网络上示例数据的必要训练，使其真正发挥作用。下载“PaLM + RLHF”后的体验感和应用 ChatGPT 时并不统一，“PaLM + RLHF”须要生成该模型能够学习的千兆字节文本，而后找到可能解决训练需要的硬件。这是一个十分低廉的过程，除非有资金雄厚的企业（或集体）专门去钻研并供公众应用，否则“PaLM + RLHF”目前还无奈取代 ChatGPT。
好消息是，复刻 ChatGPT 的其余几个我的项目倒退迅速，包含钻研团队 CarperAI 经营的我的项目。CarperAI 将与 OpenAI 钻研小组 EleutherAI、初创公司 Scale AI 和 Hugging Face 单干，公布第一个由人类反馈训练的“类 -ChatGPT 即用型 AI 模型”。非营利组织 LAION 率先发展了一个应用最新的机器学习办法来复刻 ChatGPT 的我的项目，LAION 也为训练 Stable Diffusion 提供了初始数据集。那么应用了 RLHF 的 PaLM 应用程序可能做些什么？随着模型规模的扩充，跨流动的性能一直进步，新的机会也将呈现。PaLM 可扩大到 5,400 亿个参数，相比之下，GPT-3 大概只有 1,750 亿个参数。
“ChatGPT”与“PaLM + RLHF”
带有人类反馈的强化学习是一种旨在更好地将语言模型与用户冀望的指标保持一致的办法，同时也是 ChatGPT 与“PaLM + RLHF”都领有的秘密武器。RLHF 须要应用蕴含提醒的数据集微调语言模型，且该提醒与人类志愿者预期模型将要表白的内容相匹配，例如：提醒“向 6 岁孩子解释机器学习”；答复“机器学习是 AI 的一种模式……”。
“PaLM + RLHF”中应用了 PaLM 语言模型。在反馈上述提醒到改良后的模型中，由此生成多个回应，志愿者将每个回应由好到差进行排名，而后应用该排名来训练“处分模型”，此模型采纳原始模型的回应并按偏好程序对它们进行排序，而后过滤出给定提醒的最佳答案。收集训练数据这个过程十分低廉。
此外，训练过程也不便宜。PaLM 有 5,400 亿参数 / 语言模型组件，这些都是从训练数据中所习得的。而 2020 年的一项钻研表明，开发一个只有 15 亿个参数的文本生成模型的费用可能高达 160 万美元。耗时三个月，训练了领有 1,760 亿个参数的开源模型 Bloom，用了 384 个 Nvidia A100 GPU（每一个须要数千美金）。而运行“PaLM + RLHF”大小的训练模型同样也不简略。Bloom 须要装备装有大概八个 A100 GPU 的专用 PC。每年预计在单个的亚马逊网站服务实例上，运行 OpenAI 的文本生成 GPT-3（蕴含超过 1,750 亿 个参数）的老本约为 87,000 美元。
论断：除非有资金雄厚的企业（或集体）投入训练，并公之于众，否则“PaLM + RLHF”目前还无奈取代 ChatGPT。
免责申明：本文提供的信息仅代表作者 / 广告商的意见，而非投资倡议——仅用于教育目标。通过浏览本文，文中信息并不形成 Analytics Insight 及团队的任何投资或财务倡议。投资者应该寻求本人的独立财务或业余倡议。在做出任何投资决定之前，请与财务顾问一起进行独立钻研。Analytics Insight 和团队不对本文中提供的投资观点负责。
开源雨林围绕 开源通识、开源应用、开源奉献 三大方面构建常识体系，愿把长期积攒的教训系统化分享给企业，在 团队、机制、我的项目 三方面提供单干，推动各企业更高效地应用开源、奉献开源，晋升全行业开源技术与利用程度。
开源雨林的内容已开源，并托管在 https://github.com/opensource-rainforest，欢送通过 Pull Request 的模式奉献内容，通过 Issue 的模式展开讨论，独特保护开源雨林的内容。
欢送关注“开源雨林”公众号，获取最新、最全的音讯。