近年来,大模型在 AI 畛域的利用日益宽泛。为了让更多人体验到大模型的威力,建木社区、ChatGLM 团队与青田翻新赋能核心携手单干,推出了一款全新的 AI 对话体验。
作为一款中国木兰开源社区旗下的 DevOps 工具,建木基于易用的图形化对流程进行编排,能疾速将利用部署到所需的环境。而 ChatGLM-6B 则是一款反对中英双语的开源对话语言模型,具备 62 亿参数。在这次单干中,建木社区团队、ChatGLM 团队与青田翻新赋能核心独特搭建了一套 ChatGLM-6B 对话体验环境。该环境采纳 FP16 无量化的版本,与生产级显卡上部署的 INT4 量化版本相比,响应速度和成果大为晋升。
青田翻新赋能核心作为本次单干的重要支持者,为整个我的项目提供了弱小的 GPU 服务器反对。作为一个将算力、算法、开发平台一体化的元宇宙基础设施,青田翻新赋能核心每秒算力性能超过 10 亿亿次,涵盖协同设计、物理仿真、实时渲染、智能交互的元宇宙数字资产创立平台。
通过这次合作项目的胜利施行,咱们置信建木社区、ChatGLM 团队以及青田翻新赋能核心将成为大模型利用倒退的重要推动力。在将来,咱们将独特关注 AI 畛域的最新动静,紧跟技术倒退潮流,一直优化和降级咱们的产品和服务,为用户带来更多实用性、创新性的利用场景。同时,咱们将踊跃寻求与其余当先的技术团队、钻研机构以及产业搭档的单干,独特为大模型利用的倒退贡献力量,推动 AI 技术在各行各业的广泛应用。将来,建木社区将推出基于建木节点的 ChatGLM 环境部署工具,进一步简化部署流程,让更多开发者和用户受害。同时,咱们将定期举办活动和分享会,促成大模型利用的倒退。敬请期待建木社区后续的精彩流动,独特见证大模型利用的辉煌将来!
ChatGLM-6B 在线体验地址:关注“开源建木 +”公众号,公众号内回复 ”ChatGLM” 获取体验地址