关于人工智能:OneFlow-v090正式发布

0次阅读

共计 1848 个字符，预计需要花费 5 分钟才能阅读完成。

明天是 OneFlow 开源的第 903 天，OneFlow v0.9.0 正式公布。本次更新蕴含 640 个 commit，残缺更新列表请查看链接：https://github.com/Oneflow-In…，欢送下载体验新版本，期待你的反馈。

OneFlow v0.9.0 次要包含以下新增亮点性能和优化：

OneFlow 对 PyTorch API 和模型的兼容性进一步晋升。新增与 PyTorch 对齐的 86 个 API 接口和算子，修复了 104 个算子兼容性相干的 bug。反对更多的 PyTorch 模型一键迁徙成 OneFlow 模型，并取得性能减速。

反对 Stable Diffusion、GLM、YOLOv5 等模型一键迁徙为 OneFlow 模型
oneflow.load 反对间接加载 torch.save 的模型，模型迁徙更不便
新增 oneflow.mock_torch 模块与 mock 办法（https://docs.oneflow.org/mast…），能够在不扭转 PyTorch 的原始脚本的状况下，一键迁徙蕴含多个脚本的简单 PyTorch 模型。

Global Tensor 新增一系列不便分布式编程的接口与办法，并且修复了已知的相干 bug。

Graph 公布主动并行新个性（version 1），反对在指定 Placement 下主动搜寻速度最快的 SBP 组合，应用 Global Tensor 编写分布式模型无需纠结是数据并行、模型并行还是混合并行。

文档参见：https://oneflow.readthedocs.i…

Graph 新增一系列与内存、执行速度、流水覆盖、编译速度相干的优化，晋升性能，升高显存开销。

新增一系列算子优化与系统优化，包含 Eager 的指令调度、高性能 CUDA kernel、多内存池买通等。

相比原始的基于 PyTorch、DeepSpeed、Apex 的 GLM 实现，基于 OneFlow v0.9.0 训练 GLM-large（335M）预训练模型，在简略调优后性能最高晋升 3 倍，显存节俭 1/3。

而在 Stable Diffusion 推理的性能体现上，在 A100 显卡，无论是 PCIe 40GB 还是 SXM 80GB 的配置，相比其余深度学习框架或编译器，OneFlow 的性能都是最快的。

Graph 提供一系列辅助调试的性能，包含：内存剖析日志、编译阶段进度显示、计算图展现等。

OneFlow IR 反对 JIT 编译 LR 代码、分布式形容 SBP signature 以及新增 OKL Dialect 等更多编译优化性能。

OneFlow-ONNX v0.6.0 版本公布，晋升了转换接口的易用性，开发了多个新的个性，并新增反对 6 种模型以及 20 余种 Op，以及修复 6 个转换过程中的 bug。pip install oneflow-onnx==0.6.0 一键装置应用。

仓库地址：https://github.com/Oneflow-In…

报错信息提醒更加敌对，反对高亮显示报错内容，简化大量零碎外部信息细节，能够直观地理解出错的地位和类型。

完整版 OneFlow v0.9.0 更新内容请查看：https://github.com/Oneflow-In…

感激以下贡献者：

liujuncheng, BBuf, wyg1997, jackalcooper, Flowingsun007, clackhan, daquexian, marigoold, lixinqi, guo-ran, hjchen2, strint, ouyangyu, MARD1NO, small1945, reygu, Ldpe2G, leaves-zwx, Yipeng1994, zhongshsh, lixiang007666, mosout, chengtbf, hhhfccz, doombeaker, howin98, xiacijie, farmerzhang1, shangguanshiyuan, JasonChen9, liufengwei0103, youxiudeshouyeren, laoliu97, EsdeathYZH, rejoicesyc, AsakusaRinne, LijunZhang01, Chenqll, xiezipeng-ML, simonJJJ, ShawnXuan

欢送 Star、试用 OneFlow 最新版本：https://github.com/Oneflow-In…

正文完