数禾科技 AI 模型服务基于云原生架构，为不同业务环节提供智能决策反对。随着业务的疾速倒退，摆在数禾背后的难题是撑持模型计算的底层利用资源无奈依据申请量来调整机器资源反对运算能力。同时，随着模型在线推理服务数量的减少，数禾的模型服务也变得越来越宏大、臃肿，难以治理。这种情况不仅导致了资源节约，还减少了保护和降级的老本。
为了解决这些“顽疾”，数禾科技采纳阿里云 ASK 部署线上模型，无需 K8s 节点治理，依据实时流量动静应用 POD，资源老本节俭 60%；通过 ASK Knative 服务，解决了数禾模型的灰度公布和多版本并存问题；得益于 ASK 主动伸缩和缩容到 0 的劣势，升高运行老本，大幅晋升服务可用性。
残缺内容请点击下方链接查看：
https://developer.aliyun.com/article/1246848?utm_content=g_10…
版权申明：本文内容由阿里云实名注册用户自发奉献，版权归原作者所有，阿里云开发者社区不领有其著作权，亦不承当相应法律责任。具体规定请查看《阿里云开发者社区用户服务协定》和《阿里云开发者社区知识产权爱护指引》。如果您发现本社区中有涉嫌剽窃的内容，填写侵权投诉表单进行举报，一经查实，本社区将立即删除涉嫌侵权内容。