关于阿里云:硅基仿生业务全面-Serverless-容器化14万问答库助力糖尿病科普

42次阅读

共计 1988 个字符,预计需要花费 5 分钟才能阅读完成。

作者:宁佑章(硅基仿生科技)、元毅(阿里云容器服务)

“应用阿里云容器服务 Knative,解决了开发迭代慢的问题,减速了深度学习模型的性能晋升;同时提供了弹性可伸缩的资源配置,满足网络服务需要,升高了服务部署老本。”

— 宁佑章 (硅基仿生科技数据中心算法研发部 NLP 我的项目负责人)

背景

深圳硅基仿生科技股份有限公司成立于 2015 年,致力于慢病治理畛域的翻新医疗器械研发与产业化,公司规模超 500 人。外围团队由清华、北大、加州理工、普林斯顿、华盛顿大学等名校理工科科学家率领,次要我的项目包含间断血糖监测(CGM)、AI 眼底筛查、人工视网膜、胶囊胃镜机器人等,在多个细分畛域突破国外技术垄断,引领基础学科与行业技术倒退,先后承当和参加国家科技部重点研发我的项目 3 项,成为国内翻新医疗器械畛域准独角兽企业。

遇到的问题

2021 年中国糖尿病患者超过 1.4 亿,居世界第一,糖尿病相干医疗收入超万亿;而糖尿病医治的重中之重就是糖尿病教育,能够大幅升高糖尿病医疗收入,同时改善患者预后情况,防止截肢、大脑进化等重大并发症。硅基仿生科技股份有限公司在”珍视生命,贡献,求实,翻新,协同,育人”的价值观下,踊跃投入糖尿病教育的产品研发和技术升级。

原有的技术架构遇到最大的问题是研发效率低,资源老本居高不下。

以智能问答模型为例,因为智能问答模型须要重复测试训练迭代,原有的技术架构须要运维人员一直检测部署,十分浪费时间;另外用户申请常常有峰值,应用固定资源的服务器,顶峰时会导致资源缓和,重大时甚至宕机,非顶峰时又会造成资源节约。

新的技术架构冀望做到按需应用资源,节俭资源应用老本,尽可能少的运维 K8s 集群,同时能基于 K8s 云原生规范 API 应用 Serverless,简化利用运维部署,资源免运维。

解决方案

通过充沛沟通,深刻斟酌业务利用场景和需要后,硅基仿生选用了阿里云 Serverless 容器 —— Knative + ASK 产品解决方案:

通过 Knative 可能十分好的满足业务需要:

疾速迭代

比方智能问答平台,须要屡次测试和训练,如果用以往的部署计划,会节约大量工夫在运维和部署上,升高产品的开发效率。当初应用了 Knative 疾速部署服务到 K8s 测试上线,大大提高了产品的开发效率,实现了数据驱动开发的良性循环。

极致弹性

以往的部署计划,在面对脉冲式拜访流量时,容易造成顶峰时网络申请太多而导致服务器宕机,在低谷时节约网络资源的状况。而在 Knative 的部署计划中,通过极致的弹性能力和灵便的弹性策略,能轻松构建高效、稳固的、能应答脉冲式拜访流量的架构,满足部署需要的同时节省开支。

业务稳定性

Knative 内置 queue-proxy 容器与业务容器联合能够实时察看申请流量,并可能做到流量告警。联合基于申请的灰度公布、多版本治理,能够做到全天候随时公布,大大提高了运维和版本的迭代速度。

此外为了更好地帮忙硅基仿生实现技术架构的迁徙,对客户应用过程中呈现的问题,积极响应,疾速排查起因,及时解决问题,保障服务的失常运行。

精益上云,降本增效

以后通过 Knative 齐全撑持了硅基仿生的业务零碎,实现了硅基仿生业务全副上云。

包含糖尿病智能问答零碎,在内分泌专家和内测糖友的反对下收集了 14 万 + 的问答库,基本上涵盖了糖友甚至健康人的各种糖尿病问题;糖尿病科普文章举荐零碎,依据用户的点赞、珍藏、浏览时长等行为,给用户在 7 个频道举荐科普文章,给糖友及其家属举荐个性化的科普文章;血糖剖析助手和 AGP 剖析助手,通过多轮对话的形式,帮忙患者找到低血糖和高血糖的起因并给出倡议,助力患者达到更好的控糖程度;糖尿病事件常识图谱标注平台,包含标注计划的创立,不便地抽取和标注医学文献中的实体和关系,将用于糖尿病相干的诊断、医治以及科研。

凭借 Knative 的弹性速度、弹性策略、免运维、健康检查、实时监控,对服务全生命周期进行治理,硅基仿生极大进步了产品的开发效率和迭代速度,为糖尿病人群的血糖治理发明了极大价值,为进步糖尿病人群以及大衰弱人群的糖尿病认知和衰弱程度做出了巨大贡献。

对于 Serverless 容器

Knative 是基于 Kubernetes 之上提供的一款开源 Serverless 利用框架,其指标就是制订云原生、跨平台的 Serverless 容器编排规范,帮忙您部署和治理现代化的 Serverless 工作负载,打造企业级 Serverless 容器平台。Knative 于 2021 年 11 月 2 日正式公布 1.0 版本,达到了一个重要的里程碑,随着 2022 年 3 月 2 日退出到 CNCF,越拉越多的开发者拥抱 Knative。

阿里云容器服务从 Knative 晚期版本开始产品化集成,继续跟进 Knative 社区性能迭代,并与容器服务 ACK、音讯、存储、网络等云产品进行了全方位的交融,提供了生产级别的 Knative 能力。

戳此处理解  Knative 文档详情。

正文完
 0