关于云计算:广西交科集团业务大规模容器化最佳实践

4次阅读

共计 2755 个字符,预计需要花费 7 分钟才能阅读完成。

作者:谢元昌,广西交科团体有限公司软件院开发工程师。平时次要负责软件的开发以及运维工作。目前次要从事广西高速公路联网电子不停车免费 (ETC) 经营服务零碎的设计与开发工作。自己对云原生工作有强烈向往,但始终苦于云原生门槛较高,实际机会少。自从公司落地了 KubeSphere 后,失去很多实际的机会。

公司简介

广西交科团体有限公司软件研究院成立于 2017 年,前身为公司智能交通所软件研发核心,次要从事高速公路畛域的软件开发、系统集成业务 , 为行业客户提供相干解决方案。现领有软件著作权 74 项、软件产品 90 项,并通过 IS09001 质量体系认证,是广西高速公路畛域最大的软件服务提供商。该院已取得美国 CMMI 研究院颁发的 CMMI5 级评估证书,在软件研发能力成熟度和项目管理方面达到了国内较高水平。

该院专一高速公路免费畛域,在高速公路免费、高速公路经营治理反对、城市公共交通领取等畛域获得突出成绩,研发的“高速公路 IC 卡‘一卡通’联网免费零碎”使广西率先成为全国第一批实现高速 : 公路联网免费的省份 ; 胜利研发了广西第 - 套具备齐全知识产权的“ETC 不停车免费零碎”,蕴含广西高速公路联网电子不停车免费 (ETC) 零碎服务及结算平台、ETC 联网清分中心零碎、ETC 密钥管理系统等,ETC 不停车免费车道零碎曾经笼罩全广西范畴内的高速公路并实现全国互联互通。二十多年来在广西累计建设 MTC 车道 3300 多条,ETC 车道 1600 多条,主动发卡机车道 370 多条。除专一倒退高速公路免费畛域外,该院在倒退高速公路建管养一体化畛域、口岸信息化畛域也获得显著成绩。

建设指标

咱们冀望基于 K8s 搭建 PaaS 云计算平台。应用多租户形式治理和应用资源。集成 CI/CD 反对灵便扩容与降级集群。构建企业级一站式 DevOps 架构,提供集群资源的可监控性服务。

环境痛点

在应用 k8s 前,咱们应用由第三方的运维团队负责的虚拟机治理平台。开发部署环境凌乱,运维治理老本大,服务器资源利用率低。因为平安须要,每次登陆虚拟机都须要先通过一个堡垒机,而后再输出指标虚拟机的账户明码能力登录。

因为虚拟机的账户明码每 3 个月就会更换一次,所以每次登录都须要先查表能力晓得最新的明码,十分麻烦。另外,每次更换明码也都须要运维人员大量纯手工操作,极其消耗工夫。开发人员上线新利用时,须要运维人员反对先调配一台或多台虚拟机后将 IP 和账户明码发给开发人员,从此开发人员就领有这个虚拟机的使用权,开发人员须要从 0 开始配置虚机的零碎环境,装置中间件,手动上传利用,最初,再手动将利用运行起来。

利用下线时,开发人员个别是不会及时告诉运维人员去回收资源的,因为重新配置一台机器十分麻烦,所以总是优先思考留着资源,以备新的利用上线。因为运维人员对每个虚机的理论应用状况根本无法把握,所以虚拟机资源常常无奈回收,造成了大量服务器资源的节约。

IT 运维与开发团队的规模

基础设施运维 3 人,开发团队 70 人。

背景介绍

在拥抱云原生之前,咱们有上百台虚拟机被运维和开发人员同时治理,利用散布散乱,治理起来既费时又费劲,曾经是失控的边缘。拥抱云原生,应用 K8s 之后,咱们采纳 DevOps,统一分配资源。开释了运维人员的生产力,晋升了开发人员的开发效率。

初期,咱们部署了原生 K8s, 应用原生 Dashboard 运行了一段时间。起初感觉它对用户的认证形式过于粗放,UI 界面也不太敌对,学习老本过高。直到有共事举荐了 KubeShpere,尝试着登录他们的官网,浏览帮忙文档,登录社区论坛。“more then Kubernetes and easier then Kubernetes”——“比 K8s 弱小,又比 K8s 易用”从部署到运维体现得酣畅淋漓。绝对于同类产品的劣势在于国人开发,本地化水平很高,面向开发用户敌对,多租户的权限细粒度治理,日志查问界面便捷,周边生态整合全面,可灵便配置须要模块。

目前,咱们曾经搭建了两套 KubeSphere 环境。测试环境由 2 台物理机和一台虚机构成(1 个主节点 2 个工作节点)。生产环境由 5 台物理机构成(2 个主节点 3 个工作节点)。借着最近一个零碎革新契机,咱们曾经把 80% 的利用运行在 KubeSphere 之上,后续的新开发的利用也都会间接部署 KubeSphere 环境上。

实际过程

KubeSphere 在相干业务的基础设施与部署架构

咱们依靠 KubeSphere 部署 Redis、RabbitMq、搭建 Elasticsearch 集群,Kibana 等。

部署 Redis

部署 Rabbitmq

部署 Elasticsearch 集群

部署 Kibana

当初外围业务的数据库咱们应用的是物理机部署 Oracle,后续的一些轻量级利用咱们打算能够依靠 KubeSphere 部署 MySQL。

KubeSphere 在 CI/CD 的利用

因为在应用 KubeSphere 之前,咱们曾经有一套 CI/CD 流程,所以咱们的 Jenkins 和 Harbor 没有应用 KubeSphere 提供的构建流水线服务,后续咱们会进行一些摸索,尝试采纳 Helm 构建利用,更好贴合 KubeSphere 的利用市场。

KubeSphere 自带集群监控

整体监控

各个节点资源监控

利用监控

利用日志查看

自定义报警监控

公司业务与 KubeSphere 的契合点

咱们我的项目组成员不足 Docker 和 K8s 的应用教训。KubeSphere 无缝符合 K8s,操作画面敌对,咱们的开发人员可能低成本上手应用 K8s,享受 K8s 带来的便携性。

KubeSphere 的多租户架构与咱们集团公司的企业架构统一。架构分三个层级。集群,企业空间和我的项目。其中,KubeSphere 中的最底层的我的项目等同于 Kubernetes 的命名空间。集群、企业空间是构建在 K8s 的名字空间之上的进一步形象。KubeSphere 能够为建设多个集群,对应一个集团公司,一个集群下能够建设多个企业空间,对应一个公司,一个企业空间能够建设多个我的项目,对应公司理论产品线,每个层级的一个实例就是一个 Workspace,其余与同档次其余实例的资源隔离。

落地功效

咱们在落地了 KubeSphere 之后,有了以下功效。

  1. 开发部署环境曾经被有序治理。利用都运行在容器平台中,应用多少资源高深莫测。
  2. 运维治理老本升高。对立通过 KubeSphere 登录容器平台,不管查看利用日志,进入容器外部进行操作,批改利用配置都非常便当。
  3. 服务器资源利用率显著进步。咱们原先应用了 30 多台物理机来构建咱们利用,当初仅应用了 8 台物理机,解放了大量服务器资源。
  4. 业务系统可靠性进步。K8s 自带容器存活探针,当利用无奈失常应用给予预警提醒,主动重启容器。以前咱们降级利用的时候,个别都会发个通告,暂停业务半小时,当初降级利用对业务简直无感。

    本文由博客一文多发平台 OpenWrite 公布!

正文完
 0