前言好久没写文章了, 明天之所以忽然灵机一动, 是因为昨天呈现了这样一个状况:
咱们公司的某个手机APP后端的用户(customer)微服务呈现内存泄露, 导致OutOfMemoryError, 然而因为通过咱们精心优化的openjdk容器参数, 这次故障对用户齐全无感知. 那么咱们是如何做到的呢?
HeapDumpOnOutOfMemoryError VS ExitOnOutOfMemoryError咱们都晓得, 在传统的虚拟机上部署的Java实例. 为了更好地剖析问题, 个别都是要加上: -XX:+HeapDumpOnOutOfMemoryError这个参数的. 加这个参数后, 如果遇到内存溢出, 就会主动生成HeapDump, 前面咱们能够拿到这个HeapDump来更准确地剖析问题.
然而, "小孩儿, 时代变了!" 容器技术的倒退, 给传统运维模式带来了微小的挑战, 这个挑战是革命性的:
传统的利用都是"永恒存在的" vs 容器pod是"短暂长期的存在"传统利用扩缩容绝对艰难 vs 容器扩缩容丝般顺滑传统利用运维模式关注点是:"定位问题" vs 容器运维模式是: "疾速复原"传统利用一个实例报HeapDumpError就会少一个 vs 容器HeapDump shutdown后能够主动启动, 已达到指定正本数...简略总结一下, 在应用容器平台后, 咱们的工作偏向于:
遇到故障疾速失败遇到故障疾速复原尽量做到用户对故障"无感知"所以, 针对Java利用容器, 咱们也要优化以满足这种需要, 以OutOfMemoryError故障为例:
遇到故障疾速失败, 即尽可能"疾速退出, 疾速终结"有问题java利用容器实例退出后, 新的实例迅速启动填补;"疾速退出, 疾速终结", 同时配合LB, 退出和冷启动的过程中用户申请不会散发进来.-XX:+ExitOnOutOfMemoryError就正好满足这种需要:
传递此参数时,抛出OutOfMemoryError时JVM将立刻退出。 如果您想终止应用程序,则能够传递此参数。
细节让咱们从新回顾故障: "咱们公司的某个手机APP后端的用户(customer)微服务呈现内存泄露, 导致OutOfMemoryError"
该customer利用概述如下:
无状态通过Deployment部署, 有6个正本通过SVC提供服务残缺的过程如下:
6个正本, 其中1个呈现OutOfMomoryError因为正本的jvm参数配置有: -XX:+ExitOnOutOfMemoryError, 该实例的JVM(PID为1)立刻退出.因为pid 1过程退出, 此时pod立即出于Terminating状态, 并且变为:Terminated同时, customer的SVC 负载平衡会将该正本从SVC 负载平衡中移除, 用户申请不会被散发到该节点.K8S检测到正本数和Deployment replicas不统一, 启动1个新的正本.待新的局部Readiness Probe 探测通过, customer的SVC负载平衡将这个新的正本退出到负载平衡中, 接管用户申请.在此过程中, 用户基本上是对后盾故障"无感知"的.
...