前言

Envoy 是一款面向 Service Mesh 的高性能网络代理服务。它与应用程序并行运行,通过以平台无关的形式提供通用性能来形象网络。当基础架构中的所有服务流量都通过 Envoy 网格时,通过统一的可观测性,很容易地查看问题区域,调整整体性能。

Envoy也是istio的外围组件之一,以 sidecar 的形式与服务运行在一起,对服务的流量进行拦挡转发,具备路由,流量管制等等弱小个性。本系列文章,咱们将不局限于istio,envoy的官网文档,从源码级别切入,分享Envoy启动、流量劫持、http 申请解决流程的进阶利用实例,深度剖析Envoy架构。

本篇是Envoy申请流程源码解析的第二篇,次要分享Envoy的outbound方向上篇,蕴含启动监听和建设连贯。注:本文中所探讨的issue和pr基于21年12月。

envoy当中基于libevent进行封装了各种文件,定时器事件等操作,以及dispatch对象的散发,和提早析构,worker启动,worker listener绑定等局部不在这里作解读,后续有空能够独自再进行剖析。跳过envoy当中的事件循环模型,这里以申请触发开始。

outbound方向

filter解析

启动监听

  1. 通过xDS或者动态配置,取得Envoy代理的监听器信息
  2. 如果监听器bind_to_port,则间接调用libevent的接口,绑定监听,回调函数设置为ListenerImpl::listenCallback

对于reuseport

  1. https://github.com/envoyproxy...
  2. https://github.com/envoyproxy...
  3. https://lwn.net/Articles/542629/
  4. https://tech.flipkart.com/lin...

多个 server socket 监听雷同的端口。每个 server socket 对应一个监听线程。内核 TCP 栈接管到客户端建设连贯申请(SYN)时,按 TCP 4 元组(srcIP,srcPort,destIP,destPort) hash 算法,抉择一个监听线程,唤醒之。新连贯绑定到被唤醒的线程。所以绝对于非SO_REUSEPORT, 连贯更为均匀地散布到线程中(hash 算法不是相对均匀)

envoy当中是反对在listener去设置开启这个个性,然而热重启场景时,对内核版本有肯定要求(4.19-rc1)

https://www.envoyproxy.io/doc...

验证察看

默认未开启,通过envoyfilter进行开启后,可见15001的端口被开启


须要重启 POD

而对于没有利用reuseport

大抵的均匀

对于相对的链接均衡, 能够试试 Listener 的配置connection_balance_config:exact_balance,不过因为有锁,对高频新连贯应该有肯定的性能损耗。目前只实用于 TCP 监听器


建设连贯

  1. DispatcherImpl通过libevent,接管到申请,调用ListenerImpl::listenCallback
  2. client向envoy发动连贯,envoy的worker接管eventloop的callback, 触发 Envoy::Network::ListenerImpl::listenCallback(port: 15001)
  3. 15001的useOriginalDst": true,accept_filters_中会带有OriginalDstFilter
  4. 在OriginalDstFilter.OnAccept中用os_syscalls.getsockopt(fd, SOL_IP, SO_ORIGINAL_DST, &orig_addr, &addr_len)获取在iptables批改之前dst ip iptables与getsockopt

  1. 在newconnection当中,还会通过 getBalancedHandlerByAddress寻找到理论的虚构listener

  1. 通过ConnectionHandlerImpl::findActiveListenerByTag

查到addr对应的Listener

● 先查找Listener.IP==addr.ip && Listener.Port==addr.port的Listener

● 再查找Listener.IP==0.0.0.0 && Listener.Port==addr.port的Listener (对于tcp服务,ip会有值,对于http服务,ip为4个0)

  1. dispatcher.createServerConnection传入accept到的fd 创立Server连贯对象ConnectionImpl, 并把onFileEvent注册到eventloop,期待读写事件的到来,因为socket是由一个non-blocking listening socket创立而来,所以也是non-blocking
  2. 且注册的触发形式为epoll的边缘触发

  1. http的listener里filters为envoy.http_connection_manager,buildFilterChain里会把HTTP::ConnectionManagerImpl退出到upstream_filters_(list)中,这样在申请数据达到的时候,就能够应用http_connection_manager的on_read办法

  1. 当连贯刚刚退出eventloop的时候, Write Event会被立刻触发,但因为write_buffer_没有数据,所以不会写入任何数据

ASM试用申请

Envoy是Istio中的Sidecar官网标配,是一个面向Service Mesh的高性能网络代理服务。

以后Service Mesh是Kubernetes上微服务治理的最佳实际,灵雀云微服务治理平台Alauda Service Mesh(简称:ASM)可残缺笼罩微服务落地所须要的基础设施,让开发者真正聚焦业务。

如果您想深刻体验ASM,扫描下方二维码即可报名!

对于【云原生小课堂】

【云原生小课堂】是由灵雀云、Kube-OVN社区、云原生技术社区联结开设的公益性技术分享类专题,将以丰盛详实的精品内容和灵活多样的出现模式,继续为您分享云原生前沿技术,带您理解更多云原生实际干货。
在数字化转型的背景下,云原生曾经成为企业翻新倒退的外围驱动力。作为国内最早将 Kubernetes 产品化的厂商之一,灵雀云从出世便携带“云原生基因”,致力于通过革命性的技术帮忙企业实现数字化转型,咱们期待着云原生给这个世界带来更多扭转。关注咱们,学习更多云原生常识,一起让扭转产生。