Tengine

Tengine 2.2.2 移植指南介绍简要介绍Tengine是由淘宝网发动的Web服务器我的项目。它在Nginx的根底上，针对大访问量网站的需要，增加了很多高级性能和个性。它的目标是打造一个高效、平安的Web平台。 开发语言：C 一句话形容：轻量级Web服务器 倡议的版本倡议应用版本为“Tengine 2.2.2”。 阐明：本文档实用于Tengine 2.2.2，其余版本的Tengine移植步骤也可参考本文档。环境要求硬件要求我的项目阐明服务器TaiShan 200服务器（型号2280）CPU鲲鹏920 5250处理器磁盘分区对磁盘分区无要求操作系统要求我的项目版本openEuleropenEuler 20.03 LTS SP1 aarch64Kernel4.19.90-2003.4.0.0036.oe1.aarch64装置操作系统请参考：20.03 LTS SP1 装置指南 查看以后零碎版本信息[[email protected] ~]# cat /etc/os-releaseNAME="openEuler"VERSION="20.03 (LTS-SP1)"ID="openEuler"VERSION_ID="20.03"PRETTY_NAME="openEuler 20.03 (LTS-SP1)"ANSI_COLOR="0;31"阐明：如果是全新装置操作系统，装置形式倡议不要应用最小化装置，否则很多软件包须要手动装置，可抉择“Server with GUI”装置形式。装置Tengine配置dns解析文件[[email protected] ~]# echo "nameserver 114.114.114.114" >> /etc/resolv.conf装置依赖包[[email protected] ~]# yum install gcc gcc-c++ make libtool zlib zlib-devel pcre pcre-devel perl-devel perl-ExtUtils-Embed wget vim -y镜像站RPM形式装置tengine阐明：镜像站中的RPM包都是通过开源代码编译打包而成，而后将其上传到镜像站。获取Tengine 2.2.2的RPM包。[[email protected] ~]# cd /home[[email protected] home]# wget https://mirrors.huaweicloud.com/kunpeng/yum/el/7/aarch64/Packages/web/tengine-2.2.2-1.el7_4.ngx.aarch64.rpm兼容性评估下载x2openEuler工具下载指引：https://www.openeuler.org/zh/other/migration/部署工具rpm -ivh x2openEuler-2.0.0-1.x86_64.rpm留神：装置rpm时须要应用root用户，且目前须要网络（用于下载安装依赖）留神：依据提醒装置依赖包如bzip2-devel等su x2openEulerx2openEuler redis-db -init顺次录入redis数据库的ip:127.0.0.1端口：6379数据库索引号（0-16）：0明码（工具会对明码加密解决）：如果redis明码没有设置或者为空时，间接回车即可x2openEuler init source_centos7.6-openEuler20.03-LTS-SP1.tar.gz备注：x2openEuler应用rpm装置实现后会在/opt/x2openEuler目录下带有source_centos7.6-openEuler20.03-LTS-SP1.tar.gz这个默认资源包须要反对centos8.2到openEuler20.03-LTS-SP1的评估，则需获取对应的动态资源包导入，如对应的资源包为source_centos8.2-openEuler20.03-LTS-SP1.tar.gz，导入此包命令：x2openEuler init source_centos8.2-openEuler20.03-LTS-SP1.tar.gz，请示状况抉择对应的资源包扫描软件x2openEuler scan tengine-2.2.2-1.el7_4.ngx.aarch64.rpm留神要剖析的移植文件须要有可能让x2openEuler用户能够读取的权限扫描实现后会在/opt/x2openEuler/output目录生成html格局的报告查看评估后果软件兼容性评估报告分三块内容展现软件兼容性，别离是依赖包兼容性、C/C++接口兼容性、java接口兼容性，依赖包兼容性反映了软件包装置过程中的间接依赖，非100%表明无奈正确装置；接口兼容性反映的是单个软件运行过程中对其余软件包、动静库或零碎接口的调用变动，非100%表明在某个性能调用时可能会触发异样，未调用到时可能体现失常；局部后果倡议人工复核，最终软件包应用建优先级倡议 openEuler已移植包>openEuler上人工重编译包>centos软件包。 ...

 欢送关注我的公众号 [极智视界]，回复001获取Google编程标准 O_o >_<  o_O O_o ~_~ o_O 大家好，我是极智视界，本文分析一下 KL 对称量化算法实现，以 Tengine 的实现为例。   后面曾经写过一篇《【模型推理】量化实现分享一：详解 min-max 对称量化算法实现》，有趣味的同学能够查阅。这是上一篇的续集，也是量化实现详解的第二篇。   量化背景就不多做介绍了，之前的文章中也说的比拟多了，间接开始吧。 1、KL 量化原理   KL 量化是用 KL 散度来掂量实在数据分布和量化数据分布之间的相似性的量化办法，是英伟达 TensorRT 中对于激活值采纳的量化策略，KL 量化的次要逻辑如下： KL 和 MIN-MAX 不一样，不是间接将 [min, max] 映射到 [-127, 127]，而是去寻找一个阈值 |T| < max(|max|, |min|)，将其 [-T, T] 映射到 [-127, 127]。认为只有阈值选取切当，就能将阈值以外的值舍弃掉，也不会对精度损失造成大的影响；超出阈值 ±|T| 以外的值间接映射为阈值，如上图中的三个红色点，间接映射为 -127，这种映射关系称为是饱和的。 KL 量化办法试图将 float32 数值散布和 int8 数值散布形象成两个散布，用阈值 |T| 来更新这两个数值散布，并用 KL 散度来掂量这两个散布的相似性，若 KL 散度值越小，阐明这两个散布越类似，也就阐明这个阈值 |T| 抉择的最好。对于对称量化来说，依据这个阈值就能算出 Scale，而 Zero_point 始终为零。 ...