关于kibana:探析ElasticSearch-Kibana在测试工作中的实践应用-京东物流技术团队

一. 为什么应用ES Kibana离线数据测试中最重要的就是数据验证,一部分须要测试es存储数据的正确性,另一部分就须要验证接口从es取值逻辑的正确性。而为了验证es取值逻辑的正确性,就须要用到Kibana, 它能帮忙测试同学更加疾速高效的执行es数据的查问,大大提高测试效率。 二. 什么是ES和Kibana咱们平时所说的ELK指的就是Elasticsearch、Logstash和Kibana,这三个技术的组合是大数据畛域中一个很奇妙的设计,是一种很典型的MVC思维,模型长久层,视图层和管制层。 Logstash负责管制层的角色,负责收集和过滤数据。 Elasticsearch负责数据长久层的角色,负责贮存数据,是一个实时的分布式存储、搜寻、剖析的引擎,实用于所有类型的数据,包含文本、数字、天文空间、结构化和非结构化数据,相较于Mysql来说更长于百万数据量的检索。 而咱们这次讲的Kibana负责视图层角色,它是一个为Logstash和ElasticSearch提供的日志剖析的Web接口。可应用它对日志进行高效的搜寻、可视化、剖析等各种操作,是一个开源的数据分析与可视化平台,与Elasticsearch搜索引擎一起应用。您能够用Kibana搜寻、查看、交互寄存在Elasticsearch索引中的数据,也能够应用Kibana以图表、表格、地图等形式展现数据,从而达到高级的数据分析与可视化的目标。 本次将介绍Kibana中的Dev Tools中sql查问 , Visualize(可视化数据) 两个性能的应用。 三. Dev Tools 中的sql查问ES和MYSQL的区别: MysqlElasticSearchDatabaseindexTableTypeRowDocumentColumnFieldSchemaMappingIndexEverything is indexedSQLQuery DSLSELECT * FROM ...GET http://...UPDATE table SET...PUT http://...在数据库中的增insert、删delete、改update、查select操作等价于ES中的增PUT/POST、删Delete、改_update、查GET。对于这些简单的查问,es应用Query DSL都能够实现。 POST /index111/_search{ "query": { "bool": { "must": [ {"term":{"user": "张三"}}, {"term":{"timeStamp": "2022-08-04 00:00:00"}} ] } }}然而相比拟来说,咱们更加相熟sql语句,所以es也提供了sql语句的开发,让咱们通过sql语句即可实现ES的查问。在es版本6.3之前都不反对sql语句的开发,如果须要应用sql语句来开发es的数据查问,那么咱们须要手动的本人装置插件。 然而在6.3版本之后,es自带就装置了sql的插件,集成在_xpack上面,咱们能够间接通过sql语句的形式实现es当中的数据查问 以下为应用sql语句查问的步骤: 进入Dev Tools - Console(控制台)POST /_xpack/sql{ "query": "select * from index111 "}输出以上语句,默认返回格局为json 2.能够自定义返回的格局,如想返回文本格式, /_xpack/sql 后加上?format=txt 较为简单的分类聚合计算的sql语句,也是反对的。 应用该性能,可能帮忙测试同学较为方便快捷的查问es的数据,进步测试效率。 四. Visualize(可视化数据) 应用应用下面的sql语句,可能较快的查问到数据,但该sql语句无奈保留,等下次验证回归该内容,查问同样数据时,还需再次输出sql语句,就可能呈现须要从新理解查问逻辑,缩短回归工夫的问题。而应用Visualize(可视化数据)能够将es索引内容通过聚合,通过图表等多种形式保留并显示进去,可能更加间接浏览es的数据,同时产品业务也可用于进行数据分析,创立数据看板。 ...

September 20, 2023 · 1 min · jiezi

关于kibana:Centos-7-安装系列11Kibana

一、零碎环境操作系统:Centos 7已装置环境:ElasticSearch 8.6.2 二、装置须要留神的是:Kibana的版本须要和Elasticsearch保持一致。 2.1 下载并解压安装包cd /optyum install -y wgetwget https://artifacts.elastic.co/downloads/kibana/kibana-8.6.2-linux-x86_64.tar.gztar -zxvf kibana-8.6.2-linux-x86_64.tar.gzmv kibana-8.6.2 kibana2.2 批改配置文件vi /opt/kibana/config/kibana.yml 批改内容如下,也能够间接在文件开端加上: server.port: 5601server.host: "0.0.0.0"elasticsearch.hosts: ["http://192.168.88.159:9200"] 2.3 启动配置文件夹权限 chown -R es:es /opt/kibana切换用户启动 kibana su escd /opt/kibananohup ./bin/kibana > logs/kiban.log 2>&1 & 2.4 凋谢端口exitfirewall-cmd --zone=public --add-port=5601/tcp --permanentfirewall-cmd --reload此时仍无法访问kibana 。为什么?因为kibana 启动时就与es 进行通信,而咱们并没有为kibana 设置es 的账号密码。 2.5 配置ES 账号密码咱们须要为ES 的 kibana 账号设置明码 cd /opt/elasticsearch/bin/kibana 账号:领有 kibana_system 角色,用户 kibana 用来连贯 elasticsearch 并与之通信。Kibana 服务器以该用户身份提交申请以拜访集群监督 API 和 .kibana 索引。不能拜访 index。 ...

May 10, 2023 · 1 min · jiezi

关于kibana:elasticsearch学习本地kibana通过安全证书连接远程elasticsearch

1. 须要的证书文件1.1 前情提要起因是阿里云服务器内存资源无限,切实是养不起kibana,所以只在阿里云部署es,在本地计算机启动一个kibana来连贯;当然也能够是elasticsearch-head或者elasticvue浏览器插件的. 1.2 须要的3个文件kibana通过证书拜访近程es须要这3个文件:crt/csr/key次要是本地kibana须要这三个配置, 所以前面生成这3个文件之后, 要下载下来, 放到本地kibana/config目录下,配置上全门路: elasticsearch.ssl.certificate: d:/xxx/kiana/config/kibana.crtelasticsearch.ssl.key: d:/xxx/kiana/config/kibana.keyelasticsearch.ssl.certificateAuthorities: [ "d:/xxx/kiana/config/elasticsearch-ca.pem" ]2. 证书的生成csr/key/crt生成都需在es所在服务器上!2.1 生成csr/key证书bin/elasticsearch-certutil csr -name kibana -dns myhost#会在es的根目录下生成 csr-bundle.zip 文件, `unzip csr-bundle.zip`解压开:#会有2个文件: kibana/kibana.csrkibana/kibana.key2.2 生成crt证书openssl x509 -req -in kibana.csr -signkey kibana.key -out kibana.crt# 会生成crt文件:kibana.crt3. 本地kibana配置文件server.port: 5601server.host: "localhost"elasticsearch.hosts: ["https://myhost.com:9200"]#不能应用elastic账号,elastic账号是管理员账号#能够通过`bin/elasticsearch-certutil -u kibana -i`自定义一对账密elasticsearch.username: "kibana"elasticsearch.password: "mypassword"#配置上面3个证书文件(服务器es上生成的crt/key/pem)elasticsearch.ssl.verificationMode: noneelasticsearch.ssl.certificate: D:/_tmp/kibana-8.5.2/config/kibana.crtelasticsearch.ssl.key: D:/_tmp/kibana-8.5.2/config/kibana.keyelasticsearch.ssl.certificateAuthorities: [ "D:/_tmp/kibana-8.5.2/config/elasticsearch-ca.pem" ]下面就是本地kibana.yml的全副配置, 而后间接启动即可连贯.4. 备注服务器hostname=myhost服务器域名=myhost.com

December 30, 2022 · 1 min · jiezi

关于kibana:kibana-判断-doc-是不是存在

国内的互联网真的是瘠薄的不行 kibanba 查看一个 index 有多少 doc GET _cat/indices/test_renmin_meta_new?v kibanba 查看一个 index 内的所有 doc GET _cat/indices/test_renmin_meta_new?v 参考:How To Return All Documents From An Index In Elasticsearch kibana 判断 doc 是不是存在

October 26, 2022 · 1 min · jiezi

关于kibana:解决-浏览器访问kibana报错Kibana-server-is-not-ready-yet

大家好,我是无名小歌!!!明天分享一个浏览器拜访 Kibana 是呈现的问题及解决办法。 以下操作针对 kibana-8.2.2 版本 举荐学习ELK搭建:【Elastic Stack】 搭建最新 ELK 日志剖析零碎 8.2.2版 报错: Kibana server is not ready yet.(Kibana服务器尚未就绪) 解决办法: 批改配置重启服务解除正文:server.port、server.host,其余参数不做批改server.host:填写本人主机ip sudo /bin/systemctl daemon-reloadsudo systemctl restart kibana.servicekibana-8.2.2配置文件kibana.yml中的elasticsearch.hosts字段不须要填写 kibana-8.2.2连贯Elasticsearch的办法,生成一个注册令牌,最初web拜访kibana时填入即可连贯。生成一个注册令牌命令 /usr/share/elasticsearch/bin/elasticsearch-create-enrollment-token -s kibana

June 4, 2022 · 1 min · jiezi

关于kibana:kibana去重统计和分组统计

新建可视化统计 抉择数据表格展示形式 抉择数据源 去重统计举例:这里统计的是24小时内,申请config门路返回401的手机号数量 数据筛选条件数据时间段条件Aggregation:统计类型,抉择 unique Count,去重统计Field: 统计字段,这里统计手机号执行统计操作显示统计后果 分组统计举例:在下面的根底上,对申请版本字段进行分组 基于下面一个的手机号去重统计后果,也能够不须要。分组统计指标Aggregation:聚合类型,抉择terms依据条数Field:分组字段,这里抉择appver,版本号Order by:排序字段Order:排序类型,Descending:从大到小,Ascending,从小到大。Size:展现条数,返回排序前几条执行操作展现后果

July 17, 2021 · 1 min · jiezi