网站建设公司兴田德润专业搜索引擎实训心得体会

1.1. 基础概念

EFK不是一个软件,而是一套解决方案,开源软件之间的互相配合使用,高效的满足了很多场合的应用,是目前主流的一种日志系统。 EFK是三个开源软件的缩写,分别表示:Elasticsearch , Filebeat, Kibana , 其中Elasticsearch负责日志保存和搜索,Filebeat负责收集日志,Kibana 负责界面。

Elasticsearch 是一个实时的、分布式的可扩展的搜索引擎，允许进行全文、结构化搜索，它通常用于索引和搜索大量日志数据，也可用于搜索许多不同类型的文档。

Filebeat是数据采集的得力工具。将 Filebeat和您的容器一起置于服务器上，然后便可在 Elastisearch 中集中处理数据。

Kibana 核心产品搭载了一批经典功能：柱状图、线状图、饼图、旭日图，等等。不仅如此，您还可以使用 Vega 语法来设计独属于您自己的可视化图形。所有这些都利用 Elasticsearch 的完整聚合功能。

1.2. 日志排查

1.2.1. 如何在界面查看日志

日志在Discover模块：

可以通过修改索引模式来查看不同机器（集群）下的日志：

添加日志需要展示的字段：

1.2.2. 查询某个服务的日志

1、选择集群环境

2、添加application 或者appname过滤条件，选择需要查看服务的日志

可以通过左侧字段筛选来选择想要查看的应用日志

也可以通过“添加筛选”来筛选应用日志

3、选择日志时间范围

1.2.3. 查询错误日志

1.2.3.1. 从前端搜索错误日志

1、浏览器报错时，点击F12。找到对应报错的请求，复制traceId

2、筛选traceId，查询日志

1.2.3.2. 搜索任务错误日志

1、在“任务运行历史”页面找到失败的任务名称，复制溯源ID【】括号中的id内容

2、在kibana中输入message: "8b8c755d6de44f8ea1f3105b56090cb3"，复制得到的LUNA_TID

3、搜索LUNA_TID

1.2.4. 搜索技巧

• 精确搜索

       搜索框内输入message: "rowversion from t_bd_currencies"。针对message字段进行搜索，在搜索的时候不会区分大小写，也就是说，ROWVERSION FROM T_BD_CURRENCIES也是会被搜索出来的。上面的"rowversion from t_bd_currencies"使用了引号，这3个单词会被作为一个词进行查询，不会再进行分词，也就是说匹配的时候只会匹配rowversion from t_bd_currencies这样的顺序匹配，而不会匹配出rowversion,test from t_bd_currencies

• 多字段匹配搜索

        针对message搜索，输入message: rowversion from t_bd_currencies，去除上面例子中的双引号。搜索结果为message中包含rowversion或from或t_bd_currencies的结果。

• 连接词搜索

搜索时，可以用and or not三种连接词进行搜索。

搜索(application : "ats-usercore" and not level : "INFO") or message : "default"。可以得到application为ats-usercore且日志级别不为INFO的日志，或者得到message字段中包含default的日志。