掌握它才说明你真正懂Elasticsearch

2020-05-22 00:00:00 索引 数据 节点 合并 分片

“

Elasticsearch 基于 Lucene，隐藏其复杂性，并提供简单易用的 Restful API接口、Java API 接口。所以理解 ES 的关键在于理解 Lucene 的基本原理。



Lucene 简介


Lucene 是一种高性能、可伸缩的信息搜索（IR）库，在 2000 年开源，初由鼎鼎大名的 Doug Cutting 开发，是基于 Java 实现的高性能的开源项目。


Lucene 采用了基于倒排表的设计原理，可以非常高效地实现文本查找，在底层采用了分段的存储模式，使它在读写时几乎完全避免了锁的出现，大大提升了读写性能。


核心模块


Lucene 的写流程和读流程如下图所示：



图 1：Lucene 的写流程和读流程


其中，虚线箭头（a、b、c、d）表示写索引的主要过程，实线箭头（1-9）表示查询的主要过程。


Lucene 中的主要模块及模块说明如下：

  • analysis：主要负责词法分析及语言处理，也就是我们常说的分词，通过该模块可终形成存储或者搜索的小单元 Term。
  • index 模块：主要负责索引的创建工作。
  • store 模块：主要负责索引的读写，主要是对文件的一些操作，其主要目的是抽象出和平台文件系统无关的存储。
  • queryParser 模块：主要负责语法分析，把我们的查询语句生成 Lucene 底层可以识别的条件。
  • search 模块：主要负责对索引的搜索工作。
  • similarity 模块：主要负责相关性打分和排序的实现。


核心术语


下面介绍 Lucene 中的核心术语：

  • Term：是索引里小的存储和查询单元，对于英文来说一般是指一个单词，对于中文来说一般是指一个分词后的词。
  • 词典（Term Dictionary，也叫作字典）：是 Term 的集合。词典的数据结构可以有很多种，每种都有自己的优缺点。
    比如：排序数组通过二分查找来检索数据：HashMap（哈希表）比排序数组的检索速度更快，但是会浪费存储空间。
    FST(finite-state transducer)有更高的数据压缩率和查询效率，因为词典是常驻内存的，而 FST 有很好的压缩率，所以 FST 在 Lucene 的新版本中有非常多的使用场景，也是默认的词典数据结构。
  • 倒排序（Posting List）：一篇文章通常由多个词组成，倒排表记录的是某个词在哪些文章中出现过。
  • 正向信息：原始的文档信息，可以用来做排序、聚合、展示等。
  • 段（Segment）：索引中小的独立存储单元。一个索引文件由一个或者多个段组成。在 Luence 中的段有不变性，也就是说段一旦生成，在其上只能有读操作，不能有写操作。


Lucene 的底层存储格式如下图所示，由词典和倒排序两部分组成，其中的词典就是 Term 的集合：



图 2：Lucene 的底层存储格式


词典中的 Term 指向的文档链表的集合，叫做倒排表。词典和倒排表是 Lucene 中很重要的两种数据结构，是实现快速检索的重要基石。


词典和倒排表是分两部分存储的，在倒排序中不但存储了文档编号，还存储了词频等信息。


在上图所示的词典部分包含三个词条（Term）：Elasticsearch、Lucene 和 Solr。词典数据是查询的入口，所以这部分数据是以 FST 的形式存储在内存中的。


在倒排表中，“Lucene”指向有序链表 3，7，15，30，35，67，表示字符串“Lucene”在文档编号为3、7、15、30、35、67的文章中出现过，Elasticsearch 和 Solr 同理。


检索方式


在 Lucene 的查询过程中的主要检索方式有以下四种：


①单个词查询


指对一个 Term 进行查询。比如，若要查找包含字符串“Lucene”的文档，则只需在词典中找到 Term“Lucene”，再获得在倒排表中对应的文档链表即可。


②AND


指对多个集合求交集。比如，若要查找既包含字符串“Lucene”又包含字符串“Solr”的文档，则查找步骤如下：

  • 在词典中找到 Term “Lucene”，得到“Lucene”对应的文档链表。
  • 在词典中找到 Term “Solr”，得到“Solr”对应的文档链表。
  • 合并链表，对两个文档链表做交集运算，合并后的结果既包含“Lucene”也包含“Solr”。


③OR


指多个集合求并集。比如，若要查找包含字符串“Luence”或者包含字符串“Solr”的文档，则查找步骤如下：

  • 在词典中找到 Term “Lucene”，得到“Lucene”对应的文档链表。
  • 在词典中找到 Term “Solr”，得到“Solr”对应的文档链表。
  • 合并链表，对两个文档链表做并集运算，合并后的结果包含“Lucene”或者包含“Solr”。


④NOT


指对多个集合求差集。比如，若要查找包含字符串“Solr”但不包含字符串“Lucene”的文档，则查找步骤如下：

  • 在词典中找到 Term “Lucene”，得到“Lucene”对应的文档链表。
  • 在词典中找到 Term “Solr”，得到“Solr”对应的文档链表。
  • 合并链表，对两个文档链表做差集运算，用包含“Solr”的文档集减去包含“Lucene”的文档集，运算后的结果就是包含“Solr”但不包含“Lucene”。


通过上述四种查询方式，我们不难发现，由于 Lucene 是以倒排表的形式存储的。


所以在 Lucene 的查找过程中只需在词典中找到这些 Term，根据 Term 获得文档链表，然后根据具体的查询条件对链表进行交、并、差等操作，就可以准确地查到我们想要的结果。


相对于在关系型数据库中的“Like”查找要做全表扫描来说，这种思路是非常高效的。


虽然在索引创建时要做很多工作，但这种一次生成、多次使用的思路也是非常高明的。


分段存储


在早期的全文检索中为整个文档集合建立了一个很大的倒排索引，并将其写入磁盘中，如果索引有更新，就需要重新全量创建一个索引来替换原来的索引。


这种方式在数据量很大时效率很低，并且由于创建一次索引的成本很高，所以对数据的更新不能过于频繁，也就不能保证实效性。


现在，在搜索中引入了段的概念（将一个索引文件拆分为多个子文件，则每个子文件叫做段），每个段都是一个独立的可被搜索的数据集，并且段具有不变性，一旦索引的数据被写入硬盘，就不可修改。


在分段的思想下，对数据写操作的过程如下：

  • 新增：当有新的数据需要创建索引时，由于段段不变性，所以选择新建一个段来存储新增的数据。
  • 删除：当需要删除数据时，由于数据所在的段只可读，不可写，所以 Lucene 在索引文件新增一个 .del 的文件，用来专门存储被删除的数据 id。
    当查询时，被删除的数据还是可以被查到的，只是在进行文档链表合并时，才把已经删除的数据过滤掉。被删除的数据在进行段合并时才会被真正被移除。
  • 更新：更新的操作其实就是删除和新增的组合，先在.del文件中记录旧数据，再在新段中添加一条更新后的数据。


段不可变性的优点如下：

  • 不需要锁：因为数据不会更新，所以不用考虑多线程下的读写不一致情况。
  • 可以常驻内存：段在被加载到内存后，由于具有不变性，所以只要内存的空间足够大，就可以长时间驻存，大部分查询请求会直接访问内存，而不需要访问磁盘，使得查询的性能有很大的提升。
  • 缓存友好：在段的声明周期内始终有效，不需要在每次数据更新时被重建。
  • 增量创建：分段可以做到增量创建索引，可以轻量级地对数据进行更新，由于每次创建的成本很低，所以可以频繁地更新数据，使系统接近实时更新。


段不可变性的缺点如下：

  • 删除：当对数据进行删除时，旧数据不会被马上删除，而是在 .del 文件中被标记为删除。而旧数据只能等到段更新时才能真正地被移除，这样会有大量的空间浪费。
  • 更新：更新数据由删除和新增这两个动作组成。若有一条数据频繁更新，则会有大量的空间浪费。
  • 新增：由于索引具有不变性，所以每次新增数据时，都需要新增一个段来存储数据。当段段数量太多时，对服务器的资源（如文件句柄）的消耗会非常大，查询的性能也会受到影响。
  • 过滤：在查询后需要对已经删除的旧数据进行过滤，这增加了查询的负担。


为了提升写的性能，Lucene 并没有每新增一条数据就增加一个段，而是采用延迟写的策略，每当有新增的数据时，就将其先写入内存中，然后批量写入磁盘中。


若有一个段被写到硬盘，就会生成一个提交点，提交点就是一个用来记录所有提交后的段信息的文件。


一个段一旦拥有了提交点，就说明这个段只有读的权限，失去了写的权限；相反，当段在内存中时，就只有写数据的权限，而不具备读数据的权限，所以也就不能被检索了。


从严格意义上来说，Lucene 或者 Elasticsearch 并不能被称为实时的搜索引擎，只能被称为准实时的搜索引擎。


写索引的流程如下：

  • 新数据被写入时，并没有被直接写到硬盘中，而是被暂时写到内存中。Lucene 默认是一秒钟，或者当内存中数据量达到一定阶段时，再批量提交到磁盘中。
    当然，默认的时间和数据量的大小是可以通过参数控制的。通过延时写的策略，可以减少数据往磁盘上写的次数，从而提升整体的写入性能，如图 3。
  • 在达到出触发条件以后，会将内存中缓存的数据一次性写入磁盘中，并生成提交点。
  • 清空内存，等待新的数据写入，如下图所示。



图 3：Elasticsearch 写索引


从上述流程可以看出，数据先被暂时缓存在内存中，在达到一定的条件再被一次性写入硬盘中，这种做法可以大大提升数据写入的速度。


但是数据先被暂时存放在内存中，并没有真正持久化到磁盘中，所以如果这时出现断电等不可控的情况，就会丢失数据，为此，Elasticsearch 添加了事务日志，来保证数据的安全。


段合并策略


虽然分段比每次都全量创建索引有更高的效率，但是由于在每次新增数据时都会新增一个段，所以经过长时间的的积累，会导致在索引中存在大量的段。


当索引中段的数量太多时，不仅会严重消耗服务器的资源，还会影响检索的性能。


因为索引检索的过程是：查询所有段中满足查询条件的数据，然后对每个段里查询的结果集进行合并，所以为了控制索引里段的数量，我们必须定期进行段合并操作。


但是如果每次合并全部的段，则会造成很大的资源浪费，特别是“大段”的合并。


所以 Lucene 现在的段合并思路是：根据段的大小将段进行分组，再将属于同一组的段进行合并。


但是由于对于超级大的段的合并需要消耗更多的资源，所以 Lucene 会在段的大小达到一定规模，或者段里面的数据量达到一定条数时，不会再进行合并。


所以 Lucene 的段合并主要集中在对中小段的合并上，这样既可以避免对大段进行合并时消耗过多的服务器资源，也可以很好地控制索引中段的数量。


段合并的主要参数如下：

  • mergeFactor：每次合并时参与合并的少数量，当同一组的段的数量达到此值时开始合并，如果小于此值则不合并，这样做可以减少段合并的频率，其默认值为 10。
  • SegmentSize：指段的实际大小，单位为字节。
  • minMergeSize：小于这个值的段会被分到一组，这样可以加速小片段的合并。
  • maxMergeSize：若有一段的文本数量大于此值，就不再参与合并，因为大段合并会消耗更多的资源。


段合并相关的动作主要有以下两个：

  • 对索引中的段进行分组，把大小相近的段分到一组，主要由 LogMergePolicy1 类来处理。
  • 将属于同一分组的段合并成一个更大的段。


在段合并前对段的大小进行了标准化处理，通过 logMergeFactorSegmentSize 计算得出。


其中 MergeFactor 表示一次合并的段的数量，Lucene 默认该数量为 10；SegmentSize 表示段的实际大小。通过上面的公式计算后，段的大小更加紧凑，对后续的分组更加友好。


段分组的步骤如下：


①根据段生成的时间对段进行排序，然后根据上述标准化公式计算每个段的大小并且存放到段信息中，后面用到的描述段大小的值都是标准化后的值，如图 4 所示：



图 4：Lucene 段排序


②在数组中找到大的段，然后生成一个由大段的标准化值作为上限，减去 LEVEL_LOG_SPAN（默认值为 0.75）后的值作为下限的区间，小于等于上限并且大于下限的段，都被认为是属于同一组的段，可以合并。


③在确定一个分组的上下限值后，就需要查找属于这个分组的段了，具体过程是：创建两个指针（在这里使用指针的概念是为了更好地理解）start 和 end。


start 指向数组的第 1 个段，end 指向第 start+MergeFactor 个段，然后从 end 逐个向前查找落在区间的段。


当找到第 1 个满足条件的段时，则停止，并把当前段到 start 之间的段统一分到一个组，无论段的大小是否满足当前分组的条件。


如图 5 所示，第 2 个段明显小于该分组的下限，但还是被分到了这一组。



图 5：Lucene 段分组


这样做的好处如下：

  • 增加段合并的概率，避免由于段的大小参差不齐导致段难以合并。
  • 简化了查找的逻辑，使代码的运行效率更高。


④在分组找到后，需要排除不参加合并的“超大”段，然后判断剩余的段是否满足合并的条件。


如图 5 所示，mergeFactor=5，而找到的满足合并条件的段的个数为 4，所以不满足合并的条件，暂时不进行合并，继续找寻下一个组的上下限。


⑤由于在第 4 步并没有找到满足段合并的段的数量，所以这一分组的段不满足合并的条件，继续进行下一分组段的查找。


具体过程是：将 start 指向 end，在剩下的段（从 end 指向的元素开始到数组的后一个元素）中寻找大的段，在找到大的值后再减去 LEVEL_LOG_SPAN 的值，再生成一下分组的区间值。


然后把 end 指向数组的第 start+MergeFactor 个段，逐个向前查找第 1 个满足条件的段：重复第 3 步和第 4 步。


⑥如果一直没有找到满足合并条件的段，则一直重复第 5 步，直到遍历完整个数组，如图 6 所示：



图 6：Lucene 段分组二


⑦在找到满足条件的 mergeFactor 个段时，就需要开始合并了。但是在满足合并条件的段大于 mergeFactor 时，就需要进行多次合并。


也就是说每次依然选择 mergeFactor 个段进行合并，直到该分组的所有段合并完成，再进行下一分组的查找合并操作。


⑧通过上述几步，如果找到了满足合并要求的段，则将会进行段的合并操作。


因为索引里面包含了正向信息和反向信息，所以段合并的操作分为两部分：

  • 一个是正向信息合并，例如存储域、词向量、标准化因子等。
  • 一个是反向信息的合并，例如词典、倒排表等。


在段合并时，除了需要对索引数据进行合并，还需要移除段中已经删除的数据。


Lucene 相似度打分


我们在前面了解到，Lucene 的查询过程是：首先在词典中查找每个 Term，根据 Term 获得每个 Term 所在的文档链表；然后根据查询条件对链表做交、并、差等操作，链表合并后的结果集就是我们要查找的数据。


这样做可以完全避免对关系型数据库进行全表扫描，可以大大提升查询效率。


但是，当我们一次查询出很多数据时，这些数据和我们的查询条件又有多大关系呢？其文本相似度是多少？


本节会回答这个问题，并介绍 Lucene 经典的两个文本相似度算法：基于向量空间模型的算法和基于概率的算法（BM25）。


如果对此算法不太感兴趣，那么只需了解对文本相似度有影响的因子有哪些，哪些是正向的，哪些是逆向的即可，不需要理解每个算法的推理过程。但是这两个文本相似度算法有很好的借鉴意义。


Elasticsearch 简介


Elasticsearch 是使用 Java 编写的一种开源搜索引擎，它在内部使用 Luence 做索引与搜索，通过对 Lucene 的封装，提供了一套简单一致的 RESTful API。


Elasticsearch 也是一种分布式的搜索引擎架构，可以很简单地扩展到上百个服务节点，并支持 PB 级别的数据查询，使系统具备高可用和高并发性。


核心概念


Elasticsearch 的核心概念如下：

  • Cluster：集群，由一个或多个 Elasticsearch 节点组成。
  • Node：节点，组成 Elasticsearch 集群的服务单元，同一个集群内节点的名字不能重复。通常在一个节点上分配一个或者多个分片。
  • Shards：分片，当索引上的数据量太大的时候，我们通常会将一个索引上的数据进行水平拆分，拆分出来的每个数据库叫作一个分片。
    在一个多分片的索引中写入数据时，通过路由来确定具体写入那一个分片中，所以在创建索引时需要指定分片的数量，并且分片的数量一旦确定就不能更改。
    分片后的索引带来了规模上（数据水平切分）和性能上（并行执行）的提升。每个分片都是 Luence 中的一个索引文件，每个分片必须有一个主分片和零到多个副本分片。
  • Replicas：备份也叫作副本，是指对主分片的备份。主分片和备份分片都可以对外提供查询服务，写操作时先在主分片上完成，然后分发到备份上。
    当主分片不可用时，会在备份的分片中选举出一个作为主分片，所以备份不仅可以提升系统的高可用性能，还可以提升搜索时的并发性能。但是若副本太多的话，在写操作时会增加数据同步的负担。
  • Index：索引，由一个和多个分片组成，通过索引的名字在集群内进行标识。
  • Type：类别，指索引内部的逻辑分区，通过 Type 的名字在索引内进行标识。在查询时如果没有该值，则表示在整个索引中查询。
  • Document：文档，索引中的每一条数据叫作一个文档，类似于关系型数据库中的一条数据通过 _id 在 Type 内进行标识。
  • Settings：对集群中索引的定义，比如一个索引默认的分片数、副本数等信息。
  • Mapping：类似于关系型数据库中的表结构信息，用于定义索引中字段（Field）的存储类型、分词方式、是否存储等信息。Elasticsearch 中的 Mapping 是可以动态识别的。
    如果没有特殊需求，则不需要手动创建 Mapping，因为 Elasticsearch 会自动根据数据格式识别它的类型，但是当需要对某些字段添加特殊属性（比如：定义使用其他分词器、是否分词、是否存储等）时，就需要手动设置 Mapping 了。一个索引的 Mapping 一旦创建，若已经存储了数据，就不可修改了。
  • Analyzer：字段的分词方式的定义。一个 Analyzer 通常由一个 Tokenizer、零到多个 Filter 组成。
    比如默认的标准 Analyzer 包含一个标准的 Tokenizer 和三个 Filter：Standard Token Filter、Lower Case Token Filter、Stop Token Filter。


Elasticsearch 的节点的分类如下：


①主节点（Master Node）：也叫作主节点，主节点负责创建索引、删除索引、分配分片、追踪集群中的节点状态等工作。Elasticsearch 中的主节点的工作量相对较轻。


用户的请求可以发往任何一个节点，并由该节点负责分发请求、收集结果等操作，而并不需要经过主节点转发。


通过在配置文件中设置 node.master=true 来设置该节点成为候选主节点（但该节点不一定是主节点，主节点是集群在候选节点中选举出来的），在 Elasticsearch 集群中只有候选节点才有选举权和被选举权。其他节点是不参与选举工作的。


②数据节点（Data Node）：数据节点，负责数据的存储和相关具体操作，比如索引数据的创建、修改、删除、搜索、聚合。


所以，数据节点对机器配置要求比较高，首先需要有足够的磁盘空间来存储数据，其次数据操作对系统 CPU、Memory 和 I/O 的性能消耗都很大。


通常随着集群的扩大，需要增加更多的数据节点来提高可用性。通过在配置文件中设置 node.data=true 来设置该节点成为数据节点。


③客户端节点（Client Node）：就是既不做候选主节点也不做数据节点的节点，只负责请求的分发、汇总等，也就是下面要说到的协调节点的角色。


其实任何一个节点都可以完成这样的工作，单独增加这样的节点更多地是为了提高并发性。


可在配置文件中设置该节点成为数据节点：

node.master=false
node.data=false

相关文章