引言

HBase里面只有rowkey作为一级索引， 如果要对库里的非rowkey字段进行数据检索和查询， 往往要通过MapReduce/Spark等分布式计算框架进行，硬件资源消耗和时间延迟都会比较高。
为了HBase的数据查询更高效、适应更多的场景， 诸如使用非rowkey字段检索也能做到秒级响应，或者支持各个字段进行模糊查询和多字段组合查询等， 因此需要在HBase上面构建二级索引， 以满足现实中更复杂多样的业务需求。

HBase二级索引方案

■ 基于Coprocessor方案

优点 缺点
基于Coprocessor的方案，从开发设计的角度看， 把很多对二级索引管理的细节都封装在的Coprocessor具体实现类里面， 这些细节对外面读写的人是无感知的，简化了数据访问者的使用。 Coprocessor的方案入侵性比较强， 增加了在Regionserver内部需要运行和维护二级索引关系表的代码逻辑等，对Regionserver的性能会有一定影响。

1. 官方特性

其实从0.94版本开始，HBase官方文档已经提出了实现二级索引的一种途径：基于Coprocessor（0.92版本开始引入，达到支持类似传统RDBMS的触发器的行为）开发自定义数据处理逻辑，采用数据“双写”（dual-write）策略，在有数据写入同时同步到二级索引表。

2. 开源方案

虽然官方一直也没提供内置的支持二级索引的工具， 不过业界也有些比较知名的基于Coprocessor的开源方案。

  • 华为hindex（基于0.94版本）。当年刚出来的时候比较火，但是版本较旧，看GitHub项目地址最近这几年就没更新过。
    • 架构图

image.png

  • Put操作流程

HBase二次索引方案 - 图2

  • Scan操作流程

HBase二次索引方案 - 图3HBase二次索引方案 - 图4

  • Apache Phoenix： 功能围绕着SQL on HBase，支持和兼容多个HBase版本， 二级索引只是其中一块功能。 二级索引的创建和管理直接有SQL语法支持，使用起来很简便， 该项目目前社区活跃度和版本更新迭代情况都比较好。

ApachePhoenix在目前开源的方案中，是一个比较优的选择。主打SQL on HBase ， 基于SQL能完成HBase的CRUD操作，支持JDBC协议。
HBase二次索引方案 - 图5
Phoenix二级索引特点：

  1. Covered Indexes(覆盖索引) ：把关注的数据字段也附在索引表上，只需要通过索引表就能返回所要查询的数据（列）， 所以索引的列必须包含所需查询的列(SELECT的列和WHRER的列)。
  2. Functional indexes(函数索引)： 索引不局限于列，支持任意的表达式来创建索引。
  3. Global indexes(全局索引)：适用于读多写少场景。通过维护全局索引表，所有的更新和写操作都会引起索引的更新，写入性能受到影响。 在读数据时，Phoenix SQL会基于索引字段，执行快速查询。
  4. Local indexes(本地索引)：适用于写多读少场景。 在数据写入时，索引数据和表数据都会存储在本地。在数据读取时， 由于无法预先确定region的位置，所以在读取数据时需要检查每个region（以找到索引数据），会带来一定性能（网络）开销。

其他基于Coprocessor实现二级索引的方案，大体都是遵循类似的思路：构建一份“索引”的映射关系，存储在另一张HBase表或者其他DB里面。

■ 非Coprocessor方案

选择不基于Coprocessor开发，自行在外部构建和维护索引关系也是另外一种方式。常见的是采用底层基于Apache Lucene的Elasticsearch、Apache Solr ，来构建强大的索引能力、搜索能力， 例如支持模糊查询、全文检索、组合查询、排序等。

1. Lily HBase Indexer

Lily HBase Indexer（简称 HBase Indexer），是国外的NGDATA公司开源的基于Solr的索引构建工具， 特色是其基于HBase的备份机制，开发了一个SEP工具， 通过监控HBase的WAL日志（Put/Delete操作），来触发对Solr集群索引的异步更新， 基本对HBase无侵入性（但必须开启WAL ）， 流程图如下所示：
image.png

2. CDH Search

image.png
CDH Search是Hadoop发行商Cloudera公司开发的，基于Solr的HBase检索方案，部分集成了Lily HBase Indexer的功能。如下图所示，是CDH search的核心组件交互图， 体现了在单次Client端查询过程中，核心的ZooKeeper和Solr等组件的交互流程。
HBase二次索引方案 - 图8

3. CDH支持构建索引方式

HBase二次索引方案 - 图9

  • 批量索引
    • 使用Spark：CDH自带 spark 批量index工具。
    • 使用MapReduce：集成Lily Indexer、自带MR index等工具。

  • 近实时索引（增量场景）

    • 使用Flume近实时（NRT）索引集成Lily NRT Indexer。
    • 基于Solr REST API自定义索引场景。

      4. Solr & HBase二次索引方案

      image.png

      5. ES & HBase二级索引方案

      对于在外部自定义构建二级索引的方式， 有自己的大数据团队的公司一般都会针对自己的业务场景进行优化，自行构建ES/Solr的搜索集群。 例如：**企业内部的百亿级数据全量库，就是基于ES构建海量索引和检索能力的案例。 主要优化点包括：

  • 对企业的索引集群面向的业务场景和模式定制，对通用数据模型进行抽象和平台化复用。

  • 需要针对多业务、多项目场景进行ES集群资源的合理划分和运维管理。
  • 查询需要针对多索引集群、跨集群查询进行优化。
  • 共用集群场景需要做好防护、监控、限流。

基于ES做二级索引的两种构建流程，包含：

  • 增量索引： 日常持续接入的数据源，进行增量的索引更新。
  • 全量索引： 配套基于Spark/MR的批量索引创建/更新程序， 用于初次或重建已有HBase库表的索引。

image.pngimage.png
示例：《基于Redis/HBase & Elasticsearch的热存储Flink维表join方案》。

参考

CSDN：HBase二级索引方案
https://blog.csdn.net/weixin_43892898/article/details/89249322
CSDN：HBase二级索引方案Solr key value index
https://blog.csdn.net/zgjdzwhy/article/details/68059751
CSDN**：CDH HBase使用Solr创建、更新、删除二级索引
https://blog.csdn.net/u010936936/article/details/78064148