elasticsearch的查询依然是基于JSON风格的DSL来实现的

DSL查询分类

Elasticsearch提供了基于JSON的DSL(Domain Specific Language)来定义查询。常见的查询类型包括:

  • 查询所有:查询出所有数据,一般测试用。例如:match_all
  • 全文检索(full text)查询:利用分词器对用户输入内容分词,然后去倒排索引库中匹配。例如:
    • match_query
    • multi_match_query
  • 精确查询:根据精确词条值查找数据,一般是查找keyword、数值、日期、boolean等类型字段。例如:
    • ids
    • range
    • term
  • 地理(geo)查询:根据经纬度查询。例如:
    • geo_distance
    • geo_bounding_box
  • 复合(compound)查询:复合查询可以将上述各种查询条件组合起来,合并查询条件。例如:

    • bool
    • function_score

      查询语法

      1. GET /索引库名/_search
      2. {
      3. "query": {
      4. "查询类型": {
      5. "查询条件": "条件值"
      6. }
      7. }
      8. }

      查询所有

      match_all能查出总数,但是只显示十条,分页了的。
      1. GET /索引库名/_search
      2. {
      3. "query": {
      4. "match_all": {
      5. }
      6. }
      7. }

      全文检索查询

      全文检索查询的基本流程如下:
  • 对用户搜索的内容做分词,得到词条

  • 根据词条去倒排索引库中匹配,得到文档id
  • 根据文档id找到文档,返回给用户

比较常用的场景包括:

  • 淘宝的输入框搜索
  • 百度的输入框搜索

因为是拿着词条去匹配,因此参与搜索的字段也必须是可分词的text类型的字段。

match

单字段查询

  1. GET /索引库名/_search
  2. {
  3. "query": {
  4. "match": {
  5. "字段名": "文本"
  6. }
  7. }
  8. }

image.png :::success all这个字段是copyto组合字段,搜索这个字段,就等于联合搜索多个字段,RestClient操作索引库 :::

multi_match

多字段查询,任意一个字段符合条件就算符合查询条件

  1. GET /索引库名/_search
  2. {
  3. "query": {
  4. "multi_match": {
  5. "query": "文本",
  6. "fields": ["字段1", "字段2"]
  7. }
  8. }
  9. }

image.png :::danger 搜索字段越多,对查询性能影响越大,因此建议采用copy_to,然后单字段查询的方式 :::

精准查询

精确查询一般是查找keyword、数值、日期、boolean等类型字段。所以不会对搜索条件分词。常见的有:

  • term:根据词条精确值查询
  • range:根据值的范围查询

    term

    因为精确查询的字段搜是不分词的字段,因此查询的条件也必须是不分词的词条。查询时,用户输入的内容跟字段完全匹配时才认为符合条件。如果用户输入的内容过多或者过少,反而搜索不到数据。

    1. GET /索引库名/_search
    2. {
    3. "query": {
    4. "term": {
    5. "字段": {
    6. "value": "文本"
    7. }
    8. }
    9. }
    10. }

    image.png

    range

    范围查询,一般应用在对数值类型做范围过滤的时候。比如做价格范围过滤。

    1. GET /索引库名/_search
    2. {
    3. "query": {
    4. "range": {
    5. "字段": {
    6. "gte": 10,
    7. "lte": 20
    8. }
    9. }
    10. }
    11. }

    :::success

  • gte代表大于等于,gt则代表大于

  • lte代表小于等于,lt则代表小于 ::: image.png

    地理查询

    所谓的地理坐标查询,其实就是根据经纬度查询,官方文档:https://www.elastic.co/guide/en/elasticsearch/reference/current/geo-queries.html
    常见的使用场景包括:

  • 搜索我附近的酒店

  • 搜索我附近的出租车
  • 搜索我附近的人

    geo_bounding_box

    矩形范围查询,也就是geo_bounding_box查询,查询坐标落在某个矩形范围的所有文档:
    DKV9HZbVS6.gif
    查询时,需要指定矩形的左上top_left右下bottom_right两个点的坐标,然后画出一个矩形,落在该矩形内的都是符合条件的点。

    1. GET /索引库名/_search
    2. {
    3. "query": {
    4. "geo_bounding_box": {
    5. "坐标字段": {
    6. "top_left": {
    7. "lat": 31.1,
    8. "lon": 121.5
    9. },
    10. "bottom_right": {
    11. "lat": 30.9,
    12. "lon": 121.7
    13. }
    14. }
    15. }
    16. }
    17. }

    :::success

  • top_left:左上点

  • bottom_right:右下点
  • lat:纬度
  • lon:经度 ::: image.png

    geo_distance

    附近查询,也叫做距离查询(geo_distance):查询到指定中心点小于某个距离值的所有文档。
    换句话来说,在地图上找一个点作为圆心,以指定距离为半径,画一个圆,落在圆内的坐标都算符合条件:
    vZrdKAh19C.gif

    1. GET /索引库名/_search
    2. {
    3. "query": {
    4. "geo_distance": {
    5. "distance": "15km",
    6. "坐标字段": "31.21,121.5"
    7. }
    8. }
    9. }

    image.png

    复合查询

    复合(compound)查询:复合查询可以将其它简单查询组合起来,实现更复杂的搜索逻辑。常见的有两种:

  • fuction score:算分函数查询,可以控制文档相关性算分,控制文档排名

  • bool query:布尔查询,利用逻辑关系组合多个其它的查询,实现复杂搜索

    相关性算分

    当我们利用match查询时,文档结果会根据与搜索词条的关联度打分(_score),返回结果时按照分值降序排列。
    例如,我们搜索 “虹桥如家”,结果如下:

    1. [
    2. {
    3. "_score" : 17.850193,
    4. "_source" : {
    5. "name" : "虹桥如家酒店真不错",
    6. }
    7. },
    8. {
    9. "_score" : 12.259849,
    10. "_source" : {
    11. "name" : "外滩如家酒店真不错",
    12. }
    13. },
    14. {
    15. "_score" : 11.91091,
    16. "_source" : {
    17. "name" : "迪士尼如家酒店真不错",
    18. }
    19. }
    20. ]

    在elasticsearch中,早期使用的打分算法是TF-IDF算法,公式如下:
    image-20210721190152134.png
    在后来的5.1版本升级中,elasticsearch将算法改进为BM25算法,公式如下:
    image-20210721190416214.png
    TF-IDF算法有一各缺陷,就是词条频率越高,文档得分也会越高,单个词条对文档影响较大。而BM25则会让单个词条的算分有一个上限,曲线更加平滑:
    image-20210721190907320.png

    function_score算分函数查询

    根据相关度打分是比较合理的需求,但合理的不一定是产品经理需要的。
    以百度为例,你搜索的结果中,并不是相关度越高排名越靠前,而是谁掏的钱多排名就越靠前。
    要想人为控制相关性算分,就需要利用elasticsearch中的function_score 查询了。
    image-20210721191544750.png
    function score的运行流程如下:

  • 1)根据原始条件查询搜索文档,并且计算相关性算分,称为原始算分(query score)

  • 2)根据过滤条件,过滤文档
  • 3)符合过滤条件的文档,基于算分函数运算,得到函数算分(function score)
  • 4)将原始算分(query score)和函数算分(function score)基于运算模式做运算,得到最终结果,作为相关性算分。

测试:
需求:给“如家”这个品牌的酒店排名靠前一些
image.png

bool布尔查询

布尔查询是一个或多个查询子句的组合,每一个子句就是一个子查询。子查询的组合方式有:

  • must:必须匹配每个子查询,类似“与”
  • should:选择性匹配子查询,类似“或”
  • must_not:必须不匹配,不参与算分,类似“非”
  • filter:必须匹配,不参与算分

:::warning 需要注意的是,搜索时,参与打分的字段越多,查询的性能也越差。因此这种多条件查询时,建议这样做:

  • 搜索框的关键字搜索,是全文检索查询,使用must查询,参与算分
  • 其它过滤条件,采用filter查询。不参与算分 :::
    1. GET /索引库名/_search
    2. {
    3. "query": {
    4. "bool": {
    5. "must": [
    6. #子查询“与”
    7. ],
    8. "should": [
    9. #子查询“或”
    10. ],
    11. "must_not": [
    12. #子查询“非”,不算分
    13. ],
    14. "filter": [
    15. #子查询“与”,不算分
    16. ]
    17. }
    18. }
    19. }
    测试
    需求:搜索名字包含“如家”,价格不高于400,在坐标31.21,121.5周围10km范围内的酒店。
    image.png