狂神说ElasitcSearch笔记

ElasticSearch简介

关于这部分,大家可以自己科普一下,有兴趣的,可以去B站UP主:狂神说Java关于ElasitcSearch这个课程的教程

ElasticSearch安装

声明JDK1.8:最低要求

基于Java开发

ElasticSearch的版本和我们之后对应的Java的核心jar包!版本对应!

下载

Windows安装

解压即可

狂神ElatsticSearhch - 图1

目录

  1. bin 启动文件
  2. config 配置文件
  3. log4j2 日志配置文件
  4. jvm.options Java虚拟机相关的配置
  5. elasticsearch.yml elasticsearch配置文件 默认端口(9200 跨域问题!!
  6. lib 相关jar
  7. logs 日志文件
  8. modules 功能模块
  9. plugins 插件
  10. 123456789

启动

访问9200

狂神ElatsticSearhch - 图2

访问测试【返回如下启动正常】

狂神ElatsticSearhch - 图3
说明你的ES已经安装好啦
下面我们来安装可视化界面

安装可视化界面

es head插件

包括一些跨越问题的解决

教程:https://www.cnblogs.com/hts-technology/p/8477258.html

2.启动

  1. npm install
  2. #cnpm install
  3. npm run start
  4. 12

跨域问题解决

D:\ElasticSearch\elasticsearch-7.6.2\config

elasticsearch.yml

注意“:”和值之间的空格

  1. http.cors.enabled: true
  2. http.cors.allow-origin: "*"

狂神ElatsticSearhch - 图4

成功!!!

head插件页面

狂神ElatsticSearhch - 图5
狂神ElatsticSearhch - 图6

把索引当做数据库!(可以建立索引(库),文档(库中的数据))

狂神ElatsticSearhch - 图7

命令在这里写

狂神ElatsticSearhch - 图8

这个head我们就把他当做数据展示工具,我们后面所有的查询在kibana做

ELK介绍

狂神ElatsticSearhch - 图9

数据分析 数据清晰 kibana

拆箱即用

Kibana

安装

官网:https://www.elastic.co/cn/kibana

狂神ElatsticSearhch - 图10

注意

Kibana要和ES版本一致

解压需要时间不短

目录

狂神ElatsticSearhch - 图11

启动

端口:5601

狂神ElatsticSearhch - 图12

访问测试

狂神ElatsticSearhch - 图13

开发工具

Post crul head 谷歌插件测试 Kibana测试

狂神ElatsticSearhch - 图14

我们之后的操作在这里编写

汉化自己修改配置

i18n.locale: “zh-CN”

在这里插入图片描述

ES核心概念

核心概念

在前面的学习中,我们已经掌握了es是什么,同时也把es的服务已经安装启动,那么es是如何去存储数据,数据结构是什么,又是如何实现搜索的呢?我们先来聊聊ElasticSearch的相关概念吧!
集群,节点,索引,类型,文档,分片,映射是什么?

elasticsearch是面向文档关系行数据库 和elasticsearch 客观的对比!

一切都是JSON

Relational DB Elasticsearch
数据库(database) 索引(indices)
表(tables) types (慢慢被弃用)
行(rows) documents
字段(columns) fields

elasticsearch(集群)中可以包含多个索引数据库) ,每个索引中可以包含多个类型(表) ,每个类型下又包含多个文档(行),每个文档中又包含多个字段(列)。

物理设计

elasticsearch在后台把每个索引划分成多个分片,每分分片可以在集群中的不同服务器间迁移
一个人就是一个集群!默认的集群名称就是elaticsearh

狂神ElatsticSearhch - 图15

逻辑设计

一个索引类型中,包含多个文档,比如说文档1 , 文档2。

当我们索引一篇文档时,可以通过这样的一各顺序找到它:索引—类型
—文档ID ,通过这个组合我们就能索引到某个具体的文档。

注意:ID不必是整数,实际上它是个字符串。

文档

相当于我们的一条条数据

  1. user
  2. 1 zhangsan 18
  3. 2 wangwu 18
  4. 123

之前说elasticsearch是面向文档的,那么就意味着索弓|和搜索数据的最小单位是文档, elasticsearch中,文档有几个重要属性:

  • 自我包含,一篇文档同时包含字段和对应的值 ,也就是同时包含key:value !比如,name:wang 他就会帮我们自动去查询name=wang的文章
  • 可以是层次型的,一个文档中包含自文档,复杂的逻辑实体就是这么来的!就是JSON对象,fastjson可以进行自动转换
  • 灵活的结构,文档不依赖预先定义的模式,我们知道关系型数据库中,要提前定义字段才能使用,在elasticsearch中, 对于字段是非常灵活的,有时候,我们可以忽略该字段,或者动态的添加一个新的字段。

尽管我们可以随意的新增或者忽略某个字段,但是,每个字段的类型非常重要,比如一个年龄字段类型,可以是字符串也可以是整形。因为elasticsearch会保存字段和类型之间的映射及其他的设置。这种映射具体到每个映射的每种类型,这也是为什么在elasticsearch中,类型有时候也称为映射类型。

类型

类型是文档的逻辑容器,就像关系型数据库一样,表格是行的容器。类型中对于字段的定义称为映射 ,比如name映射为字符串类型。

我们说文档是无模式的,它们不需要拥有映射中所定义的所有字段,比如新增一个字段 ,那么elasticsearch是怎么做的呢?
elasticsearch会自动的将新字段加入映射,但是这个字段的不确定它是什么类型, elasticsearch就开始猜,如果这个值是18 ,那么elasticsearch会认为它是整形。但是elasticsearch也可能猜不对 ,所以最安全的方式就是提前定义好所需要的映射,这点跟关系型数据库殊途同归了,先定义好字段,然后再使用,别整什么幺蛾子。也就是我们创建数据类型的时候直接规定好我们的映射类型

索引

索引其实就是数据库!

索引是映射类型的容器, elasticsearch中的索引是一个非常大的文档集合。 索引存储了映射类型的字段和其他设置。然后它们被存储到了各个分片上了。我们来研究下分片是如何工作的。

物理设计:节点和分片 如何工作

一个集群至少有一一个节点,而一个节点就是一个elasricsearch进程 ,节点可以有多个索引默认的,如果你创建索引,那么索引将会有个5个分片( primary shard ,又称主分片)构成的,每-一个主分片 会有一个副本( replica shard ,又称复制分片)

狂神ElatsticSearhch - 图16

上图是一个有3个节点的集群,可以看到主分片和对应的复制分片都不会在同- -个节点内,这样有利于某个节点挂掉了,数据也不至于丢失。实际上, 一个分片是一个Lucene索引 , 一个包含倒排索引的文件目录,倒排索引的结构使得elasticsearch在不扫描全部文档的情况下,就能告诉你哪些文档包含特定的关键字。不过,等等,倒排索引是什么鬼?

倒排索引

elasticsearch使用的是一种称为倒排索引的结构 ,采用Lucene倒排索作为底层。这种结构适用于快速的全文搜索,一个索引由文档中所有不重复的列表构成,对于每一个词, 都有一个包含它的文档列表。例如,现在有两个文档,每个文档包含如下内容:

  1. Study every day, good good up to forever#文档1包含的内容
  2. To forever,study every day,good good up #文档2包含的内容
  3. 12

为了创建倒排索引,我们首先要将每个文档拆分成独立的词(或称为词条或者tokens) ,然后创建一个包含所有不重复的词条的排序列表,然后列出每个词条出现在哪个文档:

term doc_1 doc_2
Study ×
To × ×
every
forever
day
study x
good
every
to x
up

现在,我们试图搜索to forever ,只需要查看包含每个词条的文档

term doc_1 doc_2
to x
forever
total 2 1

两个文档都匹配,但是第一个文档比第 二个匹配程度更高。如果没有别的条件,现在,这两个包含关键字的文档都将返回。(分数or权重)
再来看一-个示例,比如我们通过博客标签来搜索博客文章。那么倒排索引列表就是这样的一个结构:

狂神ElatsticSearhch - 图17

如果要搜索含有python标签的文章,那相对于查找所有原始数据而言,查找倒排索引后的数据将会快的多。只需要查看标签这一栏,然后获取相关的文章ID即可。
elasticsearch的索引和Lucene的索引对比

在elasticsearch中,索引(库)这个词被频繁使用,这就是术语的使用。elasticsearch中 ,索引被分为多个分片,每份分片是一个Lucene的索引。

所以一个elasticsearch索引是由多个Lucene索引组成的。别问为什么,谁让elasticsearch使用Lucene作为底层呢!
如无特指,说起索引都是指elasticsearch的索引。
接下来的一切操作都在kibana中Dev Tools下的Console里完成。基础操作!

IK分词器插件

什么是IK分词器

分词:

即把一-段中文或者别的划分成-个个的关键字,我们在搜索时候会把自己的信息进行分词会把数据库中或者索引库中的数据进行分词,然后进行一个匹配操作,默认的中文分词是将每个字看成一个词 ,比如“我爱狂神”会被为“我”爱”“狂”神” ,这显然是不符合要求的,所以我们需要安装中文分词器ik来解决这个问题。
IK提供了两个分词算法: ik smart和ik_max_word ,其中ik smart为最少切分, ik max _word为最细粒度划分!

安装我们的IK分词器,注意版本对应

IK版本 ES版
7.x->主
6.x 6.x
5.x 5.x
1.10.6 2.4.6
1.9.5 2.3.5
1.8.1 2.2.1
1.7.0 2.1.1
1.5.0 2.0.0
1.2.6 1.0.0
1.2.5 0.90.x
1.1.3 0.20.x
1.0.0 0.16.2-> 0.19.0

下载地址:

https://github.com/medcl/elasticsearch-analysis-ik/releases/tag/v7.6.2

然后解压到我们es中的plugins文件夹中,文件夹名字为ik

重启有关我们ElasticSeacher的所有服务

测试IK分词器

使用kibana测试ik_smart

  1. GET _analyze
  2. {
  3. "analyzer": "ik_smart",
  4. "text":"我要看电视剧"
  5. }
  6. 结果
  7. {
  8. "tokens" : [
  9. {
  10. "token" : "我",
  11. "start_offset" : 0,
  12. "end_offset" : 1,
  13. "type" : "CN_CHAR",
  14. "position" : 0
  15. },
  16. {
  17. "token" : "要看",
  18. "start_offset" : 1,
  19. "end_offset" : 3,
  20. "type" : "CN_WORD",
  21. "position" : 1
  22. },
  23. {
  24. "token" : "电视剧",
  25. "start_offset" : 3,
  26. "end_offset" : 6,
  27. "type" : "CN_WORD",
  28. "position" : 2
  29. }
  30. ]
  31. }
  32. 12345678910111213141516171819202122232425262728293031

使用kibana测试ik_max_word

  1. GET _analyze
  2. {
  3. "analyzer": "ik_max_word",
  4. "text":"我要看电视剧"
  5. }
  6. 结果
  7. {
  8. "tokens" : [
  9. {
  10. "token" : "我",
  11. "start_offset" : 0,
  12. "end_offset" : 1,
  13. "type" : "CN_CHAR",
  14. "position" : 0
  15. },
  16. {
  17. "token" : "要看",
  18. "start_offset" : 1,
  19. "end_offset" : 3,
  20. "type" : "CN_WORD",
  21. "position" : 1
  22. },
  23. {
  24. "token" : "看电视",
  25. "start_offset" : 2,
  26. "end_offset" : 5,
  27. "type" : "CN_WORD",
  28. "position" : 2
  29. },
  30. {
  31. "token" : "电视剧",
  32. "start_offset" : 3,
  33. "end_offset" : 6,
  34. "type" : "CN_WORD",
  35. "position" : 3
  36. },
  37. {
  38. "token" : "电视",
  39. "start_offset" : 3,
  40. "end_offset" : 5,
  41. "type" : "CN_WORD",
  42. "position" : 4
  43. },
  44. {
  45. "token" : "剧",
  46. "start_offset" : 5,
  47. "end_offset" : 6,
  48. "type" : "CN_CHAR",
  49. "position" : 5
  50. }
  51. ]
  52. }
  53. 12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152

我们发现换的词不一样,他的结果不一样,因为他有一个词库,词库觉得这是个单词,就拼到一块,不是单词一个一个划分,我们可以多举几个例子!

  1. //我爱狂神说 ik_smart测试 他觉得我爱狂神说,都是单个字
  2. {
  3. "tokens" : [
  4. {
  5. "token" : "我",
  6. "start_offset" : 0,
  7. "end_offset" : 1,
  8. "type" : "CN_CHAR",
  9. "position" : 0
  10. },
  11. {
  12. "token" : "爱",
  13. "start_offset" : 1,
  14. "end_offset" : 2,
  15. "type" : "CN_CHAR",
  16. "position" : 1
  17. },
  18. {
  19. "token" : "狂",
  20. "start_offset" : 2,
  21. "end_offset" : 3,
  22. "type" : "CN_CHAR",
  23. "position" : 2
  24. },
  25. {
  26. "token" : "神",
  27. "start_offset" : 3,
  28. "end_offset" : 4,
  29. "type" : "CN_CHAR",
  30. "position" : 3
  31. },
  32. {
  33. "token" : "说",
  34. "start_offset" : 4,
  35. "end_offset" : 5,
  36. "type" : "CN_CHAR",
  37. "position" : 4
  38. }
  39. ]
  40. }
  41. 要是把爱换成喜欢,就变成了我 喜欢 说,因为是最少切分,他就得喜欢是一个词,就不分开了
  42. 1234567891011121314151617181920212223242526272829303132333435363738394041

问题来了:作为他的粉丝,我不想这个狂神说被分开,就需要增加自己的词到字典中

ik分词器增加自己的配置

在我们的ik分词器的目录下有IKAnalyzer.cfg.xml

里面可以配置我们自己的字典

先编写一个自己的字典,我这里就写了一个kuang.dic,将狂神说当成一个词

然后在我们的IKAnalyzer.cfg.xml中导入我们自己的字典

  1. <!--用户可以在这里配置自己的扩展字典 -->
  2. <entry key="ext_dict">kuang.dic</entry>
  3. 12

重启我们的ES测试

  1. GET _analyze
  2. {
  3. "analyzer": "ik_smart",
  4. "text":"我超级喜欢狂神说"
  5. }
  6. {
  7. "tokens" : [
  8. {
  9. "token" : "我",
  10. "start_offset" : 0,
  11. "end_offset" : 1,
  12. "type" : "CN_CHAR",
  13. "position" : 0
  14. },
  15. {
  16. "token" : "超级",
  17. "start_offset" : 1,
  18. "end_offset" : 3,
  19. "type" : "CN_WORD",
  20. "position" : 1
  21. },
  22. {
  23. "token" : "喜欢",
  24. "start_offset" : 3,
  25. "end_offset" : 5,
  26. "type" : "CN_WORD",
  27. "position" : 2
  28. },
  29. {
  30. "token" : "狂神说",
  31. "start_offset" : 5,
  32. "end_offset" : 8,
  33. "type" : "CN_WORD",
  34. "position" : 3
  35. }
  36. ]
  37. }可以发现我们的狂神说已经成为了一个词,最小切分就不会在切分他了
  38. 1234567891011121314151617181920212223242526272829303132333435363738

过于head的页面,如果不能显示数据,可以参照网上说的修改配置,这个很简单,一搜就能搜到,主要是ES7严格规范了头部信息,还有一种可能是head页面做的比较落后,你的数据有可能在页面中间或者下方藏着,仔细找找

Rest风格

这个就是我们一般的开发规则,这里就不一一赘述了,如果不明白的

,可以搜索其他的博客,这个有很多介绍的,一下就展示我的一些测试例子

狂神ElatsticSearhch - 图18

关于索引的基本操作

创建索引

  1. # put /索引名(数据库名)/类型名(以后会弃用)/文档id
  2. # { 请求体 }
  3. put /test1/type1/1
  4. {
  5. "name":"小狂神",
  6. "age":20
  7. }
  8. #! Deprecation: [types removal] Specifying types in document index requests is deprecated, use the typeless endpoints instead (/{index}/_doc/{id}, /{index}/_doc, or /{index}/_create/{id}).
  9. {
  10. "_index" : "test1", #数据库名字
  11. "_type" : "type1", #类型
  12. "_id" : "1", #文档id
  13. "_version" : 1, #版本没有被修改过
  14. "result" : "created", #创建好了
  15. "_shards" : {
  16. "total" : 2,
  17. "successful" : 1,
  18. "failed" : 0
  19. },
  20. "_seq_no" : 0,
  21. "_primary_term" : 1
  22. }
  23. 12345678910111213141516171819202122232425

狂神ElatsticSearhch - 图19

我们发现已经有了这个数据库

那么以后我们一些常用的就可以在这建立索引,就不需要再去走后台了

建立一个索引(数据库)

  1. PUT /test3
  2. {
  3. "mappings": {
  4. "properties": {
  5. "name":{
  6. "type": "text"
  7. },
  8. "age":{
  9. "type": "long"
  10. },
  11. "birthday":{
  12. "type": "date"
  13. }
  14. }
  15. }
  16. }
  17. {
  18. "acknowledged" : true,
  19. "shards_acknowledged" : true,
  20. "index" : "test3"
  21. }
  22. ###### 查看数据库信息
  23. GET test3
  24. {
  25. "test3" : {
  26. "aliases" : { },
  27. "mappings" : {
  28. "properties" : {
  29. "age" : {
  30. "type" : "long"
  31. },
  32. "birthday" : {
  33. "type" : "date"
  34. },
  35. "name" : {
  36. "type" : "text"
  37. }
  38. }
  39. },
  40. "settings" : {
  41. "index" : {
  42. "creation_date" : "1606996465007",
  43. "number_of_shards" : "1",
  44. "number_of_replicas" : "1",
  45. "uuid" : "36Hoc3O7SvSwfa_f_iAvxw",
  46. "version" : {
  47. "created" : "7060199"
  48. },
  49. "provided_name" : "test3"
  50. }
  51. }
  52. }
  53. }
  54. 12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455

查看默认的信息

  1. PUT /tes2/_doc/1
  2. {
  3. "name":"小狂神",
  4. "age":13,
  5. "birth":"1997-05-12"
  6. }
  7. GET test3
  8. 1234567

狂神ElatsticSearhch - 图20

如果我们的字段没有指定,那么es就会给我们默认配置字段类型

拓展:

  1. # 查看我们的健康值,yellow状态
  2. GET _cat/health
  3. # 查看具体信息(数据库等等)
  4. GET _cat/indices?v
  5. 12345

修改 提交还是使用PUT覆盖

  1. PUT /tes2/_doc/1
  2. {
  3. "name":"狂神123243",
  4. "age":13,
  5. "birth":"1997-05-12"
  6. }
  7. {
  8. "_index" : "tes2",
  9. "_type" : "_doc",
  10. "_id" : "1",
  11. "_version" : 2, #是修改的话,我们的版本+1
  12. "result" : "updated", #状态 修改
  13. "_shards" : {
  14. "total" : 2,
  15. "successful" : 1,
  16. "failed" : 0
  17. },
  18. "_seq_no" : 1,
  19. "_primary_term" : 1
  20. }
  21. 弊端是,如果漏掉一个,那原来的就没了
  22. ####### 改进的方法
  23. POST /tes2/_doc/1/_update
  24. {
  25. "doc":{ #doc表示你要修改的文档
  26. "name":"法外狂徒涛涛"
  27. }
  28. }
  29. {
  30. "_index" : "tes2",
  31. "_type" : "_doc",
  32. "_id" : "1",
  33. "_version" : 3, #再次加一
  34. "result" : "updated", #状态为修改
  35. "_shards" : {
  36. "total" : 2,
  37. "successful" : 1,
  38. "failed" : 0
  39. },
  40. "_seq_no" : 2,
  41. "_primary_term" : 1
  42. }
  43. 123456789101112131415161718192021222324252627282930313233343536373839404142434445

删除

  1. DELETE tes1 #删除test1索引
  2. #我们的返回信息
  3. {
  4. "acknowledged" : true
  5. }
  6. 再去我们的head看,我们的test1索引(数据库)没了
  7. DELETE tes2/_doc/1 #删除tes2索引下的文档编号为1的数据
  8. 12345678

通过DELETE命令实现删除、根据你的请求来判断是 删除索引还是删除文档记录!

关于文档的基本操作

基本操作

模拟创建数据

  1. PUT /wang/user/1
  2. {
  3. "name":"小王",
  4. "age":23,
  5. "desc":"一顿操作猛如虎,一看工资2500",
  6. "tags":["技术宅","帅气","宅男"]
  7. }
  8. PUT /wang/user/2
  9. {
  10. "name":"法外狂徒涛涛",
  11. "age":13,
  12. "desc":"法外狂徒",
  13. "tags":["技术宅","打游戏","渣男"]
  14. }
  15. PUT /wang/user/3
  16. {
  17. "name":"上海名媛fww",
  18. "age":20,
  19. "desc":"上海名媛",
  20. "tags":["靓女","名媛","渣女"]
  21. }
  22. PUT /wang/user/4
  23. {
  24. "name":"小王学长",
  25. "age":23,
  26. "desc":"一顿操作猛如虎,一看工资2500",
  27. "tags":["技术宅","帅气","宅男"]
  28. }
  29. PUT /wang/user/5
  30. {
  31. "name":"王公子",
  32. "age":23,
  33. "desc":"一顿操作猛如虎,一看工资2500",
  34. "tags":["技术宅","帅气","宅男"]
  35. }
  36. 123456789101112131415161718192021222324252627282930313233343536

查询数据

  1. GET wang/user/1
  2. ######## 结果
  3. {
  4. "_index" : "wang",
  5. "_type" : "user",
  6. "_id" : "1",
  7. "_version" : 3,
  8. "_seq_no" : 2,
  9. "_primary_term" : 1,
  10. "found" : true,
  11. "_source" : {
  12. "name" : "小王",
  13. "age" : 23,
  14. "desc" : "一顿操作猛如虎,一看工资2500",
  15. "tags" : [
  16. "技术宅",
  17. "帅气",
  18. "宅男"
  19. ]
  20. }
  21. }
  22. ###这两个不再展示
  23. GET wang/user/2
  24. GET wang/user/3
  25. ################################################################## 更新数据
  26. PUT /wang/user/3
  27. {
  28. "name":"上海名媛婉儿",
  29. "age":20,
  30. "desc":"上海名媛",
  31. "tags":["靓女","名媛","渣女"]
  32. }
  33. ### 更推荐下面的更新方式
  34. ### put不传值的地方被空值覆盖,使用_update可以避免
  35. POST wang/user/1/_update
  36. {
  37. "doc":{
  38. "name":"小王同学"
  39. }
  40. }
  41. 12345678910111213141516171819202122232425262728293031323334353637383940

简单搜索

  1. ################################################################### 根据默认的映射规则,使用基本的查询
  2. GET wang/user/_search?q=name:小王同学 (小王也能搜出来)
  3. 12

狂神ElatsticSearhch - 图21

复杂操作

排序,分页,高亮,模糊查询,精准查询

实例

我们的查询的参数体是json数据

  1. ################################################################ name包含小王的文档
  2. GET wang/user/_search
  3. {
  4. "query": {
  5. "match": {
  6. "name": "小王"
  7. }
  8. }
  9. }
  10. ######### 结果
  11. {
  12. "took" : 411,
  13. "timed_out" : false,
  14. "_shards" : {
  15. "total" : 1,
  16. "successful" : 1,
  17. "skipped" : 0,
  18. "failed" : 0
  19. },
  20. "hits" : { ##在java中对应我们的对象
  21. "total" : { #总量
  22. "value" : 3,
  23. "relation" : "eq"
  24. },
  25. "max_score" : 1.494195, ##最大分值是谁 我们可以根据
  26. "hits" : [ ## 分数来排序谁最复合
  27. {
  28. "_index" : "wang",
  29. "_type" : "user",
  30. "_id" : "1",
  31. "_score" : 1.494195,
  32. "_source" : {
  33. "name" : "小王同学",
  34. "age" : 23,
  35. "desc" : "一顿操作猛如虎,一看工资2500",
  36. "tags" : [
  37. "技术宅",
  38. "帅气",
  39. "宅男"
  40. ]
  41. }
  42. },
  43. {
  44. "_index" : "wang",
  45. "_type" : "user",
  46. "_id" : "4",
  47. "_score" : 1.494195,
  48. "_source" : {
  49. "name" : "小王学长",
  50. "age" : 23,
  51. "desc" : "一顿操作猛如虎,一看工资2500",
  52. "tags" : [
  53. "技术宅",
  54. "帅气",
  55. "宅男"
  56. ]
  57. }
  58. },
  59. {
  60. "_index" : "wang",
  61. "_type" : "user",
  62. "_id" : "5",
  63. "_score" : 0.6284153, #但是对应的他的分值较低
  64. "_source" : {
  65. "name" : "王公子", #不带小的也能查询出来
  66. "age" : 23,
  67. "desc" : "一顿操作猛如虎,一看工资2500",
  68. "tags" : [
  69. "技术宅",
  70. "帅气",
  71. "宅男"
  72. ]
  73. }
  74. }
  75. ]
  76. }
  77. }
  78. ## 我输出结果不想要那么多怎么做
  79. GET wang/user/_search
  80. {
  81. "query": {
  82. "match": {
  83. "name": "小王"
  84. }
  85. },
  86. "_source": ["name","desc"] # 结果过滤,只显示我们规定的
  87. } # 运行结果我就不贴代码了
  88. ###############################################################
  89. GET wang/user/_search
  90. {
  91. "query": {
  92. "match": {
  93. "name": "小王"
  94. }
  95. },
  96. "sort": [ ### 根据我们的age年龄排序
  97. {
  98. "age": { # asc升序排序
  99. "order": "asc" #desc降序排序
  100. }
  101. }
  102. ]
  103. }
  104. ###############################################################
  105. GET wang/user/_search
  106. {
  107. "query": {
  108. "match": {
  109. "name": "小王"
  110. }
  111. },
  112. "sort": [
  113. {
  114. "age": {
  115. "order": "asc"
  116. }
  117. }
  118. ],
  119. "from": 0, ### 从第几个数据开始
  120. "size": 2 ### 返回多少个数据(单页面的数据)
  121. }
  122. ### 数据下标还是从0开始的

布尔值查询

  1. ############################################################### 多条件精确查询
  2. GET wang/user/_search
  3. {
  4. "query": {
  5. "bool": {
  6. "must": [ #must(and) 必须都满足,所有条件都要符合
  7. {
  8. "match": {
  9. "name": "小王"
  10. }
  11. },
  12. {
  13. "match": {
  14. "age": 23
  15. }
  16. }
  17. ]
  18. }
  19. }
  20. }
  21. ################################################################## 模糊查询
  22. GET wang/user/_search
  23. {
  24. "query": {
  25. "bool": {
  26. "should": [ #相当于or 满足其一即可
  27. {
  28. "match": {
  29. "name": "小王"
  30. }
  31. },
  32. {
  33. "match": {
  34. "age": 23
  35. }
  36. }
  37. ]
  38. }
  39. }
  40. }
  41. ################################################################## not 查询年龄不是23的人
  42. GET wang/user/_search
  43. {
  44. "query": {
  45. "bool": {
  46. "must_not": [
  47. {
  48. "match": {
  49. "age": 23
  50. }
  51. }
  52. ]
  53. }
  54. }
  55. }

  1. ############################################################### 多条件精确查询
  2. GET wang/user/_search
  3. {
  4. "query": {
  5. "bool": {
  6. "must": [ #must(and) 必须都满足,所有条件都要符合
  7. {
  8. "match": {
  9. "name": "小王"
  10. }
  11. },
  12. {
  13. "match": {
  14. "age": 23
  15. }
  16. }
  17. ]
  18. }
  19. }
  20. }
  21. ################################################################## 模糊查询
  22. GET wang/user/_search
  23. {
  24. "query": {
  25. "bool": {
  26. "should": [ #相当于or 满足其一即可
  27. {
  28. "match": {
  29. "name": "小王"
  30. }
  31. },
  32. {
  33. "match": {
  34. "age": 23
  35. }
  36. }
  37. ]
  38. }
  39. }
  40. }
  41. ################################################################## not 查询年龄不是23的人
  42. GET wang/user/_search
  43. {
  44. "query": {
  45. "bool": {
  46. "must_not": [
  47. {
  48. "match": {
  49. "age": 23
  50. }
  51. }
  52. ]
  53. }
  54. }
  55. }
  56. 12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455

ElasticSearch学习笔记(二)

小Wang_start 2020-12-04 21:23:56 狂神ElatsticSearhch - 图22 28 狂神ElatsticSearhch - 图23 收藏 1

  1. ################################################################## 查询名字中有王 过滤 筛选中age>10岁的
  2. GET wang/user/_search
  3. {
  4. "query": {
  5. "bool": {
  6. "must": [
  7. {
  8. "match": {
  9. "name": "王"
  10. }
  11. }
  12. ],
  13. "filter": {
  14. "range": {
  15. "age": {
  16. "gt": 10
  17. }
  18. }
  19. }
  20. }
  21. }
  22. }
  23. #### gt大于 gte大于等于 lt小于 lte小于等于
  24. GET wang/user/_search
  25. {
  26. "query": {
  27. "bool": {
  28. "must": [
  29. {
  30. "match": {
  31. "name": "王"
  32. }
  33. }
  34. ],
  35. "filter": {
  36. "range": {
  37. "age": {
  38. "gte": 10, #大于等于10
  39. "lt": 26 #小于26
  40. }
  41. }
  42. }
  43. }
  44. }
  45. }
  46. 123456789101112131415161718192021222324252627282930313233343536373839404142434445

匹配多个搜索条件

  1. ################################################################### 多个条件查询
  2. #### 含有渣的都会被搜索出来,只要满足一个结果就可以查出来
  3. ### 渣男渣女都能查出来 两个都符合 分数比较高,权重高
  4. ### 多个条件 空格隔开
  5. GET wang/user/_search
  6. {
  7. "query": {
  8. "match": {
  9. "tags": "渣 技术"
  10. }
  11. }
  12. }
  13. 123456789101112

精确查询

term查询是直接通过倒排索引指定的词条进程精确查找的

关于分词:

  • 直接查询精确的
  • match 会使用分词器去解析(先分析文档,然后在通过分析的文档进行查询)

那我们要了解我们有两个类型的数据是text,keyword

怎么理解呢

  1. ################################################################### 创建索引数据库
  2. PUT testdb
  3. {
  4. "mappings":{
  5. "properties": {
  6. "name":{
  7. "type": "text" #nametext类型
  8. },
  9. "desc":{
  10. "type":"keyword" #desckeyword类型
  11. }
  12. }
  13. }
  14. }
  15. ############# 存放数据
  16. PUT testdb/_doc/1
  17. {
  18. "name":"狂神说Java name",
  19. "desc":"狂神说Java desc"
  20. }
  21. PUT testdb/_doc/2
  22. {
  23. "name":"狂神说Java name",
  24. "desc":"狂神说Java desc2"
  25. }
  26. ######## 查找
  27. GET _analyze
  28. {
  29. "analyzer": "keyword",
  30. "text": "狂神说Java name" #如果是keyword,就不会拆分
  31. }
  32. GET _analyze
  33. {
  34. "analyzer":"standard", #普通类型则会拆分 被拆分成了一个个字
  35. "text": "狂神说Java name"
  36. }
  37. ######## 复杂查询测试
  38. GET testdb/_search
  39. {
  40. "query": {
  41. "term": {
  42. "name": "狂"
  43. }
  44. }
  45. } ### 结果会被查询出来,因为上面的nametext类型,会被分 词器解析,只要包含这个字,就能查出来
  46. # desckeyword 那我搜他的子句能搜到么
  47. GET testdb/_search
  48. {
  49. "query": {
  50. "term": {
  51. "desc": "狂神说Java desc"
  52. }
  53. }
  54. } ##只有1条数据出来了 狂神说Java desc2 没有被查出来
  55. 12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455

因此得出我们的结论,类型为keyword的字段是不会被分词器解析的

多个值匹配的精确查询

  1. ###### 构造数据
  2. PUT testdb/_doc/3
  3. {
  4. "t1":"22",
  5. "t2":"2020-12-04"
  6. }
  7. PUT testdb/_doc/4
  8. {
  9. "t1":"33",
  10. "t2":"2019-12-04"
  11. }
  12. ##### 多条件精确查询
  13. GET testdb/_search
  14. {
  15. "query": {
  16. "bool": {
  17. "should": [ #有
  18. {
  19. "term": {
  20. "t1":"22"
  21. }
  22. },
  23. {
  24. "term": {
  25. "t1":"33"
  26. }
  27. }
  28. ]
  29. }
  30. }
  31. }
  32. 22 33都能被查出来 精确查询t1=22 33的文档
  33. 1234567891011121314151617181920212223242526272829303132

高亮查询

  1. ########## 高亮显示
  2. GET wang/user/_search
  3. {
  4. "query": {
  5. "match": {
  6. "name": "小王"
  7. }
  8. },
  9. "highlight": {
  10. "fields": {
  11. "name":{
  12. }
  13. }
  14. }
  15. }
  16. ########## 展示部分结果
  17. "hits" : [
  18. {
  19. "_index" : "wang",
  20. "_type" : "user",
  21. "_id" : "1",
  22. "_score" : 1.8534994,
  23. "_source" : {
  24. "name" : "小王同学",
  25. "age" : 23,
  26. "desc" : "一顿操作猛如虎,一看工资2500",
  27. "tags" : [
  28. "技术宅",
  29. "帅气",
  30. "宅男"
  31. ]
  32. },
  33. "highlight" : {
  34. "name" : [
  35. "<em>小</em><em>王</em>同学" #高亮被em包裹起来
  36. ]
  37. }
  38. 12345678910111213141516171819202122232425262728293031323334353637

我想自己设置高亮怎么做

上述代码改进

  1. ###### 自定义高亮条件
  2. GET wang/user/_search
  3. {
  4. "query": {
  5. "match": {
  6. "name": "小王"
  7. }
  8. },
  9. "highlight": {
  10. "pre_tags": "<p class='key' style='color:red'>",
  11. "post_tags": "</p>",
  12. "fields": {
  13. "name":{
  14. }
  15. }
  16. }
  17. }
  18. ###### 部分结果
  19. "_index" : "wang",
  20. "_type" : "user",
  21. "_id" : "1",
  22. "_score" : 1.8534994,
  23. "_source" : {
  24. "name" : "小王同学",
  25. "age" : 23,
  26. "desc" : "一顿操作猛如虎,一看工资2500",
  27. "tags" : [
  28. "技术宅",
  29. "帅气",
  30. "宅男"
  31. ]
  32. },
  33. "highlight" : {
  34. "name" : [
  35. "<p class='key' style='color:red'>小</p><p class='key' style='color:red'>王</p>同学" #已被包裹
  36. ]
  37. }
  38. 12345678910111213141516171819202122232425262728293031323334353637

Spring Boot集成

导入依赖 原生依赖

  1. <dependency>
  2. <groupId> org.elasticsearch.client </ groupId>
  3. <artifactId > elasticsearch -rest-high-level-client </ artifactId>
  4. <version> 7.6.2 </ version>
  5. </dependency>

初始化 对象

  1. //第一步 构建一个RestHighLevelClient
  2. RestHighLevelClient client = new RestHighLevelClient(
  3. RestClient.builder(
  4. new HttpHost("localhost", 9200, "http"),
  5. new HttpHost("localhost", 9201, "http")));
  6. //单机即new HttpHost一个就行
  7. //用完一定要关闭
  8. client.close();
  9. 12345678

配置基本项目

一定要保证我们导入的版本和我们的ES版本一致

  1. <properties>
  2. <java.version>1.8</java.version>
  3. <!-- 自定义版本依赖-->
  4. <elasticsearch.version>7.6.1</elasticsearch.version>
  5. </properties>

关于索引的API操作

  1. @SpringBootTest
  2. class WangEsApiApplicationTests {
  3. @Autowired
  4. private RestHighLevelClient restHighLevelClient;
  5. /// 索引相关操作
  6. //测试索引的创建 Request
  7. @Test
  8. void testCreateIndex() throws IOException {
  9. //1.创建索引请求
  10. CreateIndexRequest request = new CreateIndexRequest("wang_index");
  11. //2.执行创建请求
  12. CreateIndexResponse createIndexResponse = restHighLevelClient.indices().create(request, RequestOptions.DEFAULT);
  13. System.out.println(createIndexResponse);
  14. //我们的head会出现wang_index索引库
  15. }
  16. //测试是否存在索引库 只能判断存不存在
  17. @Test
  18. void testExitstIndex() throws IOException {
  19. GetIndexRequest request = new GetIndexRequest("wang_index");
  20. boolean exists = restHighLevelClient.indices().exists(request,RequestOptions.DEFAULT);
  21. System.out.println(exists);
  22. }
  23. //删除索引
  24. void testDeleteIndex() throws IOException {
  25. DeleteIndexRequest deleteIndexRequest = new DeleteIndexRequest("wang_index");
  26. AcknowledgedResponse delete = restHighLevelClient.indices().delete(deleteIndexRequest, RequestOptions.DEFAULT);
  27. System.out.println(delete.isAcknowledged());
  28. //结果显示true代表成功删除
  29. }
  30. }
  31. 123456789101112131415161718192021222324252627282930313233

关于文档的操作

  1. //模拟实体类
  2. @Data
  3. @AllArgsConstructor
  4. @NoArgsConstructor
  5. @Component
  6. public class User {
  7. private String name;
  8. private int age;
  9. }
  10. / 测试文档操作
  11. @Test
  12. //测试添加文档
  13. void testAddDocument() throws IOException {
  14. //创建对象
  15. User user = new User("小王同学",3);
  16. //创建请求
  17. IndexRequest request = new IndexRequest("wang_index");
  18. //指定我们的规则
  19. request.id("1");
  20. request.timeout(TimeValue.timeValueSeconds(1));
  21. request.timeout("1s");
  22. //将我们的数据放入请求
  23. request.source(JSON.toJSONString(user), XContentType.JSON);
  24. //客户端发送请求
  25. IndexResponse indexResponse = restHighLevelClient.index(request, RequestOptions.DEFAULT);
  26. System.out.println(indexResponse.toString());
  27. System.out.println(indexResponse.status());
  28. }
  29. //测试文档是否存在
  30. @Test
  31. void testIsExists() throws IOException {
  32. GetRequest getRequest = new GetRequest("wang_index","1");
  33. //不获取返回的_source的上下文
  34. getRequest.fetchSourceContext(new FetchSourceContext(false));
  35. boolean exists = restHighLevelClient.exists(getRequest, RequestOptions.DEFAULT);
  36. System.out.println(exists);// 返回True
  37. }
  38. @Test
  39. //测试获取文档
  40. void testGetDocument() throws IOException {
  41. GetRequest getRequest = new GetRequest("wang_index", "1");
  42. GetResponse documentFields = restHighLevelClient.get(getRequest, RequestOptions.DEFAULT);
  43. System.out.println(documentFields.getSourceAsString());
  44. System.out.println(documentFields);//这里打印的全部内容跟我们的命令是一样的
  45. }
  46. @Test
  47. //测试update文档
  48. void update() throws IOException {
  49. UpdateRequest request = new UpdateRequest("wang_index", "1");
  50. request.timeout("1s");
  51. User user = new User("王公子", 18);
  52. request.doc(JSON.toJSONString(user),XContentType.JSON);
  53. UpdateResponse update = restHighLevelClient.update(request, RequestOptions.DEFAULT);
  54. System.out.println(update.status());
  55. System.out.println(update.toString());
  56. }
  57. @Test
  58. //测试删除文档
  59. void testDelete() throws IOException {
  60. DeleteRequest request = new DeleteRequest("wang_index", "1");
  61. request.timeout("1s");
  62. DeleteResponse delete = restHighLevelClient.delete(request, RequestOptions.DEFAULT);
  63. System.out.println(delete.status());
  64. System.out.println(delete.toString());
  65. }
  66. 1234567891011121314151617181920212223242526272829303132333435363738394041424344454647484950515253545556575859606162636465

测试大批量放入请求

  1. @Test
  2. //批量导入数据
  3. void
  4. testBulkRequest() throws IOException {
  5. BulkRequest bulkRequest = new BulkRequest();
  6. bulkRequest.timeout("10s");
  7. ArrayList<User> users = new ArrayList<>();
  8. users.add(new User("wang",12));
  9. users.add(new User("王",43));
  10. users.add(new User("涛",33));
  11. users.add(new User("涛涛",13));
  12. users.add(new User("诸葛",53));
  13. users.add(new User("猪哥",13));
  14. users.add(new User("涛1",43));
  15. users.add(new User("小王2",33));
  16. users.add(new User("wang1",23));
  17. users.add(new User("wang2",33));
  18. users.add(new User("wang3",93));
  19. for (int i = 0; i <users.size() ; i++) {
  20. bulkRequest.add(
  21. new IndexRequest("wang_index")
  22. .id(""+(i+1)) //不写id的话我们会生成随机的id
  23. .source(JSON.toJSONString(users.get(i)),XContentType.JSON));
  24. }
  25. BulkResponse bulk = restHighLevelClient.bulk(bulkRequest, RequestOptions.DEFAULT);
  26. System.out.println(bulk.hasFailures());//测试是否失败
  27. }
  28. @Test
  29. //测试查询
  30. //SearchRequest 搜索请求
  31. //SearchSourceBuilder 搜索条件构造
  32. //HighlightBuilder 构建高亮
  33. // TermQueryBuilder 精确查询构造
  34. //MatchAllQueryBuilder 全部条件构造
  35. //xxxxQueryBuilder 对应我们看到的所有命令
  36. void testSelect() throws IOException {
  37. SearchRequest request = new SearchRequest("wang_index");
  38. //构建搜索条件
  39. SearchSourceBuilder searchSourceBuilder = new SearchSourceBuilder();
  40. //查询条件,我们可以使用QueryBuilders工具类来实现
  41. //QueryBuilders.termQuery精确匹配
  42. //QueryBuilders.matchAllQuery()查询所有
  43. TermQueryBuilder termQueryBuilder = QueryBuilders.termQuery("name","涛");
  44. searchSourceBuilder.query(termQueryBuilder);
  45. //设置分页
  46. searchSourceBuilder.from(0);
  47. searchSourceBuilder.size(3);
  48. searchSourceBuilder.timeout(new TimeValue(60, TimeUnit.SECONDS));
  49. request.source(searchSourceBuilder);
  50. SearchResponse search = restHighLevelClient.search(request, RequestOptions.DEFAULT);
  51. System.out.println(JSON.toJSONString(search.getHits()));
  52. //遍历
  53. for (SearchHit documentFields : search.getHits().getHits()) {
  54. System.out.println(documentFields);
  55. }
  56. }