相关概念

单机与集群

单台Elasticsearch服务器提供服务,往往都有最大的负载能力,超过这个阈值,服务器性能就会大大降低甚至不可用,所以生产环境中,一般都是运行在指定服务器集群中。
除了负载能力,单点服务器也存在其他问题:

  • 单台机器存储容量有限
  • 单服务器容易出现单点故障,无法实现高可用
  • 单服务的并发处理能力有限

配置服务器集群时,集群中节点数量没有限制,大于等于2个节点就可以看做是集群了。一般出于高性能及高可用方面来考虑集群中节点数量都是3个以上。

集群 Cluster

一个集群就是由一个或多个服务器节点组织在一起,共同持有整个的数据,并一起提供索引和搜索功能。一个Elasticsearch集群有一个唯一的名字标识,这个名字默认就是”elasticsearch”。这个名字是重要的,因为一个节点只能通过指定某个集群的名字,来加入这个集群。

节点 Node

集群中包含很多服务器,一个节点就是其中的一个服务器。作为集群的一部分,它存储数据,参与集群的索引和搜索功能。
一个节点也是由一个名字来标识的,默认情况下,这个名字是一个随机的漫威漫画角色的名字,这个名字会在启动的时候赋予节点。这个名字对于管理工作来说挺重要的,因为在这个管理过程中,你会去确定网络中的哪些服务器对应于Elasticsearch集群中的哪些节点。
一个节点可以通过配置集群名称的方式来加入一个指定的集群。默认情况下,每个节点都会被安排加入到一个叫做“elasticsearch”的集群中,这意味着,如果你在你的网络中启动了若干个节点,并假定它们能够相互发现彼此,它们将会自动地形成并加入到一个叫做“elasticsearch”的集群中。
在一个集群里,只要你想,可以拥有任意多个节点。而且,如果当前你的网络中没有运行任何Elasticsearch节点,这时启动一个节点,会默认创建并加入一个叫做“elasticsearch”的集群。

Windows 集群

部署集群

  • 创建elasticsearch-cluster文件夹,在内部复制三个elasticsearch服务

image.png

  • 修改集群文件目录中每个节点的 config/elasticsearch.yml 配置文件

    elasticsearch-1001

    1. #节点 1 的配置信息:
    2. #集群名称,节点之间要保持一致
    3. cluster.name: my-elasticsearch
    4. #节点名称,集群内要唯一
    5. node.name: elasticsearch-1001
    6. node.master: true
    7. node.data: true
    8. #ip 地址
    9. network.host: localhost
    10. #http 端口
    11. http.port: 1001
    12. #tcp 监听端口
    13. transport.tcp.port: 9301
    14. #discovery.seed_hosts: ["localhost:9301", "localhost:9302","localhost:9303"]
    15. #discovery.zen.fd.ping_timeout: 1m
    16. #discovery.zen.fd.ping_retries: 5
    17. #集群内的可以被选为主节点的节点列表
    18. #cluster.initial_master_nodes: ["node-1", "node-2","node-3"]
    19. #跨域配置
    20. #action.destructive_requires_name: true
    21. http.cors.enabled: true
    22. http.cors.allow-origin: "*"

    elasticsearch-1002

    1. #节点 2 的配置信息:
    2. #集群名称,节点之间要保持一致
    3. cluster.name: my-elasticsearch
    4. #节点名称,集群内要唯一
    5. node.name: elasticsearch-1002
    6. node.master: true
    7. node.data: true
    8. #ip 地址
    9. network.host: localhost
    10. #http 端口
    11. http.port: 1002
    12. #tcp 监听端口
    13. transport.tcp.port: 9302
    14. discovery.seed_hosts: ["localhost:9301"]
    15. discovery.zen.fd.ping_timeout: 1m
    16. discovery.zen.fd.ping_retries: 5
    17. #集群内的可以被选为主节点的节点列表
    18. #cluster.initial_master_nodes: ["node-1", "node-2","node-3"]
    19. #跨域配置
    20. #action.destructive_requires_name: true
    21. http.cors.enabled: true
    22. http.cors.allow-origin: "*"

    elasticsearch-1003

    1. #节点 3 的配置信息:
    2. #集群名称,节点之间要保持一致
    3. cluster.name: my-elasticsearch
    4. #节点名称,集群内要唯一
    5. node.name: elasticsearch-1003
    6. node.master: true
    7. node.data: true
    8. #ip 地址
    9. network.host: localhost
    10. #http 端口
    11. http.port: 1003
    12. #tcp 监听端口
    13. transport.tcp.port: 9303
    14. #候选主节点的地址,在开启服务后可以被选为主节点
    15. discovery.seed_hosts: ["localhost:9301", "localhost:9302"]
    16. discovery.zen.fd.ping_timeout: 1m
    17. discovery.zen.fd.ping_retries: 5
    18. #集群内的可以被选为主节点的节点列表
    19. #cluster.initial_master_nodes: ["node-1", "node-2","node-3"]
    20. #跨域配置
    21. #action.destructive_requires_name: true
    22. http.cors.enabled: true
    23. http.cors.allow-origin: "*"

    启动集群

  1. 启动前先删除每个节点中的 data 目录中所有内容(如果存在)
  2. 分别双击执行 bin/elasticsearch.bat, 启动节点服务器,启动后,会自动加入指定名称的集群

    测试集群

image.png

elasticsearch-1002 节点

image.png

elasticsearch-1003 节点

image.png

  • status 字段指示着当前集群在总体上是否工作正常,它的三种颜色含义如下:

    • green 所有的主分片和副本分片都正常运行
    • yellow 所有的主分片都正常运行,但不是所有的副本分片都正常运行
    • red 有主分片没能正常运行

      elasticsearch-1001添加索引

  • 向集群中的 elasticsearch-1001 节点增加索引

image.png

elasticsearch-1002查询索引

  • 向集群中的 elasticsearch-1002 节点查询索引

image.png

image.png

软件安装

解压软件

  • 将下载的软件解压缩

    1. # 解压缩
    2. tar -zxvf elasticsearch-7.9.3-linux-x86_64.tar.gz
    3. # 改名
    4. mv elasticsearch-7.8.0 es

    创建用户

  • 因为安全问题,Elasticsearch 不允许 root 用户直接运行,所以要创建新用户,在 root 用户中创建新用户
    ``` useradd es #新增 es 用户 passwd es #为 es 用户设置密码 userdel -r es #如果错了,可以删除再加 chown -R es:es /opt/module/es #文件夹所有者,自定义路径

su es #切换账号

  1. <a name="mDu0h"></a>
  2. #### 修改配置文件
  3. - 修改/opt/module/es/config/elasticsearch.yml 文件

加入如下配置

cluster.name: elasticsearch node.name: elasticsearch-1 network.host: 0.0.0.0 http.port: 9200 cluster.initial_master_nodes: [“elasticsearch-1”]

  1. - 修改/etc/security/limits.conf

在文件末尾中增加下面内容

每个进程可以打开的文件数的限制

es soft nofile 65536 es hard nofile 65536

  1. - 修改/etc/security/limits.d/20-nproc.conf

在文件末尾中增加下面内容

每个进程可以打开的文件数的限制

es soft nofile 65536 es hard nofile 65536

操作系统级别对每个用户创建的进程数的限制

  • hard nproc 4096

    注:* 带表 Linux 所有用户名称

    ```
  • 修改/etc/sysctl.conf

    1. # 在文件中增加下面内容
    2. # 一个进程可以拥有的 VMA(虚拟内存区域)的数量,默认值为 65536
    3. vm.max_map_count=655360
  • 重新加载 sysctl -p

    启动软件

  • 使用 ES 用户启动

    1. cd /opt/module/es/
    2. #启动
    3. bin/elasticsearch
    4. #后台启动
    5. bin/elasticsearch -d
  • 启动时,会动态生成文件,如果文件所属用户不匹配,会发生错误,需要重新进行修改用户和用户组

image.png

关闭防火墙

  1. #暂时关闭防火墙
  2. systemctl stop firewalld
  3. #永久关闭防火墙
  4. systemctl enable firewalld.service #打开放货抢永久性生效,重启后不会复原
  5. systemctl disable firewalld.service #关闭防火墙,永久性生效,重启后不会复原

测试软件

4、Elasticsearch 环境 - 图9

Linux 集群

软件下载

image.png

软件安装

解压软件

  • 将下载的软件解压缩

    1. # 解压缩
    2. tar -zxvf elasticsearch-7.9.3-linux-x86_64.tar.gz
    3. # 改名
    4. mv elasticsearch-7.8.0 es
  • 将软件分发到其他节点:elasticsearch-1002, elasticsearch-1003

    创建用户

  • 因为安全问题,Elasticsearch 不允许 root 用户直接运行,所以要创建新用户,在 root 用户中创建新用户
    ``` useradd es #新增 es 用户 passwd es #为 es 用户设置密码 userdel -r es #如果错了,可以删除再加 chown -R es:es /opt/module/es #文件夹所有者,自定义路径

su es #切换账号

  1. <a name="htjjE"></a>
  2. #### 修改配置文件
  3. - 修改/opt/module/es/config/elasticsearch.yml 文件

加入如下配置

集群名称

cluster.name: elasticsearch

节点名称,每个节点的名称不能重复

node.name: elasticsearch-1

ip 地址,每个节点的地址不能重复

network.host: elasticsearch1

是不是有资格主节点

node.master: true node.data: true http.port: 9200

head 插件需要这打开这两个配置

http.cors.allow-origin: “*” http.cors.enabled: true http.max_content_length: 200mb

es7.x 之后新增的配置,初始化一个新的集群时需要此配置来选举 master

cluster.initial_master_nodes: [“elasticsearch-1”]

es7.x 之后新增的配置,节点发现

discovery.seed_hosts: [“elasticsearch1:9300”,”elasticsearch2:9300”,”elasticsearch3:9300”] gateway.recover_after_nodes: 2 network.tcp.keep_alive: true network.tcp.no_delay: true transport.tcp.compress: true

集群内同时启动的数据任务个数,默认是 2 个

cluster.routing.allocation.cluster_concurrent_rebalance: 16

添加或删除节点及负载均衡时并发恢复的线程个数,默认 4 个

cluster.routing.allocation.node_concurrent_recoveries: 16

初始化数据恢复时,并发恢复线程的个数,默认 4 个

cluster.routing.allocation.node_initial_primaries_recoveries: 16

  1. - 修改/etc/security/limits.conf

在文件末尾中增加下面内容

每个进程可以打开的文件数的限制

es soft nofile 65536 es hard nofile 65536

  1. - 修改/etc/security/limits.d/20-nproc.conf

在文件末尾中增加下面内容

每个进程可以打开的文件数的限制

es soft nofile 65536 es hard nofile 65536

操作系统级别对每个用户创建的进程数的限制

  • hard nproc 4096

    注:* 带表 Linux 所有用户名称

    ```
  • 修改/etc/sysctl.conf

    1. # 在文件中增加下面内容
    2. # 一个进程可以拥有的 VMA(虚拟内存区域)的数量,默认值为 65536
    3. vm.max_map_count=655360
  • 重新加载 sysctl -p

    启动软件

  • 使用 ES 用户启动

    1. cd /opt/module/es/
    2. #启动
    3. bin/elasticsearch
    4. #后台启动
    5. bin/elasticsearch -d
  • 启动时,会动态生成文件,如果文件所属用户不匹配,会发生错误,需要重新进行修改用户和用户组

image.png

关闭防火墙

  1. #暂时关闭防火墙
  2. systemctl stop firewalld
  3. #永久关闭防火墙
  4. systemctl enable firewalld.service #打开放货抢永久性生效,重启后不会复原
  5. systemctl disable firewalld.service #关闭防火墙,永久性生效,重启后不会复原

测试软件

4、Elasticsearch 环境 - 图12