1.副本 Unassigned shard问题处理

  1. #查看异常shard信息
  2. curl -XGET localhost:9200/_cat/shards?h=index,shard,prirep,state,unassigned.reason| grep UNASSIGNED
  4. #单分片重新路由分片
  5. curl -XPOST 'localhost:9200/_cluster/reroute?retry_failed=true' -d '{
  6.      "commands": [{
  7.             "allocate_replica": {
  8.                 "index": "index-name",
  9.                 "shard": shard-id,
  10.                 "node": "node-name"
  11.            }
  12.         }
  13.     ]
  14.  }'

批量处理脚本，代码参考

  2. #!/bin/bash
  3. #用于处理unassigned shard，副本分片因为
  4. #ALLOCATE_FAILE、超过重传次数而分配失败
  5. #
  6. #
  7. NODE="10.116.106.2:9301"
  8. IFS=$'\n'
  9. for line in $(curl -s '10.116.106.1:9200/_cat/shards' | fgrep UNASSIGNED); do
  10.   echo $line
  11.   INDEX=$(echo $line | (awk '{print $1}'))
  12.   SHARD=$(echo $line | (awk '{print $2}'))
  13.   curl -XPOST '10.116.106.1:9200/_cluster/reroute'?retry_failed -d '{
  14.      "commands": [
  15.         {
  16.             "allocate_replica": {
  17.                 "index": "'$INDEX'",
  18.                 "shard": '$SHARD',
  19.                 "node": "'$NODE'"
  20.            }
  21.         }
  22.     ]
  23.   }'
  24. done

2.reindex API

用于重建索引，或者迁移集群数据
跨集群reindex需要增加配置项
reindex.remote.whitelist: “otherhost:9200, another:9200, 127.0.10.:9200, localhost:“
代码示例：

  1. curl -XPOST http://localhost:9200/_reindex?pretty -d '
  2. {
  3.     "source": {
  4.         #批次大小
  5.         "size": 10000,
  6.         "index": "index-name"
  7.      }, 
  8.      "dest": {
  9.          "index": "index-name-bak"
  10.      }
  11. }' &
  13. #reindex remote cluster
  14. curl -XPOST http://localhost:9200/_reindex?pretty -d '
  15. {
  16.     "source": {
  17.         "size": 5000,
  18.         "remote": {
  19.             "host": "http://remote-cluster-ip:9200"
  20.         }, 
  21.         "index": "index-name"
  22.      }, 
  23.      "dest": {
  24.          "index": "index-name-bak"
  25.      }
  26. }' &

提升reindex性能的配置：

  • 临时关闭刷新间隔

    1. curl -X PUT "http://localhost:9200/_cluster/settings" -d'
    2. { 
    3. "transient" : { 
    4.   "refresh_interval" :  -1
    5. } 
    6. }'

  • 关闭索引副本

    1. curl -XPUT localhost:9200/index-name/_settings?pretty -d '
    2. {
    3. "index" : {
    4.   "number_of_replicas" : "1"
    5. }
    6. }'

3.ES节点维护指南

一般使用方案二的方法

  • 方案一 ```bash

1.修改配置或者执行维护 2.关闭重平衡 curl -XPUT “http://10.116.106.35:9200/_cluster/settings“ -d’ { “transient” : { “cluster.routing.allocation.enable” : “none” } }’ 执行一次流同步(可选) 加速recovery POST _flush/synced 3.重启节点 4.开启重平衡 curl -XPUT “http://10.116.106.35:9200/_cluster/settings“ -d’ { “transient” : { “cluster.routing.allocation.enable” : “all” } }’ 5.确认集群恢复到green状态后，重复2-4步骤

  2. - 方案二
  3. ```bash
  5. 1.执行动态exclude配置，迁移待维护节点数据
  6. curl -X PUT "http://localhost:9200/_cluster/settings" -d'
  7. { 
  8.   "transient" : { 
  9.     "cluster.routing.allocation.exclude._ip" : "node-ip" 
  10.   } 
  11. }'
  12. 注：exclude支持_ip，_name,并且支持通配符
  13. 2.等待数据迁移完成
  14. 3.维护完成后重启节点
  15. 4.重新均衡数据
  16. curl -X PUT "http://localhost:9200/_cluster/settings" -d'
  17. { 
  18.   "transient" : { 
  19.     "cluster.routing.allocation.exclude._ip" : "" 
  20.   } 
  21. }'

4.forcemerge

forcemerge对于集群的优化及长期稳定，起到很重要的作用。
用法：

  1. forcemerge
  2. 参数
  3. max_num_segments     1为full merge
  4. only_expunge_deletes    只合并删除的文档
  5. flush                 完成后进行flush操作
  7. 示例：
  8. curl -XPOST localhost:9200/index/_forcemerge?only_expunge_deletes=ture
  9. 注：对于热索引，请谨慎使用

5.关闭、打开索引

  1. post index-name/_close
  2. post index-name/_open

6.迁移分片

迁移分片，对于负载不均衡等场景有效果
示例：

  1. curl -XPOST 'http://localhost:9200/_cluster/reroute' -d '
  2. { 
  3.   "commands":[{ 
  4.     "move":{ 
  5.       "index":"logsfim", 
  6.       "shard":0, 
  7.       "from_node":"page-node1", 
  8.       "to_node":"page-node2" 
  9.     } 
  10.   }] 
  11. }'