我们知道数据是存储在 shard 中的,而 index 会映射一个或者多个 shard 。
那这时候我要存储一条数据到某个索引下,这条数据是在哪个 index 下的呢?
一切按照官方教程使用 三条命令,在本机启动三个节点组装成伪集群。
~ % > ./elasticsearch
~ % > ./elasticsearch -Epath.data=data2 -Epath.logs=log2
~ % > ./elasticsearch -Epath.data=data3 -Epath.logs=log3
创建索引
PUT /items?pretty
{
"settings": {
"number_of_replicas": 2,
"number_of_shards": 3
}
}
#--------------------------------------------
{
"acknowledged" : true,
"shards_acknowledged" : true,
"index" : "items"
}
#--------------------------------------------
当前版本 7.8
文档地址:https://www.elastic.co/guide/en/elasticsearch/reference/current/indices-create-index.html
ES 默认 number_of_shards 为 1, 默认 number_of_replicas 为 1,即一个分片只有一个副本
下面命令可以查看索引信息
GET _cat/indices/items
yellow open items 9N1LLfTaQc2W5i4bDK9N0Q 3 2 0 0 624b 624b
存放数据
POST /items/_doc
{
"name" : "科技美容深度补水",
"price" : 23
}
{
"_index" : "items",
"_type" : "_doc",
"_id" : "Z0uWE3YBcIKM7P9r8uHR",
"_version" : 1,
"result" : "created",
"_shards" : {
"total" : 3,
"successful" : 1,
"failed" : 0
},
"_seq_no" : 0,
"_primary_term" : 1
}
查询数据
GET /items/_doc/Z0uWE3YBcIKM7P9r8uHR
{
"_index" : "items",
"_type" : "_doc",
"_id" : "Z0uWE3YBcIKM7P9r8uHR",
"_version" : 1,
"_seq_no" : 0,
"_primary_term" : 1,
"found" : true,
"_source" : {
"name" : "科技美容深度补水",
"price" : 23
}
}
一条数据该存放在哪个 shard
通过命令可以看出:在存放数据时并没有指定到哪个 shard,那数据是存在哪里的呢?当一条数据进来,会默认会根据 id 做路由
shard = hash(routing) % number_of_primary_shards
从而确定存放在哪个 shard。 routing 默认是 _id, 也可以设置其他。这个 id 可以自己指定也可以系统给生成,如果不指定则会系统自动生成。
PUT 一条数据的过程是什么样的?
写入过程主要如下:
1)客户端选择一个node发送请求过去,这个node就是coordinating node(协调节点)
2)协调节点对document进行路由,将请求转发给对应的node(有primary shard)
3)实际的node上的primary shard处理请求,然后将数据同步到replica node
4)协调节点如果发现primary node和所有replica node都搞定之后,就返回响应结果给客户端
在写操作时,默认情况下,只需要 primary shard 处于活跃状态即可进行操作。
在索引设置时可以设置这个属性 index.write.wait_for_active_shards 默认是 1,即 primary shard 写入成功即可返回。
如果设置为 all 则相当于 number_of_replicas+1 就是 primary shard 数量 + replica shard 数量。 就是需要等待 primary shard 和 replica shard 都写入成功才算成功。
可以通过索引设置动态覆盖此默认设置。
总结
如何查看数据在哪个 shard 上呢?
GET /items/_search_shards?routing=Z0uWE3YBcIKM7P9r8uHR&pretty
{
"nodes" : {
"CAO7En0eQn2in76aHo1lRQ" : {
"name" : "192.168.124.12",
"ephemeral_id" : "l15ZXnXXS1CkU8_H3829ug",
"transport_address" : "127.0.0.1:9300",
"attributes" : { }
}
},
"indices" : {
"items" : { }
},
"shards" : [
[
{
"state" : "STARTED",
"primary" : true,
"node" : "CAO7En0eQn2in76aHo1lRQ",
"relocating_node" : null,
"shard" : 0,
"index" : "items",
"allocation_id" : {
"id" : "yaFLUxJESamHj9G3L0uWYg"
}
}
]
]
}
通过上面命令可以查到数据 Z0uWE3YBcIKM7P9r8uHR 的所在 shard。