MongoDB

一、MongoDB 集群简介

MongoDB是一个基于分布式文件存储的数据库，其目的在于为WEB应用提供可扩展的高性能数据存储解决方案。下面将以3台机器介绍最常见的集群方案。具体介绍。可以查看官网
https://docs.mongodb.com/v3.4/introduction/

1、集群组件的介绍

mongos（路由处理）：

作为Client与MongoDB集群的请求入口，所有用户请求都会透过Mongos协调，它会将数据请求发到对应的Shard(mongod)服务器上，再将数据合并后回传给用户。

config server（配置节点）：

即：配置服务器；主要保存数据库的元数据，包含数据的分布(分片)以及数据结构，mongos收到client发出的需求后，会从config server加载配置信息并缓存于内存中。
一般在生产环境会配置不只一台config server，因为它保存的元数据极为重要，若损坏则影响整个集群运作。

shard（分片实例存储数据）：

shard就是分片。MongoDB利用分片的机制来实现数据分布存储与处理，达到横向扩容的目的。默认情况下，数据在分片之间会自动进行移转，以达到平衡，此动作是靠一个叫平衡器(balancer)的机制达成。

replica set（副本集）：

副本集实现了数据库高可用，若没做副本集，则一旦存放数据的服务器节点挂掉，数据就丢失了，相反若配置了副本集，则同样的数据会保存在副本服务器中(副本节点)，一般副本集包含了一个主节点与多个副本节点，必要时还会配置arbiter(仲裁结点)作为节点挂掉时投票用。

arbiter（仲裁节点）：

仲裁服务器本身不包含数据，仅能在主节点故障时，检测所有副本服务器并选举出新的主节点，其实现方式是通过主节点、副本节点、仲裁服务器之间的心跳(Heart beat)实现。

2、MongoDB应用场景

  • 网站数据：适合实时的插入，更新与查询，并具备网站实时数据存储所需的复制及高度伸缩性。
  • 缓存：由于性能很高，也适合作为信息基础设施的缓存层。在系统重启之后，搭建的持久化缓存可以避免下层的数据源过载。
  • 大尺寸、低价值的数据：使用传统的关系数据库存储一些数据时可能会比较贵，在此之前，很多程序员往往会选择传统的文件进行存储。
  • 高伸缩性的场景：非常适合由数十或者数百台服务器组成的数据库。

  • 用于对象及JSON数据的存储：MongoDB的BSON数据格式非常适合文档格式化的存储及查询。

    3、选用MongoDB的缘由

    选用MongoDB的数据是以BSON的数据格式，高度伸缩方便扩展，并且数据水平扩展非常简单，支持海量数据存储，性能强悍。

    二、集群的监测

    1、监测数据库存储统计信息

    docker中进入mongos或shard实例，执行以下命令：

    1. docker exec -it mongos bash;
    2. mongo --port 20001;
    3. use admin;
    4. db.auth("root","XXX");

    说明：通过此命令，可以查询集群的成员的集合数量、索引数量等相关数据。

    1. db.stats();

    2、查看数据库的统计信息

    说明：通过此命令，可以查看操作数量、内存使用状况、网络io等

    1. db.runCommand( { serverStatus: 1 } )；

    3、检查复制集成员状态

    1. rs.status()；

    三、基本的运维操作

    1、设置和查看慢查询

    1. # 设置慢查询
    2. db.setProfilingLevel(1,200);
    3. # 查看慢查询级别
    4. db.getProfilingLevel();
    5. # 查询慢查询日志，此命令是针对于某一库进行设置
    6. db.system.profile.find({ ns : 'dbName.collectionName'}).limit(10).sort( { ts : -1 } ).pretty();

    2、查看执行操作时间较长的动作

    1. db.currentOp({"active" : true,"secs_running" : { "$gt" : 2000 }});

    3、动态调整日志级别和设置缓存大小

    1. # 设置日志级别参数
    2. db.adminCommand( { "getParameter": 1, "logLevel":1});
    3. # 设置cache大小参数
    4. db.adminCommand( { "setParameter": 1, "wiredTigerEngineRuntimeConfig": "cache_size=4G"});

    4、添加和移除复制集成员

    1. # 查看复制集成员
    2. rs.status().members;
    3. # 添加成员
    4. rs.add('127.0.0.1:20001')；
    5. # 移除成员
    6. rs.remove('127.0.0.1:20001')；

    5、设置数据库和集合分片

    1. # 在mongos admin库设置库允许分片
    2. sh.enableSharding("dbName");
    3. # 在mongos 的admin库设置集合分片片键
    4. sh.shardCollection("dbName.collectionName", { filedName: 1} );

    6、添加和移除分片

    1. # 查看分片状态
    2. sh.status()；
    3. # 在mongos执行添加分片（可以为单个实例或复制集）
    4. db.runCommand( { removeShard: "shardName" } )；
    5. db.runCommand({addshard:"rs1/ip-1:20001,ip-2:20001,ip-3:20001"});
    6. # 在mongos执行移除分片
    7. db.runCommand( { removeShard: "shard3" } )；
    8. # 在mongos执行刷新mongos配置信息
    9. db.runCommand("flushRouterConfig"))；

    说明： 移除分片命令至少执行两次才能成功删除，执行到state为completed才真正删除，否则就是没用删除成功，该分片处于{"draining" : true}状态，该状态下不但该分片没用删除成功，而且还影响接下来删除其他分片操作，遇到该状态再执行一次removeshard即可，最好就是删除分片时一直重复执行删除命令，直到state为completed；还有一个需要注意的地方就是：被成功删除的分片如果想要再加入集群时，必须将data数据目录清理干净才可以再加入集群，否则即使能加入成功也不会存储数据，集合都不会被创建 另外：在删除分片的时有可能整个过程出现无限{"draining" : true}状态，等多久还是这样，而且分片上面的块一个都没有移动到别的分片，解决办法是：在config的config数据库的shard集合中找到该分片的信息，并将draining字段由True改为False,再继续试着删除操作” 上面这句会立即返回，实际在后台执行。在数据移除的过程当中，一定要注意实例的日志信息，可能出现数据块在迁移的过程中，始终找不到边界条件，导致一直数据迁移不成功，一直重试，解决方案是删除边界数据，重启实例；。如果此分片为主分片，需要先迁移主分片。db.runCommand( { movePrimary: "XXX", to: "other" })；在完成删除后，所有mongos上运行下面命令，再对外提供服务，当然也可以重新启动所有mongos实例 。

    7、数据的导入导出

    1. # 导出允许指定导出条件和字段
    2. mongoexport -h 127.0.0.1 --port 20001 -uxxx -pxxx -d xxx -c mobileIndex -o XXX.txt 
    3. mongoimport -h 127.0.0.1 --port 20001 -uxxx -pxxx -d xxx -c mobileIndex --file XXX.txt

    四、MongoDB数据迁移

    1、迁移复制集当中的成员

    1、关闭 mongod 实例,为了确保安全关闭,使用 shutdown 命令；
    2、将数据目录(即 dbPath )转移到新机器上；
    3、在新机器上启动 mongod，其中节点的数据目录为copy的文件目录 ；
    4、连接到复制集当前的主节点上；
    如果新节点的地址发生变化,使用 rs.reconfig() 更新 复制集配置文档 ；
    举例,下面的命令过程将成员中位于第 2 位的地址进行更新:

    1. cfg = rs.conf()
    2. cfg.members[2].host = "127.0.0.1:27017"
    3. rs.reconfig(cfg)

    使用 rs.conf() 确认使用了新的配置.
    等待所有成员恢复正常,使用 rs.status() 检测成员状态。

    2、迁移复制集主节点

    在迁移主节点的时候,需要复制集选举出一个新的主节点,在进行选举的时候,复制集将读写,通常,这只会持续很短的时间,不过,应该尽可能在影响较小的时间段内迁移主节点.
    1、将主节点降级,以使得正常的 failover开始.要将主节点降级,连接到一个主节点,使用 replSetStepDown方法或者使用rs.stepDown()方法,下面的例子使用了 rs.stepDown()方法进行降级:

    1. rs.stepDown()

    2、等主节点降级为从节点,另一个成员成为 PRIMARY 之后,可以按照 “迁移复制集的一个成员”迁移这个降级了的节点.可以使用 rs.status()来确认状态的改变。

    3、从复制集其他节点恢复数据

    MongoDB 通过复制集能保证高可靠的数据存储，通常生产环境建议使用「3节点复制集」，这样即使其中一个节点崩溃了无法启动，可以直接将其数据清掉，重新启动后，以全新的 Secondary 节点加入复制集，或者是将其他节点的数据复制过来，重新启动节点，它会自动的同步数据，这样也就达到了恢复数据的目的。

    1、关闭需要数据同步的节点

    1. docker stop node;  # docker环境中
    2. db.shutdownServer({timeoutSecs: 60}); # 非docker环境

    2、拷贝目标节点机器的数据存储目录(/dbPath)到当前机器的指定目录。

    1. scp 目标节点 shard/data -> 当前节点 shard/data

    3、当前节点以复制过来的数据文件启动节点

    4、将新的节点添加到复制集

    1. # 进入复制集的主节点，执行添加新的节点命令
    2. rs.add("hostNameNew:portNew"); 
    3. # 等待所有成员恢复正常,检测成员状态
    4. rs.status();
    5. # 移除原来的节点
    6. rs.remove("hostNameOld>:portOld");

    五、MongoDB线上问题场景解决

    1、MongoDB 新建索引导致库被锁

    问题说明：某线上千万级别集合，为优化业务，直接执行新建索引命令，导致整个库被锁，应用服务出现不可用。
    解决方案：找出此操作进程，并且杀死。改为后台新建索引，速度很会慢，但是不会影响业务，该索引只会在新建完成之后，才会生效；

    1. # 查询运行时间超过200ms操作     
    2. db.currentOp({"active" : true,"secs_running" : { "$gt" : 2000 }}) ；
    3. # 杀死执行时间过长操作操作
    4. db.killOp(opid)
    5. # 后台新建索引
    6. db.collectionNmae.ensureIndex({filedName:1}, {background:true});

    2、MongoDB没有限制内存，导致实例退出

    问题说明： 生产环境某台机器启动多个mongod实例，运行一段时间过后，进程莫名被杀死；
    解决方案： 现在MongoDB使用WiredTiger作为默认存储引擎，MongoDB同时使用WiredTiger内部缓存和文件系统缓存。从3.4开始，WiredTiger内部缓存默认使用较大的一个：50％（RAM - 1 GB），或256 MB。
    例如，在总共4GB RAM的系统上，WiredTiger缓存将使用1.5GB的RAM（）。相反，具有总共1.25 GB RAM的系统将为WiredTiger缓存分配256 MB，因为这超过总RAM的一半减去1千兆字节（）。0.5 (4 GB - 1GB) = 1.5 GB``0.5 (1.25 GB - 1 GB) = 128 MB < 256 MB。如果一台机器存在多个实例，在内存不足的情景在，操作系统会杀死部分进程；

    1. # 要调整WiredTiger内部缓存的大小，调节cache规模不需要重启服务，可以动态调整：
    2. db.adminCommand( { "setParameter": 1, "wiredTigerEngineRuntimeConfig": "cache_size=xxG"})

    3、MongoDB删除数据，不释放磁盘空间

    问题说明：在删除大量数据(本人操作的数据量在2000万+)的情景下，并且在生产环境中请求量较大，此时机器的cpu负载会显得很高，甚至机器卡顿无法操作，这样的操作应该谨慎分批量操作；在删除命令执行结束之后，发现磁盘的数据量大小并没有改变。
    解决方案：
    方案一： 可以使用MongoDB提供的在线数据收缩的功能，通过Compact命令
    db.collectionName.runCommand("compact")进行Collection级别的数据收缩，去除集合所在文件碎片。此命令是以Online的方式提供收缩，收缩的同时会影响到线上的服务。为了解决这个问题，可以先在从节点执行磁盘整理命令，操作结束后，再切换主节点，将原来的主节点变为从节点，重新执行Compact命令即可。
    方案二： 使用从节点重新同步，secondary节点重同步，删除secondary节点中指定数据，使之与primary重新开始数据同步。当副本集成员数据太过陈旧，也可以使用重新同步。数据的重新同步与直接复制数据文件不同，MongoDB会只同步数据，因此重同步完成后的数据文件是没有空集合的，以此实现了磁盘空间的回收。

  • 若是primary节点，先强制将之变为secondary节点，否则跳过此步骤：rs.stepdown(120)；

  • 然后在primary上删除secondary节点：rs.remove("IP:port");
  • 删除secondary节点dbpath下的所有文件
  • 将节点重新加入集群，然后使之自动进行数据的同步：rs.add(“IP:port”);
  • 等数据同步完成后，循环1-4的步骤可以将集群中所有节点的磁盘空间释放

针对一些特殊情况，不能下线secondary节点的，可以新增一个节点到副本集中，然后secondary就自动开始数据的同步了。总的来说，重同步的方法是比较好的，第一基本不会阻塞副本集的读写，第二消耗的时间相对前两种比较短。

4、MongoDB机器负载极高

问题说明： 此情景是在客户请求较大的情景性，由于部署MongoDB的机器包含一主一从，MongoDB使得IO100%，数据库阻塞，出现大量慢查询，进而导致机器负载极高，应用服务完全不可用。
解决方案： 在没有机器及时扩容的状况下，首要任务便是减小机器的IO，在一台机器出现一主一从，在大量数据写入的情况下，会互相抢占IO资源。于是此时摒弃了MongoDB高可用的特点，摘掉了复制集当中的从节点，保证每台机器只有一个节点可以占用磁盘资源。之后，机器负载立马下来，服务变为正常可用状态，但是此时MongoDB无法保证数据的完整性，一旦有主节点挂掉便会丢失数据。此方案只是临时方法，根本解决是可以增加机器的内存、使用固态硬盘，或者采用增加分片集来减少单个机器的读写压力。

  1. # 进入主节点，执行移除成员的命令
  2. rs.remove("127.0.0.1:20001");
  3. # 注意：切勿直接关停实例

5、MongoDB分片键选择不当导致热读热写

问题说明：生产环境中，某一集合的片键使用了与_id生成方式相似，含有时间序列的字段作为升序片键，导致数据写入时都在一个数据块，随着数据量增大，会造成数据迁移到前面的分区，造成系统资源的占用，偶尔出现慢查询。
解决方案：临时方案设置数据迁移的窗口，放在在正常的时间区段，对业务造成影响。根本解决是更换片键。

  1. # 连接mongos实例，执行以下命令
  2. db.settings.update({ _id : "balancer" }, { $set : { activeWindow : { start : "23:00", stop : "4:00" } } }, true )；
  3. # 查看均衡窗口
  4. sh.getBalancerWindow()；

六、MongoDB优化建议

1、应用层面优化

  • 查询优化：确认查询是否充分利用到了索引，用explain命令查看一下查询执行的情况，添加必要的索引，避免扫表操作。
  • 合理设计分片键：增量sharding-key：适合于可划分范围的字段，比如integer、float、date类型的，查询时比较快。随机sharding-key: 适用于写操作频繁的场景，而这种情况下如果在一个shard上进行会使得这个shard负载比其他高，不够均衡，故而希望能hash查询key，将写分布在多个shard上进行,考虑复合key作为sharding key， 总的原则是查询快，尽量减少跨shard查询，balance均衡次数少；单一递增的sharding key，可能会造成写数据全部在最后一片上，最后一片的写压力增大，数据量增大，会造成数据迁移到前面的分区。MongoDB默认是单条记录16M，尤其在使用GFS的时候，一定要注意shrading-key的设计。不合理的sharding-key会出现，多个文档，在一个chunks上，同时，因为GFS中存贮的往往是大文件，导致MongoDB在做balance的时候无法通过sharding-key来把这多个文档分开到不同的shard上， 这时候MongoDB会不断报错最后导致MongoDB倒掉。解决办法：加大chunks大小（治标），设计合理的sharding-key（治本）。

  • 通过profile来监控数据：进行优化查看当前是否开启profile功能 用命令db.getProfilingLevel() 返回level等级，值为0|1|2，分别代表意思：0代表关闭，1代表记录慢命令，2代表全部。开启profile功能命令为 db.setProfilingLevel(level); #level等级，值level为1的时候，慢命令默认值为100ms，更改为db.setProfilingLevel(level,slowms)如db.setProfilingLevel(1,50)这样就更改为50毫秒通过db.system.profile.find() 查看当前的监控日志。

    2、硬件层面优化

  • 确定热数据大小：可能数据集非常大，但是这并不那么重要，重要的是热数据集有多大，经常访问的数据有多大(包括经常访问的数据和所有索引数据)。使用MongoDB，最好保证热数据在机器的内存大小之下，保证内存能容纳所有热数据；

  • 选择正确的文件系统：MongoDB的数据文件是采用的预分配模式，并且在Replication里面，Master和Replica Sets的非Arbiter节点都是会预先创建足够的空文件用以存储操作日志。这些文件分配操作在一些文件系统上可能会非常慢，导致进程被Block。所以应该选择那些空间分配快速的文件系统。这里的结论是尽量不要用ext3，用ext4或xfs；

    3、架构上的优化

    尽可能让主从节点分摊在不同的机器上，避免IO操作的与MongoDB在同一台机器；

    七、总结

    MongoDB具有高性能、易扩展、易上手等特点，在正确使用的情况下，其本身性能还是非常强悍，在一些关键点如片键的选择、内存的大小和磁盘IO，往往是限制其性能的最大瓶颈。针对于片键，在业务系统初期，可以先不对集合进行数据分片，因为分片键一旦确定就无法修改，后期可根据业务系统的情况，认真筛选字段。一般情况下，不建议使用升序片键（是一种随着时间稳定增长的字段,自增长的主键是升序键 ），因为这个会导致局部的热读热写，不能发挥分片集群的真正实力。建议使用hash片键或者随机分发的片键，这样可以保证数据的均匀分发在分片节点；针对于内存，建议内存的大小能够包含热数据的大小加索引大小，保证内存能容纳所有热数据 。针对于磁盘资源，MongoDB的高速读写是以磁盘的IO作为基础，为了保证其性能，建议将主从节点以及高IO的应用分离，以保证IO资源尽可能不存在抢占。