分布式 Dubbo + Zookeeper + SpringBoot

分布式理论

在《分布式系统原理与范型》一书中有如下定义:“分布式系统是若干独立计算机的集合,这些计算机对于用户来说就像单个相关系统”;

分布式系统是由一组通过网络进行通信、为了完成共同的任务而协调工作的计算机节点组成的系统。分布式系统的出现是为了用廉价的、普通的机器完成单个计算机无法完成的计算、存储任务。其目的是利用更多的机器,处理更多的数据

分布式系统(distributed system)是建立在网络之上的软件系统。

  1. 首先需要明确的是,只有当单个节点的处理能力无法满足日益增长的计算、存储任务的时候,且硬件的提升(加内存、加磁盘、使用更好的CPU)高昂到得不偿失的时候,应用程序也不能进一步优化的时候,才需要考虑分布式系统。因为,分布式系统要解决的问题本身就是和单机系统一样的,而由于分布式系统多节点、通过网络通信的拓扑结构,会引入很多单机系统没有的问题,为了解决这些问题又会引入更多的机制、协议,带来更多的问题。

Dubbo

  1. 随着互联网的发展,网站应用的规模不断扩大,常规的垂直应用架构已无法应对,分布式服务架构以及流动计算架构势在必行,急需**一个治理系统**确保架构有条不紊的演进。

在Dubbo的官网文档有这样一张图

分布式Dubbo   Zookeeper - 图1

单一应用架构

  1. 当网站流量很小时,只需一个应用,将所有功能都部署在一起,以减少部署节点和成本。此时,用于简化增删改查工作量的数据访问框架(ORM)是关键。

适用于小型网站,小型管理系统,将所有功能都部署到一个功能里,简单易用。

分布式Dubbo   Zookeeper - 图2

缺点:

1、性能扩展比较难

2、协同开发问题

3、不利于升级维护

垂直应用架构

当访问量逐渐增大,单一应用增加机器带来的加速度越来越小,提升效率的方法之一是将应用拆成互不相干的几个应用,以提升效率。此时,用于加速前端页面开发的Web框架(MVC)是关键。

分布式Dubbo   Zookeeper - 图3

通过切分业务来实现各个模块独立部署,降低了维护和部署的难度,团队各司其职更易管理,性能扩展也更方便,更有针对性。

缺点:公用模块无法重复利用,开发性的浪费

分布式服务架构

当垂直应用越来越多,应用之间交互不可避免,将核心业务抽取出来,作为独立的服务,逐渐形成稳定的服务中心,使前端应用能更快速的响应多变的市场需求。此时,用于提高业务复用及整合的分布式服务框架(RPC)是关键。

分布式Dubbo   Zookeeper - 图4

流动计算架构

当服务越来越多,容量的评估,小服务资源的浪费等问题逐渐显现,此时需增加一个调度中心基于访问压力实时管理集群容量,提高集群利用率。此时,用于提高机器利用率的资源调度和治理中心(SOA)是关键。

分布式Dubbo   Zookeeper - 图5

RPC技术

RPC【Remote Procedure Call】是指远程过程调用,是一种进程间通信方式,它是一种技术的思想,而不是规范。它允许程序调用另一个地址空间(通常是共享网络的另一台机器上)的过程或函数,而不用程序员显式编码这个远程调用的细节。即程序员无论是调用本地的还是远程的函数,本质上编写的调用代码基本相同。

也就是说两台服务器A,B,一个应用部署在A服务器上,想要调用B服务器上应用提供的函数/方法,由于不在一个内存空间,不能直接调用,需要通过网络来表达调用的语义和传达调用的数据。为什么要用RPC呢?就是无法在一个进程内,甚至一个计算机内通过本地调用的方式完成的需求,比如不同的系统间的通讯,甚至不同的组织间的通讯,由于计算能力需要横向扩展,需要在多台机器组成的集群上部署应用。RPC就是要像调用本地的函数一样去调远程函数;

推荐阅读文章:https://www.jianshu.com/p/2accc2840a1b

RPC原理:

分布式Dubbo   Zookeeper - 图6

步骤解析

分布式Dubbo   Zookeeper - 图7

RPC两个核心模块:通讯、序列化。

序列化:数据传输需要转换

RPC与HTTP的区别

Dubbo概念

  1. Apache Dubbo dʌbəʊ| 是一款高性能、轻量级的开源Java RPC框架,它提供了三大核心能力:面向接口的远程方法调用,智能容错和负载均衡,以及服务自动注册和发现。

dubbo官网)

1.了解Dubbo的特性

2.查看官方文档

dubbo基本概念

分布式Dubbo   Zookeeper - 图8

服务提供者(Provider):暴露服务的服务提供方,服务提供者在启动时,向注册中心注册自己提供的服务。

服务消费者(Consumer):调用远程服务的服务消费方,服务消费者在启动时,向注册中心订阅自己所需的服务,服务消费者,从提供者地址列表中,基于软负载均衡算法,选一台提供者进行调用,如果调用失败,再选另一台调用。

注册中心(Registry):注册中心返回服务提供者地址列表给消费者,如果有变更,注册中心将基于长连接推送变更数据给消费者

监控中心(Monitor):服务消费者和提供者,在内存中累计调用次数和调用时间,定时每分钟发送一次统计数据到监控中心

调用关系说明

l 服务容器负责启动,加载,运行服务提供者。

l 服务提供者在启动时,向注册中心注册自己提供的服务。

l 服务消费者在启动时,向注册中心订阅自己所需的服务。

l 注册中心返回服务提供者地址列表给消费者,如果有变更,注册中心将基于长连接推送变更数据给消费者。

l 服务消费者,从提供者地址列表中,基于软负载均衡算法,选一台提供者进行调用,如果调用失败,再选另一台调用。

l 服务消费者和提供者,在内存中累计调用次数和调用时间,定时每分钟发送一次统计数据到监控中心。

Dubbo环境搭建

点进dubbo官方文档,推荐使用Zookeeper 注册中心

什么是zookeeper呢?可以查看官方文档)

zookeeper

  1. ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是GoogleChubby一个开源的实现,是HadoopHbase的重要组件。它是一个为分布式应用提供一致性服务的软件,提供的功能包括:配置维护、域名服务、分布式同步、组服务等。

Window下安装zookeeper

1、下载zookeeper :地址),解压

2、运行/bin/zkServer.cmd ,初次运行会报错,没有zoo.cfg配置文件;

可能遇到问题:闪退 !

解决方案:编辑zkServer.cmd文件末尾添加pause 。这样运行出错就不会退出,会提示错误信息,方便找到原因。

分布式Dubbo   Zookeeper - 图9

3、修改zoo.cfg配置文件

将conf文件夹下面的zoo_sample.cfg复制一份改名为zoo.cfg即可。

注意几个重要位置:

dataDir=./ 临时数据存储的目录(可写相对路径)

clientPort=2181 zookeeper的端口号

修改完成后再次启动zookeeper

分布式Dubbo   Zookeeper - 图10

4、使用zkCli.cmd测试

ls /:列出zookeeper根下保存的所有节点

  1. [zk: localhost:2181(CONNECTED) 0]
  2. [zk: localhost:2181(CONNECTED) 0] ls /
  3. [zookeeper]
  4. [zk: localhost:2181(CONNECTED) 1]

create –e /dafran 123:创建一个dafran节点,值为123

get /dafran:获取/dafran节点的值

分布式Dubbo   Zookeeper - 图11

window下安装dubbo-admin

dubbo本身并不是一个服务软件。它其实就是一个jar包,能够帮你的java程序连接到zookeeper,并利用zookeeper消费、提供服务。

但是为了让用户更好的管理监控众多的dubbo服务,官方提供了一个可视化的监控程序dubbo-admin,不过这个监控即使不装也不影响使用。

安装一下:

1、下载dubbo-admin

地址 :https://github.com/apache/dubbo-admin/tree/master

2、解压进入目录

修改 dubbo-admin\src\main\resources \application.properties 指定zookeeper地址

  1. server.port=7001
  2. spring.velocity.cache=false
  3. spring.velocity.charset=UTF-8
  4. spring.velocity.layout-url=/templates/default.vm
  5. spring.messages.fallback-to-system-locale=false
  6. spring.messages.basename=i18n/message
  7. spring.root.password=root
  8. spring.guest.password=guest
  9. dubbo.registry.address=zookeeper: //127.0.0.1:2181

3、在项目目录下打包dubbo-admin

  1. mvn clean package -Dmaven.test.skip=true

第一次打包的过程有点慢,需要耐心等待!直到成功!

分布式Dubbo   Zookeeper - 图12

4、执行 dubbo-admin\target 下的dubbo-admin-0.0.1-SNAPSHOT.jar

  1. java -jar dubbo-admin-0.0.1-SNAPSHOT.jar

【注意:zookeeper的服务一定要打开!】

执行完毕,去访问一下 http://localhost:7001/ , 这时候需要输入登录账户和密码,都是默认的root-root;

登录成功后,查看界面

分布式Dubbo   Zookeeper - 图13

安装完成!

SpringBoot + Dubbo + zookeeper

框架搭建

1. 启动zookeeper !

2. IDEA创建一个空项目;

3.创建一个模块,实现服务提供者:provider-server , 选择web依赖即可

4.项目创建完毕,写一个服务,比如卖票的服务;

编写接口

  1. public interface TicketService {
  2. public String getTicket();
  3. }

实现类

  1. public class TicketServiceImpl implements TicketService {
  2. @Override
  3. public String getTicket() {
  4. return "6b92d6";
  5. }
  6. }

5.创建一个模块,实现服务消费者:consumer-server , 选择web依赖即可

6.项目创建完毕,写一个服务,比如用户的服务;

编写service

  1. public class UserService {
  2. //需要去拿去注册中心的服务
  3. }

需求:现在用户想使用买票的服务,需要怎么做 ?

服务提供者

1、将服务提供者注册到注册中心,需要整合Dubbo和zookeeper,所以需要导包

从dubbo官网进入github,看下方的帮助文档,找到dubbo-springboot,找到依赖包

  1. <!--dubbo-->
  2. <!-- Dubbo Spring Boot Starter -->
  3. <dependency>
  4. <groupId>org.apache.dubbo</groupId>
  5. <artifactId>dubbo-spring-boot-starter</artifactId>
  6. <version>2.7.3</version>
  7. </dependency>

zookeeper的包去maven仓库下载,zkclient;

  1. <!-- https://mvnrepository.com/artifact/com.github.sgroschupf/zkclient -->
  2. <dependency>
  3. <groupId>com.github.sgroschupf</groupId>
  4. <artifactId>zkclient</artifactId>
  5. <version>0.1</version>
  6. </dependency>

【新版的坑】zookeeper及其依赖包,解决日志冲突,还需要剔除日志依赖;

  1. <!-- 引入zookeeper -->
  2. <dependency>
  3. <groupId>org.apache.curator</groupId>
  4. <artifactId>curator-framework</artifactId>
  5. <version>2.12.0</version>
  6. </dependency>
  7. <dependency>
  8. <groupId>org.apache.curator</groupId>
  9. <artifactId>curator-recipes</artifactId>
  10. <version>2.12.0</version>
  11. </dependency>
  12. <dependency>
  13. <groupId>org.apache.zookeeper</groupId>
  14. <artifactId>zookeeper</artifactId>
  15. <version>3.4.14</version>
  16. <!--排除这个slf4j-log4j12-->
  17. <exclusions>
  18. <exclusion>
  19. <groupId>org.slf4j</groupId>
  20. <artifactId>slf4j-log4j12</artifactId>
  21. </exclusion>
  22. </exclusions>
  23. </dependency>

2、在springboot配置文件中配置dubbo相关属性!

  1. # Dubbo
  2. # 服务应用名字
  3. dubbo.application.name=provider-server
  4. # 注册中心地址
  5. dubbo.registry.address=zookeeper://127.0.0.1:2181
  6. # 哪些服务被注册
  7. dubbo.scan.base-packages=cn.dafran.service

3、在service的实现类中配置服务注解,发布服务!注意导包问题

  1. import org.apache.dubbo.config.annotation.Service;
  2. import org.springframework.stereotype.Component;
  3. @Service // 可以被扫描,在项目一启动就自动注册到注册中心
  4. @Component // 使用Dubbo后尽量不要@Service注解
  5. public class TicketServiceImpl implements TicketService {
  6. @Override
  7. public String getTicket() {
  8. return "6b92d6";
  9. }
  10. }

逻辑理解 :应用启动起来,dubbo就会扫描指定的包下带有@component注解的服务,将它发布在指定的注册中心中!

服务消费者

1、导入依赖,和之前的依赖一样;

  1. <!--dubbo-->
  2. <!-- Dubbo Spring Boot Starter -->
  3. <dependency>
  4. <groupId>org.apache.dubbo</groupId>
  5. <artifactId>dubbo-spring-boot-starter</artifactId>
  6. <version>2.7.3</version>
  7. </dependency>
  8. <!--zookeeper-->
  9. <!-- https://mvnrepository.com/artifact/com.github.sgroschupf/zkclient -->
  10. <dependency>
  11. <groupId>com.github.sgroschupf</groupId>
  12. <artifactId>zkclient</artifactId>
  13. <version>0.1</version>
  14. </dependency>
  15. <!-- 引入zookeeper -->
  16. <dependency>
  17. <groupId>org.apache.curator</groupId>
  18. <artifactId>curator-framework</artifactId>
  19. <version>2.12.0</version>
  20. </dependency>
  21. <dependency>
  22. <groupId>org.apache.curator</groupId>
  23. <artifactId>curator-recipes</artifactId>
  24. <version>2.12.0</version>
  25. </dependency>
  26. <dependency>
  27. <groupId>org.apache.zookeeper</groupId>
  28. <artifactId>zookeeper</artifactId>
  29. <version>3.4.14</version>
  30. <!--排除这个slf4j-log4j12-->
  31. <exclusions>
  32. <exclusion>
  33. <groupId>org.slf4j</groupId>
  34. <artifactId>slf4j-log4j12</artifactId>
  35. </exclusion>
  36. </exclusions>
  37. </dependency>

2、配置参数

  1. #当前应用名字
  2. dubbo.application.name=consumer-server
  3. #注册中心地址
  4. dubbo.registry.address=zookeeper://127.0.0.1:2181

3. 本来正常步骤是需要将服务提供者的接口打包,然后用pom文件导入,这里使用简单的方式,直接将服务的接口拿过来,路径必须保证正确,即和服务提供者相同;

分布式Dubbo   Zookeeper - 图14

4. 完善消费者的服务类

  1. package cn.dafran.service;
  2. import org.apache.dubbo.config.annotation.Reference;
  3. import org.springframework.stereotype.Service;
  4. @Service // 放到容器中
  5. public class UserService {
  6. // 想拿到provider-server提供的票,要去注册中心拿到服务
  7. @Reference // 引用,Pom坐标,可以定义路径相同的接口名
  8. TicketService ticketService;
  9. public void buyTicket() {
  10. String ticket = ticketService.getTicket();
  11. System.out.println("在注册中心拿到=>" + ticket);
  12. }
  13. }

5. 测试类编写;

  1. @SpringBootTest
  2. class ConsumerServerApplicationTests {
  3. @Autowired
  4. UserService userService;
  5. @Test
  6. void contextLoads() {
  7. userService.buyTicket();
  8. }
  9. }

启动测试

1. 开启zookeeper

2. 打开dubbo-admin实现监控【可以不用做】

3. 开启服务者

4. 消费者消费测试,结果:

分布式Dubbo   Zookeeper - 图15

监控中心 :

分布式Dubbo   Zookeeper - 图16

一个服务拆分的思想