1. 微服务(micro services)

1563802988667.png

  1. 近几年,微服这个词闯入了我们的视线范围。在百度与谷歌中随便搜一搜也有几千万条的结果。那么,什么是微服务呢?微服务的概念是怎么产生的呢?<br /> 我们首先来了解一下Go语言与微服务的千丝万缕与来龙去脉。

1.1 什么是微服务?

服务拆分原则:高内聚低耦合

  1. 在介绍微服务时,首先得先理解什么是微服务,顾名思义,微服务得从两个方面去理解,什么是"微"、什么是"服务"
  2. 微(micro)狭义来讲就是体积小,著名的"2 pizza 团队"很好的诠释了这一解释(2 pizza 团队最早是亚马逊 CEO Bezos提出来的,意思是说单个服务的设计,所有参与人从设计、开发、测试、运维所有人加起来 只需要2个披萨就够了 )。
  3. 服务(service)一定要区别于系统,服务一个或者一组相对较小且独立的功能单元,是用户可以感知最小功能集。

那么广义上来讲,微服务是一种分布式系统解决方案,推动细粒度服务的使用,这些服务协同工作。

1.2 微服务这个概念的由来

  1. 据说,早在19xx,非IT行业提出的概念,在威尼斯附近的软件架构师讨论会上,就有人提出了微服务架构设计的概念,用它来描述与会者所见的一种通用的架构设计风格。时隔一年之后,在同一个讨论会上,大家决定将这种架构设计风格用微服务架构来表示。
  2. 起初,对微服务的概念,没有一个明确的定义,大家只能从各自的角度说出了微服务的理解和看法。
  3. 20143月,詹姆斯·刘易斯(James Lewis)与马丁·福勒(Martin Fowler)所发表的一篇博客中,总结了微服务架构设计的一些共同特点,这应该是一个对微服务比较全面的描述。
  4. 原文链接 [https://martinfowler.com/articles/microservices.html](https://martinfowler.com/articles/microservices.html)
  5. 这篇文章中认为:**“简而言之,微服务架构风格是将单个应用程序作为一组小型服务开发的方法,每个服务程序都在自己的进程中运行,并与轻量级机制(通常是HTTP资源API)进行通信。这些服务是围绕业务功能构建的。可以通过全自动部署机器独立部署。这些服务器可以用不同的编程语言编写,使用不同的数据存储技术,并尽量不用集中式方式进行管理”**
  6. 在这里我们可能会混淆一个点,那就是微服务和微服务架构,这是两个不同的概念,而我们平时说到的微服务已经包含了这两个概念了,我们需要把它们说清楚以免学习中纠结。微服务架构是一种设计方法,而微服务这是指使用这种方法而设计的一个应用。所以我们必要对微服务的概念做出一个比较明确的定义。
  7. **微服务架构**是将复杂的系统使用组件化的方式进行拆分,并使用轻量级通讯方式进行整合的一种设计方法。
  8. **微服务**是通过这种架构设计方法拆分出来的一个独立的组件化的小应用。
  9. 微服务架构定义的精髓,可以用一句话来描述,那就是“**分而治之,合而用之**”。将复杂的系统进行拆分的方法,就是“分而治之”。分而治之,可以让复杂的事情变的简单,这很符合我们平时处理问题的方法。 使用轻量级通讯等方式进行整合的设计,就是“合而用之”的方法,合而用之可以让微小的力量变动强大。

1.3 微服务和单体式架构区别

  1. 和微服务架构相反的就是单体式架构,我们来看看单体式架构设计的缺点,就更能体会微服务的好处了。单体架构在规模比较小的情况下工作情况良好,但是随着系统规模的扩大,它暴露出来的问题也越来越多,主要有以下几点:

复杂性逐渐变高

中软国际 boss计费系统 十几年了 移动联通缴费平台 几个亿

自己封装函数 代码冗余度特别大

比如有几十万行代码的大项目,代码越多复杂性越高,越难解决遇到的问题。

技术债务逐渐上升

离职证明 留下了64个bug未解决就离职了

  1. 公司的人员流动是再正常不过的事情,有的员工在离职之前,疏于代码质量的自我管束,导致留下来很多坑,由于单体项目代码量庞大的惊人,留下的坑很难被发觉,这就给新来的员工带来很大的烦恼,人员流动越大所留下的坑越多,也就是所谓的技术债务越来越多。

耦合度太高,维护成本大

  1. 当应用程序的功能越来越多、团队越来越大时,沟通成本、管理成本显著增加。当出现 bug 时,可能引起 bug 的原因组合越来越多,导致分析、定位和修复的成本增加;并且在对全局功能缺乏深度理解的情况下,容易在修复 bug 时引入新的 bug

持续交付周期长

  1. 构建和部署时间会随着功能的增多而增加,任何细微的修改都会触发部署流水线。新人培养周期长:新成员了解背景、熟悉业务和配置环境的时间越来越长。

技术选型成本高

  1. 单块架构倾向于采用统一的技术平台或方案来解决所有问题,如果后续想引入新的技术或框架,成本和风险都很大。

可扩展性差

  1. 随着功能的增加,垂直扩展的成本将会越来越大;而对于水平扩展而言,因为所有代码都运行在同一个进程,没办法做到针对应用程序的部分功能做独立的扩展。

了解了单体式结构的缺点之后,我们来看看微服务架构的解决方案:

  1. 单一职责
    微服务架构中的每个服务,都是具有业务逻辑的,符合高内聚、低耦合原则以及单一职责原则的单元,不同的服务通过“管道”的方式灵活组合,从而构建出庞大的系统。
  2. 轻量级通信
    服务之间通过轻量级的通信机制实现互通互联,而所谓的轻量级,通常指语言无关、平台无关的交互方式。
    微服务技术讲义 - 图2
    对于轻量级通信的格式而言,我们熟悉的 XML 和 JSON,它们是语言无关、平台无关的;对于通信的协议而言,通常基于 HTTP,能让服务间的通信变得标准化、无状态化。使用轻量级通信机制,可以让团队选择更适合的语言、工具或者平台来开发服务本身。
  3. 独立性
    每个服务在应用交付过程中,独立地开发、测试和部署。
    在单体式架构中所有功能都在同一个代码库,功能的开发不具有独立性;当不同小组完成多个功能后,需要经过集成和回归测试,测试过程也不具有独立性;当测试完成后,应用被构建成一个包,如果某个功能存在 bug,将导致整个部署失败或者回滚。
    微服务技术讲义 - 图3
    在微服务架构中,每个服务都是独立的业务单元,与其他服务高度解耦,只需要改变当前服务本身,就可以完成独立的开发、测试和部署。
    微服务技术讲义 - 图4
  4. 进程隔离
    单块架构中,整个系统运行在同一个进程中,当应用进行部署时,必须停掉当前正在运行的应用,部署完成后再重启进程,无法做到独立部署。
    在微服务架构中,应用程序由多个服务组成,每个服务都是高度自治的独立业务实体,可以运行在独立的进程中,不同的服务能非常容易地部署到不同的主机上。

微服务这么多好处,就没有缺点吗?当然不是这样的,事务都有两面性,我们来看看微服务的不足之处。

  1. 运维要求比较高
    对于单体架构来讲,我们只需要维护好这一个项目就可以了,但是对于微服务架构来讲,由于项目是由多个微服务构成的,每个模块出现问题都会造成整个项目运行出现异常,想要知道是哪个模块造成的问题往往是不容易的,因为我们无法一步一步通过debug的方式来跟踪,这就对运维人员提出了很高的要求。
  2. 分布式的复杂性
    对于单体架构来说,分布式是用来优化项目的,可有可无,但是对于微服务来说,分布式几乎是必会用的技术,由于分布式本身的复杂性,导致微服务架构也变得复杂起来。

    bug不好调试

  3. 接口成本高
    比如我们的前面的电商项目每个模块做成微服务的话,用户微服务是要被订单微服务和购物车微服务所调用的,一旦用户微服务的接口发生大的变动,那么所有依赖它的微服务都要做相应的调整,由于微服务可能非常多,那么调整接口所造成的成本将会明显提高。

  4. 重复劳动
    对于单体架构来讲,如果某段业务被多个模块所共同使用,我们便可以抽象成一个工具类,被所有模块直接调用,但是微服务却无法这样做,因为这个微服务的工具类是不能被其它微服务所直接调用的,从而我们便不得不在每个微服务上都建这么一个工具类,从而导致代码的重复。
  5. 业务不好分离
    程序员的业务理解程度

既然微服务也有这么多的缺点,那为什么还要用微服务架构呢?

  1. 开发简单
    微服务架构将复杂系统进行拆分之后,让每个微服务应用都开发变得非常简单,没有太多的累赘。对于每一个开发者来说,这无疑是一种解脱,因为再也不用进行繁重的劳动了,每天都在一种轻松愉快的氛围中工作,其效率也会整备地提高
  2. 能够快速相应需求变化
    一般的需求变化都来自于局部功能的改变,这种变化将落实到每个微服务上,二每个微服务的功能相对来说都非常简单,更改起来非常容易,所以微服务非常适合敏捷开发方法,能够快速的影响业务的需求变化。
  3. 随时随地更新
  4. 不停服更新
    一方面,微服务的部署和更新并不会影响全局系统的正常运行;另一方面,使用多实例的部署方法,可以做到一个服务的重启和更新在不易察觉的情况下进行。所以每个服务任何时候都可以进行更新部署。
  5. 系统更加稳定可靠
    微服务运行在一个高可用的分布式环境之中,有配套的监控和调度管理机制,并且还可以提供自由伸缩的管理,充分保障了系统的稳定可靠性

单体式和微服务对比

新功能开发 需要时间 容易开发和实现
传统单体架构 分布式微服务化架构
部署 不经常而且容易部署 经常发布,部署复杂
隔离性 故障影响范围大 故障影响范围小
架构设计 初期技术选型难度大 设计逻辑难度大
系统性能 相对时间快,吞吐量小 相对时间慢,吞吐量大
系统运维 运维难度简单 运维难度复杂
新人上手 学习曲线大(应用逻辑) 学习曲线大(架构逻辑)
技术 技术单一而且封闭 技术多样而且容易开发
测试和差错 简单 复杂(每个服务都要进行单独测试,还需要集群测试)
系统扩展性 扩展性差 扩展性好
系统管理 重点在于开发成本 重点在于服务治理和调度

2. RPC协议

  1. 简单了解了微服务定义和优缺点之后,在我们正式学习微服务框架之前,需要首先了解一下RPC协议。为什么要了解RPC协议?RPC协议具体是什么呢?

2.1 RPC的概念

  1. **RPC(Remote Procedure Call Protocol)**,是远程过程调用的缩写,通俗的说就是调用远处的一个函数。与之相对应的是本地函数调用,我们先来看一下本地函数调用。当我们写下如下代码的时候:

规则

  1. result := Add(1,2)

我们知道,我们传入了1,2两个参数,调用了本地代码中的一个Add函数,得到result这个返回值。这时参数,返回值,代码段都在一个进程空间内,这是本地函数调用。

那有没有办法,我们能够调用一个跨进程(所以叫”远程”,典型的事例,这个进程部署在另一台服务器上)的函数呢?

微服务技术讲义 - 图5

这也是RPC主要实现的功能。

2.2 为什么微服务需要RPC

我们使用微服务化的一个好处就是,不限定服务的提供方使用什么技术选型,能够实现公司跨团队的技术解耦,如下图:

微服务技术讲义 - 图6

这样的话,如果没有统一的服务框架,RPC框架,各个团队的服务提供方就需要各自实现一套序列化、反序列化、网络框架、连接池、收发线程、超时处理、状态机等“业务之外”的重复技术劳动,造成整体的低效。所以,统一RPC框架把上述“业务之外”的技术劳动统一处理,是服务化首要解决的问题。

2.3 RPC入门

protobuf

在互联网时代,RPC已经和IPC(进程间通信)一样成为一个不可或缺的基础构件。因此Go语言的标准库也提供了一个简单的RPC实现,我们将以此为入口学习RPC的常见用法。

2.3.1 RPC版的”hello world”

Go语言的RPC包的路径为net/rpc,也就是放在了net包目录下面。因此我们可以猜测该RPC包是建立在net包基础之上的。接着我们尝试基于rpc实现一个类似的例子。我们先构造一个HelloService类型,其中的Hello方法用于实现打印功能:

  1. type HelloService struct{}
  2. func(p *HelloService)Hello(request string,reply *string)error{
  3. *reply = "hello:" + request
  4. return nil
  5. }

Hello方法方法必须满足Go语言的RPC规则:方法只能有两个可序列化的参数,其中第二个参数是指针类型,并且返回一个error类型,同时必须是公开的方法。

golang 中的类型比如:channel(通道)、complex(复数类型)、func(函数)均不能进行 序列化

然后就可以将HelloService类型的对象注册为一个RPC服务:

  1. func main(){
  2. //rpc注册服务
  3. //注册rpc服务,维护一个hash表,key值是服务名称,value值是服务的地址
  4. rpc.RegisterName("HelloService",new(HelloService))
  5. //设置服务监听
  6. listener,err := net.Listen("tcp",":1234")
  7. if err != nil {
  8. panic(err)
  9. }
  10. //接受传输的数据
  11. conn,err := listener.Accept()
  12. if err != nil {
  13. panic(err)
  14. }
  15. //rpc调用,并返回执行后的数据
  16. //1.read,获取服务名称和方法名,获取请求数据
  17. //2.调用对应服务里面的方法,获取传出数据
  18. //3.write,把数据返回给client
  19. rpc.ServeConn(conn)
  20. }

其中rpc.Register函数调用会将对象类型中所有满足RPC规则的对象方法注册为RPC函数,所有注册的方法会放在“HelloService”服务空间之下。然后我们建立一个唯一的TCP链接,并且通过rpc.ServeConn函数在该TCP链接上为对方提供RPC服务。

下面是客户端请求HelloService服务的代码:

  1. func main(){
  2. //用rpc连接
  3. client,err := rpc.Dial("tcp","localhost:1234")
  4. if err != nil {
  5. panic(err)
  6. }
  7. var reply string
  8. //调用服务中的函数
  9. err = client.Call("HelloService.Hello","world",&reply)
  10. if err != nil {
  11. panic(err)
  12. }
  13. fmt.Println("收到的数据为,",reply)
  14. }

首选是通过rpc.Dial拨号RPC服务,然后通过client.Call调用具体的RPC方法。在调用client.Call时,第一个参数是用点号链接的RPC服务名字和方法名字,第二和第三个参数分别我们定义RPC方法的两个参数。

2.3.2 跨语言的RPC

  1. 标准库的RPC默认采用Go语言特有的gob编码。因此,其它语言调用Go语言实现的RPC服务将比较困难。跨语言是互联网时代RPC的一个首要条件,这里我们再来实现一个跨语言的RPC。得益于RPC的框架设计,Go语言的RPC其实也是很容易实现跨语言支持的。
  2. 这里我们将尝试通过官方自带的net/rpc/jsonrpc扩展实现一个跨语言RPC
  3. 首先是基于json编码重新实现RPC服务:
  1. func main(){
  2. //注册rpc服务
  3. rpc.RegisterName("HelloService",new(HelloService))
  4. //设置监听
  5. listener,err := net.Listen("tcp",":1234")
  6. if err != nil {
  7. panic(err)
  8. }
  9. for{
  10. //接收连接
  11. conn,err := listener.Accept()
  12. if err != nil {
  13. panic(err)
  14. }
  15. //给当前连接提供针对json格式的rpc服务
  16. go rpc.ServeCodec(jsonrpc.NewServerCodec(conn))
  17. }
  18. }

代码中最大的变化是用rpc.ServeCodec函数替代了rpc.ServeConn函数,传入的参数是针对服务端的json编解码器。

然后是实现json版本的客户端:

  1. func main(){
  2. //简历tcp连接
  3. conn,err := net.Dial("tcp","localhost:1234")
  4. if err !=nil{
  5. panic(err)
  6. }
  7. //简历基于json编解码的rpc服务
  8. client := rpc.NewClientWithCodec(jsonrpc.NewClientCodec(conn))
  9. var reply string
  10. //调用rpc服务方法
  11. err = client.Call("HelloService.Hello"," world",&reply)
  12. if err != nil {
  13. panic(err)
  14. }
  15. fmt.Println("收到的数据为:",reply)
  16. }

先手工调用net.Dial函数建立TCP链接,然后基于该链接建立针对客户端的json编解码器。

在确保客户端可以正常调用RPC服务的方法之后,我们可以用命令来查看一下客户端发给服务端的到底是什么数据。这里我们使用 nc -l 1234 这条命令 模拟服务器监听1234端口接收的数据,然后重新运行客户端,将会发现nc输出了以下的信息:

  1. {"method":"HelloService.Hello","params":["hello"],"id":0}

nc常用有两种一种是连接到指定ip和端口

nc hostname port

另外一种是监听端口,等待连接

nc -l port

这是一个json编码的数据,其中method部分对应要调用的rpc服务和方法组合成的名字,params部分的第一个元素为参数,id是由调用端维护的一个唯一的调用编号。

请求的json数据对象在内部对应两个结构体:客户端是clientRequest,服务端是serverRequest。clientRequest和serverRequest结构体的内容基本是一致的:

  1. type clientRequest struct {
  2. Method string `json:"method"`
  3. Params []interface{} `json:"params"`
  4. Id uint64 `json:"id"`
  5. }
  6. type serverRequest struct {
  7. Method string `json:"method"`
  8. Params *json.RawMessage `json:"params"`
  9. Id *json.RawMessage `json:"id"`
  10. }

了解了客户端需要发送哪些数据之后,我们可以再来看看服务器接收到客户端传输的数据之后会返回哪些数据,还是用我们的nc命令。操作如下:

  1. echo -e '{"method":"HelloService.Hello","params":["hello"],"id":1}'| nc localhost 1234

返回的数据如下:

微服务技术讲义 - 图7

其中id对应输入的id参数,result为返回的结果,error部分在出问题时表示错误信息。对于顺序调用来说,id不是必须的。但是Go语言的RPC框架支持异步调用,当返回结果的顺序和调用的顺序不一致时,可以通过id来识别对应的调用。

返回的json数据也是对应内部的两个结构体:客户端是clientResponse,服务端是serverResponse。两个结构体的内容同样也是类似的:

  1. type clientResponse struct {
  2. Id uint64 `json:"id"`
  3. Result *json.RawMessage `json:"result"`
  4. Error interface{} `json:"error"`
  5. }
  6. type serverResponse struct {
  7. Id *json.RawMessage `json:"id"`
  8. Result interface{} `json:"result"`
  9. Error interface{} `json:"error"`
  10. }

因此无论采用何种语言,只要遵循同样的json结构,以同样的流程就可以和Go语言编写的RPC服务进行通信。这样我们就解用json简单实现了跨语言的RPC。

但是一般在开发的时候除了用json做跨语言的RPC服务之外,现在很多公司还会选用protobuf做跨语言的RPC服务。那什么是ProtoBuf呢?接下来我们详细了解一下。

2.3.4 RPC协议封装

上面的代码服务名都是写死的,不够灵活(容易写错),这里我们对RPC的服务端和客户端再次进行一次封装,来屏蔽掉服务名,具体代码如下

服务端封装
  1. //抽离服务名称
  2. var serverName = "LoginService"
  3. //定义一个父类
  4. type RPCDesign interface {
  5. Hello(string,*string)error
  6. }
  7. //实现工厂函数
  8. func RegisterRPCServer(srv RPCDesign)error{
  9. return rpc.RegisterName(serverName,srv)
  10. }

封装之后的服务端实现如下:

  1. type RpcServer struct{}
  2. //5 + 3i chan func complex
  3. func (this *RpcServer) Hello(req string, resp *string) error {
  4. *resp += req + "你好"
  5. return nil
  6. }
  7. func main() {
  8. //设置监听
  9. listener, err := net.Listen("tcp", ":8899")
  10. if err != nil {
  11. fmt.Println("设置监听错误")
  12. return
  13. }
  14. defer listener.Close()
  15. fmt.Println("开始监听....")
  16. for {
  17. //接收链接
  18. conn, err := listener.Accept()
  19. if err != nil {
  20. fmt.Println("获取连接失败")
  21. return
  22. }
  23. defer conn.Close()
  24. fmt.Println(conn.RemoteAddr().String() + "连接成功")
  25. //rpc表 注册rpc服务
  26. if err = RegisterRPCServer(new(RpcServer)); err != nil {
  27. fmt.Println("注册rpc服务失败")
  28. return
  29. }
  30. //把rpc服务和套接字绑定
  31. //rpc.ServeConn(conn)
  32. rpc.ServeCodec(jsonrpc.NewServerCodec(conn))
  33. }
  34. }

客户端封装
  1. type RPCClient struct {
  2. rpcClient *rpc.Client
  3. }
  4. func NewRpcClient(addr string)(RPCClient){
  5. conn,err := net.Dial("tcp",addr)
  6. if err != nil {
  7. fmt.Println("链接服务器失败")
  8. return RPCClient{}
  9. }
  10. defer conn.Close()
  11. //套接字和rpc服务绑定
  12. client := rpc.NewClientWithCodec(jsonrpc.NewClientCodec(conn))
  13. return RPCClient{rpcClient:client}
  14. }
  15. func (this*RPCClient)CallFunc(req string,resp*string)error{
  16. return this.rpcClient.Call(serverName+".Hello",req,resp)
  17. }

封装之后客户端实现

  1. func main() {
  2. //初始化对象 与服务名有关的内容完全封装起来了
  3. client := NewRpcClient("127.0.0.1:8899")
  4. //调用成员函数
  5. var temp string
  6. client.CallFunc("xiaoming",&temp)
  7. fmt.Println(temp)
  8. }

3. ProtoBuf认识与使用

3.1 protobuf简介

Protobuf是Protocol Buffers的简称,它是Google公司开发的一种数据描述语言,是一种轻便高效的结构化数据存储格式,可以用于结构化数据串行化,或者说序列化。它很适合做数据存储RPC 数据交换格式。可用于通讯协议、数据存储等领域的语言无关、平台无关、可扩展的序列化结构数据格式。目前提供了 C++、Java、Python 三种语言的 API。

Protobuf刚开源时的定位类似于XML、JSON等数据描述语言,通过附带工具生成代码并实现将结构化数据序列化的功能。这里我们更关注的是Protobuf作为接口规范的描述语言,可以作为设计安全的跨语言RPC接口的基础
工具。

需要了解两点

  1. protobuf是类似与json一样的数据描述语言(数据格式)
  2. protobuf非常适合于RPC数据交换格式

接着我们来看一下protobuf的优势和劣势:

优势:

1:序列化后体积相比Json和XML很小,适合网络传输

2:支持跨平台多语言

3:消息格式升级和兼容性还不错

4:序列化反序列化速度很快,快于Json的处理速度

劣势:

1:应用不够广(相比xml和json)

2:二进制格式导致可读性差

3:缺乏自描述

我们先安装一下protobuf,然后通过例子来看一下protobuf的具体作用。

3.2 protobuf的安装

  1. 下载 protobuf
    ```shell 方法一:===> git clone https://github.com/protocolbuffers/protobuf.git

方法二:===> 或者将准备好的压缩包进行拖入 解压到$GOPATH/src/github.com/protocolbuffers/下面 Unzip protobuf.zip

  1. 2. 安装(ubuntu
  2. ```shell
  3. (1)安装依赖工具(联网)
  4. $ sudo apt-get install autoconf automake libtool curl make g++ unzip libffi-dev -y
  5. (2)进入protobuf文件
  6. cd protobuf/
  7. (3)进行安装检测 并生成自动安装脚本
  8. ./autogen.sh
  9. ./configure
  10. (4)进行编译C代码
  11. make
  12. (5)进行安装
  13. sudo make install
  14. (6)刷新linux共享库关系
  15. sudo ldconfig
  1. 测试protobuf编译工具

    1. protoc -h

    如果正常输出 相关指令 没有报任何error,为安装成功

  2. 安装protobuf的go语言插件

    由于protobuf并没直接支持go语言需要我们手动安装相关插件

  1. (1)下载
  2. 方法一:===> go get -v -u github.com/golang/protobuf/proto
  3. 方法二:===>或者将 github.com-golang-protobuf.zip拖入 进行解压到 $GOPATH/src/github.com/golang
  4. (2)进入到文件夹内进行编译
  5. $ cd $GOPATH/src/github.com/golang/protobuf/protoc-gen-go
  6. $ go build
  7. (3)将生成的 protoc-gen-go可执行文件,放在/bin目录下
  8. $ sudo cp protoc-gen-go /bin/
  9. (4)尝试补齐protoc-gen-go 如果可以补齐代表成功,如果执行不报错 代表工具成功

3.3 protobuf 简单语法

参考文档(需翻墙):https://developers.google.com/protocol-buffers/docs/proto3

首先让我们看一个非常简单的例子。

  1. syntax = "proto3"; //指定版本信息,不指定会报错
  2. package pb; //后期生成go文件的包名
  3. //message为关键字,作用为定义一种消息类型
  4. message Person{
  5. // 名字
  6. string name = 1;
  7. // 年龄
  8. int32 age = 2 ;
  9. }
  10. enum test{
  11. int32 age = 0;
  12. }
  • protobuf消息的定义(或者称为描述)通常都写在一个以 .proto 结尾的文件中。
  • 该文件的第一行指定正在使用proto3语法:如果不这样做,协议缓冲区编译器将假定正在使用proto2。这也必须是文件的第一个非空的非注释行。
  • 第二行package指明当前是pb包(生成go文件之后和Go的包名保持一致)
  • 最后message关键字定义一个Person消息体,类似于go语言中的结构体,是包含一系列类型数据的集合。许多标准的简单数据类型都可以作为字段类型,包括boolint32floatdouble,和string。也可以使用其他message类型作为字段类型。
  • 在message中有一个字符串类型的value成员,该成员编码时用1代替名字。我们知道,在json中是通过成员的名字来绑定对应的数据,但是Protobuf编码却是通过成员的唯一编号来绑定对应的数据,因此Protobuf编码后数据的体积会比较小,能够快速传输,缺点是不利于阅读。

message的格式说明

消息由至少一个字段组合而成,类似于Go语言中的结构体,每个字段都有一定的格式:

  1. //注释格式 注释尽量也写在内容上方
  2. (字段修饰符)数据类型 字段名称 = 唯一的编号标签值;
  • 唯一的编号标签:代表每个字段的一个唯一的编号标签,在同一个消息里不可以重复。这些编号标签用与在消息二进制格式中标识你的字段,并且消息一旦定义就不能更改。需要说明的是标签在1到15范围的采用一个字节进行编码,所以通常将标签1到15用于频繁发生的消息字段。编号标签大小的范围是1到2的29次。19000-19999是官方预留的值,不能使用。
  • 注释格式:向.proto文件添加注释,可以使用C/C++/java/Go风格的双斜杠(//) 语法格式或者/*.....*/

message常见的数据类型与go中类型对比

.proto类型 Go类型 介绍
double float64 64位浮点数
float float32 32位浮点数
int32 int32 使用可变长度编码。编码负数效率低下——如果你的字段可能有负值,请改用sint32。
int64 int64 使用可变长度编码。编码负数效率低下——如果你的字段可能有负值,请改用sint64。
uint32 uint32 使用可变长度编码。
uint64 uint64 使用可变长度编码。
sint32 int32 使用可变长度编码。符号整型值。这些比常规int32s编码负数更有效。
sint64 int64 使用可变长度编码。符号整型值。这些比常规int64s编码负数更有效。
fixed32 uint32 总是四字节。如果值通常大于228,则比uint 32更有效
fixed64 uint64 总是八字节。如果值通常大于256,则比uint64更有效
sfixed32 int32 总是四字节。
sfixed64 int64 总是八字节。
bool bool 布尔类型
string string 字符串必须始终包含UTF - 8编码或7位ASCII文本
bytes []byte 可以包含任意字节序列

3.3.1protobuf高级用法

protobuf除了上面的简单类型还有一些复杂的用法,如下:

message嵌套

messsage除了能放简单数据类型外,还能存放另外的message类型,如下:

  1. syntax = "proto3"; //指定版本信息,不指定会报错
  2. package pb; //后期生成go文件的包名
  3. //message为关键字,作用为定义一种消息类型
  4. message Person{
  5. // 名字
  6. string name = 1;
  7. // 年龄
  8. int32 age = 2 ;
  9. //定义一个message
  10. message PhoneNumber {
  11. string number = 1;
  12. int64 type = 2;
  13. }
  14. PhoneNumber phone = 3;
  15. }

repeated关键字

repeadted关键字类似与go中的切片,编译之后对应的也是go的切片,用法如下:

  1. syntax = "proto3"; //指定版本信息,不指定会报错
  2. package pb; //后期生成go文件的包名
  3. //message为关键字,作用为定义一种消息类型
  4. message Person{
  5. // 名字
  6. string name = 1;
  7. // 年龄
  8. int32 age = 2 ;
  9. //定义一个message
  10. message PhoneNumber {
  11. string number = 1;
  12. int64 type = 2;
  13. }
  14. repeated PhoneNumber phone = 3;
  15. }

默认值

解析数据时,如果编码的消息不包含特定的单数元素,则解析对象对象中的相应字段将设置为该字段的默认值。不同类型的默认值不同,具体如下:

  • 对于字符串,默认值为空字符串。
  • 对于字节,默认值为空字节。
  • 对于bools,默认值为false。
  • 对于数字类型,默认值为零。
  • 对于枚举,默认值是第一个定义的枚举值,该必须为0。
  • repeated字段默认值是空列表
  • message字段的默认值为空对象

enum关键字

在定义消息类型时,可能会希望其中一个字段有一个预定义的值列表。比如说,电话号码字段有个类型,这个类型可以是,home,work,mobile。我们可以通过enum在消息定义中添加每个可能值的常量来非常简单的执行此操作。实例如下:

  1. syntax = "proto3"; //指定版本信息,不指定会报错
  2. package pb; //后期生成go文件的包名
  3. //message为关键字,作用为定义一种消息类型
  4. message Person{
  5. // 名字
  6. string name = 1;
  7. // 年龄
  8. int32 age = 2 ;
  9. //定义一个message
  10. message PhoneNumber {
  11. string number = 1;
  12. PhoneType type = 2;
  13. }
  14. repeated PhoneNumber phone = 3;
  15. }
  16. //enum为关键字,作用为定义一种枚举类型
  17. enum PhoneType {
  18. MOBILE = 0;
  19. HOME = 1;
  20. WORK = 2;
  21. }

如上,enum的第一个常量映射为0,每个枚举定义必须包含一个映射到零的常量作为其第一个元素。这是因为:

  • 必须有一个零值,以便我们可以使用0作为数字默认值。
  • 零值必须是第一个元素,以便与proto2语义兼容,其中第一个枚举值始终是默认值。

enum还可以为不同的枚举常量指定相同的值来定义别名。如果想要使用这个功能必须讲allow_alias选项设置为true,负责编译器将报错。示例如下:

  1. syntax = "proto3"; //指定版本信息,不指定会报错
  2. package pb; //后期生成go文件的包名
  3. //message为关键字,作用为定义一种消息类型
  4. message Person{
  5. // 名字
  6. string name = 1;
  7. // 年龄
  8. int32 age = 2 ;
  9. //定义一个message
  10. message PhoneNumber {
  11. string number = 1;
  12. PhoneType type = 2;
  13. }
  14. repeated PhoneNumber phone = 3;
  15. }
  16. //enum为关键字,作用为定义一种枚举类型
  17. enum PhoneType {
  18. //如果不设置将报错
  19. option allow_alias = true;
  20. MOBILE = 0;
  21. HOME = 1;
  22. WORK = 2;
  23. Personal = 2;
  24. }

oneof关键字

如果有一个包含许多字段的消息,并且最多只能同时设置其中的一个字段,则可以使用oneof功能,示例如下:

  1. message Person{
  2. // 名字
  3. string name = 1;
  4. // 年龄
  5. int32 age = 2 ;
  6. //定义一个message
  7. message PhoneNumber {
  8. string number = 1;
  9. PhoneType type = 2;
  10. }
  11. repeated PhoneNumber phone = 3;
  12. oneof data{
  13. string school = 5;
  14. int32 score = 6;
  15. }
  16. }

定义RPC服务

如果需要将message与RPC一起使用,则可以在.proto文件中定义RPC服务接口,protobuf编译器将根据你选择的语言生成RPC接口代码。示例如下:

  1. //定义RPC服务
  2. service HelloService {
  3. rpc Hello (Person)returns (Person);
  4. }

大部分protobuf的语法就是这样,其他想学习的可以参考官方文档,语法写完之后,让我们编译一下,然后通过代码试用一下。

3.4 protobuf基本编译

protobuf编译是通过编译器protoc进行的,通过这个编译器,我们可以把.proto文件生成go,Java,Python,C++, Ruby, JavaNano, Objective-C,或者C# 代码,生成命令如下:

  1. protoc --proto_path=IMPORT_PATH --go_out=DST_DIR path/to/file.proto
  1. —proto_path=IMPORT_PATH,IMPORT_PATH是 .proto 文件所在的路径,如果忽略则默认当前目录。如果有多个目录则可以多次调用—proto_path,它们将会顺序的被访问并执行导入。
  2. —go_out=DST_DIR, 指定了生成的go语言代码文件放入的文件夹
  3. 允许使用 protoc --go_out=./ *.proto 的方式一次性编译多个 .proto 文件
  4. go语言编译时,protobuf 编译器会把 .proto 文件编译成 .pd.go 文件

一般在使用的时候我们都是使用下面这种简单的命令:

  1. protoc --go_out=./ *.proto

编译当前文件夹下的所有.proto文件,并把生成的go文件放置在当前文件夹下。

我们先来编译一个最简单的的proto文件,编译之后会得到一个如下一个go文件,如下:

1564628074411.png

message被对应的编译成go语言中的结构体,同时还为String类型自动生成了一组方法,其中ProtoMessage方法表示这是一个实现了proto.Message接口的方法。此外Protobuf还为每个成员生成了一个Get方法,Get方法不仅可以处理空指针类型,而且可以和Proto2的方法保持一致.

然后我们给这个.proto文件中添加一个RPC服务,再次进行编译,发现生成的go文件没有发生变化。这是因为世界上的RPC实现有很多种,protoc编译器并不知道该如何为HelloService服务生成代码。不过在protoc-gen-go内部已经集成了一个叫grpc的插件,可以针对grpc生成代码:

  1. protoc --go_out=plugins=grpc:. *.proto

在生成的代码中多了一些类似HelloServiceServer、HelloServiceClient的新类型。如下:

1564652925915.png

和我们优化之后的RPC服务有点相似,但是又不太一样,接下来就让我们来学习一下grpc框架吧。

4. GRPC框架

GRPC是Google公司基于Protobuf开发的跨语言的开源RPC框架。GRPC基于HTTP/2协议设计,可以基于一个HTTP/2链接提供多个服务,对于移动设备更加友好。目前提供 C、Java 和 Go 语言版本,分别是:grpc, grpc-java, grpc-go. 其中 C 版本支持 C, C++, Node.js, Python, Ruby, Objective-C, PHP 和 C# 支持.

在 gRPC里客户端应用可以像调用本地对象一样直接调用另一台不同的机器上服务端应用的方法,使得您能够更容易地创建分布式应用和服务。与许多 RPC系统类似, gRPC也是基于以下理念:

  • 定义一个服务,指定其能够被远程调用的方法(包含参数和返回类型)。
  • 在服务端实现这个接口,并运行一个 gRPC服务器来处理客户端调用。

在客户端拥有一个存根能够像服务端一样的方法。 gRPC客户端和服务端可以在多种环境中运行和交互 -从 google内部的服务器到你自己的笔记本,并且可以用任何 gRPC支持的语言 来编写。

所以,你可以很容易地用 Java创建一个 gRPC服务端,用 Go、 Python、Ruby来创建客户端。此外, Google最新 API将有 gRPC版本的接口,使你很容易地将 Google的功能集成到你的应用里。

参考资料

gRPC 官方文档中文版:http://doc.oschina.net/grpc?t=60133

gRPC官网:https://grpc.io

再详细了解使用GRPC之前先来了解一下上面定义中的一些关键词。

首先我们来看一下HTTP/2是什么内容?

其实本质上就是http2.0版本,http目前为止主要有四个版本,分别为http1.0、http1.1、http2.0、https。

http1.0是最原始的版本,不支持持久连接,效率也比较低

http1.1针对http1.0版本做了优化,可以连接一次,多次使用,效率比http1.0高

http2.0实现了多路复用,对http1.1再次进行了优化。http2.0也被称为下一代http协议,是在2013年8月进行首次测试,所以现在用的不是很广。

https其实是在http协议上多加了一层SSL协议,具体如下图:

1564539159120.png

所以本质上,http1.0、http1.1、http2.0都可以添加SSL协议。

4.1 grpc环境安装

  1. 官方推荐安装方法:

    1. go get -u -v google.golang.org/grpc

    但是由于一些原因,大部分同学不能直接访问google官网,所以只能曲线救国了

  2. 通过github下载各种依赖库,然后配置。
    ```shell git clone https://github.com/grpc/grpc-go.git $GOPATH/src/google.golang.org/grpc git clone https://github.com/golang/net.git $GOPATH/src/golang.org/x/net git clone https://github.com/golang/text.git $GOPATH/src/golang.org/x/text git clone https://github.com/google/go-genproto.git $GOPATH/src/google.golang.org/genproto

cd $GOPATH/src/ go install google.golang.org/grpc

  1. > 网络畅通可以用上述方法,但如果网速较慢,我们也可以选择离线安装方法。
  2. 3. `x.zip``google.golang.org.zip`两个离线包来安装。
  3. ```shell
  4. #将x.zip 解压到 $GOPATH/src/golang.org/x 目录下
  5. $ unzip x.zip -d $GOPATH/src/golang.org/x
  6. #将google.golang.org.zip 解压到 $GOPATH/src/google.golang.org 目录下
  7. $ unzip google.golang.org.zip -d $GOPATH/src/google.golang.org
  8. #然后进入到$GOPATH/src/google.golang.org/grpc下面执行go install
  9. $ go install

4.2 GRPC使用

  1. 如果从Protobuf的角度看,GRPC只不过是一个针对service接口生成代码的生成器。接着我们来学习一下GRPC的用法。这里我们创建一个简单的proto文件,定义一个HelloService接口:
  1. syntax = "proto3"; //指定版本信息
  2. package pb; //后期生成go文件的包名
  3. message Person{
  4. // 名字
  5. string name = 1;
  6. // 年龄
  7. int32 age = 2 ;
  8. }
  9. //定义RPC服务
  10. service HelloService {
  11. rpc Hello (Person)returns (Person);
  12. }

对proto文件进行编译:

  1. $ protoc --go_out=plugins=grpc:. *.proto

GRPC插件会为服务端和客户端生成不同的接口:

  1. //客户端接口
  2. type HelloServiceClient interface {
  3. Hello(ctx context.Context, in *Person, opts ...grpc.CallOption) (*Person, error)
  4. }
  5. //服务器接口
  6. type HelloServiceServer interface {
  7. Hello(context.Context, *Person) (*Person, error)
  8. }

我们接着可以基于他们给的服务端接口重新实现HelloService服务:

  1. type HelloService struct{}
  2. func (this*HelloService)Hello(ctx context.Context, person *pb.Person) (*pb.Person, error){
  3. reply := &pb.Person{
  4. Name:"zhangsan" + person.Name,
  5. Age:18,
  6. }
  7. return reply,nil
  8. }

GRPC的启动流程和RPC的启动流程类似,代码如下:

  1. func main(){
  2. //获取grpc服务端对象
  3. grpcServer := grpc.NewServer()
  4. //注册grpc服务
  5. pb.RegisterHelloServiceServer(grpcServer,new(HelloService))
  6. //设置服务端监听
  7. lis,err := net.Listen("tcp",":1234")
  8. if err != nil {
  9. panic(err)
  10. }
  11. //在指定端口上提供grpc服务
  12. grpcServer.Serve(lis)
  13. }

然后我们就可以通过客户端来连接GRPC服务了:

  1. func main(){
  2. //和grpc服务建立连接
  3. conn,err := grpc.Dial("localhost:1234",grpc.WithInsecure())
  4. if err != nil {
  5. panic(err)
  6. }
  7. defer conn.Close()
  8. client := pb.NewHelloServiceClient(conn)
  9. reply,err := client.Hello(context.Background(),&pb.Person{Name:"lisi",Age:100})
  10. if err != nil {
  11. panic(err)
  12. }
  13. fmt.Println("reply,",reply)
  14. }

5. go-micro框架

在了解go-micro之前,我们先来了解一下什么是micro。

Micro是一个专注于简化分布式系统开发的微服务生态系统。由开源库和工具组成。主要包含以下几种库:

  • go-micro:用于编写微服务的可插入Go-RPC框架; 服务发现,客户端/服务器rpc,pub/sub等,是整个Micro的核心。

    默认使用mdns做服务发现,可以在插件中替换成consul,etcd,k8s等

    组播 广播

  • go-plugins:go-micro的插件,包括etcd,kubernetes(k8s),nats,rabbitmq,grpc等

  • micro:一个包含传统入口点的微服务工具包; API网关,CLI,Slack Bot,Sidecar和Web UI。

其他各种库和服务可以在github.com/micro找到。

我们主要使用的框架也是go-micro,在使用之前我们先来了解一下服务发现是个什么东西?有什么作用?

5.1 服务发现

我们在做微服务开发的时候,客户端的一个接口可能需要调用N个服务,客户端必须知道所有服务的网络位置(ip+port),如下图所示

微服务技术讲义 - 图11

以往的做法是把服务的地址放在配置文件活数据库中,这样就有以下几个问题:

  • 需要配置N个服务的网络位置,加大配置的复杂性
  • 服务的网络位置变化,需要改变每个调用者的配置
  • 集群的情况下,难以做负载(反向代理的方式除外)

总结起来一句话:服务多了,配置很麻烦,问题一大堆

所以现在就选择服务发现来解决这些问题。我们来看一下,服务发现如何解决这个问题,具体设计如下:

微服务技术讲义 - 图12

与之前解决方法不同的是,加了个服务发现模块。服务端把当前自己的网络位置注册到服务发现模块(这里注册的意思就是告诉),服务发现就以K-V的方式记录下,K一般是服务名,V就是IP:PORT。服务发现模块定时的轮询查看这些服务能不能访问的了(这就是健康检查)。客户端在调用服务A-N的时候,就跑去服务发现模块问下它们的网络位置,然后再调用它们的服务。这样的方式是不是就可以解决上面的问题了呢?客户端完全不需要记录这些服务的网络位置,客户端和服务端完全解耦!

常见的服务发现框架有:Etcd、Eureka、Consul、Zookeeper

这里我们选择go-micro默认的服务发现框架consul来做一个详细介绍。

5.2 了解consul并使用

Consul是HashiCorp公司推出的开源工具,用于实现分布式系统的服务发现与配置。包含多个组件,但是作为一个整体,为你的基础设施提供服务发现和服务配置的工具.他提供以下关键特性:

服务发现:consul通过DNS或者HTTP接口使服务注册和服务发现变的很容易,一些外部服务,例如saas提供的也可以一样注册。

健康检查:健康检测使consul可以快速的告警在集群中的操作。和服务发现的集成,可以防止服务转发到故障的服务上面。(心跳机制)

键/值存储:一个用来存储动态配置的系统。提供简单的HTTP接口,可以在任何地方操作。

多数据中心:无需复杂的配置,即可支持任意数量的区域。

官方建议:最好是三台或者三台以上的consul在运行,同名服务最好是三台或三台以上,默认可以搭建集群

5.2.1 consul安装

  1. ConsulGolang实现,因此具有天然可移植性 (支持 LinuxwindowsmacOS)。安装包仅包含一个可执行文件。 Consul安装非常简单,只需要下载对应系统的软件包并解压后就可使用。

安装步骤如下:

  1. # 这里以 ubuntu系统为例:
  2. $ wget https://releases.hashicorp.com/consul/1.5.2/consul_1.5.2_linux_amd64.zip
  3. $ unzip consul_1.5.2_linux_amd64.zip
  4. $ sudo mv consul /usr/local/bin/

教室网速原因,用老师给的离线包解压即可

其他系统版本可以在这里下载:https://www.consul.io/downloads.html

安装验证:

安装 Consul后,通过执行 consul命令,你可以看到命令列表的输出

微服务技术讲义 - 图13

没有报错就成功了

5.2.2 consul的命令行

consul安装好之后,我们来使用一下吧。首先我们来看一下consul都有哪些命令。使用命令consul -h可以查看consul支持的所有参数,而且每个参数里面还支持其他参数,下面我们来具体看看。

agent:指令是consul的核心,它运行agent来维护成员的重要信息、运行检查、服务宣布、查询处理等等。

  1. ==> Usage: consul agent [options]
  2. Starts the Consul agent and runs until an interrupt is received. The
  3. agent represents a single node in a cluster.
  4. Options:
  5. -advertise=addr Sets the advertise address to use
  6. -advertise-wan=addr Sets address to advertise on wan instead of
  7. advertise addr
  8. -bootstrap Sets server to bootstrap mode
  9. -bind=0.0.0.0 Sets the bind address for cluster
  10. communication
  11. -http-port=8500 Sets the HTTP API port to listen on
  12. -bootstrap-expect=0 Sets server to expect bootstrap mode.
  13. -client=127.0.0.1 Sets the address to bind for client access.
  14. This includes RPC, DNS, HTTP and HTTPS (if
  15. configured)
  16. -config-file=foo Path to a JSON file to read configuration
  17. from. This can be specified multiple times.
  18. -config-dir=foo Path to a directory to read configuration
  19. files from. This will read every file ending
  20. in ".json" as configuration in this
  21. directory in alphabetical order. This can be
  22. specified multiple times.
  23. -data-dir=path Path to a data directory to store agent
  24. state
  25. -dev Starts the agent in development mode.
  26. -recursor=1.2.3.4 Address of an upstream DNS server.
  27. Can be specified multiple times.
  28. -dc=east-aws Datacenter of the agent (deprecated: use
  29. 'datacenter' instead).
  30. -datacenter=east-aws Datacenter of the agent.
  31. -encrypt=key Provides the gossip encryption key
  32. -join=1.2.3.4 Address of an agent to join at start time.
  33. Can be specified multiple times.
  34. -join-wan=1.2.3.4 Address of an agent to join -wan at start
  35. time. Can be specified multiple times.
  36. -retry-join=1.2.3.4 Address of an agent to join at start time
  37. with retries enabled. Can be specified
  38. multiple times.
  39. -retry-interval=30s Time to wait between join attempts.
  40. -retry-max=0 Maximum number of join attempts. Defaults to
  41. 0, which will retry indefinitely.
  42. -retry-join-ec2-region EC2 Region to use for discovering servers to
  43. join.
  44. -retry-join-ec2-tag-key EC2 tag key to filter on for server
  45. discovery
  46. -retry-join-ec2-tag-value EC2 tag value to filter on for server
  47. discovery
  48. -retry-join-gce-project-name Google Compute Engine project to discover
  49. servers in
  50. -retry-join-gce-zone-pattern Google Compute Engine region or zone to
  51. discover servers in (regex pattern)
  52. -retry-join-gce-tag-value Google Compute Engine tag value to filter
  53. for server discovery
  54. -retry-join-gce-credentials-file Path to credentials JSON file to use with
  55. Google Compute Engine
  56. -retry-join-wan=1.2.3.4 Address of an agent to join -wan at start
  57. time with retries enabled. Can be specified
  58. multiple times.
  59. -retry-interval-wan=30s Time to wait between join -wan attempts.
  60. -retry-max-wan=0 Maximum number of join -wan attempts.
  61. Defaults to 0, which will retry
  62. indefinitely.
  63. -log-level=info Log level of the agent.
  64. -node=hostname Name of this node. Must be unique in the
  65. cluster
  66. -node-meta=key:value An arbitrary metadata key/value pair for
  67. this node.
  68. This can be specified multiple times.
  69. -protocol=N Sets the protocol version. Defaults to
  70. latest.
  71. -rejoin Ignores a previous leave and attempts to
  72. rejoin the cluster.
  73. -server Switches agent to server mode.
  74. -syslog Enables logging to syslog
  75. -ui Enables the built-in static web UI server
  76. -ui-dir=path Path to directory containing the Web UI
  77. resources
  78. -pid-file=path Path to file to store agent PID

info:指令提供了各种操作时可以用到的debug信息,对于client和server,info有返回不同的子系统信息,目前有以下几个KV信息:agent(提供agent信息),consul(提供consul库的信息),raft(提供raft库的信息),serf_lan(提供LAN gossip pool),serf_wan(提供WAN gossip pool)

leave:指令触发一个优雅的离开动作并关闭agent,节点离开后不会尝试重新加入集群中。运行在server状态的节点,节点会被优雅的删除,这是很严重的,在某些情况下一个不优雅的离开会影响到集群的可用性。

members:指令输出consul agent目前所知道的所有的成员以及它们的状态,节点的状态只有alive、left、failed三种状态。

-detailed:输出每个节点更详细的信息。
-rpc-addr:一个rpc地址,agent可以链接上来发送命令,如果没有指定,默认是127.0.0.1:8400。
-status:过滤出符合正则规则的节点

reload:指令可以重新加载agent的配置文件。SIGHUP指令在重新加载配置文件时使用,任何重新加载的错误都会写在agent的log文件中,并不会打印到屏幕。

5.2.3 consul简单使用

首先我们要运行consul,运行有两种模式,分别是server和client,通过下面的命令开启:

  1. consul agent -server
  2. consul agent

每个数据中心至少必须拥有一个server。一个client是一个非常轻量级的进程.用于注册服务,运行健康检查和转发对server的查询.agent必须在集群中的每个主机上运行.

接着我们以server的模式启动一个consul:

server模式启动

  1. $ consul agent -server -bootstrap-expect 1 -data-dir /tmp/consul -node=n1 -bind=192.168.6.108 -ui -rejoin -config-dir=/etc/consul.d/ -client 0.0.0.0

微服务技术讲义 - 图14

需要先在/etc/下面创建consul.d目录

  • -server : 定义agent运行在server模式
  • -bootstrap-expect :在一个datacenter中期望提供的server节点数目,当该值提供的时候,consul一直等到达到指定sever数目的时候才会引导整个集群,该标记不能和bootstrap共用
  • -bind:该地址用来在集群内部的通讯,集群内的所有节点到地址都必须是可达的,默认是0.0.0.0
  • -node:节点在集群中的名称,在一个集群中必须是唯一的,默认是该节点的主机名
  • -ui: 启动web界面 :8500
  • -rejoin:使consul忽略先前的离开,在再次启动后仍旧尝试加入集群中。
  • -config-dir:配置文件目录,里面所有以.json结尾的文件都会被加载
  • -client:consul服务侦听地址,这个地址提供HTTP、DNS、RPC等服务,默认是127.0.0.1所以不对外提供服务,如果你要对外提供服务改成0.0.0.0
  • data-dir:提供一个目录用来存放agent的状态,所有的agent允许都需要该目录,该目录必须是稳定的,系统重启后都继续存在

client模式启动

  1. $ consul agent -data-dir /tmp/consul -node=n2 -bind=192.168.137.82 -config-dir /etc/consul.d -rejoin -join 192.168.137.81

运行cosnul agent以client模式,-join 加入到已有的集群中去。

查看consul成员

  1. $ consul members
  2. #节点 网络地址 状态 类型 版本 协议 数据中心 分管部分
  3. Node Address Status Type Build Protocol DC Segment
  4. n1 192.168.137.130:8301 alive server 1.1.0 2 dc1 <all>
  5. n3 192.168.137.81:8301 alive client 1.1.0 2 dc1 <default>

停止agent

你可以使用Ctrl-C 优雅的关闭Agent. 中断Agent之后你可以看到他离开了集群并关闭.

  1. 在退出中,Consul提醒其他集群成员,这个节点离开了.如果你强行杀掉进程.集群的其他成员应该能检测到这个节点失效了.当一个成员离开,他的服务和检测也会从目录中移除.当一个成员失效了,他的健康状况被简单的标记为危险,但是不会从目录中移除.Consul会自动尝试对失效的节点进行重连.允许他从某些网络条件下恢复过来.离开的节点则不会再继续联系.
  2. 此外,如果一个agent作为一个服务器,一个优雅的离开是很重要的,可以避免引起潜在的可用性故障影响达成一致性协议.<br />consul优雅的退出:
  1. $ consul leave

注册服务

搭建好conusl集群后,用户或者程序就能到consul中去查询或者注册服务。可以通过提供服务定义文件或者调用HTTP API来注册一个服务.

这里我们使用定义服务文件来注册一个服务:

  1. {"service": {
  2. "name": "Faceid",
  3. "tags": ["rails"],
  4. "port": 9000
  5. }
  6. }

服务定义文件在我们的配置目录下面,/etc/consul.d/,文件都是以.json结尾。

注册完服务之后,我们重启consul,

微服务技术讲义 - 图15

红圈里面的就是表示agent从配置文件中载入了服务定义,并且成功注册到服务目录.

如果需要注册多个服务,就需要创建多个服务定义文件。

查询服务

一旦agent启动并且服务同步了.我们可以通过DNS或者HTTP的API来查询服务.这里我们通过HTTP来查询服务:

  1. $ curl -s 127.0.0.1:8500/v1/catalog/service/faceid

得到一串json数据,不过格式不够清晰,拷贝到在线json格式解析器中,如下所示:

微服务技术讲义 - 图16

我们还可以打开web页面,查看注册的服务。默认consul对应的端口是8500,在浏览器输入地址localhost:8500

微服务技术讲义 - 图17

也能看到我们注册的服务。

健康检查

健康检查是服务发现的关键组件.预防使用到不健康的服务.和服务注册类似,一个检查可以通过检查定义或HTTP API请求来注册.我们将使用和检查定义来注册检查.和服务类似,因为这是建立检查最常用的方式.

在/etc/consul.d/目录下面创建文件web2.json,内容如下:

  1. {"service": {
  2. "name": "web",
  3. "tags": ["extract", "verify", "compare", "idcard"],
  4. "address": "192.168.137.130",
  5. "port": 9000,
  6. "check": {
  7. "id": "api",
  8. "name": "HTTP API on port 9000",
  9. "http": "http://localhost:9000",
  10. "interval": "10s",
  11. "timeout": "1s"
  12. }
  13. }
  14. }

这时候我们没有开启这个服务,所以这个时候健康检查会出错。打开web界面,如下

consul做健康检查的必须是Script、HTTP、TCP、TTL中的一种。

Script类型需要提供Script脚本和interval变量。具体配置如下:

  1. {
  2. "check": {
  3. "id": "mem-util",
  4. "name": "Memory utilization",
  5. "script": "/usr/local/bin/check_mem.py",
  6. "interval": "10s",
  7. "timeout": "1s"
  8. }
  9. }

通过执行外部应用进行健康检查:这种外部程序具有退出代码,并可能产生一些输出;脚本按照指预置时间间隔来调用(比如,每30秒调用一次),类似于Nagios插件系统,脚本输出限制在4K以内,输出大于4K将截断。默认情况下,脚本超时时间为30秒——可通过timeout来配置。

HTTP类型必须提供http和Interval字段。具体代码如下:

  1. {
  2. "check": {
  3. "id": "api",
  4. "name": "HTTP API on port 5000",
  5. "http": "http://localhost:5000/health",
  6. "interval": "10s",
  7. "timeout": "1s"
  8. }
  9. }

这种检查将按照预设的时间间隔创建一个HTTP “get”请求。HTTP响应代码来标示服务所处状态:任何2xx代码视为正常,429表示警告——有很多请求;其他值表示失败。

这种类型的检查应使用curl或外部程序来处理HTTP操作。默认情况下,HTTP Checks中,请求超时时间等于调用请求的间隔时间,最大10秒。有可能使用客制的HTTP check,可以自由配置timeout时间,输出限制在4K以内,输出大于4K将截断。

TCP类型需要提供tcp和Interval字段。具体代码如下:

  1. {
  2. "check": {
  3. "id": "ssh",
  4. "name": "SSH TCP on port 22",
  5. "tcp": "localhost:22",
  6. "interval": "10s",
  7. "timeout": "1s"
  8. }
  9. }

这种检查将按照预设的时间间隔与指定的IP/Hostname和端口创建一个TCP连接。服务的状态依赖于TCP连接是否成功——如果连接成功,则状态是“success”;否则状态是“critical”。如果一个Hostname解析为一个IPv4和一个IPv6,将尝试连接这两个地址,第一次连接成功则服务状态是“success”。默认情况下,TCP checks中,请求超时时间等于调用请求的间隔时间,最大10秒。也是可以自由配置的。

TTL(Timeto Live生存时间)类型只需提供ttl,具体配置如下:

  1. {
  2. "check": {
  3. "id": "web-app",
  4. "name": "Web App Status",
  5. "notes": "Web app does a curl internally every 10 seconds",
  6. "ttl": "30s"
  7. }
  8. }

这种checks为给定TTL保留了最后一种状态,checks的状态必须通过HTTP接口周期性更新,如果外部接口没有更新状态,那么状态就会被认定为不正常。 TTL checks同时会将其最后已知状态更新至磁盘,这允许Agent通过重启后恢复到已知的状态。通过TTL端上一次check来维持健康状态的有效性。

我们也可以通过页面来查看,在浏览器输入网址:http://192.68.130.137:8500

微服务技术讲义 - 图18

其他更多consul功能,我们可以参考http://www.liangxiansen.cn/2017/04/06/consul/

5.2.4 consul和grpc结合使用

学完了consul命令行的使用,接着我们来看一下,在代码中如何通过,这里我们用grpc和consul结合使用。

我们操作consul使用的是github.com/hashicorp/consul/包,我们先来下载一下,命令如下:

  1. $ go get -u -v github.com/hashicorp/consul

然后我们先注册一个服务到consul上:

把grpc服务注册到consul上

代码如下:

  1. func main(){
  2. //初始化consul配置
  3. consulConfig := api.DefaultConfig()
  4. //获取consul操作对象
  5. registry,_ := api.NewClient(consulConfig)
  6. //注册服务,服务的常规配置
  7. registerService := api.AgentServiceRegistration{
  8. ID:"1",
  9. Tags:[]string{"testHello"},
  10. Name:"HelloService",
  11. Port:8080,
  12. Address:"192.168.137.130",
  13. Check:&api.AgentServiceCheck{
  14. TCP:"192.168.137.130:8080",
  15. Timeout:"5s",
  16. Interval:"5s",
  17. },
  18. }
  19. //注册服务到consul上
  20. registry.Agent().ServiceRegister(&registerService)
  21. //获取grpc服务端对象
  22. grpcServer := grpc.NewServer()
  23. //注册grpc服务
  24. pb.RegisterHelloServiceServer(grpcServer,new(HelloService))
  25. //设置服务端监听
  26. lis,err := net.Listen("tcp",":1234")
  27. if err != nil {
  28. panic(err)
  29. }
  30. //在指定端口上提供grpc服务
  31. grpcServer.Serve(lis)
  32. }

服务发现

  1. func main(){
  2. //初始化consul配置, 客户端服务器需要一致
  3. consulConfig := api.DefaultConfig()
  4. //获取consul操作对象
  5. registerClient,_ := api.NewClient(consulConfig)
  6. //获取地址
  7. serviceEntry,_,_ :=registerClient.Health().Service("HelloService","testHello",false,&api.QueryOptions{})
  8. //和grpc服务建立连接
  9. conn,err := grpc.Dial(serviceEntry[0].Service.Address+":"+strconv.Itoa(serviceEntry[0].Service.Port),grpc.WithInsecure())
  10. if err != nil {
  11. panic(err)
  12. }
  13. defer conn.Close()
  14. client := pb.NewHelloServiceClient(conn)
  15. reply, err := client.Hello(context.Background(),&pb.Person{Name:"lisi",Age:100})
  16. if err != nil {
  17. panic(err)
  18. }
  19. fmt.Println("reply,",reply)
  20. }

注销服务

  1. func main(){
  2. //初始化consul配置,客户端服务器需要一致
  3. consulConfig := api.DefaultConfig()
  4. //获取consul操作对象
  5. registerClient,_ := api.NewClient(consulConfig)
  6. //注销服务
  7. client.Agent().ServiceDeregister("1")
  8. }

etcd、 zookeeper

5.3 go-micro安装

做了这么久的铺垫,接着让我们来进入主题,go-micro的学习,首先我们先来安装一下go-micro开发环境。安装步骤如下:

  1. #安装go-micro
  2. go get -u -v github.com/micro/go-micro
  3. #安装工具集
  4. go get -u -v github.com/micro/micro
  5. #安装protobuf插件
  6. go get -u github.com/golang/protobuf/{proto,protoc-gen-go}
  7. go get -u github.com/micro/protoc-gen-micro

或者通过docker镜像安装:

  1. $ docker pull microhq/micro

安装之后输入micro命令,显示如下就证明安装成功

微服务技术讲义 - 图19

接着我们来看一下go-micro的使用。

5.4 go-micro使用

首先我们先来创建一个go micro框架的项目,我们使用micro命令,可以创建微服务,web项目等,具体用法如下:

  1. new Create a new Micro service by specifying a directory path relative to your $GOPATH
  2. #创建 通过指定相对于$GOPATH的目录路径,创建一个新的微服务。
  3. USAGE:
  4. #用法
  5. micro new [command options][arguments...]
  6. #指定服务的命名空间
  7. --namespace "go.micro" Namespace for the service e.g com.example
  8. #服务类型,可以是微服务srv,或者web项目,或者api等
  9. --type "srv" Type of service e.g api, fnc, srv, web
  10. #服务的正式完整定义
  11. --fqdn FQDN of service e.g com.example.srv.service (defaults to namespace.type.alias)
  12. #别名是在指定时作为组合名的一部分使用的短名称 别名
  13. --alias Alias is the short name used as part of combined name if specified

我们常用的就是创建微服务和web项目,如下:

创建一个web项目

  1. micro new --type "web" micro/rpc/web
  2. Creating service go.micro.web.web in /home/itcast/go/src/micro/rpc/web
  3. .
  4. #主函数
  5. ├── main.go
  6. #插件文件
  7. ├── plugin.go
  8. #被调用处理函数
  9. ├── handler
  10. └── handler.go
  11. #前端页面
  12. ├── html
  13. └── index.html
  14. #docker生成文件
  15. ├── Dockerfile
  16. ├── Makefile
  17. └── README.md
  18. #编译后将web端呼叫srv端的客户端连接内容修改为srv的内容
  19. #需要进行调通

打开我们web项目下的main.go文件,内容如下:

  1. package main
  2. import (
  3. "github.com/micro/go-log"
  4. "net/http"
  5. "github.com/micro/go-web"
  6. "micro/rpc/web/handler"
  7. )
  8. func main() {
  9. // 创建1个web服务
  10. service := web.NewService(
  11. //注册服务名
  12. web.Name("go.micro.web.web"),
  13. //服务的版本号
  14. web.Version("latest"),
  15. //!添加端口
  16. web.Address(":8080"),
  17. )
  18. //服务进行初始化
  19. if err := service.Init(); err != nil {
  20. log.Fatal(err)
  21. }
  22. //处理请求 / 的路由 //当前这个web微服务的 html文件进行映射
  23. service.Handle("/", http.FileServer(http.Dir("html")))
  24. //处理请求 /example/call 的路由 这个相应函数 在当前项目下的handler
  25. service.HandleFunc("/example/call", handler.ExampleCall)
  26. //运行服务
  27. if err := service.Run(); err != nil {
  28. log.Fatal(err)
  29. }
  30. }

接着我们再来看一下我们重点需要操作的文件,handle.go,内容如下:

  1. package handler
  2. import (
  3. "context"
  4. "encoding/json"
  5. "net/http"
  6. "time"
  7. "github.com/micro/go-micro/client"
  8. //将srv中的proto的文件导入进来进行通信的使用
  9. example "micro/rpc/srv/proto/example"
  10. )
  11. //相应请求的业务函数
  12. func ExampleCall(w http.ResponseWriter, r *http.Request) {
  13. // 将传入的请求解码为json
  14. var request map[string]interface{}
  15. if err := json.NewDecoder(r.Body).Decode(&request); err != nil {
  16. http.Error(w, err.Error(), 500)
  17. return
  18. }
  19. // 调用服务
  20. //替换掉原有的服务名
  21. //通过服务名和
  22. exampleClient := example.NewExampleService("go.micro.srv.srv", client.DefaultClient)
  23. rsp, err := exampleClient.Call(context.TODO(), &example.Request{
  24. Name: request["name"].(string),
  25. })
  26. if err != nil {
  27. http.Error(w, err.Error(), 500)
  28. return
  29. }
  30. // we want to augment the response
  31. response := map[string]interface{}{
  32. "msg": rsp.Msg,
  33. "ref": time.Now().UnixNano(),
  34. }
  35. // encode and write the response as json
  36. if err := json.NewEncoder(w).Encode(response); err != nil {
  37. http.Error(w, err.Error(), 500)
  38. return
  39. }
  40. }

创建微服务

  1. $micro new --type "srv" t1/t1
  2. #"srv" 是表示当前创建的微服务类型
  3. #micro是相对于go/src下的文件夹名称 可以根据项目进行设置
  4. #srv是当前创建的微服务的文件名
  5. Creating service go.micro.srv.srv in /home/itcast/go/src/t1/t1
  6. .
  7. #主函数存放位置
  8. ├── main.go
  9. #插件
  10. ├── plugin.go
  11. #服务提供函数的实现
  12. ├── handler
  13. └── example.go
  14. #订阅服务
  15. ├── subscriber
  16. └── example.go
  17. #proto协议
  18. ├── proto/example
  19. └── example.proto
  20. #docker生成文件
  21. ├── Dockerfile
  22. #编译文件
  23. ├── Makefile
  24. └── README.md
  25. #插件提示,已安装,可忽略
  26. download protobuf for micro:
  27. brew install protobuf
  28. go get -u github.com/golang/protobuf/{proto,protoc-gen-go}
  29. go get -u github.com/micro/protoc-gen-micro
  30. compile the proto file example.proto:
  31. cd /home/itcast/go/src/micro/rpc/srv
  32. protoc --proto_path=. --go_out=. --micro_out=. proto/example/example.proto

我们来看一下微服务中的main.go文件:

  1. package main
  2. import (
  3. "github.com/micro/go-micro/util/log"
  4. "github.com/micro/go-micro"
  5. "t1/t1/handler"
  6. "t1/t1/subscriber"
  7. t1 "t1/t1/proto/t1"
  8. )
  9. func main() {
  10. // 创建一个micro服务
  11. service := micro.NewService(
  12. micro.Name("go.micro.srv.t1"),
  13. micro.Version("latest"),
  14. )
  15. // 初始化服务
  16. service.Init()
  17. // 注册服务
  18. t1.RegisterT1Handler(service.Server(), new(handler.T1))
  19. // 注册一个发布器
  20. micro.RegisterSubscriber("go.micro.srv.t1", service.Server(), new(subscriber.T1))
  21. // 注册一个函数到发布器
  22. micro.RegisterSubscriber("go.micro.srv.t1", service.Server(), subscriber.Handler)
  23. // 运行服务
  24. if err := service.Run(); err != nil {
  25. log.Fatal(err)
  26. }
  27. }

默认情况下,go micro框架使用的是自己封装的rpc通信,这里我们可以替换成grpc,代码如下:

  1. package main
  2. import (
  3. "github.com/micro/go-micro/util/log"
  4. "github.com/micro/go-micro"
  5. "t1/t1/handler"
  6. "t1/t1/subscriber"
  7. "github.com/micro/go-grpc"//go micro内嵌了grpc框架
  8. t1 "t1/t1/proto/t1"
  9. )
  10. func main() {
  11. // 创建一个micro服务
  12. service := grpc.NewService(
  13. micro.Name("go.micro.srv.t1"),
  14. micro.Version("latest"),
  15. )
  16. // 初始化服务
  17. service.Init()
  18. // 注册服务
  19. t1.RegisterT1Handler(service.Server(), new(handler.T1))
  20. // 注册一个发布器
  21. micro.RegisterSubscriber("go.micro.srv.t1", service.Server(), new(subscriber.T1))
  22. // 注册一个函数到发布器
  23. micro.RegisterSubscriber("go.micro.srv.t1", service.Server(), subscriber.Handler)
  24. // 运行服务
  25. if err := service.Run(); err != nil {
  26. log.Fatal(err)
  27. }
  28. }

服务发现:

在go-micro包中,共有4种注册实现consul、gossip、mdns、memory,前两个都是基于hashicorp公司的协议,mdns则是基于组网广播实现,memory则是本地实现。

consul 依赖hashicorp的组件,但是功能强大、完整
gossip 基于SWIM协议广播,零依赖
mdns 轻量、零依赖,但是对环境有要求,某些环境不支持mdns的无法正常使用
memory 本地解决方案,不可跨主机访问
另外在go-plugins中有其它注册实现,比如etcd、eureka、k8s、nats、zk等等

大体解释下接口中每个方法的作用

  • Init 初始化
  • Options 获取配置选项
  • Register 注册服务
  • Deregister 卸载服务
  • GetService 获取指定服务
  • ListServices 列出所有服务
  • Watch watcher 负责侦听变动
  • String 注册信息转成字符串描述
  1. package main
  2. import (
  3. "github.com/micro/go-micro/util/log"
  4. "github.com/micro/go-micro"
  5. "t1/t1/handler"
  6. "t1/t1/subscriber"
  7. "github.com/micro/go-grpc"
  8. "github.com/micro/go-micro/registry/consul"
  9. "github.com/micro/go-micro/registry"
  10. t1 "t1/t1/proto/t1"
  11. )
  12. func main() {
  13. //初始化服务发现
  14. reg := consul.NewRegistry(func(options *registry.Options) {
  15. options.Addrs = []string{
  16. "192.168.137.130:8500",
  17. }
  18. })
  19. // 创建一个micro服务
  20. service := grpc.NewService(
  21. micro.Name("go.micro.srv.t1"),
  22. micro.Version("latest"),
  23. micro.Registry(reg),
  24. )
  25. // 初始化服务
  26. service.Init()
  27. // 注册服务
  28. t1.RegisterT1Handler(service.Server(), new(handler.T1))
  29. // 注册一个发布器
  30. micro.RegisterSubscriber("go.micro.srv.t1", service.Server(), new(subscriber.T1))
  31. // 注册一个函数到发布器
  32. micro.RegisterSubscriber("go.micro.srv.t1", service.Server(), subscriber.Handler)
  33. // 运行服务
  34. if err := service.Run(); err != nil {
  35. log.Fatal(err)
  36. }
  37. }