1.1.1. RPC简介

  • 远程过程调用(Remote Procedure Call,RPC)是一个计算机通信协议
  • 该协议允许运行于一台计算机的程序调用另一台计算机的子程序,而程序员无需额外地为这个交互作用编程
  • 如果涉及的软件采用面向对象编程,那么远程过程调用亦可称作远程调用或远程方法调用

    1.1.2. 流行RPC框架的对比

    RPC - 图1

    1.1.3. golang中如何实现RPC

  • golang中实现RPC非常简单,官方提供了封装好的库,还有一些第三方的库

  • golang官方的net/rpc库使用encoding/gob进行编解码,支持tcp和http数据传输方式,由于其他语言不支持gob编解码方式,所以golang的RPC只支持golang开发的服务器与客户端之间的交互
  • 官方还提供了net/rpc/jsonrpc库实现RPC方法,jsonrpc采用JSON进行数据编解码,因而支持跨语言调用,目前jsonrpc库是基于tcp协议实现的,暂不支持http传输方式
  • 例题:golang实现RPC程序,实现求矩形面积和周长

服务端

  1. package main
  2. import (
  3. "log"
  4. "net/http"
  5. "net/rpc"
  6. )
  7. //  例题:golang实现RPC程序,实现求矩形面积和周长
  8. type Params struct {
  9. Width, Height int
  10. }
  11. type Rect struct{}
  12. // RPC服务端方法,求矩形面积
  13. func (r *Rect) Area(p Params, ret *int) error {
  14. *ret = p.Height * p.Width
  15. return nil
  16. }
  17. // 周长
  18. func (r *Rect) Perimeter(p Params, ret *int) error {
  19. *ret = (p.Height + p.Width) * 2
  20. return nil
  21. }
  22. // 主函数
  23. func main() {
  24. // 1.注册服务
  25. rect := new(Rect)
  26. // 注册一个rect的服务
  27. rpc.Register(rect)
  28. // 2.服务处理绑定到http协议上
  29. rpc.HandleHTTP()
  30. // 3.监听服务
  31. err := http.ListenAndServe(":8000", nil)
  32. if err != nil {
  33. log.Panicln(err)
  34. }
  35. }

客户端

  1. package main
  2. import (
  3. "fmt"
  4. "log"
  5. "net/rpc"
  6. )
  7. // 传的参数
  8. type Params struct {
  9. Width, Height int
  10. }
  11. // 主函数
  12. func main() {
  13. // 1.连接远程rpc服务
  14. conn, err := rpc.DialHTTP("tcp", ":8000")
  15. if err != nil {
  16. log.Fatal(err)
  17. }
  18. // 2.调用方法
  19. // 面积
  20. ret := 0
  21. err2 := conn.Call("Rect.Area", Params{50, 100}, &ret)
  22. if err2 != nil {
  23. log.Fatal(err2)
  24. }
  25. fmt.Println("面积:", ret)
  26. // 周长
  27. err3 := conn.Call("Rect.Perimeter", Params{50, 100}, &ret)
  28. if err3 != nil {
  29. log.Fatal(err3)
  30. }
  31. fmt.Println("周长:", ret)
  32. }
  • golang写RPC程序,必须符合4个基本条件,不然RPC用不了
    • 结构体字段首字母要大写,可以别人调用
    • 函数名必须首字母大写
    • 函数第一参数是接收参数,第二个参数是返回给客户端的参数,必须是指针类型
    • 函数还必须有一个返回值error
  • 练习:模仿前面例题,自己实现RPC程序,服务端接收2个参数,可以做乘法运算,也可以做商和余数的运算,客户端进行传参和访问,得到结果如下:

服务端代码:

  1. package main
  2. import (
  3. "errors"
  4. "log"
  5. "net/http"
  6. "net/rpc"
  7. )
  8. // 结构体,用于注册的
  9. type Arith struct{}
  10. // 声明参数结构体
  11. type ArithRequest struct {
  12. A, B int
  13. }
  14. // 返回给客户端的结果
  15. type ArithResponse struct {
  16. // 乘积
  17. Pro int
  18. // 商
  19. Quo int
  20. // 余数
  21. Rem int
  22. }
  23. // 乘法
  24. func (this *Arith) Multiply(req ArithRequest, res *ArithResponse) error {
  25. res.Pro = req.A * req.B
  26. return nil
  27. }
  28. // 商和余数
  29. func (this *Arith) Divide(req ArithRequest, res *ArithResponse) error {
  30. if req.B == 0 {
  31. return errors.New("除数不能为0")
  32. }
  33. // 除
  34. res.Quo = req.A / req.B
  35. // 取模
  36. res.Rem = req.A % req.B
  37. return nil
  38. }
  39. // 主函数
  40. func main() {
  41. // 1.注册服务
  42. rect := new(Arith)
  43. // 注册一个rect的服务
  44. rpc.Register(rect)
  45. // 2.服务处理绑定到http协议上
  46. rpc.HandleHTTP()
  47. // 3.监听服务
  48. err := http.ListenAndServe(":8000", nil)
  49. if err != nil {
  50. log.Fatal(err)
  51. }
  52. }

客户端代码:

  1. package main
  2. import (
  3. "fmt"
  4. "log"
  5. "net/rpc"
  6. )
  7. type ArithRequest struct {
  8. A, B int
  9. }
  10. // 返回给客户端的结果
  11. type ArithResponse struct {
  12. // 乘积
  13. Pro int
  14. // 商
  15. Quo int
  16. // 余数
  17. Rem int
  18. }
  19. func main() {
  20. conn, err := rpc.DialHTTP("tcp", ":8000")
  21. if err != nil {
  22. log.Fatal(err)
  23. }
  24. req := ArithRequest{9, 2}
  25. var res ArithResponse
  26. err2 := conn.Call("Arith.Multiply", req, &res)
  27. if err2 != nil {
  28. log.Fatal(err2)
  29. }
  30. fmt.Printf("%d * %d = %d\n", req.A, req.B, res.Pro)
  31. err3 := conn.Call("Arith.Divide", req, &res)
  32. if err3 != nil {
  33. log.Fatal(err3)
  34. }
  35. fmt.Printf("%d / %d 商 %d,余数 = %d\n", req.A, req.B, res.Quo, res.Rem)
  36. }

另外,net/rpc/jsonrpc库通过json格式编解码,支持跨语言调用
服务端代码:

  1. package main
  2. import (
  3. "fmt"
  4. "log"
  5. "net"
  6. "net/rpc"
  7. "net/rpc/jsonrpc"
  8. )
  9. type Params struct {
  10. Width, Height int
  11. }
  12. type Rect struct {
  13. }
  14. func (r *Rect) Area(p Params, ret *int) error {
  15. *ret = p.Width * p.Height
  16. return nil
  17. }
  18. func (r *Rect) Perimeter(p Params, ret *int) error {
  19. *ret = (p.Height + p.Width) * 2
  20. return nil
  21. }
  22. func main() {
  23. rpc.Register(new(Rect))
  24. lis, err := net.Listen("tcp", ":8080")
  25. if err != nil {
  26. log.Panicln(err)
  27. }
  28. for {
  29. conn, err := lis.Accept()
  30. if err != nil {
  31. continue
  32. }
  33. go func(conn net.Conn) {
  34. fmt.Println("new client")
  35. jsonrpc.ServeConn(conn)
  36. }(conn)
  37. }
  38. }

客户端代码:

  1. package main
  2. import (
  3. "fmt"
  4. "log"
  5. "net/rpc/jsonrpc"
  6. )
  7. type Params struct {
  8. Width, Height int
  9. }
  10. func main() {
  11. conn, err := jsonrpc.Dial("tcp", ":8080")
  12. if err != nil {
  13. log.Panicln(err)
  14. }
  15. ret := 0
  16. err2 := conn.Call("Rect.Area", Params{50, 100}, &ret)
  17. if err2 != nil {
  18. log.Panicln(err2)
  19. }
  20. fmt.Println("面积:", ret)
  21. err3 := conn.Call("Rect.Perimeter", Params{50, 100}, &ret)
  22. if err3 != nil {
  23. log.Panicln(err3)
  24. }
  25. fmt.Println("周长:", ret)
  26. }

1.1.4. RPC调用流程

  • 微服务架构下数据交互一般是对内 RPC,对外 REST
  • 将业务按功能模块拆分到各个微服务,具有提高项目协作效率、降低模块耦合度、提高系统可用性等优点,但是开发门槛比较高,比如 RPC 框架的使用、后期的服务监控等工作
  • 一般情况下,我们会将功能代码在本地直接调用,微服务架构下,我们需要将这个函数作为单独的服务运行,客户端通过网络调用

1.1.5. 网络传输数据格式

  • 两端要约定好数据包的格式
  • 成熟的RPC框架会有自定义传输协议,这里网络传输格式定义如下,前面是固定长度消息头,后面是变长消息体

RPC - 图2

  • 自己定义数据格式的读写 ```go package rpc

import ( “encoding/binary” “io” “net” )

// 测试网络中读写数据的情况

// 会话连接的结构体 type Session struct { conn net.Conn }

// 构造方法 func NewSession(conn net.Conn) *Session { return &Session{conn: conn} }

// 向连接中去写数据 func (s *Session) Write(data []byte) error { // 定义写数据的格式 // 4字节头部 + 可变体的长度 buf := make([]byte, 4+len(data)) // 写入头部,记录数据长度 binary.BigEndian.PutUint32(buf[:4], uint32(len(data))) // 将整个数据,放到4后边 copy(buf[4:], data) _, err := s.conn.Write(buf) if err != nil { return err } return nil }

// 从连接读数据 func (s *Session) Read() ([]byte, error) { // 读取头部记录的长度 header := make([]byte, 4) // 按长度读取消息 , err := io.ReadFull(s.conn, header) if err != nil { return nil, err } // 读取数据 dataLen := binary.BigEndian.Uint32(header) data := make([]byte, dataLen) , err = io.ReadFull(s.conn, data) if err != nil { return nil, err } return data, nil }

  1. **测试类**
  2. ```go
  3. package rpc
  4. import (
  5. "fmt"
  6. "net"
  7. "sync"
  8. "testing"
  9. )
  10. func TestSession_ReadWriter(t *testing.T) {
  11. // 定义地址
  12. addr := "127.0.0.1:8000"
  13. my_data := "hello"
  14. // 等待组定义
  15. wg := sync.WaitGroup{}
  16. wg.Add(2)
  17. // 写数据的协程
  18. go func() {
  19. defer wg.Done()
  20. lis, err := net.Listen("tcp", addr)
  21. if err != nil {
  22. t.Fatal(err)
  23. }
  24. conn, _ := lis.Accept()
  25. s := Session{conn: conn}
  26. err = s.Write([]byte(my_data))
  27. if err != nil {
  28. t.Fatal(err)
  29. }
  30. }()
  31. // 读数据的协程
  32. go func() {
  33. defer wg.Done()
  34. conn, err := net.Dial("tcp", addr)
  35. if err != nil {
  36. t.Fatal(err)
  37. }
  38. s := Session{conn: conn}
  39. data, err := s.Read()
  40. if err != nil {
  41. t.Fatal(err)
  42. }
  43. // 最后一层校验
  44. if string(data) != my_data {
  45. t.Fatal(err)
  46. }
  47. fmt.Println(string(data))
  48. }()
  49. wg.Wait()
  50. }

编码解码

  1. package rpc
  2. import (
  3. "bytes"
  4. "encoding/gob"
  5. )
  6. // 定义RPC交互的数据结构
  7. type RPCData struct {
  8. // 访问的函数
  9. Name string
  10. // 访问时的参数
  11. Args []interface{}
  12. }
  13. // 编码
  14. func encode(data RPCData) ([]byte, error) {
  15. //得到字节数组的编码器
  16. var buf bytes.Buffer
  17. bufEnc := gob.NewEncoder(&buf)
  18. // 编码器对数据编码
  19. if err := bufEnc.Encode(data); err != nil {
  20. return nil, err
  21. }
  22. return buf.Bytes(), nil
  23. }
  24. // 解码
  25. func decode(b []byte) (RPCData, error) {
  26. buf := bytes.NewBuffer(b)
  27. // 得到字节数组解码器
  28. bufDec := gob.NewDecoder(buf)
  29. // 解码器对数据节码
  30. var data RPCData
  31. if err := bufDec.Decode(&data); err != nil {
  32. return data, err
  33. }
  34. return data, nil
  35. }

1.1.6. 实现RPC服务端

  • 服务端接收到的数据需要包括什么?
    • 调用的函数名、参数列表,还有一个返回值error类型
  • 服务端需要解决的问题是什么?
    • Map维护客户端传来调用函数,服务端知道去调谁
  • 服务端的核心功能有哪些?
    • 维护函数map
    • 客户端传来的东西进行解析
    • 函数的返回值打包,传给客户端 ```go package rpc

import ( “fmt” “net” “reflect” )

// 声明服务端 type Server struct { // 地址 addr string // map 用于维护关系的 funcs map[string]reflect.Value }

// 构造方法 func NewServer(addr string) *Server { return &Server{addr: addr, funcs: make(map[string]reflect.Value)} }

// 服务端需要一个注册Register // 第一个参数函数名,第二个传入真正的函数 func (s *Server) Register(rpcName string, f interface{}) { // 维护一个map // 若map已经有键了 if _, ok := s.funcs[rpcName]; ok { return } // 若map中没值,则将映射加入map,用于调用 fVal := reflect.ValueOf(f) s.funcs[rpcName] = fVal }

// 服务端等待调用的方法 func (s *Server) Run() { // 监听 lis, err := net.Listen(“tcp”, s.addr) if err != nil { fmt.Printf(“监听 %s err :%v”, s.addr, err) return } for { // 服务端循环等待调用 conn, err := lis.Accept() if err != nil { return } serSession := NewSession(conn) // 使用RPC方式读取数据 b, err := serSession.Read() if err != nil { return } // 数据解码 rpcData, err := decode(b) if err != nil { return } // 根据读到的name,得到要调用的函数 f, ok := s.funcs[rpcData.Name] if !ok { fmt.Println(“函数 %s 不存在”, rpcData.Name) return } // 遍历解析客户端传来的参数,放切片里 inArgs := make([]reflect.Value, 0, len(rpcData.Args)) for , arg := range rpcData.Args { inArgs = append(inArgs, reflect.ValueOf(arg)) } // 反射调用方法 // 返回Value类型,用于给客户端传递返回结果,out是所有的返回结果 out := f.Call(inArgs) // 遍历out ,用于返回给客户端,存到一个切片里 outArgs := make([]interface{}, 0, len(out)) for , o := range out { outArgs = append(outArgs, o.Interface()) } // 数据编码,返回给客户端 respRPCData := RPCData{rpcData.Name, outArgs} bytes, err := encode(respRPCData) if err != nil { return } // 将服务端编码后的数据,写出到客户端 err = serSession.Write(bytes) if err != nil { return } } }

  1. <a name="AHhq8"></a>
  2. ### <br />1.1.7. 实现RPC客户端
  3. - 客户端只有函数原型,使用reflect.MakeFunc() 可以完成原型到函数的调用
  4. - reflect.MakeFunc()是Client从函数原型到网络调用的关键
  5. ```go
  6. package rpc
  7. import (
  8. "net"
  9. "reflect"
  10. )
  11. // 声明服务端
  12. type Client struct {
  13. conn net.Conn
  14. }
  15. // 构造方法
  16. func NewClient(conn net.Conn) *Client {
  17. return &Client{conn: conn}
  18. }
  19. // 实现通用的RPC客户端
  20. // 传入访问的函数名
  21. // fPtr指向的是函数原型
  22. //var select fun xx(User)
  23. //cli.callRPC("selectUser",&select)
  24. func (c *Client) callRPC(rpcName string, fPtr interface{}) {
  25. // 通过反射,获取fPtr未初始化的函数原型
  26. fn := reflect.ValueOf(fPtr).Elem()
  27. // 需要另一个函数,作用是对第一个函数参数操作
  28. f := func(args []reflect.Value) []reflect.Value {
  29. // 处理参数
  30. inArgs := make([]interface{}, 0, len(args))
  31. for _, arg := range args {
  32. inArgs = append(inArgs, arg.Interface())
  33. }
  34. // 连接
  35. cliSession := NewSession(c.conn)
  36. // 编码数据
  37. reqRPC := RPCData{Name: rpcName, Args: inArgs}
  38. b, err := encode(reqRPC)
  39. if err != nil {
  40. panic(err)
  41. }
  42. // 写数据
  43. err = cliSession.Write(b)
  44. if err != nil {
  45. panic(err)
  46. }
  47. // 服务端发过来返回值,此时应该读取和解析
  48. respBytes, err := cliSession.Read()
  49. if err != nil {
  50. panic(err)
  51. }
  52. // 解码
  53. respRPC, err := decode(respBytes)
  54. if err != nil {
  55. panic(err)
  56. }
  57. // 处理服务端返回的数据
  58. outArgs := make([]reflect.Value, 0, len(respRPC.Args))
  59. for i, arg := range respRPC.Args {
  60. // 必须进行nil转换
  61. if arg == nil {
  62. // reflect.Zero()会返回类型的零值的value
  63. // .out()会返回函数输出的参数类型
  64. outArgs = append(outArgs, reflect.Zero(fn.Type().Out(i)))
  65. continue
  66. }
  67. outArgs = append(outArgs, reflect.ValueOf(arg))
  68. }
  69. return outArgs
  70. }
  71. // 完成原型到函数调用的内部转换
  72. // 参数1是reflect.Type
  73. // 参数2 f是函数类型,是对于参数1 fn函数的操作
  74. // fn是定义,f是具体操作
  75. v := reflect.MakeFunc(fn.Type(), f)
  76. // 为函数fPtr赋值,过程
  77. fn.Set(v)
  78. }


1.1.8. 实现RPC通信测试

  • 给服务端注册一个查询用户的方法,客户端使用RPC方式调用 ```go package rpc

import ( “encoding/gob” “fmt” “net” “testing” )

//  给服务端注册一个查询用户的方法,客户端使用RPC方式调用

// 定义用户对象 type User struct { Name string Age int }

// 用于测试用户查询的方法 func queryUser(uid int) (User, error) { user := make(map[int]User) // 假数据 user[0] = User{“zs”, 20} user[1] = User{“ls”, 21} user[2] = User{“ww”, 22} // 模拟查询用户 if u, ok := user[uid]; ok { return u, nil } return User{}, fmt.Errorf(“%d err”, uid) }

func TestRPC(t *testing.T) { // 编码中有一个字段是interface{}时,要注册一下 gob.Register(User{}) addr := “127.0.0.1:8000” // 创建服务端 srv := NewServer(addr) // 将服务端方法,注册一下 srv.Register(“queryUser”, queryUser) // 服务端等待调用 go srv.Run() // 客户端获取连接 conn, err := net.Dial(“tcp”, addr) if err != nil { fmt.Println(“err”) } // 创建客户端对象 cli := NewClient(conn) // 需要声明函数原型 var query func(int) (User, error) cli.callRPC(“queryUser”, &query) // 得到查询结果 u, err := query(1) if err != nil { fmt.Println(“err”) } fmt.Println(u) } ```