1. 网络模型

1.1. OSI模型

OSI 网络模型来自国际标准化组织制定的开放式系统互联通信参考模型（Open System Interconnection Reference Model）。为了解决网络互联中异构设备的兼容性问题，并解耦复杂的网络包处理流程，OSI将网络框架分为七层：

  • 应用层，负责为应用程序提供统一的接口。
  • 表示层，负责把数据转换成兼容接收系统的格式。
  • 会话层，负责维护计算机之间的通信连接。
  • 传输层，负责为数据加上传输表头，形成数据包。
  • 网络层，负责数据的路由和转发。
  • 数据链路层，负责 MAC 寻址、错误侦测和改错。

  • 物理层，负责在物理网络中传输数据帧。

    1.2. TCP/IP

    TCP/IP 模型，把网络互联的框架分为应用层、传输层、网络层、网络接口层等四层，其中，

  • 应用层，负责向用户提供一组应用程序，比如 HTTP、FTP、DNS 等。

  • 传输层，负责端到端的通信，比如 TCP、UDP 等。
  • 网络层，负责网络包的封装、寻址和路由，比如 IP、ICMP 等。

  • 网络接口层，负责网络包在物理网络中的传输，比如 MAC 寻址、错误侦测以及通过网卡传输网络帧等。

    1.2. 两者对比

    image.png

    2. Linux 网络栈

    2.1. 数据封装

    有了 TCP/IP 模型后，在进行网络传输时，数据包就会按照协议栈，对上一层发来的数据进行逐层处理；然后封装上该层的协议头，再发送给下一层。网络包在每一层的处理逻辑，都取决于各层采用的网络协议。
    image.png

  • 传输层在应用程序数据前面增加了 TCP 头；

  • 网络层在 TCP 数据包前增加了 IP 头；
  • 而网络接口层，又在 IP 数据包前后分别增加了帧头和帧尾。

    2.2. 网络栈

    Linux 通用 IP 网络栈的示意图：
    image.png
    最上层的应用程序，需要通过系统调用，来跟套接字接口进行交互；
    套接字的下面，就是我们前面提到的传输层、网络层和网络接口层；
    最底层，则是网卡驱动程序以及物理网卡设备。这里我简单说一下网卡。网卡是发送和接收网络包的基本

    网卡硬中断只处理最核心的网卡数据读取或发送，而协议栈中的大部分逻辑，都会放到软中断中处理.

3. Linux 网络收发流程

3.1. 网络包的接收流程

当一个网络帧到达网卡后，网卡会通过 DMA 方式，把这个网络包放到收包队列中；然后通过硬中断，告诉中断处理程序已经收到了网络包。
网卡中断处理程序会为网络帧分配内核数据结构（sk_buff），并将其拷贝到 sk_buff 缓冲区中；然后再通过软中断，通知内核收到了新的网络帧。接下来，内核协议栈从缓冲区中取出网络帧，并通过网络协议栈，从下到上逐层处理这个网络帧。比如，

  • 在链路层检查报文的合法性，找出上层协议的类型（比如 IPv4 还是 IPv6），再去掉帧头、帧尾，然后交给网络层。
  • 网络层取出 IP 头，判断网络包下一步的走向，比如是交给上层处理还是转发。当网络层确认这个包是要发送到本机后，就会取出上层协议的类型（比如 TCP 还是 UDP），去掉 IP 头，再交给传输层处理。
  • 传输层取出 TCP 头或者 UDP 头后，根据 < 源 IP、源端口、目的 IP、目的端口 > 四元组作为标识，找出对应的 Socket，并把数据拷贝到 Socket 的接收缓存中。

应用程序就可以使用 Socket 接口，读取到新接收到的数据了。
image.png

3.2. 络包的发送流程

首先，应用程序调用 Socket API（比如 sendmsg）发送网络包。由于这是一个系统调用，所以会陷入到内核态的套接字层中。套接字层会把数据包放到 Socket 发送缓冲区中。
接下来，网络协议栈从 Socket 发送缓冲区中，取出数据包；再按照 TCP/IP 栈，从上到下逐层处理。比如，传输层和网络层，分别为其增加 TCP 头和 IP 头，执行路由查找确认下一跳的 IP，并按照 MTU 大小进行分片。
分片后的网络包，再送到网络接口层，进行物理地址寻址，以找到下一跳的 MAC 地址。然后添加帧头和帧尾，放到发包队列中。这一切完成后，会有软中断通知驱动程序：发包队列中有新的网络帧需要发送。
最后，驱动程序通过 DMA ，从发包队列中读出网络帧，并通过物理网卡把它发送出去。

4. 性能指标

  • 带宽，表示链路的最大传输速率，单位通常为 b/s （比特 / 秒）。
  • 吞吐量，表示单位时间内成功传输的数据量，单位通常为 b/s（比特 / 秒）或者 B/s（字节 / 秒）。吞吐量受带宽限制，而吞吐量 / 带宽，也就是该网络的使用率。
  • 延时，表示从网络请求发出后，一直到收到远端响应，所需要的时间延迟。在不同场景中，这一指标可能会有不同含义。比如，它可以表示，建立连接需要的时间（比如 TCP 握手延时），或一个数据包往返所需的时间（比如 RTT）。
  • PPS，是 Packet Per Second（包 / 秒）的缩写，表示以网络包为单位的传输速率。PPS 通常用来评估网络的转发能力，比如硬件交换机，通常可以达到线性转发（即 PPS 可以达到或者接近理论最大值）。而基于 Linux 服务器的转发，则容易受网络包大小的影响。

    网络的可用性（网络能否正常通信）、并发连接数（TCP 连接数量）、丢包率（丢包百分比）、重传率（重新传输的网络包比例）等也是常用的性能指标。

4.1. 工具

sar 增加 -n 参数就可以查看网络的统计信息，比如网络接口（DEV）、网络接口错误（EDEV）、TCP、UDP、ICMP 等等。执行下面的命令，你就可以得到网络接口统计信息：

  1. # 数字1表示每隔1秒输出一组数据
  2. $ sar -n DEV 1
  3. Linux 4.15.0-1035 (ubuntu)   01/06/19   _x86_64_  (2 CPU)
  5. 13:21:40        IFACE   rxpck/s   txpck/s    rxkB/s    txkB/s   rxcmp/s   txcmp/s  rxmcst/s   %ifutil
  6. 13:21:41         eth0     18.00     20.00      5.79      4.25      0.00      0.00      0.00      0.00
  7. 13:21:41      docker0      0.00      0.00      0.00      0.00      0.00      0.00      0.00      0.00
  8. 13:21:41           lo      0.00      0.00      0.00      0.00      0.00      0.00      0.00      0.00
  • rxpck/s 和 txpck/s 分别是接收和发送的 PPS，单位为包 / 秒。
  • rxkB/s 和 txkB/s 分别是接收和发送的吞吐量，单位是 KB/ 秒。
  • rxcmp/s 和 txcmp/s 分别是接收和发送的压缩数据包数，单位是包 / 秒。
  • %ifutil 是网络接口的使用率，即半双工模式下为 (rxkB/s+txkB/s)/Bandwidth，而全双工模式下为 max(rxkB/s, txkB/s)/Bandwidth。