确定优化目标

• 接口层和网络层，指标是PPS
• 传输层的TCP和UDP，主要负责网络传输，吞吐量（BPS）、连接数以及延迟是需要关注的指标

• 应用层需要关注吞吐量（BPS）、每秒请求数以及延迟等指标

  网络性能工具

  从网络性能指标触发，常用工具如下：
  
  从性能工具角度出发，对应功能如下：
  

  应用程序

  应用程序，通常通过套接字接口进行网络操作。由于网络收发通常比较耗时，所以应用程序的优化，主要就是对网络 I/O 和进程自身的工作模型的优化
  从网络 I/O 的角度来说，主要有下面两种优化思路：

• 第一种是最常用的 I/O 多路复用技术 epoll，主要用来取代 select 和 poll。这其实是解决 C10K 问题的关键，也是目前很多网络应用默认使用的机制。

• 第二种是使用异步 I/O（Asynchronous I/O，AIO）。AIO 允许应用程序同时发起很多 I/O 操作，而不用等待这些操作完成。等到 I/O 完成后，系统会用事件通知的方式，告诉应用程序结果。不过，AIO 的使用比较复杂，你需要小心处理很多边缘情况。

而从进程的工作模型来说，也有两种不同的模型用来优化：

• 主进程 + 多个 worker 子进程。其中，主进程负责管理网络连接，而子进程负责实际的业务处理。这也是最常用的一种模型
• 监听到相同端口的多进程模型。在这种模型下，所有进程都会监听相同接口，并且开启 SO_REUSEPORT 选项，由内核负责，把请求负载均衡到这些监听进程中去

应用层的网络协议优化常见的几种优化方法：

• 使用长连接取代短连接，可以显著降低 TCP 建立连接的成本。在每秒请求次数较多时，这样做的效果非常明显。
  
• 使用内存等方式，来缓存不常变化的数据，可以降低网络 I/O 次数，同时加快应用程序的响应速度。
  
• 使用 Protocol Buffer 等序列化的方式，压缩网络 I/O 的数据量，可以提高应用程序的吞吐。
  

• 使用 DNS 缓存、预取、HTTPDNS 等方式，减少 DNS 解析的延迟，也可以提升网络 I/O 的整体速度

  套接字

  套接字可以屏蔽掉 Linux 内核中不同协议的差异，为应用程序提供统一的访问接口。每个套接字，都有一个读写缓冲区。

• 读缓冲区，缓存了远端发过来的数据。如果读缓冲区已满，就不能再接收新的数据。
  

• 写缓冲区，缓存了要发出去的数据。如果写缓冲区已满，应用程序的写操作就会被阻塞。
  

所以，为了提高网络的吞吐量，你通常需要调整这些缓冲区的大小。比如：

• 增大每个套接字的缓冲区大小 net.core.optmem_max；
  
• 增大套接字接收缓冲区大小 net.core.rmem_max 和发送缓冲区大小 net.core.wmem_max；
  
• 增大 TCP 接收缓冲区大小 net.ipv4.tcp_rmem 和发送缓冲区大小 net.ipv4.tcp_wmem

套接字内核选项

传输层

传输层最重要的是 TCP 和 UDP 协议，所以这儿的优化，其实主要就是对这两种协议的优化

TCP协议优化

UDP协议优化

• 增大套接字缓冲区大小以及 UDP 缓冲区范围
  
• 增大本地端口号的范围
  

• 根据 MTU 大小，调整 UDP 数据包的大小，减少或者避免分片的发生

  网络层

  网络层，最主要的优化，其实就是对路由、 IP 分片以及 ICMP 等进行调优

  路由和转发的角度

• 在需要转发的服务器中，比如用作 NAT 网关的服务器或者使用 Docker 容器时，开启 IP 转发，即设置 net.ipv4.ip_forward = 1。
  

• 调整数据包的生存周期 TTL，比如设置 net.ipv4.ip_default_ttl = 64。注意，增大该值会降低系统性能。
  

• 开启数据包的反向地址校验，比如设置 net.ipv4.conf.eth0.rp_filter = 1。这样可以防止 IP 欺骗，并减少伪造 IP 带来的 DDoS 问题。
  

  分片的角度出发

  MTU 的大小应该根据以太网的标准来设置。以太网标准规定，一个网络帧最大为 1518B，那么去掉以太网头部的 18B 后，剩余的 1500 就是以太网 MTU 的大小

  ICMP 的角度

• 禁止 ICMP 协议，即设置 net.ipv4.icmp_echo_ignore_all = 1。这样，外部主机就无法通过 ICMP 来探测主机
  

• 禁止广播 ICMP，即设置 net.ipv4.icmp_echo_ignore_broadcasts = 1

  链路层

  主要是优化网络包的收发、网络功能卸载以及网卡选项