Netty 官网：https://netty.io/
Netty 下载：

Netty 官网下的定义：Netty is an asynchronous event-driven network application framework for rapid development of maintainable high performance protocol servers & clients.（Netty是一个用于快速开发可维护的高性能协议服务器和客户端的异步事件驱动的网络应用程序框架。）

概述 - 图1

Netty 版本说明：netty 3.x、netty 4.x、netty 5.x，由于 netty 5.x 出现重大 bug，已经被废弃，目前推荐使用 netty 4.x 的稳定版本

模型演变

目前存在的线程模型：传统阻塞 IO 服务模型和 Reactor 模式

传统阻塞 IO 模型

image.png

Reactor 模式

Reactor 模式（又叫反应器模式、分发者模式 Dispatcher、通知者模式 notifier）针对传统阻塞 IO 服务模型的 2 个缺点的改进：

  • 基于 IO 复用模型：多个对象共用一个阻塞对象，应用程序只需要在一个阻塞对象等待，无需阻塞等待所有连接。当某个连接有新的数据可以处理时，操作系统通知应用程序，线程从阻塞状态返回，开始进行业务处理
  • 基于线程池复用线程资源：不必再为每个线程创建线程，将连接完成后的业务处理任务分配给线程进行处理，一个线程可以处理多个连接的业务

image.png
Reactor 模式的核心组成部分：

  • Reactor：Reactor 在一个单独的线程中运行，负责监听和分发事件，分发给适当的处理程序来对 IO 事件做出反应
  • Handlers：处理程序执行 IO 事件要完成的实际事件（非阻塞操作）

根据 Reactor 的数量和处理资源线程的数量不同，有三种典型实现：

  • 单 Reactor 单线程
  • 单 Reactor 多线程
  • 主从 Reactor 多线程

单 Reactor 单线程

image.png
实现说明：服务器端用一个线程通过多路复用搞定所有的 IO 操作（包括连接，读、写等），编码简单，清晰明了，但是如果客户端连接数量较多，将无法支撑

  1. Select是前面 IO 复用模型介绍的标准网络编程API，可以实现应用程序通过一个阻塞对象监听多路连接请求
  2. Reactor对象通过Select监控客户端请求事件，收到事件后通过Dispatch进行分发
  3. 如果是建立连接请求事件，则由 Acceptor 通过 Accept 处理连接请求，然后创建一个 Handler 对象处理连接完成后的后续业务处理
  4. 如果不是建立连接事件，则 Reactor 会分发调用连接对应的 Handler 来响应
  5. Handler 会完成 Read -> 业务处理 -> Send 的完整业务流程

优点：模型简单，没有多线程、进程通信、竞争的问题，全部在一个线程中完成
缺点：

  • 性能问题，只有一个线程，无法完全发挥多核 CPU 的性能，且 Handler 在处理某个连接上的业务时，整个进程无法处理其他连接事件，导致性能瓶颈
  • 可靠性问题：线程意外终止或者进入死循环，会导致整个系统通信模块不可用，不能接受和处理外部消息，造成节点故障

使用场景：客户端数量有限，业务处理非常快速的场景，如 Redis 在业务处理的时间复杂度为 O(1) 的情况

单 Reactor 多线程

image.png
优点：可以充分利用多核 CPU 的处理能力
缺点：多线程数据共享和访问比较复杂，单线程的 reactor 处理所有事件的监听和响应，在高并发场景下存在性能瓶颈和不可靠性

主从 Reactor 多线程

image.png
实现说明：

  1. Reactor 主线程 MainReactor 对象通过 select 监听连接事件，收到事件后，通过 Acceptor 处理连接事件
  2. 当 Acceptor 处理连接事件后，MainReactor 将连接分配给 SubReactor
  3. SubReactor 将连接加入到连接队列进行监听，并创建 handler 进行各种事件处理
  4. 当有新事件发生时，SubReactor 就会调用对应的 handler 处理
  5. handler 通过 read 读取数据，分发给后面的 worker 线程池处理
  6. worker 线程池分配独立的 worker 线程进行业务处理，并返回结果
  7. handler 收到响应结果后，再通过 send 将结果返回给 client

注意：MainReactor 可以关联多个 SubReactor

Netty 线程模式

基于主从Reactor多线程模型做了一定的改进，其中主从Reactor多线程模型有多个Reactor
简单版示意图：
未命名绘图.png

  1. BossGroup 线程维护 Selector，只关注 Accept
  2. 当接收到 Accept 事件，获取到对应的 SocketChannel，封装成 NioSocketChannel 并注册到 Worker 线程（事件循环），并进行维护
  3. 当 Worker 线程监听到 selector 中通道发生自己感兴趣的事件后就进行处理（由 handler 进行处理）

进阶版示意图：
概述 - 图8

  1. Netty 抽象出两组线程池，两组线程池类型均为 NioEventLoopGroup
    • BossGroup：专门负责接受客户端的连接
    • WorkerGroup：专门负责网络的读写
  2. NioEventLoopGroup 和 NioEventLoop：
    • NioEventLoopGroup：相当于一个事件循环组，这个组中含有多个事件，每一个事件循环为 NioEventLoop，即可以含有多个 NioEventLoop
    • NioEventLoop：表示一个不断循环的执行任务的线程，每个 NioEventLoop 都有一个 Selector ，用于监听绑定在其上的 socket 网络通讯
  3. Boss NioEventLoop 循环执行的步骤：
    • 轮询 accept 事件
    • 处理 accept 事件，与 client 建立连接，生成 NioSocketChannel，并将其注册到某个 worker NioEventLoop 上的 Selector
    • 处理任务队列上的任务，即 runAllTasks
  4. Worker NioEventLoop 循环执行步骤：
    • 轮询 read、write 事件
    • 处理 IO 事件，即 read、write，在对应的 NioSocketChannel 处理
    • 处理任务队列上的任务，即 runAllTasks
  5. 每个 Worker NioEventLoop 处理业务时，会使用 pipeline（管道），pipeline 中包含了 channel，即通过 pipeline 可以获取到对应的通道，管道中维护了很多的处理器