Java netty 从入门到实战 (三)-Netty 详解

Netty概述

原生 NIO 存在的问题

• 1、NIO 的类库和 API 繁杂，使用麻烦：需要熟练掌握 Selector、ServerSocketChannel、SocketChannel、ByteBuffer等。
• 2、需要具备其他的额外技能：要熟悉 Java 多线程编程，因为 NIO 编程涉及到 Reactor 模式，你必须对多线程和网络编程非常熟悉，才能编写出高质量的 NIO 程序。
• 3、开发工作量和难度都非常大：例如客户端面临断连重连、网络闪断、半包读写、失败缓存、网络拥塞和异常流的处理等等。
• 4、JDK NIO 的 Bug：例如臭名昭著的 Epoll Bug，它会导致 Selector 空轮询，最终导致 CPU100%。直到 JDK1.7 版本该问题仍旧存在，没有被根本解决。

Netty 官网说明
官网：https://netty.io/

Netty is an asynchronous event-driven network application framework for rapid development of maintainable high performance protocol servers & clients.

Netty 的优点

Netty 对 JDK 自带的 NIO 的 API 进行了封装，解决了上述问题。

• 1、设计优雅：适用于各种传输类型的统一 API 阻塞和非阻塞 Socket；基于灵活且可扩展的事件模型，可以清晰地分离关注点；高度可定制的线程模型-单线程，一个或多个线程池。
• 2、使用方便：详细记录的 Javadoc，用户指南和示例；没有其他依赖项，JDK5（Netty3.x）或 6（Netty4.x）就足够了。
• 3、高性能、吞吐量更高：延迟更低；减少资源消耗；最小化不必要的内存复制。
• 4、安全：完整的 SSL/TLS 和 StartTLS 支持。
• 5、社区活跃、不断更新：社区活跃，版本迭代周期短，发现的 Bug 可以被及时修复，同时，更多的新功能会被加入。

Netty 版本说明

• 1、Netty 版本分为 Netty 3.x 和 Netty 4.x、Netty 5.x
• 2、因为 Netty 5 出现重大 bug，已经被官网废弃了，目前推荐使用的是 Netty 4.x的稳定版本
• 3、目前在官网可下载的版本 Netty 3.x、Netty 4.0.x 和 Netty 4.1.x
• 4、在本套课程中，我们讲解 Netty4.1.x 版本
• 5、Netty 下载地址：https://bintray.com/netty/downloads/netty/

Netty 高性能架构设计

线程模型基本介绍

• 1、不同的线程模式，对程序的性能有很大影响，为了搞清 Netty 线程模式，我们来系统的讲解下各个线程模式，最后看看 Netty 线程模型有什么优越性。
• 2、目前存在的线程模型有：传统阻塞 I/O 服务模型 和Reactor 模式
• 3、根据 Reactor 的数量和处理资源池线程的数量不同，有 3 种典型的实现
  单 Reactor 单线程；
  单 Reactor多线程；
  主从 Reactor多线程
• 4、Netty 线程模式（Netty 主要基于主从 Reactor 多线程模型做了一定的改进，其中主从 Reactor 多线程模型有多个 Reactor）

传统阻塞 I/O 服务模型

工作原理图

1、黄色的框表示对象，蓝色的框表示线程
2、白色的框表示方法（API）

模型特点

1、采用阻塞 IO 模式获取输入的数据
2、每个连接都需要独立的线程完成数据的输入，业务处理，数据返回

问题分析

1、当并发数很大，就会创建大量的线程，占用很大系统资源
2、连接创建后，如果当前线程暂时没有数据可读，该线程会阻塞在 Handler对象中的read 操作，导致上面的处理线程资源浪费

问题分析

1、当并发数很大，就会创建大量的线程，占用很大系统资源
2、连接创建后，如果当前线程暂时没有数据可读，该线程会阻塞在 Handler对象中的read 操作，导致上面的处理线程资源浪费

Reactor 模式

针对传统阻塞 I/O 服务模型的 2 个缺点，解决方案：
基于 I/O 复用模型：多个连接共用一个阻塞对象ServiceHandler，应用程序只需要在一个阻塞对象等待，无需阻塞等待所有连接。当某个连接有新的数据可以处理时，操作系统通知应用程序，线程从阻塞状态返回，开始进行业务处理。

Reactor 在不同书中的叫法：

• 1、反应器模式

• 2、分发者模式（Dispatcher）

• 3、通知者模式（notifier）

• 4、基于线程池复用线程资源：不必再为每个连接创建线程，将连接完成后的业务处理任务分配给线程进行处理，一个线程可以处理多个连接的业务。（解决了当并发数很大时，会创建大量线程，占用很大系统资源）

• 5、基于 I/O 复用模型：多个客户端进行连接，先把连接请求给ServiceHandler。多个连接共用一个阻塞对象ServiceHandler。假设，当C1连接没有数据要处理时，C1客户端只需要阻塞于ServiceHandler，C1之前的处理线程便可以处理其他有数据的连接，不会造成线程资源的浪费。当C1连接再次有数据时，ServiceHandler根据线程池的空闲状态，将请求分发给空闲的线程来处理C1连接的任务。（解决了线程资源浪费的那个问题）

I/O 复用结合线程池，就是 Reactor 模式基本设计思想，如图

对上图说明：

• 1、Reactor 模式，通过一个或多个输入同时传递给服务处理器（ServiceHandler）的模式（基于事件驱动）
• 2、服务器端程序处理传入的多个请求,并将它们同步分派到相应的处理线程，因此 Reactor 模式也叫 Dispatcher 模式
• 3、Reactor 模式使用 IO 复用监听事件，收到事件后，分发给某个线程（进程），这点就是网络服务器高并发处理关键

原先有多个Handler阻塞，现在只用一个ServiceHandler阻塞。

Reactor 模式分类

根据 Reactor 的数量和处理资源池线程的数量不同，有 3 种典型的实现

• 1、单 Reactor 单线程
• 2、单 Reactor 多线程
• 3、主从 Reactor 多线程

单 Reactor 单线程

原理图，并使用 NIO 群聊系统验证

Reactor 模式小结

3 种模式用生活案例来理解

• 1、单 Reactor 单线程，前台接待员和服务员是同一个人，全程为顾客服
• 2、单 Reactor 多线程，1 个前台接待员，多个服务员，接待员只负责接待
• 3、主从 Reactor 多线程，多个前台接待员，多个服务生

Reactor 模式具有如下的优点
-1 、响应快，不必为单个同步时间所阻塞，虽然 Reactor 本身依然是同步的（比如你第一个SubReactor阻塞了，我可以调下一个 SubReactor为客户端服务）

• 2、可以最大程度的避免复杂的多线程及同步问题，并且避免了多线程/进程的切换开销
• 3、扩展性好，可以方便的通过增加 Reactor 实例个数来充分利用 CPU 资源
• 4、复用性好，Reactor 模型本身与具体事件处理逻辑无关，具有很高的复用性

Netty 模型

讲解netty的时候采用的是先写代码体验一下，再细讲里面的原理。前面看不懂的可以先不用纠结，先往后面看，后面基本都会讲清楚。

工作原理示意图1 - 简单版

Netty 主要基于主从 Reactors 多线程模型（如图）做了一定的改进，其中主从 Reactor 多线程模型有多个 Reactor

对上图说明

• 1、BossGroup 线程维护 Selector，只关注 Accecpt
• 2、当接收到 Accept 事件，获取到对应的 SocketChannel，封装成 NIOScoketChannel 并注册到 Worker 线程（事件循环），并进行维护
• 3、当 Worker 线程监听到 Selector 中通道发生自己感兴趣的事件后，就进行处理（就由 handler），注意 handler 已经加入到通道

工作原理示意图2 - 进阶版

BossGroup有点像主Reactor 可以有多个，WorkerGroup则像SubReactor一样可以有多个。

工作原理示意图3 - 详细版

1、Netty 抽象出两组线程池 ，BossGroup 专门负责接收客户端的连接，WorkerGroup 专门负责网络的读写
2、BossGroup 和 WorkerGroup 类型都是 NioEventLoopGroup
3、NioEventLoopGroup 相当于一个事件循环组，这个组中含有多个事件循环，每一个事件循环是 NioEventLoop
4、NioEventLoop 表示一个不断循环的执行处理任务的线程，每个 NioEventLoop 都有一个 Selector，用于监听绑定在其上的 socket 的网络通讯
5、NioEventLoopGroup 可以有多个线程，即可以含有多个 NioEventLoop
6、每个 BossGroup下面的NioEventLoop 循环执行的步骤有 3 步
①、轮询 accept 事件
②、处理 accept 事件，与 client 建立连接，生成 NioScocketChannel，并将其注册到某个 workerGroup NIOEventLoop 上的 Selector
③、继续处理任务队列的任务，即 runAllTasks
7、每个 WorkerGroup NIOEventLoop 循环执行的步骤
①、轮询 read，write 事件
②、处理 I/O 事件，即 read，write 事件，在对应 NioScocketChannel 处理
③、处理任务队列的任务，即 runAllTasks

8、每个 Worker NIOEventLoop 处理业务时，会使用 pipeline（管道），pipeline 中包含了 channel（通道），即通过 pipeline 可以获取到对应通道，管道中维护了很多的处理器。（这个点目前只是简单的讲，后面重点说）

详细请看

Netty入门-netty概念及详解

相关文章：
Netty入门-第一话【持续更新】
Netty入门-第二话
B站|尚硅谷韩顺平老师Netty课程

为者常成，行者常至