Netty逻辑架构学习

Netty逻辑架构

Netty采用了经典的三层网络架构进行设计和开发,逻辑架构如下图:
微信图片_20201013203933.png

Reactor通信调度层

它由一系列辅助类完成,包括Reactor线程NioEventLoop及其父类,NioSecketChannel/NioServerSocketChannel及其父类,ByteBuffer以及由其延生出来的各种buffer,Usafe以及其衍生出的各种内部类等。该层的主要职责就是监听网络的读写和连接操作,负责将网络层的数据读取到内存缓冲去中,然后触发各种网络事件,例如连接创建、连接的激活、读事件、写事件等,将这些事件触发到PipeLine中,由PipeLine管理的职责链来进行后续的处理。

职责链ChannelPipeline

它负责事件在职责链中的有序传播,同时负责动态地编排职责链。职责链可以选择监听和处理自己关心的事件,它可以拦截处理和向后向前传播事件。不同应用的Handler节点的功能也不同,通常情况下,往往会开发编解码Hanlder用于消息的编写码,它可以将外部的协议消息转换成内部的POJO对象,这样上层业务则只需关心处理业务逻辑即可,不需要感知底层的协议差异和线程模型差异,实现了架构层面的分层隔离。

业务逻辑编排层(Server ChannelHandler)

业务逻辑编排层通常有两类:一类是纯粹的业务逻辑编排,还有一类是其他的应用层协议插件,用于特定协议相关的回话和链路管理。例如CMPP协议,用于管理和中国移动短信系统的对接。
架构的不同层面,需要关心和处理的对象都不同,通常情况下,对于业务开发者,只需关心职责链的拦截和业务Handler的编排。因为应用层协议栈往往是开发一次,到处运行,所以实际上对于业务开发者来说,只需关心服务层的业务逻辑即可,各种应用协议以插件的形式提供,只有协议开发人员需要关注协议插件,对于其他业务开发人员来说,只需关心业务逻辑定制。这种分层架构设计理念实现了NIO框架各层之间的解耦,便于上层业务协议栈的开发和业务逻辑的定制。

Netty架构设计如何实现高性能

1、采用异步非阻塞的I/O类库,基于Reactor模式实现,解决了传统的同步阻塞I/O模式下一个服务端无法平滑地线性增长的客户端的问题。
2、TCP接收和发送缓存去区使用直接内存代替堆内存,避免了内存复制,提升了I/O的读取和写入的性能。
3、支持通过内存池的方式循环利用ByteBuf,避免了频繁创建和销毁ByteBuff带来的性能损耗。
4、可配置的I/O线程数、TCP参数等,为不同的用户场景提供定制化的调优参数,满足不同的性能损耗。
5、采用环形数组缓冲区实现无锁化并发编程,代替传统的线程安全容器或者锁。
6、合理地使用线程安全容器、原子类等,提升系统的并发处理能力。
7、关键资源的处理使用单线程串行化的方式,避免多线程并发访问带来的所竞争和额外的CPU资源的消耗问题。
8、通过引用计数器及时地申请释放不再被引用的对象,细粒度的内存管理降低了GC的频率,减少了频繁GC带来的时延增大和CPU损耗。

可靠性

为了支持心跳,Netty提供了如下链路空闲检测机制。
  • 读空闲超时机制:当连续周期T没有消息可读时,触发超时Handler,用户可以基于读空闲超时发送心跳消息,进行链路检测;如果连续N个周期仍没有接收到对方的心跳消息,可以主动关闭链路。

  • 写空闲超时机制:当连续周期T没有消息要发送时,触发超时Handler,用户可以基于写空闲超时发送心跳消息,进行链路检测;如果连续N个周期仍没有接收到对方的心跳消息,可以主动关闭链路。
    为了满足不同用户场景的心跳定制,Netty提供了空闲状态检测事件通知机制,用户可以订阅空闲超时事件、写空闲超时事件、读或者写超时事件,在接收到对应的空闲事件之后,灵活地进行定制。

内存保护机制

Netty提供多种机制对内存进行保护,包括以下几个方面。
  • 通过对象引用计数器对Netty的ByteBuf等内置对象进行细粒度的内存申请和释放,对非法的对象引用进行检测和保护。
  • 通过内存池来重用ByteBuf,节省内存。
  • 可设置的内存容量上限,包括ByteBuf、线程池线程数等。

思考

Netty的优秀主要是架构设计,该架构考虑到了高性能(NIO类库的使用,直接内存的使用,循环利用ByteBuf,无锁化,及时释放对象),高可靠性(心跳机制),可定制性和可扩展性,是一个优秀的架构设计,有很多值得学习的地方。

内容来自于Netty权威指南书籍。

标签: none