netty概念小结

  1. 云栖社区>
  2. 博客>
  3. 正文

netty概念小结

晴天哥 2018-04-08 14:23:00 浏览966
展开阅读全文

    清明抽空看了下netty部分的知识点,总结一下发布在简书上,netty本身涵盖的知识点比较多,一篇文章也讲不完那么多,这篇文章主要是普及 netty的Reactor模型server初始化client初始化三块内容,当然也会将寻找的参考资料一并贴出来,其实互联网已经很多人对netty做了大量的研究。

    在开始之前建议看下永顺同学的总结文章,对于netty部分讲解的非常清楚。


Nio Reactor介绍

网上一般把Nio和Bio进行对比介绍,这里也借用互联网的资料开个头,基本上大体来讲BIO/NIO两个进行对比,然后在NIO内部又有多种实现,存在细微差别。


BIO模型

img_fe7de4559ff70431a58a11dba9687cde.png
BIO模型

说明:

    1、单个线程进行监听,accept连接并提交给线程或者线程池进行处理(一个连接建立成功后,创建一个单独的线程处理其I/O操作),在这个基础上考虑到创建线程和销毁线程的开销,一般后端会维持一个线程池,然后提交给线程池进行处理。

    2、BIO方式适用于连接数目比较小且固定的场景,这种方式对服务器资源要求比较高,并发局限于应用中。


经典Reactor模式

img_2ddfdbc88cb3a19152e3311190aec5d9.png
经典Reactor模式

说明

    1、经典的Reactor模型内部维持一个selector对象(有兴趣可以去了解下select和epoll两种实现方式),selector对象中维持一个监听socket负责accept连接,在取得连接后将accept的连接同样注册到同一个selector当中,通过selector的消息通知机制来触发消息的读写。优点在于不不需要新建很多线程,缺点在于通过单线程处理所有的连接请求会存在性能瓶颈。


多工程线程Reactor模式

img_c8ea9d0c4507817aee16655b9d80883b.png
多工作线程Reactor模式

说明:

    1、多工作线程的Reactor模式是在经典的Reactor模式基础上为了解决刚刚存在问题而进行了改进,将消息的读取和处理进行剥离,也就是说原本的单个selector负责连接的建立和消息的读取,但是消息读取以后的处理过程交由线程池进行处理,这样就部分解决了经典Reactor模式下弊端,但是依然存在问题,单个selector依然会需要处理accept和read等事件,那么下一步就需要把这一步问题进一步进行剥离。


多Reactor

img_da8bb6f0c04aa5c4f5fb8d144da25714.png
多Reactor

说明

    多Reactor模型其实是在多工作线程Reactor模式进行进一步优化,将监听的selector和处理IO的selector进行角色分离,在该模式下主Reactor负责监听连接将新socket注册注册到子Reactor当中,通过分工后主Reactor只需要负责监听socket连接,子Reactor负责处理IO事件。


Netty采用的模型

    netty基本上支持以上的多种模型,不过netty的多Reactor模型其实没有ThreadPool那一部分,netty进行了Reactor的主从分离。


Netty-server初始化

基本概念

Channel

    可以简单理解为包装了socket的集合体,内部包括比较多属性,核心的属性包括socket、pipeline,在netty当中每个Channel是负责数据传输的socket,在其内部包含消息处理链条PipeLine,PipeLine包含了in/out事件需要进行的一系列处理动作。

PipeLine

    pipeline其实就是所谓的职责链,相当于一个双向链表,内部包含了正向IN消息的处理handler列表和反向OUT消息的处理handler列表。    

NioEventLoop

    NioEventLoop可以理解为Channel的依附实体,每个NioEventLoop包含一个执行线程和一个selector对象,其中selector对象负责提供给Channel进行注册,由执行线程循环检测是否有事件到来,注意Channel和NioEventLoop是1:N的关系,也就是说一个Channel只能注册到一个NioEventLoop当中,一个NioEventLoop可以提供给多个Channel注册。   


NioEventLoopGroup

NioEventLoopGroup是NioEVentLoop的对象集合,就是NioEventLoopGroup包含多个NioEventLoop,还记得上面提到Reactor模型里面的子Reactor对象么,其实就是多个NioEventLoop,在我们主Reactor执行accept操作后会把socket注册到子Reactor对象当中,那么子NioEventLoopGroup是一个NioEventLoop的集合,会按照hash随机选择一个进行注册。


debug入门

img_97a4d4f624758b560562dc9446b3c235.png
debug入门

说明

    如果要了解netty-server端的初始化过程,最好的办法就是直接对源码进行debug,如何debug就比较简单了,github下载工程然后找到example的例子,找到server/client进行debug就可以了。


EventLoopGroup初始化过程

说明

    1、EventLoopGroup整个初始化过程,其实我的理解最核心的部分是创建指定数目的NioEventLoop对象,然后供ServerBootStrap进行选择。所以这个部分我觉得最关键的是掌握这个点就可以了。


img_836af01d673aac98f1a0beb4873019cc.png
NioEventLoopGroup类图

说明

    MultithreadEventExecutorGroup内部其实帮我们执行了创建EventLooop对象。


img_168ffef67e6eed4af19bd85971f38dbd.png
NioEventLoopGroup核心初始化过程

说明

    真正需要关注的点已经标红了,就是按照CPU核数创建了EventLoop对象,并对外提供一个chooser的方法提供EventLoop对象的选择。


img_ffde32af7d0522e83bc1f857e77e9df9.png
NioEventLoopGroup初始化序列图

说明

    此图来自互联网永顺同学贡献,这里提供链接。



Bootstrap初始化过程

img_6440ada395387d9550891e326a673d9a.png
bootstrap初始化

说明

    bootstrap初始化过程其实主要是设置了一些属性,其中handler()和childHandler()两个方法特别重要,前置设置了主Reactor当中Channel的一个处理逻辑,后者设置了从Reactor当中Channel的一个处理逻辑。


server端初始化过程

    server端的初始化大体来说主要包含init、register、bind三个步骤,其中init主要是初始化Channel、register主要是注册Channel到selector当中、bind主要是将socket绑定指定的ip和port,不过整个过程其实不是同步调用进行的,而是通过线程池提交任务的形式实现的,这个很重要,否则你看代码时候会一头雾水。

    server端从另外一个角度分析的话,其实包括两个过程,一个是Channel的注册过程,一个是事件的触发过程。


img_a355d229866f7c8371229dc28d88b56c.png
整体初始化过程

说明

     此图来自互联网永顺同学贡献,这里提供链接。

    client/server端的注册过程都是一样的,所以图也是通用的


初始化的入口

img_fefe07c0f997deee9f92516f7f5fe51b.png
server端注册过程-1

说明

    参见AbstractBootstrap类

    基本上包括了initAndRegister、bind两个过程,initAndRegister负责初始化NioServerSocketChannel并注册到NioEventLoop当中,bind负责绑定指定的ip和port。


InitAndRegister过程

img_82bd96af8dc759a3fb3d631041510623.png
server端注册过程-2

说明

    参见AbstractBootstrap类

    创建NioServerSocketChannel对象,这里之所以能够通过反射进行创建,是因为创建ServerBootstrap的时候指定了NioServerSocketChannel类,具体事情参见下图分析。

    初始化Channel的一些属性,里面最重要的一步就是绑定了ChannelInitialize的handler,具体见下图分析。

    register负责把NioServerSocketChannel绑定到NioEventLoop对象当中,见下图。


InitAndRegister - 创建Channel过程

img_cffefa663c6bf0b001aecf36bc2e3032.png
NioSERverSocketChannel的创建过程

说明

    创建了NioServerSocketChannel对象,对象的属性包括pipeLine,channel对象等


InitAndRegister - Init Channel过程

img_e3f997cb0796ac61840e7289c3304fb9.png
Channel的init过程

说明

    核心点在于在于绑定了ServerSocket的初始化调用链


InitAndRegister - 注册Channel到EventLoop过程

img_d03ce9ca12eaa5e05ebe7337232a9037.png
Chanel注册过程选择EventLoop对象
img_548ade3cc82a99724b312a3b8a40aaa3.png
Channel注册到eventLoop当中
img_1fc34c3044ef6850ddfb5f9eb655a944.png
启动eventLoop的任务线程并提交任务

说明

    首先选择一个EventLoop对象进行注册

    注册过程中执行eventLoop.execute动作,这个动作内部会先创建一个线程,然后把register0的动作封装成任务提交给eventLoop执行。

    注意这里的task其实是就是Register0封装的一个Runnable对象。


InitAndRegister - Register事件触发过程

img_11a34f0bdbdf6ae4ad76eadc18353ec3.png
Register事件的触发过程

说明

    1、注册Channel到指定的EvengLoop的selector当中。

    2、调用NioServerSocketChannel的Initialized方法实现主Reactor关联的pipeLine上的事件的注册,包括LoggingHandler和ServerBootstrapAcceptor两个Handler,在执行Initialized方法后在pipeLine链条会包含LoggingHandler,因为ServerBootstrapAcceptor这个动作是另外提交了一个任务。

    3、通过fireChannelRegistered()调用触发注册事件。


img_f1dbae89a1b2e3fa2d88d58be1ee74bc.png
invokeHandlerAddedIfNeeded执行效果


Bind事件触发过程

img_500863dc7a56f22d23aef8f260e1ccf0.png
bind过程
img_6019111c6f0c0f6adfd360e0006362a2.png
bind动作从tail开始遍历pipeLine
img_6fada41a68c5b4d5dc6bb286c7dfb3cd.png
触发Active动作

说明:

    1、参见AbstractChannel类

    2、bind过程中除了遍历pipeLine执行相关handler后最后由header完成bind动作

    3、bind的最后触发了active动作,都是以任务的形式提交的,active动作从head开始遍历pipeline到tail


Netty的事件处理

img_6974cf7fb6f56cc906ebef4ce29059d2.png
NioEventLoop的循环执行过程


img_f75a8b5bf7e6c680c531ea5255ba1e23.png
accept新socket并注册子EventLoop过程

说明:

    NioEventLoop内部不停处理事件,然后将连接的socket注册到子EventLoopGroup的EventLoop当中。


Netty-client初始化

Netty client的初始化其实是一个异步过程,也就是说我们connect的时候只是在EventLoop当中注册了一个OP_CONNECT的事件,然后连接成功后会触发这个事件,然后完成真正的连接操作。

img_5fb3817edae542228aadb65f1bd799d7.png
异步注册

说明:

    参见NioSocketChannel类


img_71482242ff9e5974f8e94ce7cadb4b9d.png
异步回调完成connect

说明:

    1、参见NioEventLoop类



Nio Reactor模型介绍:http://www.jasongj.com/java/nio_reactor/

Nio Reactor模型问题:https://www.cnblogs.com/ivaneye/p/5731432.html

netty分析:https://github.com/yongshun/learn_netty_source_code

netty系列分析文章:https://blog.csdn.net/yexin94822739/article/category/6976420

netty客户端解析:https://www.cnblogs.com/chenyangyao/p/5796867.html

网友评论

登录后评论
0/500
评论
晴天哥
+ 关注