IO模型

  1. 云栖社区>
  2. 博客>
  3. 正文

IO模型

小飞哥1112 2017-11-28 19:08:47 浏览1559
展开阅读全文

一、简介

介绍同步、异步、阻塞、非阻塞的区别。

介绍五中IO模型。

介绍IO多路复用使用的Ractor设计模式;介绍异步IO的Proactor设计模式,以及Proactor的流程。

IO模型的对比。

 

二、同步、异步、阻塞、非阻塞

1. 阻塞(blocking)VS非阻塞(non-blocking)

依读操作为例:当用户线程发起一个IO读请求时,内核会去查看要读取的数据是否就绪,对于阻塞IO来说,如果数据没有就绪,则会一直在那等待,直到数据就绪;对于非阻塞IO来说,如果数据没有就绪,则会返回一个标志信息告知用户线程当前要读的数据没有就绪,当数据就绪之后,再将数据拷贝到用户线程。

一个完整的IO读请求操作包括两个阶段:

²   查看数据是否就绪;

²   进行数据拷贝(内核将数据拷贝到用户线程)。

阻塞和非阻塞的区别就在于第一个阶段,如果数据没有就绪,在查看数据是否就绪的过程中是一直等待,还是直接返回一个标志信息。

 

2. 同步VS异步

同步与异步的区别在于线程执行时,一个线程执行时否会导致其他的线程暂时等待。同步一个线程执行时,其他线程全部暂停;异步一个线程执行时,其他线程不暂停。

同步IO:当用户发出IO请求操作之后,如果数据没有就绪,需要通过用户线程或者内核不断地去轮询数据是否就绪,当数据就绪时,再将数据从内核拷贝到用户线程;

异步IO:只有IO请求操作的发出是由用户线程来进行的,IO操作的两个阶段都是由内核自动完成,然后发送通知告知用户线程IO操作已经完成。也就是说在异步IO中,不会对用户线程产生任何阻塞。

 

三、IO模型

1. 同步阻塞IO(Blocking IO)

同步阻塞IO模型是最简单的IO模型,用户线程在内核进行IO操作时被阻塞。

09523f1df2c834ca68812c17b0c6ddd05064ca82

用户线程通过系统调用read发起IO读操作,由用户空间转到内核空间。内核等到数据包到达后,然后将接收的数据拷贝到用户空间,完成read操作。

Java io从文件中读取内容或者向文件中写入数据均使用此模型;从sokect读取数据或者向socket中写入数据也使用此模型。

 

2. 同步非阻塞IO(Non-blocking IO)

同步非阻塞IO是在同步阻塞IO的基础上,将socket设置为NONBLOCK。这样做用户线程可以在发起IO请求后可以立即返回。

7d0d50bf47ab989f6c202b32c1e4867ca4e94ab5

由于socket是非阻塞的方式,因此用户线程发起IO请求时立即返回。但并未读取到任何数据,用户线程需要不断地发起IO请求,直到数据到达后,才真正读取到数据,继续执行。

第一阶段:用户进程没有阻塞,也就是没有挂起,它一值在询问数据有没有到达kernel buffer中,忙等…;

第二个阶段:数据从kernel buffer复制到用户进程空间,是阻塞的。

这种IO模型会大量的占用CPU的时间,效率很低效,很少使用。

 

3. IO多路复用(IO Multiplexing / 异步阻塞IO)

IO多路复用模型是建立在内核提供的多路分离函数select,poll,epoll基础之上的,使用这些函数可以避免同步非阻塞IO模型中轮询等待的问题。

 

1) Rector模式

IO多路复用使用的是Reactor模式,我们先看一下Rector模式。

77d6f6b7a5247a05c36811026c70e204419a0c09

a) Handle

表示操作系统中的句柄,是对资源在操作系统层面上的一种抽象,它可以是打开的文件、一个连接(Socket)、Timer等。由于Reactor模式一般使用在网络编程中,因而这里一般指Socket Handle,即一个网络连接(Connection,在Java NIO中的Channel)。这个Channel注册到Synchronous Event Demultiplexer中,以监听Handle中发生的事件,对ServerSocketChannnel可以是CONNECT事件,对SocketChannel可以是READ、WRITE、CLOSE事件等。

b) EventHandler

表示IO事件处理器,它拥有IO文件句柄Handle(通过getHandle获取),以及对Handle的操作handleEvent(读/写等)。

继承于EventHandler的子类可以对事件处理器的行为进行定制。

c) Reactor类

用于管理EventHandler(注册、删除等),并使用handleEvents实现事件循环,不断调用同步事件多路分离器的多路分离函数select,只要某个文件句柄被激活(可读/写等),select就返回,handleEvents就会调用与文件句柄关联的事件处理器的handleEEvent进行相关操作。

d) Synchronous event demultiplexer

阻塞等待一系列的Handle中的事件到来。这个模块一般使用操作系统的select来实现,在Java NIO中用Selector来封装。当执行Selector.select()时会执行pollWrapper.poll()方法,此方法会调用native的epoll方法,当Selector.select()返回时,可以调用Selector的selectedKeys()方法获取Set<SelectionKey>,一个SelectionKey表达一个有事件发生的Channel以及该Channel上的事件类型。

 

2) 模型

257adac204f73dd4a1ba58c61ad00b5a37687702

通过Reactor的方式,可以将用户线程轮询IO操作状态的工作统一交给handleEvents事件循环进行处理。

用户线程注册事件处理器之后可以继续执行做其他的工作(异步),而Reactor线程负责调用内核的select函数检查socket状态。

当有socket被激活时,则通知相应的用户线程(或执行用户线程的回调函数),执行handleEvent进行数据读取、处理的工作。

 

由于select函数是阻塞的,因此多路IO复用模型也被称为异步阻塞IO模型。这里的所说的阻塞是指select函数执行时线程被阻塞,而不是指socket。一般在使用IO多路复用模型时,socket都是设置为NONBLOCK的,不过这并不会产生影响,因为用户发起IO请求时,数据已经到达了,用户线程一定不会被阻塞。

3) 伪代码

select(socket);
while(true) {
    sockets = select();
    for(socket in sockets) {
        if(can_read(socket)) {
            read(socket, buffer);
            process(buffer);
        }
    }
}

 

4) NIO示例代码

详细示例,请参考《NIO》

 

4. 信号驱动式IO(signal-driven IO)

首先我们允许Socket进行信号驱动IO,并安装一个信号处理函数,进程继续运行并不阻塞。当数据准备好时,进程会收到一个SIGIO信号,可以在信号处理函数中调用I/O操作函数处理数据。

93598b9cb226b834760a76a606c796692fd356a9

 

5. 异步IO(Asynchronous IO)

“真正”的异步IO需要操作系统更强的支持。在IO多路复用模型中,事件循环将文件句柄的状态事件通知给用户线程,由用户线程自行读取数据、处理数据。而在异步IO模型中,当用户线程收到通知时,数据已经被内核读取完毕,并放在了用户线程指定的缓冲区内,内核在IO完成后通知用户线程直接使用即可。

1)  Proactor模式

异步IO模型使用了Proactor设计模式,先看一下Proactor设计模式。

6a849f4e9fbcb203cc2b7acfcd166adcafb64c7a

Proactor模式和Reactor模式在结构上比较相似,不过在用户(Client)使用方式上差别较大。用户线程通过向Reactor对象注册感兴趣的事件监听,然后事件触发时调用事件处理函数。

AsynchronousOperationProcessor异步操作处理器;负责执行异步操作,一般由操作系统内核实现。

 

2) 时序

7b03b05d30cb7a86fb700ba643612e95bc7b5c55

用户线程将AsynchronousOperation(读/写等)、Proactor、CompletionHandler注册到AsynchronousOperationProcessor,当用户线程调用异步API后,便继续执行自己的任务。

AsynchronousOperationProcessor会开启独立的内核线程执行异步操作,当异步IO操作完成时,AsynchronousOperationProcessor将AsynchronousOperation、Proactor、CompletionHandler取出,连同IO操作的结果数据一起转发给Proactor。

Proactor负责触发CompletionHandler中handleEvent函数。

虽然Proactor模式中每个异步操作都可以绑定一个Proactor对象,但是一般在操作系统中,Proactor被实现为Singleton模式,以便于集中化分发操作完成事件。

 

3) 模型

c3e7dfe1054791d56cb59a974d206a57f10f61df

异步IO模型中,用户线程直接使用内核提供的异步IO API发起read请求,且发起后立即返回,继续执行用户线程代码。不过此时用户线程已经将调用的AsynchronousOperation和CompletionHandler注册到内核,然后操作系统开启独立的内核线程去处理IO操作。当read请求的数据到达时,由内核负责读取socket中的数据,并写入用户指定的缓冲区中。最后内核将read的数据和用户线程注册的CompletionHandler分发给内部Proactor,Proactor将IO完成的信息通知给用户线程(一般通过调用用户线程注册的完成事件处理函数),完成异步IO。

 

不少高性能并发服务程序使用IO多路复用模型+多线程任务处理的架构基本可以满足需求。况且目前操作系统对异步IO的支持并非特别完善,更多的是采用IO多路复用模型模拟异步IO的方式(IO事件触发时不直接通知用户线程,而是将数据读写完毕后放到用户指定的缓冲区中)。

 

四、   IO模型对比

1.  IO模型功能对比

ad04d5474b1aa5cdb49646268b1824a7e9e9bf30

 

2.  IO模型特性对比

 

同步阻塞IO

BIO

伪异步IO

非阻塞IO

NIO

异步IO

AIO

客户端连接数:IO线程数

1:1

M:N(M可以大于N)

M:1(1个线程处理多个连接)

M:0(被动回调,不需要额外线程)

阻塞

阻塞

阻塞

非阻塞

非阻塞

同步

同步

同步

同步(IO多路复用)

异步

Api使用难度

简单

简单

非常复杂

复杂

调试难度

简单

简单

复杂

复杂

可靠性

非常差

吞吐量

 

 

3.  伪异步IO

在NIO没有流行之前,为了解决tomcat通信线程铜鼓IO导致业务线程被挂住的问题,大家想到一个拌饭:在通信线程和业务线程之间做一个缓冲区,这个缓冲区用于隔离IO线程和业务线程的直接访问,实现业务线程不被IO线程阻塞。对于后端业务来说,将消息或者Task放在线程池中就直接返回了,它不在直接访问IO线程或者对IO读写,这样就不会被同步阻塞。另外,接收到客户端封装的Task后,放在后端的线程池,让后端的线程异步取任务执行,这样就解决了一连接一线程的问题。这种做法常被称之为伪异步IO。

 

 

 

 

五、   epoll原理

epoll是Linux下的一种IO多路复用技术,可以非常高效的处理数以百万计的socket句柄。

1.  epoll方法

int epoll_create(int size)

epoll_create建立一个epoll对象。参数size是内核保证能够正确处理的最大句柄数,多于这个最大数时内核可不保证效果。

int epoll_ctl(int epfd, int op, int fd, struct epoll_event *event)

epoll_ctl可以操作epoll_create创建的epoll,如将socket句柄加入到epoll中让其监控,或把epoll正在监控的某个socket句柄移出epoll。

int epoll_wait(int epfd, struct epoll_event *events,int maxevents, int timeout)

epoll_wait在调用时,在给定的timeout时间内,所监控的句柄中有事件发生时,就返回用户态的进程。

2.  epoll内部实现

epoll初始化时,会向内核注册一个文件系统,用于存储被监控的句柄文件,调用epoll_create时,会在这个文件系统中创建一个file节点。同时epoll会开辟自己的内核高速缓存区,以红黑树的结构保存句柄,以支持快速的查找、插入、删除。还会再建立一个list链表,用于存储准备就绪的事件。

当执行epoll_ctl时,把socket句柄放到epoll文件系统里file对象对应的红黑树上;给内核中断处理程序注册一个回调函数,告诉内核,如果这个句柄的中断到了,就把它放到准备就绪list链表里。所以,当一个socket上有数据到了,内核在把网卡上的数据copy到内核中后,就把socket插入到就绪链表里。

当epoll_wait调用时,仅仅观察就绪链表里有没有数据,如果有数据就返回,否则就sleep,超时时立刻返回。

3.  epoll的工作模式

LT:level-trigger,水平触发模式

只要某个socket处于readable/writable状态,无论什么时候进行epoll_wait都会返回该socket。

ET:edge-trigger,边缘触发模式

只有某个socket从unreadable变为readable或从unwritable变为writable时,epoll_wait才会返回该socket。

 

六、  参考资料

高性能IO模型浅析

http://www.cnblogs.com/fanzhidongyzby/p/4098546.html

 

reactor-siemens.pdf

http://www.dre.vanderbilt.edu/~schmidt/PDF/reactor-siemens.pdf

 

深入浅出NIO Socket实现机制

http://www.jianshu.com/p/0d497fe5484a

 

网友评论

登录后评论
0/500
评论
小飞哥1112
+ 关注