IOCP的学习总结
IOCP(I/O Completion Port),常称I/O完成端口。 IOCP模型属于一种通讯模型,适用于(能控制并发执行的)高负载服务器的一个技术。 通俗一点说,就是用于高效处理很多很多的客户端进行数据交换的一个模型。或者可以说,就是能异步I/O操作的模型。
1、基本概念
IOCP全称I/O Completion Port,中文译为I/O完成端口。IOCP是一个异步I/O的API,它可以高效地将I/O事件通知给应用程序。与使用select()或是其它异步方法不同的是,一个套接字[socket]与一个完成端口关联了起来,然后就可继续进行正常的Winsock操作了。然而,当一个事件发生的时候,此完成端口就将被操作系统加入一个队列中。然后应用程序可以对核心层进行查询以得到此完成端口。
2、IOCP模型的优缺点 优点:
① 帮助维持重复使用的内存池。(与重叠I/O技术有关) ② 去除删除线程创建/终结负担。
③ 利于管理,分配线程,控制并发,最小化的线程上下文切换。 ④ 优化线程调度,提高CPU和内存缓冲的命中率。 缺点:
理解以及编码的复杂度较高。对使用者有一定要求。 需了解以下基本知识:
① 同步与异步 ② 阻塞与非阻塞 ③ 重叠I/O技术 ④ 多线程
⑤ 栈、队列这两种基本的数据结构
3、相关API
① 与SOCKET相关
1、链接套接字动态链接库:int WSAStartup(...); 2、创建套接字库: SOCKET socket(...); 3、绑字套接字: int bind(...);
4、套接字设为监听状态: int listen(...); 5、接收套接字: SOCKET accept(...); 6、向指定套接字发送信息:int send(...); 7、从指定套接字接收信息:int recv(...);[1] ② 与线程相关
1、创建线程:HANDLE CreateThread(...); ③ 重叠I/O技术相关
1、向套接字发送数据: int WSASend(...); 2、向套接字发送数据包: int WSASendTo(...);
3、从套接字接收数据: int WSARecv(...); 4、从套接字接收数据包: int WSARecvFrom(...); ④ IOCP相关
1、创建/关联完成端口: HANDLE WINAPI CreateIoCompletionPort(...); 2、获取队列完成状态: BOOL WINAPI GetQueuedCompletionStatus(...); 3、投递一个队列完成状态:BOOL WINAPI PostQueuedCompletionStatus(...);
4、详细概念
这里我要对上面的一些概念略作补充,在解释[完成]两字之前,我想先简单的提一下同步和异步这两个概念,逻辑上来讲做完一件事后再去做另一件事就是同步,而同时一起做两件或两件以上事的话就是异步了。你也可以拿单线程和多线程来作比喻。但是我们一定要将同步和堵塞,异步和非堵塞区分开来,所谓的堵塞函数诸如accept(…),当调用此函数后,此时线程将挂起,直到操作系统来通知它,“HEY兄弟,有人连进来了”,那个挂起的线程将继续进行工作,也就符合”生产者-消费者”模型。堵塞和同步看上去有两分相似,但却是完全不同的概念。大家都知道I/O设备是个相对慢速的设备,不论打印机,调制解调器,甚至硬盘,与CPU相比都是奇慢无比的,坐下来等I/O的完成是一件不甚明智的事情,有时候数据的流动率非常惊人,把数据从你的文件服务器中以Ethernet速度搬走,其速度可能高达每秒一百万字节,如果你尝试从文件服务器中读取100KB,在用户的眼光来看几乎是瞬间完成,但是,要知道,你的线程执行这个命令,已经浪费了10个一百万次CPU周期。所以说,我们一般使用另一个线程来