Linux服务器7 --- 多路IO复用+线程池服务端模型(高并发)分析

一、服务端特性概述

1、使用EPOLL模型在服务器中加入（网络IO监听，大量的监听能力）

EPOLL采用边缘触发模式（后话）

2、线程池模型进行并发处理业务（并发处理能力）

1）提高线程重用性（避免频繁创建销毁线程）。

2）线程管理能力较强（根据需求扩容缩减）。

3）预创建处理线程，可以更为及时有效地为客户端服务。

3、不要让处理线程与客户端绑定（影响并发），处理线程可以重用为不同的客户端服务。    
4、不要让线程池与业务绑定，使用者自行定义实现业务并传递给线程池， 线程负责执行即可。

5、服务端任务传递采用生产者消费者模式(EPOLL生产者， 线程池消费者)。 生产者消费者模型采用条件变量完成线程控制(挂起与唤醒)。

6、管理者角色，负责对线程池进行监控， 完成线程控制(扩容与缩减)。

7、业务分类，可以根据不同网络IO就绪，制定不同的业务（当然也可以根据客户端协议制定业务）。

8、考虑线程安全，全局资源访问用互斥手段。

二、服务端处理流程分析

1、首先userA客户端去connect服务端，连接请求被epoll监听到，生产者是主控线程控制epoll，通过epoll模型监听到就绪并传递任务。serverfd绑定业务A（建立连接），clientfd绑定业务B（处理请求），serverfd就绪产生了业务A，生产者就会将业务A添加到投放到线程池的业务队列中，线程池一般会先预创建一些线程，这些线程都是消费者，一生产者，多消费者，消费者从业务队列里面取出业务，拿到业务以后去执行，比如某一消费者取到的是业务A，那么就会去建立连接（accept），然后将返回的新的clientfd添加到监听集合中。如果取到的是业务B，处理完以后反馈给客户端，如果某一时刻客户端异常退出，将其对应的网络IO从监听树中删除。

2、主控线程生产者，普通线程消费者，还有一个单独的线程是管理者，负责对线程池中的普通线程进行扩容和缩减，监管普通线程，线程池

线程的扩容和缩减条件，线程执行业务，线程被占用，一段时间内不能再执行其他业务，线程状态busy，没有任务线程状态就是idle，创建多少线程，就有多少线程存活，线程数量计数的时候一般不算生产者和管理者。扩容条件一，忙线程占存活线程数量的70%，扩容条件二，当前任务数量>=闲线程数量。缩减条件为闲线程是忙线程的倍数。

三、服务端模块分析

#include<SOCKET_API.h> /* 服务端宏定义 */ #define SERVER_IP "127.0.0.1" #define SERVER_PORT 8000 #define BUFSIZE 1500 #define BACKLOG 128 #define TIMEOUT 2 //等待超时 #define IPSIZE 16 #define EPOLLSIZE 90000 #define TRUE 1 #define FALSE 0 #define THREAD_CODE 10 //扩容缩减量 int epfd; //监听树描述符 pthread_mutex_t busines_lock; //业务锁 /* 结构体定义 */ typedef struct{ void * (*BUSINES_ADDR)(void *); //业务地址 函数指针 哪个业务 void * BUSINES_ARG; //业务参数 socket }busines_t; //业务类型 //业务传给线程处理 typedef struct{ /*线程池阈值*/ int thread_shutdown; //线程池开关0/1 , 根据开关决定是否结束线程池 int thread_max; //线程最大值 int thread_min; //线程最小值 int thread_busy;//繁忙线程数 int thread_alive; //有效线程数量 int thread_exitcode; //用于线程缩减 pthread_t * customer_tids; //消费者线程tid数组 pthread_t manager_tid; //保存管理者线程tid busines_t * busines_queue; //保存业务的唤醒队列 int b_front; //业务队列头索引 int b_rear; //业务队列尾索引 int b_max; //业务队列最大数 int b_cur; //业务队列当前业务数 pthread_mutex_lock thread_lock; //互斥锁 pthread_cond_t not_full; //生产者条件变量 pthread_cond_t not_empty; //消费者条件变量 }thread_pool_t; //线程池类型 /* 服务端模型模块分析 */ void thread_pool_error(const char * strerror , int exitcode , int errno); //如果errno==0则是标准错误处理，如果errno>0则是线程函数错误处理  将错误处理分成两类 int thread_pool_net_init(void); //成功返回serverfd , 失败返回-1  //服务端网络初始化 int thread_pool_epoll_init(int Sockfd); //成功返回监听树描述符，失败返回-1  //服务端epoll初始化  且监听serverfd thread_pool_t * thread_pool_create(int Max , int Min , int QueMax); //线程池创建初始化，成功返回线程池地址 int thread_pool_destroy(thread_pool_t *); //释放销毁线程池资源  int thread_pool_epoll_listen(int epfd , thread_pool_t * p,int sockfd);//负责网络IO事件监听，辨别就绪并添加任务 producer int thread_pool_add_busines(thread_pool_t * , busines_t); //生产者向线程池中添加业务 void * thread_pool_customer_job(void * arg); //消费者默认工作，创建时传递线程池参数 从任务队列中取任务 void * thread_pool_manager_job(void * arg); //管理者默认工作，创建时传递线程池参数 需要线程池中的阈值 int if_thread_alive(pthread_t); //测试一个线程是否存活 ? 返回0表示线程已经结束，1表示线程存活 void * BUSINES_ACCEPT(void * arg); //TCP连接业务 void * BUSINES_RESPONSE(void * arg); //业务处理