[发明专利]瞬时高并发服务器线程池拥塞智能控制方法

说明书

本发明提出一种瞬时高并发服务器线程池拥塞智能控制方法，使瞬时并发量大的服务器系统中仍能保持较短的响应时间，通过解析线程池以及拥塞控制算法的运行机制、实现原理，明晰拥塞控制算法在线程池中实现的可行性，解析对比线程池以及拥塞控制算法的作用参数，确定选取拥塞控制算法的条件，解析拥塞控制算法并选取满足条件的算法，结合选取的满足线程池应用的拥塞控制算法特征对算法进行改进并在线程池中实现，提出拥塞自适应控制中的作用参数应用在线程池中的具体方法，本发明对于瞬时并发量大的服务器具有较好的适应能力，能保证较短的响应时间，方法具有很强的可扩展性，具有很高的实用价值和广阔的应用前景。

技术领域

本发明涉及一种线程池拥塞智能控制方法，特别涉及一种瞬时高并发服务器线程池拥塞智能控制方法，属于高并发线程池拥塞控制技术领域。

背景技术

随着网络技术的飞速发展，各类通信交流日益频繁，经常出现瞬时高并发任务请求同时到达服务器。过多的逻辑处理和I/O读写操作，给服务器的负载处理带来了极大的挑战，亟需提高服务器瞬时高并发处理性能。服务器应具有低响应时间和高吞吐量等特征，采使用多线程程序设计，多线程程序设计采用多线程并发处理，不同的线程执行不同的任务，有效的提高了任务的并发性和服务器的实时响应能力，减小了系统资源频繁调度和切换所带来的巨额开销。

新的任务到达后，多线程程序设计会创建一个新的线程，由该线程执行任务请求，任务完成后自动销毁，这种处理方式增加了线程在创建和销毁时的开销，特别是处理频繁而短小的请求时尤为明显，针对这一问题采用线程池进行处理。线程池是一种多线程处理形式，创建初期，线程池会创建一定量的线程，每个新来的请求会分配一个空闲线程，当任务完成后，线程不会销毁而是转为等待状态，等待新的请求并再次进行处理；若线程全部处于忙碌状态，任务将暂存在队列中并等待，线程池技术避免了线程的频繁创建及销毁，提高了服务器性能。但现有技术的线程池技术在应用中仍存在一些问题，其中较为突出的是无法很好的应用在瞬时高并发的服务器中，根据请求调整线程数目的能力较差，无法及时响应用户请求，甚至导致请求丢失。

当今社会信息量爆发性增长，要求服务器能在同一个时间段内执行更多的任务，因此出现了多线程程序设计，而该方式在处理线程的创建和销毁时消耗较多的时间与资源，为了更加有效的利用线程并减小其在创建和销毁方面的开销，线程池技术被提了出来，线程池是一种多线程处理形式，它在处理任务请求时，将任务添加入队列中，然后再创建线程后自动启动这些任务。线程池能够较好的解决服务器程序性能问题，但是现有技术线程池也存在着明显不足，因此需要对线程池进行优化。

韩国西江大学的Dong Kang等人对高校资源使用情况进行了预测，并在此基础上提出了基于预测的动态线程池算法，使用指数平均方案进行预测，每一个用户连接服务器后将被监测线程记录，并且定期与历史访问平均值比较，如果差值较大则进行更新。同时根据历史记录数值预测未来将出现的状况，然后动态改变线程池的大小，但该算法统计以及预测方法所耗资源较多，同时该算法也无法应对突发事件。

北京交通大学的于晶提出采用优先级调度算法对线程池进行性能优化，线程池尺寸大小依据请求数量和平均空闲时间作为尺寸增加的标准，将线程平均空闲时间和请求处理时间作为尺寸减小的标准进行调整，该方法对于有优先级用户的请求处理有优势，同时尺寸大小的调整方式也能缓解线程池资源利用率低或者浪费等问题。但不足在于不能对并发瞬时请求进行响应，同时提出的优先级没有考虑低优先级长时间等待等问题，具有使用限制。

孙东旭提出了一种基于分段自适应的算法，该算法能够较好的解决线程池自适应的要求，但该算法是根据特定的研究背景得到的，其应用场景有一定的局限性。F.BAHADUR提出根据频率进行优化的策略线程池优化算法，主要策略是通过设置入队列及出队列两个存储队列，每两个任务被执行就计算总的回转时间和等待时间，通过对时间相关性分析判断是否每一个任务都能迅速得到响应，通过这种方法判断线程池尺寸能否满足当前要求，同时根据不同结果进行改变线程池的尺寸大小，该解决方法使用效率高，但缺点是该算法需要统计用户访问频率，因此需要存储历史数据并进行统计，需要消耗较多资源，同时统计也需要较复杂的方式实现。