[发明专利]高性能文件传输系统及方法有效
申请号: | 201010551120.2 | 申请日: | 2010-11-19 |
公开(公告)号: | CN101982955A | 公开(公告)日: | 2011-03-02 |
发明(设计)人: | 陈天健;陈勇;蔡泽霖;李宏博 | 申请(专利权)人: | 深圳华大基因科技有限公司 |
主分类号: | H04L29/06 | 分类号: | H04L29/06;H04L29/08 |
代理公司: | 中国国际贸易促进委员会专利商标事务所 11038 | 代理人: | 刘震 |
地址: | 518083 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 性能 文件传输 系统 方法 | ||
1.一种高性能文件传输系统,其特征在于,所述系统包括:
高速传输TCP服务器,用于在套接字层,通过libevent事件触发网络库实现异步非阻塞网络模式,以达到高并发的要求;当有客户端发出请求时,将请求封装成事件通知,然后根据客户端的控制连接句柄对会话线程总数直接取余进行哈希,将所述事件通知分配到不同会话线程的任务队列中;从任务队列中取出所述事件通知,然后调用有限状态机进行处理并获得相应的应答码,通过套接字层返回给客户端;当会话请求需要从磁盘读写数据时,则将相应信息封装成通知事件后加入磁盘处理线程的任务队列,磁盘处理线程则一次性在磁盘和缓存之间进行大块文件的读写,再由会话线程多次从缓存中调用数据,通过套接字层多次和客户端交互;
高速传输UDT服务器,建立用于监听的主线程,以及处理命令、读写文件和压缩数据的三个线程池;当有用户请求时,所述主线程将任务分给处理命令线程池中的一个空闲线程处理,所述空闲线程建立一个新的线程来处理数据连接以传输数据;当读写文件时,处理数据线程与读写文件线程、压缩数据线程之间执行同步的通信协作;非文件读写操作则由数据连接线程直接处理。
2.根据权利要求1所述的系统,其特征在于,所述高速传输TCP服务器进一步包括:
TCP接口模块,用于在套接字层,通过libevent事件触发网络库实现异步非阻塞网络模式,以达到高并发的要求;根据控制连接的句柄进行哈希,将数据分配给不同会话线程的任务队列;
会话管理器,用于从任务队列中取出数据,然后调用有限状态机进行处理并获得相应的应答码,通过套接字层返回给客户端;由会话线程多次从缓存中调用数据,通过套接字层多次和客户端交互;
磁盘管理器,用于当会话请求需要从磁盘读写数据时,则将相应信息加入磁盘处理线程的任务队列,一次性在磁盘和缓存之间进行大块文件的读写。
3.根据权利要求1所述的系统,其特征在于,高速传输UDT服务器进一步包括:
UDT接口模块,用于接收用户请求,以及与客户端交互并向所述客户端传输压缩后的数据;
会话处理模块,建立用于监听的主线程,以及处理命令、读写文件和压缩数据的三个线程池;当有用户请求时,所述主线程将任务分给处理命令线程池中的一个空闲线程处理,所述空闲线程建立一个新的线程来处理数据连接以传输数据;当读写文件时,数据线程与读写文件线程、压缩数据线程之间执行同步的通信协作;非文件读写操作则由数据连接线程直接处理;
磁盘管理器,用于压缩需要传输的数据;在压缩的时候提供用于存放压缩前数据和压缩后数据的两块工作空间,在解压的时候仅提供一块工作空间。
4.根据权利要求1所述的系统,其特征在于,所述高速传输TCP服务器采用全异步架构模式。
5.根据权利要求1所述的系统,其特征在于,所述高速传输UDT服务器采用同步阻塞模式。
6.根据权利要求1或3所述的系统,其特征在于,采用LZO压缩算法对文本类型文件进行压缩。
7.根据权利要求1或2所述的系统,其特征在于,在所述套接字层,通过所述libevent事件触发网络库为控制连接和数据连接各设置1组事件,每组4个事件,用于实现与客户端的控制命令通信和数据传输。
8.根据权利要求7所述的系统,其特征在于,每组的4个事件包括:接受客户端事件、读数据事件、通知事件、写数据事件。
9.一种高性能文件传输方法,其特征在于,采用前述权利要求中任意一项所述的系统来实现;所述方法包括所述高速传输TCP服务器接受客户端事件的流程;
所述流程进一步包括:
初始化监听套接字socket,并设置为监听模式和非阻塞模式;
为所述监听套接字socket初始化接受事件,激活所述接受事件,并加入libevent事件触发网络库中;
当客户端发起连接请求时,所述高速传输TCP服务器自动调用接受客户端事件函数;
接受所述客户端,生成客户端套接字socket,并将控制连接句柄与请求的操作类型封装成一个事件通知,加入任务队列。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳华大基因科技有限公司,未经深圳华大基因科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201010551120.2/1.html,转载请声明来源钻瓜专利网。