[发明专利]基于http协议的数据包流式提取方法、系统、介质及设备在审
申请号: | 202211730060.X | 申请日: | 2022-12-30 |
公开(公告)号: | CN116055470A | 公开(公告)日: | 2023-05-02 |
发明(设计)人: | 汪雍容;蔡晓华;杨光辉 | 申请(专利权)人: | 上海天旦网络科技发展有限公司 |
主分类号: | H04L67/02 | 分类号: | H04L67/02;H04L67/565;H04L67/568;H04L67/06 |
代理公司: | 上海锻创知识产权代理有限公司 31448 | 代理人: | 梁勤伟 |
地址: | 200086 上海*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 http 协议 数据包 提取 方法 系统 介质 设备 | ||
1.一种基于http协议的数据包流式提取方法,其特征在于,包括:
步骤1:在客户端通过http协议,对中间服务器发起数据提取请求,客户端预期得到的http响应体为所提取的数据包流,将此数据包流下载为本地文件;
步骤2:在中间服务器接收到客户端或其他中间服务器的http请求后,对其他中间服务器或数据存储服务器发起新的http请求,并把新的http请求对应的响应数据进行处理,包括合并和格式转换,然后作为http响应返回客户端;
步骤3:在数据存储服务器接收到中间服务器的http请求后,流式地从本地服务器检索提取数据流,将数据放入一个本地缓冲区,并实时将缓冲区数据作为http响应返回中间服务器。
2.根据权利要求1所述的基于http协议的数据包流式提取方法,其特征在于,如果当前中间服务器有多路新的http请求,则需要将对应的多路响应数据包合并为一路;
每一路响应数据都是按照时间单调增长的数据包序列,循环检查每一路响应数据的第一个包,将时间戳最新的数据包移除并输出。
3.根据权利要求1所述的基于http协议的数据包流式提取方法,其特征在于,如果多路数据包是不同的格式,则需要在每个数据包合并前,将其转为统一的格式。
4.根据权利要求1所述的基于http协议的数据包流式提取方法,其特征在于,所述步骤3包括:
步骤3.1:启动检索进程,读取本地磁盘,获取所需要的数据包,逐个有序放入内存缓冲区,直到所有数据包都被放入内存缓冲区后,退出进程;若内存缓冲区满,则进程阻塞,等待内存缓冲区被部分或完全消费后,变为非满时继续处理;
步骤3.2:启动http响应进程,从内存缓冲区逐个有序读取数据包,并将数据包作为http响应返回中间服务器,当内存缓冲区为空时,阻塞等待其非空后再继续处理;当检索进程正常退出且内存缓冲区为空时,http响应进程正常退出。
5.一种基于http协议的数据包流式提取系统,其特征在于,包括:
模块M1:在客户端通过http协议,对中间服务器发起数据提取请求,客户端预期得到的http响应体为所提取的数据包流,将此数据包流下载为本地文件;
模块M2:在中间服务器接收到客户端或其他中间服务器的http请求后,对其他中间服务器或数据存储服务器发起新的http请求,并把新的http请求对应的响应数据进行处理,包括合并和格式转换,然后作为http响应返回客户端;
模块M3:在数据存储服务器接收到中间服务器的http请求后,流式地从本地服务器检索提取数据流,将数据放入一个本地缓冲区,并实时将缓冲区数据作为http响应返回中间服务器。
6.根据权利要求5所述的基于http协议的数据包流式提取系统,其特征在于,如果当前中间服务器有多路新的http请求,则需要将对应的多路响应数据包合并为一路;
每一路响应数据都是按照时间单调增长的数据包序列,循环检查每一路响应数据的第一个包,将时间戳最新的数据包移除并输出。
7.根据权利要求5所述的基于http协议的数据包流式提取系统,其特征在于,如果多路数据包是不同的格式,则需要在每个数据包合并前,将其转为统一的格式。
8.根据权利要求5所述的基于http协议的数据包流式提取系统,其特征在于,所述模块M3包括:
模块M3.1:启动检索进程,读取本地磁盘,获取所需要的数据包,逐个有序放入内存缓冲区,直到所有数据包都被放入内存缓冲区后,退出进程;若内存缓冲区满,则进程阻塞,等待内存缓冲区被部分或完全消费后,变为非满时继续处理;
模块M3.2:启动http响应进程,从内存缓冲区逐个有序读取数据包,并将数据包作为http响应返回中间服务器,当内存缓冲区为空时,阻塞等待其非空后再继续处理;当检索进程正常退出且内存缓冲区为空时,http响应进程正常退出。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海天旦网络科技发展有限公司,未经上海天旦网络科技发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211730060.X/1.html,转载请声明来源钻瓜专利网。