[发明专利]流式数据处理方法、装置、电子设备及存储介质在审
申请号: | 201910953104.7 | 申请日: | 2019-10-09 |
公开(公告)号: | CN110716959A | 公开(公告)日: | 2020-01-21 |
发明(设计)人: | 谢维柱;邢越 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F16/2455 | 分类号: | G06F16/2455;G06F16/22;G06F12/02 |
代理公司: | 11205 北京同立钧成知识产权代理有限公司 | 代理人: | 胡艾青;刘芳 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请公开了一种流式数据处理方法、装置、电子设备及存储介质,涉及数据处理技术领域。具体实现方案为:先获取第一数据存储容器中各个数据分片对应的实例的运行状态,其中,第一数据存储容器包括多个数据分片,数据下发组件的缓存数据按照数据分片粒度存储在第一数据存储容器中,然后,根据运行状态确定溢出数据分片,溢出数据分片为运行状态为异常状态的实例所对应的数据分片,最后,将溢出数据分片中的数据缓存至存储介质中。本申请提供的流式数据处理方法,通过将运行状态为异常状态的实例所对应的数据分片缓存至存储介质中,从而将异常数据分片和正常数据分片分开处理,进而避免因某级算子实例短期异常,而造成整体处理能力下降。 | ||
搜索关键词: | 数据分片 运行状态 存储介质 存储容器 第一数据 溢出 数据处理 异常状态 流式 数据处理技术 缓存 电子设备 分开处理 缓存数据 数据缓存 数据下发 异常数据 整体处理 正常数据 算子 申请 存储 | ||
【主权项】:
1.一种流式数据处理方法,其特征在于,包括:/n获取第一数据存储结构中各个数据分片对应的实例的运行状态,其中,所述第一数据存储结构包括多个数据分片,数据下发组件的缓存数据按照数据分片粒度存储在所述第一数据存储结构中;/n根据所述运行状态确定溢出数据分片,所述溢出数据分片为所述运行状态为异常状态的实例所对应的数据分片;/n将所述溢出数据分片中的数据缓存至存储介质中。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910953104.7/,转载请声明来源钻瓜专利网。