[发明专利]一种实时GPU服务中批处理规模的选择方法有效
申请号: | 202210513527.9 | 申请日: | 2022-05-12 |
公开(公告)号: | CN115080263B | 公开(公告)日: | 2023-10-27 |
发明(设计)人: | 赵阳;张巍元;柴源;刘周;岳驰涛 | 申请(专利权)人: | 吉林省吉林祥云信息技术有限公司 |
主分类号: | G06F9/54 | 分类号: | G06F9/54;G06F9/50;G06V10/96;G06V10/94;G06V10/764;G06V30/42;G06F40/289;G06F40/40;G10L15/30;G10L15/34;G10L15/26 |
代理公司: | 哈尔滨市阳光惠远知识产权代理有限公司 23211 | 代理人: | 姜明君 |
地址: | 130000 吉林省长春市*** | 国省代码: | 吉林;22 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明属于批处理领域,公开了一种实时GPU服务中的批处理规模的选择方法。步骤1:客户端发送待处理的图像数据到消息队列;步骤2:服务端从队列中接收图像数据,合成批处理图像数据;步骤3:服务端GPU对数据进行处理;步骤4:服务端根据对应的线程id返回处理结果到客户端。本发明用于解决实时GPU服务中由于批处理规模选择不当,导致的服务端处理时间过长和客户端访问延迟的问题。 | ||
搜索关键词: | 一种 实时 gpu 服务 批处理 规模 选择 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于吉林省吉林祥云信息技术有限公司,未经吉林省吉林祥云信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202210513527.9/,转载请声明来源钻瓜专利网。