[发明专利]一种业务数据处理方法及装置

说明书

本发明提出了一种业务数据处理方法及装置，该方法包括：针对消费者端的任一业务处理单元，检测代理端中与业务处理单元对应的订阅消息队列中的消息数量，其中，每一个所述业务处理单元都对应一个或多个订阅消息队列，所述业务处理单元用于处理所述订阅消息队列中的消息；至少根据检测到的消息数量判断是否需要调整业务处理单元的业务处理能力，若是，则调整业务处理单元的业务处理能力。本发明克服了现有技术中的分布式发布‑订阅消息系统所产生的消息挤压的缺陷。

技术领域

本发明涉及数据处理领域，尤其涉及一种业务数据处理方法及装置。

背景技术

Kafka是分布式发布-订阅消息系统。Kafka是一个分布式的、可划分的、冗余备份的持久性的日志服务。它主要用于处理活跃的流式数据。

在大数据系统中，常常会碰到一个问题，整个大数据是由各个子系统组成，数据需要在各个子系统中高性能、低延迟的不停流转，因此会带来组网复杂以及编网复杂的问题。而Kafka可以降低系统组网复杂度，降低编程复杂度，各个子系统不再是相互协商接口，各个子系统可以类似插口插在插座上一样插在Kafka上，由Kafka承担高速数据总线的作用。

如图1所示，Kafka的整体架构非常简单，是一个显式分布式架构，如下为Kafka中的几个基本概念，Topic：特指Kafka处理的消息源(feeds of messages)的不同分类。Partition：Topic物理上的分组，一个Topic可以分为多个Partition，每个Partition是一个有序的队列。Partition中的每条消息都会被分配一个有序的id。Message：消息，是通信的基本单位，每个Producer可以向一个Topic发布一些消息。Producers：消息和数据生产者，向Kafka的一个Topic发布消息。Consumers：消息和数据消费者，订阅Topics并处理其发布的消息。Broker：缓存代理，Kafka集群中的一台或多台服务器统称为Broker。

Kafka中，生产者端Producer、代理端Broker和消费者端Consumer都可以有多个。Producer、Consumer是实现Kafka注册的接口，数据从Producer发送到Broker，Broker承担一个中间缓存和分发的作用。Broker用于分发注册到系统中的Consumer。Broker的作用类似于缓存，即活跃的数据和离线处理系统之间的缓存。

Kafka主要特点：同时为发布和订阅提供高吞吐量。据了解，Kafka每秒可以生产约25万消息(占50MB的存储容量)，每秒处理55万消息(占110MB的存储容量)；可进行持久化操作。将消息持久化到硬盘，因此可用于批量消费；分布式系统，易于向外扩展。所有的Producer、Broker和Consumer均为分布式的。无需停机即可扩展机器；消息被处理的状态是在Consumer端维护，而不是由服务器端维护，当失败时能自动平衡；支持online和offline的场景。

在包含Kafka架构在内的一些系统架构中，现有的Consumers的消息订阅消费模式都是耦合在具体业务场景中进行消息处理的，没有一个通用的高并发处理框架来通过简单的配置文件即可实现业务能力的服务器节点数量自动扩展，因此会导致消息处理积压，服务器资源消耗过高，消息处理不够及时。

发明内容

本发明要解决的技术问题是，提供一种业务数据处理方法及装置，克服现有技术中的分布式发布-订阅消息系统所产生的消息挤压的缺陷。

本发明采用的技术方案是，业务数据处理方法，包括：

针对消费者端的任一业务处理单元，检测代理端中与业务处理单元对应的订阅消息队列中的消息数量，其中，每一个业务处理单元都对应一个或多个订阅消息队列，业务处理单元用于处理订阅消息队列中的消息；

至少根据检测到的消息数量判断是否需要调整业务处理单元的业务处理能力，若是，则调整业务处理单元的业务处理能力。