[发明专利]优化业务模型的方法及装置

权利要求书

1.一种优化业务模型的方法，适用于多个数据方基于隐私保护联合训练业务模型情况下，辅助确定业务模型的参数集的服务方，所述业务模型用于处理业务数据，得到相应业务处理结果，所述业务模型的参数集用于描述其模型结构和/或至少一个超参数；所述方法包括：

向各个数据方下发所述业务模型的当前参数集，以供各个数据方联合训练所述当前参数集对应的当前业务模型，并各自确定所述当前业务模型在本地的局部性能，其中，所述局部性能包括以下中的至少一项：准确率、召回率、模型损失；

对各个数据方分别确定的各局部性能进行融合，得到针对所述当前参数集的当前全局性能；

基于所述当前全局性能、所述当前参数集，以及历史全局性能和历史参数集之间的关联关系，以最大化全局性能为目标，更新所述当前参数集。

2.根据权利要求1所述的方法，其中，初始的历史全局性能包括通过N次相互独立的全局性能采样操作得到的N个采样性能，所述N个采样性能与N个采样参数集一一对应，单次全局性能采样操作包括：

初始化所述业务模型的第一采样参数集；

将所述第一采样参数集提供给各个数据方，以供各个数据方联合训练所述第一采样参数集对应的第一采样业务模型，并各自确定所述第一采样业务模型在本地的第一局部性能；

对各个数据方分别确定的各第一局部性能进行融合，得到针对所述第一采样参数集的第一采样性能。

3.根据权利要求1所述的方法，其中，最大化全局性能通过贝叶斯优化方式实现，所述关联关系通过历史全局性能关于历史参数集的历史概率分布描述；

所述基于所述当前全局性能、所述当前参数集，以及历史全局性能和历史参数集之间的关联关系，以最大化全局性能为目标，更新所述当前参数集包括：

利用所述当前全局性能和所述当前参数集更新历史参数集与历史全局性能之间的历史概率分布；

基于所述历史概率分布，以最大化全局性能为目标，更新所述当前参数集。

4.根据权利要求3所述的方法，其中，所述历史概率分布为历史采样性能针对历史参数集满足的正态分布，正态分布的均值由各个历史参数集的平均值确定，正态分布的方差由各个历史参数集的协方差确定。

5.根据权利要求3所述的方法，其中，所述以最大化全局性能为目标，更新所述当前参数集包括：

基于在更新后的历史概率分布下的全局性能与历史最大全局性能的对比，确定使得全局性能最大化的最优参数集；

利用所述最优参数集更新所述当前参数集。

6.根据权利要求5所述的方法，其中，在不存在优于所述历史最大全局性能的全局性能的情况下，将当前参数集确定为最终优化的参数集。

7.根据权利要求1所述的方法，其中，最大化全局性能通过遗传优化方式实现，所述基于所述当前全局性能、所述当前参数集，以及历史全局性能和历史参数集之间的关联关系，以最大化全局性能为目标，更新所述当前参数集包括：

利用所述当前全局性能更新历史全局性能集；

从更新后的历史全局性能集中选择最优的两个历史全局性能；

将所述最优的两个历史全局性能各自对应的参数集分别作为遗传优化的父系和母系进行遗传操作，得到第一子代参数集；

利用所述第一子代参数集更新所述当前参数集。

8.根据权利要求1所述的方法，其中，所述对各个数据方分别确定的各局部性能进行融合，得到针对所述当前参数集的当前全局性能包括：

对各个数据方分别确定的各局部性能进行融合，得到融合结果；

基于所述融合结果与各个数据方针对所述当前参数集的训练时长的比值，确定所述当前全局性能。

9.根据权利要求1所述的方法，其中，所述对各个数据方分别确定的各局部性能进行融合通过以下中的一种方式实现：

对各局部性能加权平均；

取各局部性能中的最小局部性能；

将各局部性能拼接为向量；

取各局部性能中的中位数；

利用预先训练的融合模型处理各局部性能。