[发明专利]一种基于联邦学习的多用户协同训练人流统计方法及系统

说明书

本发明提供一种基于联邦学习的多用户协同训练人流统计方法，旨在利用联邦学习框架搭建一个新颖的人群计数模型，达到让多用户多设备同时训练的目的。各个客户端利用图像数据集对图像分类网络进行本地训练以获取本地模型；在各经过至少一次本地训练后，中心服务器从客户端获取本地模型的权值及附加层参数并进行聚合处理；中心服务器利用聚合处理后的权值及附加层参数更新全局模型，并将聚合处理后的权值参数及附加层参数返回给各个客户端；各个客户端利用中心服务器返回的权值以及ground truth值进行贝叶斯估计，计算loss值，并利用返回的权值参数及附加层参数更新本地模型；重复执行直至所有客户端的loss值均收敛，则完成人流统计全局模型和本地模型的训练。

技术领域

本发明涉及图像处理技术领域，具体涉及一种基于联邦学习的多用户协同训练人流统计方法及系统。

背景技术

人群计数是一种成熟的视觉技术，但它仅限于少数场景。跨多个客户端学习共享模式并保持隐私在现实生活场景中，如公共安全、医疗信息采集、社会资源管理等都具有重要意义。

2019年9月10日发生的卡尔巴拉（Karbala）踩踏事件以及COVID-19病毒（COVID-19virus）的爆发向社会传达了在许多安全关键场景中进行人流统计的必要性。基于人群统计模型的智能监控系统在公安、医疗信息采集、社会资源管理等领域有着广泛的应用，同时，随着数据采集技术和高效移动计算设备的发展，多客户机可以参与到集中训练中。群组训练数据可以在中央服务器上聚合，以训练更好的群组计数机器学习模型，但用户必须牺牲其个人私有数据隐私。

在联邦学习中，多客户机协同实现全局模式的更新和迭代。而学习过程却只在每个本地客户端下进行。在与中心服务器通信的过程中，用户只需上传梯度和参数更新进行聚合。更新后的模型将由中央服务器分发给客户机。从理论上讲，由于联邦学习的隐私保护特性，它可以有效地防止客户端潜在的隐私泄露风险。此外，避免了大量的数据加载，不同类型的移动计算设备可以参与到同一个学习系统中，单个客户端只需要较少的训练集就可以完成任务都是联邦学习的特长。

尽管联邦学习有其优点，但很少有研究提及联邦学习用于训练人群计数任务。曾有研究提到了将监控摄像头应用于人员重新识别应用。但现实场景中数据的异构性和多样性，即非同一独立分布（non-IID），成为了联邦学习人群统计的难解问题之一。并且在在最近的研究发现，联邦学习在处理非IID数据方面的表现显著下降。本地模型会遭受收敛的挑战，模型的精度降低，尤其是FEDAVG框架。

发明内容

本发明针对现有技术中存在的技术问题，提供一种基于联邦学习的多用户协同训练人流统计方法及系统，旨在利用联邦学习框架搭建一个新颖的人群计数模型，达到让多用户多设备同时训练的目的。

本发明解决上述技术问题的技术方案如下：

第一方面，本发明提供一种基于联邦学习的多用户协同训练人流统计方法，通过联合多种异构设备协同训练同一种神经网络架构，并实现分布式实施监控统计人流量，包括以下步骤：

S1，各个客户端利用图像数据集对图像分类网络进行本地训练以获取本地模型；

S2，在各个客户端经过至少一次本地训练后，中心服务器从客户端获取本地模型的权值参数及附加层参数并进行聚合处理；参与聚合处理的客户端数量少于或等于客户端总数；

S3，中心服务器利用聚合处理后的权值参数及附加层参数更新全局模型，并将聚合处理后的权值参数及附加层参数返回给各个客户端；

S4，各个客户端利用中心服务器返回的权值以及ground truth值进行贝叶斯估计，计算loss值，并利用中心服务器返回的权值参数及附加层参数更新本地模型；

S5，重复执行步骤S1~S4，直至所有客户端的loss值均收敛，则完成人流统计全局模型和本地模型的训练。