[发明专利]秘密梯度下降法计算方法、秘密深度学习方法、秘密梯度下降法计算系统、秘密深度学习系统、秘密计算装置及程序

权利要求书

1.一种秘密梯度下降法计算方法，是由包括多个秘密计算装置的秘密梯度下降法计算系统执行的、在至少将梯度G和参数W隐匿的状态下对梯度下降法进行计算的秘密梯度下降法计算方法，其中，

设β₁、β₂、η、ε为预先确定的超参数，○为每个元素的积，t为学习次数，[G]为所述梯度G的隐匿值，[W]为所述参数W的隐匿值，[M]、[M^{^}]、[V]、[V^{^}]、[G^{^}]为元素数量与所述梯度G相等的矩阵M、M^{^}、V、V^{^}、G^{^}的隐匿值，并设β^{^}_1，t、β^{^}_2，t、g^{^}为下式，

[公式1]

设Adam为对将值v^{^}的矩阵V^{^}的隐匿值[V^{^}]作为输入而输出值g^{^}的矩阵G^{^}的隐匿值[G^{^}]的秘密批量映射进行计算的函数，

各秘密计算装置的参数更新部计算[M]←β₁[M]+(1-β₁)[G]，

所述参数更新部计算[V]←β₂[V]+(1-β₂)[G]○[G]，

所述参数更新部计算[M^{^}]←β^{^}_1，t[M]，

所述参数更新部计算[V^{^}]←β^{^}_2，t[V]，

所述参数更新部计算[G^{^}]←Adam([V^{^}])，

所述参数更新部计算[G^{^}]←[G^{^}]○[M^{^}]，

所述参数更新部计算[W]←[W]-[G^{^}]。

2.根据权利要求1所述的秘密梯度下降法计算方法，其中，

设rshift为算术右移位，b_β为β₁和β₂的精度，b_{β^_1}为β^{^}_1，t的精度，b_g^为g^{^}的精度，

所述参数更新部在计算[M]←β₁[M]+(1-β₁)[G]后，计算[M]←rshift([M]，b_β)，

所述参数更新部在计算[V]←β₂[V]+(1-β₂)[G]○[G]后，计算[V]←rshift([V]，b_β)，

所述参数更新部在计算[G^{^}]←[G^{^}]○[M^{^}]后，计算[G^{^}]←rshift([G^{^}]，b_g^+b_{β^_1})。