[发明专利]一种基于变分推理贝叶斯神经网络的洪水集合预报方法有效
申请号: | 201910058334.7 | 申请日: | 2019-01-22 |
公开(公告)号: | CN109902801B | 公开(公告)日: | 2020-11-17 |
发明(设计)人: | 覃晖;刘永琦;许继军;肖雪;姚立强;李清清;张振东;李杰;裴少乾;卢健涛;朱龙军;汤凌云;刘冠君;田锐 | 申请(专利权)人: | 华中科技大学;长江水利委员会长江科学院 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06N5/04;G01W1/10 |
代理公司: | 华中科技大学专利中心 42201 | 代理人: | 李智;曹葆青 |
地址: | 430074 湖北*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 推理 贝叶斯 神经网络 洪水 集合 预报 方法 | ||
1.一种基于变分推理贝叶斯神经网络的洪水集合预报方法,其特征在于,所述方法包括以下步骤:
步骤S1.设置贝叶斯神经网络各层维度;
步骤S2.选定贝叶斯神经网络的权重参数的先验概率分布,通过变分参数对贝叶斯神经网络的权重参数进行参数化,来近似贝叶斯神经网络的权重参数的后验概率分布;
步骤S3.计算贝叶斯神经网络的权重参数的先验概率分布与变分后验概率分布的相对熵,并根据训练数据集计算期望对数似然函数,
贝叶斯神经网络的权重参数的先验概率分布p(w)与变分后验概率分布的相对熵计算公式如下:
其中,θij为BNN第i层第j个维度的权重参数wij的均值;σij为BNN第i层第j个维度的权重参数wij的方差;
期望对数似然按照下式来近似:
其中,X表示预报因子x的集合,Y表示预报对象y的集合,(xm,ym)表示从所有数据集(X,Y)中随机选取的第m个不同的数据点,m=1,2,…M,M为随机选取的数据点总个数,N为训练集的数据个数,表示采样得到的第i层网络的第j个维度的权重参数,表示变分参数,∈ij为一个服从标准正态分布N(0,1)的随机数,表示参数化函数;
步骤S4.根据相对熵和期望对数似然函数,构建目标函数,目标函数其中,为期望对数似然,为贝叶斯神经网络的权重参数的先验概率分布p(w)与变分后验概率分布的相对熵;
步骤S5.最大化目标函数,训练变分推理参数;
步骤S6.使用训练好的变分推理贝叶斯神经网络,对未知洪水进行集合预报。
2.如权利要求1所述的洪水集合预报方法,其特征在于,步骤S2中选定BNN权重参数w的先验概率分布为标准正态分布p(wij)~N(0,1)。
3.如权利要求1所述的洪水集合预报方法,其特征在于,步骤S2中采用以θij为均值、以σij为标准差的高斯分布,作为变分后验分布的分布,其分布可表述如下:
4.如权利要求1所述的洪水集合预报方法,其特征在于,步骤S5具体为:采用前向传播算法得到目标函数的值,然后利用反向传播对变分参数求偏导,最后通过随机梯度下降法或者Adam方法更新优化变分参数后,便可以使用变分分布作为近似的BNN参数的后验分布p(w|X,Y)。
5.如权利要求1所述的洪水集合预报方法,其特征在于,步骤S6具体为:采用蒙特卡罗采样BNN权重参数w,生成S个预报值,作为集合预报:
[y1,y2,...,yS]=BNN(x*,[w1,w2,...,wS])
∈~N(0,1)
其中,S为蒙特卡罗采样的个数,BNN(x*,w)表示根据给定的预报因子x*以及BNN的参数w通过前向传播算法得到预报值y=[y1,y2,...,yS]。
6.如权利要求5所述的洪水集合预报方法,其特征在于,对于给定的预报因子x*,其预报值y*的概率分布可按下式得到:
7.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至6任一项所述的洪水集合预报方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华中科技大学;长江水利委员会长江科学院,未经华中科技大学;长江水利委员会长江科学院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910058334.7/1.html,转载请声明来源钻瓜专利网。