[发明专利]一种基于变分推理贝叶斯神经网络的洪水集合预报方法有效
申请号: | 201910058334.7 | 申请日: | 2019-01-22 |
公开(公告)号: | CN109902801B | 公开(公告)日: | 2020-11-17 |
发明(设计)人: | 覃晖;刘永琦;许继军;肖雪;姚立强;李清清;张振东;李杰;裴少乾;卢健涛;朱龙军;汤凌云;刘冠君;田锐 | 申请(专利权)人: | 华中科技大学;长江水利委员会长江科学院 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06N5/04;G01W1/10 |
代理公司: | 华中科技大学专利中心 42201 | 代理人: | 李智;曹葆青 |
地址: | 430074 湖北*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 推理 贝叶斯 神经网络 洪水 集合 预报 方法 | ||
本发明公开了一种基于变分推理贝叶斯神经网络的洪水集合预报方法,包括:设置贝叶斯神经网络各层维度;选定贝叶斯神经网络的权重参数的先验概率分布,通过变分参数对贝叶斯神经网络的权重参数进行参数化,来近似贝叶斯神经网络的权重参数的后验概率分布;计算先验概率分布与变分后验概率分布的相对熵,并根据训练数据集计算期望对数似然函数;根据相对熵和期望对数似然函数,构建目标函数;最大化目标函数,训练变分推理参数;使用训练好的变分推理贝叶斯神经网络,对未知洪水进行集合预报。本发明将变分推理与BNN模型结合,通过变分分布近似贝叶斯网络模型权重参数的后验概率,简化了计算过程,定量描述洪水预报的不确定性,提高准确度。
技术领域
本发明属于水文水资源领域,更具体地,涉及一种基于变分推理贝叶斯神经网络的洪水集合预报方法。
背景技术
准确可靠的洪水预报,能为流域梯级水库防洪调度决策提供科学依据,对流域防洪安全和洪水资源合理利用具有重大意义。滑动平均自回归、支持向量机回归以及深度学习方法在水文预报中展现了其优秀的性能。预报的不确定性在防洪调度中同样十分重要,然而这类确定性预报方法只能预报一个值,无法量化预报中的不确定性。因此,构建考虑预报不确定性的集合预报模型是亟需解决的理论和实际工程问题。
为了定量估计预报的不确定性,Krzysztofwicz等人提出一种基于贝叶斯概率的水文预报方法,其通过贝叶斯理论来预测模型的不确定性。虽然该方法能够定量估计预报的不确定性,但是其后验参数的推导过程需要大量的计算成本。Yarin Gal等人提出一种变分贝叶斯网络结构,其利用Dropout方法来估计预报的不确定性。然而,该方法采用伯努利分布作为变分分布,具有多个超参数,需要大量的重复试验才能得到最优的超参数。
发明内容
针对现有技术的缺陷,本发明的目的在于解决现有技术洪水集合预报计算成本高、超参数多导致优化复杂的技术问题。
为实现上述目的,第一方面,本发明实施例提供了一种基于变分推理贝叶斯神经网络的洪水集合预报方法,所述方法包括以下步骤:
步骤S1.设置贝叶斯神经网络各层维度;
步骤S2.选定贝叶斯神经网络的权重参数的先验概率分布,通过变分参数对贝叶斯神经网络的权重参数进行参数化,来近似贝叶斯神经网络的权重参数的后验概率分布;
步骤S3.计算贝叶斯神经网络的权重参数的先验概率分布与变分后验概率分布的相对熵,并根据训练数据集计算期望对数似然函数;
步骤S4.根据相对熵和期望对数似然函数,构建目标函数;
步骤S5.最大化目标函数,训练变分推理参数;
步骤S6.使用训练好的变分推理贝叶斯神经网络,对未知洪水进行集合预报。
具体地,步骤S2中选定BNN权重参数w的先验概率分布为标准正态分布p(wij)~N(0,1),其中,wij为BNN第i层第j个维度的权重参数。
具体地,步骤S2中采用以θij为均值、以σij为标准差的高斯分布,作为变分后验分布的分布,其分布可表述如下:
其中,θij为BNN第i层第j个维度的权重参数wij的均值,σij为BNN第i层第j个维度的权重参数wij的方差。
具体地,贝叶斯神经网络的权重参数的先验概率分布p(w)与变分后验概率分布的相对熵计算公式如下:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华中科技大学;长江水利委员会长江科学院,未经华中科技大学;长江水利委员会长江科学院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910058334.7/2.html,转载请声明来源钻瓜专利网。