[发明专利]利用简化的激活函数计算多层感知器模型的神经元层的方法在审
申请号: | 201780054626.2 | 申请日: | 2017-09-04 |
公开(公告)号: | CN109643392A | 公开(公告)日: | 2019-04-16 |
发明(设计)人: | A.贡托罗 | 申请(专利权)人: | 罗伯特·博世有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/04;G06N7/00;G05B13/04;F02P5/15;G06F15/78 |
代理公司: | 中国专利代理(香港)有限公司 72001 | 代理人: | 张涛;申屠伟进 |
地址: | 德国斯*** | 国省代码: | 德国;DE |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经元 激活函数 多层感知器 感知器模型 硬件构造 指数函数 定义域 固定连 耦合的 算法 | ||
1.用于计算多层感知器模型的神经元层的方法,其利用以硬件构造的固定连线的计算核(11,13,14)来计算耦合的函数块中的固定预定的计算算法,
其中借助于激活函数计算所述感知器模型的神经元层的神经元(20),其中所述激活函数对应于简化的S形函数和简化的tanh函数,其中所述激活函数通过指数函数的负定义域的零点镜像形成。
2.根据权利要求1所述的方法,其中具有多个神经元(20)的所述感知器模型的神经元层依据输入参数向量的一个或多个输入参数、具有加权因子()的加权矩阵和为每个神经元(20)预定的偏移值计算每个神经元(20)的输出参数,其中对于每个神经元(20),用通过该神经元(20)和所述输入参数确定的加权因子()加权的输入参数值之和被施加以为该神经元(20)预定的偏移值(),并且用所述激活函数变换结果,以获得该神经元(20)的输出参数。
3.根据权利要求1或2所述的方法,其中根据变量选择所述简化的S形函数或所述简化的tanh函数来作为激活函数。
4.根据权利要求1至3中任一项所述的方法,其中针对值计算所述简化的S形函数的函数值,其方式是基于该值的负绝对值计算指数函数,其中所述函数值在该值的符号为正的情况下被计算为“1”与以下乘积的和,该乘积是“0.5”与所述指数函数的结果相乘,并且在符号为负的情况下被计算为0.5和所述指数函数的结果的乘积。
5.根据权利要求1至3中任一项所述的方法,其中针对值计算所述简化的tanh函数的函数值,其方式是基于该值的负绝对值来计算指数函数,其中所述函数值在该值的符号为正的情况下被计算为“1”与所述指数函数的负结果的和,并且在该值的符号为负的情况下被计算为“-1”与所述指数函数的结果的和。
6.根据权利要求4至5中任一项所述的方法,其中,通过读取所述值的符号位来确定所述值的符号,或者对于正值将所述值的符号确定为+1,并且对于负值将所述值的符号确定为-1。
7.用于计算多层感知器模型的神经元层的模型计算单元(22),其利用以硬件构造的固定连线的计算核(11,13,14)来计算耦合的函数块中的固定预定的计算算法,
其中所述计算核(11,13,14)被构造用于为具有多个神经元(20)的多层感知器模型的神经元层依据输入参数向量的一个或多个输入参数、具有加权因子()的加权矩阵和为每个神经元(20)预定的偏移值()来计算每个神经元(20)的输出参数,其中对于每个神经元(20),计算用通过该神经元(20)和所述输入参数确定的加权因子加权的输入参数值之和以及给该神经元(20)预定的偏移值(),并且用激活函数变换结果,以获得该神经元(20)的输出参数,其中所述激活函数包括简化的S形函数或简化的tanh函数,其中所述激活函数通过指数函数的负定义域的零点镜像来形成。
8.根据权利要求7所述的模型计算单元(22),其中,所述计算核(11,13,14)包括状态机(11)和一个或多个计算运算块(13,14)、特别是MAC块和激活函数计算块,并且特别是包括用于存储输入参数向量的一个或多个输入参数、加权矩阵、为每个神经元(20)预定的偏移值()以及每个神经元(20)的输出参数的存储器(12)。
9.根据权利要求7至8中任一项所述的模型计算单元(22),其中所述计算核(11,13,14)构造成在集成部件的表面区域中。
10.控制设备(2),具有微处理器(21)和一个或多个根据权利要求7至9中任一项所述的模型计算单元(22)。
11.根据权利要求10所述的控制设备(2),其中所述控制设备(2)被构造为集成电路。
12.根据权利要求10或11所述的控制设备(2)作为用于控制机动车辆中的发动机系统(1)的控制设备(2)的用途。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于罗伯特·博世有限公司,未经罗伯特·博世有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201780054626.2/1.html,转载请声明来源钻瓜专利网。