[发明专利]信息处理装置、时间序列数据的信息处理方法以及程序

说明书

信息处理装置(2)基于时间序列数据(D1)作为神经网络(10)起作用。信息处理装置具备存储部(21)和运算处理部(20)。存储部存放时间序列数据中的每个次序的输入变量(x[t])以及用于作为神经网络起作用的参数群(W1～W3)。运算处理部进行基于参数群的变换，基于各次序的输入变量算出中间变量(h[t])，基于算出的中间变量算出输出变量(y[t])。运算处理部在算出第n+1个中间变量时，将第n个中间变量的算出结果(51)、和基于参数群对第n个中间变量以及第n+1个输入变量进行变换后得到的变换结果(50)加权相加，算出第n+1个中间变量。

技术领域

本公开涉及信息处理装置、时间序列数据的信息处理方法以及程序。

背景技术

非专利文献1公开了谋求促进深度神经网络中的机器学习的技术。非专利文献1的高速公路网络(highway network)选择性地跳过了为了从输入数据得到输出数据而进行非线性变换等的中间处理。非专利文献1作为在高速公路网络中选择性跳过的中间处理而举出循环神经网络(RNN)。由此，不在所构建的深度神经网络之中进行基于RNN的递归(循环)的一系列运算处理就能从输入数据得到输出数据。

非专利文献2公开了基于深度神经网络的机器翻译模型。在非专利文献2的机器翻译模型中，在递归地参考时间序列数据中的过去的信息的长短期记忆(LSTM)中，为了跳过递归的运算处理整体而设置将输入数据交给输出侧的连接路径。根据非专利文献2，同复杂的非线性变换一起省略了递归的运算处理来谋求学习的高速化，实现了BLEU值40.4这样高精度的机器翻译。

现有技术文献

非专利文献

非专利文献1：S.R.Kumar，et al.，“Training Very Deep Networks”，eprintarXiv：1507.06228，July 2015.

非专利文献2：Zhou Jie，et al.，“Deep Recurrent Models with Fast-ForwardConnections for Neural Machine Translation”，eprint arXiv：1606.04199，June2016.

非专利文献3：Bahdanau Dzmitry，et al.，“Neural Machine Translation byJointly Learning to Align and Translate”，eprint arXiv：1409.0473，September2014.

发明内容

发明要解决的课题

本公开提供一种能效率良好地进行基于神经网络的时间序列数据的信息处理的时间序列数据的信息处理方法以及信息处理装置。

用于解决课题的手段

本公开的一个方式中的信息处理装置是基于时间序列数据作为神经网络起作用的信息处理装置。信息处理装置具备存储部和运算处理部。存储部存放时间序列数据中的每个次序的输入变量以及用于作为神经网络起作用的参数群。运算处理部进行基于参数群的变换，基于各次序的输入变量算出该次序的中间变量，基于算出的中间变量算出该次序的输出变量。运算处理部在算出第n+1个中间变量时，将第n个中间变量的算出结果和基于参数群对第n个中间变量以及第n+1个输入变量进行变换后得到的变换结果加权相加，算出第n+1个中间变量。

本公开的一个方式中的时间序列数据的信息处理方法由实现神经网络的功能的信息处理装置执行。

发明效果

根据本公开中的信息处理装置以及时间序列数据的信息处理方法，按照加权将第n个中间变量的算出结果移交给第n+1个中间变量，能效率良好地进行基于神经网络的时间序列数据的信息处理。

附图说明