[发明专利]神经网络的半监督训练在审
| 申请号： | 201780070359.8 | 申请日： | 2017-11-15 |
| 公开（公告）号： | CN109952583A | 公开（公告）日： | 2019-06-28 |
| 发明（设计）人： | 菲利普·霍伊瑟;亚历山大·莫德温特塞夫 | 申请（专利权）人： | 谷歌有限责任公司 |
| 主分类号： | G06N3/08 | 分类号： | G06N3/08;G06N3/04 |
| 代理公司： | 中原信达知识产权代理有限责任公司 11219 | 代理人： | 李宝泉;周亚荣 |
| 地址： | 美国加利*** | 国省代码： | 美国;US |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 用于训练神经网络的方法、系统和装置，包括在计算机存储介质上编码的计算机程序。一种方法包括：获得一批次的已标记训练项目和一批次的未标记训练项目；使用所述神经网络并根据网络参数的当前值来处理所述已标记训练项目和所述未标记训练项目，以生成相应的嵌入；确定多个相似性值，每个相似性值测量用于相应的已标记训练项目的嵌入与用于相应的未标记训练项目的嵌入之间的相似性；确定用于多个往返路径中的每一个的相应的往返路径概率；以及执行神经网络训练过程的迭代，以确定对所述网络参数的当前值的第一值更新，所述第一值更新减小不正确的往返路径的往返路径概率。 | ||
| 搜索关键词： | 训练项目 往返路径 嵌入 神经网络 网络参数 计算机存储介质 神经网络训练 训练神经网络 计算机程序 半监督 迭代 概率 减小 更新 测量 | ||
【主权项】：
1.一种训练神经网络的方法，所述神经网络具有多个网络参数并且被配置为接收输入数据项目并处理所述输入数据项目以根据所述网络参数来生成所述输入数据项目的嵌入，所述方法包括：获得已标记训练项目的标记批次，其中，所述标记批次中的每个已标记训练项目与识别所述已标记训练项目所属的类别的相应标记相关联；使用所述神经网络并根据所述网络参数的当前值来处理所述标记批次中的所述已标记训练项目，以针对每个所述已标记训练项目生成相应的嵌入；获得未标记训练项目的未标记批次；使用所述神经网络并根据所述网络参数的当前值来处理所述未标记批次中的所述未标记训练项目，以针对每个所述未标记训练项目生成相应的嵌入；确定多个相似性值，每个相似性值测量用于相应的已标记训练项目的嵌入与用于相应的未标记训练项目的嵌入之间的相似性；根据所述相似性值确定用于多个往返路径中的每一个的相应的往返路径概率，其中，每个往返路径从用于相应的起始已标记训练项目的嵌入开始，转到用于相应的未标记训练项目的嵌入，并且返回到用于相应的结束已标记训练项目的嵌入；以及执行神经网络训练过程的迭代，以确定对所述网络参数的所述当前值的第一值更新，所述第一值更新减小用于不正确的往返路径的往返路径概率，其中，不正确的往返路径是所述起始已标记训练项目和所述结束已标记训练项目具有不同的标记的往返路径。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于谷歌有限责任公司，未经谷歌有限责任公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201780070359.8/，转载请声明来源钻瓜专利网。
