[发明专利]通过在多个学习机器之间共享信息来加速学习

说明书

相关申请

本发明要求于2013年2月5日递交、发明人为Mermoud等、题为“ACCELERATED LEARNING BY SHARING INFORMATION BETWEEN MULTIPLE LEARNING MACHINES”的美国临时申请No.61/761,103和于2013年7月9日递交的美国专利申请No.13/937,631的优先权，这两个申请的内容通过引用被合并于此。

技术领域

本公开总体涉及计算机网络，并且更具体地，涉及在计算机网络内对学习机器的使用。

背景技术

低功率和有损网络(Low power and Lossy Network，LLN)(例如，物联网(IoT)网络)具有大量应用，例如，传感器网络、智能网格、以及智慧城市。LLN面临各种挑战，例如，有损链路、低带宽、低质量收发机、电池操作、低存储和/或处理能力等。这些网络的挑战性因大量的节点(大于“经典的”IP网络的数量级)而加重，因此使得路由、服务质量(QoS)、安全性、网络管理以及流量工程等面临严峻的挑战。

机器学习(ML)关注算法的设计和开发，这些算法作为输入的经验数据(例如，网络统计信息和状态、以及性能指示符)，识别这些数据中复杂的模式，并且根据建模来解决诸如回归(回归在数学上通常极难解决)之类的复杂问题。一般地，这些模式和模型的计算之后被用来自动(即，闭环控制)做出决策或帮助做出决策。ML是用来处理很难的问题(例如，计算机视觉、机器人学、数据挖掘、搜索引擎等)的非常广泛的学科，但最普遍的任务如下：线性和非线性回归、分类、集群、降维、异常检测、优化、关联规则学习。

ML算法中一个非常普遍的模式为使用底层模型M，给定输入数据，其参数被优化以最小化与M相关联的成本函数。例如，在分类的情景中，模型M可以是直线，其将数据分成两类，以使得M＝a*x+b*y+c，并且成本函数将是被错误分类的点的数目。然后ML算法包括对参数a、b、c进行调整，以使得被错误分类的点的数目最小。在优化阶段(或学习阶段)之后，模型M可被很容易地用来对新的数据点进行分类。通常，M是统计模型，并且给定输入数据，成本函数与M的似然成反比。应当注意，上面的示例是对通常具有较高维的更加复杂的回归问题的过分简化。

学习机器(LM)是依赖于一个或多个ML算法的计算实体，该一个或多个ML算法用于执行学习机器尚未被明确编程来执行的任务。具体地，LM能够调整其行为来适应其环境(即，无需先验配置静态规则的“自适应”)。在LLN的情景中，并且更一般地在IoT(或万联网(Internet of Everything，IoE))的情景中，该能力将非常重要，因为网络将面对变化的状况和需求，并且网络对于网络运营商的有效管理而言将变得太大。此外，LLN一般可以根据其所期望的用途和所部署的环境而显著不同。

迄今为止，不论LLN的复杂性的总体水平如何，在“经典的”方法(基于已知的算法)效率低下的情况下或者当数据量不能由人工处理以在考虑参数的数目的情况下预测网络行为时，LM尚未普遍用于LLN。

附图说明

本文的实施例可以通过结合附图参照下文的描述进行更好的理解，其中，相似的参考标号指示等同地或功能上类似的要素，其中：

图1示出了示例通信网络；

图2示出了示例网络设备/节点；

图3示出了图1的通信网络中的示例有向非循环图(DAG)；

图4示出了示例贝叶斯(Bayesian)网络；

图5示出了用于在FAR之间共享信息的示例架构；

图6示出了三个随机变量的示例时间演进；以及

图7示出了用于通过在多个学习机器之间共享信息来加速学习的示例简化过程。

具体实施方式

概述

根据本公开的一个或多个实施例，示出并描述了与通过在多个学习机器之间共享信息来加速学习有关的技术。在一个实施例中，确定由多个学习机器(LM)中的每个学习机器维护的变量。LM被托管于网络中的多个现场区域路由器(FAR)上，并且变量在FAR之间是可共享的。计算定义变量之间的相关性的多个相关性值。然后，基于多个相关性值来计算FAR集群，以使得所集群的FAR与相关的变量相关联，并且该集群允许所集群的FAR共享其各自的变量。

具体实施方式