[发明专利]一种基于自动微分的程序函数参数优化编程方法

说明书

本申请提供了一种基于自动微分的程序函数参数优化编程方法，方法包括：将参数待优化的函数按可微函数类设计封装，以生成可微函数类；根据可微函数类优化待优化参数；本申请的技术方案可优化函数的参数，提高参数优化效率。

技术领域

本公开涉及一种人工智能领域，尤其涉及一种基于自动微分的程序函数参数优化编程方法。

背景技术

人工智能发展地日新月异，机器学习，深度学习等算法推陈出新，其中各种算法的参数优化一直都是研究人员十分耗时且艰辛的工作，现有技术中采用基于执行轨迹的自动参数优化方法优化参数，其不足在于需要收集每一步的执行轨迹才能继续优化，因此参数优化的成本高、效率低。

发明内容

为了解决上述技术问题中的至少一个，本申请提供了一种基于自动微分的程序函数参数优化编程方法。

一种基于自动微分的程序函数参数优化编程方法，包括：

将参数待优化的函数按可微函数类设计封装，以生成可微函数类；

根据所述可微函数类优化待优化参数。

可选的，所述可微函数类包含待优化参数、计算图变量和修正函数；

所述待优化参数，用于描述所述可微函数类中需要被训练数据优化的参数；

所述计算图变量，用于描述函数的计算图，以作为待优化参数的自动微分依据；

所述修正函数，用于使用训练数据，从计算图变量依据预设的语句参数优化方法得到各个待优化参数的自动微分，从而进行调整所述待优化参数。

可选的，所述根据所述可微函数类优化待优化参数，包括：

采用所述修正函数使用训练数据，从计算图变量依据所述语句参数优化方法得到各个所述待优化参数的自动微分，根据所述自动微分计算得到损失函数关于所述待优化参数的导数，利用参数优化算法根据所述导数调整函数对象内的待优化参数。

可选的，所述可微函数类还包含：固定参数、计算函数和所述语句参数优化方法；

所述固定参数，用于描述不需要被训练数据优化的参数；

所述计算函数，用于描述函数的计算功能，以代替原函数的函数计算接口；

所述语句参数优化方法，用于描述各语句块的待优化参数的优化方法。

可选的，所述语句参数优化包括顺序语句参数优化、条件语句参数优化和循环语句参数优化；

所述顺序语句参数优化包括：根据顺序语句中的参数与微分的互可交换性获得参数微分；

所述条件语句参数优化包括：依据误差项传递的正负进行扩大、缩小条件语句的逻辑范围；

所述循环语句参数优化包括：将误差项除以循环次数作为单次循环的误差项继续向内传递。

可选的，其特征在于，所述计算图为计算有向无环图。

可选的，其特征在于，所述可微函数类包含所述待优化参数的参数名和所述待优化参数的约束条件和约束范围，所述约束条件包括各个子代码块内部的待优化的参数的约束条件和约束范围。

可选的，所述固定参数包括各个子代码块的固定的参数，。

可选的，所述方法包括：调用所述计算函数以替代原函数接口，并实时获取最新的待优化参数。

可选的，将参数待优化的函数按可微函数类设计封装，以生成可微函数类之后，包括：

将所述可微函数类中的待优化参数的范围以及约束条件描述出来；