[发明专利]通信系统中的训练

说明书

描述了一种装置、方法和计算机程序，包括：根据来度量评估当前算法种群的一些或所有算法，该算法种群的每个算法实现传输系统；基于度量选择当前种群中的算法的子集；从所述子集生成更新的算法种群；以及基于更新的种群来重复评估、选择和生成，直至达成第一条件。

技术领域

本说明书涉及在通信系统中的训练。

背景技术

简单的通信系统包括发送器、传输信道以及接收器。这种通信系统的设计可以涉及系统的每个部分的单独设计和优化。备选的方法是将整个通信系统视为单个系统，并且寻求优化整个系统。尽管在现有技术中已经进行了一些尝试，但在该领域仍然存有用于进一步发展的余地。

发明内容

在第一方面中，本说明书描述了一种装置，包括：用于根据度量来评估当前算法种群中的一些或所有算法的部件，该种群的每个算法实现传输系统，其中传输系统包括发送器、信道和接收器，其中发送器包括具有至少一些可训练权重的发送器算法(例如，包括发送器神经网络)，并且接收器包括具有至少一些可训练权重的接收器算法(例如，包括接收器神经网络)；用于基于度量来选择当前种群的算法的子集的部件；用于从所述子集生成更新的算法种群的部件；以及用于基于更新的种群来重复地评估、选择和生成、直至第一条件被达成的部件。当前算法种群和更新的算法种群中的算法的总数可以是相同的。所述算法种群可以包括神经网络。

一些实施例可以包括用于当所述第一条件被达成时选择所述更新的算法种群中的一个算法的部件。所选择的算法可以是种群中性能最佳的算法(根据某些度量，例如上述度量)。所选择的算法可以被用作实现传输系统的算法。

一些实施例提供了用于生成初始算法种群的部件，以及用于将所述初始种群设置为所述当前种群的第一实例的部件。

用于评估当前算法种群中的一些或所有算法的部件可以包括用于计算所述算法的适应度的部件。所述算法的适应度可以使用损失函数被计算。损失函数可以例如通过让通信系统的每个实例发送大量的已知消息并且计算平均损失而被实现。

用于评估当前算法种群中的一些或所有算法的部件可以包括用于计算所述算法的新颖度的部件。所述算法的新颖度可以通过确定种群中的算法之间的距离而被计算。所述距离可以是行为距离(behaviour distance)。该距离可以从算法的可训练权重、输出或者性能来计算。

用于选择当前种群中的算法的子集的部件可以包括：用于根据所述度量选择种群一个或多个最优算法的部件(例如选择最佳K个选项)。

更新的算法种群可以包括被用于评估当前算法种群中的一些或所有算法的部件评估为最满足所述度量的算法。

用于从所述子集生成更新的算法种群的部件可以包括从算法的子集生成一个或多个新算法。例如，(多个)新算法可以基于演进算子被生成。新生成的算法可以接近现有的(所选择的)算法。例如，现有算法的干扰可以被用于生成新算法。

算法的权重中的至少一些权重可以包括量化的权重，其中所述量化权重仅在具有有限数目的条目的码本内取值。量化的权重可以使用固定点算法来表示。

当所述当前算法种群或者更新的算法种群(例如，通过用于评估当前算法种群中的所述一些或所有算法的部件所评估的)中的性能最佳的一个算法达成根据所述度量的预先定义的性能标准时，所述第一条件可能被满足。备选地，或者附加地，第一条件可以包括所定义的迭代次数。

用于从所述子集生成更新的算法种群的部件可以修改所述当前种群的一个或多个所述算法子集中的一个或多个参数和/或一个或多个结构。

所述装置可以包括：至少一个处理器；以及至少一个存储器，包括计算机程序代码，至少一个存储器和计算机程序被配置为与至少一个处理器一起引起装置的执行。