[发明专利]一种基于大数据的数据调优方法及系统有效
| 申请号: | 202310035223.0 | 申请日: | 2023-01-10 |
| 公开(公告)号: | CN116010602B | 公开(公告)日: | 2023-09-29 |
| 发明(设计)人: | 孔祥山;陈伍 | 申请(专利权)人: | 湖北华中电力科技开发有限责任公司 |
| 主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F18/2411;G06F18/2431;G06N3/04;G06N3/08 |
| 代理公司: | 合肥利交桥专利代理有限公司 34259 | 代理人: | 蔡辉 |
| 地址: | 430000 湖*** | 国省代码: | 湖北;42 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 数据 方法 系统 | ||
1.一种基于大数据的数据调优方法,其特征在于,包括:
获取待调优模型的待分类数据,其中,待分类数据指的是可用于评估待调优模型各项指标的参数,包括:输出数据、输出标识数据、模型节点参数、模型损失参数、模型训练的过程参数;
将所述待分类数据输入词向量模型进行向量化处理,生成待分类词向量;
将所述待分类词向量输入样本空间进行聚类分析,获取近邻词向量集;
遍历所述近邻词向量集对所述待分类数据进行指标分类,获取归类指标判定结果;
根据所述归类指标判定结果对所述待调优模型进行评估,生成归类指标评估结果;
根据所述归类指标评估结果对所述待调优模型进行调优分析;
其中,所述遍历所述近邻词向量集对所述待分类数据进行指标分类,获取归类指标判定结果,包括:
遍历所述近邻词向量集,获取近邻词向量归类标识信息;
根据所述近邻词向量归类标识信息对所述近邻词向量集进行指标归类,获取多个指标归类结果;
根据近邻词向量归类数对所述多个指标归类结果进行降序排序,生成指标归类排序结果;
将所述指标归类排序结果的首位指标,设为所述归类指标判定结果;
其中,所述将所述指标归类排序结果的首位指标,设为所述归类指标判定结果,包括:
当首位指标数量大于或等于两个时,获取权重分布公式:
其中,wj表征待分类词向量a与第j个近邻词向量bj的归类权重,D(a,bj)表征待分类词向量a与第j个近邻词向量bj相似距离;
根据所述权重分布公式,遍历所述首位指标进行权重分布,获取权重分布结果;
根据所述权重分布结果,筛选所述归类指标判定结果。
2.如权利要求1所述的方法,其特征在于,所述将所述待分类数据输入词向量模型进行向量化处理,生成待分类词向量,包括:
基于大数据,采集文本检索信息和词向量标注信息,其中,所述文本检索信息和所述词向量标注信息一一对应;
根据所述文本检索信息和所述词向量标注信息对神经网络词向量模型进行训练,生成所述词向量模型;
将所述待分类数据输入所述词向量模型进行向量化处理,生成所述待分类词向量。
3.如权利要求1所述的方法,其特征在于,所述将所述待分类词向量输入样本空间进行聚类分析,获取近邻词向量集,包括:
根据所述样本空间,获取样本词向量集;
基于所述待分类词向量,遍历所述样本词向量集进行相似距离评估,生成相似距离评估结果;
根据所述相似距离评估结果对所述样本词向量集由小到大进行排序,获取样本词向量排序结果;
遍历所述样本词向量排序结果筛选预设数量的样本词向量,获取所述近邻词向量集。
4.如权利要求3所述的方法,其特征在于,所述根据所述样本空间,获取样本词向量集,包括:
基于大数据,获取所述待调优模型的已分类数据集;
将所述已分类数据集输入所述词向量模型进行向量化处理,生成已分类词向量集;
根据所述已分类词向量集,构建所述样本空间。
5.如权利要求3所述的方法,其特征在于,所述基于所述待分类词向量,遍历所述样本词向量集进行相似距离评估,生成相似距离评估结果,包括:
构建相似距离评估公式:
其中,a表征待分类词向量,b表征任意一个样本词向量,ai表征待分类词向量中第i维参数,bi表征样本词向量中第i维参数,n表征最高维数,D(a,b)表征a和b的相似距离,α,β和γ是自定义校正因子;
根据所述相似距离评估公式,基于所述待分类词向量,遍历所述样本词向量集进行相似距离评估,生成所述相似距离评估结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于湖北华中电力科技开发有限责任公司,未经湖北华中电力科技开发有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310035223.0/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





