[发明专利]基于数据湖服务器的算法配置组合平台在审
申请号: | 201811438220.7 | 申请日: | 2018-11-27 |
公开(公告)号: | CN111222833A | 公开(公告)日: | 2020-06-02 |
发明(设计)人: | 陈刚 | 申请(专利权)人: | 中云开源数据技术(上海)有限公司 |
主分类号: | G06Q10/10 | 分类号: | G06Q10/10;G06F16/2458;G06F16/27 |
代理公司: | 上海元好知识产权代理有限公司 31323 | 代理人: | 包姝晴;徐雯琼 |
地址: | 201300 上海市浦东新区南*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 数据 服务器 算法 配置 组合 平台 | ||
1.一种基于数据湖服务器的算法配置组合平台,其特征在于,包含:数据目录区,数据预处理工作台,数据预处理资源目录区,通用算法操作目录区,算法流程工作台,模型资源目录区,知识库;
在所述数据目录区中保存用户上传数据时建立的数据目录;
所述数据预处理工作台将读取若干个数据目录中存放的数据,且进行预处理工作之后形成数据预处理资源,并将已生成的数据预处理资源保存至所述数据预处理资源目录区;
所述通用算法操作目录区存放若干个算法操作,并将一个或多个算法操作传递给所述算法流程工作台;
所述算法流程工作台中选择算法操作的先后顺序,并输入算法需要的阈值;
所述数据预处理资源目录区中选择一个数据预处理资源作为第一个算法操作的训练集数据,并开始训练算法流程;
若所述算法流程是计算结果的算法流程,则其计算结果保存至所述知识库;
若所述算法流程是训练模型的算法流程,则训练模型保存至所述模型资源目录区;
所述模型资源目录区中选取已生成的训练模型,并且选取数据预处理资源目录区中未分类的数据进行计算,并将产生的计算结果保存至知识库中,将生成的模型以及与模型有关的数据,以文件形式存储在数据湖服务器中的分布式文件系统中,并在将来需要时作为数据可视化编辑展示平台的模型来源和数据来源。
2.如权利要求1所述的一种基于数据湖服务器的算法配置组合平台,其特征在于,计算结果的算法流程包含聚类、关联规则算法。
训练模型的算法流程包含分类、回归、人工神经网络算法和数据特征变换操作。
3.如权利要求2所述的一种基于数据湖服务器的算法配置组合平台,其特征在于,所述通用算法操作目录区上提供的数据特征变换操作进一步包含:降维、分箱、归一化。
4.如权利要求1所述的一种基于数据湖服务器的算法配置组合平台,其特征在于,所述数据预处理工作包括阈值进行数据筛选和分组求值;
所述算法流程工作台中若不输入阈值,则以缺省值来替代。
5.如权利要求1所述的一种基于数据湖服务器的算法配置组合平台,其特征在于,所述数据目录中存放的数据包含表、字段和数据标签。
6.如权利要求1所述的一种基于数据湖服务器的算法配置组合平台,其特征在于,数据拥有者在一个数据湖服务器节点通过用户名和密码登录图形化的操作界面,接入数据湖服务器管理平台,再点击按钮算法配置组合平台;
数据目录区,数据预处理工作台,数据预处理资源目录区,通用算法操作目录区,算法流程工作台,模型资源目录区,知识库,控制台均为图形化界面。
7.如权利要求1所述的一种基于数据湖服务器的算法配置组合平台,其特征在于,还包含控制台,执行训练算法流程的过程中出现的结果或异常结果及错误信息被打印至所述控制台并存为日志。
8.如权利要求1所述的一种基于数据湖服务器的算法配置组合平台,其特征在于,所述数据湖服务器包含关系型数据库、文档型数据库、分布式文件系统、图数据库构成的数据存储和管理服务平台,并提供包括数据管理、算法开发的多种功能组件;
所述管理服务平台采用分布式运算和存储架构,集成了具有数据存储以及运算功能的多种计算机单机、服务器以及计算机集群或者服务器集群。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中云开源数据技术(上海)有限公司,未经中云开源数据技术(上海)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811438220.7/1.html,转载请声明来源钻瓜专利网。
- 同类专利
- 专利分类
G06Q 专门适用于行政、商业、金融、管理、监督或预测目的的数据处理系统或方法;其他类目不包含的专门适用于行政、商业、金融、管理、监督或预测目的的处理系统或方法
G06Q10-00 行政;管理
G06Q10-02 .预定,例如用于门票、服务或事件的
G06Q10-04 .预测或优化,例如线性规划、“旅行商问题”或“下料问题”
G06Q10-06 .资源、工作流、人员或项目管理,例如组织、规划、调度或分配时间、人员或机器资源;企业规划;组织模型
G06Q10-08 .物流,例如仓储、装货、配送或运输;存货或库存管理,例如订货、采购或平衡订单
G06Q10-10 .办公自动化,例如电子邮件或群件的计算机辅助管理
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置