[发明专利]用于数据库查询处理的机器学习推理调用

权利要求书

1.一种计算机实施的方法，所述计算机实施的方法包括：

使用临时数据结构来对存储在数据库服务中的数据执行查询的至少一部分以生成第一批机器学习请求，其中所述查询标识机器学习服务；

基于所述第一批机器学习请求并且基于所述机器学习服务来生成第二批机器学习请求；以及

获得多个机器学习响应，所述机器学习响应由所述机器学习服务响应于接收到所述第二批机器学习请求而使用机器学习模型生成。

2.如权利要求1所述的计算机实施的方法，其中所述查询是结构化查询语言(SQL)查询。

3.如权利要求2所述的计算机实施的方法，其中所述SQL查询使用对所述机器学习服务的应用编程接口(API)调用来标识所述机器学习。

4.如权利要求3所述的计算机实施的方法，其中所述机器学习服务发布所述API以响应于从多个用户接收到的请求而使用所述机器学习模型来执行推理。

5.如权利要求1至4中任一项所述的计算机实施的方法，其中所述查询使用与由所述机器学习服务托管的所述机器学习模型相关联的端点来标识所述机器学习服务。

6.如权利要求1至5中任一项所述的计算机实施的方法，其中所述第二批机器学习请求经由至少一个网络被发送到所述机器学习服务。

7.如权利要求1至6中任一项所述的计算机实施的方法，所述计算机实施的方法还包括：

将对所述机器学习模型的请求发送到所述机器学习服务；

从所述机器学习服务接收所述机器学习模型，所述机器学习模型由所述机器学习服务编译以用于所述数据库服务；并且

其中所述第二批机器学习请求被发送到由所述数据库服务托管的所述机器学习模型。

8.如权利要求7所述的计算机实施的方法，所述计算机实施的方法还包括：

将所述机器学习模型的副本存储在所述数据库服务的多个节点中，其中由所述数据库服务的特定节点在所述查询处理期间生成的机器学习请求被发送到所述机器学习模型的存储在所述特定节点上的所述副本。

9.如权利要求1至8中任一项所述的计算机实施的方法，其中所述第二批的大小不同于所述第一批的大小，并且其中所述第二批的大小与所述机器学习服务相关联。

10.如权利要求1至9中任一项所述的计算机实施的方法，其中所述第一批机器学习请求包括响应于从多个不同的用户接收到的多个查询而生成的机器学习请求。

11.一种系统，所述系统包括：

机器学习服务，所述机器学习服务由第一一个或多个电子装置实施；以及

数据库服务，所述数据库服务由第二一个或多个电子装置实施，所述数据库服务包括指令，所述指令在被执行时使得所述数据库服务：

使用临时数据结构对存储在数据库服务中的数据执行查询的至少一部分以生成第一批机器学习请求，其中所述查询标识所述机器学习服务；

基于所述第一批机器学习请求并且基于所述机器学习服务来生成第二批机器学习请求；以及

获得多个机器学习响应，所述机器学习响应由所述机器学习服务响应于接收到所述第二批机器学习请求而使用机器学习模型生成。

12.如权利要求11所述的系统，其中所述查询是结构化查询语言(SQL)查询。

13.如权利要求12所述的系统，其中所述SQL查询使用对所述机器学习服务的应用编程接口(API)调用来标识所述机器学习。

14.如权利要求13所述的系统，其中所述机器学习服务发布所述API以响应于从多个用户接收到的请求而使用所述机器学习模型来执行推理。

15.如权利要求11至14中任一项所述的系统，其中所述查询使用与由所述机器学习服务托管的所述机器学习模型相关联的端点来标识所述机器学习服务。