[发明专利]可配置硬件算力的AI运算加速板卡及其处理方法、服务器在审

专利信息
申请号: 201810205680.9 申请日: 2018-03-13
公开(公告)号: CN108388532A 公开(公告)日: 2018-08-10
发明(设计)人: 陈鹏飞;桂文明;李超 申请(专利权)人: 算丰科技(北京)有限公司
主分类号: G06F13/38 分类号: G06F13/38;G06F13/40;G06F13/42
代理公司: 北京智信四方知识产权代理有限公司 11519 代理人: 刘真
地址: 100192 北京*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 加速板 运算 加速处理 可配置的 可配置硬件 芯片 服务器 电源管理芯片 器件利用率 处理芯片 接口桥接 接口设计 系统架构 硬件成本 运算需求 定制化 固定的 灵活度 板卡 电路
【说明书】:

本发明实施例公开了一种可配置硬件算力的AI运算加速板卡及其处理方法、服务器,其包括PCIE接口、接口桥接电路、至少一个AI加速处理芯片和至少一个电源管理芯片,其中,所述AI加速处理芯片的数量是可配置的。本发明实施例通过定制化的AI加速处理芯片的接口设计和AI运算加速板卡的系统架构创新,将传统加速板卡上固定的处理芯片数量变为可配置的,使得每个AI运算加速板卡的算力是可配置的,用户可根据实际运算需求选择对应算力的板卡,极大地提升了AI运算加速板卡的使用灵活度,降低了硬件成本,提高了器件利用率。

技术领域

本发明涉及计算机集成电路技术领域,特别是涉及一种可配置硬件算力的AI运算加速板卡及其处理方法、服务器。

背景技术

随着互联网和信息行业的快速发展,各种声音、图像、视频数据均呈井喷式的发展,大数据处理已经逐步取代传统的人工数据处理,而人工智能(简称AI)技术的应用使得大数据分析处理能力得到再一次飞跃。

深度学习技术引发了人工智能应用的高速发展,引领人类由信息时代进入智能时代。深度学习本质是一种机器学习技术,需要强大的硬件计算能力,来完成复杂的数据处理和运算。对于如此庞大的数据处理和运算,现有的人工智能解决方案中,采用专用的AI加速处理芯片执行深度学习运算,但是即使单个超高性能的AI加速处理芯片,其处理能力也远远达不到运算需求。为了满足大规模数据的处理需求,技术人员开始使用多个AI加速处理芯片组成计算集群来构建AI运算加速板卡,并通过高速接口(如外围组件快速互连PCIE接口)与主机CPU通信连接,从而构成深度学习服务器系统,极大地提升了深度学习的运算处理能力。

现有方案中,AI运算加速板卡所搭载的AI加速处理芯片数量是固定的,这导致一块AI运算加速板卡的算力也是固定的。若需要对服务器的算力进行配置,就需要在服务器主板上插接多块板卡,如公开号为CN107329926A的中国发明专利申请。但是,一般用户在配置PC机或服务器时,其主板上的高速接口插槽(PCIE接口)的数量是有限的,导致用户不能根据实际使用场景灵活配置服务器系统的算力,从而导致服务器硬件资源浪费或系统算力不足,无法满足实际的运算处理需求。

发明内容

为了解决上述问题,根据本发明的一个方面,提出一种可配置硬件算力的AI运算加速板卡,该AI运算加速板卡包括:

PCIE接口,用于连接主机的PCIE插槽;

接口桥接电路,用于将PCIE接口转换为与AI加速处理芯片适配的Serdes接口;

至少一个AI加速处理芯片,用于执行AI运算加速处理,所述AI加速处理芯片包括第一Serdes接口和第二Serdes接口;

至少一个电源管理芯片,用于对所述至少一个AI加速处理芯片分别进行供电;

其中,所述AI加速处理芯片的数量是可配置的,当所述AI加速处理芯片为多个时,多个AI加速处理芯片通过第一Serdes接口和第二Serdes接口依次级联。

在一些实施方式中,当所述AI加速处理芯片为一个时,所述AI加速处理芯片通过第一Serdes接口与接口桥接电路进行通信连接。

在一些实施方式中,当所述AI加速处理芯片为多个时,所述AI加速处理芯片通过第二Serdes接口与下一级AI加速处理芯片进行通信连接。

在一些实施方式中,所述AI运算加速板卡的各部件承载于一PCB载板。

在一些实施方式中,所述PCIE接口还用于接收主机CPU发送的数据,并转发给接口桥接电路。

在一些实施方式中,所述接口桥接电路还用于将所述主机CPU发送的数据中的待运算数据转换后经由Serdes接口发送给所述AI加速处理芯片进行处理。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于算丰科技(北京)有限公司,未经算丰科技(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201810205680.9/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top