[发明专利]可配置硬件算力的AI运算加速板卡及其处理方法、服务器在审
申请号: | 201810205680.9 | 申请日: | 2018-03-13 |
公开(公告)号: | CN108388532A | 公开(公告)日: | 2018-08-10 |
发明(设计)人: | 陈鹏飞;桂文明;李超 | 申请(专利权)人: | 算丰科技(北京)有限公司 |
主分类号: | G06F13/38 | 分类号: | G06F13/38;G06F13/40;G06F13/42 |
代理公司: | 北京智信四方知识产权代理有限公司 11519 | 代理人: | 刘真 |
地址: | 100192 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 加速板 运算 加速处理 可配置的 可配置硬件 芯片 服务器 电源管理芯片 器件利用率 处理芯片 接口桥接 接口设计 系统架构 硬件成本 运算需求 定制化 固定的 灵活度 板卡 电路 | ||
本发明实施例公开了一种可配置硬件算力的AI运算加速板卡及其处理方法、服务器,其包括PCIE接口、接口桥接电路、至少一个AI加速处理芯片和至少一个电源管理芯片,其中,所述AI加速处理芯片的数量是可配置的。本发明实施例通过定制化的AI加速处理芯片的接口设计和AI运算加速板卡的系统架构创新,将传统加速板卡上固定的处理芯片数量变为可配置的,使得每个AI运算加速板卡的算力是可配置的,用户可根据实际运算需求选择对应算力的板卡,极大地提升了AI运算加速板卡的使用灵活度,降低了硬件成本,提高了器件利用率。
技术领域
本发明涉及计算机集成电路技术领域,特别是涉及一种可配置硬件算力的AI运算加速板卡及其处理方法、服务器。
背景技术
随着互联网和信息行业的快速发展,各种声音、图像、视频数据均呈井喷式的发展,大数据处理已经逐步取代传统的人工数据处理,而人工智能(简称AI)技术的应用使得大数据分析处理能力得到再一次飞跃。
深度学习技术引发了人工智能应用的高速发展,引领人类由信息时代进入智能时代。深度学习本质是一种机器学习技术,需要强大的硬件计算能力,来完成复杂的数据处理和运算。对于如此庞大的数据处理和运算,现有的人工智能解决方案中,采用专用的AI加速处理芯片执行深度学习运算,但是即使单个超高性能的AI加速处理芯片,其处理能力也远远达不到运算需求。为了满足大规模数据的处理需求,技术人员开始使用多个AI加速处理芯片组成计算集群来构建AI运算加速板卡,并通过高速接口(如外围组件快速互连PCIE接口)与主机CPU通信连接,从而构成深度学习服务器系统,极大地提升了深度学习的运算处理能力。
现有方案中,AI运算加速板卡所搭载的AI加速处理芯片数量是固定的,这导致一块AI运算加速板卡的算力也是固定的。若需要对服务器的算力进行配置,就需要在服务器主板上插接多块板卡,如公开号为CN107329926A的中国发明专利申请。但是,一般用户在配置PC机或服务器时,其主板上的高速接口插槽(PCIE接口)的数量是有限的,导致用户不能根据实际使用场景灵活配置服务器系统的算力,从而导致服务器硬件资源浪费或系统算力不足,无法满足实际的运算处理需求。
发明内容
为了解决上述问题,根据本发明的一个方面,提出一种可配置硬件算力的AI运算加速板卡,该AI运算加速板卡包括:
PCIE接口,用于连接主机的PCIE插槽;
接口桥接电路,用于将PCIE接口转换为与AI加速处理芯片适配的Serdes接口;
至少一个AI加速处理芯片,用于执行AI运算加速处理,所述AI加速处理芯片包括第一Serdes接口和第二Serdes接口;
至少一个电源管理芯片,用于对所述至少一个AI加速处理芯片分别进行供电;
其中,所述AI加速处理芯片的数量是可配置的,当所述AI加速处理芯片为多个时,多个AI加速处理芯片通过第一Serdes接口和第二Serdes接口依次级联。
在一些实施方式中,当所述AI加速处理芯片为一个时,所述AI加速处理芯片通过第一Serdes接口与接口桥接电路进行通信连接。
在一些实施方式中,当所述AI加速处理芯片为多个时,所述AI加速处理芯片通过第二Serdes接口与下一级AI加速处理芯片进行通信连接。
在一些实施方式中,所述AI运算加速板卡的各部件承载于一PCB载板。
在一些实施方式中,所述PCIE接口还用于接收主机CPU发送的数据,并转发给接口桥接电路。
在一些实施方式中,所述接口桥接电路还用于将所述主机CPU发送的数据中的待运算数据转换后经由Serdes接口发送给所述AI加速处理芯片进行处理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于算丰科技(北京)有限公司,未经算丰科技(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810205680.9/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种芯片及其管脚复用方法
- 下一篇:一种用于编址的方法、装置及设备基座