[发明专利]一种动态可演化智能处理芯片结构有效
申请号: | 202011524240.3 | 申请日: | 2020-12-22 |
公开(公告)号: | CN112631968B | 公开(公告)日: | 2022-10-04 |
发明(设计)人: | 原昊;张昆;钱磊;吴东;尚江卫;陆一峰;朱剑文;贾迅 | 申请(专利权)人: | 无锡江南计算技术研究所 |
主分类号: | G06F13/20 | 分类号: | G06F13/20;G06F13/42 |
代理公司: | 苏州创元专利商标事务所有限公司 32103 | 代理人: | 王健 |
地址: | 214038 江苏*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 动态 演化 智能 处理 芯片 结构 | ||
本发明公开一种动态可演化智能处理芯片结构,包括:通用处理器、智能处理单元、内存控制器和内存接口、可编程逻辑区域、可编程逻辑控制器,所述可编程逻辑区域进一步包括:动态系统总线、动态IO控制器和动态智能计算单元;动态系统总线:可以根据需求,对其拓扑结构、接口数量和规格、仲裁机制等进行重构,动态IO控制器:用于根据系统对于IO需求的不同,重构为一个或者多个不同类型的IO控制器,动态智能计算单元:用于根据需要重构为特定的硬件结构,实现对计算、访存、IO的定制加速。本发明可实现对整个系统中计算、访存、IO等方面的性能和效率优化,提高智能应用的计算效率,实现智能应用的全栈定制加速。
技术领域
本发明涉及一种动态可演化智能处理芯片结构,属于深度学习技术领域。
背景技术
目前主流的人工智能应用主要基于深度神经网络实现,这类应用中网络模型的计算量非常巨大,对计算能力提出了极大的要求,传统的通用处理器无法满足算力需求,一般都通过专用的加速部件或芯片实现智能处理的加速,目前最主流的人工智能处理芯片主要包括英伟达GPU和推理加速卡,华为、百度、寒武纪等厂商也推理了专用的人工智能芯片,为深度学习中的智能处理提供强大的计算能力。
目前现有的人工智能处理芯片都基于固定的ASIC结构,其硬件结构的适应性只能满足一部分特定类型应用的需求,而对于结构适应性较差的应用则效率很低,无法充分发挥芯片的计算性能。以GPU为例,其形态一般为PCIe卡的形式,它与处理器之间的数据通信只能通过PCIe接口实现,因此智能应用中所有的运算数据和计算结果也只能通过PCIe接口实现,PCIe接口协议和通信带宽就有可能会成为瓶颈,无法充分发挥计算GPU的计算能力。另外,由于GPU等芯片的硬件结构是固定,对于一些结构适应性较差的处理任务,只能在CPU或者其它加速部件上进行处理,难以与GPU等人工智能芯片的处理能力相匹配。
发明内容
本发明的目的是提供一种动态可演化智能处理芯片结构,该一种动态可演化智能处理芯片结构可实现对整个系统中计算、访存、IO等方面的性能和效率优化,提高智能应用的计算效率,实现智能应用的全栈定制加速。
为达到上述目的,本发明采用的技术方案是:提供一种动态可演化智能处理芯片结构,包括:
通用处理器:用于提供通用的计算资源和软件运行环境,支持操作系统等基础的系统软件以及应用程序的运行,还用于管理和控制芯片内各功能模块正常运作;
智能处理单元:面向主流的人工智能应用,通过计算部件为典型的人工智能计算模型和算子提供主要的算力支撑;
内存控制器和内存接口:内存控制器对外通过内存接口与外部的内存芯片相连,对内提供系统总线接口,通过与系统总线相连,为芯片内各功能模块提供内存资源;
其特征在于,还包括:
可编程逻辑区域:采用可编程硬件逻辑资源实现,用于根据需求对区域内的硬件结构进行重构和配置,进一步包括:动态系统总线、动态IO控制器和动态智能计算单元;
动态系统总线:用于连接各功能模块,并可以根据各功能模块的需求,对其拓扑结构、接口数量和规格、仲裁机制进行重构,提供一个或者多个总线接口,每个总线接口的数据位宽、接口频率、仲裁级别均可根据其硬件接口重构;
动态IO控制器:用于根据系统对于IO需求的不同,重构为一个或者多个不同类型的IO控制器,通过动态系统总线为通用处理器提供所需要的各种类型的外部IO接口,还用于根据实际需求对IO控制器进行定制优化,或者可以向动态智能计算单元提供直连的数据接口以减少总线资源的占用;
动态智能计算单元:用于根据需要重构为特定的硬件结构,在通用处理器的控制下实现对计算、访存、IO的定制加速,可以直接通过动态系统总线访问内存中的数据,也可以通过直接接口接收来自动态IO控制器的数据进行处理;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于无锡江南计算技术研究所,未经无锡江南计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011524240.3/2.html,转载请声明来源钻瓜专利网。
- 上一篇:基于混合粒度乘法部件的多精度乘法器及运算方法
- 下一篇:一种快速脱水离心机