[发明专利]用于动态低延迟优化的系统和方法

说明书

本发明提供低延迟优化的系统和方法，其被配置以从整个操作系统的硬件层执行到应用程序。根据实施例实施的低延迟运行是针对一个特定应用程序进行优化，其与特定硬件连接，在基于主处理器的系统上执行，被配置用于低延迟优化。例如，低延迟优化实施可以包括在用户空间和内核空间里实施的各种模块，其中这些模块协作以获得有关应用程序使用的服务和硬件的信息，并提供这些信息以便有关应用程序的低延迟运行。在根据实施例运行时，低延迟运行是由一个低延迟优化实施来动态地启用或禁用，以每个应用程序为基础，在适当时候或根据需要在一个应用程序上进行低延迟运行。

技术领域

本发明涉及基于处理器的系统运行，特别涉及关于基于处理器的系统运行的动态低延迟优化。

背景技术

近年来，各种形式的基于处理器的平台的使用激增。例如，使用基于处理器的个人通信和数据处理平台，通常被称为智能手机，在过去几年急剧增长，并预计在可预见的将来将继续增长。例如，除了用于提供蜂窝电话通信服务之外，智能手机通常用于提供数据通信、数据处理、观看和/或创建流媒体、游戏和娱乐等。能够提供前述功能的应用程序的范围从使用较少处理能力和其它资源的应用程序(例如，瘦客户端(thin client)和简单的Web浏览器应用程序)到需要大量处理能力和/或资源的应用程序(例如，虚拟现实(VR)和增强现实(AR)应用程序、复杂的游戏和图形应用等)。

许多当前基于处理器的平台，特别是移动和电池供电的基于处理器的平台，其处理能力和资源通常都是有限的。例如，在智能手机实现中，诸如中央处理单元(CPU)、主存储器和输入/输出(I/O)器件的硬件资源明显只能提供有限的处理、可用性和功能。当基于处理器的平台同时运行多个应用程序时，这些应用程序将竞争使用基于处理器的平台的硬件资源。因此，基于处理器的系统的性能，特别是诸如具有有限硬件资源的智能手机的基于处理器的系统的性能，通常都会由于应用程序的同时执行而降低。例如，典型智能手机同时执行多个应用程序，所提供的多功能运行会导致可感知的延迟。

然而，智能手机(例如，基于ANDROID操作系统的移动设备)和提供通用计算功能的其它移动设备(例如，个人数字助理、平板电脑设备等)继续在全球范围广受欢迎，其已被广泛使用，变得几乎无处不在。相应地，对应用程序的需求也大幅增长，可在这些基于处理器的系统上使用的应用程序类型及其功能性和复杂性也在增加。特别地，随着游戏和应用程序市场的增长，对低延迟应用程序(例如，VR、AR、音频、车辆控制等)的需求增加。许多设备提供的基于处理器的平台和相关操作系统，如智能手机和提供通用计算功能的其它移动设备，并不是默认设计用于低延迟应用程序。因此，当在非优化操作系统里执行这种需要非常严格时间限制的应用程序时，用户体验经常受到很大的影响(例如，用户感觉到音频播放中的嗤嗤声、可察觉的丢失视频帧、数据更新的延迟等)。

虽然已经做出了一些对低延迟性能提供改进的尝试，但是现有的低延迟技术迄今还未达到最佳。例如，内核空间低延迟技术包括减少系统开销(例如，删除Linux内核中未使用的模块，以减少驱动程序加载时间)或实施通用低延迟Linux内核(例如，使用LinuxRT-patch实时补丁以将通用Linux内核改变为具有一定的“实时”能力)，这可以在智能手机的ANDROID操作系统里实施。此外，还有许多用户空间低延迟技术。例如，用户空间低延迟技术包括减少系统开销的技术(例如，在ANDROID操作系统中预先禁用不需要的服务，诸如降低背景噪声)，各种最小化应用程序代码大小的技术(例如，使用“-O3”编译选项(GNU编译器工具链)，以提供运行速度优化指令和编译选项，减少启动时间)，或使用结构良好的编码技术(例如仔细使用锁定机制、使用较少的延迟/睡眠、不阻挡回调等)。