智算中心基石-AI算力池化

以智算中心为代表的算力基础设施能够有效促进AI产业化和产业AI化，是支撑数字经济发展的重要基础底座。为了让AI 真正地赋能到千行百业，并推动产业数字化转型发展，智算中心要具备对外提供高性价比、普惠、安全算力资源的能力，使AI算力像水、电一样成为城市的公共基础资源，供政府、企业、公众随取随用。

算力基建化供给成为支撑产业转型升级以及创新发展的刚性需求和必然选择。

一、定义

智算中心是基于最新人工智能理论，采用领先的人工智能计算架构，提供人工智能应用所需算力服务、数据服务和算法服务的公共算力新型基础设施，其通过算力的生产、聚合、调度和释放，高效支撑数据开放共享、智能生态建设、产业创新聚集，能够有力促进AI产业化、产业AI化及政府治理智能化。

二、智算中心总体架构

?智算中心总体架构，图源：国家信息中心智算中心建设指南

以上是智算中心中心总体架构图，可以分为四层：

第一层、生产算力：基于领先的AI服务器为算力机组，支持先进多样的AI芯片，支持成熟丰富的软件生态，形成高性能、高吞吐的计算系统，为AI训练和AI推理生产输出强大、高效、易用的计算力。

第二层、聚合算力：基于智能网络和智能存储技术，针对多任务、大规模、高并发、高吞吐的AI应用特点，为算力机组集群构建高带宽、低延迟的通信系统和数据平台，提供弹性、可伸缩扩展的算力聚合能力。

?第三层、调度算力：基于人工智能应用对算力的需求特点，通过虚拟化、容器化等技术，将算力资源池化为标准算力单元，通过适应性策略及敏捷框架对算力进行精准调度配给，保障AI开发和AI业务的高效运行。

第四层、释放算力：基于主流人工智能理论算法，采用全流程软件工具，针对不同场景应用需求，通过机器学习自动化的先进方法，产出高质量的AI模型或AI服务，提升AI应用生产效率，促进算力高效释放转化为生产力。

调度算力是智算中心建设的重要基石。智算中心作为一个AI算力资源的集中管理和调度平台，需要根据用户的需求和任务的特性，合理分配和管理可用的AI算力资源。调度算力能够有效分配和优化AI算力资源的使用，提高计算效率，实现更快速、更可靠、更经济的计算服务。智算中心的调度算力可以根据不同的需求进行灵活配置，满足不同场景下的计算要求，并提供高性能的计算和数据处理能力。

三、调度算力的基础-AI算力池化

随着计算机硬件技术的发展，各类异构加速芯片、设备不断涌现，满足各类上层应用对计算资源、计算能力的多样化需求。智算中心通过AI算力资源池化，可简化AI算力调用过程，方便用户对大规模集群内的AI算力资源进行有效利用；用户无需关注计算设备的种类，将AI算力资源以标准算力模式提供给用户。

AI算力池化的核心，是向用户直接提供算力，避免用户在申请、使用算力的过程中对集群内设备的分布、类别、性能等产生关注。通过AI算力池化，用户避开在大规模计算设备集群中进行设备选择、设备适配的繁杂工作。同时，算力资源的细粒度切分能力也是算力调度过程中的关键环节。算力资源的细粒度切分会渗透至异构算力组合策略之中，协调CPU、GPU、FPGA、ASIC等各类型计算芯片，将上层应用的计算需求细粒度切分后进行定向定量分发，最大化利用算力。

AI算力池化价值体现在：

1、提高计算效率：智算中心拥有大规模的计算资源，通过AI算力池化可以将各个计算资源进行集中管理和调度，实现资源的最优利用。这样可以提高计算任务的执行效率，减少计算时间，并且更好地应对突发性任务的需求。

2、降低总体成本：AI算力池化可以将算力资源进行统一管理，避免资源闲置和重复购买。智算中心可以根据实际需求动态调整计算资源的分配，从而合理利用计算资源，降低TCO。

3、管理异构算力：在高端计算卡封禁情况下，很多的企业在考察、调研国产卡情况。这也就说明未来会越来越多的AI业务会是基于国产加速卡生态进行开发的。AI算力池化技术可以将不同架构FPGA、GPU、ASIC芯片构成异构算力资源池，以满足不同租户业务算力要求，降低业务向国产卡迁移的成本。

4、提供弹性计算：AI算力池化可以根据任务的需求，动态分配和调度计算资源，实现弹性伸缩。当面临大规模计算任务时，智算中心可以快速调配更多的计算资源，并在任务完成后释放掉多余的资源，确保资源的高效利用。

5、支持大规模计算任务：智算中心通常面临大规模计算任务，如机器学习训练、数据分析等。AI算力池化可以将分散的AI算力资源聚合在一起，形成一个庞大的计算集群，在处理大规模计算任务时具备更强的计算能力和容错能力。

6、提升系统的可靠性和可用性：AI算力池化可以通过监控和管理算力资源，实现系统的高可靠性和高可用性。当某个计算资源出现故障或失效时，算力池化系统可以自动将任务迁移到其他可用的计算资源上，保证任务的连续执行和系统的稳定运行。

?

四、AI算力池化技术发展现状

AI算力池化技术的发展可以分为四个阶段：

AI算力池化技术发展示意图

第一阶段、简单虚拟化：最早是GPU卡厂商为了解决VDI渲染场景，推出的虚拟化解决方案，其特点采用的是固定比例切分方式、资源是独占式、不支持资源动态调整。

第二阶段、任意虚拟化：任意虚拟化解决了第一阶段的资源独占问题，且此时支持了算力资源的任意比例切分，但仍然面临最大问题即受限服务器边界，在云计算、云原生时代无法突破瓶颈。

第三阶段、远程调用：在第二阶段基础之上，远程调用在解决跨越服务器边界的问题上取得了重大进展，但是相比云计算的SDC、SDS、SDN其还停留在数据平面，缺少独立的控制平面，难以对资源进行统一管理、调度。

第四阶段、资源池化：AI算力池化阶段拥有了独立的控制平面。在把所有AI计算硬件纳管进一个支持灵活调取、动态伸缩的资源池后，用户可通过控制平面实现对资源池资源统一管理、调度。同时支持包括资源超分、热迁移、异构算力、双资源管理等高级功能。

五、AI算力池化面临的挑战

AI算力池化发展到第四阶段，已然成熟，且满足了智算中心调度算力层对AI算力池化的大部分要求，但仍面临着不少挑战：

1、资源调度与优化难题：如何高效地调度和优化各类AI算力资源，实现资源的精细化管理和动态分配，是AI算力池化需要解决的核心问题之一。

2、异构计算环境的整合：AI算力池化需面对多种计算设备、GPU和AI芯片的异构环境，如何整合这些异构资源，确保它们能够协同工作，是技术实施上的一个重要挑战。

3、算力标准化与兼容性：构建统一的标准体系，确保不同厂商、不同型号的硬件设备能够无缝对接和高效运行，是当前算力池化技术发展中亟需解决的问题。

4、性能与能效的平衡：如何在提供强大算力的同时保持能源消耗在合理范围内，实现性能与能效的平衡，是AI算力池化技术可持续发展必须考虑的问题。

5、安全与隐私保护：保障数据安全、用户隐私和算力资源的安全可控，是算力池化技术必须坚守的原则和面临的挑战。

6、边缘计算与云边协同：如何将算力池化技术扩展到边缘计算领域，并与云计算实现有效协同，以满足分布式计算的需求，是技术发展的一个新挑战。

六、结语

综述，AI算力池化技术作为智算中心的基石，具有重要意义。通过AI算力池化技术，可以提高AI算力资源的利用效率，降低计算成本，提高计算效率，为我国数字经济的高质量发展提供强大的算力支持。同时，我们应关注AI算力池化技术面临的挑战，加强技术创新，推动AI算力池化技术的广泛应用，为构建智慧社会贡献力量。