【AI基础设施】智算场景的资源管理系统与未来展望

高性能计算与智算场景

首先澄清两个概念，高性能计算与智算场景，高性能计算主要是面向天气预测、生物计算、材料计算等场景，而最近几年很火的智算主要是面向AI场景的计算，如语音识别、图像识别、自动驾驶等场景，我们可以看到他们有一个共同的基础组件能力，叫分布式资源管理与任务调度执行服务，在HPC场景用了最多的就是Slurm和LSF，在大数据场景用的比较多的就是Yarn和K8s，但未来，智算场景，甚至HPC、大数据场景（数据湖）也会统一到K8s

HPC、大数据、AI批量计算的发展历程和趋势

云原生批量计算面临的关键挑战

而K8s的原生调度不能解决作业管理缺失、调度策略局限、领域计算框架支持不足、资源规划复用、异构计算支持不足等问题，而Yarn本身可以解决部分问题，但在容器的支持上还需要完善，从未来来看，Yarn与K8s的功能会同质化越来越严重。

Volcano总体架构和优势

主要从资源利用率，智能混合调度，这个功能可以用在AI场景的训推一体上，来提升整体的资源使用效率，但需要结合GPU的虚拟化技术，除非像70B以上的大模型，都是在同一类似的A800卡上做训练和推理

未来展望

智算调度未来可能主要向几个方面发展

1. 多场景混合调度：包括在线、离线任务混合；CPU与GPU任务混合；GPU长任务（推理）与短任务混合等，提高整体资源的利用率，降低计算所带来的成本消耗

2. 智能任务调度和优化：针对线上任务的执行数据学习，通过机器学习算法来进行更加智能的调度和对任务资源利用效率的优化，以提升任务的调度效率和资源利用率

3. 跨中心的资源管理和调度：未来数据处理、推理和训练资源很有可能在不同地域的不同中心，我们需要实现跨中心的资源管理和调度，来满足资源利用率的最优化

....（待补充）

智算平台是一个系统性的工程，除了资源管理外，还需要高性能RDMA网络（IB或者ROCE），高性能分布式存储（Lustre或GPFS等），构成整个智算平台的三驾马车。