多数数据中心运营商在过去几年中提高了机架密度。小于10kW的机架是最常见的 而机架密度在10 kW到19 kW之间的设施在过去六年中持续增加。许多AI工作负 载可能在低密度环境中运行，特别是推理工作负载和不需要物理靠近GPU设置的 小模型。空气冷却系统的机架密度低于液冷或浸没冷却系统。高端方面，机架密 度超过50 kW的安装在过去六年中也持续增长，但仍然属于少数。在2024年，全 球调查中的大约30%的数据中心的机架密度为20kW或更高. 继服务器之后，冷却系统在所有类型的数据中心的总电力需求中占据第二大份额 大幅波动从7%到30%，具体取决于数据中心的类型及其效率。由于机架密度较 高，高性能数据中心产生的废热温度高于传统数据中心. 强烈的AI工作负载可能会将机架密度推超现有空气冷却系统的物理限制。空气冷 却在行业中仍被广泛使用，但当机架密度超过某个阈值时，可能变得不切实际, 且成本和能源效率较低，特别是在高性能超大规模或大型企业数据中心中. 因此，AI数据中心正在寻求创新的冷却技术，例如包括直接芯片和浸没冷却的液 冷系统。液冷作为高效计算基础设施的冷却系统正在受到关注，因为其冷却性能 优于基于空气的系统。液体