数字人工智能依赖于物理硅、混凝土和钢铁 数据中心由多种物理系统组成,这些系统以不同的方式消耗电力。数据中心中大 部分电力消耗的关键硬件系统包括服务器、冷却系统、存储和网络设备,以及备 份电力基础设施. 服务器在传统数据中心的电力使用中占据了最大份额,平均约为总需求的60%, 尽管这一份额可能在未来的AI数据中心中发生变化,因为设计正在迅速演变。服 务器是核心的信息技术(IT)基础设施,包含了计算芯片和内存,提供支持AI模 型开发和操作所需的处理能力--训练和推理。传统上,服务器依赖于中央处理 单元(CPU),这些处理单元被设计用于处理广泛的计算任务。然而,随着AI模 型的规模和复杂性增长,数据中心开始转向使用加速处理器,主要是GPU。这些 处理器被设计用于处理大量的并行计算,使得模型能够在较短时间内处理海量数 据集,从而使其更适合于训练先进的AI模型。虽然每一代新的GPU通常比上一代 更高效,但每个GPU的总功耗仍然趋向于更大,每个机架上的GPU总数也是如此.