发布日期:2024-10-31 08:57 点击次数:76
IT之家 10 月 29 日音讯,科技媒体 servethehome 昨日(10 月 28 日)发布博文,应 xAI 公司邀请,参不雅了 Colossus 巨匠最大 AI 熏陶集群。
IT之家曾于本年 9 月报说念,xAI 在 Supermicro 的匡助下,在短短 122 天时辰内搭建 10 万张英伟达 H100,而该公司筹谋改日将再翻倍增多 10 万张 GPU,其中 5 万张为更先进的 H200。
xAI Colossus 配备了英伟达 HGX H100 办事器,每台办事器内含 8 张 H100 GPU,通盘办事器皆在 Supermicro 的 4U 水冷系统中运转,确保高效散热。
每个机架可容纳 8 台办事器,8 台办事器构成 1 个阵列,意味着每个阵列有 512 个 GPU。Colossus 集群内有特出 1,股票融资500 个 GPU 机架,接济高带宽的集结互联。
每个 GPU 配备 400GbE 的集结接口罢休器,确保每台 HGX H100 办事器达到 3.6 Terabit 每秒的以太网带宽。
xAI 汲取了 Supermicro 的 4U 通用 GPU 系统,这些系统具备先进的液冷技能,擢升了散热成果,确保了高性能计较的踏实性。液冷筹备使得系统在运转高负荷任务时,简略保握较低的温度,蔓延建造使用寿命。
这次展示得到了埃隆・马斯克过甚团队的特别批准,由于构建巨匠最大 AI 集群的明锐性,部老实容在视频中进行了吞吐惩办,Supermicro 赞助了这次巡展,显露出其在行业中的进攻地位。