GPU从Llama 3报告出发的一些LLM技术整理 NxFabric / 2024-10-16 Illustration of the overall architecture and training of Llama 3
PCIePCIE7.0 特性指标 NxFabric / 2024-08-25 数据传输速率与带宽 • 传输速率:PCIe 7.0的数据传输速率达到了128 GT/s(每通道),相比PCIe 6.0的64 GT/s再次翻倍。
CXLCXL Feature List NxFabric / 2024-07-25 CXL 3.0 中引入的高级结构功能是基于前几代及其传统树基架构的一次转变。新架构支持多达 4,096 个节点,每个节点都能够通过基于端口的路由 (PBR) 机制与另一个节点相互通信。节点可以包括 CPU 主机、CXL 加速器(无论是否包含内存)、PCIe 设备或全局结构连接内存 (GFAM) 设备。