DualPath：重新利用空闲网卡带宽
从双路径 KV-Cache 加载、CNIC 流量管理到自适应调度，理解推理系统如何把闲置网络带宽重新变成有效吞吐。
最新文章
DualPath：重新利用空闲网卡带宽
从双路径 KV-Cache 加载、CNIC 流量管理到自适应调度，理解推理系统如何把闲置网络带宽重新变成有效吞吐。
- AI Infra
- KV Cache
- Multi-NIC
- RDMA
Mooncake：以 KV Cache 为中心的推理架构
把 KV Cache 从推理副产品提升为系统调度中枢，连接分布式存储、传输引擎与 P/D 分离。
- AI Infra
- KV Cache
- RDMA
- Serving
ZCube：自动搜索出来的 AI 集群拓扑
从 ATOP 搜索空间到低直径递归拓扑，分析性能、网络成本与适用边界之间的真实取舍。
- High-Performance Networking
- Topology
- AI Cluster
- Optimization
NCCLX：十万卡 RoCE 上的集合通信重构
Meta 如何用 Host-driven、Zero-copy 与端网协同，在大规模 RoCE 网络上重新设计集合通信。
- RDMA
- RoCE
- NCCL
- Collectives
该标签下暂无文章。