一、雕花的三笔代价 上一篇最后停在一个略显扫兴的地方：eStargz 做到了"pull 近乎为零"，但它有三笔躲不掉的代价——压缩率变差、去重能力弱、一层一个 FUSE 挂载点，外加一个 resolve 超时就静默回退全量拉取的隐患。 如果把这三条并排放在一起看，会发现它们是同一件事的三种表现： 压缩率变差，是因为一层内部共用一个 gzip 字典。你想让单个文件能被独立...

容器里的 RDMA：从内核旁路到 hostNetwork 与 SR-IOV 多机训练要跑满带宽就得用 RDMA。但 RDMA 到底是什么、为什么非它不可，很多人是从一堆 NCCL_IB_* 环境变量里"逆向"出来的——知道要配，不知道为什么。 这篇文章分两半。前半讲 RDMA 本身：从传统 TCP 收发一个包的完整代价讲起，到 RDMA 用什么办法把这些代价一条条抹掉，...

一、一个反直觉的数据 200 节点 × 30 GB 的账单：制品库带宽被打满、GPU 空转 90 分钟、每次发版蒸发 900 美元。Dragonfly 解决的是"数据从制品库出来"这一段的效率问题。 但有一个更基础的问题一直没人问：这 30 GB，容器启动真的用得到吗？ 2016 年 USENIX FAST 会议上，威斯康辛大学的 Harter 团队发表了一篇题为 Sla...

从第一性原理理解分布式训练 这篇文章不打算从"DP / TP / PP / ZeRO"这些名词出发，而是反过来：先回到训练这件事的物理与数学约束，再让每一种并行策略和优化技巧"自己长出来"。 读完之后，希望你看到任何一种新的并行方案，都能立刻问出一个对的问题——它在解决哪个约束？代价是什么？ 一、引子：为什么单卡装不下了？ 训练一个深度学习模型，...