已收录的帖子
最近一份日报(2026-11-21)没有收录 @lmsysorg 的帖子。这不等于对方当天没有发帖,只说明这次导入里没有这条。
- 完整博客:https://t.co/M27LnddKn5
- Optimizing DeepSeek-V4.1-Flash PD & Colocate Serving on H20-3e The AI Infra team at @Ant_Intl optimized DeepSeek-V4.1-Flash on 8×H20-3e with PD disaggregation. The blog stacks sev
- 完整博客文章:https://t.co/SZcHoyDGBr
- 🚀 SGLang 中的 Humming:用于高效 MoE 服务的灵活低比特内核 Humming 为 NVIDIA 从 Turing 到 Blackwell 的 GPU 上的稠密层和 MoE 层即时编译低比特内核。在 Hopper 上,其 FP8 路径将专家权重以 4 比特打包存储,并在 Tensor Core 执行乘法前,即时在寄存器中重建 FP8 操作数
- 完整博客文章: https://t.co/pLJECLUpfn
- 利用 SGLang PD 分离在 H200 上优化 DeepSeek-V4.1 @Ant_Intl 的 AI 基础设施团队通过 PD 分离,在 8×H200 上部署了来自 @deepseek_ai 的 DeepSeek-V4.1-Flash。 这篇博客介绍了他们如何实现这一目标:成本更低的稀疏注意力 Indexer、更大的 Prefill 分块,http
- 很高兴见到大家,并和整个社区分享这些美好回忆!明年见!