Clover 技术报告:块扩散模型的智能体收益与复现缺口
预印本
学术成果
扩散语言模型
MoE
自推测解码
首次提交 2026-11-18 15:46 UTC
研究贡献DiffuSpace 的新技术报告将 Qwen3.6 的门控递归记忆与块内双向注意力结合,在共享 softmax 中融合历史和当前块,并用块级专家池协调路由。模型总参数 35B、每 token 激活约 3B;作者同协议重测基线,SWE-bench Verified 为 73.6,对照 Qwen3.6 为 65.8,编码任务各运行三次取平均。
证据与局限所有分数均为团队内部评测,尚非独立复现;680 tokens/s 来自单张 GB300、BF16、批量一的轨迹回放,并不执行命令或衡量任务成功。H200 数学任务速度反而低于 DFlash 2。公开仓库有 SFT 目录、模型页列出权重,但 README 明示 SGLang 与 llama.cpp 后端代码及指南仍待加入,无法据此认定论文速度已可完整复现。
本期收录的是新提交的技术报告,而非模型首次发布:模型页面的发布材料已存在约三周。研究价值在于披露结构与评测细节;联合决策变体尚待发布,内部题集曾反复用于开发,77% 整组正确率不能当作全新盲测成绩。