当行业在讨论谁的模型更智能时,DeepSeek将注意力集中在更实际的问题上:如何提升模型的推理速度。
6月27日,DeepSeek在Github上低调发布了一篇新论文,介绍其推理加速框架DSpark,试图应对大语言模型在高并发场景中的推理效率瓶颈。
这篇论文由DeepSeek与北京大学联合发布,创始人梁文锋也在作者名单中。文中,团队开源了DSpark模型权重,并同步发布了针对推测解码的训练代码仓库DeepSpec。
论文标题较为晦涩,名为《DSpark:基于置信度调度的半自回归生成推测解码》。其中,DeepSeek解释了当前大语言模型的自回归生成方式存在的问题,每次生成新词元都需进行完整前向传播,这导致了GPU利用率低、用户等待时间长等性能瓶颈,特别是WhatsApp网页版在实时对话和多轮智能体应用中表现明显。
现有主流方案如自回归草稿模型(Eagle3)和并行草稿模型(DFlash)各有不足,包括生成质量和系统效率的限制,并缺乏有效的负载自适应校验机制。
为此,DeepSeek提出了DSpark推测解码框架,采用半自回归架构,通过两种互补机制来解决草稿生成与校验的矛盾,实现了高吞吐的并行生成与自适应负载感知的结合。
根据论文测试结果,在数学推理、代码生成和日常闲聊等三种任务中,DSpark框架显著提高了单轮平均可接受词元长度。DeepSeek已经将DSpark部署到DeepSeek-V4在线服务中,并在真实用户流量中评估其性能,数据显示相较于MTP-1,DSpark在相同吞吐量下,用户端生成速度提升了60%-85%。
此外,DSpark的应用于多个模型上验证了其有效性,例如在阿里旗下Qwen3-4B、8B、14B模型中,DSpark相较于自回归草稿模型和并行草稿模型,都有显著的性能提升。
总的来看,这篇论文通过算法创新显著提升了推理生成速度,尤其在大模型日益商业化的趋势下,速度和成本的竞争力愈发重要。此外,通过开源,DeepSeek助力了社区的发展。
社交平台上,一些开发者评价道:“AI Infra再次被DeepSeek加速了。”用户们对此表示赞赏,认为DeepSeek在模型迭代时,推理基础设施也得到了同步优化,展现了跨模型的通用性。尽管近期传出融资消息,DeepSeek似乎仍在坚持开源理念。
文章来源:https://tech.sina.com.cn/roll/2026-06-27/doc-inievzuu3819972.shtml