DSpark共1篇
北大与 DeepSeek 联合开源 DSpark:破解 AI 大模型高并发推理瓶颈,速度提升 60% 至 85%五猫网 - AI工具、API服务与独立产品开发五猫网

北大与 DeepSeek 联合开源 DSpark:破解 AI 大模型高并发推理瓶颈,速度提升 60% 至 85%

针对大模型推理延迟高、并发效率低的痛点,DSpark 框架通过半自回归候选生成与置信度调度验证两项创新,在保证生成质量的同时,将单用户生成速度提升 60% 至 85%。该框架已部署于 DeepSeek-V4 ...
问舟的头像五猫网 - AI工具、API服务与独立产品开发五猫网问舟14小时前
256