英伟达适配DeepSeek-V4 AI模型 开箱性能超150 tokens/sec/user

据悉，英伟达发布博文宣布适配DeepSeek-V4 AI模型。开发者可通过NVIDIA NIM微服务下载部署，或利用SGLang与vLLM框架进行定制化推理。

DeepSeek-V4-Pro拥有1.6T总参数量与49B激活参数，定位高级推理任务；DeepSeek-V4-Flash版本则为284B总参数量与13B激活参数，主打高速高效场景。两款模型均支持100万Token上下文窗口与最高38.4万Token输出长度，覆盖长文本编码、文档分析等核心应用，并采用MIT开源协议。

实测数据显示，借助vLLM的Day 0配方，开发者可在Blackwell B300上快速部署。随着Dynamo、NVFP4及CUDA内核的深度优化，预期性能将进一步提升。

部署生态方面，SGLang提供低延迟、均衡及最大吞吐量三种配方；vLLM则支持多节点扩展至100个以上GPU，具备工具调用与推测解码能力。