据悉,英伟达今日宣布,DeepSeek-R1模型已经在NVIDIA NIM微服务平台上线。该微服务可以在单个NVIDIA HGX H200系统上每秒提供多达3,872 tokens。开发人员可以通过测试和试验API来简化部署,并最大限度地提高安全性和数据隐私。此外,企业还能够为专用AI代理创建自定义的DeepSeek-R1 NIM微服务。这一举措是英伟达推出的Nvidia Inference Microservices(NIM)云原生微服务的一部分。
据悉,英伟达今日宣布,DeepSeek-R1模型已经在NVIDIA NIM微服务平台上线。该微服务可以在单个NVIDIA HGX H200系统上每秒提供多达3,872 tokens。开发人员可以通过测试和试验API来简化部署,并最大限度地提高安全性和数据隐私。此外,企业还能够为专用AI代理创建自定义的DeepSeek-R1 NIM微服务。这一举措是英伟达推出的Nvidia Inference Microservices(NIM)云原生微服务的一部分。
热点播报 2025-01-31 10:33:03
热点播报 2025-01-31 09:32:14
热点播报 2025-01-31 07:50:02
热点播报 2025-01-29 00:56:20
热点播报 2025-01-28 14:07:47
网友评论