首页 > 热点播报 > 正文

性能对标OpenAI o1!DeepSeek R1正式上线英伟达NIM平台

收藏成功,去查看收藏>>

快科技1月31日消息,据英伟达官方网站消息, DeepSeek R1 671b版本已作为英伟达NIM(Nvidia Inference Microservices)微服务的预览版在build.nvidia.com平台上发布。

这一微服务基于单个英伟达HGX H200系统,能够实现每秒处理多达3872个token的高效性能。

开发人员现可对该API进行测试与实验, 预计不久后,此API将以可下载的NIM微服务形式,正式成为英伟达AI Enterprise软件平台的一部分。

NIM,即Nvidia Inference Microservices,是一种云原生微服务技术,旨在简化生成式AI模型在云端、数据中心及GPU加速工作站上的部署流程。

DeepSeek R1是幻方量化旗下AI公司DeepSeek所发布的大型模型,其在数学、代码编写、自然语言推理等多项任务上展现出的性能,足以与OpenAI的o1模型相媲美。

收藏 (0) +1 (0) +1 (0) +1

网友评论

网友评论暂无评论,快来抢沙发!
欢迎参与讨论,分享你的看法
暂无评论,快来抢沙发!
热门IT产品
  1. ¥7599
    苹果iPhoneX 64GB
    ·
  2. ¥5799
    三星S9
    ·
  3. ¥4498
    vivo NEX旗舰版
    ·
  4. ¥4999
    OPPO Find X
    ·
  5. ¥1799
    努比亚Z18mini
    ·
  6. ¥1499
    OPPO A5
    ·
  7. ¥1999
    荣耀Play(4GB RAM)
    ·
  8. ¥1598
    vivo Y85
    ·
  9. ¥3499
    坚果R1(6GB RAM)
    ·
  10. ¥3599
    一加6(8GB RAM)
    ·
以科技敬生活
下载太平洋科技APP