首页 > 热点播报 > 正文

天玑9300 AI能力飙升:最高支持330亿参数的AI大语言模型

快科技11月6日消息, 联发科今晚正式发布天玑9300旗舰5G生成式AI移动芯片,支持在端侧生成式AI、游戏、影像等方面定义旗舰新体验。

据介绍,天玑9300集成MediaTek第七代AI处理器APU 790,为生成式AI而设计, 其性能和能效得到显著提升,整数运算和浮点运算的性能是前一代的2倍,功耗降低了45%。

APU 790内置了硬件级的生成式AI引擎,可实现更加高速且安全的边缘AI计算,深度适配Transformer模型进行算子加速,处理速度是上一代的8倍,1秒内可生成图片。

同时,基于亿级参数大语言模型特性,MediaTek开发了混合精度INT4量化技术,结合MediaTek特有的内存硬件压缩技术NeuroPilot Compression, 可以更高效地利用内存带宽,大幅减少AI大模型对终端内存的占用,支持终端运行10亿、70亿、130亿、最高可达330亿参数的AI大语言模型。

网友评论

热门IT产品
  1. ¥1699
    华为畅享90 Pro Max
    ·
  2. ¥4699
    HUAWEI Mate 80
    ·
  3. ¥5999
    苹果iPhone17
    ·
  4. ¥8999
    苹果iPhone17 Pro
    ·
  5. ¥2399
    iQOO Z11 Turbo
    ·
  6. ¥1999
    vivo Y600 Pro
    ·
  7. ¥3599
    荣耀500 Pro
    ·
  8. ¥3499
    一加Ace 6至尊版
    ·
  9. ¥1399
    荣耀X70
    ·
  10. ¥2199
    REDMI Turbo 5 Max
    ·