安谋科技近日在上海新品发布会上正式推出新一代NPU IP“周易”X3。该产品采用DSP + DSA混合架构,适用于基础设施、智能汽车、移动终端和智能物联网四大领域。
“周易”X3在设计上兼顾CNN与Transformer架构,单集群FP8算力达8~80 TFLOPS且可灵活配置,单核心带宽256GB/s,支持W4A8/W4A16等大模型运行必备的加速模式。其集成自研WDC解压硬件,等效带宽提升15%。
软件方面,“周易”X3搭载Compass AI平台,兼容TensorFlow、PyTorch等主流框架,支持GPTQ量化方案及Hugging Face模型库。据悉其FP16算力是上代16倍,计算核心带宽提升4倍。

粤公网安备 44010602000162号
网友评论