NPU是什么 为何它是开启终端侧生成式AI的关键

生成式AI变革已经到来。随着生成式AI用例需求在有着多样化要求和计算需求的垂直领域不断增加，我们显然需要专为AI定制设计的全新计算架构。这首先需要一个面向生成式AI全新设计的神经网络处理器(NPU)，同时要利用异构处理器组合，比如中央处理器(CPU)和图形处理器(GPU)。通过结合NPU使用合适的处理器，异构计算能够实现最佳应用性能、能效和电池续航，赋能全新增强的生成式AI体验。

图1：正如在工具箱中选择合适的工具一样，选择合适的处理器取决于诸多因素，

将增强生成式AI体验。

异构计算的重要性