据悉,华为技术有限公司最近公布了一项名为“人工智能模型的量化方法、处理系统和量化单元”的专利。该专利显示,通过将量化矩阵分割成多个适用于计算设备各个计算单元的处理粒度的分块量化矩阵,并对其进行实时量化处理,可以有效减少AI模型占用的内存。这项技术不仅可应用于权重矩阵,也适用于激活矩阵。这一创新将进一步推动人工智能领域的发展和应用。
据悉,华为技术有限公司最近公布了一项名为“人工智能模型的量化方法、处理系统和量化单元”的专利。该专利显示,通过将量化矩阵分割成多个适用于计算设备各个计算单元的处理粒度的分块量化矩阵,并对其进行实时量化处理,可以有效减少AI模型占用的内存。这项技术不仅可应用于权重矩阵,也适用于激活矩阵。这一创新将进一步推动人工智能领域的发展和应用。
热点播报 2025-02-07 10:07:14
热点播报 2025-02-07 01:02:37
热点播报 2025-02-07 00:16:42
热点播报 2025-02-06 17:32:24
热点播报 2025-02-06 14:02:26
网友评论