快科技4月2日消息,近日,MLCommons公布了针对AI推理的MLPerf v4.0基准测试结果,其中 Intel Emerald Rapids五代至强处理器 表现优异,相比Sapphire Rapids四代至强性能大幅提升。
迄今为止, Intel仍然是是唯一一家提交MLPerf CPU测试结果的厂商 ,从2020年开始提交基于四代至强的测试结果,如今五代至强也加入了进来。
具体来说, 五代至强经过硬件、软件优化,对比四代至强在MLPerf v3.1中的表现相比,平均提升了1.42倍。
其中,针对具备连续批处理(continuous batching)等软件优化的GPT-J模型,性能提升约1.8倍。
网友评论