初创公司Acrab发布首款边缘AI终端SoC GΞLIX 1 支持百亿参数大模型本地高效运行

据悉，初创企业Acrab正式发布了其首款面向边缘AI终端设备的GΞLIX 1系统级芯片。该芯片基于5nm制程工艺，采用异构设计，集成了20核Arm CPU、3TFLOPS算力的GPU、专用NPU以及一系列音视频处理引擎。

其拥有8MB大容量L1缓存，共享L2缓存带宽达768GB/s，并支持256位宽、8533MT/s的LPDDR5X共享内存。Acrab表示，通过在GΞLIX 1上对注意力机制进行矢量硬件加速，并优化预填充过程，显著降低了生成首个词元的延迟。

在特定测试配置下，其首词元生成速度据称可达苹果M4 Pro Mac Mini的7.5倍。除芯片外，Acrab还提供了配套的软件堆栈、智能体参考设计，并基于此推出了首款第一方终端设备Agent Box。