新加坡初创公司推出GELIX 1 AI芯片 宣称可本地运行千亿参数模型
新加坡初创企业Acrab近期推出一款名为GELIX 1的AI芯片,意图在小型桌面AI计算领域挑战苹果Mac mini等产品的地位。这款采用5纳米工艺制造的芯片搭载了20核ARM CPU以及多核神经处理单元(NPU),拥有与苹果M4 Pro相仿的273GB/s统一内存带宽。

在Acrab官方公布的测试中,GELIX 1在运行Gemma 26B模型(4万 Token上下文窗口)时,预填充速率达到了每秒1416个Token,相比之下,搭载M4 Pro芯片的Mac mini在同等条件下的表现仅为每秒188个Token。不过,目前这些基准测试数据尚处于公司自测阶段,仍有待第三方机构的独立验证。




除了性能表现,Acrab还宣称该芯片具备运行最高1000亿参数(100B)大型语言模型的能力,且设备占地面积与Mac mini相当,旨在为对隐私和延迟有严格要求的用户提供本地化的大模型算力解决方案。不过业内分析指出,运行百亿甚至千亿级别的模型对统一内存容量提出了极高要求(通常需要128GB或更高配置),这或许意味着其高配版本的价格将相当昂贵。目前,GELIX 1的具体售价和上市时间等信息尚未对外公布。


