Mozilla Builders的LocalScore：一个有趣的本地AI大模型基准测试
摘要：
通过 Mozilla 的 Mozilla Builders 计划发布的 LocalScore 是一个有趣的本地 AI 大型语言模型 (LLM) 基准测试，适用于 Windows 和 Linux 系统。LocalScore 具有很大的潜力，并且以 Mozilla Ocho Llamafile项目为基础，成为一个易于分发的 LLM 框架。LocalScore 仍处于早期阶段，但已经运行良好。
Llamafile 0.9.2于上周发布，并将 LocalScore 带入代码库，这是一个基准测试实用程序。LocalScore 有助于在 CPU 和 GPus 上进行大型语言模型 (LLM) 基准测试。它是一种评估 LLM 系统性能的简单且便携的方法。
LocalScore 可以从 Llamafile 包触发，或者还有一个适用于 Windows 和 Linux 的独立 LocalScore 二进制文件，以方便进行 AI 基准测试。
作为 Llamafile 的这一新增功能的一部分，现在有了LocalScore.ai作为可选存储库，用于存放 LocalScore 的 CPU/GPU 结果，这些结果使用了基于微型/小型/中型 Meta Llama 3.1 模型的官方模型。
通过LocalScore.ai，可以使用官方模型运行 CPU 和/或 GPU AI LLM 基准测试，步骤简单。基准测试可以在 Windows 和 Linux 系统上轻松完成。
LocalScore是开源的，也是Mozilla Builders计划的一个不错的补充，非常希望看到更多易于使用/快速部署和跨平台的开源 AI/LLM 基准测试。
