Apple Silicon机器学习代码可能更容易移植到NVIDIA硬件上
一个项目正试图通过在Apple Silicon Mac 上开发并将其导出到 CUDA 来降低为 NVIDIA 硬件制作机器学习应用程序的成本。机器学习的进入成本很高，部分原因在于它需要昂贵的硬件来快速处理查询。虽然英伟达的芯片和组件因其性能而备受青睐，但苹果正努力让开发者更容易地使用这些硬件。
Ycombinator指出，苹果正在为该公司的开源机器学习框架 Apple MLX 添加 CUDA 后端支持。CUDA 是 NVIDIA 的软件层，用于与显卡上的图形处理单元 (GPU) 配合使用，也用于处理机器学习等处理任务。
通过为 MLX 添加 CUDA 支持，该项目将使代码能够使用 MLX 进行开发。至关重要的是，这些代码随后可以导出为兼容 CUDA 的格式。
需要明确的是，增加的支持专门用于从苹果环境友好的 MLX 环境中导出代码，以便它可以在 NVIDIA 显卡和服务器硬件上运行。
这并不意味着你可以将 NVIDIA 显卡连接到Mac Pro或 eGPU 扩展坞，以便在 Mac 上本地运行机器学习应用程序。它也不会突然允许使用 CUDA 编码的机器学习项目在 Apple Silicon 上运行。
对于开发人员来说，这将使他们有机会在 Apple Silicon Mac上本地编写和测试代码，然后将其部署到基于 NVIDIA CUDA 的硬件上。
该项目具有潜在的成本效益。NVIDIA 的硬件配置可能非常昂贵，至少是高配置 Mac 的数倍。
企业无需使用专用的 NVIDIA 硬件进行开发，而是可以在扩大生产规模之前使用 Apple Silicon 进行小规模开发，从而节省资金。
MLX 项目在基于 CUDA 的系统上运行还有一个好处，其性能远高于 Mac。鉴于 NVIDIA 硬件在机器学习应用中的广泛应用，这对于开发者来说也是一个使用更强大硬件的绝佳机会。
仍在开发中
该项目被列为“在建工程”，并声称“由苹果公司赞助”，表明该项目得到了苹果公司的支持。我们无法独立核实这一说法。
虽然后端工作于 3 月 21 日开始，但仍处于开发阶段。
置顶帖声称目前没有太多可行方案，但教程示例显然有效。测试也在运行 Ubuntu 22.04 和 CUDA 11.6 的设备上进行。
由于其复杂性，该项目不太可能在短期内全面投入使用。然而，鉴于苹果的潜在支持以及可能给其他开发者带来的巨大利益，该项目仍有动力继续推进，最终获得成功。
机器学习研究
考虑到两家公司的历史，让苹果的机器学习平台与英伟达硬件协同工作的项目似乎有些奇怪。众所周知，苹果曾停止与英伟达合作开发macOS Mojave的驱动程序，从而切断了 Mac 使用外部 GPU 的能力。
然而，在机器学习研究的框架下，两家公司的关系变得更加友好。
去年 12 月，苹果公司发布了关于如何创建 Recurrent Drafter (ReDrafter) 的研究，这是一种推测解码方法，可以加速 LLM 令牌的生成。具体来说，苹果公司解释了如何将 ReDrafter 移植到 NVIDIA GPU 上。
随着机器学习成为现代计算的一个重要特征，提高性能的动力也越来越大。
