OpenAI 昨天发布了一个可在 PC 上运行的全新免费开放 GPT 模型,现在微软也正在为 Windows 用户提供便捷的体验。轻量级的 gpt-oss-20b 模型现已在 Windows AI Foundry 上线,并将很快登陆 macOS。
您需要一台至少配备 16GB VRAM 的 PC 或笔记本电脑,因此您需要 NVIDIA 的顶级 GPU 之一,或者配备足够 VRAM 的各种 Radeon GPU。gpt-oss-20b 模型针对代码执行和工具使用进行了优化,微软表示它“非常适合构建自主助手或将 AI 嵌入到现实世界的工作流程中,即使在带宽受限的环境中也是如此”。
微软已针对本地推理对 GPT-OSS-20B 进行了预优化,并暗示即将支持更多设备。这可能意味着我们将在未来某个时候看到针对 Copilot Plus PC 的更优化版本,就像微软最近在 Windows 中添加各种本地 AI 模型一样。
微软迅速将 OpenAI 的最新模型添加到 Windows AI Foundry 的同时,亚马逊也同样迅速地将新的开放权重 GPT-OSS 模型应用于其云服务。这是首次在 Windows 上本地运行 OpenAI 模型,也是微软最大的云竞争对手首次能够访问最新的 OpenAI 模型——这为OpenAI 与微软错综复杂的合作关系增添了新的活力。