返回上一页  首页 | cnbeta报时: 19:52:42
AMD推出开源项目“GAIA”实现本地大模型高效运行
发布日期:2025-03-23 21:52:19  稿源:中关村在线

AMD宣布推出专为本地运行大语言模型(LLM)设计的开源应用GAIA,目前支持Windows平台。GAIA是一款生成式AI应用,可在Windows PC上实现本地化私密运行LLM,并针对锐龙AI 300系列处理器进行了优化。该应用通过NPU提升AI任务性能,并支持混合部署量化LLM。

GAIA基于ONNX TurnkeyML的Lemonade SDK开发,采用检索增强生成(RAG)技术,支持Llama、Phi等主流模型。其四大功能模块包括Chaty聊天机器人、Clip视频搜索专家、Joker笑话生成器和Simple Prompt测试工具。

AMD提供普通版和混合版安装方案,普通版兼容任意Windows设备,混合版专为锐龙AI 300系列优化。GAIA的本地化处理确保数据隐私,响应延迟降低至毫秒级,并支持离线运行。该项目采用MIT开源协议,未来或扩展至多平台支持。

    我们在FebBox(https://www.febbox.com/cnbeta) 开通了新的频道,更好阅读体验,更及时更新提醒,欢迎前来阅览和打赏。
    查看网友评论   返回完整版观看

    返回上一页  首页 | cnbeta报时: 19:52:42

    文字版  标准版  电脑端

    © 2003-2025