AMD 与 Unsloth 为逾 100 款智能体 AI 应用带来 NPU 支持

转载 网络 | 2026年11月20日
AMD 与 Unsloth 为逾 100 款智能体 AI 应用带来 NPU 支持 ......

用户首次可以通过 Unsloth Desktop 使用 AMD XDNA 2 NPU 加速,让逾 100 款兼容的智能体 AI 应用及工作流程能够利用本地 NPU 进行推理。

有何新进展?AMD 与 Unsloth 正携手让逾 100 款智能体 AI 应用及工作流程,能够在受支持的 AMD Ryzen AI PC 上使用本地 NPU 推理。AMD XDNA 2 NPU 是Unsloth Desktop支持的首个神经网络处理器(NPU)。通过 Unsloth Desktop 的 API,兼容应用可以连接到在 NPU 上运行的受支持模型。

这为何重要?全天运行的 AI 助手和智能体需要在用户执行日常 PC 任务的同时高效开展推理。此次合作让用户在 GPU 之外有了新的选择:利用 AMD XDNA 2 NPU 持续执行低功耗推理,同时为其他应用保留 CPU 和 GPU 资源。这项集成延续了 AMD 不断扩展和优化软件支持的工作,让更多常用工具能够利用专用 NPU 加速。

AMD 发挥什么作用?通过支持 Unsloth Desktop,AMD 正在扩展受支持的计算资源,让开发者和用户能够通过熟悉的应用,在本地高效部署和运行智能体工作流程。

Unsloth 带来哪些能力?Unsloth 覆盖模型开发与部署,既提供可加速微调、降低 GPU 显存需求的开源工具,也提供无需编写代码即可进行训练和推理的桌面应用。对 AMD NPU 的支持,让这一生态系统的计算资源从 CPU 和 GPU 进一步扩展至 NPU,为用户提供高能效的推理选择,并让逾 100 款兼容的智能体应用及工作流程能够利用这一能力。

它如何运作?兼容应用向 Unsloth Desktop API 发送模型请求,由 Lemonade 和 FastFlowLM 在 AMD XDNA 2 NPU 上提供模型服务并执行推理。模型响应随后返回应用,供其工作流程使用。NPU 负责加速受支持模型的推理,应用的其他功能则继续按需使用 PC 的 CPU 和 GPU。

通过 Unsloth 可以使用哪些支持 NPU 加速的工具?Unsloth Desktop API 为兼容应用提供符合 OpenAI API 规范的端点。这项集成覆盖逾 100 款智能体 AI 应用及工作流程,包括 Hermes Agent、OpenClaw、Open WebUI、Cline、LangChain 和 GitHub Copilot 等工具。

这能为 PC 用户带来哪些益处?AI 智能体可以跨多个互联工具执行多步骤任务。借助本地 NPU 推理,兼容的智能体能够在执行这些任务时,以更高能效处理模型请求,同时为任务编排和其他应用保留 CPU 与 GPU 资源,帮助用户减少管理各个步骤所需的时间,将更多时间用于审阅结果。

了解更多:请阅读《AMD × Unsloth:为 Unsloth Desktop 带来全球首个 NPU 支持》,了解 AMD 与 Unsloth 如何携手合作,以及如何在搭载 AMD XDNA 2 NPU 的 PC 上安装 Unsloth Desktop。

标签:AMD

用户名:  密码:  没有注册?
网友评论:(请各位网友遵纪守法并注意语言文明,评论仅供参考不代表本站立场)