AI Pulse

本地AI助手自动发现并加载模型,完全免费离线运行

LM Studio是目前在本地硬件上运行开源大语言模型最流行的方式。现在,NousResearch开发的Hermes Agent已经原生支持在LM Studio上运行。它能自动发现电脑里已下载的模型,按需加载,自动设置正确的上下文大小,并为每个模型选择合适的推理级别。打开软件就能用,不用纠结技术细节。

这个集成来自Rugved Somwanshi和LM Studio团队的贡献。NousResearch说,他们付给Hermes Agent的“报酬”是食宿——完全免费,用户只需提供计算资源。

Hermes Agent适用于经过优化支持代理使用的模型,旧系列模型可能效果不佳。目前它已经可以在LM Studio中直接启用。这种本地方案免费且完全本地运行,但任务类型受限于模型——旧系列模型就不支持代理功能。

📎 阅读原文 · @NousResearch on 𝕏

📬 订阅 AI Pulse

每天两次更新,不错过重要信号

▲ 回到顶部