本地AI助手自动发现并加载模型,完全免费离线运行
LM Studio是目前在本地硬件上运行开源大语言模型最流行的方式。现在,NousResearch开发的Hermes Agent已经原生支持在LM Studio上运行。它能自动发现电脑里已下载的模型,按需加载,自动设置正确的上下文大小,并为每个模型选择合适的推理级别。打开软件就能用,不用纠结技术细节。
这个集成来自Rugved Somwanshi和LM Studio团队的贡献。NousResearch说,他们付给Hermes Agent的“报酬”是食宿——完全免费,用户只需提供计算资源。
Hermes Agent适用于经过优化支持代理使用的模型,旧系列模型可能效果不佳。目前它已经可以在LM Studio中直接启用。这种本地方案免费且完全本地运行,但任务类型受限于模型——旧系列模型就不支持代理功能。