AI Pulse

不写代码就能微调开源AI模型,调用不限次、权重归你

大多数生成式 AI 任务用不上前沿模型的全部能力,通过 API 调用这些大模型又通常贵得离谱。Neuro-Block 团队就是看准了这点,搭了个平台:不用写代码,就能快速微调、部署轻量级模型。

40 亿到 140 亿参数,多模态能力,开源。配上合适的工具、数据和知识,团队认为这就够覆盖大多数场景了。平台上的框架瞄准 4B 或 9B 的小模型。定制走两条路:微调,或者检索增强生成(RAG),都不需要编程基础。

调用大模型的痛点是能力不由自己说了算、数据要过别人的手。Neuro-Block 允许用户下载模型权重、在本地运行,模型的知识产权和所有权都归用户。这样就绕开了常见的厂商锁定。

创始人说,平台已与当地数据中心签下协议,GPU 归自己所有。训练和推理速度快,而且推理不限次数。自有 GPU 的直接效果是基础设施成本固定,不随使用量上涨。这是“无限推理”能有底气的原因。

平台有免费档。试用后给点反馈,就送 6 个月免费订阅。创始人自己也在不少个人项目里用这些模型。平台网址是 neuro-block.com。

社区反应分两路。有人赞同:“每件小事都追求大模型有点过,就像用坦克去买菜,9B 模型适当微调就能处理我扔给它的大部分东西。”也有人直接追问:数据中心怎么设置的?当用户真的用上无限推理时,峰值负载怎么处理?

这两个问题,Neuro-Block 没有给出答案。模型的基准性能、免费层级的具体边界、数据中心的规模和可靠性,都没公布。Neuro-Block 代表了一条不同的路:不事事调用大模型。但无限推理的峰值和成本怎么应对,是它首先要回答的问题。

阅读原文
📚 相关主题 开源商业

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新