AI Pulse
📡 X 信号

Udgam开源Laghu 聊天模型、Shruti 语音转文字模型、Gargi 推理模型(146美元)

Udgam开源Laghu 聊天模型、Shruti 语音转文字模型、Gargi 推理模型(146美元)

过去两周,印度有一位男士悄悄完成了 AI 实验室斥资数十亿美元追逐的事。却没人注意到。

Jitesh Prasad,毕业于北孟加拉大学物理系,拥有印度管理学院(IIM)Lucknow 分校的 MBA 学位,运营着一家名为 Udgam 的单人实验室。在 10 月 10 日至 23 日期间,他发布了 5 个开源 AI 模型和一个公开基准测试。

Laghu 是一个从零开始训练的聊天模型,训练成本仅为 146 美元。完整的成本账本是公开的,包括失败的部分:租用 8 个 GPU,耗时 13.2 小时,总花费不到 200 美元。

Shruti 是一个印地语-英语-印地英语混合语的语音转文本模型,单个文件仅 29.5 MB。它可以在浏览器标签页中离线运行。在相同的印地语测试片段上,它的错误率低于 OpenAI 的 Whisper large-v3,后者的文件大小是它的 100 倍。在英语方面,他坦率地告诉你,Whisper 更胜一筹。

Gargi 是一个 384M 参数的推理模型,以吠陀哲学家 Gargi Vachaknavi 的名字命名。它在 17B 个 token 上训练,数据量比阿里巴巴的 Qwen2.5-0.5B 少约 1000 倍,但在推理测试中与后者的差距在 2 分以内。在知识测试中,他自己的模型卡承认,它惨败。

所有内容在 Hugging Face 上都是 Apache-2.0 许可:权重、代码、检查点、评估,甚至包括发现一次失败运行所花费的 0.45 美元。没有融资。没有新闻稿。只有一个人,13 天,以及一个信念:诚实的数字比庞大的数字更重要。

来源:udgamlabs/blog(链接在评论区);Hugging Face 模型卡 udgamlabs/Shruti、udgamlabs/Gargi、udgamlabs/Laghu

图 1:Shruti 模型卡的 WER 表格——29.5 MB 的 Shruti 在所有三个印地语数据集上击败了 Whisper large-v3(3,087 MB),同时 Whisper 在英语上的优势也清晰可见。

图 2:Laghu 的公开成本账本——主运行花费 146.26 美元,总花费约 194 美元,甚至包括 0.03 美元的 X 搜索费用。

图 3:Gargi 对比 Qwen2.5-0.5B——384M 参数使用约 0.017T token 对比 494M 参数使用约 18T token,在推理上差距在 2 分以内,同一行中也诚实展示了 MMLU 的差距。

图 4:Hugging Face 组织页面——完整模型阵容旁边显示“团队成员 1”。一张截图里的单人实验室。

本文由 AI 翻译自英文原帖,技术名词保留英文。

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新