AI Pulse

从大厂到AI基础设施一年:他称回报最高年份之一但不建议人人转

从大厂到AI基础设施一年:他称回报最高年份之一但不建议人人转

因为我完全用手写了原始中文版,以尽可能保持诚实和个人化。

今年七月,我分享了第一篇关于从大厂软件工程岗位转向AI基础设施的文章。它收到的关注远超我的预期——甚至一些朋友也在他们的信息流中看到了。感谢每一位阅读的人。

如今,距离我开始学习AI基础设施已经整整一年了,距离我加入一家优秀的AI基础设施初创公司也已经过去几个月。这感觉是一个很好的里程碑,可以分享对我有效的学习路径,以及在这一领域工作的一些反思。

如果你也在学习AI基础设施,或者对入门有疑问,我很乐意在评论区听到你的声音。

我的学习时间线

下面是完整的旅程,按时间顺序排列。

2025年5月

先交代一点背景。如果你看过我以前发的每日学习笔记,你可能记得我辅修了计算机科学和数学。我最终决定投身软件工程,并走上了那条熟悉的路:招聘、实习、转正offer,以及在我梦想加入的大厂获得一份软件工程师职位。

我于五月毕业。那时,我对机器学习的接触仅限于几门本科课程和一些相关的实验室经历。我的数学背景可能也有一点帮助。

2025年7月

我于七月正式开始工作。但大厂的生活与我之前想象的截然不同。

一方面,我发现很难主动去做什么。大多数时候,任务都是从上面指派下来的。日复一日使用同样的技术也让我感到无聊,几乎没有空间去创造一些新的东西。

入职仅仅三个月后的一个晚上,我开始质疑自己为自己规划好的道路。那条路似乎并不能通向我想过的那种生活。我想做有意义、有挑战、对人类有价值的工作。

这自然而然地引导我走向开源和AI——最终,走向SGLang。

2025年10月

于是,在第一份工作三个月后,我开始学习AI基础设施的基础知识。

我有限的ML背景和实验室经验帮助我相对较快地起步。但由于没有结构化的课程可以跟随,我花了很长时间试图弄清楚什么才是真正值得学习的。

我最终东学一点、西学一点,在我的早期小红书帖子中记录了整个过程。后来我把那些帖子隐藏了,因为我不再认为它们足够好,也不想误导任何人。

2026年1月

到了一月,我觉得我已经啃完了大部分入门材料和我能找到的许多博客文章。但理解概念和写出真正的代码仍然是两件截然不同的事情。

正是在那时,我打开了SGLang代码库,开始深入研究它。

说实话,阅读源代码让我接触到了无数我从未听说过的概念和优化技术。在那之前,我主要学到的是并行策略、量化、radix caching之类的东西。突然之间,我面对的是调度器中的CPU-GPU重叠、CUDA Graphs、HiCache,以及更多。

这些概念现在对我来说已经很熟悉了。但对于一个缺少上下文的新手来说,它们是令人望而生畏的。

我也开始在SGLang社区帮忙做一些小任务,边做边学。

2026年3月到4月

到这个时候,我的理论基础开始成型。那些早期的贡献也帮助我在SGLang社区建立了一些信任,认识了里面的人。

大约在这个时间,社区里许多人应该都认识的吉他猫LLM把我带进了SGLang-Omni项目。那才是我开始做实质性开发工作的地方。

之后的一切顺理成章:持续构建,持续学习,逐步积累经验,最终作为行业新人站稳脚跟。

从2025年10月开始的这一年,是我人生中ROI最高的一年之一。在那些日日夜夜的学习中,我遇到了许多我深深尊敬的人,我很感激他们如此慷慨地分享自己的知识。

这一年也让我越来越意识到,任何一个人的知识都是多么有限,而要理解这项技术,还有多远的路要走。在未来的一年里,我希望继续以学徒的心态对待工作:保持好奇,持续学习,不断进步。

这就是为什么我公开分享我完整的学习路径。我希望这能给我们一些讨论和共同建设的基础。AI基础设施是一个技术要求很高的领域,但我希望我的经历能够帮助那些正在考虑这条路或已经走在这条路上的人。

从SWE转向AI基础设施的反思

说实话,虽然传统数据库基础设施和AI基础设施有一些相似之处,但我的经验是,仍然有大量东西需要从零开始学习。

这个领域充满了能力超群的人。每当我开始有点自满的时候,我就会想起我还有多远的路要走,还有多少东西需要学习。

尽管如此,我不会建议每个人都转行。

在我上一份工作中,我可以朝九晚五地工作,下班后完全断开联系,晚上打打桌游或去远足。而在AI领域,竞争激烈,变化无情,每一分钟都感觉已经被安排满了。

对我来说,最重要的是工作背后的意义以及它能给人类带来的价值。这给了我很强的主动性——几乎是一种本能的目标感。

这种权衡是否值得,因人而异。至少对我来说,这份工作让我快乐,给我带来真正的成就感。

回顾起来,这大致覆盖了我想从过去一年中分享的绝大部分内容。最突出的感觉是,AI时代展开的速度有多快。

对于我们这些2000年后出生的人来说,这可能既是我们一生中最好的时代,也是我们一生中最糟糕的时代。

好的一面是,我们得以见证人类进入另一个新时代,将生产力——甚至是我们做研究的能力——提升到一个新的水平。新一代人将乘着这波浪,建立起非凡的事业和生活。

但身处这个领域,我也必须承认,AI作为生产力工具正在拉大拥有资源的人和没有资源的人之间的差距。

能够接触到最先进的模型及其周围构建的配套工具的人,可以完成过去需要一百个人才能完成的事情。而那些没有这种资源的人,只能接受更少的成果,有些人甚至可能没有意识到AI能多大程度提高他们的生产力。

这正是我一直相信开源如此重要的原因。

如果如此强大的工具只掌握在少数主导公司或前0.1%的人手中,也许《赛博朋克2077》中的荒坂(Arasaka)不会仅仅停留在虚构之中。

最后,感谢每一位为开源做贡献的人。我希望更多人能加入这些社区并贡献自己的力量。

再次强调,如果你有疑问,尽管留言。我很希望我们能互相学习。

阅读原文
📚 相关主题 职业发展开源

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新