非AI岗转AI岗 按方向整理了准备路径

最近有很多人问我从非 AI岗位如何转AI岗。

首先。AI 岗位细分 也有 训练基础模型、研究算法、AI 基础设施， AI 应用层搭建，分发、应用层 Agent 等等。 对候选人的要求差别很大。面试准备和转岗策略也应该完全不同。

如果本来就是做云或者大数据后端的。转AI infra是最容易的。 需要补一些基本的AI系统架构的知识。了解一下基本的大模型训练流程和大模型推理架构。

如果要找专门的 推理服务岗位。需要后端系统设计之外的模型推理知识，例如 Prefill 与 Decode 的区别、显存占用、量化、批处理和 GPU 利用率。

如果去做Agent的话，需要 LLM API、Tool Calling、RAG、Agent Evaluation 等知识，同时仍然需要扎实的软件工程能力。

如果想找ML engineer, Applied Scientist的话。你最好有 AI/ML/DL 的phd学历。 会考察统计学、机器学习基础、训练流程、指标设计，部分团队要求较强的数学与建模能力。

如果要找Research Engineer / Research Scientist。我相信你们的研究能力就不需要我指导了 :D

关于一些基本的 ML/ LLM knowledge 概念需要了解的： Transformer Attention、Self-Attention、KV Cache 的作用 推理 Prefill、Decode、TTFT、Inter-token Latency GPU 显存带宽、计算吞吐、显存占用、GPU 利用率 推理优化 Continuous Batching、量化、PagedAttention 分布式训练 Data Parallel、Tensor Parallel、Pipeline Parallel 模型评估 Quality、Latency、Throughput、Cost 的权衡 LLM 应用 RAG、Tool Calling、Agent 状态管理和评估