AI Pulse
📡 X 信号

1个月时间打造能求职AI RAG工程师的项目,步骤在这里

如果我只有一个月时间来搭建能帮我拿到 AI RAG 工程师offer的作品集项目,我会按从基础到进阶的顺序做这些事:

1) 搭建你的向量数据库:准备一个包含数千个非结构化文件的数据集。你可以从任何开源仓库或平台获取。在分块之前,你需要先确定自己需要哪种向量数据库。你需要专用向量数据库还是 pgvector 扩展?这个决策应该基于业务影响。如果你的业务需要在同一个数据库里同时放向量数据库和CRUD操作,那就选 pgvector 扩展。如果你的业务没有CRUD操作需求,且需要高可扩展性的向量数据库,那就选专用向量数据库。

2) 设计分块策略:分块是任何RAG pipeline最核心的第一步。分块策略有很多种,比如段落分块、带重叠的段落分块、感知文档布局的分块、基于LLM推理的分块等等。对于包含文本+图片+表格的文件,你可以选择感知文档布局的分块,或者搭建一个pipeline,针对三种不同内容分别做三种不同的分块处理。

3) 像真正的工程师一样搭建并评估你的第一个检索器:选择你的检索策略,可以是语义检索、关键词检索,也可以两者结合。那该怎么选?其实也可以按场景决定:如果数据集里有些关键词很难用语义检索找到,那就用混合方案。

面试中一定会被问到:你怎么知道语义检索会更难拿到这些结果?要像一个真正的工程师回答这个问题,你需要对比语义检索和混合检索两种策略做实验。你准备一份评估数据集和示例查询,让检索器根据这些查询从向量数据库拉取分块,然后用精确率、召回率、MRR、命中率、上下文召回率、上下文相关性这些指标,把拉取出的分块和评估数据集做对比评估。最后基于实验结果做决策。

4) 像真正的工程师一样选择LLM:面试会问,现在有这么多选项,为什么你偏偏选了某某模型?你该怎么回答?你需要分层来回答这个问题。第一层是资源限制。你可以选gpt-3.5,甚至选gpt-5.5,但最实际的决策永远基于成本和准确率的权衡。你完全可以说,我之所以选gpt-3.5,是因为在我的RAG pipeline里,虽然我们都知道gpt-5.5准确率更高,但成本是很大的限制。这是非常合理的解释。

那如果面试官接着问,在和gpt-3.5同价位区间里也有很多模型,为什么偏偏选它?这时你就可以回答,我用评估数据集对3-4个模型做了实验,对比这些模型生成的答案,记录下忠实度、接地性、答案相关性这些指标,这些指标可以用LLM作为裁判评估,也可以人工评估。最后我发现gpt-3.5的指标比另外三个模型更好,所以我选了它。

5) 参数和超参数:简单来说,你需要通过实验建立直觉。如果面试官问你,为什么你在LLM生成部分选top-k=3,或者为什么选temperature=2,你最好拿实验证据回答。

6) 部署到AWS或Azure,在那里练习系统设计概念。做压力测试,看看你的向量数据库能不能扛住负载,监控日志,再加大负载,记录指标。多动手尝试,出了问题就修复调试。你的决策越有依据,你就越接近真正的工程师。不然你就只是个凭感觉写代码,根本不懂深层原理的水货。

⭐ 收藏。转发。关注我。

想要一对一付费咨询AI行业职业问题可以私信我。另外印度开发者一定要读读我写的这篇:

本文由 AI 翻译自英文原帖,技术名词保留英文。

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新