做 AI 应用时，一个经典问题是：到底该上 RAG，还是做模型微调？
如果没有清晰决策框架，团队很容易在方案上来回摇摆，浪费大量时间。
先看问题类型
我通常按三类问题判断：
- 知识更新频繁：优先 RAG
- 输出风格/格式强约束：优先微调
- 既要知识实时又要稳定风格：RAG + 轻微调
这个拆分能快速过滤不合适的方案。
RAG 的优势与边界
优势：
- 知识可实时更新
- 不用频繁重训模型
- 迭代成本相对可控
边界：
- 检索质量直接影响上限
- 上下文拼接不当会引入噪声
- 延迟和成本需要精细治理
微调的优势与边界
优势：
- 输出风格更稳定
- 指令跟随可针对业务强化
- 复杂格式生成更一致
边界：
- 数据集构建成本高
- 模型版本和训练流程维护复杂
- 知识更新不如 RAG 灵活
实践建议
大部分团队可以从“RAG 优先”起步：
- 先把检索召回和重排做扎实
- 再针对高频场景做小规模微调
- 用离线评测 + 在线反馈闭环持续优化
这样能在效果、成本和迭代速度之间取得更好的平衡。