技术沉淀与实践分享

从零开始学习大模型（二十四）：知识库问答中，RAG、微调和 Agent 怎么选？

实现可运行的本地文档检索与引用提示构建，解释完整 RAG 的生成和评估环节，比较微调与 Agent 的适用条件，并处理权限、无证据回答和工具风险。

区分 Prefill 与 Decode，估算权重和 KV Cache 内存，说明量化、缓存和 LoRA 的不同作用，并解释实际吞吐、训练开销和低秩更新的边界。

区分指令示范、奖励学习和偏好优化，解释 SFT、典型 RLHF 与 DPO 的数据和目标，并用一个可复算的偏好损失示例说明参考模型的作用。

串联分词、数据清洗、样本构造和下一 Token 目标，解释自监督训练与规模规律，核对序列移位及计算量近似，并讨论质量、去重和测试污染。

对照编码器、仅解码器与编码器解码器三类架构，理解掩码语言建模、自回归与去噪目标，验证标签偏移和教师强制，并说明生成与理解任务的边界。

区分多头的子空间、顺序信息与访问约束，解释绝对位置和 RoPE 的基本作用，运行旋转与因果掩码示例，并说明长上下文外推的限制。

通过两个位置、二维向量的完整计算，追踪 QK 转置、缩放、Softmax 和 AV 的形状与数值，解释投影参数、归一化轴和注意力输出的意义。

串联 Embedding、自注意力、前馈层、残差连接与归一化，区分编码器和解码器，并用 PyTorch 核对模块形状与因果访问约束。

从序列到序列模型的信息瓶颈出发，解释查询、键、值、注意力权重与加权求和，运行稳定 Softmax 示例，并区分自注意力、交叉注意力和可解释性。

分解 LSTM 的输入门、遗忘门、输出门与细胞状态，手算一次更新，并区分直接状态路径与完整梯度，比较普通 RNN、LSTM 和 GRU。

从递推公式理解循环神经网络、隐藏状态与参数共享，运行最小状态更新示例，说明序列任务、时间反向传播与长期依赖问题。

比较 LeNet、AlexNet、VGG 与 ResNet 的主要设计，解释残差连接、投影与优化问题，核对残差块形状，并梳理迁移学习和冻结参数时的注意事项。