技术 · 第 2 页

从零开始学习大模型（十二）：CNN 如何通过卷积提取图像特征？

手算一个二维卷积示例，理解局部连接、权重共享、通道、步幅与填充，核对卷积输出形状和参数量，并说明池化与感受野的作用。

在 CPU 上训练一个合成数据二分类网络，串联 Tensor、Dataset、DataLoader、自动微分和优化器，区分训练与验证模式，并解释复现、损失与模型保存。

完整计算一个两输入、单隐藏单元网络的前向传播、损失和参数梯度，使用有限差分核对结果，解释计算图、梯度累加和优化器更新的区别。

从线性层的组合出发，解释隐藏层、激活函数和表示学习，通过 XOR 的完整计算理解非线性的作用，并核对网络形状与参数数量。

区分训练、验证与测试，理解欠拟合、过拟合、正则化和数据泄漏。用一张完整的混淆矩阵计算准确率、精确率、召回率与 F1，建立适合真实场景的评估流程。

用六个样本手算决策树划分，理解基尼不纯度、信息增益、树深与剪枝，区分随机森林和梯度提升树，并说明集成方法、袋外评估及特征重要性的边界。

解释二分类中的线性分数、Sigmoid、对数几率与交叉熵，通过可计算的例子理解概率输出、决策边界和阈值，并区分分类准确率与概率校准。

从一个可复算的预测例子出发，理解特征、标签、参数、损失与训练流程。手算一元线性回归，区分训练误差和测试误差，并说明线性假设、特征处理及因果解释的边界。

从条件概率与贝叶斯公式出发，区分概率和似然，解释 Softmax、熵与交叉熵的含义，并通过可复算的示例说明下一 Token 预测如何形成训练损失。

通过一个完整的线性模型手算案例，理解损失函数、导数、偏导数、梯度与链式法则，区分反向传播和梯度下降，并解释学习率、批量训练与验证损失的作用。

从标量、向量和矩阵出发，理解张量形状、点积、矩阵乘法与 Embedding。通过手算和可运行的 Python 示例，建立阅读神经网络与 Transformer 所需的线性代数基础。

从自回归语言建模出发，系统介绍人工智能、机器学习、深度学习与大语言模型的关系，解释 Token、训练、推理和指令对齐的基本概念，并说明模型能力的来源、事实可靠性的局限与后续学习路线。