铸链通途 · Phase 2 第一关
P2.1 数学补强已通关：练习 19/19 全绿，口述验收通过。
目标不是当数学家，而是看懂深度学习代码里每一步在算什么。

学了什么：三块拼盘

模块够用内容对应课程
线性代数向量、矩阵、转置、矩阵乘、范数、张量直觉线代
概率统计期望/方差、正态分布、Softmax、交叉熵、BatchNorm概率论
微积分导数/偏导、梯度、链式法则 ↔ 反向传播高等数学（微积分）

最关键的一句话

神经网络的「一层」在数学上就是：

y = x @ W + b
  • x：输入，形状约 (batch, in_features)
  • W：权重，形状 (in_features, out_features)
  • b：偏置
  • y：输出，形状 (batch, out_features)

后面通常再接激活函数（如 ReLU）。Phase 2 全程都在围着这一行转。

shape 易错点

np.array([1,2,3]).shape 是 (3,)，不是 (1,3)。

  • (3,)：一维向量，没有行/列概念
  • (1,3)：二维矩阵，明确 1 行 3 列

训练三件套（怎么串起来）

  1. 损失函数：告诉模型「错多少」（分类常用交叉熵）
  2. 梯度：loss 对参数的偏导，指向上升最快方向
  3. 链式法则 / 反向传播：多层复合时，从后往前把导数乘起来
  4. 梯度下降：沿梯度反方向更新权重
W = W - lr * gradient

链式法则把梯度算出来；梯度下降用梯度改权重。

交叉熵 vs Softmax

  • Softmax：把分数变成概率（和为 1）
  • 交叉熵：衡量预测概率与真实标签的差距；真实类概率越高，loss 越小

分类优先交叉熵；MSE 更适合回归。

范数与 BatchNorm

L1/L2 范数（线代）：给向量一个「大小」；训练里常用 L2 正则，减轻过拟合。

BatchNorm：对一批数据算均值与方差再归一化，让各层输入尺度更稳。

通关证据

  • practice_p2_1_math.py · 19 项全绿
  • 口述验收：一层运算 / shape / 梯度 / 交叉熵 / 链式法则与反传 / BatchNorm

下一步

P2.2 机器学习基础：三大范式 · sklearn 鸢尾花 · Precision/Recall/F1 · 过拟合。
先建立 ML 全局观，再进 NumPy 手写神经网络（P2.3）。

铸链通途 · learn_center · 学习→产出 · mqeng OpenPost