深度學習的歷史不是「網路越做越深、越做越大」。每一代方法都在解上一代留下的瓶頸，解掉之後壓力就轉到下一層：資料、優化、記憶體、部署、安全。點時間軸上的任何一個點，看它當時面對的問題、怎麼解、又留下什麼。
—
—
—
同一段歷史換個角度看：六個一直在被追問的問題，各自有一條演進路線。實線框是這門課做成模組的站，後面標的是模組編號；淡色的站屬於後面的課程。
這門課走前三條軸線的前半段：先解「怎麼自動學特徵」，再解「怎麼把很深的模型訓練起來」，最後碰到「怎麼讓它跑得起」。
照順序走最省力：主線 A 是地基，B 是讓訓練真的成功的工具箱，C 把同一套東西用在影像上，D 走到序列和注意力。
最底層的三件事。後面所有「為什麼訓不起來」都掛在這裡。
資料怎麼切、activation 怎麼選、曲線怎麼讀、normalization 做了什麼、怎麼逼模型學規則而不是背答案。
資料還沒進模型，哪些動作已經讓結果不可信？
資料切分、data leakage、前處理、初始化 B2 開放Activation 家族為什麼要非線性？ReLU 為什麼會「死」？
sigmoid、tanh、ReLU、GELU、SwiGLU B3 開放看懂 learning curve看到一條曲線，怎麼判斷是 optimization 還是 generalization 出問題？
bias / variance、LR schedule、NaN 定位 B4 開放NormalizationBatch Norm 到底把什麼「正規化」了？
BN、LN、GN、RMSNorm、pre-norm B5 開放泛化工具箱模型背答案時，有哪幾種方法逼它學「規則」？
L1/L2、dropout、mixup、transfer learning、LoRA卷積是什麼、架構怎麼演進、怎麼變小變快、怎麼找到物體、怎麼給每個像素貼標籤。
一個 3×3 的 filter 怎麼「看見」邊緣？
convolution、stride、padding、receptive field C2 開放架構演進史從 AlexNet 到 ResNet，每一代解掉了上一代的哪個瓶頸？
VGG、Inception、ResNet、DenseNet、ConvNeXt C3 開放又小又快手機上的模型怎麼用 1/10 的參數做到差不多的準確率？
depthwise、MobileNet、ShuffleNet、蒸餾 C4 開放找到物體「找到」要怎麼打分？two-stage 和 one-stage 差在哪一步？
IoU、NMS、R-CNN、YOLO、DETR C5 開放每個像素貼標籤分類網路把圖縮小了，怎麼把答案放大回每個像素？
FCN、U-Net、DeepLab、Mask R-CNN、SAM有記憶 → 記不住 → 不如直接看全部。最後回到影像，把主線 C 和 D 接起來。
這套教材是給自己學的，也給任何想學的人。每個模組的頁面長得一樣：