课程与学术

学习路径与主线导读

深度学习课程的全景地图：为什么这样分卷、主线怎么走、想速成该读哪几篇。

1.1 数学与机器学习

用向量、函数和梯度建立理解深度学习的数学坐标系。

1.2 线性代数（上）向量、矩阵与线性变换

1.3 线性代数（下）范数、特征值与SVD的直觉

1.4 概率统计与信息论 分布、期望与交叉熵

1.5 微积分与凸优化 导数、梯度与凸函数

1.6 数学分析补课 极限、级数与收敛

1.7 算法复杂度与大 O 记号：看懂 O(n²) 到底在说什么

2.1 线性神经网络

2.2 线性回归与正则化（岭回归与Lasso）

2.3 逻辑回归与线性分类

2.4 广义线性模型：指数族、链接函数与GLM

2.5 K近邻与距离度量

2.6 降维PCA与LDA

2.7 朴素贝叶斯

2.8 决策树

2.9 集成学习与随机森林

2.10 梯度提升与XGBoost

2.11 LightGBM与CatBoost

2.12 支持向量机SVM与核方法

2.13 聚类K-means、层次与DBSCAN

2.14 模型评估与选择

2.15 sklearn实战与机器学习实验流程

3.1 多层感知机

3.2 深度学习计算

3.3 卷积神经网络

3.4 残差网络与现代卷积网络

3.5 循环神经网络

3.6 门控循环网络

3.7 注意力机制

3.8 Transformer与表示学习

3.9 优化与正则化

3.10 训练稳定性与计算性能

3.11 从Transformer到Mamba 状态空间模型

3.12 混合专家MoE

4.1 计算机视觉

4.2 经典CNN演进 从LeNet到GoogLeNet

4.3 目标检测概览与R-CNN家族

4.4 轻量化网络 MobileNet、ShuffleNet与EfficientNet

4.5 YOLO家族 一阶段目标检测的王者

4.6 DETR用Transformer做端到端检测

4.7 图像分割FCN、U-Net与DeepLab

4.8 实例分割Mask R-CNN与SAM

4.9 视觉自监督学习SimCLR、BYOL与MAE

4.10 视觉语言模型CLIP

5.1 自然语言处理与预训练

5.2 自然语言处理应用

5.3 词嵌入 word2vec、GloVe与fastText

5.4 大语言模型与Scaling Law

5.5 指令微调SFT与RLHF对齐

5.6 参数高效微调LoRA、Adapter与Prefix Tuning

5.7 少样本学习与提示工程

5.8 检索增强生成 RAG

5.9 经典NLP分词、词性、命名实体与句法

5.10 NLP评估 困惑度、BLEU与ROUGE

6.1 自编码器与变分自编码器VAE

6.2 生成对抗网络GAN

6.3 扩散模型（一）DDPM原理

6.4 扩散模型（二）Latent Diffusion与Stable Diffusion

6.5 扩散模型（三）DiT、Flow Matching与视频生成

7.1 连续时间网络：液体神经网络 LNN 与 CfC

7.2 现代线性注意力与高效循环：Mamba-2、Gated DeltaNet 与混合架构

7.3 长上下文与稀疏注意力：滑动窗口、NSA 与 FlashAttention

7.4 RoPE 与长度外推：旋转位置编码、NTK 与 YaRN

7.5 架构选型决策树：什么场景该用什么模型

8.1 DeepSeek 架构：MLA、DeepSeekMoE 与 FP8 训练

8.2 DeepSeek-R1：用强化学习让推理涌现，GRPO 去掉 critic

8.3 Kimi K 系列：长上下文、MuonClip 与 K3

8.4 Qwen 系列：稠密与 MoE 双线，混合思考模式

8.5 GLM/智谱：异步 RL 基础设施与 ARC 定位

8.6 MiniMax：闪电注意力与 CISPO 强化学习

9.1 推理优化：KV Cache、PagedAttention 与 vLLM

9.2 量化与高效推理：AWQ、GPTQ、Mooncake 与推测解码

9.3 LLM Agent 与工具调用：ReAct、Function Calling 与规划执行

9.4 多 Agent 协作：角色分工与消息传递

9.5 模型评测：OpenCompass、MMLU 与 Arena

9.6 安全与对齐：幻觉、越狱与红队

A.1 离散数学速成 集合、逻辑、图论与组合

A.2 数据结构基础 数组、链表、树、图与哈希

A.3 搜索算法基础 DFS、BFS与回溯

A.4 最短路径 Dijkstra与A*

A.5 遗传算法

A.6 模拟退火

A.7 粒子群与蚁群优化

什么是计算机科学与算法

从零开始学算法：为什么计算机科学的核心不是写代码而是算法，这门课的十一卷要带你走到哪里。

1.1 插入排序

1.2 归并排序

1.3 二分查找

1.4 堆排序

1.5 哈希算法

1.6 广度优先搜索

1.7 深度优先搜索

1.8 渐近复杂度分析

1.9 循环不变量

2.1 快速排序

2.2 线性时间选择算法

2.3 最近点对算法

2.4 凸包算法

2.5 Strassen 矩阵乘法

2.6 快速傅里叶变换

2.7 分治算法设计

3.1 区间调度算法

3.2 Huffman 编码

3.3 Kruskal 算法

3.4 Dijkstra 算法

3.5 加权区间调度

3.6 矩阵链乘法

3.7 0/1背包算法

3.8 最长公共子序列算法

3.9 Held-Karp 旅行商算法