知识地图
机器学习与深度学习知识地图
本页是 [[AI/原理/概览]] 的补充,提供更结构化的”待学清单”视角——概览是定义导向,本页是路径导向。
知识地图
监督学习
- 分类(KNN / 朴素贝叶斯 / 决策树 / SVM)
- 回归(线性回归 / 多项式回归 / 正则化)
- 集成学习(Random Forest / XGBoost / LightGBM)
无监督学习
- 聚类(K-Means / DBSCAN / 层次聚类)
- 降维(PCA / t-SNE / UMAP)
- 关联规则(Apriori / FP-Growth)
强化学习
- 马尔可夫决策过程
- Q-Learning / DQN / Policy Gradient
- Actor-Critic / PPO
深度学习基础
- 神经网络(感知机 / MLP / 反向传播)
- CNN(卷积神经网络)
- RNN / LSTM / GRU
- [[AI/原理/Transformer|Transformer]](自注意力机制)
训练范式
- 监督 / 无监督 / 自监督
- 预训练 + 微调(Pre-train + Fine-tune)
- 指令微调(SFT)/ [[AI/原理/训练|RLHF]] / DPO
待补内容
- 各算法的数学推导与直观解释
- 经典论文清单(AlexNet / ResNet / BERT / GPT)
- 评测基准(MNIST / ImageNet / GLUE / SuperGLUE)
- 与 LLM 时代的衔接(什么被 Transformer 取代、什么仍是基础)
参考资料
- 周志华《机器学习》西瓜书
- 李宏毅机器学习课程
- Deep Learning Book
- Stanford CS231n