📚
有些学生把题库背得滚瓜烂熟，一到原题几乎满分；可老师稍微换个问法，他就立刻不会了。
AI 也会这样。训练集答得越漂亮，不一定越聪明，可能只是背答案背得太狠。
这就叫 过拟合。
↓ 往下看，4 分钟搞懂

📚 过拟合

Overfitting

训练题做满分，不等于真的学会了。
🧒 极简版 🧑 场景版 🎓 精准版

🗺️ 概念坐标：先知道它在哪

过拟合不是孤立问题，它处在“训练表现”和“泛化能力”的张力中间。

🎯 泛化能力
目标概念
模型真正要追求的不是训练集分数，而是遇到新数据也能答对。过拟合就是泛化能力出了问题。
📚 过拟合 ★
本概念
模型把训练集里的偶然细节也学进去了，导致训练表现很好，但新数据表现变差。
🪶 欠拟合
并列对照
欠拟合是“连训练集都学不会”；过拟合是“训练集学太死”。两者夹在中间的那段，才是理想区间。
🛡️ 正则化 / 验证集
解决工具
L2、Dropout、数据增强、早停和验证集，都是防止模型从“学规律”滑向“背答案”的常见手段。

🧪 动手试试：模型越来越复杂，会发生什么

拖动“模型复杂度”，看训练误差和验证误差如何变化。绿色越低越好，红色如果先降后升，就是经典过拟合。

复杂度
6 / 10
拖动滑块：看看什么时候开始“训练更好，但验证更差”。

📦 拆开看：过拟合由什么组成

点卡片翻面，把“背答案”这件事拆成几个具体部件。

📘
训练集
点我翻转
模型天天盯着它学。如果数据量少、模式单一或噪声多，模型就更容易把偶然细节当规律。
🧪
验证集
点我翻转
它像“没见过的新题”。训练集越来越好、验证集反而变差，就是最典型的过拟合报警器。
🧠
模型复杂度
点我翻转
参数越多、自由度越高，模型越有能力同时学到规律和噪声。强大，不代表一定用得对。
🔊
数据噪声
点我翻转
标注错误、极端样本、偶然波动都属于噪声。过拟合时，模型会把这些“本来不该记”的东西也记下来。

⚙️ 它是怎么发生的

过拟合不是一瞬间发生的，而是模型一点点从“学规律”滑向“背细节”。

1

先学到真正的规律

训练初期，模型先抓住那些对训练集和新数据都有效的大模式，所以训练误差和验证误差都会下降。

↓
2

复杂度继续上升

参数更多、训练更久、自由度更高后，模型开始有能力拟合越来越细的小波动。

↓
3

训练误差继续变漂亮

因为模型把训练集记得更细，所以训练表现会越来越好，看上去像“还在进步”。

↓
4

验证误差开始反弹

模型学到的很多东西只对训练集有效，对新题无效，所以验证表现掉头变差。

↓
5

你得到一个“会背不会用”的模型

这时模型像一个把题库背烂的学生：原题很强，稍微换个说法就露馅。

🆚 有它之前 vs 有了防线之后

过拟合可怕的地方，不是“分数低”，而是“你误以为模型很好”。

Before

如果你只盯训练集成绩，模型越训越好看，曲线一路向下，看起来像一切都在进步。可你其实不知道它是在学规律，还是在背细节。

After

一旦引入验证集、早停、正则化和更多数据，你就能在模型开始“背答案”的那一刻踩刹车，把复杂度拉回到真正能泛化的位置。

⚠️ 常见误解

很多人对过拟合的误判，恰恰来自“把训练成绩当成了真实能力”。

❌训练集准确率越高，模型就一定越强。
✅不一定。训练集高分只能说明它会做旧题；要看新题表现，才知道它有没有真正学会。
❌只有深度学习这种大模型才会过拟合。
✅任何有自由度的模型都可能过拟合，决策树、回归、多项式拟合都一样，只是表现形式不同。
❌解决过拟合就是把模型做得更小。
✅缩小模型只是方法之一。更多数据、数据增强、正则化、早停、交叉验证都能帮忙。

🧱 类比边界

“背题库”这个类比很好懂，但还是有边界。

🔗 相关概念

顺着这些概念看，过拟合会更立体。

损失函数 Transformer 正则化 验证集 欠拟合

✅ 秒测

答完这 3 题，基本就能分清“学会了”和“背会了”。

1训练误差一直下降，但验证误差开始上升，最可能发生了什么？
2下面哪个最像“防过拟合”的动作？
3过拟合最本质的问题是什么？

手机端可长按上方图片保存到相册

Aha! · 过拟合不是学得太多，而是记得太死。