三种机器学习范式的本质差异在于:训练数据带了多少"标签"(标准答案)。
- 监督学习:全部样本带标签
- 半监督学习:少量带标签 + 大量无标签
- 无监督学习:全部样本无标签
一句话区分
**标签(label)**是"标准答案"。三种范式的本质差异就是——训练时你手上拿到的数据,带了多少标准答案。
对比表
| 维度 | 监督学习 | 半监督学习 | 无监督学习 |
|---|---|---|---|
| 训练数据 | 全部带标签 | 少量带标签 + 大量无标签 | 全部无标签 |
| 学习目标 | 学"输入→输出"的映射 | 借无标签数据提升有标签模型的性能 | 发现数据自身的内在结构 |
| 典型任务 | 分类、回归 | 在标注稀缺时做分类/回归 | 聚类、降维、异常检测、密度估计 |
| 常见算法 | 逻辑回归、SVM、决策树/随机森林、神经网络 | 自训练、协同训练、图半监督、伪标签、一致性正则 | K-Means、DBSCAN、层次聚类、PCA、t-SNE、Autoencoder |
| 评估方式 | 有直接标签,可算准确率/损失 | 同监督,但依赖有限标签 | 无标签,靠轮廓系数、业务指标或下游任务间接评估 |
| 数据成本 | 高(标注贵) | 中(少量标注即可) | 低(原始数据直接用) |
各自怎么工作
监督学习(Supervised)
一条样本是 (x, y):x 是特征,y 是标签。模型在训练集上最小化预测 ŷ 与真实 y 的差距(损失函数),最终学到从 x 到 y 的映射。
数学形式:经验风险最小化
minf1n∑i=1nℓ(f(xi), yi)+λ Ω(f) \min_{f} \frac{1}{n}\sum_{i=1}^{n} \ell\big(f(x_i),\, y_i\big) + \lambda\,\Omega(f) fminn1i=1∑nℓ(f(xi),yi)+λΩ(f)
其中 ℓ\ellℓ 是损失(分类用交叉熵、回归用 MSE),Ω(f)\Omega(f)Ω(f) 是正则项防止过拟合。
算法画出决策边界把不同类分开。
适合场景:你清楚要预测什么、且能拿到/买得起标注——垃圾邮件识别、房价预测、疾病诊断。
无监督学习(Unsupervised)
样本只有 x、没有 y。模型自己找规律:哪些样本"长得像"(聚类),或者能否用更少维度表达(降维)。
- 聚类以 K-Means 为例,最小化簇内平方和的准则:
min{ Ck}∑k=1K∑xi∈Ck∥xi−μk∥2 \min_{\{C_k\}} \sum_{k=1}^{K}\sum_{x_i\in C_k} \lVert x_i - \mu_k\rVert^2
2万+



被折叠的 条评论
为什么被折叠?



