Lec 6机器学习导论——算法分类与模型质量
Lec 6 机器学习导论——算法分类与模型质量（Introduction to Machine Learning）
对应 MIT CTL.SC4x · Supply Chain Technology and Systems · 第 6 讲
核心参考：SC4x Key Concept Document (Summer 2019) & MITx MicroMasters SCM 课程大纲
TL;DR
- 机器学习通过数据驱动自动发现复杂非线性规律，分为监督学习、无监督学习与强化学习。
- 模型质量评估区分回归指标（RMSE、MAE、MAPE）与分类指标（精确率、召回率、F1 分数、ROC-AUC）。
- 严防过拟合（Overfitting），通过训练集/验证集/测试集严格划分与交叉验证确保模型泛化能力。
非对称损失下的损失函数定制
统计学标准评估通常采用均方根误差（RMSE），它假设正负预测误差对业务的惩罚是均等的。但在供应链管理中，高估需求带来的库存持有成本与低估需求导致的产线停工、客户流失成本存在数量级的差距。资深算法工程师必须结合具体品类特性设计非对称加权损失函数（如 Pinball Loss 或自定义成本矩阵），使算法的优化方向与企业财务风险完全共振。
1. 本讲的定位
数据库解决了"存得下、查得出"的问题；机器学习解决的是"从数据里挖出规律、对新数据做预测"的问题。本讲先建立机器学习的整体地图：什么时候需要机器学习（而不是普通回归）、算法有哪几大类、以及如何判断一个模型的好坏。
2. 先回顾一下回归（Review of Regression）
线性回归用一个或多个变量的取值，去预测某个结果变量的取值。输入变量叫自变量（independent variables），输出变量叫因变量（dependent variable）。
- 线性回归的输出包含每个自变量对应的系数（coefficient）——衡量该自变量对预测因变量的贡献程度；
- 输出还包含一些拟合优度指标，用来评估模型与数据的拟合程度：模型拟合得越好，对新数据做出准确预测的能力就越强；
- 用历史数据算出的系数，可以被用来对新记录的结果变量取值做预测。
回归是机器学习之前就有的经典统计工具（在 SC0x 里已经系统讲过）；机器学习要解决的是回归难以覆盖的场景——比如没有明确因变量、或需要处理大量特征、非线性关系、非结构化数据的情形。
3. 机器学习算法总览
机器学习算法主要用于对**新的、未标注（unlabeled）**数据做预测或学习规律。算法可以分为几大类：
| 类别 | 定义 |
|---|---|
| 分类（Classification） | 把记录分配到预先定义好的、离散的组别中 |
| 聚类（Clustering） | 基于相似性把记录切分成若干离散组别，但这些组别事先并不知道（不是预定义的） |
| 回归（Regression） | 预测一个连续或离散变量的取值 |
| 关联学习（Associative Learning） | 观察哪些取值经常同时出现（如购物篮分析） |
4. 监督学习 vs 无监督学习
4.1 监督学习（Supervised Learning）
监督学习使用结果变量（称为"标签"，label）来识别输入变量（特征，features）与结果变量之间的关联模式。
- 训练数据中，"正确答案"（标签）是已知的；
- 标签由人工标注，或本身已经存在；
- 用带标签的数据，通过反馈机制来训练一个算法；
- 训练完成后，把模型应用/测试在新的、未见过的数据上，预测其标签。
流程：原始数据 + 标签 → 训练算法 → 得到模型 → 评估 ；训练完成的模型再用于对未标注数据做预测，输出预测结果。
4.2 无监督学习（Unsupervised Learning）
无监督学习中，结果变量的取值是未知的，因此要依靠输入变量之间的关系，来识别数据中的模式或聚类。
- 在没有标签或指导的情况下，发现数据中此前未知的模式；
- 没有训练/测试/验证过程，因为本来就不存在"正确答案"可供比对。
流程：原始数据 → 算法 → 模型 → 投入生产使用（production）——不存在"标签"这一环节，模型直接从数据结构本身中提炼模式。
一句话区分：监督学习是"有老师改作业"，无监督学习是"自己找规律"。
5. 模型质量：偏差与方差的权衡
机器学习模型应当在一个无偏、能代表整体数据分布的方差水平的数据集上训练。
- 偏差（Bias）：衡量模型捕捉数据中真实潜在趋势的能力有多欠缺。模型越复杂，偏差通常越低；
- 方差（Variance）：衡量模型对底层数据集微小变化的敏感程度。模型越复杂，方差往往越高。
核心权衡（Bias-Variance Tradeoff）：
- 理想情况下我们希望同时做到低偏差和低方差，但这两者之间存在此消彼长的关系；
- 如果训练数据本身存在偏差，或者模型中纳入的特征过多，模型就有**过拟合（overfit）**的风险。过拟合模型中的系数（称为"参数"，parameters）泛化能力不足，无法对新记录做出好的预测；
- 应该用一份大且具有代表性的带标签数据样本来训练模型，剩余部分则用于测试。
5.1 过拟合 vs 欠拟合
| 现象 | 特征 |
|---|---|
| 欠拟合（Underfitting） | 模型太简单，高偏差、低方差 |
| 过拟合（Overfitting） | 模型太复杂，低偏差、高方差；是更常见的坑；容易被"多加几个特征让模型看起来拟合得更好"的诱惑带偏；结果就是模型无法泛化到训练数据之外，中看不中用 |
实践提醒：过拟合比欠拟合更常见、更隐蔽——因为"加特征让训练集拟合分数变好看"这件事太容易做到了，但代价是模型在新数据上表现反而更差。
6. 本讲小结与学习目标回顾
- 初步认识机器学习；
- 熟悉不同类型的机器学习算法；
- 能够区分监督学习与无监督学习及其各自的流程；
- 认识模型质量，以及偏差与方差之间的权衡关系；
- 学会判断一个模型是过拟合还是欠拟合。
下一讲（Lec 7）：把"算法总览"落地到具体方法——进入机器学习算法：降维、PCA、聚类（k-means）、分类（决策树/朴素贝叶斯/随机森林），以及如何比较预测器的准确性。