简述机器学习的常用算法分类

好的，机器学习常用算法可以按照其核心任务、学习方式和模型类型进行如下分类（简述）：

1. 按核心任务/学习范式分类（最常用方式）

监督学习： 算法从带有标签（正确答案） 的数据中学习规律，用于预测未知数据的标签。
- 分类： 预测离散类别（如：垃圾邮件/非垃圾邮件、图片中的物体类型）。
  - 常用算法： 逻辑回归、决策树、随机森林、支持向量机、K近邻、朴素贝叶斯、神经网络。
- 回归： 预测连续数值（如：房价、销售额）。
  - 常用算法： 线性回归、多项式回归、决策树（回归树）、随机森林（回归）、支持向量回归、神经网络。
- 集成学习： 组合多个基学习器以获得更好的泛化性能（常应用于分类和回归）。
  - 常用方法： Bagging（如随机森林）、Boosting（如 AdaBoost， Gradient Boosting Machines - XGBoost, LightGBM, CatBoost）、Stacking。
- 深度学习： 主要使用多层神经网络（尤其是深度网络）来处理复杂模式，广泛应用于分类、回归以及后面的计算机视觉和自然语言处理。
  - 常用架构： 卷积神经网络、循环神经网络、Transformer。
非监督学习： 算法从没有标签的数据中发现隐藏结构或模式。
- 聚类： 将数据分组到不同的簇中，使得同一簇内的数据点尽可能相似，不同簇间的数据点尽可能不同。
  - 常用算法： K-Means、层次聚类、DBSCAN、高斯混合模型。
- 降维： 减少数据的特征数量，同时尽可能保留重要信息。用于可视化、去噪、特征压缩。
  - 常用算法： 主成分分析、t-SNE。
- 关联规则学习： 发现数据中特征之间的关联关系（如购物篮分析）。
  - 常用算法： Apriori。
- 异常检测： 识别与数据集中的大多数数据显著不同的数据点（异常点）。
  - 常用算法： Isolation Forest、One-Class SVM、局部离群因子。
- 生成模型： 学习数据的分布，从而可以生成新的、与训练数据相似的数据样本。
  - 常用算法： 自编码器、生成对抗网络、高斯混合模型。
强化学习： 智能体通过与环境交互（执行动作、获得奖励/惩罚）来学习在特定场景中采取最优策略，以实现长期累积奖励最大化。
- 常用方法： Q-Learning、策略梯度法、深度Q网络（DQN）等。
- 应用： 游戏AI、机器人控制、资源调度。
半监督学习： 同时使用少量有标签数据和大量无标签数据进行训练，通常能比单独使用有标签数据获得更好性能。

2. 按学习方式/模型类型分类（补充视角）

基于实例的学习： 预测新样本时，参考与其最相似的训练样本（近邻）。(如 KNN)
基于模型的学习： 从数据中建立一个用于预测的模型（函数）。(如线性回归、逻辑回归、SVM、决策树、神经网络)
参数模型 vs. 非参数模型：
- 参数模型： 对数据分布做出强假设，学习固定数量的参数（与样本量无关）。(如线性回归、逻辑回归)
- 非参数模型： 不对数据分布做强假设，模型复杂度/参数可能随数据量增加而增长。(如 KNN、决策树、SVM（基于核时）)
线性模型 vs. 非线性模型：
- 线性模型： 通过特征的线性组合进行预测。(如线性回归、逻辑回归)
- 非线性模型： 可以学习数据中复杂的非线性关系。(如决策树、支持向量机（使用非线性核）、神经网络)