机器学习名词解释

好的，这是机器学习中一些核心名词的中文解释：

机器学习 (Jīqì xuéxí / Machine Learning, ML)：
- 定义： 人工智能的一个分支，指计算机系统无需显式编程指令，而是通过从数据中学习并改进自身性能的能力。核心思想是让计算机从经验（数据）中学习规律和模式，并用这些规律来对新数据做出预测或决策。
数据集 (Shùjù jí / Dataset)：
- 定义： 用于训练、验证或测试机器学习模型的样本集合。通常包含多个数据点或样本，每个样本由多个特征组成。
特征 (Tèzhēng / Feature)：
- 定义： 描述数据样本某个方面或属性的变量或度量。例如，在预测房价时，“房屋面积”、“卧室数量”、“房龄”等都可以是特征。特征是模型的输入。也称为属性 (Shǔxìng / Attribute) 或预测变量 (Yùcè biànliàng / Predictor)。
标签 / 目标变量 (Biāoqiān / Mùbiāo biànliàng / Label / Target Variable)：
- 定义 (监督学习中)： 在监督学习中，数据集中的每个样本都有一个与之对应的“答案”或“期望输出”，这就是标签。例如，在垃圾邮件分类中，标签是“垃圾邮件”或“非垃圾邮件”；在房价预测中，标签是房子的实际价格。模型需要学习如何根据特征预测标签。
样本 / 实例 (Yàngběn / Shílì / Sample / Instance)：
- 定义： 数据集中的一个数据点。它代表一个具体的观测对象或事件，由一个特征向量（有时还包括标签）组成。
模型 (Móxíng / Model)：
- 定义： 机器学习算法从数据中学习得到的数学表示或函数。它捕捉了输入特征与输出（如果是监督学习）或数据内在结构（如果是无监督学习）之间的关系。训练完成后，模型可用于对新数据进行预测或理解数据。
训练 (Xùnliàn / Training)：
- 定义： 使用训练数据集 (Xùnliàn shùjù jí / Training Dataset) 来让机器学习算法学习模型参数（如权重和偏置）的过程。目标是让模型能够尽可能准确地拟合训练数据（但也要注意避免过拟合）。
预测 (Yùcè / Prediction)：
- 定义： 将新的、未见过的数据（只有特征）输入到训练好的模型中，模型输出的结果就是预测值。在监督学习中，预测值对应于标签。
监督学习 (Jiāndū xuéxí / Supervised Learning)：
- 定义： 一种机器学习范式，训练数据中的每个样本都包含输入特征和对应的目标标签。模型的目标是学习一个从输入到输出的映射函数。常见任务：分类 (Fēnlèi / Classification)（预测离散类别，如猫/狗图片识别）、回归 (Huíguī / Regression)（预测连续数值，如房价、销量预测）。
无监督学习 (Wú jiāndū xuéxí / Unsupervised Learning)：
- 定义： 一种机器学习范式，训练数据只有输入特征，没有目标标签。模型的目标是发现数据中的隐藏结构、模式或关系。常见任务：聚类 (Jùlèi / Clustering)（将相似样本分组，如客户细分）、降维 (Jiàng wéi / Dimensionality Reduction)（压缩数据维度，如PCA，t-SNE）、异常检测 (Yìcháng jiǎncè / Anomaly Detection)（识别不寻常数据点）。
过拟合 (Guò nǐhé / Overfitting)：
- 定义： 模型在训练数据上表现得过于好（例如误差极小），以至于也学习到了数据中的噪声和不重要的细节，而不是普遍的规律。这导致模型在新的、未见过的数据上表现差（泛化能力弱）。模型过于复杂或训练数据不足时容易发生。
欠拟合 (Qiàn nǐhé / Underfitting)：
- 定义： 模型在训练数据上都表现得不够好（例如误差较大），说明它未能充分学习数据中的基本模式和关系。模型过于简单或训练不充分时容易发生。这同样导致在测试数据上表现差。
验证集 (Yànzhèng jí / Validation Set)：
- 定义： 在训练过程中使用的单独数据集，用于调整模型的超参数（如学习率、网络层数、正则化强度）并初步评估模型性能。它帮助选择最佳模型配置和防止过拟合训练集。
测试集 (Cèshì jí / Test Set)：
- 定义： 模型训练和调优过程完全未使用的独立数据集。用于在模型开发完成后最终、客观地评估模型的泛化能力（在真实场景中的预测能力）。
损失函数 (Sǔnshī hánshù / Loss Function / Cost Function)：
- 定义： 一个用于量化模型在单个样本上预测值与真实值（标签）之间差异程度的数学函数。在训练过程中，目标是通过最小化损失函数的总和（通常在训练集上）来优化模型参数。
梯度下降 (Tīdù xiàjiàng / Gradient Descent)：
- 定义： 一种迭代优化算法，用于最小化损失函数。它计算损失函数相对于模型参数的梯度（导数向量），并沿着梯度下降最快的方向更新参数（减掉梯度的某个比例步长），逐渐逼近最小值点。
学习率 (Xuéxí lǜ / Learning Rate)：
- 定义： 梯度下降算法中的一个超参数，它决定了每次迭代中更新参数时的步长大小。学习率太大可能导致无法收敛或振荡；学习率太小则收敛速度过慢。
神经网络 (Shénjīng wǎngluò / Neural Network, NN)：
- 定义： 一种受生物神经网络启发的计算模型，由相互连接的神经元（或节点）层组成。每个神经元接收输入，进行加权求和并应用一个激活函数，然后将输出传递给下一层。强大的非线性建模能力，尤其在深度学习中广泛应用。
深度学习 (Shēndù xuéxí / Deep Learning, DL)：
- 定义： 机器学习的一个子领域，利用包含多个隐藏层的深层神经网络来学习数据的多层次抽象表示。在处理如图像、语音、文本等复杂模式识别任务上表现出色。
泛化能力 (Fànhuà nénglì / Generalization Ability)：
- 定义： 训练好的模型在从未见过的新数据上依然能表现良好的能力。这是衡量机器学习模型好坏的核心标准。好的模型应该从训练数据中学到一般规律，而非死记硬背。
超参数 (Chāo cānshù / Hyperparameter)：
- 定义： 在模型训练开始之前就需要由人来设定的参数，它们不是模型通过训练数据学习到的。例如：学习率、神经网络层数、每层神经元数量、正则化系数、决策树的最大深度等。需要通过验证集进行调优。
交叉验证 (Jiāochā yànzhèng / Cross-Validation)：
- 定义： 一种评估模型性能和调参的技术。将训练数据集划分成K个大小相似的子集（折）。依次取一个子集作为验证集，其余K-1个子集作为训练集，进行K次训练和验证，并计算平均性能指标。有助于更可靠地利用有限数据评估模型，减少划分偏差。最常见的是K折交叉验证 (K-Zhé jiāochā yànzhèng / K-Fold Cross-Validation)。
精度 (Zhēn quèdù / Accuracy)：
- 定义 (分类任务中)： 模型预测正确的样本数占总样本数的比例。即 (预测正确的样本数) / (总样本数)。是最常用的分类指标之一，但当各类样本数量不均衡（类别不平衡）时，可能无法全面反映模型性能。
召回率 (Zhào huí lǜ / Recall / Sensitivity)：
- 定义 (二分类任务中)： 在所有实际为正例的样本中，模型正确预测为正例的比例。即 (真正例数) / (真正例数 + 假负例数)。衡量模型找出所有正例的能力。
精确率 (Jīngquè lǜ / Precision)：
- 定义 (二分类任务中)： 在所有模型预测为正例的样本中，实际确实是正例的比例。即 (真正例数) / (真正例数 + 假正例数)。衡量模型预测为正例的样本中有多少是真实的正例。
F1分数 (F1 Fēnshù / F1 Score)：
- 定义： 精确率和召回率的调和平均数：F1 = 2 * (精确率 * 召回率) / (精确率 + 召回率)。这是一个综合指标，尤其适用于需要同时考虑精确率和召回率的类别不平衡问题。
混淆矩阵 (Hùnxiáo jǔzhèn / Confusion Matrix)：
- 定义： 用于分类任务的性能评估表。以矩阵形式总结了模型预测结果（行）与实际标签（列）的对应关系。对于二分类，包含：
  - 真正例 (TP)：实际正例，预测正例
  - 假正例 (FP)：实际负例，预测正例（误报）
  - 真负例 (TN)：实际负例，预测负例
  - 假负例 (FN)：实际正例，预测负例（漏报）
- 许多指标（如精确率、召回率、准确率）都可以从混淆矩阵计算得出。
特征工程 (Tèzhēng gōngchéng / Feature Engineering)：
- 定义： 利用领域知识和技术，从原始数据中提取或构造对机器学习模型训练和预测更有用的特征的过程。是提升模型效果的关键步骤，包括特征提取、转换、缩放、创建新特征、特征选择等。
归一化 / 标准化 (Guīyīhuà / Biāozhǔnhuà / Normalization / Standardization)：
- 定义： 对数据的特征进行缩放处理，使其数值转换到统一的范围或分布。目的是消除不同特征由于量纲（单位）或取值范围差异对模型带来的影响，加速模型收敛，提升精度。常见方法：最小-最大缩放 (Min-Max Scaling)，Z-score标准化 (Standardization)。
正则化 (Zhèngzé huà / Regularization)：
- 定义： 为了防止模型过拟合而引入模型复杂性惩罚项的技术。通过在损失函数中加入与模型参数（通常是权重）大小相关的项，迫使模型学习更简单的模式。常见方法：
  - L1正则化 (Lasso)：惩罚项是权重绝对值的和。能产生稀疏权重矩阵（即部分特征权重为0），有特征选择的效果。
  - L2正则化 (Ridge)：惩罚项是权重平方和。倾向于让所有权重都比较小且接近零，但不会等于零。
  - Dropout (神经网络特定)：训练时随机让一部分神经元失效。
激活函数 (Jīhuó hánshù / Activation Function)：
- 定义 (神经网络中)： 在神经元计算完加权输入和之后，施加的一个非线性函数，决定该神经元的最终输出是否被激活以及激活强度。引入非线性至关重要，使神经网络能够拟合复杂的模式。常用函数：ReLU (Rectified Linear Unit), Sigmoid, Tanh, Softmax (用于输出层多分类)。
K最近邻 (K Zuìjìnlín / K-Nearest Neighbors, KNN)：
- 定义： 一种简单的监督学习算法，主要用于分类和回归。对一个新样本进行预测时，它查找训练数据中与该样本在特征空间上最邻近的K个样本。在分类任务中，新样本的类别由这K个邻居的多数投票决定；在回归任务中，新样本的输出由这K个邻居输出值的平均决定。属于惰性学习 (Lazy Learning)（训练阶段几乎不计算）。
支持向量机 (Zhīchí xiàngliàng jī / Support Vector Machine, SVM)：
- 定义： 一种强大的监督学习算法，主要用于分类，也可用于回归。目标是找到一个能最大化不同类别样本间隔（Margin）的决策边界（超平面）。对于线性不可分的数据，可以使用核函数 (Hé hánshù / Kernel Function) 将数据映射到高维空间使其线性可分（核技巧 (Hé jìqiǎo / Kernel Trick)）。
决策树 (Juécè shù / Decision Tree)：
- 定义： 一种树形结构的监督学习模型，用于分类和回归。它模拟人做决策的过程：从根节点开始，根据样本的特征值进行测试（if-then规则），分配到不同的子节点，最终到达叶节点，叶节点代表最终的预测结果（类别或数值）。学习过程是递归地选择最优特征进行分割。
集成学习 (Jíchéng xuéxí / Ensemble Learning)：
- 定义： 通过组合多个弱学习器（基模型） 的预测结果来构建一个更强、更鲁棒的学习器的方法。核心思想是“三个臭皮匠顶个诸葛亮”。常用方法：
  - Bagging (Bāo jià)：并行训练多个同类型基模型（如决策树），每个模型在训练数据的随机子集（有放回采样）上训练，最终预测采用投票（分类）或平均（回归）。代表算法：随机森林 (Suíjī sēnlín / Random Forest)。
  - Boosting (Tíshēng)：串行训练多个同类型弱模型（如决策树），后一个模型专注于学习前一个模型预测错误的样本，最终预测由所有模型加权组合得出。代表算法：AdaBoost (Jiābù tíshēng), Gradient Boosting (Tīdù tíshēng), XGBoost, LightGBM。
聚类 (Jùlèi / Clustering)：
- 定义： 一种无监督学习任务。目标是将数据集中的样本划分为若干个组（簇 / Cù / Cluster），使得同一簇内的样本彼此相似（距离近），不同簇间的样本彼此不相似（距离远）。常见的聚类算法有K-Means、层次聚类(Hierarchical Clustering)、DBSCAN等。
降维 (Jiàng wéi / Dimensionality Reduction)：
- 定义： 一种无监督学习任务。目标是减少描述数据的特征数量（维数），同时尽可能保留原始数据中的重要信息、结构或方差。有助于降低计算复杂度、去除噪声和冗余、可视化高维数据。常用方法：主成分分析 (Zhǔ chéngfèn fēnxī / Principal Component Analysis, PCA)，t-分布邻域嵌入算法 (t-SNE)。
词嵌入 (Cí qiānyù / Word Embedding)：
- 定义： 一种在自然语言处理中将词汇表示成低维、稠密、连续的实数向量（嵌入向量）的技术。核心思想是：语义相近的词在向量空间中距离相近。词嵌入让模型能更好地理解词语的语义和关系。常用预训练模型：Word2Vec, GloVe。大型语言模型的基石之一。
迁移学习 (Qīanyí xuéxí / Transfer Learning)：
- 定义： 将在一个任务（源任务）上训练好的模型或学到的知识，应用到另一个相关但不同的任务（目标任务）上的技术。核心是利用源任务学到的知识（如图像的基本特征、语言模式）来加速或改进目标任务的学习效果，尤其当目标任务数据量有限时非常有效。预训练大模型（如BERT, GPT）就是迁移学习的典范。
强化学习 (Qiánghuà xuéxí / Reinforcement Learning, RL)：
- 定义： 一种机器学习范式，关注智能体如何在一环境中通过采取动作来最大化累积奖励的学习过程。智能体在试错中学习策略（Policy），该策略定义了在给定状态下选择何种动作。它与监督学习和无监督学习不同，因为没有带标签的数据集，只有延迟的奖励信号反馈。常用于游戏AI、机器人控制、推荐系统优化等。核心概念还包括状态 (State)、奖励 (Reward)、价值函数 (Value Function)等。
偏差-方差权衡 (Piānchā - Fāngchā quánhéng / Bias-Variance Tradeoff)：
- 定义： 机器学习模型总误差可以分解为偏差 (Bias)、方差 (Variance) 和不可避免的噪声误差。偏差反映了模型预测值与真实值之间的系统性偏离（欠拟合）；方差反映了模型对训练数据扰动的敏感性（过拟合）。模型复杂度增加时，偏差趋于减小，方差趋于增大。目标是通过选择合适的模型复杂度和正则化，找到一个平衡点使总误差最小。
损失 (Sǔnshī / Loss)： 对于一个样本的预测结果，损失函数计算出的具体数值，表示预测的错误程度