基于K近邻特征选择算法的对比分析

　　KNN算法的主要分为3步：首先，计算待分类样本与已知类别的训练样本之间的距离或相似度，找到与待分类样本最近的k个样本，称之为待分类样本的k个近邻：其次，根据这些样本所属的类别来判断待分类样本的类别，如果待分类样本的k个近邻都属于同一个类别，那么待分类样本也属于该类别：否则的话，对每一个候选类别进行评分，按照一定的规则来确定待分类样本的类别。

　　K近邻算法中的分类决策规则往往遵循多数表决，多数表决是指由待分类样本的k个近邻（训练样本）所得到的多数类别来决定输入样本的类别。尽管K近邻算法可以在一定程度上有效地判断出待分类样本的类别，但其结果往往也伴随着误差，这样的误差文中称为近邻错误分类率。