Kernel-kNN: A New kNN Algorithm Based on Informational Energy Metric
Song-Hua LIU, Jun-Ying ZHANG, Jin Wu Xu, Hong-En Jia · Acta Automatica Sinica · 2011
摘要: 提出一种核k最近邻算法. 首先给出用于最近邻学习的信息能度量方法, 该方法克服了高维数据不便于用传统距离度量表示的困难, 提高了数据间类别相似性和距离的一致性. 在此基础上, 将传统的kNN扩展为非线性形式, 并采用半正定规划学习全局最优的度量矩阵. 算法主要特点是: 能较好地适用于高维数据, 并有效提升kNN 的分类性能. 多个数据集的实验和分析表明, 本文的Kernel-kNN算法与传统的kNN算法比较, 在低维数据上, 分类准确率相当; 在高维数据上, 分类性能有明显提高. 关键词: 距离度量 / 非线性变换 / k-最近邻(k-NN) / 核方法