一种改进的应用于噪声数据中的KNN算法

基于实例的KNN算法不可避免地要依赖于数据的质量,但原始数据含有噪声,因而KNN算法的结果势必会因为数据中的噪声而受到严重的影响。事实上,大多噪声都服从一定的模型,而且模型一般是已知的。充分利用数据中的噪声模型,以减小噪声对KNN算法结果的影响。通过实验结果表明该方法是有效的。

维普资讯

20 0 8年第 7期文章编号： 0 -4 5 20 )70 7 - 1 62 7 (0 8 0 - 50 0 0 4

计算机与现代化 JS A J Y I N AHU IU N I U X A D I A

总第 1 5期 5

一

种改进的应用于噪声数据中的 K N算法 N倪艾玲(徽工业大学计算机学院，徽马鞍山 2 3 0 )安安 40 2

摘要：于实例的 K N算法不可避免地要依赖于数据的质量，原始数据含有噪声，基 N但因而 K N算法的结果势必会因为 N数据中的噪声而受到严重的影响。事实上，多噪声都服从一定的模型，大而且模型一般是已知的。充分利用数据中的噪声模型，以减小噪声对 K NN算法结果的影响。通过实验结果表明该方法是有效的。关键词：分类； . K近邻算法；噪声模型中图分类号：P 0 . T 3 16文献标识码： A

An I p o e e tKNN g rt m o De l vt iy Daa m r v m n Alo i h T a、ih Nos tNIAiln —i g

( col f o ptr c ne A hlU iesyo eh o g, asa 4 0 2 C ia Sho o m ue i c, n l nvr t f cnl y Manh n2 30, hn ) C Se i i T oAb t a t C s . a e N ag rt m ie i by h ey o e q ai f e d t,b t e o g n l aa i n iy h s l f s r c: a e b s d KN lo i n v t l a t r l n t u l y o a a u r i a t os .T e r uto h a s o h t h t h t i d s e

KNN ag r h i n vtb y b e ee y a e td b c u e o e n ie d t .I c,mo tn ie i s b r i ae t e t i d - o t m w l i e i l e s v r l f c e e a s f h o s aa n f t l i l a t a s o s u od n t o a c ran mo se,a d te mo e s g n rlyk o n.Ta i g f l a v na e o e n i d e h aai or d c eb d e e to os n l n h d li e e al n w k n ul d a tg

f h os mo li te d t st u e t a f c fn ieo t e n e h

KN g rt m s t .E p r n a e ut h w t a h t o se e t e N a o h r u s x e me t r s s s o h t e me d i f ci . l i e l i l l t h v Ke r s ca sf a in;KNN a g r h y wo d: ls i c t i o o t m;n ie l i os

0引言 在传统的监督学习中，要求寻求一个分类器能够根据输入 x给出输出 Y。这种分类器是从训练集( X, ) (; )中得出。其潜在的假设是输入数据是没有 Y噪声的，即使数据中有噪声，此学习过程中也是被在忽略的 J。然而，种假设在很多应用中与实际不这相符。取样误差、入误差或仪器测量误差都不可避录

消除或者减小误差所带来的负面影响是我们必须要解决的一个问题。在机器学习领域中，很多早期工作都研究了如何在学习过程中处理噪声数据刮以及当噪声数据出现时，习算法如何操作’学。然而很少有工作讨论如何充分利用噪声模型以助于建立更好的分类器。 事实上，多情况下，很我们都可以知道噪声模型。

许多系统能够提供其稳定性的估计，该估计能够有效

免地出现在训练数据集中。基于实例的分类学习有很多种方法，决策树、一邻算法等。如 K近 分类学习的目标是从训练数据集中归纳出规则， 用于对未知实例的类标签进行预测。分类效果取决于两个重要因素：练数据集质量和学习算法的偏训

地说明通过其测量得到的数据的不确定性。例如，在进行一项检查时，用的机器都有精确度。根据其精所

确度，就可以得知其误差模型L。不幸的是， 8 J此类关于数据可信度的有用信息在传统的分类学习中往往被忽略了。本文以 K近邻算法作为基本算法讨论了如何充一

置。给定学习算法，分类效果在很大程度上取决于数据质量。而在现实世界中，数据中的噪声是永远

存在的。要将这些算法应用于存在噪声的数据中，算法的分类效果肯定会受到一定程度的影响。如何]收稿日期：070 .3 2 0 -7 1

分利用已知的噪声模型所提供的信息，设法提高分

类器的分类效果，充分利用数据不确定性的估计提出分类器的分类效果。

作者简介：倪艾玲 ( 9 6)女， 17 -,安徽无为人，安徽工业大学计算机学院讲师，士，硕研究方向：数据挖掘，人工智能等。