一种基于局部加权回归的分类方法

J4 ›› 2015, Vol. 37 ›› Issue (10): 1959-1964.

一种基于局部加权回归的分类方法

徐晓丹1,2，刘华文2，姚明海1，刘日仙1

(1.浙江工业大学信息工程学院,浙江杭州 310023;2.浙江师范大学数理与信息工程学院,浙江金华 321004)

收稿日期:2015-07-26 修回日期:2015-09-24 出版日期:2015-10-25 发布日期:2015-10-25
基金资助:
浙江省教育厅资助项目(Y201328291)；浙江省自然科学基金资助项目（LZ14F030001,LY14F020012）

A novel classification method based on
locally weighted regression

XU Xiaodan1，2，LIU Huawen2,YAO Minghai1,LIU Rixian1

(1.College of Information Engineering,Zhejiang University of Technology,Hangzhou 310023；
2.College of Mathematics,Physics and Information Engineering,Zhejiang Normal University,Jinhua 321004,China)(1.College of Information Engineering,Zhejiang University of Technology,Hangzhou 310023；
2.College of Mathematics,Physics and Information Engineering,Zhejiang Normal University,Jinhua 321004,China)

Received:2015-07-26 Revised:2015-09-24 Online:2015-10-25 Published:2015-10-25

摘要/Abstract

摘要：

分类是数据挖掘和数据分析中最有应用价值的技术之一。传统的积极学习方法需要预先对模型空间进行假设，并且没有充分考虑到实例之间的相关性，其泛化能力将会受到一定程度的影响。针对上述问题，提出了一种基于新型映射关系的局部加权回归方法MLWR。该算法首先找出测试样本在训练集中的近邻样本，然后建立测试样本和近邻样本的回归函数，根据建立的回归模型和近邻样本的标签，计算得到测试样本的标签。实验与当前流行的多种分类方法在UCI的9个数据集上进行测试。实验结果表明我们的方法能有效地提高分类精度，对较大样本数据也有较好的适用性。

关键词: 分类, 映射关系, 局部加权回归, kNN, 懒惰学习

Abstract:

Classification is one of the most practical techniques in data mining and analysis. Existing classification algorithms based on eager learning require a model assumption and do not address the correlations between individual instances, such that their performance can be affected. In this paper, we propose a new learning method based on the locally weighted regression, called MLWR. For a given test example, the MLWR firstly identifies the neighboring instances in the training set, and a locally weighted regression model is generated from the test instance and its neighboring instances.Then the test label is calculated by using the regression model and the neighboring labels. In the experiments, five classification methods are tested on 9 data sets of UCI. Experiment results show that the performance of the MLWR is superior to other methods and also suitable for big data.

Key words: classification;mapping relationship;locally weighted regression;kNN;lazy learning

徐晓丹1,2，刘华文2，姚明海1，刘日仙1. 一种基于局部加权回归的分类方法[J]. J4, 2015, 37(10): 1959-1964.

XU Xiaodan1，2，LIU Huawen2,YAO Minghai1,LIU Rixian1. A novel classification method based on
locally weighted regression [J]. J4, 2015, 37(10): 1959-1964.

[1]	柴燕涛，董德尊，张鹤颖，朱成阳，廖湘科. 基于SDN架构的高性能网络拥塞避免策略[J]. J4, 20160101, 38(01): 1-10.
[2]	黄智慧, 肖祥立, 张玉书, 薛明富. 基于隐形后门水印的开源数据集版权保护[J]. 计算机工程与科学, 2024, 46(06): 1013-1021.
[3]	肖新正, 黄瑞章, 陈艳平, 秦永彬, 宋玉梅, 周裕林, . Corrective-Net：面向多标签文本分类的标签关联学习模块[J]. 计算机工程与科学, 2024, 46(06): 1092-1100.
[4]	佟缘, 姚念民. 基于对span的预判断和多轮分类的实体关系抽取[J]. 计算机工程与科学, 2024, 46(05): 916-928.
[5]	刘盼, 郭延明, 雷军, 王昊冉, 老松杨, 李国辉. 结合上下文的细粒度实体分类特征表示方法[J]. 计算机工程与科学, 2024, 46(05): 929-936.
[6]	高珊, 李世杰, 蔡志平. 基于深度学习的中文文本分类综述[J]. 计算机工程与科学, 2024, 46(04): 684-692.
[7]	罗月童, 李超, 周波, 张延孔. 面向工业缺陷分类的交互式易混淆缺陷分离方法研究[J]. 计算机工程与科学, 2024, 46(03): 463-470.
[8]	吕伏, 韩晓天, 冯永安, 项梁. 基于自适应纹理特征融合的纹理图像分类方法[J]. 计算机工程与科学, 2024, 46(03): 488-498.
[9]	张远洋, 贡正仙, 孔芳. 增强依存结构表达的零样本跨语言事件论元角色分类[J]. 计算机工程与科学, 2024, 46(03): 508-517.
[10]	庞诺言, 关东海, 袁伟伟. 基于早期时间序列分类的可解释实时机动识别算法[J]. 计算机工程与科学, 2024, 46(02): 353-362.
[11]	马雪, 何星星, 兰咏琪, 李莹芳. 一阶逻辑中基于treelet图神经网络的前提选择[J]. 计算机工程与科学, 2024, 46(02): 374-380.
[12]	焦佳辉, 马思远, 宋玉, 宋伟. 基于卷积注意力机制的双模态音乐流派分类模型MGTN[J]. 计算机工程与科学, 2023, 45(12): 2226-2236.
[13]	杨春霞, 马文文, 徐奔, 韩煜, . 融合标签信息的分层图注意力网络文本分类模型[J]. 计算机工程与科学, 2023, 45(11): 2018-2026.
[14]	张千锟, 韩虎, 郝俊. 基于双注意力融合知识的方面级情感分类[J]. 计算机工程与科学, 2023, 45(10): 1866-1873.
[15]	吕小姣, 张玉梅, 杨红红, 吴晓军, . 基于距离排序的DUPSO-DSVM民歌快速分类算法研究[J]. 计算机工程与科学, 2023, 45(10): 1874-1833.