面向排序学习的层次聚类特征选择算法

计算机工程与科学

面向排序学习的层次聚类特征选择算法

孟昱煜，陈绍立，刘兴长

（兰州交通大学电子与信息学院,甘肃兰州 730070）

收稿日期:2018-06-11 修回日期:2018-11-15 出版日期:2019-12-25 发布日期:2019-12-25
基金资助:
甘肃省自然科学基金（1606RJZA003）；甘肃省住房和城乡建设厅项目（JK2015-15）

A hierarchical clustering based feature

selection algorithm for ranking learning

MENG Yu-yu，CHEN Shao-li，LIU Xing-chang

（School of Electronic and Information Engineering,Lanzhou Jiaotong University,Lanzhou 730070,China）

Received:2018-06-11 Revised:2018-11-15 Online:2019-12-25 Published:2019-12-25

摘要/Abstract

摘要：

大型搜索系统对用户查询的快速响应尤为必要，同时在计算候选文档的特征相关性时，必须遵守严格的后端延迟约束。通过特征选择，提高了机器学习的效率。针对排序学习中快速特征选择的起点多为单一排序效果最好的特征的特点，首先提出了一种用层次聚类法生成特征选择起点的算法，并将该算法应用于已有的2种快速特征选择中。除此之外，还提出了一种充分利用聚类特征的新方法来处理特征选择。在2个标准数据集上的实验表明，该算法既可以在不影响精度的情况下获得较小的特征子集，也可以在中等子集上获得最佳的排序精度。

关键词: 特征选择, 排序学习, 层次化聚类, 贪婪搜索

Abstract:

Large search systems are especially necessary for quick response to user queries. At the same time, strict backend delay constraints must be observed when calculating the feature relevance of candidate documents. Feature selection can improve the machine learning efficiency. Considering the characteristics that most of the initial points of fast feature selection in ranking learning start from the single feature, which has the best ranking effect, this paper first proposes an algorithm of generating initial points of fast feature selection by hierarchical clustering, and applies the algorithm to two existing fast feature selection algorithms. In addition, a new method that makes full use of clustering features is proposed to deal with feature selection. Experiments on two standard datasets show that the proposed algorithm can obtain a smaller feature subset without affecting the accuracy and obtain the best ranking accuracy on a medium subset.

Key words: feature selection, ranking learning, hierarchical clustering, greedy search algorithm

孟昱煜，陈绍立，刘兴长. 面向排序学习的层次聚类特征选择算法[J]. 计算机工程与科学.

MENG Yu-yu，CHEN Shao-li，LIU Xing-chang.

A hierarchical clustering based feature

selection algorithm for ranking learning

[J]. Computer Engineering & Science.

[1]	刘振超, 苑迎春, 王克俭, 何晨. 融合特征权重与改进粒子群优化的特征选择算法[J]. 计算机工程与科学, 2024, 46(02): 282-291.
[2]	钟卓辉, 陈黎飞, . 基于模型的非凸聚类算法[J]. 计算机工程与科学, 2024, 46(02): 292-302.
[3]	刘通, 周宁宁. 基于Setwise排序的深度输入感知因子分解机[J]. 计算机工程与科学, 2023, 45(10): 1891-1900.
[4]	赵瑞平, 降爱莲. 基于自编码器和局部嵌入的无监督特征选择[J]. 计算机工程与科学, 2023, 45(07): 1282-1291.
[5]	顾楚梅, 曹建军, 王保卫, 徐雨芯, . 基于蚁群参数优化的LightGBM辐射源个体识别[J]. 计算机工程与科学, 2023, 45(01): 85-94.
[6]	何海江. 融合语句复杂度的软件错误定位轻量级方法[J]. 计算机工程与科学, 2022, 44(12): 2187-2195.
[7]	文武, 万玉辉, 文志云, . 基于正余弦算法的文本特征选择[J]. 计算机工程与科学, 2022, 44(08): 1467-1473.
[8]	刘云, 肖添, 王梓宇. 动态特征选择算法对恶意行为检测的优化研究[J]. 计算机工程与科学, 2022, 44(04): 665-673.
[9]	吴尚智, 徐丹丹, 王旭文, 夏宁. 基于广义重要度和runner-root算法的特征选择[J]. 计算机工程与科学, 2022, 44(04): 723-729.
[10]	李雨晨, 魏巍, 白伟明, 王达. 基于标签共现关系的多标签特征选择[J]. 计算机工程与科学, 2021, 43(11): 2049-2055.
[11]	文武, 万玉辉, 张许红, 文志云, . 基于改进CHI和PCA的文本特征选择[J]. 计算机工程与科学, 2021, 43(09): 1645-1652.
[12]	陈华烨, 汪海涛, 姜瑛, 陈星. 基于排序学习的构件检索方法的研究[J]. 计算机工程与科学, 2021, 43(06): 1006-101.
[13]	官蕊, 丁家满, 贾连印, 游进国, 姜瑛, . 基于强化学习的多样性文档排序算法[J]. 计算机工程与科学, 2020, 42(09): 1697-1703.
[14]	李向军1,2，孔珂2，魏智翔1，王科选1，肖聚鑫1. 面向Android恶意应用静态检测的特征频数差异增强算法[J]. 计算机工程与科学, 2020, 42(06): 993-1002.
[15]	张守宾，朱习军. 集成学习算法在中医证型分类预测中的应用[J]. 计算机工程与科学, 2019, 41(02): 328-334.