主题模型在短文本上的应用研究

计算机工程与科学

主题模型在短文本上的应用研究

韩肖赟,侯再恩,孙绵

(陕西科技大学文理学院,陕西西安 710021)

收稿日期:2019-03-19 修回日期:2019-06-13 出版日期:2020-01-25 发布日期:2020-01-25
基金资助:
国家自然科学基金（11771259）

Research on the application of

topic model in short text

HAN Xiao-yun,HOU Zai-en,SUN Mian

(School of Arts and Science,Shaanxi University of Science and Technology,Xi’an 710021,China)

Received:2019-03-19 Revised:2019-06-13 Online:2020-01-25 Published:2020-01-25

摘要/Abstract

摘要：

针对短文本上以LDA为主的传统主题模型易受特征稀疏、噪声以及冗余影响的问题，首先梳理了文本特征表示法的变化以及短文本上主题模型的发展现状，并系统地总结了LDA模型和狄利克雷多项混合模型(DMM)各自的生成过程和相应的吉布斯采样参数推导。关于主题模型最优主题数，选取常见的4种优化指标进行了详细的对比说明。最后分析了近2年主题模型的扩展研究和其在网络舆情上的简单应用，并以此指明了未来主题模型的研究方向和侧重点。

关键词: 潜在狄利克雷分配模型, 狄利克雷多项混合模型, 短文本, 主题模型, 网络舆情；吉布斯采样

Abstract:

The paper aims at the problem that traditional LDA-based topic models on short texts are susceptible to sparseness, noise, and redundancy. Firstly, the changes of text feature representation and the development of topic models on short texts are reviewed. The generation process of the Latent Dirichlet Allocation (LDA) model and the Dirichlet Multinomial Mixture (DMM) model and the corresponding Gibbs sampling parameter derivation are systematically summarized. Regarding the optimal number of topics in the topic model, a detailed comparison of the four common optimization indicators is given. Finally, the extended research of the topic model in the past two years and its simple application in network public opinion are analyzed, and the research direction and focus of the future topic model are pointed out.

Key words: latent dirichlet allocation (LDA) model, dirichlet multinomial mixture (DMM) model, short text, topic model, internet public opinion, Gibbs sampling

韩肖赟,侯再恩,孙绵. 主题模型在短文本上的应用研究[J]. 计算机工程与科学.

HAN Xiao-yun,HOU Zai-en,SUN Mian.

Research on the application of

topic model in short text

[J]. Computer Engineering & Science.

[1]	王钦晨, 段利国, 王君山, 张昊妍, 郜浩. 基于BERT字句向量与差异注意力的短文本语义匹配策略[J]. 计算机工程与科学, 2024, 46(07): 1321-1330.
[2]	李晓红, 王闪闪, 马堉银, 马慧芳. 融合相似度图和随机游走模型的多标签短文本分类算法[J]. 计算机工程与科学, 2021, 43(06): 1081-1087.
[3]	李超, 严馨, 谢俊, 徐广义, 周枫, 莫源源, . 基于HDP的主题词向量构造——以柬语为例[J]. 计算机工程与科学, 2020, 42(06): 1111-1119.
[4]	尤诚诚, 冯旭鹏, 刘利军, 黄青松, . 基于主题模型的胸部X光片诊断报告异常检测方法[J]. 计算机工程与科学, 2020, 42(04): 741-748.
[5]	蒋亚芳, 严馨, 徐广义, 周枫, 邓忠莹, . 融合多信息句子图模型的多文档摘要抽取[J]. 计算机工程与科学, 2020, 42(03): 535-542.
[6]	谢庆1，严馨1，诺宇1，徐广义2，周枫1，郭剑毅1. 基于短语的柬汉双语LDA主题模型[J]. 计算机工程与科学, 2019, 41(08): 1497-1503.
[7]	蔡晨1,2，罗可1,2 . 融合BTM和图论的微博检索模型[J]. 计算机工程与科学, 2019, 41(08): 1512-1518.
[8]	裴颂文1,2，王露露1. 基于注意力机制的文本情感倾向性研究[J]. 计算机工程与科学, 2019, 41(02): 343-353.
[9]	脱婷1，马慧芳1,2，魏家辉1，刘海姣1. 基于语义特征空间上下文的短文本表示学习[J]. 计算机工程与科学, 2019, 41(02): 378-384.
[10]	陈婷1,2,刘建勋1,2,曹步清1,2,李润2. 基于BTM主题模型的Web服务聚类方法研究[J]. 计算机工程与科学, 2018, 40(10): 1737-1745.
[11]	马慧芳1,2，邢玉莹1，王双1，张旭鹏1. 融合词语共现距离和类别信息的短文本特征提取方法[J]. 计算机工程与科学, 2018, 40(09): 1689-1695.
[12]	李晓红，冉宏艳，龚继恒，颜丽，马慧芳. 基于改进相似度与类中心向量的半监督短文本聚类算法[J]. 计算机工程与科学, 2018, 40(09): 1710-1716.
[13]	刘文1,马慧芳1,2,脱婷1,陈海波1. 融合共现距离和区分度的短文本相似度计算方法[J]. 计算机工程与科学, 2018, 40(07): 1281-1286.
[14]	赵谦1，荆琪1，李爱萍1，2，段利国1. 一种基于语义与句法结构的短文本相似度计算方法[J]. 计算机工程与科学, 2018, 40(07): 1287-1294.
[15]	洪庆,王思尧,赵钦佩,李江峰,饶卫雄. 基于弹幕情感分析和聚类算法的视频用户群体分类[J]. 计算机工程与科学, 2018, 40(06): 1125-1139.