基于Wasserstein GAN的文档表示模型

计算机工程与科学

基于Wasserstein GAN的文档表示模型

马永军，李亚军，汪睿，陈海山

（天津科技大学计算机科学与信息工程学院，天津 300457）

收稿日期:2018-01-22 修回日期:2018-02-28 出版日期:2019-01-25 发布日期:2019-01-25
基金资助:
天津市科技计划项目（17KPXMSF00140）；天津市教委社科重大项目（2017JWZD19）

A document representation model based on Wasserstein GAN

MA Yongjun,LI Yajun,WANG Rui,CHEN Haishan

（College of Computer Science and Information Engineering，Tianjin University of Science & Technology，Tianjin 300457，China)

Received:2018-01-22 Revised:2018-02-28 Online:2019-01-25 Published:2019-01-25

摘要/Abstract

摘要：

文档表示模型可以将非结构化的文本数据转化为结构化数据，是多种自然语言处理任务的基础，而目前基于词的模型在文档表示任务中有着无法直接表示文档的缺陷。针对此问题，基于生成对抗网络GAN可以使用两个神经网络进行对抗学习，从而很好地学习到原始数据分布的特点，
提出了文档表示模型WADM，使用去噪自编码器作为其判别网络，由其隐层直接得到文档的分布表示。实验表明，WADM能够准确抽取文档特征，相比基于词的模型具有更强的文档表示能力。

关键词: 文档表示, 生成对抗网络, 去噪自编码器, 神经网络

Abstract:

Document representation models can convert unstructured text data into structured data, which is the basis of many natural language processing tasks. Currently, wordbased models cannot deal with unregistered words and documents in the document representation tasks. The generative adversarial network (GAN) can use two neural networks to deal with confrontation so as to learn the distribution of the original data well. We propose a Wasserstein adversarial document model (WADM), which uses denoising autoencoder as its discriminant network and obtains document representation directly by its hidden layer. Experiments show that the WADM can extract document features accurately and has stronger document representation capability than word-based models.

Key words: document representation, generative adversarial network(GAN), denoising autoencoder, neural network

马永军，李亚军，汪睿，陈海山. 基于Wasserstein GAN的文档表示模型[J]. 计算机工程与科学.

MA Yongjun,LI Yajun,WANG Rui,CHEN Haishan. A document representation model based on Wasserstein GAN[J]. Computer Engineering & Science.

[1]	袁程胜1, 2, 陈金瑞1, 2, 徐晨维3, 刘庆程1, 2, 付章杰1, 2. 基于细粒度局部伪影的生成式图像检测[J]. 计算机工程与科学, 2025, 47(8): 1449-1458.
[2]	刘金竹, 张东, 李冠宇. 基于密集卷积和多特征感知的链接预测模型研究[J]. 计算机工程与科学, 2025, 47(8): 1483-1492.
[3]	李莉, 张晴, 孔悠然, 苏仁嘉, 赵鑫. 基于生成对抗网络的恶意代码变体家族溯源方法[J]. 计算机工程与科学, 2025, 47(7): 1215-1225.
[4]	高志玲1, 赵新宇1, 2. 基于PKUSEG-Text-GCN的肿瘤疾病预测模型[J]. 计算机工程与科学, 2025, 47(7): 1303-1311.
[5]	陈旭, 陈子雄, 景永俊, 王叔洋, 宋吉飞. 基于双曲图卷积神经网络的切片级漏洞检测方法[J]. 计算机工程与科学, 2025, 47(5): 851-863.
[6]	杨春苗, 王杨, 韩力英, 孙赫彬. 基于生成对抗网络的跨模态图像情感感知描述[J]. 计算机工程与科学, 2025, 47(5): 894-901.
[7]	王莹, 杨青, 王翔宇, 张勇, . 基于非对称空间特征的脑电信号情感分析研究[J]. 计算机工程与科学, 2025, 47(5): 921-930.
[8]	李珍琪, 王强, 齐星云, 赖明澈, 赵言亢, 陆亿行, 黎渊. 轻量化卷积神经网络硬件加速设计及FPGA实现[J]. 计算机工程与科学, 2025, 47(4): 582-591.
[9]	张梦圆, 端阳, 王彬彬, 张蕾, 吴裔, 刘畅, 郭乃网, 程大伟. 基于深度对抗网络的动态图生成模型研究[J]. 计算机工程与科学, 2025, 47(4): 728-739.
[10]	王煜恒, 刘强, 伍晓洁. RCGNN：图注入攻击下的图神经网络鲁棒性认证方法[J]. 计算机工程与科学, 2025, 47(3): 434-447.
[11]	景永俊, 王浩, 邵堃, 王晓峰. 一种基于图热核扩散卷积的网络入侵检测方法[J]. 计算机工程与科学, 2025, 47(3): 459-471.
[12]	李娇, 高磊怡, 张瑞欣, 吴越, 邓红霞. 基于脉冲注意力机制的轻量化面部超分重建方法[J]. 计算机工程与科学, 2025, 47(3): 494-503.
[13]	吉陈果, 贾海蓉, 裴意静, 段淑斐. 基于失匹配负波潜伏期优化的语音增强研究[J]. 计算机工程与科学, 2025, 47(3): 524-533.
[14]	陈宇灵, 李翔. 基于图结构提示实现低资源场景下的节点分类[J]. 计算机工程与科学, 2025, 47(3): 534-547.
[15]	刘拥民, 许成, 黄浩, 张钱垒, 赵俊杰, . 基于SAE和WGAN的入侵检测方法研究[J]. 计算机工程与科学, 2025, 47(2): 256-264.