结合自注意力的对抗性领域适应图像分类方法

计算机工程与科学

结合自注意力的对抗性领域适应图像分类方法

陈诚1，郭卫斌1，李庆瑜2

（1.华东理工大学信息科学与工程学院，上海 200237;2.上海网达软件股份有限公司，上海 201206）

收稿日期:2019-08-09 修回日期:2019-10-29 出版日期:2020-02-25 发布日期:2020-02-25
基金资助:
国家自然科学基金（61672227）

Adversarial domain adaptation with

self-attention in image classification

CHEN Cheng1,GUO Wei-bin1,LI Qing-yu2

（1.School of Information Science and Technology,East China University of Science and Technology,Shanghai 200237;
2.Shanghai Wangda Software Co.,Ltd,Shanghai 201206,China）

Received:2019-08-09 Revised:2019-10-29 Online:2020-02-25 Published:2020-02-25

摘要/Abstract

摘要：

作为解决数据集迁移和适应的系统性框架，领域适应在近年来发展迅速。在生成对抗网络出现以后，对抗性思想的引入为领域适应中的无监督适应问题带来了新的思路。通过研究生成对抗网络和领域适应的内在联系，类比生成对抗网络的改进方法，提出了结合自注意力模块的领域适应方法，用以弥补无法建模长距离依赖的缺陷。同时，考虑到生成对抗网络和领域适应任务上的不同，通过引入新的学习参数来改进自注意力模块，使其在分类任务上有更高的精度和健壮性。最后，在公开的领域适应数据集上的实验证实了本文方法的有效性和可行性。

关键词: 迁移学习, 领域适应, 图像分类, 生成对抗网络

Abstract:

Domain adaptation, as a systematic framework for addressing data set migration and adaptation, has grown rapidly in recent years. After the emergence of the generative adversarial network (GAN), the introduction of adversarial ideas has brought new ideas to the unsupervised adaptation problem in the domain adaptation. This paper compares and analyzes the intrinsic relationship between GAN and domain adaptation, and then generates an improved GAN method. A domain adaptation method combining self-attention layer is proposed to improve the defect that long-distance dependence cannot be modeled. At the same time, considering the difference in GAN and domain adaptation tasks, this paper improves the self-attention layer by introducing new learning parameters, so that it has higher precision and robustness in classification tasks. Finally, the effectiveness and feasibility of the proposed algorithm are verified by experiments on the open field adaptive dataset.

Key words: transfer learning, domain adaptation, image classification, adversarial networks

陈诚1，郭卫斌1，李庆瑜2. 结合自注意力的对抗性领域适应图像分类方法[J]. 计算机工程与科学.

CHEN Cheng1,GUO Wei-bin1,LI Qing-yu2.

Adversarial domain adaptation with

self-attention in image classification

[J]. Computer Engineering & Science.

[1]	丁建平, 李卫军, 刘雪洋, 陈旭. 命名实体识别研究综述[J]. 计算机工程与科学, 2024, 46(07): 1296-1310.
[2]	黄智慧, 肖祥立, 张玉书, 薛明富. 基于隐形后门水印的开源数据集版权保护[J]. 计算机工程与科学, 2024, 46(06): 1013-1021.
[3]	白志远, 杨智翔, 栾鸿康, 孙玉宝, . 耦合单词与句子级文本特征的图像对抗级联生成[J]. 计算机工程与科学, 2023, 45(12): 2186-2196.
[4]	黄瑶, 潘丽丽, 熊思宇, 蒋湘辉, 马俊勇. 基于生成对抗网络与多头注意力的文本隐写术[J]. 计算机工程与科学, 2023, 45(10): 1789-1796.
[5]	任拓, 闫玮, 况立群, 谢剑斌, 谌钟毓, 高峰, 郭锐, 束伟, 谢昌颐. 基于多对抗性鉴别网络的人脸活体检测[J]. 计算机工程与科学, 2023, 45(09): 1611-1620.
[6]	史册, 南新元. 改进InceptionV3与迁移学习的太阳能电池板缺陷识别[J]. 计算机工程与科学, 2023, 45(04): 646-653.
[7]	马征, 褚钧正, 武鹏飞. 一种基于对抗学习的仿真遥感图像生成方法[J]. 计算机工程与科学, 2023, 45(03): 489-494.
[8]	董佩杰, 牛新, 魏自勉, 陈学晖. 单次神经网络结构搜索研究综述[J]. 计算机工程与科学, 2023, 45(02): 191-203.
[9]	孙琪, 翟锐, 左方, 张玉涛, . 基于部分卷积和多尺度特征融合的人脸图像修复模型[J]. 计算机工程与科学, 2023, 45(02): 304-312.
[10]	肖妮妮, 金畅, 段湘煜. 基于提高伪平行句对质量的无监督领域适应机器翻译[J]. 计算机工程与科学, 2022, 44(12): 2230-2237.
[11]	齐永锋, 裴晓旭, 吕雪超, 王静. 基于同步压缩和DCGAN的癫痫脑电信号检测方法[J]. 计算机工程与科学, 2022, 44(12): 2273-2280.
[12]	陈曦, 赵红东, 杨东旭, 徐柯南, 任星霖, 封慧杰. 基于线性注意力机制的单样本生成对抗网络研究[J]. 计算机工程与科学, 2022, 44(11): 2056-2063.
[13]	王霞, 徐慧英, 朱信忠. 一种基于谱归一化的两阶段堆叠结构生成对抗网络的文本生成图像模型[J]. 计算机工程与科学, 2022, 44(06): 1083-1089.
[14]	王栋, 杨珂, 玄佳兴, 韩雨桐, 赵丽花, 王旭仁. 基于半监督生成对抗网络的恶意代码家族分类实现[J]. 计算机工程与科学, 2022, 44(05): 826-833.
[15]	谭红臣, 黄世华, 肖贺文, 于冰冰, 刘秀平. 判别增强的生成对抗模型在文本至图像生成中的研究与应用[J]. 计算机工程与科学, 2022, 44(05): 855-861.