结合自注意力的对抗性领域适应图像分类方法

计算机工程与科学

结合自注意力的对抗性领域适应图像分类方法

陈诚1，郭卫斌1，李庆瑜2

（1.华东理工大学信息科学与工程学院，上海 200237;2.上海网达软件股份有限公司，上海 201206）

收稿日期:2019-08-09 修回日期:2019-10-29 出版日期:2020-02-25 发布日期:2020-02-25
基金资助:
国家自然科学基金（61672227）

Adversarial domain adaptation with

self-attention in image classification

CHEN Cheng1,GUO Wei-bin1,LI Qing-yu2

（1.School of Information Science and Technology,East China University of Science and Technology,Shanghai 200237;
2.Shanghai Wangda Software Co.,Ltd,Shanghai 201206,China）

Received:2019-08-09 Revised:2019-10-29 Online:2020-02-25 Published:2020-02-25

摘要/Abstract

摘要：

作为解决数据集迁移和适应的系统性框架，领域适应在近年来发展迅速。在生成对抗网络出现以后，对抗性思想的引入为领域适应中的无监督适应问题带来了新的思路。通过研究生成对抗网络和领域适应的内在联系，类比生成对抗网络的改进方法，提出了结合自注意力模块的领域适应方法，用以弥补无法建模长距离依赖的缺陷。同时，考虑到生成对抗网络和领域适应任务上的不同，通过引入新的学习参数来改进自注意力模块，使其在分类任务上有更高的精度和健壮性。最后，在公开的领域适应数据集上的实验证实了本文方法的有效性和可行性。

关键词: 迁移学习, 领域适应, 图像分类, 生成对抗网络

Abstract:

Domain adaptation, as a systematic framework for addressing data set migration and adaptation, has grown rapidly in recent years. After the emergence of the generative adversarial network (GAN), the introduction of adversarial ideas has brought new ideas to the unsupervised adaptation problem in the domain adaptation. This paper compares and analyzes the intrinsic relationship between GAN and domain adaptation, and then generates an improved GAN method. A domain adaptation method combining self-attention layer is proposed to improve the defect that long-distance dependence cannot be modeled. At the same time, considering the difference in GAN and domain adaptation tasks, this paper improves the self-attention layer by introducing new learning parameters, so that it has higher precision and robustness in classification tasks. Finally, the effectiveness and feasibility of the proposed algorithm are verified by experiments on the open field adaptive dataset.

Key words: transfer learning, domain adaptation, image classification, adversarial networks

陈诚1，郭卫斌1，李庆瑜2. 结合自注意力的对抗性领域适应图像分类方法[J]. 计算机工程与科学.

CHEN Cheng1,GUO Wei-bin1,LI Qing-yu2.

Adversarial domain adaptation with

self-attention in image classification

[J]. Computer Engineering & Science.

[1]	杨春苗, 王杨, 韩力英, 孙赫彬. 基于生成对抗网络的跨模态图像情感感知描述[J]. 计算机工程与科学, 2025, 47(05): 894-901.
[2]	张梦圆, 端阳, 王彬彬, 张蕾, 吴裔, 刘畅, 郭乃网, 程大伟. 基于深度对抗网络的动态图生成模型研究[J]. 计算机工程与科学, 2025, 47(04): 728-739.
[3]	李娇, 高磊怡, 张瑞欣, 吴越, 邓红霞. 基于脉冲注意力机制的轻量化面部超分重建方法[J]. 计算机工程与科学, 2025, 47(03): 494-503.
[4]	吉陈果, 贾海蓉, 裴意静, 段淑斐. 基于失匹配负波潜伏期优化的语音增强研究[J]. 计算机工程与科学, 2025, 47(03): 524-533.
[5]	刘拥民, 许成, 黄浩, 张钱垒, 赵俊杰, . 基于SAE和WGAN的入侵检测方法研究[J]. 计算机工程与科学, 2025, 47(02): 256-264.
[6]	许天佑, 高光勇. 基于可逆生成对抗网络的鲁棒图像隐藏[J]. 计算机工程与科学, 2025, 47(02): 288-297.
[7]	段成龙, 袁杰, 常乾坤, 张宁宁. 基于D2GA的逆强化学习算法[J]. 计算机工程与科学, 2024, 46(11): 2053-2062.
[8]	刘强, 李沐春, 伍晓洁, 王煜恒. S-JSMA：一种低扰动冗余的快速JSMA对抗样本生成方法[J]. 计算机工程与科学, 2024, 46(08): 1395-1402.
[9]	丁建平, 李卫军, 刘雪洋, 陈旭. 命名实体识别研究综述[J]. 计算机工程与科学, 2024, 46(07): 1296-1310.
[10]	黄智慧, 肖祥立, 张玉书, 薛明富. 基于隐形后门水印的开源数据集版权保护[J]. 计算机工程与科学, 2024, 46(06): 1013-1021.
[11]	白志远, 杨智翔, 栾鸿康, 孙玉宝, . 耦合单词与句子级文本特征的图像对抗级联生成[J]. 计算机工程与科学, 2023, 45(12): 2186-2196.
[12]	黄瑶, 潘丽丽, 熊思宇, 蒋湘辉, 马俊勇. 基于生成对抗网络与多头注意力的文本隐写术[J]. 计算机工程与科学, 2023, 45(10): 1789-1796.
[13]	任拓, 闫玮, 况立群, 谢剑斌, 谌钟毓, 高峰, 郭锐, 束伟, 谢昌颐. 基于多对抗性鉴别网络的人脸活体检测[J]. 计算机工程与科学, 2023, 45(09): 1611-1620.
[14]	史册, 南新元. 改进InceptionV3与迁移学习的太阳能电池板缺陷识别[J]. 计算机工程与科学, 2023, 45(04): 646-653.
[15]	马征, 褚钧正, 武鹏飞. 一种基于对抗学习的仿真遥感图像生成方法[J]. 计算机工程与科学, 2023, 45(03): 489-494.