Please wait a minute...
 
自然资源遥感  2023, Vol. 35 Issue (3): 116-123    DOI: 10.6046/zrzyyg.2022202
  技术方法 本期目录 | 过刊浏览 | 高级检索 |
基于注意力特征融合的高保真遥感图像薄云去除
牛祥华(), 黄微(), 黄睿, 蒋斯立
上海大学通信与信息工程学院,上海 200444
A high-fidelity method for thin cloud removal from remote sensing images based on attentional feature fusion
NIU Xianghua(), HUANG Wei(), HUANG Rui, JIANG Sili
School of Communication and Information Engineering, Shanghai University, Shanghai 200444, China
全文: PDF(9361 KB)   HTML  
输出: BibTeX | EndNote (RIS)      
摘要 

为改善非均匀薄云覆盖遥感图像薄云去除存在校正不足或颜色失真的问题,该文提出了一个融合注意力特征的高保真薄云去除端到端网络。首先,设计了注意力特征融合模块,该模块引入注意力机制以及融合模块,并通过3个注意力特征融合模块级联,使网络关注薄云覆盖区域的信息提取,减少无云部分的影响。同时,加入颜色损失函数和锐化损失函数以提高图像准确的颜色保真度和细节清晰度。通过实验结果表明,该方法的输出结果在视觉评估和定量评价指标(峰值信噪比和结构相似度)上均优于其他方法的结果。该网络对于多种场景下的非均匀薄云图像均有较好的去云效果,且输出的图像色彩效果真实、亮度过度平滑、细节轮廓清晰。

服务
把本文推荐给朋友
加入引用管理器
E-mail Alert
RSS
作者相关文章
牛祥华
黄微
黄睿
蒋斯立
关键词 薄云去除注意力机制特征融合遥感图像深度学习    
Abstract

The thin cloud removal from remote sensing images with uneven thin cloud cover suffers from undercorrection or color distortion. This study proposed a high-fidelity end-to-end network method for thin cloud removal based on attentional feature fusion. First, this study designed an attentional feature fusion module integrating the attention mechanism and a fusion module. Through the cascade of three attentional feature fusion modules, the network focused on extracting the information on thin-cloud cover areas, reducing the impact of cloud-free areas. Furthermore, this study improved the color fidelity and detail clarity of images using the color and sharpening loss functions. The experimental results show that this method outperformed other methods in visual and quantitative evaluation indices (peak signal-to-noise ratio and structural similarity). This method yielded satisfactory effects of cloud removal in images with uneven thin cloud cover in various scenarios, producing images with actual colors, smooth brightness transition, and distinct detail contours.

Key wordsthin cloud removal    attention mechanism    feature fusion    remote sensing image    deep learning
收稿日期: 2022-05-16      出版日期: 2023-09-19
ZTFLH:  TP751  
基金资助:国家重点研发计划项目“石窟文物本体风化病害评估系统及保护技术研究”(2019YFC1520500)
通讯作者: 黄 微(1980-),女,博士,讲师,研究方向为数字图像信息处理与重建、大数据流量分析。Email: lyxhw@shu.edu.cn
作者简介: 牛祥华(1997-),男,硕士,研究方向为深度学习、遥感图像增强。Email: niuxianghua@shu.edu.cn
引用本文:   
牛祥华, 黄微, 黄睿, 蒋斯立. 基于注意力特征融合的高保真遥感图像薄云去除[J]. 自然资源遥感, 2023, 35(3): 116-123.
NIU Xianghua, HUANG Wei, HUANG Rui, JIANG Sili. A high-fidelity method for thin cloud removal from remote sensing images based on attentional feature fusion. Remote Sensing for Natural Resources, 2023, 35(3): 116-123.
链接本文:  
https://www.gtzyyg.com/CN/10.6046/zrzyyg.2022202      或      https://www.gtzyyg.com/CN/Y2023/V35/I3/116
Fig.1  网络整体结构
Fig.2  注意力特征融合模块结构
Fig.3  注意力模块结构
Fig.4  融合模块结构
序号 有云图像 DCP MSCNN AARNCB MAMF SPAGAN 本文方法 无云图像
1
2
3
4
Tab.1  RICE数据集薄云去除结果对比
序号 有云图像 DCP MSCNN AARNCB MAMF SPAGAN 本文方法 无云图像
1
2
3
4
Tab.2  厚度分布不同情况薄云图像输出结果对比
序号 有云图像 DCP MSCNN AARNCB MAMF SPAGAN 本文方法
1
2
序号 有云图像 DCP MSCNN AARNCB MAMF SPAGAN 本文方法
3
4
Tab.3  真实薄云图像输出结果对比
方法 PSNR/dB SSIM BRISQUE
DCP 19.21 0.81 31.56
MSCNN 16.93 0.72 31.89
AARNCB 20.56 0.79 32.22
MAMF 16.86 0.69 31.48
SPAGAN 21.59 0.85 25.15
本文方法 23.74 0.90 23.62
Tab.4  不同方法处理结果评价指标对比
Fig.5  融合模块消融实验
Fig.6  调整损失函数消融实验
Fig.7  无云图像网络输入输出对比
[1] He K, Sun J, Tang X. Single image haze removal using dark channel prior[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2010, 33(12):2341-2353.
doi: 10.1109/TPAMI.2010.168
[2] Narasimhan S G, Nayar S K. Contrast restoration of weather degraded images[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2003, 25(6):713-724.
doi: 10.1109/TPAMI.2003.1201821
[3] Li J, Hu Q, Ai M. Haze and thin cloud removal via sphere model improved dark channel prior[J]. IEEE Geoscience and Remote Sensing Letters, 2018, 16(3):472-476.
doi: 10.1109/LGRS.2018.2874084
[4] Shi S, Zhang Y, Zhou X, et al. A novel thin cloud removal method based on multiscale dark channel prior (MDCP)[J]. IEEE Geoscience and Remote Sensing Letters, 2021, 19:1-5.
[5] Li Y, Ren J, Huang Y. An end-to-end system for unmanned aerial vehicle high-resolution remote sensing image haze removal algorithm using convolution neural network[J]. IEEE Access, 2020, 8:158787-158797.
doi: 10.1109/Access.6287639
[6] Pan H. Cloud removal for remote sensing imagery via spatial attention generative adversarial network[J/OL]. arXiv, 2020(2020-11-14). https://arxiv.org/abs/2009.13015.
[7] Li J, Wu Z, Hu Z, et al. Thin cloud removal in optical remote sensing images based on generative adversarial networks and physical model of cloud distortion[J]. ISPRS Journal of Photogrammetry and Remote Sensing, 2020, 166:373-389.
doi: 10.1016/j.isprsjprs.2020.06.021
[8] Zi Y, Xie F, Zhang N, et al. Thin cloud removal for multispectral remote sensing images using convolutional neural networks combined with an imaging model[J]. IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing, 2021, 14:3811-3823.
doi: 10.1109/JSTARS.2021.3068166
[9] Luo X, Rong W, Zhou J. A spatial-spectral adaptive thin-cloud removal method based on slow feature analysis[J]. Remote Sensing Letters, 2022, 13(8):747-755.
doi: 10.1080/2150704X.2022.2079387
[10] Woo S, Park J, Lee J Y, et al. Cbam:Convolutional block attention module[C]// Proceedings of the European Conference on Computer Vision (ECCV). 2018:3-19.
[11] 张焕, 张庆, 于纪言. 激活函数的发展综述及其性质分析[J]. 西华大学学报(自然科学版), 2021, 40(4):1-10.
Zhang H, Zhang Q, Yu J Y. Overview of the development of activation function and its nature analysis[J]. Journal of Xihua University (Natural Science Edition), 2021, 40(4):1-10.
[12] Gupta D, Hazarika B B, Berlin M. Robust regularized extreme learning machine with asymmetric Huber loss function[J]. Neural Computing and Applications, 2020, 32(16):12971-12998.
doi: 10.1007/s00521-020-04741-w
[13] Pang B, Nijkamp E, Wu Y N. Deep learning with tensorflow:A review[J]. Journal of Educational and Behavioral Statistics, 2020, 45(2):227-248.
doi: 10.3102/1076998619872761
[14] Lin D, Xu G, Wang X, et al. A remote sensing image dataset for cloud removal[J/OL]. arXiv, 2019(2019-01-03). http://arxiv.org/abs/1901.00600v1.
[15] Pan X, Xie F, Jiang Z, et al. No-reference assessment on haze for remote-sensing images[J]. IEEE Geoscience and Remote Sensing Letters, 2016, 13(12):1855-1859.
doi: 10.1109/LGRS.2016.2614890
[16] Ma Y. The mathematic magic of Photoshop blend modes for image processing[C]// 2011 International Conference on Multimedia Technology.IEEE, 2011:5159-5161.
[17] Ren W, Pan J, Zhang H, et al. Single image dehazing via multi-scale convolutional neural networks with holistic edges[J]. International Journal of Computer Vision, 2020, 128(1):240-259.
doi: 10.1007/s11263-019-01235-8
[18] Dhara S K, Roy M, Sen D, et al. Color cast dependent image dehazing via adaptive airlight refinement and non-linear color balancing[J]. IEEE Transactions on Circuits and Systems for Video Technology, 2020, 31(5):2076-2081.
doi: 10.1109/TCSVT.2020.3007850
[19] Cho Y, Jeong J, Kim A. Model-assisted multiband fusion for single image enhancement and applications to robot vision[J]. IEEE Robotics and Automation Letters, 2018, 3(4):2822-2829.
doi: 10.1109/ROBOT.1996.506590
[20] 蒋刚毅, 黄大江, 王旭, 等. 图像质量评价方法研究进展[J]. 电子与信息学报, 2010, 32(1):219-226.
Jiang G Y, Huang D J, Wang X, et al. Overview on image quality assessment methods[J]. Journal of Electronics and Information Technology, 2010, 32(1):219-226.
[21] Mittal A, Moorthy A K, Bovik A C. No-reference image quality assessment in the spatial domain[J]. IEEE Transactions on Image Processing, 2012, 21(12):4695-4708.
doi: 10.1109/TIP.2012.2214050 pmid: 22910118
[1] 王建强, 邹朝晖, 刘荣波, 刘志松. 基于U2-Net深度学习模型的沿海水产养殖塘遥感信息提取[J]. 自然资源遥感, 2023, 35(3): 17-24.
[2] 徐欣钰, 李小军, 赵鹤婷, 盖钧飞. NSCT和PCNN相结合的遥感图像全色锐化算法[J]. 自然资源遥感, 2023, 35(3): 64-70.
[3] 刘立, 董先敏, 刘娟. 顾及地学特征的遥感影像语义分割模型性能评价方法[J]. 自然资源遥感, 2023, 35(3): 80-87.
[4] 郑宗生, 刘海霞, 王振华, 卢鹏, 沈绪坤, 唐鹏飞. 改进3D-CNN的高光谱图像地物分类方法[J]. 自然资源遥感, 2023, 35(2): 105-111.
[5] 邱磊, 张学志, 郝大为. 基于深度学习的视频SAR动目标检测与跟踪算法[J]. 自然资源遥感, 2023, 35(2): 157-166.
[6] 张仙, 李伟, 陈理, 杨昭颖, 窦宝成, 李瑜, 陈昊旻. 露天开采矿区要素遥感提取研究进展及展望[J]. 自然资源遥感, 2023, 35(2): 25-33.
[7] 刁明光, 刘勇, 郭宁博, 李文吉, 江继康, 王云霄. 基于Mask R-CNN的遥感影像疏林地智能识别方法[J]. 自然资源遥感, 2023, 35(2): 97-104.
[8] 张可, 张庚生, 王宁, 温静, 李宇, 杨俊. 基于遥感和深度学习的输电线路地表水深预测[J]. 自然资源遥感, 2023, 35(1): 213-221.
[9] 金远航, 徐茂林, 郑佳媛. 基于改进YOLOv4-tiny的无人机影像枯死树木检测算法[J]. 自然资源遥感, 2023, 35(1): 90-98.
[10] 胡建文, 汪泽平, 胡佩. 基于深度学习的空谱遥感图像融合综述[J]. 自然资源遥感, 2023, 35(1): 1-14.
[11] 赵凌虎, 袁希平, 甘淑, 胡琳, 丘鸣语. 改进Deeplabv3+的高分辨率遥感影像道路提取模型[J]. 自然资源遥感, 2023, 35(1): 107-114.
[12] 沈骏翱, 马梦婷, 宋致远, 柳汀洲, 张微. 基于深度学习语义分割模型的高分辨率遥感图像水体提取[J]. 自然资源遥感, 2022, 34(4): 129-135.
[13] 吕雅楠, 朱红, 孟健, 崔成玲, 宋其淇. 面向高分辨率遥感影像车辆检测的深度学习模型综述及适应性研究[J]. 自然资源遥感, 2022, 34(4): 22-32.
[14] 谭海, 张荣军, 樊文锋, 张一帆, 徐航. 融合多尺度特征的国产光学影像辐射异常分类检测[J]. 自然资源遥感, 2022, 34(4): 97-104.
[15] 苏玮, 林阳阳, 岳文, 陈颖彪. 基于U-Net卷积神经网络的广东省海水养殖区识别及其时空变化遥感监测[J]. 自然资源遥感, 2022, 34(4): 33-41.
Viewed
Full text


Abstract

Cited

  Shared   
  Discussed   
京ICP备05055290号-2
版权所有 © 2015 《自然资源遥感》编辑部
地址:北京学院路31号中国国土资源航空物探遥感中心 邮编:100083
电话:010-62060291/62060292 E-mail:zrzyyg@163.com
本系统由北京玛格泰克科技发展有限公司设计开发