Please wait a minute...
 
自然资源遥感  2022, Vol. 34 Issue (2): 144-151    DOI: 10.6046/zrzyyg.2021147
  技术应用 本期目录 | 过刊浏览 | 高级检索 |
标签聚类损失在遥感影像分类中的应用
苏赋(), 于海鹏(), 朱威西
西南石油大学电气信息学院,成都 610500
Application of label clustering loss in the classification of remote sensing images
SU Fu(), YU Haipeng(), ZHU Weixi
Southwest Petroleum University School of Electrical Engineering and Information, Chengdu 610500, China
全文: PDF(3748 KB)   HTML  
输出: BibTeX | EndNote (RIS)      
摘要 

遥感影像的场景信息在影像解译和各领域的实际生产生活中具有重要的应用价值,针对遥感影像类内差异性大、类间差异性小的特点,该文在中心损失函数的基础上进一步研究,提出了一种新的标签聚类损失函数。首先使用类标签中心初始化方法对类别中心进行参数初始化,其次使用正弦衰减学习率使模型在预热阶段保持类别中心的稳定性,然后使用欧氏距离与余弦距离来进行类内特征的聚集以及类间中心的远离。并且使用VGG16和ResNet50两个网络模型在NWPU-RESISC45数据集上进行验证,准确率分别提高了2.3%和5.7%。通过试验表明,该方法能够有效地实现特征的聚集与类别中心的远离,提升网络模型的准确率,在遥感影像分类任务中具有一定的发展前景。

服务
把本文推荐给朋友
加入引用管理器
E-mail Alert
RSS
作者相关文章
苏赋
于海鹏
朱威西
关键词 参数初始化遥感影像损失函数类间距离类内距离    
Abstract

Scene information of remote sensing images has important application value in image interpretation and actual production and life in various fields. In view of the characteristics of remote sensing images with large intra-class differences and small inter-class differences, this paper further studies the center loss function and proposes a new label clustering loss function. Firstly, the class center is initialized by using the class label center initialization method. Secondly, the sinusoidal attenuation learning rate is used to keep the stability of the class center in the preheating stage. Then, Euclidean distance and cosine distance are used to gather the intra-class features and keep them away from the class center. Furthermore, two network models, VGG16 and ResNet50, are used to verify on NWPU-RESISC45 data set, and the accuracy is improved by 2.3% and 5.7% respectively. Experiments show that the method proposed in this paper can effectively cluster the features and separate class centers, and improve the accuracy of the network model, which has a certain development prospect in the classification of remote sensing images.

Key wordsparameter initialization    remote sensing image    loss function    distance between classes    intra-class distance
收稿日期: 2021-05-11      出版日期: 2022-06-20
基金资助:成都市国际科技合作资助项目“埋地PE管声学探测定位技术研究”(2020-GH02-00016-HZ)
通讯作者: 于海鹏
作者简介: 苏 赋(1973-),女,博士,副教授,主要从事模式识别与遥感方向研究。Email: 774052037@qq.com
引用本文:   
苏赋, 于海鹏, 朱威西. 标签聚类损失在遥感影像分类中的应用[J]. 自然资源遥感, 2022, 34(2): 144-151.
SU Fu, YU Haipeng, ZHU Weixi. Application of label clustering loss in the classification of remote sensing images. Remote Sensing for Natural Resources, 2022, 34(2): 144-151.
链接本文:  
https://www.gtzyyg.com/CN/10.6046/zrzyyg.2021147      或      https://www.gtzyyg.com/CN/Y2022/V34/I2/144
Fig.1  正弦衰减学习率
算法1:标签聚类损失的正向反向传播算法
1:输入:网络模型最后一层全连接层特征值{ x i},训练批次大小m,迭代次数T,学习率 μ和∂s
2:初始化: softmax损失参数 θ,类标签中心参数 c 0
3: for t=1 to T do
4:计算联合损失: L t o t a l = L s o f t m a x + λ L c
5:更新softmax损失参数:
θ t + 1 = θ t - μ L t s o f t m a x θ t
6:更新类别中心:
c j t + 1 = c j t - s Δ c j t
7:更新模型反向传播误差:
L t t o t a l x i t = L t s o f t m a x x i t + λ L t c x i t
8: end for
Tab.1  标签聚类损失训练过程
Fig.2  NWPU-RESISC45数据集示例
Fig.3  不同损失函数训练步骤图
Fig.4  不同网络模型超参数搜索图
损失函数 VGG16 ResNet50
平均准
确率/%
Kappa系数 平均准
确率/%
Kappa系数
softmax_loss 89.9 0.909 82.9 0.838
center_loss 90.3 0.911 83.2 0.841
no label_loss 91.8 0.922 84.6 0.858
label_loss 92.2 0.926 88.6 0.898
Tab.2  不同损失函数在不同网络模型的测试结果
Fig.5  VGG16网络模型使用不同损失函数二维特征映射图
Fig.6  不同损失函数各类别场景准确度对比图
方法 准确率/%
Fine-tuned AlexNet[13] 81.22
AlexNet+MSCP[14] 81.70
ResNet18[15] 81.10
ResNet50 82.90
Fine-tuned GoogleNet[13] 82.57
VGG-VD16+MSCP[13] 85.33
Fine-tuned VGGNet-16[13] 87.15
ResNetP18[17] 89.13
AlexNet+SVM[18] 90.50
IORN4-VGG16[19] 91.30
文献[16] 91.18
文献[15] 91.97
本文方法 92.20
Tab.3  不同方法分类准确率
[1] 李冠东, 张春菊, 王铭恺, 等. 卷积神经网络迁移的高分影像场景分类学习[J]. 测绘科学, 2019, 44(4):116-123,174.
Li G D, Zhang C J, Wang M K, et al. High resolution remote sensing image classification learning based on convolutional neural network migration[J]. Surveying and Mapping Science, 2019, 44(4):116-123,174.
[2] 何小飞, 邹峥嵘, 陶超, 等. 联合显著性和多层卷积神经网络的高分影像场景分类[J]. 测绘学报, 2016, 45(9):1073-1080.
He X F, Zou Z R, Tao C, et al. High resolution image scene classification based on saliency and multilayer convolutional neural network[J]. Acta Surveying and Mapping, 2016, 45(9):1073-1080.
[3] Liu Y, Zhong Y, Qin Q. Scene classificationbased on multiscale convolutional neural network[J]. IEEE Transactions on Geoscience and Remote Sensing, 2018, 56(12):7109-7121.
doi: 10.1109/TGRS.2018.2848473
[4] Zan C, Wang S, X Hou, et al. Recurrent transformer network for remote sensing scene categorisation[C]. // Proceedings of the 2018 British Machine Vision Conference.Durham:BMVA, 2018:266.
[5] Wang Q, Liu S, Chanussot J, et al. Scene classification with recurrent attention of VHR remote sensing images[J]. IEEE Transactions on Geoscience and Remote Sensing, 2019, 57(2):1155-1167.
doi: 10.1109/TGRS.2018.2864987
[6] Sun H, Li S, Zheng X, et al. Remote sensing scene classification by gated bidirectional network[J]. IEEE Transactions on Geoscience and Remote Sensing, 2019(99):1-15.
[7] Li Y, Liu M, Zhang S. Classification of optical remote sensing images based on convolutional neural network[C]// 2019 6th International Conference on Control,Decision and Information Technologies (CoDIT).IEEE, 2019:801-806.
[8] 杨斌, 李成华, 江小平, 等. 一种用于提升深度学习分类模型准确率的正则化损失函数[J]. 中南民族大学学报(自然科学版), 2020, 39(1):74-78.
Yang B, Li C H, Jiang X P, et al. A regularized loss function for improving the accuracy of deep learning classification model[J]. Journal of Central South University for Nationalities,Natural Science Edition, 2020, 39(1):74-78.
[9] Liu Y, Huang C. Scene classification via triplet networks[J]. IEEE Journal of Selected Topics in Applied Earth Observations & Remote Sensing, 2018, 11(1):220-237.
[10] Khatun A, Denman S, Sridharan S, et al. Joint identification-verification for person re-identification:A four stream deep learning approach with improved quartet loss function[J]. Computer Vision and Image Understanding, 2020,197-198:102989.
[11] Shi W, Gong Y, Tao X, et al. Fine-grained image classification using modified DCNNs trained by cascaded softmax and generalized large-margin losses[J]. IEEE Transactions on Neural Networks and Learning Systems, 2018, 30(3):683-694.
doi: 10.1109/TNNLS.2018.2852721
[12] Reddy A C, Saraschandrika A, Reddy A V. Study of the Clustering algorithms for hyper spectral remote sensing images[J]. Journal of Hyperspectral Remote Sensing, 2020, 10(2):117-121.
doi: 10.29150/jhrs.v10.2.p117-121
[13] Gong C, Han J, Lu X. Remote sensing image scene classification:Benchmark and state of the art[J]. Proceedings of the IEEE, 2017, 105(10):1865-1883.
doi: 10.1109/JPROC.2017.2675998
[14] He N, Fang L, Li S, et al. Remote sensing scene classification using multilayer stacked covariance pooling[J]. IEEE Transactions on Geoscience and Remote Sensing, 2018,(99):1-12.
[15] 杨宏炳, 迟勇欣, 王金光. 基于剪枝网络的知识蒸馏对遥感卫星图像分类方法[J/OL]. 计算机应用研究, 2021, 38(8):2469-2473.
Yang H B, Chi Y X, Wang J G. Remote sensing satellite image classification method based on knowledge distillation of pruning net work[J/OL]. Computer Application Research, 2021, 38(8):2469-2473.
[16] 马欣悦, 王梨名, 祁昆仑, 等. 基于多尺度循环注意力网络的遥感影像场景分类方法[J]. 地球科学, 2021, 46(10):3740-3752.
Ma X Y, Wang L M, Qi K L, et al. Remotesensing image scene classification method based on multi-scale cyclic attention network[J]. Earth Science, 2021, 46(10):3740-3752.
[17] Zhou Z, Zheng Y, Ye H, et al. Satellite image scene classification via ConvNet with context aggregation[J]. PCM, 2018(2):329-339.
[18] 业巧林, 许平, 张冬. 基于深度学习特征和支持向量机的遥感图像分类[J]. 林业工程学报, 2019, 4(2):125-131.
Ye Q L, Xu X P, Zhang D. Remote sensing image classification based on deep learning feature and support vector machine[J]. Journal of Forestry Engineering, 2019, 4(2):125-131.
[19] Wang J, Liu W, Ma L, et al. IORN:An effective remote sensing image scene classification framework[J]. IEEE Geoscience and Remote Sensing Letters, 2018, 15(11):1695-1699.
doi: 10.1109/LGRS.2018.2859024
[1] 刁明光, 刘勇, 郭宁博, 李文吉, 江继康, 王云霄. 基于Mask R-CNN的遥感影像疏林地智能识别方法[J]. 自然资源遥感, 2023, 35(2): 97-104.
[2] 赵凌虎, 袁希平, 甘淑, 胡琳, 丘鸣语. 改进Deeplabv3+的高分辨率遥感影像道路提取模型[J]. 自然资源遥感, 2023, 35(1): 107-114.
[3] 吕雅楠, 朱红, 孟健, 崔成玲, 宋其淇. 面向高分辨率遥感影像车辆检测的深度学习模型综述及适应性研究[J]. 自然资源遥感, 2022, 34(4): 22-32.
[4] 沈骏翱, 马梦婷, 宋致远, 柳汀洲, 张微. 基于深度学习语义分割模型的高分辨率遥感图像水体提取[J]. 自然资源遥感, 2022, 34(4): 129-135.
[5] 程滔. 一种与遥感影像同步纠正的矢量地理信息采集方法[J]. 自然资源遥感, 2022, 34(3): 59-64.
[6] 唐文魁, 俞露, 周伟奇, 岳隽, 周正. 基于长时间序列遥感数据的深圳景观连通性动态变化研究[J]. 自然资源遥感, 2022, 34(3): 97-105.
[7] 薛白, 王懿哲, 刘书含, 岳明宇, 王艺颖, 赵世湖. 基于孪生注意力网络的高分辨率遥感影像变化检测[J]. 自然资源遥感, 2022, 34(1): 61-66.
[8] 宋仁波, 朱瑜馨, 郭仁杰, 赵鹏飞, 赵珂馨, 朱洁, 陈颖. 基于多源数据集成的城市建筑物三维建模方法[J]. 自然资源遥感, 2022, 34(1): 93-105.
[9] 桑潇, 张成业, 李军, 朱守杰, 邢江河, 王金阳, 王兴娟, 李佳瑶, 杨颖. 煤炭开采背景下的伊金霍洛旗土地利用变化强度分析[J]. 自然资源遥感, 2021, 33(3): 148-155.
[10] 王译著, 黄亮, 陈朋弟, 李文国, 余晓娜. 联合显著性和多方法差异影像融合的遥感影像变化检测[J]. 自然资源遥感, 2021, 33(3): 89-96.
[11] 卢麒, 秦军, 姚雪东, 吴艳兰, 朱皓辰. 基于多层次感知网络的GF-2遥感影像建筑物提取[J]. 国土资源遥感, 2021, 33(2): 75-84.
[12] 胡苏李扬, 李辉, 顾延生, 黄咸雨, 张志麒, 汪迎春. 基于高分辨率遥感影像的神农架大九湖湿地土地利用类型变化及其驱动力分析——来自长时间尺度多源遥感信息的约束[J]. 国土资源遥感, 2021, 33(1): 221-230.
[13] 刘钊, 赵桐, 廖斐凡, 李帅, 李海洋. 基于语义分割网络的高分遥感影像城市建成区提取方法研究与对比分析[J]. 国土资源遥感, 2021, 33(1): 45-53.
[14] 郑智腾, 范海生, 王洁, 吴艳兰, 王彪, 黄腾杰. 改进型双支网络模型的遥感海水网箱养殖区智能提取方法[J]. 国土资源遥感, 2020, 32(4): 120-129.
[15] 孙珂. 融合超像元与峰值密度特征的遥感影像分类[J]. 国土资源遥感, 2020, 32(4): 41-45.
Viewed
Full text


Abstract

Cited

  Shared   
  Discussed   
京ICP备05055290号-2
版权所有 © 2015 《自然资源遥感》编辑部
地址:北京学院路31号中国国土资源航空物探遥感中心 邮编:100083
电话:010-62060291/62060292 E-mail:zrzyyg@163.com
本系统由北京玛格泰克科技发展有限公司设计开发