关于人工智能:迁移学习帮大忙成都理工大学搭建-SCDUNet-模型进行滑坡测绘

11次阅读

共计 8458 个字符,预计需要花费 22 分钟才能阅读完成。

滑坡是最常见的自然灾害之一,通常由地震和降雨引发,会造成重大的财产损失和人员伤亡。由地震触发的山体滑坡所造成的毁坏,有时会比地震自身造成的毁坏更为严重。大型地震产生之后,疾速、精确地发展滑坡测绘工作 (landslide mapping, LM) 对于紧急救济、及时定量灾祸评估和灾后重建至关重要。

近年来,人们对遥感图像主动绘制滑坡地图的办法进行了大量钻研,但因为山体滑坡在特色和规模上存在较大差别,加之光学遥感影像存在相似性,导致现有办法在精确进行滑坡测绘工作时面临着各种各样的挑战。

滑坡是最常见的自然灾害之一,通常由地震和降雨引发,会造成重大的财产损失和人员伤亡。由地震触发的山体滑坡所造成的毁坏,有时会比地震自身造成的毁坏更为严重。大型地震产生之后,疾速、精确地发展滑坡测绘工作 (landslide mapping, LM) 对于紧急救济、及时定量灾祸评估和灾后重建至关重要。

近年来,人们对遥感图像主动绘制滑坡地图的办法进行了大量钻研,但因为山体滑坡在特色和规模上存在较大差别,加之光学遥感影像存在相似性,导致现有办法在精确进行滑坡测绘工作时面临着各种各样的挑战。

遥感滑坡图像

为此, 成都理工大学的钻研人员提出了一个名为 SCDUNet++ 的语义宰割模型,该模型联合了卷积神经网络 (CNN) 和 Transformer 的劣势,加强了对滑坡特色的辨认和提取,性能优于 FCN, DeepLabv3+, Segformer 等其余 8 个深度学习模型,在 IoU 方面进步了 1.91% 至 24.42%,在 F1 方面进步了 1.26% 至 18.54%。 该成绩已发表于 International Journal of Applied Earth Observation and Geoinformation。

注:IoU 为交并比,掂量预测区域和实在区域之间的重叠水平;F1 为精确度和召回率的和谐平均值,掂量模型的准确性和完整性。

钻研亮点

  • 利用多通道数据的语义宰割模型绘制滑坡图
  • 利用地形和光谱指数因子改善滑坡绘图
  • 通过深度迁徙学习后,模型在数据匮乏地区的性能大大提高
  • 所提出的模型在绘图和迁移性等方面优于其余模型

论文地址:**

https://doi.org/10.1016/j.jag.2023.103612
数据集一键下载:

https://hyper.ai/datasets/29647
关注公众号,后盾回复「滑坡」获取残缺 PDF

试验过程:搭建 SCDUNet++ 模型

数据集:泸定和九寨沟地震数据

2022 年的泸定 6.8 级地震和 2017 年的九寨沟 7.0 级地震都造成了重大的滑坡灾祸,因而钻研人员抉择这两个地区进行试验钻研。

试验地区概览

数据集中蕴含三局部内容,整合后存储为 HDF5 格局。

Sentinel-2(哨兵 2 号卫星)多光谱数据: 2022/03/15 和 2022/11/25 的泸定地区数据,2017/07/29 和 2017/09/07 的九寨沟数据。

NASADEM (Digital Elevation Model) 数据: 在 NASADEM 官网上下载数据,失去坡度、坡向、曲率、山荫及地形湿度指数 (TWI) 等数据。

滑坡数据 (landslide inventory): 联合 Sentinel-2 光学遥感图像和谷歌地球图像,由专家进行人工标注。

模型架构:三大模块形成

下图为构建的 SCDUNet++ 模型整体架构:

SCDUNet++ 整体架构

GLFE (Global Local Feature Extraction) 模块 :如图 b 所示,GLFE 模块联合浅层 CNN 构造和深层 Swin Transformer 构造,无效地解决了滑坡图像特色的提取和分类问题。

DSSA (Detailed Spatial Spectral Aggregation) 模块 :通过交融来自 GLFE 模块的光谱和空间特色,增强对多光谱图像中简单信息的解决能力,该模块可能执行更准确的光谱和空间特征提取,加强了模型对多光谱图像剖析的效率和准确性。

DSC (Dense Skip Connection):如图 d 所示,该模块可能复原每个阶段特色的分辨率。

最初,对每个阶段的特色进行加权和交融,失去最终的后果。

算法训练:基于简略模型的 DTL 办法

钻研人员引入深度迁徙学习 (deep transfer learning,DTL) 办法以进步 LM 和模型的迁徙性能,算法训练旨在无效解决滑坡和背景在遥感图像中的不均衡散布,同时确保模型在多个性能指标上的高效性。

基于网络的 DTL 办法

试验后果:通过迁徙学习,模型无效发展滑坡测绘工作

模型评估:GLFE 模块和 DSSA 模块联合的有效性

钻研人员以滑坡地图绘制罕用的办法 UNet++ 作为基线,以泸定地区 I、II 为实验组,发展了融化试验 (ablation experiment),对增加不同模块的模型进行比拟,重点关注 IoU 和 F1 两个整体性指标。

由下表可见:

  • GLFE 模块的有效性:与基线相比,IoU 和 F1 别离进步了 1.7% 和 1.16%。
  • DSSA 模块的有效性:与基线相比,IoU 和 F1 别离进步了 1.88% 和 1.28%。
  • SCDUNet++ 模型:与基线相比,IoU 和 F1 别离进步了 2.83% 和 1.92%。

模型比拟后果

总结来看,钻研人员将 GLFE 模块和 DSSA 模块增加到基线模型 UNet++ 中,造成了 SCDUNet++ 模型。SCDUNet++ 模型保留了小型滑坡图像以取得更好的性能,模型精确度进步了 0.46%,召回率进步了 4.06%。

简单区域融化试验的可视化后果

a:基线
b:基线 + GLFE
c:基线 + DSSA
d:基线 + GLFE + DSSA

泸定地区测试:SCDUNet++ 展示优越性能

在泸定 I、II 测试地区,钻研人员将 SCDUNet++ 模型与其余 8 种模型的滑坡测绘工作进行比拟,揭示了 SCDUNet++ 对特定天文特色和环境复杂度的敏感性。

下图结果显示,测试区域 Ⅰ 中,SCDUNet++ 在精确度、召回率、MCC、IoU、MIoU 和 F1 分数上均体现出较高的性能。 这表明该模型在绝对简单的地理环境中仍能放弃较高的检测准确性。 而背景较为简单的测试区域 Ⅱ 试验后果也证实了 SCDUNet++ 在不同环境下的适应性,尤其在召回率和 MIoU 上体现突出。

不同模型在地区 I、II 的比拟后果

在可视化后果中,SCDUNet++ 模型展示了优越的性能,具体表现为:

滑坡测绘完整性: SCDUNet++ 可能生成绝对残缺的滑坡地图,相比之下,FCN、Segformer、TransUNet 和 UNet 等模型脱漏了局部小型滑坡图像。

对 FP(假正例,即谬误预测为正类的负类)的解决 :因为裸土区域和滑坡特色十分相似,所有模型都呈现了不同水平的 FP,但 SCDUNet++ 可能基于特定的特征提取模块,在肯定水平上克制 FP 的产生。

边界区域的解决 :钻研人员在滑坡和背景的边界区域发现了大量的 FN(假负例,即谬误预测为负类的正类)和 FP,但 SCDUNet++ 采纳嵌套解码器,可能在各个档次复原和交融特色并进行深度监督,无效解决边界不精确问题。

泸定试验区分区各模型滑坡测绘可视化后果

A、B、C 和 D 中的红色矩形显示了后果之间的次要差别
a:测试地区 I
b:测试地区 II

总的来说,SCDUNet++ 模型展现出了在泸定地区进行滑坡测绘的弱小后劲,尤其在解决简单环境和准确边界断定方面体现卓越。

九寨沟地区测试:迁徙学习后的模型预测更准

间接应用在泸定地区训练的模型

指标比照:SCDUNet++ 在大多数指标上体现优于其余模型。但须要思考九寨沟试验区的特色绝对简略,模型测试后果应该会优于泸定地区,可是指标都不是十分现实。

可视化后果:下图展现了映射后果中 FP(蓝色区域)很少,但脱漏了许多理论的滑坡。

九寨沟地区滑坡测绘

通过深度迁徙学习优化的模型

指标晋升:通过深度迁徙学习后,所有指标在测试区域 Ⅲ 和 Ⅳ 中均显示出显著晋升,特地是召回率和 F1 分数显著减少,SCDUNet++ 模型仍然在多个指标上体现最佳。

通过 DTL 优化后模型指标变动

可视化后果:通过深度迁徙学习后 FN(假负例,即谬误预测为负类的正类)显著缩小,模型无效地辨认并映射出大型滑坡,缩小了漏检的状况。同时模型 LM 后果蕴含了大多数小型滑坡, 这表明通过深度迁徙学习的 SCDUNet++ 模型对于细小和简单的滑坡特色有了更好的辨认能力。

SCDUNet++ LM 后果变动

a: DTL 前的测试区 III
b: DTL 后的测试区 III
c: DTL 前的测试区 IV
d: DTL 后的测试区 IV

地质灾害防治畛域的国家重点实验室

成都地处四川盆地西部,地层结构复杂,当地及周边地区常常受到地震灾祸侵扰。能够说,成都始终奋战在防灾减灾的一线,其中成都理工大学更是最早一批退出「战斗」的中坚力量。

1989 年,原国家计委、国家教委批准,在成都理工大学(原成都地质学院)地质工程国家重点学科根底上建设国家业余实验室, 此为地质灾害防治与地质环境保护国家重点实验室的前身。 2001 年,该实验室被四川省人民政府批准为「四川省重点实验室」。2002 年成为科技部与四川省共建的「国家重点实验室培养基地」,2003 年被批准为国土资源部重点实验室,2007 年 10 月被科技部批准列入国家重点实验室建设打算,2010 年 12 月通过科技部验收。

此外,该实验室是我国地质灾害防治畛域目前惟一的国家重点实验室,在 2017 年被国土资源部、科技部命名为「国家国土资源科普基地」,2020 年入选四川省第十二批省级科普基地。

成理地灾国重实验室

耸立千年的山体一旦产生滑坡,岩石、土壤便顺着歪斜的山体,像流水一样顷刻间埋葬一座几公里外的村镇。劫难的背地是一个又一个谜团期待钻研人员的摸索,多年来,实验室的钻研人员们从现场调(勘)查、模仿评估、监测预警等工作中逐渐积攒出一整套地质灾害防治和地质环境保护的实践与技术零碎。

2023 年 11 月,钻研人员在 PNAS 上发表论文,在地震、滑坡粘滑不稳定性钻研畛域获得重要停顿;2023 年 9 月发表论文钻研地震或滑坡的粘滑先兆特色,为行将产生的地震或滑坡提供预测信息;2023 年 1 月破解高速近程滑坡超强流态化谜团……

自古至今,人类屡次禁受自然灾害的「迫害」,地震、海啸、暴雨、干旱等等,以致有数家庭颠沛流离。只管是在科技突飞猛进的明天,咱们也难以与天然力量抗衡,更多的则是防备与预警。尤其是在 AI、大数据等技术的快递迭代之下,过往灾祸所积淀下的数据成为了贵重的养料,帮忙各类预测模型晋升精度与准确性,从而更好地服务于当下社会。

咱们总违心置信人定胜天,所以自然灾害背后,人类也从未退缩,置信 AI 等技术也将成为人类抵挡自然灾害、爱护生命财产平安的松软盾牌。

HyperAI 官网已上传自然灾害、地质相干的数据集

xBD 自然灾害图像数据集:

https://hyper.ai/datasets/13272

RSSCN7 Data Set 遥感图像数据集:

https://hyper.ai/datasets/5440

European Flood 2013 欧洲洪水数据集:

https://hyper.ai/datasets/21579

参考资料:
https://www.sklgp.cdut.edu.cn/ 遥感滑坡图像

为此, 成都理工大学的钻研人员提出了一个名为 SCDUNet++ 的语义宰割模型,该模型联合了卷积神经网络 (CNN) 和 Transformer 的劣势,加强了对滑坡特色的辨认和提取,性能优于 FCN, DeepLabv3+, Segformer 等其余 8 个深度学习模型,在 IoU 方面进步了 1.91% 至 24.42%,在 F1 方面进步了 1.26% 至 18.54%。 该成绩已发表于 International Journal of Applied Earth Observation and Geoinformation。

注:IoU 为交并比,掂量预测区域和实在区域之间的重叠水平;F1 为精确度和召回率的和谐平均值,掂量模型的准确性和完整性。

钻研亮点

  • 利用多通道数据的语义宰割模型绘制滑坡图
  • 利用地形和光谱指数因子改善滑坡绘图
  • 通过深度迁徙学习后,模型在数据匮乏地区的性能大大提高
  • 所提出的模型在绘图和迁移性等方面优于其余模型

论文地址:

https://doi.org/10.1016/j.jag.2023.103612
数据集一键下载:

https://hyper.ai/datasets/29647
关注公众号,后盾回复「滑坡」获取残缺 PDF

试验过程:搭建 SCDUNet++ 模型

数据集:泸定和九寨沟地震数据

2022 年的泸定 6.8 级地震和 2017 年的九寨沟 7.0 级地震都造成了重大的滑坡灾祸,因而钻研人员抉择这两个地区进行试验钻研。

试验地区概览

数据集中蕴含三局部内容,整合后存储为 HDF5 格局。

Sentinel-2(哨兵 2 号卫星)多光谱数据: 2022/03/15 和 2022/11/25 的泸定地区数据,2017/07/29 和 2017/09/07 的九寨沟数据。

NASADEM (Digital Elevation Model) 数据: 在 NASADEM 官网上下载数据,失去坡度、坡向、曲率、山荫及地形湿度指数 (TWI) 等数据。

滑坡数据 (landslide inventory): 联合 Sentinel-2 光学遥感图像和谷歌地球图像,由专家进行人工标注。

模型架构:三大模块形成

下图为构建的 SCDUNet++ 模型整体架构:

SCDUNet++ 整体架构

GLFE (Global Local Feature Extraction) 模块 :如图 b 所示,GLFE 模块联合浅层 CNN 构造和深层 Swin Transformer 构造,无效地解决了滑坡图像特色的提取和分类问题。

DSSA (Detailed Spatial Spectral Aggregation) 模块 :通过交融来自 GLFE 模块的光谱和空间特色,增强对多光谱图像中简单信息的解决能力,该模块可能执行更准确的光谱和空间特征提取,加强了模型对多光谱图像剖析的效率和准确性。

DSC (Dense Skip Connection):如图 d 所示,该模块可能复原每个阶段特色的分辨率。

最初,对每个阶段的特色进行加权和交融,失去最终的后果。

算法训练:基于简略模型的 DTL 办法

钻研人员引入深度迁徙学习 (deep transfer learning,DTL) 办法以进步 LM 和模型的迁徙性能,算法训练旨在无效解决滑坡和背景在遥感图像中的不均衡散布,同时确保模型在多个性能指标上的高效性。

基于网络的 DTL 办法

试验后果:通过迁徙学习,模型无效发展滑坡测绘工作

模型评估:GLFE 模块和 DSSA 模块联合的有效性

钻研人员以滑坡地图绘制罕用的办法 UNet++ 作为基线,以泸定地区 I、II 为实验组,发展了融化试验 (ablation experiment),对增加不同模块的模型进行比拟,重点关注 IoU 和 F1 两个整体性指标。

由下表可见:

  • GLFE 模块的有效性:与基线相比,IoU 和 F1 别离进步了 1.7% 和 1.16%。
  • DSSA 模块的有效性:与基线相比,IoU 和 F1 别离进步了 1.88% 和 1.28%。
  • SCDUNet++ 模型:与基线相比,IoU 和 F1 别离进步了 2.83% 和 1.92%。

模型比拟后果

总结来看,钻研人员将 GLFE 模块和 DSSA 模块增加到基线模型 UNet++ 中,造成了 SCDUNet++ 模型。SCDUNet++ 模型保留了小型滑坡图像以取得更好的性能,模型精确度进步了 0.46%,召回率进步了 4.06%。

简单区域融化试验的可视化后果

a:基线
b:基线 + GLFE
c:基线 + DSSA
d:基线 + GLFE + DSSA

泸定地区测试:SCDUNet++ 展示优越性能

在泸定 I、II 测试地区,钻研人员将 SCDUNet++ 模型与其余 8 种模型的滑坡测绘工作进行比拟,揭示了 SCDUNet++ 对特定天文特色和环境复杂度的敏感性。

下图结果显示,测试区域 Ⅰ 中,SCDUNet++ 在精确度、召回率、MCC、IoU、MIoU 和 F1 分数上均体现出较高的性能。 这表明该模型在绝对简单的地理环境中仍能放弃较高的检测准确性。 而背景较为简单的测试区域 Ⅱ 试验后果也证实了 SCDUNet++ 在不同环境下的适应性,尤其在召回率和 MIoU 上体现突出。

不同模型在地区 I、II 的比拟后果

在可视化后果中,SCDUNet++ 模型展示了优越的性能,具体表现为:

滑坡测绘完整性: SCDUNet++ 可能生成绝对残缺的滑坡地图,相比之下,FCN、Segformer、TransUNet 和 UNet 等模型脱漏了局部小型滑坡图像。

对 FP(假正例,即谬误预测为正类的负类)的解决 :因为裸土区域和滑坡特色十分相似,所有模型都呈现了不同水平的 FP,但 SCDUNet++ 可能基于特定的特征提取模块,在肯定水平上克制 FP 的产生。

边界区域的解决 :钻研人员在滑坡和背景的边界区域发现了大量的 FN(假负例,即谬误预测为负类的正类)和 FP,但 SCDUNet++ 采纳嵌套解码器,可能在各个档次复原和交融特色并进行深度监督,无效解决边界不精确问题。

泸定试验区分区各模型滑坡测绘可视化后果

A、B、C 和 D 中的红色矩形显示了后果之间的次要差别
a:测试地区 I
b:测试地区 II

总的来说,SCDUNet++ 模型展现出了在泸定地区进行滑坡测绘的弱小后劲,尤其在解决简单环境和准确边界断定方面体现卓越。

九寨沟地区测试:迁徙学习后的模型预测更准

间接应用在泸定地区训练的模型

指标比照:SCDUNet++ 在大多数指标上体现优于其余模型。但须要思考九寨沟试验区的特色绝对简略,模型测试后果应该会优于泸定地区,可是指标都不是十分现实。

可视化后果:下图展现了映射后果中 FP(蓝色区域)很少,但脱漏了许多理论的滑坡。

九寨沟地区滑坡测绘

通过深度迁徙学习优化的模型

指标晋升:通过深度迁徙学习后,所有指标在测试区域 Ⅲ 和 Ⅳ 中均显示出显著晋升,特地是召回率和 F1 分数显著减少,SCDUNet++ 模型仍然在多个指标上体现最佳。

通过 DTL 优化后模型指标变动

可视化后果:通过深度迁徙学习后 FN(假负例,即谬误预测为负类的正类)显著缩小,模型无效地辨认并映射出大型滑坡,缩小了漏检的状况。同时模型 LM 后果蕴含了大多数小型滑坡, 这表明通过深度迁徙学习的 SCDUNet++ 模型对于细小和简单的滑坡特色有了更好的辨认能力。

SCDUNet++ LM 后果变动

a: DTL 前的测试区 III
b: DTL 后的测试区 III
c: DTL 前的测试区 IV
d: DTL 后的测试区 IV

地质灾害防治畛域的国家重点实验室

成都地处四川盆地西部,地层结构复杂,当地及周边地区常常受到地震灾祸侵扰。能够说,成都始终奋战在防灾减灾的一线,其中成都理工大学更是最早一批退出「战斗」的中坚力量。

1989 年,原国家计委、国家教委批准,在成都理工大学(原成都地质学院)地质工程国家重点学科根底上建设国家业余实验室, 此为地质灾害防治与地质环境保护国家重点实验室的前身。 2001 年,该实验室被四川省人民政府批准为「四川省重点实验室」。2002 年成为科技部与四川省共建的「国家重点实验室培养基地」,2003 年被批准为国土资源部重点实验室,2007 年 10 月被科技部批准列入国家重点实验室建设打算,2010 年 12 月通过科技部验收。

此外,该实验室是我国地质灾害防治畛域目前惟一的国家重点实验室,在 2017 年被国土资源部、科技部命名为「国家国土资源科普基地」,2020 年入选四川省第十二批省级科普基地。

成理地灾国重实验室

耸立千年的山体一旦产生滑坡,岩石、土壤便顺着歪斜的山体,像流水一样顷刻间埋葬一座几公里外的村镇。劫难的背地是一个又一个谜团期待钻研人员的摸索,多年来,实验室的钻研人员们从现场调(勘)查、模仿评估、监测预警等工作中逐渐积攒出一整套地质灾害防治和地质环境保护的实践与技术零碎。

2023 年 11 月,钻研人员在 PNAS 上发表论文,在地震、滑坡粘滑不稳定性钻研畛域获得重要停顿;2023 年 9 月发表论文钻研地震或滑坡的粘滑先兆特色,为行将产生的地震或滑坡提供预测信息;2023 年 1 月破解高速近程滑坡超强流态化谜团……

自古至今,人类屡次禁受自然灾害的「迫害」,地震、海啸、暴雨、干旱等等,以致有数家庭颠沛流离。只管是在科技突飞猛进的明天,咱们也难以与天然力量抗衡,更多的则是防备与预警。尤其是在 AI、大数据等技术的快递迭代之下,过往灾祸所积淀下的数据成为了贵重的养料,帮忙各类预测模型晋升精度与准确性,从而更好地服务于当下社会。

咱们总违心置信人定胜天,所以自然灾害背后,人类也从未退缩,置信 AI 等技术也将成为人类抵挡自然灾害、爱护生命财产平安的松软盾牌。

HyperAI 官网已上传自然灾害、地质相干的数据集

xBD 自然灾害图像数据集:

https://hyper.ai/datasets/13272

RSSCN7 Data Set 遥感图像数据集:

https://hyper.ai/datasets/5440

European Flood 2013 欧洲洪水数据集:

https://hyper.ai/datasets/21579

参考资料:
https://www.sklgp.cdut.edu.cn/

正文完
 0