下肢动脉粥样硬化闭塞性疾病预测
整体实验步骤
本次CT影像分类实验分别使用到了AlexNet,EfficientNet-b0,SqueezeNet_1-1,MoblieNetv2四个网络模型。
数据准备
一共有163个病人的数据,实验过程将数据分为训练数据和测试数据,具体比例为9:1。训练数据用于训练模型,测试数据用于检测模型的性能。其病人样本数据的详细分布信息见表1。
表1 病人数据分布
病人数 | 图片数 | 图片尺寸 | 病人总数 | 图片总数 | |
---|---|---|---|---|---|
训练数据正常 | 66 | 21105 | 512* 512 | 145 | 46763 |
训练数据异常 | 79 | 25658 | 512 *512 | 145 | 46763 |
测试数据正常 | 11 | 3520 | 512 *512 | 18 | 5740 |
测试数据异常 | 7 | 2220 | 512 *512 | 18 | 5740 |
图片大小 | 图片总数 | |
---|---|---|
训练集 | 224 224 | 42086 |
验证集 | 224 224 | 4677 |
其中在图片数据增强中使用了非形变处理,图像白化,图像亮度、对比度增强,图像旋模型转。其中网络模型主要的训练参数设定如下:
分类数量 | 2 |
---|---|
图像Input_size | (224,224) |
损失函数 | focalLoss |
损失函数 | focalLoss |
优化器 | optimizer_SGD |
初始化学习率 | 1e-3 |
学习率权重衰减率 | 0.96 |
优化器正则损失权重 | 1e-6 |
Batch_size | 128 |
epoch | 200 |
实验细节
使用pyTorch结合2块GPU进行分布式训练,得出如图2所示的训练集上的正确率。MobileNet_v2 和efficientNet-b0在训练集上表现最好,收敛较快,Squeezenet_1-1和alexnet在训练集上表现收敛较慢,随着迭代次数增加,正确率在逐步提升。
在训练集上mobileNetv2和efficientNet-b0在短时间内收敛较快,但在其中存在较大幅度的浮动。在训练集上Squeezenet_1-1和alexNet收敛速度较慢,两者之前差距不大。
在训练集上,MobileNetv2,efficientNet-b0,AlexNet在一开始就有良好的表现,Squeezenet_1-1 随着迭代次数的增加,逐渐达到AlexNet的水平,并趋于稳定趋势。
在验证集上MobileNetv2 和EfficientNet-b0收敛的较快,随后趋于逐渐稳定的状态,随着迭代次数的增加,AlexNet和squeezeNet_1-1逐渐收敛,其中AkexNet收敛速度略快于SqueezeNet_1-1,在训练集和验证集上基本吻合模型短期训练趋势。
在测试集上,在较低次数的迭代中EfficientNet-b0相比于其他网络有较高的正确率。随着迭代次数的增加,EfficientNet-b0出现较大幅度的波动,与此同时,SqueezeNet_1-1和AxleNet正确率迅速上升,超过EfficientNet-b0后逐步趋于基本稳定状态。整个测试集上MobileNetv2的表现一般,表明MobileNetv2网络的泛化性较差,SqueezeNet_1-1的泛化性能最棒。
在测试集上AlexNet和SqueezeNet_1-1 表现整体优于EfficientNet-b0和MobileNetv2,但AlexNet 波动区间较大,网络模型稳定性不如SqueezeNet_1-1表现优异。
实验结果与分析
数据准备过程中预留下来的18个病人数据同时输入到训练好的四个模型中进行分类预测。模型的分类预测结果见表2,由表中结果可知,四个模型中efficientnet-b0网络模型在LEAOS的CT影像图分类预测结果均高于高于另外三个分类对比算法。efficientnet-b0的正确率比Moblienetv2,AlexNet、SqueezeNet1_1分别高14.67%、3.36%、3.34%;在整体网络性能和模型泛化性方面, SqueezeNet1_1 优于AlexNet,Efficientnet-b0和MoblieNetv2。
AlexNet | SqueezeNet1_1 | efficientnet-b0 | moblienetv2 | |
---|---|---|---|---|
正确率 | 0.913232964 | 0.913461538 | 0.94685262 | 0.800113411 |
F1-score | 0.657725781 | 0.734568724 | 0.70383861 | 0.704443335 |
参考资料
[1]. MobileNetv2论文地址:https://openaccess.thecvf.com/content_cvpr_2018/papers/Sandler_MobileNetV2_Inverted_Residuals_CVPR_2018_paper.pdf
[2]. SqueezeNet1_1 论文地址:
https://www.researchgate.net/profile/Forrest-Iandola/publication/319770256_SqueezeNet_AlexNet-level_accuracy_with_50x_fewer_parameters_and_textless1MB_model_size/links/5ca5a519a6fdcc12ee913c8a/SqueezeNet-AlexNet-level-accuracy-with-50x-fewer-parameters-and-textless1MB-model-size.pdf
[3]. efficientnet-b0论文地址:https://doi.org/10.1007/978-1-4842-6168-2_10
[4]. AlexNet论文地址:https://link.springer.com/article/10.1007/s10618-020-00710-y
[5]. Transfer Learning for Detection of COVID-19 Infection using Chest X-Ray Images(https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=9418398)