MobileNetV3-CIFAR10 训练与特征提取
这个项目实现了MobileNetV3模型在CIFAR10数据集上的训练,并集成了特征提取和可视化所需的功能。
time_travel_saver数据提取器
#保存可视化训练过程所需要的文件
if (epoch + 1) % interval == 0 or (epoch == 0):
# 创建一个专门用于收集embedding的顺序dataloader
ordered_trainloader = torch.utils.data.DataLoader(
trainloader.dataset,
batch_size=trainloader.batch_size,
shuffle=False,
num_workers=trainloader.num_workers
)
epoch_save_dir = os.path.join(save_dir, f'epoch_{epoch+1}') #epoch保存路径
save_model = time_travel_saver(model, ordered_trainloader, device, epoch_save_dir, model_name,
show=True, layer_name='avg_pool', auto_save_embedding=True)
#show:是否显示模型的维度信息
#layer_name:选择要提取特征的层,如果为None,则提取符合维度范围的层
#auto_save_embedding:是否自动保存特征向量 must be True
save_model.save_checkpoint_embeddings_predictions() #保存模型权重、特征向量和预测结果到epoch_x
if epoch == 0:
save_model.save_lables_index(path = "../dataset") #保存标签和索引到dataset
项目结构
./scripts/train.yaml
:训练配置文件,包含批次大小、学习率、GPU设置等参数./scripts/train.py
:训练脚本,执行模型训练并自动收集特征数据./model/
:保存训练好的模型权重./epochs/
:保存训练过程中的高维特征向量、预测结果等数据
使用方法
- 配置
train.yaml
文件设置训练参数 - 执行训练脚本:
python train.py
- 训练完成后,可以在以下位置找到相关数据:
- 模型权重:
./epochs/epoch_{n}/model.pth
- 特征向量:
./epochs/epoch_{n}/embeddings.npy
- 预测结果:
./epochs/epoch_{n}/predictions.npy
- 标签数据:
./dataset/labels.npy
- 数据索引:
./dataset/index.json
- 模型权重:
数据格式
embeddings.npy
:形状为 [n_samples, feature_dim] 的特征向量predictions.npy
:形状为 [n_samples, n_classes] 的预测概率labels.npy
:形状为 [n_samples] 的真实标签index.json
:包含训练集、测试集和验证集的索引信息