EfficientNet-CIFAR10 训练与特征提取
这个项目实现了EfficientNet模型在CIFAR10数据集上的训练，并集成了特征提取和可视化所需的功能。
time_travel_saver数据提取器
#保存可视化训练过程所需要的文件
if (epoch + 1) % interval == 0 or (epoch == 0):
# 创建一个专门用于收集embedding的顺序dataloader
ordered_trainloader = torch.utils.data.DataLoader(
trainloader.dataset,
batch_size=trainloader.batch_size,
shuffle=False,
num_workers=trainloader.num_workers
)
epoch_save_dir = os.path.join(save_dir, f'epoch_{epoch+1}') #epoch保存路径
save_model = time_travel_saver(model, ordered_trainloader, device, epoch_save_dir, model_name,
show=True, layer_name='avg_pool', auto_save_embedding=True)
#show:是否显示模型的维度信息
#layer_name:选择要提取特征的层,如果为None,则提取符合维度范围的层
#auto_save_embedding:是否自动保存特征向量 must be True
save_model.save_checkpoint_embeddings_predictions() #保存模型权重、特征向量和预测结果到epoch_x
if epoch == 0:
save_model.save_lables_index(path = "../dataset") #保存标签和索引到dataset
项目结构
./scripts/train.yaml：训练配置文件，包含批次大小、学习率、GPU设置等参数./scripts/train.py：训练脚本，执行模型训练并自动收集特征数据./model/：保存训练好的模型权重./epochs/：保存训练过程中的高维特征向量、预测结果等数据
使用方法
- 配置
train.yaml文件设置训练参数 - 执行训练脚本：
python train.py - 训练完成后，可以在以下位置找到相关数据：
- 模型权重：
./epochs/epoch_{n}/model.pth - 特征向量：
./epochs/epoch_{n}/embeddings.npy - 预测结果：
./epochs/epoch_{n}/predictions.npy - 标签数据：
./dataset/labels.npy - 数据索引：
./dataset/index.json
- 模型权重：
数据格式
embeddings.npy：形状为 [n_samples, feature_dim] 的特征向量predictions.npy：形状为 [n_samples, n_classes] 的预测概率labels.npy：形状为 [n_samples] 的真实标签index.json：包含训练集、测试集和验证集的索引信息