File size: 2,506 Bytes
a63f41e |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 |
# DenseNet-CIFAR10 训练与特征提取
这个项目实现了DenseNet模型在CIFAR10数据集上的训练，并集成了特征提取和可视化所需的功能。
## time_travel_saver数据提取器
```python
#保存可视化训练过程所需要的文件
if (epoch + 1) % interval == 0 or (epoch == 0):
# 创建一个专门用于收集embedding的顺序dataloader
ordered_trainloader = torch.utils.data.DataLoader(
trainloader.dataset,
batch_size=trainloader.batch_size,
shuffle=False,
num_workers=trainloader.num_workers
)
epoch_save_dir = os.path.join(save_dir, f'epoch_{epoch+1}') #epoch保存路径
save_model = time_travel_saver(model, ordered_trainloader, device, epoch_save_dir, model_name,
show=True, layer_name='avg_pool', auto_save_embedding=True)
#show:是否显示模型的维度信息
#layer_name:选择要提取特征的层,如果为None,则提取符合维度范围的层
#auto_save_embedding:是否自动保存特征向量 must be True
save_model.save_checkpoint_embeddings_predictions() #保存模型权重、特征向量和预测结果到epoch_x
if epoch == 0:
save_model.save_lables_index(path = "../dataset") #保存标签和索引到dataset
```
## 项目结构
- `./scripts/train.yaml`：训练配置文件，包含批次大小、学习率、GPU设置等参数
- `./scripts/train.py`：训练脚本，执行模型训练并自动收集特征数据
- `./model/`：保存训练好的模型权重
- `./epochs/`：保存训练过程中的高维特征向量、预测结果等数据
## 使用方法
1. 配置 `train.yaml` 文件设置训练参数
2. 执行训练脚本：
```
python train.py
```
3. 训练完成后，可以在以下位置找到相关数据：
- 模型权重：`./epochs/epoch_{n}/model.pth`
- 特征向量：`./epochs/epoch_{n}/embeddings.npy`
- 预测结果：`./epochs/epoch_{n}/predictions.npy`
- 标签数据：`./dataset/labels.npy`
- 数据索引：`./dataset/index.json`
## 数据格式
- `embeddings.npy`：形状为 [n_samples, feature_dim] 的特征向量
- `predictions.npy`：形状为 [n_samples, n_classes] 的预测概率
- `labels.npy`：形状为 [n_samples] 的真实标签
- `index.json`：包含训练集、测试集和验证集的索引信息 |