| { | |
| "best_metric": null, | |
| "best_model_checkpoint": null, | |
| "epoch": 3.0, | |
| "eval_steps": 500, | |
| "global_step": 46875, | |
| "is_hyper_param_search": false, | |
| "is_local_process_zero": true, | |
| "is_world_process_zero": true, | |
| "log_history": [ | |
| { | |
| "epoch": 0.032, | |
| "grad_norm": 3.257769823074341, | |
| "learning_rate": 4.9466666666666665e-05, | |
| "loss": 8.2156, | |
| "step": 500 | |
| }, | |
| { | |
| "epoch": 0.064, | |
| "grad_norm": 3.1011881828308105, | |
| "learning_rate": 4.8933333333333335e-05, | |
| "loss": 5.7276, | |
| "step": 1000 | |
| }, | |
| { | |
| "epoch": 0.096, | |
| "grad_norm": 2.9608840942382812, | |
| "learning_rate": 4.8400000000000004e-05, | |
| "loss": 5.1099, | |
| "step": 1500 | |
| }, | |
| { | |
| "epoch": 0.128, | |
| "grad_norm": 3.070345640182495, | |
| "learning_rate": 4.7866666666666674e-05, | |
| "loss": 4.7565, | |
| "step": 2000 | |
| }, | |
| { | |
| "epoch": 0.16, | |
| "grad_norm": 3.115124464035034, | |
| "learning_rate": 4.7333333333333336e-05, | |
| "loss": 4.5242, | |
| "step": 2500 | |
| }, | |
| { | |
| "epoch": 0.192, | |
| "grad_norm": 3.3936541080474854, | |
| "learning_rate": 4.6800000000000006e-05, | |
| "loss": 4.3385, | |
| "step": 3000 | |
| }, | |
| { | |
| "epoch": 0.224, | |
| "grad_norm": 3.1536269187927246, | |
| "learning_rate": 4.626666666666667e-05, | |
| "loss": 4.1901, | |
| "step": 3500 | |
| }, | |
| { | |
| "epoch": 0.256, | |
| "grad_norm": 3.3067963123321533, | |
| "learning_rate": 4.573333333333333e-05, | |
| "loss": 4.0618, | |
| "step": 4000 | |
| }, | |
| { | |
| "epoch": 0.288, | |
| "grad_norm": 3.1867096424102783, | |
| "learning_rate": 4.52e-05, | |
| "loss": 3.9582, | |
| "step": 4500 | |
| }, | |
| { | |
| "epoch": 0.32, | |
| "grad_norm": 3.03401517868042, | |
| "learning_rate": 4.466666666666667e-05, | |
| "loss": 3.8644, | |
| "step": 5000 | |
| }, | |
| { | |
| "epoch": 0.352, | |
| "grad_norm": 3.046238899230957, | |
| "learning_rate": 4.413333333333334e-05, | |
| "loss": 3.7847, | |
| "step": 5500 | |
| }, | |
| { | |
| "epoch": 0.384, | |
| "grad_norm": 3.019605875015259, | |
| "learning_rate": 4.36e-05, | |
| "loss": 3.7242, | |
| "step": 6000 | |
| }, | |
| { | |
| "epoch": 0.416, | |
| "grad_norm": 3.2561287879943848, | |
| "learning_rate": 4.3066666666666665e-05, | |
| "loss": 3.6636, | |
| "step": 6500 | |
| }, | |
| { | |
| "epoch": 0.448, | |
| "grad_norm": 3.1242692470550537, | |
| "learning_rate": 4.2533333333333335e-05, | |
| "loss": 3.5982, | |
| "step": 7000 | |
| }, | |
| { | |
| "epoch": 0.48, | |
| "grad_norm": 3.3605010509490967, | |
| "learning_rate": 4.2e-05, | |
| "loss": 3.5573, | |
| "step": 7500 | |
| }, | |
| { | |
| "epoch": 0.512, | |
| "grad_norm": 3.1349642276763916, | |
| "learning_rate": 4.146666666666667e-05, | |
| "loss": 3.5123, | |
| "step": 8000 | |
| }, | |
| { | |
| "epoch": 0.544, | |
| "grad_norm": 3.241283416748047, | |
| "learning_rate": 4.093333333333334e-05, | |
| "loss": 3.469, | |
| "step": 8500 | |
| }, | |
| { | |
| "epoch": 0.576, | |
| "grad_norm": 3.3260302543640137, | |
| "learning_rate": 4.0400000000000006e-05, | |
| "loss": 3.4352, | |
| "step": 9000 | |
| }, | |
| { | |
| "epoch": 0.608, | |
| "grad_norm": 3.168513298034668, | |
| "learning_rate": 3.986666666666667e-05, | |
| "loss": 3.3975, | |
| "step": 9500 | |
| }, | |
| { | |
| "epoch": 0.64, | |
| "grad_norm": 3.158280372619629, | |
| "learning_rate": 3.933333333333333e-05, | |
| "loss": 3.3626, | |
| "step": 10000 | |
| }, | |
| { | |
| "epoch": 0.672, | |
| "grad_norm": 3.264225959777832, | |
| "learning_rate": 3.88e-05, | |
| "loss": 3.3339, | |
| "step": 10500 | |
| }, | |
| { | |
| "epoch": 0.704, | |
| "grad_norm": 3.422471761703491, | |
| "learning_rate": 3.8266666666666664e-05, | |
| "loss": 3.3129, | |
| "step": 11000 | |
| }, | |
| { | |
| "epoch": 0.736, | |
| "grad_norm": 3.1257171630859375, | |
| "learning_rate": 3.773333333333334e-05, | |
| "loss": 3.2766, | |
| "step": 11500 | |
| }, | |
| { | |
| "epoch": 0.768, | |
| "grad_norm": 3.168595790863037, | |
| "learning_rate": 3.72e-05, | |
| "loss": 3.2568, | |
| "step": 12000 | |
| }, | |
| { | |
| "epoch": 0.8, | |
| "grad_norm": 3.1342172622680664, | |
| "learning_rate": 3.6666666666666666e-05, | |
| "loss": 3.2404, | |
| "step": 12500 | |
| }, | |
| { | |
| "epoch": 0.832, | |
| "grad_norm": 3.549842596054077, | |
| "learning_rate": 3.6133333333333335e-05, | |
| "loss": 3.2163, | |
| "step": 13000 | |
| }, | |
| { | |
| "epoch": 0.864, | |
| "grad_norm": 3.4910998344421387, | |
| "learning_rate": 3.56e-05, | |
| "loss": 3.1926, | |
| "step": 13500 | |
| }, | |
| { | |
| "epoch": 0.896, | |
| "grad_norm": 3.180727481842041, | |
| "learning_rate": 3.506666666666667e-05, | |
| "loss": 3.1775, | |
| "step": 14000 | |
| }, | |
| { | |
| "epoch": 0.928, | |
| "grad_norm": 3.230907678604126, | |
| "learning_rate": 3.453333333333334e-05, | |
| "loss": 3.1739, | |
| "step": 14500 | |
| }, | |
| { | |
| "epoch": 0.96, | |
| "grad_norm": 3.4314932823181152, | |
| "learning_rate": 3.4000000000000007e-05, | |
| "loss": 3.1553, | |
| "step": 15000 | |
| }, | |
| { | |
| "epoch": 0.992, | |
| "grad_norm": 3.22788143157959, | |
| "learning_rate": 3.346666666666667e-05, | |
| "loss": 3.1299, | |
| "step": 15500 | |
| }, | |
| { | |
| "epoch": 1.024, | |
| "grad_norm": 3.41752028465271, | |
| "learning_rate": 3.293333333333333e-05, | |
| "loss": 3.1116, | |
| "step": 16000 | |
| }, | |
| { | |
| "epoch": 1.056, | |
| "grad_norm": 3.353651762008667, | |
| "learning_rate": 3.24e-05, | |
| "loss": 3.0895, | |
| "step": 16500 | |
| }, | |
| { | |
| "epoch": 1.088, | |
| "grad_norm": 3.444838047027588, | |
| "learning_rate": 3.1866666666666664e-05, | |
| "loss": 3.0875, | |
| "step": 17000 | |
| }, | |
| { | |
| "epoch": 1.12, | |
| "grad_norm": 3.462682008743286, | |
| "learning_rate": 3.1333333333333334e-05, | |
| "loss": 3.0827, | |
| "step": 17500 | |
| }, | |
| { | |
| "epoch": 1.152, | |
| "grad_norm": 3.6689860820770264, | |
| "learning_rate": 3.08e-05, | |
| "loss": 3.0619, | |
| "step": 18000 | |
| }, | |
| { | |
| "epoch": 1.184, | |
| "grad_norm": 3.3406646251678467, | |
| "learning_rate": 3.0266666666666666e-05, | |
| "loss": 3.0393, | |
| "step": 18500 | |
| }, | |
| { | |
| "epoch": 1.216, | |
| "grad_norm": 3.7950193881988525, | |
| "learning_rate": 2.9733333333333336e-05, | |
| "loss": 3.0285, | |
| "step": 19000 | |
| }, | |
| { | |
| "epoch": 1.248, | |
| "grad_norm": 3.459526538848877, | |
| "learning_rate": 2.9199999999999998e-05, | |
| "loss": 3.0244, | |
| "step": 19500 | |
| }, | |
| { | |
| "epoch": 1.28, | |
| "grad_norm": 3.5137555599212646, | |
| "learning_rate": 2.8666666666666668e-05, | |
| "loss": 3.0168, | |
| "step": 20000 | |
| }, | |
| { | |
| "epoch": 1.312, | |
| "grad_norm": 3.3574562072753906, | |
| "learning_rate": 2.8133333333333334e-05, | |
| "loss": 3.0176, | |
| "step": 20500 | |
| }, | |
| { | |
| "epoch": 1.3439999999999999, | |
| "grad_norm": 3.400820016860962, | |
| "learning_rate": 2.7600000000000003e-05, | |
| "loss": 3.0052, | |
| "step": 21000 | |
| }, | |
| { | |
| "epoch": 1.376, | |
| "grad_norm": 3.3767611980438232, | |
| "learning_rate": 2.706666666666667e-05, | |
| "loss": 2.9961, | |
| "step": 21500 | |
| }, | |
| { | |
| "epoch": 1.408, | |
| "grad_norm": 3.386554002761841, | |
| "learning_rate": 2.6533333333333332e-05, | |
| "loss": 2.978, | |
| "step": 22000 | |
| }, | |
| { | |
| "epoch": 1.44, | |
| "grad_norm": 3.4136760234832764, | |
| "learning_rate": 2.6000000000000002e-05, | |
| "loss": 2.9718, | |
| "step": 22500 | |
| }, | |
| { | |
| "epoch": 1.472, | |
| "grad_norm": 3.4994306564331055, | |
| "learning_rate": 2.5466666666666668e-05, | |
| "loss": 2.9605, | |
| "step": 23000 | |
| }, | |
| { | |
| "epoch": 1.504, | |
| "grad_norm": 3.5334179401397705, | |
| "learning_rate": 2.4933333333333334e-05, | |
| "loss": 2.9542, | |
| "step": 23500 | |
| }, | |
| { | |
| "epoch": 1.536, | |
| "grad_norm": 3.4967758655548096, | |
| "learning_rate": 2.44e-05, | |
| "loss": 2.95, | |
| "step": 24000 | |
| }, | |
| { | |
| "epoch": 1.568, | |
| "grad_norm": 3.562196969985962, | |
| "learning_rate": 2.3866666666666666e-05, | |
| "loss": 2.9336, | |
| "step": 24500 | |
| }, | |
| { | |
| "epoch": 1.6, | |
| "grad_norm": 3.4677624702453613, | |
| "learning_rate": 2.3333333333333336e-05, | |
| "loss": 2.9426, | |
| "step": 25000 | |
| }, | |
| { | |
| "epoch": 1.6320000000000001, | |
| "grad_norm": 3.534884452819824, | |
| "learning_rate": 2.2800000000000002e-05, | |
| "loss": 2.9236, | |
| "step": 25500 | |
| }, | |
| { | |
| "epoch": 1.6640000000000001, | |
| "grad_norm": 3.370882749557495, | |
| "learning_rate": 2.2266666666666668e-05, | |
| "loss": 2.9367, | |
| "step": 26000 | |
| }, | |
| { | |
| "epoch": 1.696, | |
| "grad_norm": 3.6403982639312744, | |
| "learning_rate": 2.1733333333333334e-05, | |
| "loss": 2.9182, | |
| "step": 26500 | |
| }, | |
| { | |
| "epoch": 1.728, | |
| "grad_norm": 3.6488850116729736, | |
| "learning_rate": 2.12e-05, | |
| "loss": 2.9099, | |
| "step": 27000 | |
| }, | |
| { | |
| "epoch": 1.76, | |
| "grad_norm": 3.7746174335479736, | |
| "learning_rate": 2.0666666666666666e-05, | |
| "loss": 2.9058, | |
| "step": 27500 | |
| }, | |
| { | |
| "epoch": 1.792, | |
| "grad_norm": 3.601640462875366, | |
| "learning_rate": 2.0133333333333336e-05, | |
| "loss": 2.897, | |
| "step": 28000 | |
| }, | |
| { | |
| "epoch": 1.8239999999999998, | |
| "grad_norm": 3.6499381065368652, | |
| "learning_rate": 1.9600000000000002e-05, | |
| "loss": 2.892, | |
| "step": 28500 | |
| }, | |
| { | |
| "epoch": 1.8559999999999999, | |
| "grad_norm": 3.6148202419281006, | |
| "learning_rate": 1.9066666666666668e-05, | |
| "loss": 2.8826, | |
| "step": 29000 | |
| }, | |
| { | |
| "epoch": 1.888, | |
| "grad_norm": 3.7451000213623047, | |
| "learning_rate": 1.8533333333333334e-05, | |
| "loss": 2.8889, | |
| "step": 29500 | |
| }, | |
| { | |
| "epoch": 1.92, | |
| "grad_norm": 3.581538438796997, | |
| "learning_rate": 1.8e-05, | |
| "loss": 2.8799, | |
| "step": 30000 | |
| }, | |
| { | |
| "epoch": 1.952, | |
| "grad_norm": 3.778764009475708, | |
| "learning_rate": 1.7466666666666667e-05, | |
| "loss": 2.8819, | |
| "step": 30500 | |
| }, | |
| { | |
| "epoch": 1.984, | |
| "grad_norm": 3.612436056137085, | |
| "learning_rate": 1.6933333333333333e-05, | |
| "loss": 2.8754, | |
| "step": 31000 | |
| }, | |
| { | |
| "epoch": 2.016, | |
| "grad_norm": 3.7262656688690186, | |
| "learning_rate": 1.6400000000000002e-05, | |
| "loss": 2.8764, | |
| "step": 31500 | |
| }, | |
| { | |
| "epoch": 2.048, | |
| "grad_norm": 3.765575885772705, | |
| "learning_rate": 1.586666666666667e-05, | |
| "loss": 2.8626, | |
| "step": 32000 | |
| }, | |
| { | |
| "epoch": 2.08, | |
| "grad_norm": 3.5083584785461426, | |
| "learning_rate": 1.5333333333333334e-05, | |
| "loss": 2.8665, | |
| "step": 32500 | |
| }, | |
| { | |
| "epoch": 2.112, | |
| "grad_norm": 3.939120292663574, | |
| "learning_rate": 1.48e-05, | |
| "loss": 2.8545, | |
| "step": 33000 | |
| }, | |
| { | |
| "epoch": 2.144, | |
| "grad_norm": 3.759654998779297, | |
| "learning_rate": 1.4266666666666667e-05, | |
| "loss": 2.857, | |
| "step": 33500 | |
| }, | |
| { | |
| "epoch": 2.176, | |
| "grad_norm": 3.5089993476867676, | |
| "learning_rate": 1.3733333333333335e-05, | |
| "loss": 2.8571, | |
| "step": 34000 | |
| }, | |
| { | |
| "epoch": 2.208, | |
| "grad_norm": 3.8221828937530518, | |
| "learning_rate": 1.32e-05, | |
| "loss": 2.8473, | |
| "step": 34500 | |
| }, | |
| { | |
| "epoch": 2.24, | |
| "grad_norm": 3.4775657653808594, | |
| "learning_rate": 1.2666666666666668e-05, | |
| "loss": 2.8418, | |
| "step": 35000 | |
| }, | |
| { | |
| "epoch": 2.2720000000000002, | |
| "grad_norm": 3.5617167949676514, | |
| "learning_rate": 1.2133333333333335e-05, | |
| "loss": 2.8502, | |
| "step": 35500 | |
| }, | |
| { | |
| "epoch": 2.304, | |
| "grad_norm": 3.7226479053497314, | |
| "learning_rate": 1.16e-05, | |
| "loss": 2.838, | |
| "step": 36000 | |
| }, | |
| { | |
| "epoch": 2.336, | |
| "grad_norm": 3.734492540359497, | |
| "learning_rate": 1.1066666666666667e-05, | |
| "loss": 2.8439, | |
| "step": 36500 | |
| }, | |
| { | |
| "epoch": 2.368, | |
| "grad_norm": 3.7425308227539062, | |
| "learning_rate": 1.0533333333333335e-05, | |
| "loss": 2.8446, | |
| "step": 37000 | |
| }, | |
| { | |
| "epoch": 2.4, | |
| "grad_norm": 3.64741587638855, | |
| "learning_rate": 1e-05, | |
| "loss": 2.8374, | |
| "step": 37500 | |
| }, | |
| { | |
| "epoch": 2.432, | |
| "grad_norm": 3.8757803440093994, | |
| "learning_rate": 9.466666666666667e-06, | |
| "loss": 2.8386, | |
| "step": 38000 | |
| }, | |
| { | |
| "epoch": 2.464, | |
| "grad_norm": 3.6406147480010986, | |
| "learning_rate": 8.933333333333333e-06, | |
| "loss": 2.8349, | |
| "step": 38500 | |
| }, | |
| { | |
| "epoch": 2.496, | |
| "grad_norm": 3.6576015949249268, | |
| "learning_rate": 8.400000000000001e-06, | |
| "loss": 2.8271, | |
| "step": 39000 | |
| }, | |
| { | |
| "epoch": 2.528, | |
| "grad_norm": 3.7370338439941406, | |
| "learning_rate": 7.866666666666667e-06, | |
| "loss": 2.8327, | |
| "step": 39500 | |
| }, | |
| { | |
| "epoch": 2.56, | |
| "grad_norm": 4.074278831481934, | |
| "learning_rate": 7.333333333333334e-06, | |
| "loss": 2.8261, | |
| "step": 40000 | |
| }, | |
| { | |
| "epoch": 2.592, | |
| "grad_norm": 3.8706717491149902, | |
| "learning_rate": 6.800000000000001e-06, | |
| "loss": 2.8274, | |
| "step": 40500 | |
| }, | |
| { | |
| "epoch": 2.624, | |
| "grad_norm": 3.7191755771636963, | |
| "learning_rate": 6.266666666666666e-06, | |
| "loss": 2.8198, | |
| "step": 41000 | |
| }, | |
| { | |
| "epoch": 2.656, | |
| "grad_norm": 3.806464672088623, | |
| "learning_rate": 5.733333333333333e-06, | |
| "loss": 2.8239, | |
| "step": 41500 | |
| }, | |
| { | |
| "epoch": 2.6879999999999997, | |
| "grad_norm": 3.867421865463257, | |
| "learning_rate": 5.2e-06, | |
| "loss": 2.8272, | |
| "step": 42000 | |
| }, | |
| { | |
| "epoch": 2.7199999999999998, | |
| "grad_norm": 3.755152463912964, | |
| "learning_rate": 4.666666666666667e-06, | |
| "loss": 2.8312, | |
| "step": 42500 | |
| }, | |
| { | |
| "epoch": 2.752, | |
| "grad_norm": 3.7332184314727783, | |
| "learning_rate": 4.133333333333333e-06, | |
| "loss": 2.8208, | |
| "step": 43000 | |
| }, | |
| { | |
| "epoch": 2.784, | |
| "grad_norm": 4.246304512023926, | |
| "learning_rate": 3.6e-06, | |
| "loss": 2.8228, | |
| "step": 43500 | |
| }, | |
| { | |
| "epoch": 2.816, | |
| "grad_norm": 3.741265296936035, | |
| "learning_rate": 3.066666666666667e-06, | |
| "loss": 2.8206, | |
| "step": 44000 | |
| }, | |
| { | |
| "epoch": 2.848, | |
| "grad_norm": 3.8181254863739014, | |
| "learning_rate": 2.5333333333333334e-06, | |
| "loss": 2.8102, | |
| "step": 44500 | |
| }, | |
| { | |
| "epoch": 2.88, | |
| "grad_norm": 3.6302571296691895, | |
| "learning_rate": 2.0000000000000003e-06, | |
| "loss": 2.8219, | |
| "step": 45000 | |
| }, | |
| { | |
| "epoch": 2.912, | |
| "grad_norm": 3.6248600482940674, | |
| "learning_rate": 1.4666666666666667e-06, | |
| "loss": 2.8091, | |
| "step": 45500 | |
| }, | |
| { | |
| "epoch": 2.944, | |
| "grad_norm": 4.018101692199707, | |
| "learning_rate": 9.333333333333334e-07, | |
| "loss": 2.8063, | |
| "step": 46000 | |
| }, | |
| { | |
| "epoch": 2.976, | |
| "grad_norm": 3.7743148803710938, | |
| "learning_rate": 4.0000000000000003e-07, | |
| "loss": 2.8161, | |
| "step": 46500 | |
| } | |
| ], | |
| "logging_steps": 500, | |
| "max_steps": 46875, | |
| "num_input_tokens_seen": 0, | |
| "num_train_epochs": 3, | |
| "save_steps": 500, | |
| "stateful_callbacks": { | |
| "TrainerControl": { | |
| "args": { | |
| "should_epoch_stop": false, | |
| "should_evaluate": false, | |
| "should_log": false, | |
| "should_save": true, | |
| "should_training_stop": true | |
| }, | |
| "attributes": {} | |
| } | |
| }, | |
| "total_flos": 4.01266077696e+17, | |
| "train_batch_size": 16, | |
| "trial_name": null, | |
| "trial_params": null | |
| } | |