|
{ |
|
"best_metric": 0.9166666666666666, |
|
"best_model_checkpoint": "beit-base-patch16-224-hasta-75-fold3/checkpoint-3", |
|
"epoch": 100.0, |
|
"eval_steps": 500, |
|
"global_step": 100, |
|
"is_hyper_param_search": false, |
|
"is_local_process_zero": true, |
|
"is_world_process_zero": true, |
|
"log_history": [ |
|
{ |
|
"epoch": 1.0, |
|
"eval_accuracy": 0.16666666666666666, |
|
"eval_loss": 1.2661389112472534, |
|
"eval_runtime": 0.1828, |
|
"eval_samples_per_second": 65.652, |
|
"eval_steps_per_second": 5.471, |
|
"step": 1 |
|
}, |
|
{ |
|
"epoch": 2.0, |
|
"eval_accuracy": 0.5, |
|
"eval_loss": 0.9214513897895813, |
|
"eval_runtime": 0.4459, |
|
"eval_samples_per_second": 26.913, |
|
"eval_steps_per_second": 2.243, |
|
"step": 2 |
|
}, |
|
{ |
|
"epoch": 3.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.5329789519309998, |
|
"eval_runtime": 0.1824, |
|
"eval_samples_per_second": 65.806, |
|
"eval_steps_per_second": 5.484, |
|
"step": 3 |
|
}, |
|
{ |
|
"epoch": 4.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.43614378571510315, |
|
"eval_runtime": 0.177, |
|
"eval_samples_per_second": 67.802, |
|
"eval_steps_per_second": 5.65, |
|
"step": 4 |
|
}, |
|
{ |
|
"epoch": 5.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.47239574790000916, |
|
"eval_runtime": 0.1787, |
|
"eval_samples_per_second": 67.145, |
|
"eval_steps_per_second": 5.595, |
|
"step": 5 |
|
}, |
|
{ |
|
"epoch": 6.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.4423789978027344, |
|
"eval_runtime": 0.18, |
|
"eval_samples_per_second": 66.679, |
|
"eval_steps_per_second": 5.557, |
|
"step": 6 |
|
}, |
|
{ |
|
"epoch": 7.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.3787635266780853, |
|
"eval_runtime": 0.1809, |
|
"eval_samples_per_second": 66.349, |
|
"eval_steps_per_second": 5.529, |
|
"step": 7 |
|
}, |
|
{ |
|
"epoch": 8.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.4228295385837555, |
|
"eval_runtime": 0.1771, |
|
"eval_samples_per_second": 67.756, |
|
"eval_steps_per_second": 5.646, |
|
"step": 8 |
|
}, |
|
{ |
|
"epoch": 9.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.4591946303844452, |
|
"eval_runtime": 0.1733, |
|
"eval_samples_per_second": 69.242, |
|
"eval_steps_per_second": 5.77, |
|
"step": 9 |
|
}, |
|
{ |
|
"epoch": 10.0, |
|
"grad_norm": 3.4733872413635254, |
|
"learning_rate": 5e-05, |
|
"loss": 0.3974, |
|
"step": 10 |
|
}, |
|
{ |
|
"epoch": 10.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.3966202437877655, |
|
"eval_runtime": 0.1768, |
|
"eval_samples_per_second": 67.882, |
|
"eval_steps_per_second": 5.657, |
|
"step": 10 |
|
}, |
|
{ |
|
"epoch": 11.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.3516940772533417, |
|
"eval_runtime": 0.1734, |
|
"eval_samples_per_second": 69.191, |
|
"eval_steps_per_second": 5.766, |
|
"step": 11 |
|
}, |
|
{ |
|
"epoch": 12.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.3481403887271881, |
|
"eval_runtime": 0.1723, |
|
"eval_samples_per_second": 69.647, |
|
"eval_steps_per_second": 5.804, |
|
"step": 12 |
|
}, |
|
{ |
|
"epoch": 13.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.3315412700176239, |
|
"eval_runtime": 0.1749, |
|
"eval_samples_per_second": 68.622, |
|
"eval_steps_per_second": 5.719, |
|
"step": 13 |
|
}, |
|
{ |
|
"epoch": 14.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.33532747626304626, |
|
"eval_runtime": 0.1783, |
|
"eval_samples_per_second": 67.305, |
|
"eval_steps_per_second": 5.609, |
|
"step": 14 |
|
}, |
|
{ |
|
"epoch": 15.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.37836527824401855, |
|
"eval_runtime": 0.1755, |
|
"eval_samples_per_second": 68.364, |
|
"eval_steps_per_second": 5.697, |
|
"step": 15 |
|
}, |
|
{ |
|
"epoch": 16.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.4231695234775543, |
|
"eval_runtime": 0.18, |
|
"eval_samples_per_second": 66.656, |
|
"eval_steps_per_second": 5.555, |
|
"step": 16 |
|
}, |
|
{ |
|
"epoch": 17.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.46541595458984375, |
|
"eval_runtime": 0.1864, |
|
"eval_samples_per_second": 64.376, |
|
"eval_steps_per_second": 5.365, |
|
"step": 17 |
|
}, |
|
{ |
|
"epoch": 18.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.40913712978363037, |
|
"eval_runtime": 0.1818, |
|
"eval_samples_per_second": 66.017, |
|
"eval_steps_per_second": 5.501, |
|
"step": 18 |
|
}, |
|
{ |
|
"epoch": 19.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.41492214798927307, |
|
"eval_runtime": 0.1826, |
|
"eval_samples_per_second": 65.734, |
|
"eval_steps_per_second": 5.478, |
|
"step": 19 |
|
}, |
|
{ |
|
"epoch": 20.0, |
|
"grad_norm": 3.064286231994629, |
|
"learning_rate": 4.4444444444444447e-05, |
|
"loss": 0.1925, |
|
"step": 20 |
|
}, |
|
{ |
|
"epoch": 20.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.420170396566391, |
|
"eval_runtime": 0.1777, |
|
"eval_samples_per_second": 67.538, |
|
"eval_steps_per_second": 5.628, |
|
"step": 20 |
|
}, |
|
{ |
|
"epoch": 21.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.4502495527267456, |
|
"eval_runtime": 0.1806, |
|
"eval_samples_per_second": 66.438, |
|
"eval_steps_per_second": 5.536, |
|
"step": 21 |
|
}, |
|
{ |
|
"epoch": 22.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.43711844086647034, |
|
"eval_runtime": 0.1784, |
|
"eval_samples_per_second": 67.269, |
|
"eval_steps_per_second": 5.606, |
|
"step": 22 |
|
}, |
|
{ |
|
"epoch": 23.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.42908453941345215, |
|
"eval_runtime": 0.1855, |
|
"eval_samples_per_second": 64.678, |
|
"eval_steps_per_second": 5.39, |
|
"step": 23 |
|
}, |
|
{ |
|
"epoch": 24.0, |
|
"eval_accuracy": 0.8333333333333334, |
|
"eval_loss": 0.4265357255935669, |
|
"eval_runtime": 0.1885, |
|
"eval_samples_per_second": 63.662, |
|
"eval_steps_per_second": 5.305, |
|
"step": 24 |
|
}, |
|
{ |
|
"epoch": 25.0, |
|
"eval_accuracy": 0.8333333333333334, |
|
"eval_loss": 0.44143810868263245, |
|
"eval_runtime": 0.1783, |
|
"eval_samples_per_second": 67.304, |
|
"eval_steps_per_second": 5.609, |
|
"step": 25 |
|
}, |
|
{ |
|
"epoch": 26.0, |
|
"eval_accuracy": 0.8333333333333334, |
|
"eval_loss": 0.39568281173706055, |
|
"eval_runtime": 0.1766, |
|
"eval_samples_per_second": 67.959, |
|
"eval_steps_per_second": 5.663, |
|
"step": 26 |
|
}, |
|
{ |
|
"epoch": 27.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.3567022979259491, |
|
"eval_runtime": 0.1775, |
|
"eval_samples_per_second": 67.62, |
|
"eval_steps_per_second": 5.635, |
|
"step": 27 |
|
}, |
|
{ |
|
"epoch": 28.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.34059563279151917, |
|
"eval_runtime": 0.1818, |
|
"eval_samples_per_second": 66.002, |
|
"eval_steps_per_second": 5.5, |
|
"step": 28 |
|
}, |
|
{ |
|
"epoch": 29.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.3101191818714142, |
|
"eval_runtime": 0.1794, |
|
"eval_samples_per_second": 66.885, |
|
"eval_steps_per_second": 5.574, |
|
"step": 29 |
|
}, |
|
{ |
|
"epoch": 30.0, |
|
"grad_norm": 4.029542446136475, |
|
"learning_rate": 3.888888888888889e-05, |
|
"loss": 0.1407, |
|
"step": 30 |
|
}, |
|
{ |
|
"epoch": 30.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.2956497073173523, |
|
"eval_runtime": 0.1777, |
|
"eval_samples_per_second": 67.512, |
|
"eval_steps_per_second": 5.626, |
|
"step": 30 |
|
}, |
|
{ |
|
"epoch": 31.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.354778915643692, |
|
"eval_runtime": 0.1787, |
|
"eval_samples_per_second": 67.147, |
|
"eval_steps_per_second": 5.596, |
|
"step": 31 |
|
}, |
|
{ |
|
"epoch": 32.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.30669736862182617, |
|
"eval_runtime": 0.177, |
|
"eval_samples_per_second": 67.801, |
|
"eval_steps_per_second": 5.65, |
|
"step": 32 |
|
}, |
|
{ |
|
"epoch": 33.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.2484876960515976, |
|
"eval_runtime": 0.1756, |
|
"eval_samples_per_second": 68.343, |
|
"eval_steps_per_second": 5.695, |
|
"step": 33 |
|
}, |
|
{ |
|
"epoch": 34.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.2817540466785431, |
|
"eval_runtime": 0.1821, |
|
"eval_samples_per_second": 65.889, |
|
"eval_steps_per_second": 5.491, |
|
"step": 34 |
|
}, |
|
{ |
|
"epoch": 35.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.31971117854118347, |
|
"eval_runtime": 0.1842, |
|
"eval_samples_per_second": 65.148, |
|
"eval_steps_per_second": 5.429, |
|
"step": 35 |
|
}, |
|
{ |
|
"epoch": 36.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.3400665819644928, |
|
"eval_runtime": 0.1773, |
|
"eval_samples_per_second": 67.699, |
|
"eval_steps_per_second": 5.642, |
|
"step": 36 |
|
}, |
|
{ |
|
"epoch": 37.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.3282471299171448, |
|
"eval_runtime": 0.1912, |
|
"eval_samples_per_second": 62.749, |
|
"eval_steps_per_second": 5.229, |
|
"step": 37 |
|
}, |
|
{ |
|
"epoch": 38.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.307833194732666, |
|
"eval_runtime": 0.1814, |
|
"eval_samples_per_second": 66.164, |
|
"eval_steps_per_second": 5.514, |
|
"step": 38 |
|
}, |
|
{ |
|
"epoch": 39.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.290647953748703, |
|
"eval_runtime": 0.1878, |
|
"eval_samples_per_second": 63.903, |
|
"eval_steps_per_second": 5.325, |
|
"step": 39 |
|
}, |
|
{ |
|
"epoch": 40.0, |
|
"grad_norm": 5.818295478820801, |
|
"learning_rate": 3.3333333333333335e-05, |
|
"loss": 0.1204, |
|
"step": 40 |
|
}, |
|
{ |
|
"epoch": 40.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.28751257061958313, |
|
"eval_runtime": 0.1789, |
|
"eval_samples_per_second": 67.071, |
|
"eval_steps_per_second": 5.589, |
|
"step": 40 |
|
}, |
|
{ |
|
"epoch": 41.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.3187923729419708, |
|
"eval_runtime": 0.1831, |
|
"eval_samples_per_second": 65.554, |
|
"eval_steps_per_second": 5.463, |
|
"step": 41 |
|
}, |
|
{ |
|
"epoch": 42.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.34489360451698303, |
|
"eval_runtime": 0.1777, |
|
"eval_samples_per_second": 67.529, |
|
"eval_steps_per_second": 5.627, |
|
"step": 42 |
|
}, |
|
{ |
|
"epoch": 43.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.3519529402256012, |
|
"eval_runtime": 0.1785, |
|
"eval_samples_per_second": 67.244, |
|
"eval_steps_per_second": 5.604, |
|
"step": 43 |
|
}, |
|
{ |
|
"epoch": 44.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.34011128544807434, |
|
"eval_runtime": 0.1767, |
|
"eval_samples_per_second": 67.904, |
|
"eval_steps_per_second": 5.659, |
|
"step": 44 |
|
}, |
|
{ |
|
"epoch": 45.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.3029060363769531, |
|
"eval_runtime": 0.183, |
|
"eval_samples_per_second": 65.57, |
|
"eval_steps_per_second": 5.464, |
|
"step": 45 |
|
}, |
|
{ |
|
"epoch": 46.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.2583896517753601, |
|
"eval_runtime": 0.1855, |
|
"eval_samples_per_second": 64.704, |
|
"eval_steps_per_second": 5.392, |
|
"step": 46 |
|
}, |
|
{ |
|
"epoch": 47.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.23584894835948944, |
|
"eval_runtime": 0.1782, |
|
"eval_samples_per_second": 67.351, |
|
"eval_steps_per_second": 5.613, |
|
"step": 47 |
|
}, |
|
{ |
|
"epoch": 48.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.22650504112243652, |
|
"eval_runtime": 0.1834, |
|
"eval_samples_per_second": 65.445, |
|
"eval_steps_per_second": 5.454, |
|
"step": 48 |
|
}, |
|
{ |
|
"epoch": 49.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.21442817151546478, |
|
"eval_runtime": 0.1802, |
|
"eval_samples_per_second": 66.603, |
|
"eval_steps_per_second": 5.55, |
|
"step": 49 |
|
}, |
|
{ |
|
"epoch": 50.0, |
|
"grad_norm": 5.235023021697998, |
|
"learning_rate": 2.777777777777778e-05, |
|
"loss": 0.0691, |
|
"step": 50 |
|
}, |
|
{ |
|
"epoch": 50.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.16224278509616852, |
|
"eval_runtime": 0.1861, |
|
"eval_samples_per_second": 64.493, |
|
"eval_steps_per_second": 5.374, |
|
"step": 50 |
|
}, |
|
{ |
|
"epoch": 51.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.10936030000448227, |
|
"eval_runtime": 0.179, |
|
"eval_samples_per_second": 67.024, |
|
"eval_steps_per_second": 5.585, |
|
"step": 51 |
|
}, |
|
{ |
|
"epoch": 52.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.19548524916172028, |
|
"eval_runtime": 0.181, |
|
"eval_samples_per_second": 66.292, |
|
"eval_steps_per_second": 5.524, |
|
"step": 52 |
|
}, |
|
{ |
|
"epoch": 53.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.3863345682621002, |
|
"eval_runtime": 0.1867, |
|
"eval_samples_per_second": 64.291, |
|
"eval_steps_per_second": 5.358, |
|
"step": 53 |
|
}, |
|
{ |
|
"epoch": 54.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.48027119040489197, |
|
"eval_runtime": 0.1862, |
|
"eval_samples_per_second": 64.443, |
|
"eval_steps_per_second": 5.37, |
|
"step": 54 |
|
}, |
|
{ |
|
"epoch": 55.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.5174521803855896, |
|
"eval_runtime": 0.1828, |
|
"eval_samples_per_second": 65.652, |
|
"eval_steps_per_second": 5.471, |
|
"step": 55 |
|
}, |
|
{ |
|
"epoch": 56.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.48992690443992615, |
|
"eval_runtime": 0.179, |
|
"eval_samples_per_second": 67.055, |
|
"eval_steps_per_second": 5.588, |
|
"step": 56 |
|
}, |
|
{ |
|
"epoch": 57.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.40916869044303894, |
|
"eval_runtime": 0.1864, |
|
"eval_samples_per_second": 64.377, |
|
"eval_steps_per_second": 5.365, |
|
"step": 57 |
|
}, |
|
{ |
|
"epoch": 58.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.3755235970020294, |
|
"eval_runtime": 0.1863, |
|
"eval_samples_per_second": 64.426, |
|
"eval_steps_per_second": 5.369, |
|
"step": 58 |
|
}, |
|
{ |
|
"epoch": 59.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.3641510009765625, |
|
"eval_runtime": 0.1778, |
|
"eval_samples_per_second": 67.504, |
|
"eval_steps_per_second": 5.625, |
|
"step": 59 |
|
}, |
|
{ |
|
"epoch": 60.0, |
|
"grad_norm": 1.58538818359375, |
|
"learning_rate": 2.2222222222222223e-05, |
|
"loss": 0.062, |
|
"step": 60 |
|
}, |
|
{ |
|
"epoch": 60.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.40019646286964417, |
|
"eval_runtime": 0.1791, |
|
"eval_samples_per_second": 67.001, |
|
"eval_steps_per_second": 5.583, |
|
"step": 60 |
|
}, |
|
{ |
|
"epoch": 61.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.40860089659690857, |
|
"eval_runtime": 0.1797, |
|
"eval_samples_per_second": 66.795, |
|
"eval_steps_per_second": 5.566, |
|
"step": 61 |
|
}, |
|
{ |
|
"epoch": 62.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.4066048860549927, |
|
"eval_runtime": 0.1814, |
|
"eval_samples_per_second": 66.153, |
|
"eval_steps_per_second": 5.513, |
|
"step": 62 |
|
}, |
|
{ |
|
"epoch": 63.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.3781147003173828, |
|
"eval_runtime": 0.1764, |
|
"eval_samples_per_second": 68.037, |
|
"eval_steps_per_second": 5.67, |
|
"step": 63 |
|
}, |
|
{ |
|
"epoch": 64.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.325890451669693, |
|
"eval_runtime": 0.1792, |
|
"eval_samples_per_second": 66.955, |
|
"eval_steps_per_second": 5.58, |
|
"step": 64 |
|
}, |
|
{ |
|
"epoch": 65.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.2518305480480194, |
|
"eval_runtime": 0.1785, |
|
"eval_samples_per_second": 67.236, |
|
"eval_steps_per_second": 5.603, |
|
"step": 65 |
|
}, |
|
{ |
|
"epoch": 66.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.21860282123088837, |
|
"eval_runtime": 0.1821, |
|
"eval_samples_per_second": 65.913, |
|
"eval_steps_per_second": 5.493, |
|
"step": 66 |
|
}, |
|
{ |
|
"epoch": 67.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.26009872555732727, |
|
"eval_runtime": 0.1823, |
|
"eval_samples_per_second": 65.821, |
|
"eval_steps_per_second": 5.485, |
|
"step": 67 |
|
}, |
|
{ |
|
"epoch": 68.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.29647091031074524, |
|
"eval_runtime": 0.181, |
|
"eval_samples_per_second": 66.29, |
|
"eval_steps_per_second": 5.524, |
|
"step": 68 |
|
}, |
|
{ |
|
"epoch": 69.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.3698608875274658, |
|
"eval_runtime": 0.1809, |
|
"eval_samples_per_second": 66.346, |
|
"eval_steps_per_second": 5.529, |
|
"step": 69 |
|
}, |
|
{ |
|
"epoch": 70.0, |
|
"grad_norm": 2.8682587146759033, |
|
"learning_rate": 1.6666666666666667e-05, |
|
"loss": 0.0313, |
|
"step": 70 |
|
}, |
|
{ |
|
"epoch": 70.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.4416874945163727, |
|
"eval_runtime": 0.176, |
|
"eval_samples_per_second": 68.167, |
|
"eval_steps_per_second": 5.681, |
|
"step": 70 |
|
}, |
|
{ |
|
"epoch": 71.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.5105072259902954, |
|
"eval_runtime": 0.1823, |
|
"eval_samples_per_second": 65.823, |
|
"eval_steps_per_second": 5.485, |
|
"step": 71 |
|
}, |
|
{ |
|
"epoch": 72.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.5439042448997498, |
|
"eval_runtime": 0.1818, |
|
"eval_samples_per_second": 66.021, |
|
"eval_steps_per_second": 5.502, |
|
"step": 72 |
|
}, |
|
{ |
|
"epoch": 73.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.5556520819664001, |
|
"eval_runtime": 0.1861, |
|
"eval_samples_per_second": 64.476, |
|
"eval_steps_per_second": 5.373, |
|
"step": 73 |
|
}, |
|
{ |
|
"epoch": 74.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.5514054894447327, |
|
"eval_runtime": 0.179, |
|
"eval_samples_per_second": 67.037, |
|
"eval_steps_per_second": 5.586, |
|
"step": 74 |
|
}, |
|
{ |
|
"epoch": 75.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.5485500693321228, |
|
"eval_runtime": 0.1758, |
|
"eval_samples_per_second": 68.259, |
|
"eval_steps_per_second": 5.688, |
|
"step": 75 |
|
}, |
|
{ |
|
"epoch": 76.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.5317474007606506, |
|
"eval_runtime": 0.1797, |
|
"eval_samples_per_second": 66.79, |
|
"eval_steps_per_second": 5.566, |
|
"step": 76 |
|
}, |
|
{ |
|
"epoch": 77.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.49958762526512146, |
|
"eval_runtime": 0.178, |
|
"eval_samples_per_second": 67.42, |
|
"eval_steps_per_second": 5.618, |
|
"step": 77 |
|
}, |
|
{ |
|
"epoch": 78.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.4638024866580963, |
|
"eval_runtime": 0.1765, |
|
"eval_samples_per_second": 68.005, |
|
"eval_steps_per_second": 5.667, |
|
"step": 78 |
|
}, |
|
{ |
|
"epoch": 79.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.4195807874202728, |
|
"eval_runtime": 0.1827, |
|
"eval_samples_per_second": 65.67, |
|
"eval_steps_per_second": 5.472, |
|
"step": 79 |
|
}, |
|
{ |
|
"epoch": 80.0, |
|
"grad_norm": 1.3341442346572876, |
|
"learning_rate": 1.1111111111111112e-05, |
|
"loss": 0.0359, |
|
"step": 80 |
|
}, |
|
{ |
|
"epoch": 80.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.36392179131507874, |
|
"eval_runtime": 0.1768, |
|
"eval_samples_per_second": 67.889, |
|
"eval_steps_per_second": 5.657, |
|
"step": 80 |
|
}, |
|
{ |
|
"epoch": 81.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.3529929220676422, |
|
"eval_runtime": 0.176, |
|
"eval_samples_per_second": 68.168, |
|
"eval_steps_per_second": 5.681, |
|
"step": 81 |
|
}, |
|
{ |
|
"epoch": 82.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.3917939364910126, |
|
"eval_runtime": 0.1786, |
|
"eval_samples_per_second": 67.193, |
|
"eval_steps_per_second": 5.599, |
|
"step": 82 |
|
}, |
|
{ |
|
"epoch": 83.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.4289613664150238, |
|
"eval_runtime": 0.179, |
|
"eval_samples_per_second": 67.056, |
|
"eval_steps_per_second": 5.588, |
|
"step": 83 |
|
}, |
|
{ |
|
"epoch": 84.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.4568503797054291, |
|
"eval_runtime": 0.1788, |
|
"eval_samples_per_second": 67.112, |
|
"eval_steps_per_second": 5.593, |
|
"step": 84 |
|
}, |
|
{ |
|
"epoch": 85.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.4849337041378021, |
|
"eval_runtime": 0.178, |
|
"eval_samples_per_second": 67.415, |
|
"eval_steps_per_second": 5.618, |
|
"step": 85 |
|
}, |
|
{ |
|
"epoch": 86.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.5136071443557739, |
|
"eval_runtime": 0.1789, |
|
"eval_samples_per_second": 67.087, |
|
"eval_steps_per_second": 5.591, |
|
"step": 86 |
|
}, |
|
{ |
|
"epoch": 87.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.5406306982040405, |
|
"eval_runtime": 0.1778, |
|
"eval_samples_per_second": 67.506, |
|
"eval_steps_per_second": 5.626, |
|
"step": 87 |
|
}, |
|
{ |
|
"epoch": 88.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.5585842132568359, |
|
"eval_runtime": 0.1812, |
|
"eval_samples_per_second": 66.233, |
|
"eval_steps_per_second": 5.519, |
|
"step": 88 |
|
}, |
|
{ |
|
"epoch": 89.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.5744801163673401, |
|
"eval_runtime": 0.1795, |
|
"eval_samples_per_second": 66.849, |
|
"eval_steps_per_second": 5.571, |
|
"step": 89 |
|
}, |
|
{ |
|
"epoch": 90.0, |
|
"grad_norm": 1.5781567096710205, |
|
"learning_rate": 5.555555555555556e-06, |
|
"loss": 0.0338, |
|
"step": 90 |
|
}, |
|
{ |
|
"epoch": 90.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.5878409743309021, |
|
"eval_runtime": 0.1757, |
|
"eval_samples_per_second": 68.279, |
|
"eval_steps_per_second": 5.69, |
|
"step": 90 |
|
}, |
|
{ |
|
"epoch": 91.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.5981386303901672, |
|
"eval_runtime": 0.1843, |
|
"eval_samples_per_second": 65.098, |
|
"eval_steps_per_second": 5.425, |
|
"step": 91 |
|
}, |
|
{ |
|
"epoch": 92.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.6071062684059143, |
|
"eval_runtime": 0.1825, |
|
"eval_samples_per_second": 65.737, |
|
"eval_steps_per_second": 5.478, |
|
"step": 92 |
|
}, |
|
{ |
|
"epoch": 93.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.61325603723526, |
|
"eval_runtime": 0.1797, |
|
"eval_samples_per_second": 66.765, |
|
"eval_steps_per_second": 5.564, |
|
"step": 93 |
|
}, |
|
{ |
|
"epoch": 94.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.6139045357704163, |
|
"eval_runtime": 0.1769, |
|
"eval_samples_per_second": 67.831, |
|
"eval_steps_per_second": 5.653, |
|
"step": 94 |
|
}, |
|
{ |
|
"epoch": 95.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.6105714440345764, |
|
"eval_runtime": 0.1785, |
|
"eval_samples_per_second": 67.218, |
|
"eval_steps_per_second": 5.601, |
|
"step": 95 |
|
}, |
|
{ |
|
"epoch": 96.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.6059131622314453, |
|
"eval_runtime": 0.1802, |
|
"eval_samples_per_second": 66.6, |
|
"eval_steps_per_second": 5.55, |
|
"step": 96 |
|
}, |
|
{ |
|
"epoch": 97.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.6018847227096558, |
|
"eval_runtime": 0.1806, |
|
"eval_samples_per_second": 66.429, |
|
"eval_steps_per_second": 5.536, |
|
"step": 97 |
|
}, |
|
{ |
|
"epoch": 98.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.5980721712112427, |
|
"eval_runtime": 0.1776, |
|
"eval_samples_per_second": 67.585, |
|
"eval_steps_per_second": 5.632, |
|
"step": 98 |
|
}, |
|
{ |
|
"epoch": 99.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.5942111015319824, |
|
"eval_runtime": 0.1837, |
|
"eval_samples_per_second": 65.32, |
|
"eval_steps_per_second": 5.443, |
|
"step": 99 |
|
}, |
|
{ |
|
"epoch": 100.0, |
|
"grad_norm": 0.9650501608848572, |
|
"learning_rate": 0.0, |
|
"loss": 0.0302, |
|
"step": 100 |
|
}, |
|
{ |
|
"epoch": 100.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.5922804474830627, |
|
"eval_runtime": 0.1737, |
|
"eval_samples_per_second": 69.072, |
|
"eval_steps_per_second": 5.756, |
|
"step": 100 |
|
}, |
|
{ |
|
"epoch": 100.0, |
|
"step": 100, |
|
"total_flos": 4.802492916781056e+17, |
|
"train_loss": 0.11133988082408905, |
|
"train_runtime": 430.5036, |
|
"train_samples_per_second": 14.402, |
|
"train_steps_per_second": 0.232 |
|
}, |
|
{ |
|
"epoch": 100.0, |
|
"eval_accuracy": 0.9166666666666666, |
|
"eval_loss": 0.5329789519309998, |
|
"eval_runtime": 0.2383, |
|
"eval_samples_per_second": 50.357, |
|
"eval_steps_per_second": 4.196, |
|
"step": 100 |
|
} |
|
], |
|
"logging_steps": 10, |
|
"max_steps": 100, |
|
"num_input_tokens_seen": 0, |
|
"num_train_epochs": 100, |
|
"save_steps": 500, |
|
"stateful_callbacks": { |
|
"TrainerControl": { |
|
"args": { |
|
"should_epoch_stop": false, |
|
"should_evaluate": false, |
|
"should_log": false, |
|
"should_save": true, |
|
"should_training_stop": true |
|
}, |
|
"attributes": {} |
|
} |
|
}, |
|
"total_flos": 4.802492916781056e+17, |
|
"train_batch_size": 32, |
|
"trial_name": null, |
|
"trial_params": null |
|
} |
|
|