BilalMuftuoglu's picture
End of training
6755d4b verified
{
"best_metric": 0.9166666666666666,
"best_model_checkpoint": "deit-base-distilled-patch16-224-hasta-75-fold3/checkpoint-3",
"epoch": 100.0,
"eval_steps": 500,
"global_step": 100,
"is_hyper_param_search": false,
"is_local_process_zero": true,
"is_world_process_zero": true,
"log_history": [
{
"epoch": 1.0,
"eval_accuracy": 0.16666666666666666,
"eval_loss": 1.0629369020462036,
"eval_runtime": 0.1707,
"eval_samples_per_second": 70.282,
"eval_steps_per_second": 5.857,
"step": 1
},
{
"epoch": 2.0,
"eval_accuracy": 0.5833333333333334,
"eval_loss": 0.8596444129943848,
"eval_runtime": 0.1698,
"eval_samples_per_second": 70.691,
"eval_steps_per_second": 5.891,
"step": 2
},
{
"epoch": 3.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.5698640942573547,
"eval_runtime": 0.1672,
"eval_samples_per_second": 71.766,
"eval_steps_per_second": 5.981,
"step": 3
},
{
"epoch": 4.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.35755404829978943,
"eval_runtime": 0.1656,
"eval_samples_per_second": 72.463,
"eval_steps_per_second": 6.039,
"step": 4
},
{
"epoch": 5.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.2875071167945862,
"eval_runtime": 0.1817,
"eval_samples_per_second": 66.039,
"eval_steps_per_second": 5.503,
"step": 5
},
{
"epoch": 6.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.2992646098136902,
"eval_runtime": 0.1703,
"eval_samples_per_second": 70.449,
"eval_steps_per_second": 5.871,
"step": 6
},
{
"epoch": 7.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.3152151107788086,
"eval_runtime": 0.1711,
"eval_samples_per_second": 70.119,
"eval_steps_per_second": 5.843,
"step": 7
},
{
"epoch": 8.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.33988305926322937,
"eval_runtime": 0.1734,
"eval_samples_per_second": 69.204,
"eval_steps_per_second": 5.767,
"step": 8
},
{
"epoch": 9.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4231661856174469,
"eval_runtime": 0.1715,
"eval_samples_per_second": 69.989,
"eval_steps_per_second": 5.832,
"step": 9
},
{
"epoch": 10.0,
"grad_norm": 1.1218602657318115,
"learning_rate": 5e-05,
"loss": 0.3622,
"step": 10
},
{
"epoch": 10.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.5128641724586487,
"eval_runtime": 0.1673,
"eval_samples_per_second": 71.715,
"eval_steps_per_second": 5.976,
"step": 10
},
{
"epoch": 11.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.464043527841568,
"eval_runtime": 0.1775,
"eval_samples_per_second": 67.62,
"eval_steps_per_second": 5.635,
"step": 11
},
{
"epoch": 12.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.37085798382759094,
"eval_runtime": 0.1693,
"eval_samples_per_second": 70.88,
"eval_steps_per_second": 5.907,
"step": 12
},
{
"epoch": 13.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.32289618253707886,
"eval_runtime": 0.1718,
"eval_samples_per_second": 69.835,
"eval_steps_per_second": 5.82,
"step": 13
},
{
"epoch": 14.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.3182906210422516,
"eval_runtime": 0.17,
"eval_samples_per_second": 70.592,
"eval_steps_per_second": 5.883,
"step": 14
},
{
"epoch": 15.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.35897183418273926,
"eval_runtime": 0.1737,
"eval_samples_per_second": 69.089,
"eval_steps_per_second": 5.757,
"step": 15
},
{
"epoch": 16.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4467991590499878,
"eval_runtime": 0.1757,
"eval_samples_per_second": 68.305,
"eval_steps_per_second": 5.692,
"step": 16
},
{
"epoch": 17.0,
"eval_accuracy": 0.75,
"eval_loss": 0.5249179601669312,
"eval_runtime": 0.1715,
"eval_samples_per_second": 69.961,
"eval_steps_per_second": 5.83,
"step": 17
},
{
"epoch": 18.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4226641356945038,
"eval_runtime": 0.1671,
"eval_samples_per_second": 71.796,
"eval_steps_per_second": 5.983,
"step": 18
},
{
"epoch": 19.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.32995596528053284,
"eval_runtime": 0.1731,
"eval_samples_per_second": 69.308,
"eval_steps_per_second": 5.776,
"step": 19
},
{
"epoch": 20.0,
"grad_norm": 0.9122682809829712,
"learning_rate": 4.4444444444444447e-05,
"loss": 0.1749,
"step": 20
},
{
"epoch": 20.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.3030628561973572,
"eval_runtime": 0.1687,
"eval_samples_per_second": 71.142,
"eval_steps_per_second": 5.928,
"step": 20
},
{
"epoch": 21.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.28360483050346375,
"eval_runtime": 0.1652,
"eval_samples_per_second": 72.639,
"eval_steps_per_second": 6.053,
"step": 21
},
{
"epoch": 22.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.25959542393684387,
"eval_runtime": 0.1716,
"eval_samples_per_second": 69.911,
"eval_steps_per_second": 5.826,
"step": 22
},
{
"epoch": 23.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.221525177359581,
"eval_runtime": 0.1719,
"eval_samples_per_second": 69.796,
"eval_steps_per_second": 5.816,
"step": 23
},
{
"epoch": 24.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.17974130809307098,
"eval_runtime": 0.1687,
"eval_samples_per_second": 71.126,
"eval_steps_per_second": 5.927,
"step": 24
},
{
"epoch": 25.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.1658407598733902,
"eval_runtime": 0.1786,
"eval_samples_per_second": 67.207,
"eval_steps_per_second": 5.601,
"step": 25
},
{
"epoch": 26.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.16004595160484314,
"eval_runtime": 0.1697,
"eval_samples_per_second": 70.714,
"eval_steps_per_second": 5.893,
"step": 26
},
{
"epoch": 27.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.15668407082557678,
"eval_runtime": 0.1721,
"eval_samples_per_second": 69.733,
"eval_steps_per_second": 5.811,
"step": 27
},
{
"epoch": 28.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.16804589331150055,
"eval_runtime": 0.1684,
"eval_samples_per_second": 71.261,
"eval_steps_per_second": 5.938,
"step": 28
},
{
"epoch": 29.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.2078952044248581,
"eval_runtime": 0.1697,
"eval_samples_per_second": 70.723,
"eval_steps_per_second": 5.894,
"step": 29
},
{
"epoch": 30.0,
"grad_norm": 1.0371726751327515,
"learning_rate": 3.888888888888889e-05,
"loss": 0.1002,
"step": 30
},
{
"epoch": 30.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.2457704097032547,
"eval_runtime": 0.1679,
"eval_samples_per_second": 71.488,
"eval_steps_per_second": 5.957,
"step": 30
},
{
"epoch": 31.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.26374146342277527,
"eval_runtime": 0.1739,
"eval_samples_per_second": 69.013,
"eval_steps_per_second": 5.751,
"step": 31
},
{
"epoch": 32.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.2794816195964813,
"eval_runtime": 0.1659,
"eval_samples_per_second": 72.337,
"eval_steps_per_second": 6.028,
"step": 32
},
{
"epoch": 33.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.31739237904548645,
"eval_runtime": 0.1687,
"eval_samples_per_second": 71.122,
"eval_steps_per_second": 5.927,
"step": 33
},
{
"epoch": 34.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.3426431715488434,
"eval_runtime": 0.1811,
"eval_samples_per_second": 66.279,
"eval_steps_per_second": 5.523,
"step": 34
},
{
"epoch": 35.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.3858432471752167,
"eval_runtime": 0.1695,
"eval_samples_per_second": 70.792,
"eval_steps_per_second": 5.899,
"step": 35
},
{
"epoch": 36.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4281294345855713,
"eval_runtime": 0.1662,
"eval_samples_per_second": 72.217,
"eval_steps_per_second": 6.018,
"step": 36
},
{
"epoch": 37.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4446846544742584,
"eval_runtime": 0.1701,
"eval_samples_per_second": 70.526,
"eval_steps_per_second": 5.877,
"step": 37
},
{
"epoch": 38.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4355243444442749,
"eval_runtime": 0.1762,
"eval_samples_per_second": 68.117,
"eval_steps_per_second": 5.676,
"step": 38
},
{
"epoch": 39.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.43055668473243713,
"eval_runtime": 0.1691,
"eval_samples_per_second": 70.983,
"eval_steps_per_second": 5.915,
"step": 39
},
{
"epoch": 40.0,
"grad_norm": 1.5033899545669556,
"learning_rate": 3.3333333333333335e-05,
"loss": 0.0662,
"step": 40
},
{
"epoch": 40.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.43981432914733887,
"eval_runtime": 0.1673,
"eval_samples_per_second": 71.708,
"eval_steps_per_second": 5.976,
"step": 40
},
{
"epoch": 41.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4657403528690338,
"eval_runtime": 0.1792,
"eval_samples_per_second": 66.956,
"eval_steps_per_second": 5.58,
"step": 41
},
{
"epoch": 42.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.49406906962394714,
"eval_runtime": 0.1827,
"eval_samples_per_second": 65.687,
"eval_steps_per_second": 5.474,
"step": 42
},
{
"epoch": 43.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.5061360001564026,
"eval_runtime": 0.1721,
"eval_samples_per_second": 69.716,
"eval_steps_per_second": 5.81,
"step": 43
},
{
"epoch": 44.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.5010308623313904,
"eval_runtime": 0.1721,
"eval_samples_per_second": 69.707,
"eval_steps_per_second": 5.809,
"step": 44
},
{
"epoch": 45.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4816025495529175,
"eval_runtime": 0.1739,
"eval_samples_per_second": 68.997,
"eval_steps_per_second": 5.75,
"step": 45
},
{
"epoch": 46.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.43980351090431213,
"eval_runtime": 0.1754,
"eval_samples_per_second": 68.411,
"eval_steps_per_second": 5.701,
"step": 46
},
{
"epoch": 47.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.39482763409614563,
"eval_runtime": 0.1751,
"eval_samples_per_second": 68.538,
"eval_steps_per_second": 5.711,
"step": 47
},
{
"epoch": 48.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.3486286699771881,
"eval_runtime": 0.1716,
"eval_samples_per_second": 69.939,
"eval_steps_per_second": 5.828,
"step": 48
},
{
"epoch": 49.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.317996084690094,
"eval_runtime": 0.1834,
"eval_samples_per_second": 65.434,
"eval_steps_per_second": 5.453,
"step": 49
},
{
"epoch": 50.0,
"grad_norm": 2.086700916290283,
"learning_rate": 2.777777777777778e-05,
"loss": 0.0543,
"step": 50
},
{
"epoch": 50.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.30291563272476196,
"eval_runtime": 0.1674,
"eval_samples_per_second": 71.7,
"eval_steps_per_second": 5.975,
"step": 50
},
{
"epoch": 51.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.30529263615608215,
"eval_runtime": 0.1726,
"eval_samples_per_second": 69.507,
"eval_steps_per_second": 5.792,
"step": 51
},
{
"epoch": 52.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.3159608542919159,
"eval_runtime": 0.1746,
"eval_samples_per_second": 68.73,
"eval_steps_per_second": 5.728,
"step": 52
},
{
"epoch": 53.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.34488603472709656,
"eval_runtime": 0.1769,
"eval_samples_per_second": 67.829,
"eval_steps_per_second": 5.652,
"step": 53
},
{
"epoch": 54.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.3712404668331146,
"eval_runtime": 0.1684,
"eval_samples_per_second": 71.261,
"eval_steps_per_second": 5.938,
"step": 54
},
{
"epoch": 55.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.37849855422973633,
"eval_runtime": 0.1646,
"eval_samples_per_second": 72.883,
"eval_steps_per_second": 6.074,
"step": 55
},
{
"epoch": 56.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4048924744129181,
"eval_runtime": 0.1755,
"eval_samples_per_second": 68.392,
"eval_steps_per_second": 5.699,
"step": 56
},
{
"epoch": 57.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4093898832798004,
"eval_runtime": 0.1739,
"eval_samples_per_second": 69.015,
"eval_steps_per_second": 5.751,
"step": 57
},
{
"epoch": 58.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4178568124771118,
"eval_runtime": 0.1709,
"eval_samples_per_second": 70.214,
"eval_steps_per_second": 5.851,
"step": 58
},
{
"epoch": 59.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4082554876804352,
"eval_runtime": 0.1758,
"eval_samples_per_second": 68.267,
"eval_steps_per_second": 5.689,
"step": 59
},
{
"epoch": 60.0,
"grad_norm": 1.0430169105529785,
"learning_rate": 2.2222222222222223e-05,
"loss": 0.0473,
"step": 60
},
{
"epoch": 60.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.3855258524417877,
"eval_runtime": 0.1651,
"eval_samples_per_second": 72.682,
"eval_steps_per_second": 6.057,
"step": 60
},
{
"epoch": 61.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.3757568299770355,
"eval_runtime": 0.1732,
"eval_samples_per_second": 69.301,
"eval_steps_per_second": 5.775,
"step": 61
},
{
"epoch": 62.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.3674669563770294,
"eval_runtime": 0.1805,
"eval_samples_per_second": 66.471,
"eval_steps_per_second": 5.539,
"step": 62
},
{
"epoch": 63.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.36595937609672546,
"eval_runtime": 0.1725,
"eval_samples_per_second": 69.546,
"eval_steps_per_second": 5.796,
"step": 63
},
{
"epoch": 64.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.3842916488647461,
"eval_runtime": 0.1716,
"eval_samples_per_second": 69.931,
"eval_steps_per_second": 5.828,
"step": 64
},
{
"epoch": 65.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4092407524585724,
"eval_runtime": 0.1716,
"eval_samples_per_second": 69.931,
"eval_steps_per_second": 5.828,
"step": 65
},
{
"epoch": 66.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.43741798400878906,
"eval_runtime": 0.1692,
"eval_samples_per_second": 70.913,
"eval_steps_per_second": 5.909,
"step": 66
},
{
"epoch": 67.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4666076898574829,
"eval_runtime": 0.1768,
"eval_samples_per_second": 67.86,
"eval_steps_per_second": 5.655,
"step": 67
},
{
"epoch": 68.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4797869622707367,
"eval_runtime": 0.1677,
"eval_samples_per_second": 71.573,
"eval_steps_per_second": 5.964,
"step": 68
},
{
"epoch": 69.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4868997037410736,
"eval_runtime": 0.1772,
"eval_samples_per_second": 67.736,
"eval_steps_per_second": 5.645,
"step": 69
},
{
"epoch": 70.0,
"grad_norm": 1.435856819152832,
"learning_rate": 1.6666666666666667e-05,
"loss": 0.018,
"step": 70
},
{
"epoch": 70.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.48530229926109314,
"eval_runtime": 0.1732,
"eval_samples_per_second": 69.277,
"eval_steps_per_second": 5.773,
"step": 70
},
{
"epoch": 71.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.47829994559288025,
"eval_runtime": 0.1803,
"eval_samples_per_second": 66.568,
"eval_steps_per_second": 5.547,
"step": 71
},
{
"epoch": 72.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.46492063999176025,
"eval_runtime": 0.168,
"eval_samples_per_second": 71.449,
"eval_steps_per_second": 5.954,
"step": 72
},
{
"epoch": 73.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4524960219860077,
"eval_runtime": 0.171,
"eval_samples_per_second": 70.17,
"eval_steps_per_second": 5.847,
"step": 73
},
{
"epoch": 74.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.44114670157432556,
"eval_runtime": 0.1739,
"eval_samples_per_second": 69.005,
"eval_steps_per_second": 5.75,
"step": 74
},
{
"epoch": 75.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.43548595905303955,
"eval_runtime": 0.1702,
"eval_samples_per_second": 70.491,
"eval_steps_per_second": 5.874,
"step": 75
},
{
"epoch": 76.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4310022294521332,
"eval_runtime": 0.1753,
"eval_samples_per_second": 68.444,
"eval_steps_per_second": 5.704,
"step": 76
},
{
"epoch": 77.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4330272972583771,
"eval_runtime": 0.1759,
"eval_samples_per_second": 68.238,
"eval_steps_per_second": 5.686,
"step": 77
},
{
"epoch": 78.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.429598331451416,
"eval_runtime": 0.173,
"eval_samples_per_second": 69.346,
"eval_steps_per_second": 5.779,
"step": 78
},
{
"epoch": 79.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4263695776462555,
"eval_runtime": 0.1674,
"eval_samples_per_second": 71.673,
"eval_steps_per_second": 5.973,
"step": 79
},
{
"epoch": 80.0,
"grad_norm": 0.7848324179649353,
"learning_rate": 1.1111111111111112e-05,
"loss": 0.0195,
"step": 80
},
{
"epoch": 80.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.42037057876586914,
"eval_runtime": 0.1661,
"eval_samples_per_second": 72.249,
"eval_steps_per_second": 6.021,
"step": 80
},
{
"epoch": 81.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.41821885108947754,
"eval_runtime": 0.176,
"eval_samples_per_second": 68.166,
"eval_steps_per_second": 5.68,
"step": 81
},
{
"epoch": 82.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.41926145553588867,
"eval_runtime": 0.1661,
"eval_samples_per_second": 72.233,
"eval_steps_per_second": 6.019,
"step": 82
},
{
"epoch": 83.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4225173890590668,
"eval_runtime": 0.179,
"eval_samples_per_second": 67.025,
"eval_steps_per_second": 5.585,
"step": 83
},
{
"epoch": 84.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.42075109481811523,
"eval_runtime": 0.173,
"eval_samples_per_second": 69.379,
"eval_steps_per_second": 5.782,
"step": 84
},
{
"epoch": 85.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.419344037771225,
"eval_runtime": 0.1745,
"eval_samples_per_second": 68.767,
"eval_steps_per_second": 5.731,
"step": 85
},
{
"epoch": 86.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4184500277042389,
"eval_runtime": 0.1718,
"eval_samples_per_second": 69.848,
"eval_steps_per_second": 5.821,
"step": 86
},
{
"epoch": 87.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.41862568259239197,
"eval_runtime": 0.1737,
"eval_samples_per_second": 69.104,
"eval_steps_per_second": 5.759,
"step": 87
},
{
"epoch": 88.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.41634032130241394,
"eval_runtime": 0.1696,
"eval_samples_per_second": 70.755,
"eval_steps_per_second": 5.896,
"step": 88
},
{
"epoch": 89.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4076405465602875,
"eval_runtime": 0.1722,
"eval_samples_per_second": 69.682,
"eval_steps_per_second": 5.807,
"step": 89
},
{
"epoch": 90.0,
"grad_norm": 0.31352582573890686,
"learning_rate": 5.555555555555556e-06,
"loss": 0.0203,
"step": 90
},
{
"epoch": 90.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.40323224663734436,
"eval_runtime": 0.1684,
"eval_samples_per_second": 71.262,
"eval_steps_per_second": 5.939,
"step": 90
},
{
"epoch": 91.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.40003105998039246,
"eval_runtime": 0.1745,
"eval_samples_per_second": 68.784,
"eval_steps_per_second": 5.732,
"step": 91
},
{
"epoch": 92.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.40027856826782227,
"eval_runtime": 0.1698,
"eval_samples_per_second": 70.664,
"eval_steps_per_second": 5.889,
"step": 92
},
{
"epoch": 93.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.40331587195396423,
"eval_runtime": 0.1769,
"eval_samples_per_second": 67.851,
"eval_steps_per_second": 5.654,
"step": 93
},
{
"epoch": 94.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.4078938961029053,
"eval_runtime": 0.173,
"eval_samples_per_second": 69.356,
"eval_steps_per_second": 5.78,
"step": 94
},
{
"epoch": 95.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.41117385029792786,
"eval_runtime": 0.1686,
"eval_samples_per_second": 71.187,
"eval_steps_per_second": 5.932,
"step": 95
},
{
"epoch": 96.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.41375747323036194,
"eval_runtime": 0.1688,
"eval_samples_per_second": 71.097,
"eval_steps_per_second": 5.925,
"step": 96
},
{
"epoch": 97.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.41553258895874023,
"eval_runtime": 0.171,
"eval_samples_per_second": 70.161,
"eval_steps_per_second": 5.847,
"step": 97
},
{
"epoch": 98.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.41665467619895935,
"eval_runtime": 0.1707,
"eval_samples_per_second": 70.285,
"eval_steps_per_second": 5.857,
"step": 98
},
{
"epoch": 99.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.41692885756492615,
"eval_runtime": 0.1823,
"eval_samples_per_second": 65.832,
"eval_steps_per_second": 5.486,
"step": 99
},
{
"epoch": 100.0,
"grad_norm": 1.1218894720077515,
"learning_rate": 0.0,
"loss": 0.0252,
"step": 100
},
{
"epoch": 100.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.41699299216270447,
"eval_runtime": 0.1656,
"eval_samples_per_second": 72.483,
"eval_steps_per_second": 6.04,
"step": 100
},
{
"epoch": 100.0,
"step": 100,
"total_flos": 4.804632427843584e+17,
"train_loss": 0.08882592588663102,
"train_runtime": 429.8515,
"train_samples_per_second": 14.424,
"train_steps_per_second": 0.233
},
{
"epoch": 100.0,
"eval_accuracy": 0.9166666666666666,
"eval_loss": 0.5698640942573547,
"eval_runtime": 0.2333,
"eval_samples_per_second": 51.428,
"eval_steps_per_second": 4.286,
"step": 100
}
],
"logging_steps": 10,
"max_steps": 100,
"num_input_tokens_seen": 0,
"num_train_epochs": 100,
"save_steps": 500,
"stateful_callbacks": {
"TrainerControl": {
"args": {
"should_epoch_stop": false,
"should_evaluate": false,
"should_log": false,
"should_save": true,
"should_training_stop": true
},
"attributes": {}
}
},
"total_flos": 4.804632427843584e+17,
"train_batch_size": 32,
"trial_name": null,
"trial_params": null
}