{ "best_metric": 0.9134615384615384, "best_model_checkpoint": "xtreme_s_xlsr_minds14_fr/checkpoint-200", "epoch": 50.0, "global_step": 250, "is_hyper_param_search": false, "is_local_process_zero": true, "is_world_process_zero": true, "log_history": [ { "epoch": 0.2, "learning_rate": 5e-06, "loss": 2.6402, "step": 1 }, { "epoch": 0.4, "learning_rate": 1e-05, "loss": 2.6406, "step": 2 }, { "epoch": 0.6, "learning_rate": 1.5e-05, "loss": 2.6396, "step": 3 }, { "epoch": 0.8, "learning_rate": 2e-05, "loss": 2.6404, "step": 4 }, { "epoch": 1.0, "learning_rate": 2.5e-05, "loss": 2.6425, "step": 5 }, { "epoch": 1.2, "learning_rate": 3e-05, "loss": 2.6429, "step": 6 }, { "epoch": 1.4, "learning_rate": 3.5000000000000004e-05, "loss": 2.6378, "step": 7 }, { "epoch": 1.6, "learning_rate": 4e-05, "loss": 2.6359, "step": 8 }, { "epoch": 1.8, "learning_rate": 4.4999999999999996e-05, "loss": 2.6387, "step": 9 }, { "epoch": 2.0, "learning_rate": 5e-05, "loss": 2.6412, "step": 10 }, { "epoch": 2.2, "learning_rate": 5.5e-05, "loss": 2.6351, "step": 11 }, { "epoch": 2.4, "learning_rate": 6e-05, "loss": 2.6295, "step": 12 }, { "epoch": 2.6, "learning_rate": 6.500000000000001e-05, "loss": 2.6352, "step": 13 }, { "epoch": 2.8, "learning_rate": 7.000000000000001e-05, "loss": 2.6359, "step": 14 }, { "epoch": 3.0, "learning_rate": 7.5e-05, "loss": 2.6407, "step": 15 }, { "epoch": 3.2, "learning_rate": 8e-05, "loss": 2.6253, "step": 16 }, { "epoch": 3.4, "learning_rate": 8.5e-05, "loss": 2.6316, "step": 17 }, { "epoch": 3.6, "learning_rate": 8.999999999999999e-05, "loss": 2.6204, "step": 18 }, { "epoch": 3.8, "learning_rate": 9.5e-05, "loss": 2.626, "step": 19 }, { "epoch": 4.0, "learning_rate": 0.0001, "loss": 2.6223, "step": 20 }, { "epoch": 4.2, "learning_rate": 0.000105, "loss": 2.6186, "step": 21 }, { "epoch": 4.4, "learning_rate": 0.00011, "loss": 2.6068, "step": 22 }, { "epoch": 4.6, "learning_rate": 0.000115, "loss": 2.6052, "step": 23 }, { "epoch": 4.8, "learning_rate": 0.00012, "loss": 2.6168, "step": 24 }, { "epoch": 5.0, "learning_rate": 0.000125, "loss": 2.6024, "step": 25 }, { "epoch": 5.2, "learning_rate": 0.00013000000000000002, "loss": 2.5788, "step": 26 }, { "epoch": 5.4, "learning_rate": 0.000135, "loss": 2.588, "step": 27 }, { "epoch": 5.6, "learning_rate": 0.00014000000000000001, "loss": 2.5811, "step": 28 }, { "epoch": 5.8, "learning_rate": 0.000145, "loss": 2.6248, "step": 29 }, { "epoch": 6.0, "learning_rate": 0.00015, "loss": 2.5754, "step": 30 }, { "epoch": 6.2, "learning_rate": 0.000155, "loss": 2.553, "step": 31 }, { "epoch": 6.4, "learning_rate": 0.00016, "loss": 2.5468, "step": 32 }, { "epoch": 6.6, "learning_rate": 0.000165, "loss": 2.54, "step": 33 }, { "epoch": 6.8, "learning_rate": 0.00017, "loss": 2.504, "step": 34 }, { "epoch": 7.0, "learning_rate": 0.000175, "loss": 2.4916, "step": 35 }, { "epoch": 7.2, "learning_rate": 0.00017999999999999998, "loss": 2.4629, "step": 36 }, { "epoch": 7.4, "learning_rate": 0.000185, "loss": 2.4548, "step": 37 }, { "epoch": 7.6, "learning_rate": 0.00019, "loss": 2.4261, "step": 38 }, { "epoch": 7.8, "learning_rate": 0.00019500000000000002, "loss": 2.4147, "step": 39 }, { "epoch": 8.0, "learning_rate": 0.0002, "loss": 2.3422, "step": 40 }, { "epoch": 8.2, "learning_rate": 0.000205, "loss": 2.5136, "step": 41 }, { "epoch": 8.4, "learning_rate": 0.00021, "loss": 2.1958, "step": 42 }, { "epoch": 8.6, "learning_rate": 0.000215, "loss": 2.2409, "step": 43 }, { "epoch": 8.8, "learning_rate": 0.00022, "loss": 2.139, "step": 44 }, { "epoch": 9.0, "learning_rate": 0.00022500000000000002, "loss": 2.1528, "step": 45 }, { "epoch": 9.2, "learning_rate": 0.00023, "loss": 2.151, "step": 46 }, { "epoch": 9.4, "learning_rate": 0.000235, "loss": 2.052, "step": 47 }, { "epoch": 9.6, "learning_rate": 0.00024, "loss": 2.0163, "step": 48 }, { "epoch": 9.8, "learning_rate": 0.000245, "loss": 1.9615, "step": 49 }, { "epoch": 10.0, "learning_rate": 0.00025, "loss": 1.9751, "step": 50 }, { "epoch": 10.0, "eval_accuracy": 0.34615384615384615, "eval_loss": 2.020272970199585, "eval_runtime": 4.4729, "eval_samples_per_second": 23.251, "eval_steps_per_second": 1.565, "step": 50 }, { "epoch": 10.2, "learning_rate": 0.000255, "loss": 1.8194, "step": 51 }, { "epoch": 10.4, "learning_rate": 0.00026000000000000003, "loss": 1.8366, "step": 52 }, { "epoch": 10.6, "learning_rate": 0.00026500000000000004, "loss": 1.7501, "step": 53 }, { "epoch": 10.8, "learning_rate": 0.00027, "loss": 1.6152, "step": 54 }, { "epoch": 11.0, "learning_rate": 0.000275, "loss": 1.7642, "step": 55 }, { "epoch": 11.2, "learning_rate": 0.00028000000000000003, "loss": 1.6009, "step": 56 }, { "epoch": 11.4, "learning_rate": 0.000285, "loss": 1.5032, "step": 57 }, { "epoch": 11.6, "learning_rate": 0.00029, "loss": 1.4709, "step": 58 }, { "epoch": 11.8, "learning_rate": 0.000295, "loss": 1.4554, "step": 59 }, { "epoch": 12.0, "learning_rate": 0.0003, "loss": 1.5145, "step": 60 }, { "epoch": 12.2, "learning_rate": 0.000305, "loss": 1.3704, "step": 61 }, { "epoch": 12.4, "learning_rate": 0.00031, "loss": 1.2176, "step": 62 }, { "epoch": 12.6, "learning_rate": 0.000315, "loss": 1.3374, "step": 63 }, { "epoch": 12.8, "learning_rate": 0.00032, "loss": 1.1263, "step": 64 }, { "epoch": 13.0, "learning_rate": 0.00032500000000000004, "loss": 1.2309, "step": 65 }, { "epoch": 13.2, "learning_rate": 0.00033, "loss": 1.0692, "step": 66 }, { "epoch": 13.4, "learning_rate": 0.000335, "loss": 1.0349, "step": 67 }, { "epoch": 13.6, "learning_rate": 0.00034, "loss": 0.9734, "step": 68 }, { "epoch": 13.8, "learning_rate": 0.000345, "loss": 0.9605, "step": 69 }, { "epoch": 14.0, "learning_rate": 0.00035, "loss": 0.9047, "step": 70 }, { "epoch": 14.2, "learning_rate": 0.000355, "loss": 0.8836, "step": 71 }, { "epoch": 14.4, "learning_rate": 0.00035999999999999997, "loss": 0.9497, "step": 72 }, { "epoch": 14.6, "learning_rate": 0.000365, "loss": 0.8959, "step": 73 }, { "epoch": 14.8, "learning_rate": 0.00037, "loss": 0.933, "step": 74 }, { "epoch": 15.0, "learning_rate": 0.000375, "loss": 0.9954, "step": 75 }, { "epoch": 15.2, "learning_rate": 0.00038, "loss": 0.8072, "step": 76 }, { "epoch": 15.4, "learning_rate": 0.00038500000000000003, "loss": 0.9502, "step": 77 }, { "epoch": 15.6, "learning_rate": 0.00039000000000000005, "loss": 0.74, "step": 78 }, { "epoch": 15.8, "learning_rate": 0.000395, "loss": 0.7365, "step": 79 }, { "epoch": 16.0, "learning_rate": 0.0004, "loss": 1.2246, "step": 80 }, { "epoch": 16.2, "learning_rate": 0.00040500000000000003, "loss": 0.8082, "step": 81 }, { "epoch": 16.4, "learning_rate": 0.00041, "loss": 0.7398, "step": 82 }, { "epoch": 16.6, "learning_rate": 0.000415, "loss": 0.5014, "step": 83 }, { "epoch": 16.8, "learning_rate": 0.00042, "loss": 0.7034, "step": 84 }, { "epoch": 17.0, "learning_rate": 0.000425, "loss": 0.899, "step": 85 }, { "epoch": 17.2, "learning_rate": 0.00043, "loss": 0.5783, "step": 86 }, { "epoch": 17.4, "learning_rate": 0.000435, "loss": 0.5091, "step": 87 }, { "epoch": 17.6, "learning_rate": 0.00044, "loss": 0.9349, "step": 88 }, { "epoch": 17.8, "learning_rate": 0.00044500000000000003, "loss": 1.3888, "step": 89 }, { "epoch": 18.0, "learning_rate": 0.00045000000000000004, "loss": 1.1331, "step": 90 }, { "epoch": 18.2, "learning_rate": 0.000455, "loss": 0.6829, "step": 91 }, { "epoch": 18.4, "learning_rate": 0.00046, "loss": 0.8111, "step": 92 }, { "epoch": 18.6, "learning_rate": 0.000465, "loss": 0.7009, "step": 93 }, { "epoch": 18.8, "learning_rate": 0.00047, "loss": 0.7883, "step": 94 }, { "epoch": 19.0, "learning_rate": 0.000475, "loss": 0.6863, "step": 95 }, { "epoch": 19.2, "learning_rate": 0.00048, "loss": 0.4611, "step": 96 }, { "epoch": 19.4, "learning_rate": 0.00048499999999999997, "loss": 0.6193, "step": 97 }, { "epoch": 19.6, "learning_rate": 0.00049, "loss": 0.7229, "step": 98 }, { "epoch": 19.8, "learning_rate": 0.000495, "loss": 0.6535, "step": 99 }, { "epoch": 20.0, "learning_rate": 0.0005, "loss": 0.4275, "step": 100 }, { "epoch": 20.0, "eval_accuracy": 0.7980769230769231, "eval_loss": 0.7433841228485107, "eval_runtime": 4.428, "eval_samples_per_second": 23.487, "eval_steps_per_second": 1.581, "step": 100 }, { "epoch": 20.2, "learning_rate": 0.0004966666666666666, "loss": 0.3934, "step": 101 }, { "epoch": 20.4, "learning_rate": 0.0004933333333333334, "loss": 0.5267, "step": 102 }, { "epoch": 20.6, "learning_rate": 0.00049, "loss": 0.5074, "step": 103 }, { "epoch": 20.8, "learning_rate": 0.0004866666666666667, "loss": 0.9223, "step": 104 }, { "epoch": 21.0, "learning_rate": 0.00048333333333333334, "loss": 0.3734, "step": 105 }, { "epoch": 21.2, "learning_rate": 0.00048, "loss": 0.4225, "step": 106 }, { "epoch": 21.4, "learning_rate": 0.0004766666666666667, "loss": 0.5403, "step": 107 }, { "epoch": 21.6, "learning_rate": 0.00047333333333333336, "loss": 0.7189, "step": 108 }, { "epoch": 21.8, "learning_rate": 0.00047, "loss": 0.615, "step": 109 }, { "epoch": 22.0, "learning_rate": 0.00046666666666666666, "loss": 0.5363, "step": 110 }, { "epoch": 22.2, "learning_rate": 0.00046333333333333334, "loss": 0.2874, "step": 111 }, { "epoch": 22.4, "learning_rate": 0.00046, "loss": 0.5754, "step": 112 }, { "epoch": 22.6, "learning_rate": 0.0004566666666666667, "loss": 0.5898, "step": 113 }, { "epoch": 22.8, "learning_rate": 0.0004533333333333333, "loss": 0.2747, "step": 114 }, { "epoch": 23.0, "learning_rate": 0.00045000000000000004, "loss": 0.3888, "step": 115 }, { "epoch": 23.2, "learning_rate": 0.00044666666666666666, "loss": 0.417, "step": 116 }, { "epoch": 23.4, "learning_rate": 0.00044333333333333334, "loss": 0.436, "step": 117 }, { "epoch": 23.6, "learning_rate": 0.00044, "loss": 0.4965, "step": 118 }, { "epoch": 23.8, "learning_rate": 0.00043666666666666664, "loss": 0.5618, "step": 119 }, { "epoch": 24.0, "learning_rate": 0.00043333333333333337, "loss": 0.4338, "step": 120 }, { "epoch": 24.2, "learning_rate": 0.00043, "loss": 0.1866, "step": 121 }, { "epoch": 24.4, "learning_rate": 0.0004266666666666667, "loss": 0.6697, "step": 122 }, { "epoch": 24.6, "learning_rate": 0.00042333333333333334, "loss": 0.7295, "step": 123 }, { "epoch": 24.8, "learning_rate": 0.00042, "loss": 0.4569, "step": 124 }, { "epoch": 25.0, "learning_rate": 0.0004166666666666667, "loss": 0.7176, "step": 125 }, { "epoch": 25.2, "learning_rate": 0.0004133333333333333, "loss": 0.3811, "step": 126 }, { "epoch": 25.4, "learning_rate": 0.00041, "loss": 0.2816, "step": 127 }, { "epoch": 25.6, "learning_rate": 0.00040666666666666667, "loss": 0.2511, "step": 128 }, { "epoch": 25.8, "learning_rate": 0.00040333333333333334, "loss": 0.2521, "step": 129 }, { "epoch": 26.0, "learning_rate": 0.0004, "loss": 0.4719, "step": 130 }, { "epoch": 26.2, "learning_rate": 0.0003966666666666667, "loss": 0.5278, "step": 131 }, { "epoch": 26.4, "learning_rate": 0.0003933333333333333, "loss": 0.1528, "step": 132 }, { "epoch": 26.6, "learning_rate": 0.00039000000000000005, "loss": 0.3161, "step": 133 }, { "epoch": 26.8, "learning_rate": 0.00038666666666666667, "loss": 0.4085, "step": 134 }, { "epoch": 27.0, "learning_rate": 0.00038333333333333334, "loss": 0.3803, "step": 135 }, { "epoch": 27.2, "learning_rate": 0.00038, "loss": 0.1481, "step": 136 }, { "epoch": 27.4, "learning_rate": 0.00037666666666666664, "loss": 0.2339, "step": 137 }, { "epoch": 27.6, "learning_rate": 0.0003733333333333334, "loss": 0.1075, "step": 138 }, { "epoch": 27.8, "learning_rate": 0.00037, "loss": 0.2999, "step": 139 }, { "epoch": 28.0, "learning_rate": 0.00036666666666666667, "loss": 0.1163, "step": 140 }, { "epoch": 28.2, "learning_rate": 0.00036666666666666667, "loss": 0.1454, "step": 141 }, { "epoch": 28.4, "learning_rate": 0.00036333333333333335, "loss": 0.1651, "step": 142 }, { "epoch": 28.6, "learning_rate": 0.00035999999999999997, "loss": 0.1077, "step": 143 }, { "epoch": 28.8, "learning_rate": 0.0003566666666666667, "loss": 0.2247, "step": 144 }, { "epoch": 29.0, "learning_rate": 0.0003533333333333333, "loss": 0.188, "step": 145 }, { "epoch": 29.2, "learning_rate": 0.00035, "loss": 0.4505, "step": 146 }, { "epoch": 29.4, "learning_rate": 0.00034666666666666667, "loss": 0.2557, "step": 147 }, { "epoch": 29.6, "learning_rate": 0.00034333333333333335, "loss": 0.2101, "step": 148 }, { "epoch": 29.8, "learning_rate": 0.00034, "loss": 0.5099, "step": 149 }, { "epoch": 30.0, "learning_rate": 0.0003366666666666667, "loss": 0.2484, "step": 150 }, { "epoch": 30.0, "eval_accuracy": 0.8461538461538461, "eval_loss": 0.768596351146698, "eval_runtime": 4.455, "eval_samples_per_second": 23.345, "eval_steps_per_second": 1.571, "step": 150 }, { "epoch": 30.2, "learning_rate": 0.0003333333333333333, "loss": 0.1661, "step": 151 }, { "epoch": 30.4, "learning_rate": 0.00033, "loss": 0.3776, "step": 152 }, { "epoch": 30.6, "learning_rate": 0.0003266666666666667, "loss": 0.4802, "step": 153 }, { "epoch": 30.8, "learning_rate": 0.0003233333333333333, "loss": 0.3084, "step": 154 }, { "epoch": 31.0, "learning_rate": 0.00032, "loss": 0.2179, "step": 155 }, { "epoch": 31.2, "learning_rate": 0.00031666666666666665, "loss": 0.2788, "step": 156 }, { "epoch": 31.4, "learning_rate": 0.0003133333333333334, "loss": 0.2347, "step": 157 }, { "epoch": 31.6, "learning_rate": 0.00031, "loss": 0.3184, "step": 158 }, { "epoch": 31.8, "learning_rate": 0.0003066666666666667, "loss": 0.3054, "step": 159 }, { "epoch": 32.0, "learning_rate": 0.00030333333333333335, "loss": 0.152, "step": 160 }, { "epoch": 32.2, "learning_rate": 0.0003, "loss": 0.3207, "step": 161 }, { "epoch": 32.4, "learning_rate": 0.0002966666666666667, "loss": 0.1803, "step": 162 }, { "epoch": 32.6, "learning_rate": 0.0002933333333333333, "loss": 0.1516, "step": 163 }, { "epoch": 32.8, "learning_rate": 0.00029, "loss": 0.4577, "step": 164 }, { "epoch": 33.0, "learning_rate": 0.0002866666666666667, "loss": 0.2247, "step": 165 }, { "epoch": 33.2, "learning_rate": 0.00028333333333333335, "loss": 0.1344, "step": 166 }, { "epoch": 33.4, "learning_rate": 0.00028000000000000003, "loss": 0.1404, "step": 167 }, { "epoch": 33.6, "learning_rate": 0.00027666666666666665, "loss": 0.2513, "step": 168 }, { "epoch": 33.8, "learning_rate": 0.00027333333333333333, "loss": 0.0754, "step": 169 }, { "epoch": 34.0, "learning_rate": 0.00027, "loss": 0.0992, "step": 170 }, { "epoch": 34.2, "learning_rate": 0.0002666666666666667, "loss": 0.1469, "step": 171 }, { "epoch": 34.4, "learning_rate": 0.0002633333333333333, "loss": 0.112, "step": 172 }, { "epoch": 34.6, "learning_rate": 0.00026000000000000003, "loss": 0.1357, "step": 173 }, { "epoch": 34.8, "learning_rate": 0.00025666666666666665, "loss": 0.0596, "step": 174 }, { "epoch": 35.0, "learning_rate": 0.0002533333333333334, "loss": 0.0294, "step": 175 }, { "epoch": 35.2, "learning_rate": 0.00025, "loss": 0.0547, "step": 176 }, { "epoch": 35.4, "learning_rate": 0.0002466666666666667, "loss": 0.1783, "step": 177 }, { "epoch": 35.6, "learning_rate": 0.00024333333333333336, "loss": 0.0865, "step": 178 }, { "epoch": 35.8, "learning_rate": 0.00024, "loss": 0.22, "step": 179 }, { "epoch": 36.0, "learning_rate": 0.00023666666666666668, "loss": 0.1302, "step": 180 }, { "epoch": 36.2, "learning_rate": 0.00023333333333333333, "loss": 0.0233, "step": 181 }, { "epoch": 36.4, "learning_rate": 0.00023, "loss": 0.1862, "step": 182 }, { "epoch": 36.6, "learning_rate": 0.00022666666666666666, "loss": 0.0883, "step": 183 }, { "epoch": 36.8, "learning_rate": 0.00022333333333333333, "loss": 0.1226, "step": 184 }, { "epoch": 37.0, "learning_rate": 0.00022, "loss": 0.1264, "step": 185 }, { "epoch": 37.2, "learning_rate": 0.00021666666666666668, "loss": 0.0254, "step": 186 }, { "epoch": 37.4, "learning_rate": 0.00021333333333333336, "loss": 0.0905, "step": 187 }, { "epoch": 37.6, "learning_rate": 0.00021, "loss": 0.1329, "step": 188 }, { "epoch": 37.8, "learning_rate": 0.00020666666666666666, "loss": 0.2809, "step": 189 }, { "epoch": 38.0, "learning_rate": 0.00020333333333333333, "loss": 0.1073, "step": 190 }, { "epoch": 38.2, "learning_rate": 0.0002, "loss": 0.1526, "step": 191 }, { "epoch": 38.4, "learning_rate": 0.00019666666666666666, "loss": 0.0244, "step": 192 }, { "epoch": 38.6, "learning_rate": 0.00019333333333333333, "loss": 0.0234, "step": 193 }, { "epoch": 38.8, "learning_rate": 0.00019, "loss": 0.0556, "step": 194 }, { "epoch": 39.0, "learning_rate": 0.0001866666666666667, "loss": 0.1585, "step": 195 }, { "epoch": 39.2, "learning_rate": 0.00018333333333333334, "loss": 0.0663, "step": 196 }, { "epoch": 39.4, "learning_rate": 0.00017999999999999998, "loss": 0.0385, "step": 197 }, { "epoch": 39.6, "learning_rate": 0.00017666666666666666, "loss": 0.0689, "step": 198 }, { "epoch": 39.8, "learning_rate": 0.00017333333333333334, "loss": 0.0474, "step": 199 }, { "epoch": 40.0, "learning_rate": 0.00017, "loss": 0.0263, "step": 200 }, { "epoch": 40.0, "eval_accuracy": 0.9134615384615384, "eval_loss": 0.3922173082828522, "eval_runtime": 4.4241, "eval_samples_per_second": 23.507, "eval_steps_per_second": 1.582, "step": 200 }, { "epoch": 40.2, "learning_rate": 0.00016666666666666666, "loss": 0.0818, "step": 201 }, { "epoch": 40.4, "learning_rate": 0.00016333333333333334, "loss": 0.0177, "step": 202 }, { "epoch": 40.6, "learning_rate": 0.00016, "loss": 0.2301, "step": 203 }, { "epoch": 40.8, "learning_rate": 0.0001566666666666667, "loss": 0.0236, "step": 204 }, { "epoch": 41.0, "learning_rate": 0.00015333333333333334, "loss": 0.0155, "step": 205 }, { "epoch": 41.2, "learning_rate": 0.00015, "loss": 0.1154, "step": 206 }, { "epoch": 41.4, "learning_rate": 0.00014666666666666666, "loss": 0.0153, "step": 207 }, { "epoch": 41.6, "learning_rate": 0.00014333333333333334, "loss": 0.0159, "step": 208 }, { "epoch": 41.8, "learning_rate": 0.00014000000000000001, "loss": 0.0139, "step": 209 }, { "epoch": 42.0, "learning_rate": 0.00013666666666666666, "loss": 0.0653, "step": 210 }, { "epoch": 42.2, "learning_rate": 0.00013333333333333334, "loss": 0.0164, "step": 211 }, { "epoch": 42.4, "learning_rate": 0.00013000000000000002, "loss": 0.0637, "step": 212 }, { "epoch": 42.6, "learning_rate": 0.0001266666666666667, "loss": 0.0114, "step": 213 }, { "epoch": 42.8, "learning_rate": 0.00012333333333333334, "loss": 0.1011, "step": 214 }, { "epoch": 43.0, "learning_rate": 0.00012, "loss": 0.0167, "step": 215 }, { "epoch": 43.2, "learning_rate": 0.00011666666666666667, "loss": 0.0174, "step": 216 }, { "epoch": 43.4, "learning_rate": 0.00011333333333333333, "loss": 0.0265, "step": 217 }, { "epoch": 43.6, "learning_rate": 0.00011, "loss": 0.0128, "step": 218 }, { "epoch": 43.8, "learning_rate": 0.00010666666666666668, "loss": 0.0137, "step": 219 }, { "epoch": 44.0, "learning_rate": 0.00010333333333333333, "loss": 0.0274, "step": 220 }, { "epoch": 44.2, "learning_rate": 0.0001, "loss": 0.0147, "step": 221 }, { "epoch": 44.4, "learning_rate": 9.666666666666667e-05, "loss": 0.0386, "step": 222 }, { "epoch": 44.6, "learning_rate": 9.333333333333334e-05, "loss": 0.0806, "step": 223 }, { "epoch": 44.8, "learning_rate": 8.999999999999999e-05, "loss": 0.0106, "step": 224 }, { "epoch": 45.0, "learning_rate": 8.666666666666667e-05, "loss": 0.0419, "step": 225 }, { "epoch": 45.2, "learning_rate": 8.333333333333333e-05, "loss": 0.0105, "step": 226 }, { "epoch": 45.4, "learning_rate": 8e-05, "loss": 0.01, "step": 227 }, { "epoch": 45.6, "learning_rate": 7.666666666666667e-05, "loss": 0.0118, "step": 228 }, { "epoch": 45.8, "learning_rate": 7.333333333333333e-05, "loss": 0.0898, "step": 229 }, { "epoch": 46.0, "learning_rate": 7.000000000000001e-05, "loss": 0.0272, "step": 230 }, { "epoch": 46.2, "learning_rate": 6.666666666666667e-05, "loss": 0.01, "step": 231 }, { "epoch": 46.4, "learning_rate": 6.333333333333335e-05, "loss": 0.0827, "step": 232 }, { "epoch": 46.6, "learning_rate": 6e-05, "loss": 0.0466, "step": 233 }, { "epoch": 46.8, "learning_rate": 5.6666666666666664e-05, "loss": 0.0529, "step": 234 }, { "epoch": 47.0, "learning_rate": 5.333333333333334e-05, "loss": 0.0294, "step": 235 }, { "epoch": 47.2, "learning_rate": 5e-05, "loss": 0.08, "step": 236 }, { "epoch": 47.4, "learning_rate": 4.666666666666667e-05, "loss": 0.0103, "step": 237 }, { "epoch": 47.6, "learning_rate": 4.3333333333333334e-05, "loss": 0.0526, "step": 238 }, { "epoch": 47.8, "learning_rate": 4e-05, "loss": 0.0099, "step": 239 }, { "epoch": 48.0, "learning_rate": 3.6666666666666666e-05, "loss": 0.0098, "step": 240 }, { "epoch": 48.2, "learning_rate": 3.3333333333333335e-05, "loss": 0.0418, "step": 241 }, { "epoch": 48.4, "learning_rate": 3e-05, "loss": 0.0096, "step": 242 }, { "epoch": 48.6, "learning_rate": 2.666666666666667e-05, "loss": 0.0854, "step": 243 }, { "epoch": 48.8, "learning_rate": 2.3333333333333336e-05, "loss": 0.0716, "step": 244 }, { "epoch": 49.0, "learning_rate": 2e-05, "loss": 0.0087, "step": 245 }, { "epoch": 49.2, "learning_rate": 1.6666666666666667e-05, "loss": 0.0936, "step": 246 }, { "epoch": 49.4, "learning_rate": 1.3333333333333335e-05, "loss": 0.0099, "step": 247 }, { "epoch": 49.6, "learning_rate": 1e-05, "loss": 0.0089, "step": 248 }, { "epoch": 49.8, "learning_rate": 6.6666666666666675e-06, "loss": 0.0162, "step": 249 }, { "epoch": 50.0, "learning_rate": 3.3333333333333337e-06, "loss": 0.0118, "step": 250 }, { "epoch": 50.0, "eval_accuracy": 0.9038461538461539, "eval_loss": 0.4858757257461548, "eval_runtime": 4.4109, "eval_samples_per_second": 23.578, "eval_steps_per_second": 1.587, "step": 250 }, { "epoch": 50.0, "step": 250, "total_flos": 8.360126160599777e+18, "train_loss": 0.8228848753273487, "train_runtime": 1463.2202, "train_samples_per_second": 10.696, "train_steps_per_second": 0.171 } ], "max_steps": 250, "num_train_epochs": 50, "total_flos": 8.360126160599777e+18, "trial_name": null, "trial_params": null }