anton-l HF staff commited on
Commit
a444748
1 Parent(s): 3488f2b

End of training

Browse files
all_results.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "epoch": 50.0,
3
+ "eval_accuracy": 0.9134615384615384,
4
+ "eval_loss": 0.3922173082828522,
5
+ "eval_runtime": 4.3267,
6
+ "eval_samples": 104,
7
+ "eval_samples_per_second": 24.037,
8
+ "eval_steps_per_second": 1.618,
9
+ "train_loss": 0.8228848753273487,
10
+ "train_runtime": 1463.2202,
11
+ "train_samples": 313,
12
+ "train_samples_per_second": 10.696,
13
+ "train_steps_per_second": 0.171
14
+ }
eval_results.json ADDED
@@ -0,0 +1,9 @@
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "epoch": 50.0,
3
+ "eval_accuracy": 0.9134615384615384,
4
+ "eval_loss": 0.3922173082828522,
5
+ "eval_runtime": 4.3267,
6
+ "eval_samples": 104,
7
+ "eval_samples_per_second": 24.037,
8
+ "eval_steps_per_second": 1.618
9
+ }
runs/Mar08_21-17-20_hf-paris-dgx-station-1/events.out.tfevents.1646772215.hf-paris-dgx-station-1.665478.2 ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:9bdd1a20854726f06a166aa7329b5d22e5ca9ce66a8bf87a199abea45fd56046
3
+ size 363
train_results.json ADDED
@@ -0,0 +1,8 @@
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "epoch": 50.0,
3
+ "train_loss": 0.8228848753273487,
4
+ "train_runtime": 1463.2202,
5
+ "train_samples": 313,
6
+ "train_samples_per_second": 10.696,
7
+ "train_steps_per_second": 0.171
8
+ }
trainer_state.json ADDED
@@ -0,0 +1,1570 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "best_metric": 0.9134615384615384,
3
+ "best_model_checkpoint": "xtreme_s_xlsr_minds14_fr/checkpoint-200",
4
+ "epoch": 50.0,
5
+ "global_step": 250,
6
+ "is_hyper_param_search": false,
7
+ "is_local_process_zero": true,
8
+ "is_world_process_zero": true,
9
+ "log_history": [
10
+ {
11
+ "epoch": 0.2,
12
+ "learning_rate": 5e-06,
13
+ "loss": 2.6402,
14
+ "step": 1
15
+ },
16
+ {
17
+ "epoch": 0.4,
18
+ "learning_rate": 1e-05,
19
+ "loss": 2.6406,
20
+ "step": 2
21
+ },
22
+ {
23
+ "epoch": 0.6,
24
+ "learning_rate": 1.5e-05,
25
+ "loss": 2.6396,
26
+ "step": 3
27
+ },
28
+ {
29
+ "epoch": 0.8,
30
+ "learning_rate": 2e-05,
31
+ "loss": 2.6404,
32
+ "step": 4
33
+ },
34
+ {
35
+ "epoch": 1.0,
36
+ "learning_rate": 2.5e-05,
37
+ "loss": 2.6425,
38
+ "step": 5
39
+ },
40
+ {
41
+ "epoch": 1.2,
42
+ "learning_rate": 3e-05,
43
+ "loss": 2.6429,
44
+ "step": 6
45
+ },
46
+ {
47
+ "epoch": 1.4,
48
+ "learning_rate": 3.5000000000000004e-05,
49
+ "loss": 2.6378,
50
+ "step": 7
51
+ },
52
+ {
53
+ "epoch": 1.6,
54
+ "learning_rate": 4e-05,
55
+ "loss": 2.6359,
56
+ "step": 8
57
+ },
58
+ {
59
+ "epoch": 1.8,
60
+ "learning_rate": 4.4999999999999996e-05,
61
+ "loss": 2.6387,
62
+ "step": 9
63
+ },
64
+ {
65
+ "epoch": 2.0,
66
+ "learning_rate": 5e-05,
67
+ "loss": 2.6412,
68
+ "step": 10
69
+ },
70
+ {
71
+ "epoch": 2.2,
72
+ "learning_rate": 5.5e-05,
73
+ "loss": 2.6351,
74
+ "step": 11
75
+ },
76
+ {
77
+ "epoch": 2.4,
78
+ "learning_rate": 6e-05,
79
+ "loss": 2.6295,
80
+ "step": 12
81
+ },
82
+ {
83
+ "epoch": 2.6,
84
+ "learning_rate": 6.500000000000001e-05,
85
+ "loss": 2.6352,
86
+ "step": 13
87
+ },
88
+ {
89
+ "epoch": 2.8,
90
+ "learning_rate": 7.000000000000001e-05,
91
+ "loss": 2.6359,
92
+ "step": 14
93
+ },
94
+ {
95
+ "epoch": 3.0,
96
+ "learning_rate": 7.5e-05,
97
+ "loss": 2.6407,
98
+ "step": 15
99
+ },
100
+ {
101
+ "epoch": 3.2,
102
+ "learning_rate": 8e-05,
103
+ "loss": 2.6253,
104
+ "step": 16
105
+ },
106
+ {
107
+ "epoch": 3.4,
108
+ "learning_rate": 8.5e-05,
109
+ "loss": 2.6316,
110
+ "step": 17
111
+ },
112
+ {
113
+ "epoch": 3.6,
114
+ "learning_rate": 8.999999999999999e-05,
115
+ "loss": 2.6204,
116
+ "step": 18
117
+ },
118
+ {
119
+ "epoch": 3.8,
120
+ "learning_rate": 9.5e-05,
121
+ "loss": 2.626,
122
+ "step": 19
123
+ },
124
+ {
125
+ "epoch": 4.0,
126
+ "learning_rate": 0.0001,
127
+ "loss": 2.6223,
128
+ "step": 20
129
+ },
130
+ {
131
+ "epoch": 4.2,
132
+ "learning_rate": 0.000105,
133
+ "loss": 2.6186,
134
+ "step": 21
135
+ },
136
+ {
137
+ "epoch": 4.4,
138
+ "learning_rate": 0.00011,
139
+ "loss": 2.6068,
140
+ "step": 22
141
+ },
142
+ {
143
+ "epoch": 4.6,
144
+ "learning_rate": 0.000115,
145
+ "loss": 2.6052,
146
+ "step": 23
147
+ },
148
+ {
149
+ "epoch": 4.8,
150
+ "learning_rate": 0.00012,
151
+ "loss": 2.6168,
152
+ "step": 24
153
+ },
154
+ {
155
+ "epoch": 5.0,
156
+ "learning_rate": 0.000125,
157
+ "loss": 2.6024,
158
+ "step": 25
159
+ },
160
+ {
161
+ "epoch": 5.2,
162
+ "learning_rate": 0.00013000000000000002,
163
+ "loss": 2.5788,
164
+ "step": 26
165
+ },
166
+ {
167
+ "epoch": 5.4,
168
+ "learning_rate": 0.000135,
169
+ "loss": 2.588,
170
+ "step": 27
171
+ },
172
+ {
173
+ "epoch": 5.6,
174
+ "learning_rate": 0.00014000000000000001,
175
+ "loss": 2.5811,
176
+ "step": 28
177
+ },
178
+ {
179
+ "epoch": 5.8,
180
+ "learning_rate": 0.000145,
181
+ "loss": 2.6248,
182
+ "step": 29
183
+ },
184
+ {
185
+ "epoch": 6.0,
186
+ "learning_rate": 0.00015,
187
+ "loss": 2.5754,
188
+ "step": 30
189
+ },
190
+ {
191
+ "epoch": 6.2,
192
+ "learning_rate": 0.000155,
193
+ "loss": 2.553,
194
+ "step": 31
195
+ },
196
+ {
197
+ "epoch": 6.4,
198
+ "learning_rate": 0.00016,
199
+ "loss": 2.5468,
200
+ "step": 32
201
+ },
202
+ {
203
+ "epoch": 6.6,
204
+ "learning_rate": 0.000165,
205
+ "loss": 2.54,
206
+ "step": 33
207
+ },
208
+ {
209
+ "epoch": 6.8,
210
+ "learning_rate": 0.00017,
211
+ "loss": 2.504,
212
+ "step": 34
213
+ },
214
+ {
215
+ "epoch": 7.0,
216
+ "learning_rate": 0.000175,
217
+ "loss": 2.4916,
218
+ "step": 35
219
+ },
220
+ {
221
+ "epoch": 7.2,
222
+ "learning_rate": 0.00017999999999999998,
223
+ "loss": 2.4629,
224
+ "step": 36
225
+ },
226
+ {
227
+ "epoch": 7.4,
228
+ "learning_rate": 0.000185,
229
+ "loss": 2.4548,
230
+ "step": 37
231
+ },
232
+ {
233
+ "epoch": 7.6,
234
+ "learning_rate": 0.00019,
235
+ "loss": 2.4261,
236
+ "step": 38
237
+ },
238
+ {
239
+ "epoch": 7.8,
240
+ "learning_rate": 0.00019500000000000002,
241
+ "loss": 2.4147,
242
+ "step": 39
243
+ },
244
+ {
245
+ "epoch": 8.0,
246
+ "learning_rate": 0.0002,
247
+ "loss": 2.3422,
248
+ "step": 40
249
+ },
250
+ {
251
+ "epoch": 8.2,
252
+ "learning_rate": 0.000205,
253
+ "loss": 2.5136,
254
+ "step": 41
255
+ },
256
+ {
257
+ "epoch": 8.4,
258
+ "learning_rate": 0.00021,
259
+ "loss": 2.1958,
260
+ "step": 42
261
+ },
262
+ {
263
+ "epoch": 8.6,
264
+ "learning_rate": 0.000215,
265
+ "loss": 2.2409,
266
+ "step": 43
267
+ },
268
+ {
269
+ "epoch": 8.8,
270
+ "learning_rate": 0.00022,
271
+ "loss": 2.139,
272
+ "step": 44
273
+ },
274
+ {
275
+ "epoch": 9.0,
276
+ "learning_rate": 0.00022500000000000002,
277
+ "loss": 2.1528,
278
+ "step": 45
279
+ },
280
+ {
281
+ "epoch": 9.2,
282
+ "learning_rate": 0.00023,
283
+ "loss": 2.151,
284
+ "step": 46
285
+ },
286
+ {
287
+ "epoch": 9.4,
288
+ "learning_rate": 0.000235,
289
+ "loss": 2.052,
290
+ "step": 47
291
+ },
292
+ {
293
+ "epoch": 9.6,
294
+ "learning_rate": 0.00024,
295
+ "loss": 2.0163,
296
+ "step": 48
297
+ },
298
+ {
299
+ "epoch": 9.8,
300
+ "learning_rate": 0.000245,
301
+ "loss": 1.9615,
302
+ "step": 49
303
+ },
304
+ {
305
+ "epoch": 10.0,
306
+ "learning_rate": 0.00025,
307
+ "loss": 1.9751,
308
+ "step": 50
309
+ },
310
+ {
311
+ "epoch": 10.0,
312
+ "eval_accuracy": 0.34615384615384615,
313
+ "eval_loss": 2.020272970199585,
314
+ "eval_runtime": 4.4729,
315
+ "eval_samples_per_second": 23.251,
316
+ "eval_steps_per_second": 1.565,
317
+ "step": 50
318
+ },
319
+ {
320
+ "epoch": 10.2,
321
+ "learning_rate": 0.000255,
322
+ "loss": 1.8194,
323
+ "step": 51
324
+ },
325
+ {
326
+ "epoch": 10.4,
327
+ "learning_rate": 0.00026000000000000003,
328
+ "loss": 1.8366,
329
+ "step": 52
330
+ },
331
+ {
332
+ "epoch": 10.6,
333
+ "learning_rate": 0.00026500000000000004,
334
+ "loss": 1.7501,
335
+ "step": 53
336
+ },
337
+ {
338
+ "epoch": 10.8,
339
+ "learning_rate": 0.00027,
340
+ "loss": 1.6152,
341
+ "step": 54
342
+ },
343
+ {
344
+ "epoch": 11.0,
345
+ "learning_rate": 0.000275,
346
+ "loss": 1.7642,
347
+ "step": 55
348
+ },
349
+ {
350
+ "epoch": 11.2,
351
+ "learning_rate": 0.00028000000000000003,
352
+ "loss": 1.6009,
353
+ "step": 56
354
+ },
355
+ {
356
+ "epoch": 11.4,
357
+ "learning_rate": 0.000285,
358
+ "loss": 1.5032,
359
+ "step": 57
360
+ },
361
+ {
362
+ "epoch": 11.6,
363
+ "learning_rate": 0.00029,
364
+ "loss": 1.4709,
365
+ "step": 58
366
+ },
367
+ {
368
+ "epoch": 11.8,
369
+ "learning_rate": 0.000295,
370
+ "loss": 1.4554,
371
+ "step": 59
372
+ },
373
+ {
374
+ "epoch": 12.0,
375
+ "learning_rate": 0.0003,
376
+ "loss": 1.5145,
377
+ "step": 60
378
+ },
379
+ {
380
+ "epoch": 12.2,
381
+ "learning_rate": 0.000305,
382
+ "loss": 1.3704,
383
+ "step": 61
384
+ },
385
+ {
386
+ "epoch": 12.4,
387
+ "learning_rate": 0.00031,
388
+ "loss": 1.2176,
389
+ "step": 62
390
+ },
391
+ {
392
+ "epoch": 12.6,
393
+ "learning_rate": 0.000315,
394
+ "loss": 1.3374,
395
+ "step": 63
396
+ },
397
+ {
398
+ "epoch": 12.8,
399
+ "learning_rate": 0.00032,
400
+ "loss": 1.1263,
401
+ "step": 64
402
+ },
403
+ {
404
+ "epoch": 13.0,
405
+ "learning_rate": 0.00032500000000000004,
406
+ "loss": 1.2309,
407
+ "step": 65
408
+ },
409
+ {
410
+ "epoch": 13.2,
411
+ "learning_rate": 0.00033,
412
+ "loss": 1.0692,
413
+ "step": 66
414
+ },
415
+ {
416
+ "epoch": 13.4,
417
+ "learning_rate": 0.000335,
418
+ "loss": 1.0349,
419
+ "step": 67
420
+ },
421
+ {
422
+ "epoch": 13.6,
423
+ "learning_rate": 0.00034,
424
+ "loss": 0.9734,
425
+ "step": 68
426
+ },
427
+ {
428
+ "epoch": 13.8,
429
+ "learning_rate": 0.000345,
430
+ "loss": 0.9605,
431
+ "step": 69
432
+ },
433
+ {
434
+ "epoch": 14.0,
435
+ "learning_rate": 0.00035,
436
+ "loss": 0.9047,
437
+ "step": 70
438
+ },
439
+ {
440
+ "epoch": 14.2,
441
+ "learning_rate": 0.000355,
442
+ "loss": 0.8836,
443
+ "step": 71
444
+ },
445
+ {
446
+ "epoch": 14.4,
447
+ "learning_rate": 0.00035999999999999997,
448
+ "loss": 0.9497,
449
+ "step": 72
450
+ },
451
+ {
452
+ "epoch": 14.6,
453
+ "learning_rate": 0.000365,
454
+ "loss": 0.8959,
455
+ "step": 73
456
+ },
457
+ {
458
+ "epoch": 14.8,
459
+ "learning_rate": 0.00037,
460
+ "loss": 0.933,
461
+ "step": 74
462
+ },
463
+ {
464
+ "epoch": 15.0,
465
+ "learning_rate": 0.000375,
466
+ "loss": 0.9954,
467
+ "step": 75
468
+ },
469
+ {
470
+ "epoch": 15.2,
471
+ "learning_rate": 0.00038,
472
+ "loss": 0.8072,
473
+ "step": 76
474
+ },
475
+ {
476
+ "epoch": 15.4,
477
+ "learning_rate": 0.00038500000000000003,
478
+ "loss": 0.9502,
479
+ "step": 77
480
+ },
481
+ {
482
+ "epoch": 15.6,
483
+ "learning_rate": 0.00039000000000000005,
484
+ "loss": 0.74,
485
+ "step": 78
486
+ },
487
+ {
488
+ "epoch": 15.8,
489
+ "learning_rate": 0.000395,
490
+ "loss": 0.7365,
491
+ "step": 79
492
+ },
493
+ {
494
+ "epoch": 16.0,
495
+ "learning_rate": 0.0004,
496
+ "loss": 1.2246,
497
+ "step": 80
498
+ },
499
+ {
500
+ "epoch": 16.2,
501
+ "learning_rate": 0.00040500000000000003,
502
+ "loss": 0.8082,
503
+ "step": 81
504
+ },
505
+ {
506
+ "epoch": 16.4,
507
+ "learning_rate": 0.00041,
508
+ "loss": 0.7398,
509
+ "step": 82
510
+ },
511
+ {
512
+ "epoch": 16.6,
513
+ "learning_rate": 0.000415,
514
+ "loss": 0.5014,
515
+ "step": 83
516
+ },
517
+ {
518
+ "epoch": 16.8,
519
+ "learning_rate": 0.00042,
520
+ "loss": 0.7034,
521
+ "step": 84
522
+ },
523
+ {
524
+ "epoch": 17.0,
525
+ "learning_rate": 0.000425,
526
+ "loss": 0.899,
527
+ "step": 85
528
+ },
529
+ {
530
+ "epoch": 17.2,
531
+ "learning_rate": 0.00043,
532
+ "loss": 0.5783,
533
+ "step": 86
534
+ },
535
+ {
536
+ "epoch": 17.4,
537
+ "learning_rate": 0.000435,
538
+ "loss": 0.5091,
539
+ "step": 87
540
+ },
541
+ {
542
+ "epoch": 17.6,
543
+ "learning_rate": 0.00044,
544
+ "loss": 0.9349,
545
+ "step": 88
546
+ },
547
+ {
548
+ "epoch": 17.8,
549
+ "learning_rate": 0.00044500000000000003,
550
+ "loss": 1.3888,
551
+ "step": 89
552
+ },
553
+ {
554
+ "epoch": 18.0,
555
+ "learning_rate": 0.00045000000000000004,
556
+ "loss": 1.1331,
557
+ "step": 90
558
+ },
559
+ {
560
+ "epoch": 18.2,
561
+ "learning_rate": 0.000455,
562
+ "loss": 0.6829,
563
+ "step": 91
564
+ },
565
+ {
566
+ "epoch": 18.4,
567
+ "learning_rate": 0.00046,
568
+ "loss": 0.8111,
569
+ "step": 92
570
+ },
571
+ {
572
+ "epoch": 18.6,
573
+ "learning_rate": 0.000465,
574
+ "loss": 0.7009,
575
+ "step": 93
576
+ },
577
+ {
578
+ "epoch": 18.8,
579
+ "learning_rate": 0.00047,
580
+ "loss": 0.7883,
581
+ "step": 94
582
+ },
583
+ {
584
+ "epoch": 19.0,
585
+ "learning_rate": 0.000475,
586
+ "loss": 0.6863,
587
+ "step": 95
588
+ },
589
+ {
590
+ "epoch": 19.2,
591
+ "learning_rate": 0.00048,
592
+ "loss": 0.4611,
593
+ "step": 96
594
+ },
595
+ {
596
+ "epoch": 19.4,
597
+ "learning_rate": 0.00048499999999999997,
598
+ "loss": 0.6193,
599
+ "step": 97
600
+ },
601
+ {
602
+ "epoch": 19.6,
603
+ "learning_rate": 0.00049,
604
+ "loss": 0.7229,
605
+ "step": 98
606
+ },
607
+ {
608
+ "epoch": 19.8,
609
+ "learning_rate": 0.000495,
610
+ "loss": 0.6535,
611
+ "step": 99
612
+ },
613
+ {
614
+ "epoch": 20.0,
615
+ "learning_rate": 0.0005,
616
+ "loss": 0.4275,
617
+ "step": 100
618
+ },
619
+ {
620
+ "epoch": 20.0,
621
+ "eval_accuracy": 0.7980769230769231,
622
+ "eval_loss": 0.7433841228485107,
623
+ "eval_runtime": 4.428,
624
+ "eval_samples_per_second": 23.487,
625
+ "eval_steps_per_second": 1.581,
626
+ "step": 100
627
+ },
628
+ {
629
+ "epoch": 20.2,
630
+ "learning_rate": 0.0004966666666666666,
631
+ "loss": 0.3934,
632
+ "step": 101
633
+ },
634
+ {
635
+ "epoch": 20.4,
636
+ "learning_rate": 0.0004933333333333334,
637
+ "loss": 0.5267,
638
+ "step": 102
639
+ },
640
+ {
641
+ "epoch": 20.6,
642
+ "learning_rate": 0.00049,
643
+ "loss": 0.5074,
644
+ "step": 103
645
+ },
646
+ {
647
+ "epoch": 20.8,
648
+ "learning_rate": 0.0004866666666666667,
649
+ "loss": 0.9223,
650
+ "step": 104
651
+ },
652
+ {
653
+ "epoch": 21.0,
654
+ "learning_rate": 0.00048333333333333334,
655
+ "loss": 0.3734,
656
+ "step": 105
657
+ },
658
+ {
659
+ "epoch": 21.2,
660
+ "learning_rate": 0.00048,
661
+ "loss": 0.4225,
662
+ "step": 106
663
+ },
664
+ {
665
+ "epoch": 21.4,
666
+ "learning_rate": 0.0004766666666666667,
667
+ "loss": 0.5403,
668
+ "step": 107
669
+ },
670
+ {
671
+ "epoch": 21.6,
672
+ "learning_rate": 0.00047333333333333336,
673
+ "loss": 0.7189,
674
+ "step": 108
675
+ },
676
+ {
677
+ "epoch": 21.8,
678
+ "learning_rate": 0.00047,
679
+ "loss": 0.615,
680
+ "step": 109
681
+ },
682
+ {
683
+ "epoch": 22.0,
684
+ "learning_rate": 0.00046666666666666666,
685
+ "loss": 0.5363,
686
+ "step": 110
687
+ },
688
+ {
689
+ "epoch": 22.2,
690
+ "learning_rate": 0.00046333333333333334,
691
+ "loss": 0.2874,
692
+ "step": 111
693
+ },
694
+ {
695
+ "epoch": 22.4,
696
+ "learning_rate": 0.00046,
697
+ "loss": 0.5754,
698
+ "step": 112
699
+ },
700
+ {
701
+ "epoch": 22.6,
702
+ "learning_rate": 0.0004566666666666667,
703
+ "loss": 0.5898,
704
+ "step": 113
705
+ },
706
+ {
707
+ "epoch": 22.8,
708
+ "learning_rate": 0.0004533333333333333,
709
+ "loss": 0.2747,
710
+ "step": 114
711
+ },
712
+ {
713
+ "epoch": 23.0,
714
+ "learning_rate": 0.00045000000000000004,
715
+ "loss": 0.3888,
716
+ "step": 115
717
+ },
718
+ {
719
+ "epoch": 23.2,
720
+ "learning_rate": 0.00044666666666666666,
721
+ "loss": 0.417,
722
+ "step": 116
723
+ },
724
+ {
725
+ "epoch": 23.4,
726
+ "learning_rate": 0.00044333333333333334,
727
+ "loss": 0.436,
728
+ "step": 117
729
+ },
730
+ {
731
+ "epoch": 23.6,
732
+ "learning_rate": 0.00044,
733
+ "loss": 0.4965,
734
+ "step": 118
735
+ },
736
+ {
737
+ "epoch": 23.8,
738
+ "learning_rate": 0.00043666666666666664,
739
+ "loss": 0.5618,
740
+ "step": 119
741
+ },
742
+ {
743
+ "epoch": 24.0,
744
+ "learning_rate": 0.00043333333333333337,
745
+ "loss": 0.4338,
746
+ "step": 120
747
+ },
748
+ {
749
+ "epoch": 24.2,
750
+ "learning_rate": 0.00043,
751
+ "loss": 0.1866,
752
+ "step": 121
753
+ },
754
+ {
755
+ "epoch": 24.4,
756
+ "learning_rate": 0.0004266666666666667,
757
+ "loss": 0.6697,
758
+ "step": 122
759
+ },
760
+ {
761
+ "epoch": 24.6,
762
+ "learning_rate": 0.00042333333333333334,
763
+ "loss": 0.7295,
764
+ "step": 123
765
+ },
766
+ {
767
+ "epoch": 24.8,
768
+ "learning_rate": 0.00042,
769
+ "loss": 0.4569,
770
+ "step": 124
771
+ },
772
+ {
773
+ "epoch": 25.0,
774
+ "learning_rate": 0.0004166666666666667,
775
+ "loss": 0.7176,
776
+ "step": 125
777
+ },
778
+ {
779
+ "epoch": 25.2,
780
+ "learning_rate": 0.0004133333333333333,
781
+ "loss": 0.3811,
782
+ "step": 126
783
+ },
784
+ {
785
+ "epoch": 25.4,
786
+ "learning_rate": 0.00041,
787
+ "loss": 0.2816,
788
+ "step": 127
789
+ },
790
+ {
791
+ "epoch": 25.6,
792
+ "learning_rate": 0.00040666666666666667,
793
+ "loss": 0.2511,
794
+ "step": 128
795
+ },
796
+ {
797
+ "epoch": 25.8,
798
+ "learning_rate": 0.00040333333333333334,
799
+ "loss": 0.2521,
800
+ "step": 129
801
+ },
802
+ {
803
+ "epoch": 26.0,
804
+ "learning_rate": 0.0004,
805
+ "loss": 0.4719,
806
+ "step": 130
807
+ },
808
+ {
809
+ "epoch": 26.2,
810
+ "learning_rate": 0.0003966666666666667,
811
+ "loss": 0.5278,
812
+ "step": 131
813
+ },
814
+ {
815
+ "epoch": 26.4,
816
+ "learning_rate": 0.0003933333333333333,
817
+ "loss": 0.1528,
818
+ "step": 132
819
+ },
820
+ {
821
+ "epoch": 26.6,
822
+ "learning_rate": 0.00039000000000000005,
823
+ "loss": 0.3161,
824
+ "step": 133
825
+ },
826
+ {
827
+ "epoch": 26.8,
828
+ "learning_rate": 0.00038666666666666667,
829
+ "loss": 0.4085,
830
+ "step": 134
831
+ },
832
+ {
833
+ "epoch": 27.0,
834
+ "learning_rate": 0.00038333333333333334,
835
+ "loss": 0.3803,
836
+ "step": 135
837
+ },
838
+ {
839
+ "epoch": 27.2,
840
+ "learning_rate": 0.00038,
841
+ "loss": 0.1481,
842
+ "step": 136
843
+ },
844
+ {
845
+ "epoch": 27.4,
846
+ "learning_rate": 0.00037666666666666664,
847
+ "loss": 0.2339,
848
+ "step": 137
849
+ },
850
+ {
851
+ "epoch": 27.6,
852
+ "learning_rate": 0.0003733333333333334,
853
+ "loss": 0.1075,
854
+ "step": 138
855
+ },
856
+ {
857
+ "epoch": 27.8,
858
+ "learning_rate": 0.00037,
859
+ "loss": 0.2999,
860
+ "step": 139
861
+ },
862
+ {
863
+ "epoch": 28.0,
864
+ "learning_rate": 0.00036666666666666667,
865
+ "loss": 0.1163,
866
+ "step": 140
867
+ },
868
+ {
869
+ "epoch": 28.2,
870
+ "learning_rate": 0.00036666666666666667,
871
+ "loss": 0.1454,
872
+ "step": 141
873
+ },
874
+ {
875
+ "epoch": 28.4,
876
+ "learning_rate": 0.00036333333333333335,
877
+ "loss": 0.1651,
878
+ "step": 142
879
+ },
880
+ {
881
+ "epoch": 28.6,
882
+ "learning_rate": 0.00035999999999999997,
883
+ "loss": 0.1077,
884
+ "step": 143
885
+ },
886
+ {
887
+ "epoch": 28.8,
888
+ "learning_rate": 0.0003566666666666667,
889
+ "loss": 0.2247,
890
+ "step": 144
891
+ },
892
+ {
893
+ "epoch": 29.0,
894
+ "learning_rate": 0.0003533333333333333,
895
+ "loss": 0.188,
896
+ "step": 145
897
+ },
898
+ {
899
+ "epoch": 29.2,
900
+ "learning_rate": 0.00035,
901
+ "loss": 0.4505,
902
+ "step": 146
903
+ },
904
+ {
905
+ "epoch": 29.4,
906
+ "learning_rate": 0.00034666666666666667,
907
+ "loss": 0.2557,
908
+ "step": 147
909
+ },
910
+ {
911
+ "epoch": 29.6,
912
+ "learning_rate": 0.00034333333333333335,
913
+ "loss": 0.2101,
914
+ "step": 148
915
+ },
916
+ {
917
+ "epoch": 29.8,
918
+ "learning_rate": 0.00034,
919
+ "loss": 0.5099,
920
+ "step": 149
921
+ },
922
+ {
923
+ "epoch": 30.0,
924
+ "learning_rate": 0.0003366666666666667,
925
+ "loss": 0.2484,
926
+ "step": 150
927
+ },
928
+ {
929
+ "epoch": 30.0,
930
+ "eval_accuracy": 0.8461538461538461,
931
+ "eval_loss": 0.768596351146698,
932
+ "eval_runtime": 4.455,
933
+ "eval_samples_per_second": 23.345,
934
+ "eval_steps_per_second": 1.571,
935
+ "step": 150
936
+ },
937
+ {
938
+ "epoch": 30.2,
939
+ "learning_rate": 0.0003333333333333333,
940
+ "loss": 0.1661,
941
+ "step": 151
942
+ },
943
+ {
944
+ "epoch": 30.4,
945
+ "learning_rate": 0.00033,
946
+ "loss": 0.3776,
947
+ "step": 152
948
+ },
949
+ {
950
+ "epoch": 30.6,
951
+ "learning_rate": 0.0003266666666666667,
952
+ "loss": 0.4802,
953
+ "step": 153
954
+ },
955
+ {
956
+ "epoch": 30.8,
957
+ "learning_rate": 0.0003233333333333333,
958
+ "loss": 0.3084,
959
+ "step": 154
960
+ },
961
+ {
962
+ "epoch": 31.0,
963
+ "learning_rate": 0.00032,
964
+ "loss": 0.2179,
965
+ "step": 155
966
+ },
967
+ {
968
+ "epoch": 31.2,
969
+ "learning_rate": 0.00031666666666666665,
970
+ "loss": 0.2788,
971
+ "step": 156
972
+ },
973
+ {
974
+ "epoch": 31.4,
975
+ "learning_rate": 0.0003133333333333334,
976
+ "loss": 0.2347,
977
+ "step": 157
978
+ },
979
+ {
980
+ "epoch": 31.6,
981
+ "learning_rate": 0.00031,
982
+ "loss": 0.3184,
983
+ "step": 158
984
+ },
985
+ {
986
+ "epoch": 31.8,
987
+ "learning_rate": 0.0003066666666666667,
988
+ "loss": 0.3054,
989
+ "step": 159
990
+ },
991
+ {
992
+ "epoch": 32.0,
993
+ "learning_rate": 0.00030333333333333335,
994
+ "loss": 0.152,
995
+ "step": 160
996
+ },
997
+ {
998
+ "epoch": 32.2,
999
+ "learning_rate": 0.0003,
1000
+ "loss": 0.3207,
1001
+ "step": 161
1002
+ },
1003
+ {
1004
+ "epoch": 32.4,
1005
+ "learning_rate": 0.0002966666666666667,
1006
+ "loss": 0.1803,
1007
+ "step": 162
1008
+ },
1009
+ {
1010
+ "epoch": 32.6,
1011
+ "learning_rate": 0.0002933333333333333,
1012
+ "loss": 0.1516,
1013
+ "step": 163
1014
+ },
1015
+ {
1016
+ "epoch": 32.8,
1017
+ "learning_rate": 0.00029,
1018
+ "loss": 0.4577,
1019
+ "step": 164
1020
+ },
1021
+ {
1022
+ "epoch": 33.0,
1023
+ "learning_rate": 0.0002866666666666667,
1024
+ "loss": 0.2247,
1025
+ "step": 165
1026
+ },
1027
+ {
1028
+ "epoch": 33.2,
1029
+ "learning_rate": 0.00028333333333333335,
1030
+ "loss": 0.1344,
1031
+ "step": 166
1032
+ },
1033
+ {
1034
+ "epoch": 33.4,
1035
+ "learning_rate": 0.00028000000000000003,
1036
+ "loss": 0.1404,
1037
+ "step": 167
1038
+ },
1039
+ {
1040
+ "epoch": 33.6,
1041
+ "learning_rate": 0.00027666666666666665,
1042
+ "loss": 0.2513,
1043
+ "step": 168
1044
+ },
1045
+ {
1046
+ "epoch": 33.8,
1047
+ "learning_rate": 0.00027333333333333333,
1048
+ "loss": 0.0754,
1049
+ "step": 169
1050
+ },
1051
+ {
1052
+ "epoch": 34.0,
1053
+ "learning_rate": 0.00027,
1054
+ "loss": 0.0992,
1055
+ "step": 170
1056
+ },
1057
+ {
1058
+ "epoch": 34.2,
1059
+ "learning_rate": 0.0002666666666666667,
1060
+ "loss": 0.1469,
1061
+ "step": 171
1062
+ },
1063
+ {
1064
+ "epoch": 34.4,
1065
+ "learning_rate": 0.0002633333333333333,
1066
+ "loss": 0.112,
1067
+ "step": 172
1068
+ },
1069
+ {
1070
+ "epoch": 34.6,
1071
+ "learning_rate": 0.00026000000000000003,
1072
+ "loss": 0.1357,
1073
+ "step": 173
1074
+ },
1075
+ {
1076
+ "epoch": 34.8,
1077
+ "learning_rate": 0.00025666666666666665,
1078
+ "loss": 0.0596,
1079
+ "step": 174
1080
+ },
1081
+ {
1082
+ "epoch": 35.0,
1083
+ "learning_rate": 0.0002533333333333334,
1084
+ "loss": 0.0294,
1085
+ "step": 175
1086
+ },
1087
+ {
1088
+ "epoch": 35.2,
1089
+ "learning_rate": 0.00025,
1090
+ "loss": 0.0547,
1091
+ "step": 176
1092
+ },
1093
+ {
1094
+ "epoch": 35.4,
1095
+ "learning_rate": 0.0002466666666666667,
1096
+ "loss": 0.1783,
1097
+ "step": 177
1098
+ },
1099
+ {
1100
+ "epoch": 35.6,
1101
+ "learning_rate": 0.00024333333333333336,
1102
+ "loss": 0.0865,
1103
+ "step": 178
1104
+ },
1105
+ {
1106
+ "epoch": 35.8,
1107
+ "learning_rate": 0.00024,
1108
+ "loss": 0.22,
1109
+ "step": 179
1110
+ },
1111
+ {
1112
+ "epoch": 36.0,
1113
+ "learning_rate": 0.00023666666666666668,
1114
+ "loss": 0.1302,
1115
+ "step": 180
1116
+ },
1117
+ {
1118
+ "epoch": 36.2,
1119
+ "learning_rate": 0.00023333333333333333,
1120
+ "loss": 0.0233,
1121
+ "step": 181
1122
+ },
1123
+ {
1124
+ "epoch": 36.4,
1125
+ "learning_rate": 0.00023,
1126
+ "loss": 0.1862,
1127
+ "step": 182
1128
+ },
1129
+ {
1130
+ "epoch": 36.6,
1131
+ "learning_rate": 0.00022666666666666666,
1132
+ "loss": 0.0883,
1133
+ "step": 183
1134
+ },
1135
+ {
1136
+ "epoch": 36.8,
1137
+ "learning_rate": 0.00022333333333333333,
1138
+ "loss": 0.1226,
1139
+ "step": 184
1140
+ },
1141
+ {
1142
+ "epoch": 37.0,
1143
+ "learning_rate": 0.00022,
1144
+ "loss": 0.1264,
1145
+ "step": 185
1146
+ },
1147
+ {
1148
+ "epoch": 37.2,
1149
+ "learning_rate": 0.00021666666666666668,
1150
+ "loss": 0.0254,
1151
+ "step": 186
1152
+ },
1153
+ {
1154
+ "epoch": 37.4,
1155
+ "learning_rate": 0.00021333333333333336,
1156
+ "loss": 0.0905,
1157
+ "step": 187
1158
+ },
1159
+ {
1160
+ "epoch": 37.6,
1161
+ "learning_rate": 0.00021,
1162
+ "loss": 0.1329,
1163
+ "step": 188
1164
+ },
1165
+ {
1166
+ "epoch": 37.8,
1167
+ "learning_rate": 0.00020666666666666666,
1168
+ "loss": 0.2809,
1169
+ "step": 189
1170
+ },
1171
+ {
1172
+ "epoch": 38.0,
1173
+ "learning_rate": 0.00020333333333333333,
1174
+ "loss": 0.1073,
1175
+ "step": 190
1176
+ },
1177
+ {
1178
+ "epoch": 38.2,
1179
+ "learning_rate": 0.0002,
1180
+ "loss": 0.1526,
1181
+ "step": 191
1182
+ },
1183
+ {
1184
+ "epoch": 38.4,
1185
+ "learning_rate": 0.00019666666666666666,
1186
+ "loss": 0.0244,
1187
+ "step": 192
1188
+ },
1189
+ {
1190
+ "epoch": 38.6,
1191
+ "learning_rate": 0.00019333333333333333,
1192
+ "loss": 0.0234,
1193
+ "step": 193
1194
+ },
1195
+ {
1196
+ "epoch": 38.8,
1197
+ "learning_rate": 0.00019,
1198
+ "loss": 0.0556,
1199
+ "step": 194
1200
+ },
1201
+ {
1202
+ "epoch": 39.0,
1203
+ "learning_rate": 0.0001866666666666667,
1204
+ "loss": 0.1585,
1205
+ "step": 195
1206
+ },
1207
+ {
1208
+ "epoch": 39.2,
1209
+ "learning_rate": 0.00018333333333333334,
1210
+ "loss": 0.0663,
1211
+ "step": 196
1212
+ },
1213
+ {
1214
+ "epoch": 39.4,
1215
+ "learning_rate": 0.00017999999999999998,
1216
+ "loss": 0.0385,
1217
+ "step": 197
1218
+ },
1219
+ {
1220
+ "epoch": 39.6,
1221
+ "learning_rate": 0.00017666666666666666,
1222
+ "loss": 0.0689,
1223
+ "step": 198
1224
+ },
1225
+ {
1226
+ "epoch": 39.8,
1227
+ "learning_rate": 0.00017333333333333334,
1228
+ "loss": 0.0474,
1229
+ "step": 199
1230
+ },
1231
+ {
1232
+ "epoch": 40.0,
1233
+ "learning_rate": 0.00017,
1234
+ "loss": 0.0263,
1235
+ "step": 200
1236
+ },
1237
+ {
1238
+ "epoch": 40.0,
1239
+ "eval_accuracy": 0.9134615384615384,
1240
+ "eval_loss": 0.3922173082828522,
1241
+ "eval_runtime": 4.4241,
1242
+ "eval_samples_per_second": 23.507,
1243
+ "eval_steps_per_second": 1.582,
1244
+ "step": 200
1245
+ },
1246
+ {
1247
+ "epoch": 40.2,
1248
+ "learning_rate": 0.00016666666666666666,
1249
+ "loss": 0.0818,
1250
+ "step": 201
1251
+ },
1252
+ {
1253
+ "epoch": 40.4,
1254
+ "learning_rate": 0.00016333333333333334,
1255
+ "loss": 0.0177,
1256
+ "step": 202
1257
+ },
1258
+ {
1259
+ "epoch": 40.6,
1260
+ "learning_rate": 0.00016,
1261
+ "loss": 0.2301,
1262
+ "step": 203
1263
+ },
1264
+ {
1265
+ "epoch": 40.8,
1266
+ "learning_rate": 0.0001566666666666667,
1267
+ "loss": 0.0236,
1268
+ "step": 204
1269
+ },
1270
+ {
1271
+ "epoch": 41.0,
1272
+ "learning_rate": 0.00015333333333333334,
1273
+ "loss": 0.0155,
1274
+ "step": 205
1275
+ },
1276
+ {
1277
+ "epoch": 41.2,
1278
+ "learning_rate": 0.00015,
1279
+ "loss": 0.1154,
1280
+ "step": 206
1281
+ },
1282
+ {
1283
+ "epoch": 41.4,
1284
+ "learning_rate": 0.00014666666666666666,
1285
+ "loss": 0.0153,
1286
+ "step": 207
1287
+ },
1288
+ {
1289
+ "epoch": 41.6,
1290
+ "learning_rate": 0.00014333333333333334,
1291
+ "loss": 0.0159,
1292
+ "step": 208
1293
+ },
1294
+ {
1295
+ "epoch": 41.8,
1296
+ "learning_rate": 0.00014000000000000001,
1297
+ "loss": 0.0139,
1298
+ "step": 209
1299
+ },
1300
+ {
1301
+ "epoch": 42.0,
1302
+ "learning_rate": 0.00013666666666666666,
1303
+ "loss": 0.0653,
1304
+ "step": 210
1305
+ },
1306
+ {
1307
+ "epoch": 42.2,
1308
+ "learning_rate": 0.00013333333333333334,
1309
+ "loss": 0.0164,
1310
+ "step": 211
1311
+ },
1312
+ {
1313
+ "epoch": 42.4,
1314
+ "learning_rate": 0.00013000000000000002,
1315
+ "loss": 0.0637,
1316
+ "step": 212
1317
+ },
1318
+ {
1319
+ "epoch": 42.6,
1320
+ "learning_rate": 0.0001266666666666667,
1321
+ "loss": 0.0114,
1322
+ "step": 213
1323
+ },
1324
+ {
1325
+ "epoch": 42.8,
1326
+ "learning_rate": 0.00012333333333333334,
1327
+ "loss": 0.1011,
1328
+ "step": 214
1329
+ },
1330
+ {
1331
+ "epoch": 43.0,
1332
+ "learning_rate": 0.00012,
1333
+ "loss": 0.0167,
1334
+ "step": 215
1335
+ },
1336
+ {
1337
+ "epoch": 43.2,
1338
+ "learning_rate": 0.00011666666666666667,
1339
+ "loss": 0.0174,
1340
+ "step": 216
1341
+ },
1342
+ {
1343
+ "epoch": 43.4,
1344
+ "learning_rate": 0.00011333333333333333,
1345
+ "loss": 0.0265,
1346
+ "step": 217
1347
+ },
1348
+ {
1349
+ "epoch": 43.6,
1350
+ "learning_rate": 0.00011,
1351
+ "loss": 0.0128,
1352
+ "step": 218
1353
+ },
1354
+ {
1355
+ "epoch": 43.8,
1356
+ "learning_rate": 0.00010666666666666668,
1357
+ "loss": 0.0137,
1358
+ "step": 219
1359
+ },
1360
+ {
1361
+ "epoch": 44.0,
1362
+ "learning_rate": 0.00010333333333333333,
1363
+ "loss": 0.0274,
1364
+ "step": 220
1365
+ },
1366
+ {
1367
+ "epoch": 44.2,
1368
+ "learning_rate": 0.0001,
1369
+ "loss": 0.0147,
1370
+ "step": 221
1371
+ },
1372
+ {
1373
+ "epoch": 44.4,
1374
+ "learning_rate": 9.666666666666667e-05,
1375
+ "loss": 0.0386,
1376
+ "step": 222
1377
+ },
1378
+ {
1379
+ "epoch": 44.6,
1380
+ "learning_rate": 9.333333333333334e-05,
1381
+ "loss": 0.0806,
1382
+ "step": 223
1383
+ },
1384
+ {
1385
+ "epoch": 44.8,
1386
+ "learning_rate": 8.999999999999999e-05,
1387
+ "loss": 0.0106,
1388
+ "step": 224
1389
+ },
1390
+ {
1391
+ "epoch": 45.0,
1392
+ "learning_rate": 8.666666666666667e-05,
1393
+ "loss": 0.0419,
1394
+ "step": 225
1395
+ },
1396
+ {
1397
+ "epoch": 45.2,
1398
+ "learning_rate": 8.333333333333333e-05,
1399
+ "loss": 0.0105,
1400
+ "step": 226
1401
+ },
1402
+ {
1403
+ "epoch": 45.4,
1404
+ "learning_rate": 8e-05,
1405
+ "loss": 0.01,
1406
+ "step": 227
1407
+ },
1408
+ {
1409
+ "epoch": 45.6,
1410
+ "learning_rate": 7.666666666666667e-05,
1411
+ "loss": 0.0118,
1412
+ "step": 228
1413
+ },
1414
+ {
1415
+ "epoch": 45.8,
1416
+ "learning_rate": 7.333333333333333e-05,
1417
+ "loss": 0.0898,
1418
+ "step": 229
1419
+ },
1420
+ {
1421
+ "epoch": 46.0,
1422
+ "learning_rate": 7.000000000000001e-05,
1423
+ "loss": 0.0272,
1424
+ "step": 230
1425
+ },
1426
+ {
1427
+ "epoch": 46.2,
1428
+ "learning_rate": 6.666666666666667e-05,
1429
+ "loss": 0.01,
1430
+ "step": 231
1431
+ },
1432
+ {
1433
+ "epoch": 46.4,
1434
+ "learning_rate": 6.333333333333335e-05,
1435
+ "loss": 0.0827,
1436
+ "step": 232
1437
+ },
1438
+ {
1439
+ "epoch": 46.6,
1440
+ "learning_rate": 6e-05,
1441
+ "loss": 0.0466,
1442
+ "step": 233
1443
+ },
1444
+ {
1445
+ "epoch": 46.8,
1446
+ "learning_rate": 5.6666666666666664e-05,
1447
+ "loss": 0.0529,
1448
+ "step": 234
1449
+ },
1450
+ {
1451
+ "epoch": 47.0,
1452
+ "learning_rate": 5.333333333333334e-05,
1453
+ "loss": 0.0294,
1454
+ "step": 235
1455
+ },
1456
+ {
1457
+ "epoch": 47.2,
1458
+ "learning_rate": 5e-05,
1459
+ "loss": 0.08,
1460
+ "step": 236
1461
+ },
1462
+ {
1463
+ "epoch": 47.4,
1464
+ "learning_rate": 4.666666666666667e-05,
1465
+ "loss": 0.0103,
1466
+ "step": 237
1467
+ },
1468
+ {
1469
+ "epoch": 47.6,
1470
+ "learning_rate": 4.3333333333333334e-05,
1471
+ "loss": 0.0526,
1472
+ "step": 238
1473
+ },
1474
+ {
1475
+ "epoch": 47.8,
1476
+ "learning_rate": 4e-05,
1477
+ "loss": 0.0099,
1478
+ "step": 239
1479
+ },
1480
+ {
1481
+ "epoch": 48.0,
1482
+ "learning_rate": 3.6666666666666666e-05,
1483
+ "loss": 0.0098,
1484
+ "step": 240
1485
+ },
1486
+ {
1487
+ "epoch": 48.2,
1488
+ "learning_rate": 3.3333333333333335e-05,
1489
+ "loss": 0.0418,
1490
+ "step": 241
1491
+ },
1492
+ {
1493
+ "epoch": 48.4,
1494
+ "learning_rate": 3e-05,
1495
+ "loss": 0.0096,
1496
+ "step": 242
1497
+ },
1498
+ {
1499
+ "epoch": 48.6,
1500
+ "learning_rate": 2.666666666666667e-05,
1501
+ "loss": 0.0854,
1502
+ "step": 243
1503
+ },
1504
+ {
1505
+ "epoch": 48.8,
1506
+ "learning_rate": 2.3333333333333336e-05,
1507
+ "loss": 0.0716,
1508
+ "step": 244
1509
+ },
1510
+ {
1511
+ "epoch": 49.0,
1512
+ "learning_rate": 2e-05,
1513
+ "loss": 0.0087,
1514
+ "step": 245
1515
+ },
1516
+ {
1517
+ "epoch": 49.2,
1518
+ "learning_rate": 1.6666666666666667e-05,
1519
+ "loss": 0.0936,
1520
+ "step": 246
1521
+ },
1522
+ {
1523
+ "epoch": 49.4,
1524
+ "learning_rate": 1.3333333333333335e-05,
1525
+ "loss": 0.0099,
1526
+ "step": 247
1527
+ },
1528
+ {
1529
+ "epoch": 49.6,
1530
+ "learning_rate": 1e-05,
1531
+ "loss": 0.0089,
1532
+ "step": 248
1533
+ },
1534
+ {
1535
+ "epoch": 49.8,
1536
+ "learning_rate": 6.6666666666666675e-06,
1537
+ "loss": 0.0162,
1538
+ "step": 249
1539
+ },
1540
+ {
1541
+ "epoch": 50.0,
1542
+ "learning_rate": 3.3333333333333337e-06,
1543
+ "loss": 0.0118,
1544
+ "step": 250
1545
+ },
1546
+ {
1547
+ "epoch": 50.0,
1548
+ "eval_accuracy": 0.9038461538461539,
1549
+ "eval_loss": 0.4858757257461548,
1550
+ "eval_runtime": 4.4109,
1551
+ "eval_samples_per_second": 23.578,
1552
+ "eval_steps_per_second": 1.587,
1553
+ "step": 250
1554
+ },
1555
+ {
1556
+ "epoch": 50.0,
1557
+ "step": 250,
1558
+ "total_flos": 8.360126160599777e+18,
1559
+ "train_loss": 0.8228848753273487,
1560
+ "train_runtime": 1463.2202,
1561
+ "train_samples_per_second": 10.696,
1562
+ "train_steps_per_second": 0.171
1563
+ }
1564
+ ],
1565
+ "max_steps": 250,
1566
+ "num_train_epochs": 50,
1567
+ "total_flos": 8.360126160599777e+18,
1568
+ "trial_name": null,
1569
+ "trial_params": null
1570
+ }