|
{ |
|
"best_metric": 45.9, |
|
"best_model_checkpoint": "./whisper-small-shona/checkpoint-1600", |
|
"epoch": 40.816326530612244, |
|
"eval_steps": 400, |
|
"global_step": 2000, |
|
"is_hyper_param_search": false, |
|
"is_local_process_zero": true, |
|
"is_world_process_zero": true, |
|
"log_history": [ |
|
{ |
|
"epoch": 0.51, |
|
"learning_rate": 4.800000000000001e-07, |
|
"loss": 2.8886, |
|
"step": 25 |
|
}, |
|
{ |
|
"epoch": 1.02, |
|
"learning_rate": 9.800000000000001e-07, |
|
"loss": 2.4034, |
|
"step": 50 |
|
}, |
|
{ |
|
"epoch": 1.53, |
|
"learning_rate": 1.48e-06, |
|
"loss": 1.8889, |
|
"step": 75 |
|
}, |
|
{ |
|
"epoch": 2.04, |
|
"learning_rate": 1.98e-06, |
|
"loss": 1.4574, |
|
"step": 100 |
|
}, |
|
{ |
|
"epoch": 2.55, |
|
"learning_rate": 2.4800000000000004e-06, |
|
"loss": 1.1526, |
|
"step": 125 |
|
}, |
|
{ |
|
"epoch": 3.06, |
|
"learning_rate": 2.9800000000000003e-06, |
|
"loss": 0.9975, |
|
"step": 150 |
|
}, |
|
{ |
|
"epoch": 3.57, |
|
"learning_rate": 3.48e-06, |
|
"loss": 0.797, |
|
"step": 175 |
|
}, |
|
{ |
|
"epoch": 4.08, |
|
"learning_rate": 3.980000000000001e-06, |
|
"loss": 0.6751, |
|
"step": 200 |
|
}, |
|
{ |
|
"epoch": 4.59, |
|
"learning_rate": 4.48e-06, |
|
"loss": 0.5246, |
|
"step": 225 |
|
}, |
|
{ |
|
"epoch": 5.1, |
|
"learning_rate": 4.980000000000001e-06, |
|
"loss": 0.4666, |
|
"step": 250 |
|
}, |
|
{ |
|
"epoch": 5.61, |
|
"learning_rate": 5.480000000000001e-06, |
|
"loss": 0.3392, |
|
"step": 275 |
|
}, |
|
{ |
|
"epoch": 6.12, |
|
"learning_rate": 5.98e-06, |
|
"loss": 0.2899, |
|
"step": 300 |
|
}, |
|
{ |
|
"epoch": 6.63, |
|
"learning_rate": 6.480000000000001e-06, |
|
"loss": 0.1993, |
|
"step": 325 |
|
}, |
|
{ |
|
"epoch": 7.14, |
|
"learning_rate": 6.98e-06, |
|
"loss": 0.1636, |
|
"step": 350 |
|
}, |
|
{ |
|
"epoch": 7.65, |
|
"learning_rate": 7.48e-06, |
|
"loss": 0.1039, |
|
"step": 375 |
|
}, |
|
{ |
|
"epoch": 8.16, |
|
"learning_rate": 7.980000000000002e-06, |
|
"loss": 0.09, |
|
"step": 400 |
|
}, |
|
{ |
|
"epoch": 8.16, |
|
"eval_loss": 0.857236921787262, |
|
"eval_runtime": 149.0293, |
|
"eval_samples_per_second": 6.207, |
|
"eval_steps_per_second": 0.389, |
|
"eval_wer": 50.6875, |
|
"step": 400 |
|
}, |
|
{ |
|
"epoch": 8.67, |
|
"learning_rate": 8.48e-06, |
|
"loss": 0.0536, |
|
"step": 425 |
|
}, |
|
{ |
|
"epoch": 9.18, |
|
"learning_rate": 8.98e-06, |
|
"loss": 0.0403, |
|
"step": 450 |
|
}, |
|
{ |
|
"epoch": 9.69, |
|
"learning_rate": 9.48e-06, |
|
"loss": 0.0278, |
|
"step": 475 |
|
}, |
|
{ |
|
"epoch": 10.2, |
|
"learning_rate": 9.980000000000001e-06, |
|
"loss": 0.0204, |
|
"step": 500 |
|
}, |
|
{ |
|
"epoch": 10.71, |
|
"learning_rate": 9.84e-06, |
|
"loss": 0.0131, |
|
"step": 525 |
|
}, |
|
{ |
|
"epoch": 11.22, |
|
"learning_rate": 9.673333333333334e-06, |
|
"loss": 0.0117, |
|
"step": 550 |
|
}, |
|
{ |
|
"epoch": 11.73, |
|
"learning_rate": 9.506666666666667e-06, |
|
"loss": 0.0083, |
|
"step": 575 |
|
}, |
|
{ |
|
"epoch": 12.24, |
|
"learning_rate": 9.340000000000002e-06, |
|
"loss": 0.0069, |
|
"step": 600 |
|
}, |
|
{ |
|
"epoch": 12.76, |
|
"learning_rate": 9.173333333333334e-06, |
|
"loss": 0.0072, |
|
"step": 625 |
|
}, |
|
{ |
|
"epoch": 13.27, |
|
"learning_rate": 9.006666666666666e-06, |
|
"loss": 0.006, |
|
"step": 650 |
|
}, |
|
{ |
|
"epoch": 13.78, |
|
"learning_rate": 8.84e-06, |
|
"loss": 0.0047, |
|
"step": 675 |
|
}, |
|
{ |
|
"epoch": 14.29, |
|
"learning_rate": 8.673333333333334e-06, |
|
"loss": 0.0034, |
|
"step": 700 |
|
}, |
|
{ |
|
"epoch": 14.8, |
|
"learning_rate": 8.506666666666668e-06, |
|
"loss": 0.0029, |
|
"step": 725 |
|
}, |
|
{ |
|
"epoch": 15.31, |
|
"learning_rate": 8.34e-06, |
|
"loss": 0.003, |
|
"step": 750 |
|
}, |
|
{ |
|
"epoch": 15.82, |
|
"learning_rate": 8.173333333333334e-06, |
|
"loss": 0.0021, |
|
"step": 775 |
|
}, |
|
{ |
|
"epoch": 16.33, |
|
"learning_rate": 8.006666666666667e-06, |
|
"loss": 0.0019, |
|
"step": 800 |
|
}, |
|
{ |
|
"epoch": 16.33, |
|
"eval_loss": 0.9069271087646484, |
|
"eval_runtime": 147.3435, |
|
"eval_samples_per_second": 6.278, |
|
"eval_steps_per_second": 0.394, |
|
"eval_wer": 46.44375, |
|
"step": 800 |
|
}, |
|
{ |
|
"epoch": 16.84, |
|
"learning_rate": 7.840000000000001e-06, |
|
"loss": 0.0019, |
|
"step": 825 |
|
}, |
|
{ |
|
"epoch": 17.35, |
|
"learning_rate": 7.673333333333333e-06, |
|
"loss": 0.0019, |
|
"step": 850 |
|
}, |
|
{ |
|
"epoch": 17.86, |
|
"learning_rate": 7.506666666666668e-06, |
|
"loss": 0.0016, |
|
"step": 875 |
|
}, |
|
{ |
|
"epoch": 18.37, |
|
"learning_rate": 7.340000000000001e-06, |
|
"loss": 0.0018, |
|
"step": 900 |
|
}, |
|
{ |
|
"epoch": 18.88, |
|
"learning_rate": 7.173333333333335e-06, |
|
"loss": 0.0014, |
|
"step": 925 |
|
}, |
|
{ |
|
"epoch": 19.39, |
|
"learning_rate": 7.006666666666667e-06, |
|
"loss": 0.0012, |
|
"step": 950 |
|
}, |
|
{ |
|
"epoch": 19.9, |
|
"learning_rate": 6.8400000000000014e-06, |
|
"loss": 0.0013, |
|
"step": 975 |
|
}, |
|
{ |
|
"epoch": 20.41, |
|
"learning_rate": 6.6733333333333335e-06, |
|
"loss": 0.0012, |
|
"step": 1000 |
|
}, |
|
{ |
|
"epoch": 20.92, |
|
"learning_rate": 6.5066666666666665e-06, |
|
"loss": 0.0011, |
|
"step": 1025 |
|
}, |
|
{ |
|
"epoch": 21.43, |
|
"learning_rate": 6.34e-06, |
|
"loss": 0.001, |
|
"step": 1050 |
|
}, |
|
{ |
|
"epoch": 21.94, |
|
"learning_rate": 6.173333333333333e-06, |
|
"loss": 0.001, |
|
"step": 1075 |
|
}, |
|
{ |
|
"epoch": 22.45, |
|
"learning_rate": 6.006666666666667e-06, |
|
"loss": 0.0009, |
|
"step": 1100 |
|
}, |
|
{ |
|
"epoch": 22.96, |
|
"learning_rate": 5.84e-06, |
|
"loss": 0.0009, |
|
"step": 1125 |
|
}, |
|
{ |
|
"epoch": 23.47, |
|
"learning_rate": 5.673333333333334e-06, |
|
"loss": 0.0009, |
|
"step": 1150 |
|
}, |
|
{ |
|
"epoch": 23.98, |
|
"learning_rate": 5.506666666666667e-06, |
|
"loss": 0.0008, |
|
"step": 1175 |
|
}, |
|
{ |
|
"epoch": 24.49, |
|
"learning_rate": 5.3400000000000005e-06, |
|
"loss": 0.0008, |
|
"step": 1200 |
|
}, |
|
{ |
|
"epoch": 24.49, |
|
"eval_loss": 0.9473171830177307, |
|
"eval_runtime": 148.8306, |
|
"eval_samples_per_second": 6.215, |
|
"eval_steps_per_second": 0.39, |
|
"eval_wer": 46.04375, |
|
"step": 1200 |
|
}, |
|
{ |
|
"epoch": 25.0, |
|
"learning_rate": 5.1733333333333335e-06, |
|
"loss": 0.0008, |
|
"step": 1225 |
|
}, |
|
{ |
|
"epoch": 25.51, |
|
"learning_rate": 5.006666666666667e-06, |
|
"loss": 0.0008, |
|
"step": 1250 |
|
}, |
|
{ |
|
"epoch": 26.02, |
|
"learning_rate": 4.84e-06, |
|
"loss": 0.0007, |
|
"step": 1275 |
|
}, |
|
{ |
|
"epoch": 26.53, |
|
"learning_rate": 4.673333333333333e-06, |
|
"loss": 0.0007, |
|
"step": 1300 |
|
}, |
|
{ |
|
"epoch": 27.04, |
|
"learning_rate": 4.506666666666667e-06, |
|
"loss": 0.0007, |
|
"step": 1325 |
|
}, |
|
{ |
|
"epoch": 27.55, |
|
"learning_rate": 4.34e-06, |
|
"loss": 0.0007, |
|
"step": 1350 |
|
}, |
|
{ |
|
"epoch": 28.06, |
|
"learning_rate": 4.173333333333334e-06, |
|
"loss": 0.0007, |
|
"step": 1375 |
|
}, |
|
{ |
|
"epoch": 28.57, |
|
"learning_rate": 4.006666666666667e-06, |
|
"loss": 0.0006, |
|
"step": 1400 |
|
}, |
|
{ |
|
"epoch": 29.08, |
|
"learning_rate": 3.8400000000000005e-06, |
|
"loss": 0.0007, |
|
"step": 1425 |
|
}, |
|
{ |
|
"epoch": 29.59, |
|
"learning_rate": 3.673333333333334e-06, |
|
"loss": 0.0006, |
|
"step": 1450 |
|
}, |
|
{ |
|
"epoch": 30.1, |
|
"learning_rate": 3.5066666666666673e-06, |
|
"loss": 0.0006, |
|
"step": 1475 |
|
}, |
|
{ |
|
"epoch": 30.61, |
|
"learning_rate": 3.3400000000000006e-06, |
|
"loss": 0.0006, |
|
"step": 1500 |
|
}, |
|
{ |
|
"epoch": 31.12, |
|
"learning_rate": 3.173333333333334e-06, |
|
"loss": 0.0006, |
|
"step": 1525 |
|
}, |
|
{ |
|
"epoch": 31.63, |
|
"learning_rate": 3.0066666666666674e-06, |
|
"loss": 0.0006, |
|
"step": 1550 |
|
}, |
|
{ |
|
"epoch": 32.14, |
|
"learning_rate": 2.84e-06, |
|
"loss": 0.0006, |
|
"step": 1575 |
|
}, |
|
{ |
|
"epoch": 32.65, |
|
"learning_rate": 2.6733333333333333e-06, |
|
"loss": 0.0006, |
|
"step": 1600 |
|
}, |
|
{ |
|
"epoch": 32.65, |
|
"eval_loss": 0.965289831161499, |
|
"eval_runtime": 147.3092, |
|
"eval_samples_per_second": 6.279, |
|
"eval_steps_per_second": 0.394, |
|
"eval_wer": 45.9, |
|
"step": 1600 |
|
}, |
|
{ |
|
"epoch": 33.16, |
|
"learning_rate": 2.5066666666666667e-06, |
|
"loss": 0.0006, |
|
"step": 1625 |
|
}, |
|
{ |
|
"epoch": 33.67, |
|
"learning_rate": 2.3400000000000005e-06, |
|
"loss": 0.0005, |
|
"step": 1650 |
|
}, |
|
{ |
|
"epoch": 34.18, |
|
"learning_rate": 2.1733333333333334e-06, |
|
"loss": 0.0006, |
|
"step": 1675 |
|
}, |
|
{ |
|
"epoch": 34.69, |
|
"learning_rate": 2.006666666666667e-06, |
|
"loss": 0.0005, |
|
"step": 1700 |
|
}, |
|
{ |
|
"epoch": 35.2, |
|
"learning_rate": 1.8400000000000002e-06, |
|
"loss": 0.0006, |
|
"step": 1725 |
|
}, |
|
{ |
|
"epoch": 35.71, |
|
"learning_rate": 1.6733333333333335e-06, |
|
"loss": 0.0005, |
|
"step": 1750 |
|
}, |
|
{ |
|
"epoch": 36.22, |
|
"learning_rate": 1.506666666666667e-06, |
|
"loss": 0.0005, |
|
"step": 1775 |
|
}, |
|
{ |
|
"epoch": 36.73, |
|
"learning_rate": 1.34e-06, |
|
"loss": 0.0005, |
|
"step": 1800 |
|
}, |
|
{ |
|
"epoch": 37.24, |
|
"learning_rate": 1.1733333333333335e-06, |
|
"loss": 0.0005, |
|
"step": 1825 |
|
}, |
|
{ |
|
"epoch": 37.76, |
|
"learning_rate": 1.0066666666666668e-06, |
|
"loss": 0.0005, |
|
"step": 1850 |
|
}, |
|
{ |
|
"epoch": 38.27, |
|
"learning_rate": 8.400000000000001e-07, |
|
"loss": 0.0005, |
|
"step": 1875 |
|
}, |
|
{ |
|
"epoch": 38.78, |
|
"learning_rate": 6.733333333333334e-07, |
|
"loss": 0.0005, |
|
"step": 1900 |
|
}, |
|
{ |
|
"epoch": 39.29, |
|
"learning_rate": 5.066666666666667e-07, |
|
"loss": 0.0005, |
|
"step": 1925 |
|
}, |
|
{ |
|
"epoch": 39.8, |
|
"learning_rate": 3.4000000000000003e-07, |
|
"loss": 0.0005, |
|
"step": 1950 |
|
}, |
|
{ |
|
"epoch": 40.31, |
|
"learning_rate": 1.7333333333333335e-07, |
|
"loss": 0.0005, |
|
"step": 1975 |
|
}, |
|
{ |
|
"epoch": 40.82, |
|
"learning_rate": 6.666666666666667e-09, |
|
"loss": 0.0005, |
|
"step": 2000 |
|
}, |
|
{ |
|
"epoch": 40.82, |
|
"eval_loss": 0.9719672799110413, |
|
"eval_runtime": 147.2827, |
|
"eval_samples_per_second": 6.28, |
|
"eval_steps_per_second": 0.394, |
|
"eval_wer": 45.94375, |
|
"step": 2000 |
|
}, |
|
{ |
|
"epoch": 40.82, |
|
"step": 2000, |
|
"total_flos": 9.188559230976655e+18, |
|
"train_loss": 0.18361923832818866, |
|
"train_runtime": 4653.6924, |
|
"train_samples_per_second": 6.876, |
|
"train_steps_per_second": 0.43 |
|
} |
|
], |
|
"logging_steps": 25, |
|
"max_steps": 2000, |
|
"num_input_tokens_seen": 0, |
|
"num_train_epochs": 41, |
|
"save_steps": 400, |
|
"total_flos": 9.188559230976655e+18, |
|
"train_batch_size": 8, |
|
"trial_name": null, |
|
"trial_params": null |
|
} |
|
|