{ "best_metric": 6.719567920299668, "best_model_checkpoint": "./checkpoint-6000", "epoch": 1.0958333333333334, "global_step": 6000, "is_hyper_param_search": false, "is_local_process_zero": true, "is_world_process_zero": true, "log_history": [ { "epoch": 0.0, "learning_rate": 2.999666666666667e-05, "loss": 0.0175, "step": 1 }, { "epoch": 0.01, "learning_rate": 2.9833333333333335e-05, "loss": 0.0176, "step": 50 }, { "epoch": 0.02, "learning_rate": 2.966666666666667e-05, "loss": 0.0195, "step": 100 }, { "epoch": 0.03, "learning_rate": 2.95e-05, "loss": 0.0191, "step": 150 }, { "epoch": 0.03, "learning_rate": 2.9333333333333333e-05, "loss": 0.0191, "step": 200 }, { "epoch": 0.04, "learning_rate": 2.9166666666666666e-05, "loss": 0.0204, "step": 250 }, { "epoch": 0.05, "learning_rate": 2.9e-05, "loss": 0.0191, "step": 300 }, { "epoch": 0.06, "learning_rate": 2.8833333333333334e-05, "loss": 0.0166, "step": 350 }, { "epoch": 0.07, "learning_rate": 2.8666666666666668e-05, "loss": 0.0171, "step": 400 }, { "epoch": 0.07, "learning_rate": 2.8499999999999998e-05, "loss": 0.0178, "step": 450 }, { "epoch": 0.08, "learning_rate": 2.8333333333333332e-05, "loss": 0.0246, "step": 500 }, { "epoch": 0.09, "learning_rate": 2.8166666666666666e-05, "loss": 0.0171, "step": 550 }, { "epoch": 0.1, "learning_rate": 2.8e-05, "loss": 0.0187, "step": 600 }, { "epoch": 0.11, "learning_rate": 2.7833333333333337e-05, "loss": 0.0267, "step": 650 }, { "epoch": 0.12, "learning_rate": 2.766666666666667e-05, "loss": 0.0336, "step": 700 }, { "epoch": 0.12, "learning_rate": 2.75e-05, "loss": 0.0325, "step": 750 }, { "epoch": 0.13, "learning_rate": 2.7333333333333335e-05, "loss": 0.0315, "step": 800 }, { "epoch": 0.14, "learning_rate": 2.716666666666667e-05, "loss": 0.0318, "step": 850 }, { "epoch": 0.15, "learning_rate": 2.7000000000000002e-05, "loss": 0.0311, "step": 900 }, { "epoch": 0.16, "learning_rate": 2.6833333333333336e-05, "loss": 0.0304, "step": 950 }, { "epoch": 0.17, "learning_rate": 2.6666666666666667e-05, "loss": 0.0275, "step": 1000 }, { "epoch": 0.17, "eval_loss": 0.08357452601194382, "eval_runtime": 5071.0402, "eval_samples_per_second": 3.13, "eval_steps_per_second": 0.098, "eval_wer": 7.786304277240581, "step": 1000 }, { "epoch": 0.17, "learning_rate": 2.65e-05, "loss": 0.03, "step": 1050 }, { "epoch": 0.18, "learning_rate": 2.6333333333333334e-05, "loss": 0.0275, "step": 1100 }, { "epoch": 0.19, "learning_rate": 2.6166666666666668e-05, "loss": 0.0266, "step": 1150 }, { "epoch": 0.2, "learning_rate": 2.6000000000000002e-05, "loss": 0.027, "step": 1200 }, { "epoch": 0.21, "learning_rate": 2.5833333333333336e-05, "loss": 0.0274, "step": 1250 }, { "epoch": 0.22, "learning_rate": 2.5666666666666666e-05, "loss": 0.0264, "step": 1300 }, { "epoch": 0.23, "learning_rate": 2.55e-05, "loss": 0.0248, "step": 1350 }, { "epoch": 0.23, "learning_rate": 2.5333333333333334e-05, "loss": 0.0261, "step": 1400 }, { "epoch": 0.24, "learning_rate": 2.5166666666666667e-05, "loss": 0.0225, "step": 1450 }, { "epoch": 0.25, "learning_rate": 2.5e-05, "loss": 0.0255, "step": 1500 }, { "epoch": 0.26, "learning_rate": 2.483333333333333e-05, "loss": 0.025, "step": 1550 }, { "epoch": 0.27, "learning_rate": 2.4666666666666665e-05, "loss": 0.0211, "step": 1600 }, { "epoch": 0.28, "learning_rate": 2.45e-05, "loss": 0.0242, "step": 1650 }, { "epoch": 0.28, "learning_rate": 2.4333333333333333e-05, "loss": 0.023, "step": 1700 }, { "epoch": 0.29, "learning_rate": 2.4166666666666667e-05, "loss": 0.0177, "step": 1750 }, { "epoch": 0.3, "learning_rate": 2.4e-05, "loss": 0.0195, "step": 1800 }, { "epoch": 0.31, "learning_rate": 2.383333333333333e-05, "loss": 0.0195, "step": 1850 }, { "epoch": 0.32, "learning_rate": 2.3666666666666665e-05, "loss": 0.0193, "step": 1900 }, { "epoch": 0.33, "learning_rate": 2.3500000000000002e-05, "loss": 0.019, "step": 1950 }, { "epoch": 0.33, "learning_rate": 2.3333333333333336e-05, "loss": 0.016, "step": 2000 }, { "epoch": 0.33, "eval_loss": 0.08282392472028732, "eval_runtime": 5050.4193, "eval_samples_per_second": 3.143, "eval_steps_per_second": 0.098, "eval_wer": 7.288969138295598, "step": 2000 }, { "epoch": 0.34, "learning_rate": 2.316666666666667e-05, "loss": 0.0194, "step": 2050 }, { "epoch": 0.35, "learning_rate": 2.3000000000000003e-05, "loss": 0.0163, "step": 2100 }, { "epoch": 0.36, "learning_rate": 2.2833333333333334e-05, "loss": 0.0151, "step": 2150 }, { "epoch": 0.37, "learning_rate": 2.2666666666666668e-05, "loss": 0.0175, "step": 2200 }, { "epoch": 0.38, "learning_rate": 2.25e-05, "loss": 0.0174, "step": 2250 }, { "epoch": 0.38, "learning_rate": 2.2333333333333335e-05, "loss": 0.015, "step": 2300 }, { "epoch": 0.39, "learning_rate": 2.216666666666667e-05, "loss": 0.0178, "step": 2350 }, { "epoch": 0.4, "learning_rate": 2.2e-05, "loss": 0.0201, "step": 2400 }, { "epoch": 0.41, "learning_rate": 2.1833333333333333e-05, "loss": 0.0173, "step": 2450 }, { "epoch": 0.42, "learning_rate": 2.1666666666666667e-05, "loss": 0.0171, "step": 2500 }, { "epoch": 0.42, "learning_rate": 2.15e-05, "loss": 0.024, "step": 2550 }, { "epoch": 0.43, "learning_rate": 2.1333333333333335e-05, "loss": 0.0165, "step": 2600 }, { "epoch": 0.44, "learning_rate": 2.116666666666667e-05, "loss": 0.0174, "step": 2650 }, { "epoch": 0.45, "learning_rate": 2.1e-05, "loss": 0.0175, "step": 2700 }, { "epoch": 0.46, "learning_rate": 2.0833333333333333e-05, "loss": 0.0234, "step": 2750 }, { "epoch": 0.47, "learning_rate": 2.0666666666666666e-05, "loss": 0.0201, "step": 2800 }, { "epoch": 0.47, "learning_rate": 2.05e-05, "loss": 0.0183, "step": 2850 }, { "epoch": 0.48, "learning_rate": 2.0333333333333334e-05, "loss": 0.0194, "step": 2900 }, { "epoch": 0.49, "learning_rate": 2.0166666666666668e-05, "loss": 0.0194, "step": 2950 }, { "epoch": 0.5, "learning_rate": 1.9999999999999998e-05, "loss": 0.0164, "step": 3000 }, { "epoch": 0.5, "eval_loss": 0.0816347748041153, "eval_runtime": 5044.7426, "eval_samples_per_second": 3.146, "eval_steps_per_second": 0.098, "eval_wer": 7.182849857055744, "step": 3000 }, { "epoch": 0.51, "learning_rate": 1.9833333333333332e-05, "loss": 0.0204, "step": 3050 }, { "epoch": 0.52, "learning_rate": 1.9666666666666666e-05, "loss": 0.0203, "step": 3100 }, { "epoch": 0.53, "learning_rate": 1.9503333333333334e-05, "loss": 0.0198, "step": 3150 }, { "epoch": 0.53, "learning_rate": 1.9336666666666667e-05, "loss": 0.0224, "step": 3200 }, { "epoch": 0.54, "learning_rate": 1.917e-05, "loss": 0.0251, "step": 3250 }, { "epoch": 0.55, "learning_rate": 1.9003333333333335e-05, "loss": 0.0201, "step": 3300 }, { "epoch": 0.56, "learning_rate": 1.883666666666667e-05, "loss": 0.019, "step": 3350 }, { "epoch": 0.57, "learning_rate": 1.867e-05, "loss": 0.0185, "step": 3400 }, { "epoch": 0.57, "learning_rate": 1.8503333333333333e-05, "loss": 0.0216, "step": 3450 }, { "epoch": 0.58, "learning_rate": 1.8336666666666667e-05, "loss": 0.0203, "step": 3500 }, { "epoch": 0.59, "learning_rate": 1.817e-05, "loss": 0.0166, "step": 3550 }, { "epoch": 0.6, "learning_rate": 1.8003333333333334e-05, "loss": 0.0183, "step": 3600 }, { "epoch": 0.61, "learning_rate": 1.7836666666666665e-05, "loss": 0.0194, "step": 3650 }, { "epoch": 0.62, "learning_rate": 1.767e-05, "loss": 0.0187, "step": 3700 }, { "epoch": 0.62, "learning_rate": 1.7503333333333332e-05, "loss": 0.0184, "step": 3750 }, { "epoch": 0.63, "learning_rate": 1.7336666666666666e-05, "loss": 0.0261, "step": 3800 }, { "epoch": 0.64, "learning_rate": 1.717e-05, "loss": 0.026, "step": 3850 }, { "epoch": 0.65, "learning_rate": 1.7003333333333334e-05, "loss": 0.0163, "step": 3900 }, { "epoch": 0.66, "learning_rate": 1.6836666666666664e-05, "loss": 0.0148, "step": 3950 }, { "epoch": 0.67, "learning_rate": 1.667e-05, "loss": 0.0191, "step": 4000 }, { "epoch": 0.67, "eval_loss": 0.08142250031232834, "eval_runtime": 5067.9975, "eval_samples_per_second": 3.132, "eval_steps_per_second": 0.098, "eval_wer": 7.272338504668456, "step": 4000 }, { "epoch": 0.68, "learning_rate": 1.6503333333333335e-05, "loss": 0.0172, "step": 4050 }, { "epoch": 0.68, "learning_rate": 1.633666666666667e-05, "loss": 0.0167, "step": 4100 }, { "epoch": 0.69, "learning_rate": 1.6170000000000003e-05, "loss": 0.0189, "step": 4150 }, { "epoch": 0.7, "learning_rate": 1.6003333333333337e-05, "loss": 0.029, "step": 4200 }, { "epoch": 0.71, "learning_rate": 1.5836666666666667e-05, "loss": 0.0293, "step": 4250 }, { "epoch": 0.72, "learning_rate": 1.567e-05, "loss": 0.0206, "step": 4300 }, { "epoch": 0.72, "learning_rate": 1.5503333333333335e-05, "loss": 0.0204, "step": 4350 }, { "epoch": 0.73, "learning_rate": 1.533666666666667e-05, "loss": 0.0235, "step": 4400 }, { "epoch": 0.74, "learning_rate": 1.5170000000000002e-05, "loss": 0.0304, "step": 4450 }, { "epoch": 0.75, "learning_rate": 1.5003333333333333e-05, "loss": 0.0181, "step": 4500 }, { "epoch": 0.76, "learning_rate": 1.4836666666666668e-05, "loss": 0.0262, "step": 4550 }, { "epoch": 0.77, "learning_rate": 1.467e-05, "loss": 0.0184, "step": 4600 }, { "epoch": 0.78, "learning_rate": 1.4503333333333334e-05, "loss": 0.018, "step": 4650 }, { "epoch": 0.78, "learning_rate": 1.4336666666666666e-05, "loss": 0.0173, "step": 4700 }, { "epoch": 0.79, "learning_rate": 1.417e-05, "loss": 0.0172, "step": 4750 }, { "epoch": 0.8, "learning_rate": 1.4003333333333334e-05, "loss": 0.0165, "step": 4800 }, { "epoch": 0.81, "learning_rate": 1.3836666666666666e-05, "loss": 0.0183, "step": 4850 }, { "epoch": 0.82, "learning_rate": 1.367e-05, "loss": 0.0174, "step": 4900 }, { "epoch": 0.82, "learning_rate": 1.3503333333333333e-05, "loss": 0.0172, "step": 4950 }, { "epoch": 0.83, "learning_rate": 1.3336666666666667e-05, "loss": 0.0142, "step": 5000 }, { "epoch": 0.83, "eval_loss": 0.07993897795677185, "eval_runtime": 5054.3965, "eval_samples_per_second": 3.14, "eval_steps_per_second": 0.098, "eval_wer": 6.939725832125633, "step": 5000 }, { "epoch": 0.84, "learning_rate": 1.3170000000000001e-05, "loss": 0.0155, "step": 5050 }, { "epoch": 0.85, "learning_rate": 1.3003333333333335e-05, "loss": 0.0164, "step": 5100 }, { "epoch": 0.86, "learning_rate": 1.2836666666666667e-05, "loss": 0.0157, "step": 5150 }, { "epoch": 0.87, "learning_rate": 1.267e-05, "loss": 0.0151, "step": 5200 }, { "epoch": 0.88, "learning_rate": 1.2503333333333334e-05, "loss": 0.0148, "step": 5250 }, { "epoch": 0.88, "learning_rate": 1.2336666666666667e-05, "loss": 0.017, "step": 5300 }, { "epoch": 0.89, "learning_rate": 1.217e-05, "loss": 0.0147, "step": 5350 }, { "epoch": 0.9, "learning_rate": 1.2003333333333332e-05, "loss": 0.0196, "step": 5400 }, { "epoch": 1.0, "learning_rate": 1.1836666666666666e-05, "loss": 0.0165, "step": 5450 }, { "epoch": 1.01, "learning_rate": 1.167e-05, "loss": 0.0096, "step": 5500 }, { "epoch": 1.02, "learning_rate": 1.1503333333333332e-05, "loss": 0.0075, "step": 5550 }, { "epoch": 1.03, "learning_rate": 1.1336666666666668e-05, "loss": 0.0071, "step": 5600 }, { "epoch": 1.04, "learning_rate": 1.1170000000000001e-05, "loss": 0.0068, "step": 5650 }, { "epoch": 1.05, "learning_rate": 1.1003333333333334e-05, "loss": 0.0068, "step": 5700 }, { "epoch": 1.05, "learning_rate": 1.0836666666666667e-05, "loss": 0.0052, "step": 5750 }, { "epoch": 1.06, "learning_rate": 1.0670000000000001e-05, "loss": 0.0067, "step": 5800 }, { "epoch": 1.07, "learning_rate": 1.0503333333333333e-05, "loss": 0.0087, "step": 5850 }, { "epoch": 1.08, "learning_rate": 1.0336666666666667e-05, "loss": 0.0078, "step": 5900 }, { "epoch": 1.09, "learning_rate": 1.0170000000000001e-05, "loss": 0.0075, "step": 5950 }, { "epoch": 1.1, "learning_rate": 1.0003333333333333e-05, "loss": 0.0076, "step": 6000 }, { "epoch": 1.1, "eval_loss": 0.08352651447057724, "eval_runtime": 5093.2556, "eval_samples_per_second": 3.116, "eval_steps_per_second": 0.097, "eval_wer": 6.719567920299668, "step": 6000 }, { "epoch": 1.1, "step": 6000, "total_flos": 1.1080467313606656e+20, "train_loss": 0.0194823435023427, "train_runtime": 77295.3787, "train_samples_per_second": 4.968, "train_steps_per_second": 0.078 } ], "max_steps": 6000, "num_train_epochs": 9223372036854775807, "total_flos": 1.1080467313606656e+20, "trial_name": null, "trial_params": null }