diff --git "a/discriminative/eu/fine-tuning/train/logs/model_transfer.log" "b/discriminative/eu/fine-tuning/train/logs/model_transfer.log"
new file mode 100644--- /dev/null
+++ "b/discriminative/eu/fine-tuning/train/logs/model_transfer.log"
@@ -0,0 +1,5095 @@
+12/17/2025 17:58:28 - WARNING - __main__ - Process rank: 0, device: cuda:0, n_gpu: 1distributed training: True, 16-bits training: False
+12/17/2025 17:58:28 - INFO - __main__ - Training/evaluation parameters TrainingArguments(
+_n_gpu=1,
+accelerator_config={'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None, 'use_configured_state': False},
+adafactor=False,
+adam_beta1=0.9,
+adam_beta2=0.999,
+adam_epsilon=1e-08,
+auto_find_batch_size=False,
+average_tokens_across_devices=True,
+batch_eval_metrics=False,
+bf16=True,
+bf16_full_eval=False,
+data_seed=None,
+dataloader_drop_last=False,
+dataloader_num_workers=0,
+dataloader_persistent_workers=False,
+dataloader_pin_memory=True,
+dataloader_prefetch_factor=None,
+ddp_backend=None,
+ddp_broadcast_buffers=None,
+ddp_bucket_cap_mb=None,
+ddp_find_unused_parameters=None,
+ddp_timeout=1800,
+debug=[],
+deepspeed=None,
+disable_tqdm=False,
+do_eval=True,
+do_predict=False,
+do_train=True,
+eval_accumulation_steps=None,
+eval_delay=0,
+eval_do_concat_batches=True,
+eval_on_start=False,
+eval_steps=5000,
+eval_strategy=steps,
+eval_use_gather_object=False,
+fp16=False,
+fp16_backend=auto,
+fp16_full_eval=False,
+fp16_opt_level=O1,
+fsdp=[],
+fsdp_config={'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False},
+fsdp_min_num_params=0,
+fsdp_transformer_layer_cls_to_wrap=None,
+full_determinism=False,
+gradient_accumulation_steps=1,
+gradient_checkpointing=False,
+gradient_checkpointing_kwargs=None,
+greater_is_better=True,
+group_by_length=False,
+half_precision_backend=auto,
+hub_always_push=False,
+hub_model_id=None,
+hub_private_repo=None,
+hub_revision=None,
+hub_strategy=every_save,
+hub_token=<HUB_TOKEN>,
+ignore_data_skip=False,
+include_for_metrics=[],
+include_inputs_for_metrics=False,
+include_num_input_tokens_seen=no,
+include_tokens_per_second=False,
+jit_mode_eval=False,
+label_names=None,
+label_smoothing_factor=0.0,
+learning_rate=1e-05,
+length_column_name=length,
+liger_kernel_config=None,
+load_best_model_at_end=True,
+local_rank=0,
+log_level=passive,
+log_level_replica=warning,
+log_on_each_node=True,
+logging_dir=/scratch/jbengoetxea/phd/XNLIvar/scripts/discriminative/eu/models/model-transfer/jhu-clsp/mmBERT-base/23/runs/Dec17_17-58-27_hyperion-256.sw.ehu.es,
+logging_first_step=False,
+logging_nan_inf_filter=True,
+logging_steps=25,
+logging_strategy=steps,
+lr_scheduler_kwargs={},
+lr_scheduler_type=linear,
+max_grad_norm=1.0,
+max_steps=-1,
+metric_for_best_model=accuracy,
+mp_parameters=,
+neftune_noise_alpha=None,
+no_cuda=False,
+num_train_epochs=10.0,
+optim=adamw_torch_fused,
+optim_args=None,
+optim_target_modules=None,
+output_dir=/scratch/jbengoetxea/phd/XNLIvar/scripts/discriminative/eu/models/model-transfer/jhu-clsp/mmBERT-base/23,
+overwrite_output_dir=False,
+parallelism_config=None,
+past_index=-1,
+per_device_eval_batch_size=8,
+per_device_train_batch_size=8,
+prediction_loss_only=False,
+project=huggingface,
+push_to_hub=False,
+push_to_hub_model_id=None,
+push_to_hub_organization=None,
+push_to_hub_token=<PUSH_TO_HUB_TOKEN>,
+ray_scope=last,
+remove_unused_columns=True,
+report_to=[],
+restore_callback_states_from_checkpoint=False,
+resume_from_checkpoint=None,
+run_name=None,
+save_on_each_node=False,
+save_only_model=False,
+save_safetensors=True,
+save_steps=50000,
+save_strategy=steps,
+save_total_limit=2,
+seed=23,
+skip_memory_metrics=True,
+tf32=None,
+torch_compile=False,
+torch_compile_backend=None,
+torch_compile_mode=None,
+torch_empty_cache_steps=None,
+torchdynamo=None,
+tpu_metrics_debug=False,
+tpu_num_cores=None,
+trackio_space_id=trackio,
+use_cpu=False,
+use_legacy_prediction_loop=False,
+use_liger_kernel=False,
+use_mps_device=False,
+warmup_ratio=0.0,
+warmup_steps=0,
+weight_decay=0.0,
+)
+12/17/2025 17:58:28 - WARNING - __main__ - Process rank: 3, device: cuda:3, n_gpu: 1distributed training: True, 16-bits training: False
+12/17/2025 17:58:28 - WARNING - __main__ - Process rank: 1, device: cuda:1, n_gpu: 1distributed training: True, 16-bits training: False
+12/17/2025 17:58:28 - WARNING - __main__ - Process rank: 2, device: cuda:2, n_gpu: 1distributed training: True, 16-bits training: False
+12/17/2025 17:58:32 - INFO - datasets.builder - Found cached dataset xnli (/home/jbengoetxea/.cache/huggingface/datasets/xnli/en/0.0.0/b8dd5d7af51114dbda02c0e3f6133f332186418e)
+12/17/2025 17:58:33 - INFO - datasets.builder - Found cached dataset xnli-eu (/home/jbengoetxea/.cache/huggingface/datasets/HiTZ___xnli-eu/eu/0.0.0/7a48572e7a36d9bc645ec4c63eb7c7c3e27e23ba)
+12/17/2025 17:58:37 - INFO - datasets.arrow_dataset - Loading cached processed dataset at /home/jbengoetxea/.cache/huggingface/datasets/xnli/en/0.0.0/b8dd5d7af51114dbda02c0e3f6133f332186418e/cache-e0e55c071a581887_*_of_00001.arrow
+12/17/2025 17:58:40 - INFO - __main__ - Sample 151999 of the training set: {'premise': "( At least they said it was hers when Sophie R-C handed over a100,000 of Bill Gates ' money . )", 'hypothesis': 'They said it was hers .', 'label': 0, 'input_ids': [2, 591, 2625, 3476, 984, 1180, 665, 729, 38424, 1185, 48088, 625, 235290, 235288, 25678, 1163, 476, 235274, 235276, 235276, 235269, 235276, 235276, 235276, 576, 8352, 42281, 777, 3370, 954, 1968, 1, 2365, 1180, 665, 729, 38424, 954, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0], 'attention_mask': [1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0]}.
+12/17/2025 17:58:40 - INFO - __main__ - Sample 43804 of the training set: {'premise': "that and then you know the laptop that 's how i guess they really stuck it on a disk the teacher you know with no answers and they could take it like that and then just print it out in fax and it would be okay because you can put it on a you know on diskette", 'hypothesis': 'My laptop will be able to read the data .', 'label': 1, 'input_ids': [2, 674, 578, 1492, 692, 1230, 573, 15690, 674, 777, 235256, 1368, 496, 7464, 984, 2277, 17530, 665, 611, 476, 17257, 573, 9382, 692, 1230, 675, 793, 10523, 578, 984, 1538, 1987, 665, 1154, 674, 578, 1492, 1317, 4152, 665, 921, 575, 49734, 578, 665, 1134, 614, 12763, 1861, 692, 798, 2507, 665, 611, 476, 692, 1230, 611, 17257, 3039, 1, 2961, 15690, 877, 614, 3326, 577, 1682, 573, 1423, 954, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0], 'attention_mask': [1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0]}.
+12/17/2025 17:58:40 - INFO - __main__ - Sample 8953 of the training set: {'premise': "Additional years ' data also may be reported if such data would provide a better indication of the nature of the investment .", 'hypothesis': 'Older data can be reported if it would show a better indication of the investment .', 'label': 0, 'input_ids': [2, 22610, 1658, 777, 1423, 1170, 1249, 614, 5504, 1013, 1582, 1423, 1134, 3658, 476, 2525, 29068, 576, 573, 4460, 576, 573, 9245, 954, 1, 73172, 1423, 798, 614, 5504, 1013, 665, 1134, 1500, 476, 2525, 29068, 576, 573, 9245, 954, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0], 'attention_mask': [1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0]}.
+12/17/2025 17:58:40 - INFO - datasets.arrow_dataset - Loading cached processed dataset at /home/jbengoetxea/.cache/huggingface/datasets/HiTZ___xnli-eu/eu/0.0.0/7a48572e7a36d9bc645ec4c63eb7c7c3e27e23ba/cache-50dbff6115ccc2e9_*_of_00001.arrow
+12/17/2025 17:58:41 - WARNING - accelerate.utils.other - Detected kernel version 4.18.0, which is below the recommended minimum of 5.5.0; this can cause the process to hang. It is recommended to upgrade the kernel to the minimum version or higher.
+{'loss': 4.9585, 'grad_norm': 113.27672576904297, 'learning_rate': 9.998044328552805e-06, 'epoch': 0.0}
+{'loss': 4.133, 'grad_norm': 80.87128448486328, 'learning_rate': 9.996007170795308e-06, 'epoch': 0.0}
+{'loss': 3.4333, 'grad_norm': 157.53831481933594, 'learning_rate': 9.99397001303781e-06, 'epoch': 0.01}
+{'loss': 2.8789, 'grad_norm': 146.59359741210938, 'learning_rate': 9.991932855280315e-06, 'epoch': 0.01}
+{'loss': 2.6185, 'grad_norm': 60.50554275512695, 'learning_rate': 9.989895697522816e-06, 'epoch': 0.01}
+{'loss': 2.6138, 'grad_norm': 106.12911987304688, 'learning_rate': 9.98785853976532e-06, 'epoch': 0.01}
+{'loss': 2.3139, 'grad_norm': 103.59012603759766, 'learning_rate': 9.985821382007823e-06, 'epoch': 0.01}
+{'loss': 1.9836, 'grad_norm': 71.28646087646484, 'learning_rate': 9.983784224250327e-06, 'epoch': 0.02}
+{'loss': 2.1738, 'grad_norm': 104.81135559082031, 'learning_rate': 9.98174706649283e-06, 'epoch': 0.02}
+{'loss': 2.1803, 'grad_norm': 69.12138366699219, 'learning_rate': 9.979709908735333e-06, 'epoch': 0.02}
+{'loss': 1.9698, 'grad_norm': 115.47045135498047, 'learning_rate': 9.977672750977837e-06, 'epoch': 0.02}
+{'loss': 2.158, 'grad_norm': 74.95108795166016, 'learning_rate': 9.97563559322034e-06, 'epoch': 0.02}
+{'loss': 1.9377, 'grad_norm': 72.22056579589844, 'learning_rate': 9.973598435462843e-06, 'epoch': 0.03}
+{'loss': 1.9016, 'grad_norm': 145.2588653564453, 'learning_rate': 9.971561277705347e-06, 'epoch': 0.03}
+{'loss': 1.9692, 'grad_norm': 90.6427001953125, 'learning_rate': 9.96952411994785e-06, 'epoch': 0.03}
+{'loss': 2.0037, 'grad_norm': 85.498291015625, 'learning_rate': 9.967486962190352e-06, 'epoch': 0.03}
+{'loss': 1.9457, 'grad_norm': 60.50795364379883, 'learning_rate': 9.965449804432857e-06, 'epoch': 0.03}
+{'loss': 2.0262, 'grad_norm': 52.71012878417969, 'learning_rate': 9.963412646675359e-06, 'epoch': 0.04}
+{'loss': 2.0764, 'grad_norm': 66.7873306274414, 'learning_rate': 9.961375488917862e-06, 'epoch': 0.04}
+{'loss': 1.9863, 'grad_norm': 82.50489807128906, 'learning_rate': 9.959338331160367e-06, 'epoch': 0.04}
+{'loss': 1.8822, 'grad_norm': 63.05057907104492, 'learning_rate': 9.957301173402869e-06, 'epoch': 0.04}
+{'loss': 2.1216, 'grad_norm': 52.545589447021484, 'learning_rate': 9.955264015645372e-06, 'epoch': 0.04}
+{'loss': 1.9425, 'grad_norm': 85.76953887939453, 'learning_rate': 9.953226857887875e-06, 'epoch': 0.05}
+{'loss': 1.9473, 'grad_norm': 76.35736846923828, 'learning_rate': 9.951189700130379e-06, 'epoch': 0.05}
+{'loss': 2.0143, 'grad_norm': 59.90365219116211, 'learning_rate': 9.949152542372882e-06, 'epoch': 0.05}
+{'loss': 2.0637, 'grad_norm': 97.65684509277344, 'learning_rate': 9.947115384615385e-06, 'epoch': 0.05}
+{'loss': 1.927, 'grad_norm': 106.53160095214844, 'learning_rate': 9.945078226857889e-06, 'epoch': 0.06}
+{'loss': 1.89, 'grad_norm': 64.19241333007812, 'learning_rate': 9.943041069100392e-06, 'epoch': 0.06}
+{'loss': 1.8524, 'grad_norm': 41.10271072387695, 'learning_rate': 9.941003911342894e-06, 'epoch': 0.06}
+{'loss': 2.0377, 'grad_norm': 41.73126983642578, 'learning_rate': 9.938966753585399e-06, 'epoch': 0.06}
+{'loss': 2.0205, 'grad_norm': 54.69784164428711, 'learning_rate': 9.936929595827902e-06, 'epoch': 0.06}
+{'loss': 1.5817, 'grad_norm': 109.98088836669922, 'learning_rate': 9.934892438070406e-06, 'epoch': 0.07}
+{'loss': 1.9569, 'grad_norm': 40.337425231933594, 'learning_rate': 9.932855280312909e-06, 'epoch': 0.07}
+{'loss': 1.9302, 'grad_norm': 84.74789428710938, 'learning_rate': 9.93081812255541e-06, 'epoch': 0.07}
+{'loss': 1.7898, 'grad_norm': 85.53912353515625, 'learning_rate': 9.928780964797916e-06, 'epoch': 0.07}
+{'loss': 1.7034, 'grad_norm': 43.625465393066406, 'learning_rate': 9.926743807040417e-06, 'epoch': 0.07}
+{'loss': 1.7579, 'grad_norm': 81.0890884399414, 'learning_rate': 9.92470664928292e-06, 'epoch': 0.08}
+{'loss': 1.9359, 'grad_norm': 51.44301223754883, 'learning_rate': 9.922669491525424e-06, 'epoch': 0.08}
+{'loss': 1.8666, 'grad_norm': 47.49968719482422, 'learning_rate': 9.920632333767927e-06, 'epoch': 0.08}
+{'loss': 1.8844, 'grad_norm': 87.80634307861328, 'learning_rate': 9.918595176010431e-06, 'epoch': 0.08}
+{'loss': 1.9075, 'grad_norm': 39.594215393066406, 'learning_rate': 9.916558018252934e-06, 'epoch': 0.08}
+{'loss': 1.7405, 'grad_norm': 87.96971893310547, 'learning_rate': 9.914520860495438e-06, 'epoch': 0.09}
+{'loss': 1.8009, 'grad_norm': 73.33732604980469, 'learning_rate': 9.912483702737941e-06, 'epoch': 0.09}
+{'loss': 1.8528, 'grad_norm': 61.00210189819336, 'learning_rate': 9.910446544980444e-06, 'epoch': 0.09}
+{'loss': 1.9487, 'grad_norm': 66.65707397460938, 'learning_rate': 9.908409387222948e-06, 'epoch': 0.09}
+{'loss': 1.8916, 'grad_norm': 63.9952278137207, 'learning_rate': 9.906372229465451e-06, 'epoch': 0.09}
+{'loss': 1.7897, 'grad_norm': 72.53959655761719, 'learning_rate': 9.904335071707953e-06, 'epoch': 0.1}
+{'loss': 1.9058, 'grad_norm': 45.54259490966797, 'learning_rate': 9.902297913950458e-06, 'epoch': 0.1}
+{'loss': 1.6627, 'grad_norm': 58.58955764770508, 'learning_rate': 9.900260756192961e-06, 'epoch': 0.1}
+{'loss': 1.6655, 'grad_norm': 73.8404541015625, 'learning_rate': 9.898223598435463e-06, 'epoch': 0.1}
+{'loss': 1.6199, 'grad_norm': 128.18125915527344, 'learning_rate': 9.896186440677968e-06, 'epoch': 0.1}
+{'loss': 1.9156, 'grad_norm': 55.96786117553711, 'learning_rate': 9.89414928292047e-06, 'epoch': 0.11}
+{'loss': 1.8724, 'grad_norm': 45.786048889160156, 'learning_rate': 9.892112125162973e-06, 'epoch': 0.11}
+{'loss': 1.7922, 'grad_norm': 55.5166015625, 'learning_rate': 9.890074967405476e-06, 'epoch': 0.11}
+{'loss': 1.7074, 'grad_norm': 59.62432098388672, 'learning_rate': 9.88803780964798e-06, 'epoch': 0.11}
+{'loss': 1.7549, 'grad_norm': 87.15387725830078, 'learning_rate': 9.886000651890483e-06, 'epoch': 0.11}
+{'loss': 1.6812, 'grad_norm': 46.50038146972656, 'learning_rate': 9.883963494132986e-06, 'epoch': 0.12}
+{'loss': 1.7588, 'grad_norm': 55.47882080078125, 'learning_rate': 9.88192633637549e-06, 'epoch': 0.12}
+{'loss': 1.8701, 'grad_norm': 44.31863021850586, 'learning_rate': 9.879889178617993e-06, 'epoch': 0.12}
+{'loss': 1.6754, 'grad_norm': 73.1786117553711, 'learning_rate': 9.877852020860496e-06, 'epoch': 0.12}
+{'loss': 1.8567, 'grad_norm': 49.18560791015625, 'learning_rate': 9.875814863103e-06, 'epoch': 0.12}
+{'loss': 1.8802, 'grad_norm': 41.43218231201172, 'learning_rate': 9.873777705345503e-06, 'epoch': 0.13}
+{'loss': 1.811, 'grad_norm': 58.92140197753906, 'learning_rate': 9.871740547588007e-06, 'epoch': 0.13}
+{'loss': 1.8076, 'grad_norm': 62.98925018310547, 'learning_rate': 9.86970338983051e-06, 'epoch': 0.13}
+{'loss': 1.7592, 'grad_norm': 74.2579116821289, 'learning_rate': 9.867666232073012e-06, 'epoch': 0.13}
+{'loss': 1.7592, 'grad_norm': 41.7106819152832, 'learning_rate': 9.865629074315517e-06, 'epoch': 0.13}
+{'loss': 1.6869, 'grad_norm': 37.802001953125, 'learning_rate': 9.863591916558018e-06, 'epoch': 0.14}
+{'loss': 1.7182, 'grad_norm': 78.9198226928711, 'learning_rate': 9.861554758800522e-06, 'epoch': 0.14}
+{'loss': 1.6981, 'grad_norm': 53.4105224609375, 'learning_rate': 9.859517601043027e-06, 'epoch': 0.14}
+{'loss': 1.8851, 'grad_norm': 55.80683898925781, 'learning_rate': 9.857480443285528e-06, 'epoch': 0.14}
+{'loss': 1.603, 'grad_norm': 144.68109130859375, 'learning_rate': 9.855443285528032e-06, 'epoch': 0.14}
+{'loss': 1.91, 'grad_norm': 59.68442153930664, 'learning_rate': 9.853406127770535e-06, 'epoch': 0.15}
+{'loss': 1.6874, 'grad_norm': 64.59638977050781, 'learning_rate': 9.851368970013039e-06, 'epoch': 0.15}
+{'loss': 1.583, 'grad_norm': 57.99601364135742, 'learning_rate': 9.849331812255542e-06, 'epoch': 0.15}
+{'loss': 1.5538, 'grad_norm': 81.78727722167969, 'learning_rate': 9.847294654498045e-06, 'epoch': 0.15}
+{'loss': 1.4947, 'grad_norm': 46.96869659423828, 'learning_rate': 9.845257496740549e-06, 'epoch': 0.15}
+{'loss': 1.8416, 'grad_norm': 47.81293869018555, 'learning_rate': 9.843220338983052e-06, 'epoch': 0.16}
+{'loss': 1.7386, 'grad_norm': 40.81307601928711, 'learning_rate': 9.841183181225555e-06, 'epoch': 0.16}
+{'loss': 1.7811, 'grad_norm': 71.72093200683594, 'learning_rate': 9.839146023468059e-06, 'epoch': 0.16}
+{'loss': 1.661, 'grad_norm': 43.27088928222656, 'learning_rate': 9.837108865710562e-06, 'epoch': 0.16}
+{'loss': 1.5394, 'grad_norm': 54.48676681518555, 'learning_rate': 9.835071707953064e-06, 'epoch': 0.17}
+{'loss': 1.6692, 'grad_norm': 135.62571716308594, 'learning_rate': 9.833034550195569e-06, 'epoch': 0.17}
+{'loss': 1.7205, 'grad_norm': 49.433494567871094, 'learning_rate': 9.83099739243807e-06, 'epoch': 0.17}
+{'loss': 1.5604, 'grad_norm': 50.672607421875, 'learning_rate': 9.828960234680574e-06, 'epoch': 0.17}
+{'loss': 1.5231, 'grad_norm': 54.461124420166016, 'learning_rate': 9.826923076923077e-06, 'epoch': 0.17}
+{'loss': 1.695, 'grad_norm': 39.05418395996094, 'learning_rate': 9.82488591916558e-06, 'epoch': 0.18}
+{'loss': 1.4408, 'grad_norm': 30.253280639648438, 'learning_rate': 9.822848761408084e-06, 'epoch': 0.18}
+{'loss': 1.7808, 'grad_norm': 61.3155403137207, 'learning_rate': 9.820811603650587e-06, 'epoch': 0.18}
+{'loss': 1.6889, 'grad_norm': 48.579498291015625, 'learning_rate': 9.81877444589309e-06, 'epoch': 0.18}
+{'loss': 1.6127, 'grad_norm': 37.44367218017578, 'learning_rate': 9.816737288135594e-06, 'epoch': 0.18}
+{'loss': 1.7764, 'grad_norm': 62.70114517211914, 'learning_rate': 9.814700130378097e-06, 'epoch': 0.19}
+{'loss': 1.5944, 'grad_norm': 50.14783477783203, 'learning_rate': 9.8126629726206e-06, 'epoch': 0.19}
+{'loss': 1.6497, 'grad_norm': 49.52231216430664, 'learning_rate': 9.810625814863104e-06, 'epoch': 0.19}
+{'loss': 1.6779, 'grad_norm': 60.71577072143555, 'learning_rate': 9.808588657105606e-06, 'epoch': 0.19}
+{'loss': 1.6434, 'grad_norm': 57.400657653808594, 'learning_rate': 9.80655149934811e-06, 'epoch': 0.19}
+{'loss': 1.7071, 'grad_norm': 36.66703414916992, 'learning_rate': 9.804514341590614e-06, 'epoch': 0.2}
+{'loss': 1.7262, 'grad_norm': 59.75957107543945, 'learning_rate': 9.802477183833118e-06, 'epoch': 0.2}
+{'loss': 1.9094, 'grad_norm': 32.23130798339844, 'learning_rate': 9.800440026075621e-06, 'epoch': 0.2}
+{'loss': 1.7467, 'grad_norm': 56.54383850097656, 'learning_rate': 9.798402868318123e-06, 'epoch': 0.2}
+{'loss': 1.5951, 'grad_norm': 46.5666389465332, 'learning_rate': 9.796365710560628e-06, 'epoch': 0.2}
+{'loss': 1.6473, 'grad_norm': 64.9490737915039, 'learning_rate': 9.79432855280313e-06, 'epoch': 0.21}
+{'loss': 1.4268, 'grad_norm': 97.81929779052734, 'learning_rate': 9.792291395045633e-06, 'epoch': 0.21}
+{'loss': 1.7757, 'grad_norm': 44.858028411865234, 'learning_rate': 9.790254237288136e-06, 'epoch': 0.21}
+{'loss': 1.6594, 'grad_norm': 58.543392181396484, 'learning_rate': 9.78821707953064e-06, 'epoch': 0.21}
+{'loss': 1.6082, 'grad_norm': 36.45485305786133, 'learning_rate': 9.786179921773143e-06, 'epoch': 0.21}
+{'loss': 1.6659, 'grad_norm': 55.57719421386719, 'learning_rate': 9.784142764015646e-06, 'epoch': 0.22}
+{'loss': 1.4765, 'grad_norm': 55.74113082885742, 'learning_rate': 9.78210560625815e-06, 'epoch': 0.22}
+{'loss': 1.6192, 'grad_norm': 48.961639404296875, 'learning_rate': 9.780068448500653e-06, 'epoch': 0.22}
+{'loss': 1.8082, 'grad_norm': 37.57835006713867, 'learning_rate': 9.778031290743156e-06, 'epoch': 0.22}
+{'loss': 1.5707, 'grad_norm': 57.17928695678711, 'learning_rate': 9.77599413298566e-06, 'epoch': 0.22}
+{'loss': 1.7268, 'grad_norm': 37.28386688232422, 'learning_rate': 9.773956975228163e-06, 'epoch': 0.23}
+{'loss': 1.5618, 'grad_norm': 46.31153869628906, 'learning_rate': 9.771919817470665e-06, 'epoch': 0.23}
+{'loss': 1.6056, 'grad_norm': 76.48770904541016, 'learning_rate': 9.76988265971317e-06, 'epoch': 0.23}
+{'loss': 1.5923, 'grad_norm': 37.103721618652344, 'learning_rate': 9.767845501955671e-06, 'epoch': 0.23}
+{'loss': 1.6752, 'grad_norm': 55.54011154174805, 'learning_rate': 9.765808344198175e-06, 'epoch': 0.23}
+{'loss': 1.4727, 'grad_norm': 36.970279693603516, 'learning_rate': 9.76377118644068e-06, 'epoch': 0.24}
+{'loss': 1.4821, 'grad_norm': 48.552093505859375, 'learning_rate': 9.761734028683181e-06, 'epoch': 0.24}
+{'loss': 1.5311, 'grad_norm': 72.87448120117188, 'learning_rate': 9.759696870925685e-06, 'epoch': 0.24}
+{'loss': 1.725, 'grad_norm': 83.19027709960938, 'learning_rate': 9.757659713168188e-06, 'epoch': 0.24}
+{'loss': 1.5842, 'grad_norm': 49.18162155151367, 'learning_rate': 9.755622555410692e-06, 'epoch': 0.24}
+{'loss': 1.6879, 'grad_norm': 59.592041015625, 'learning_rate': 9.753585397653195e-06, 'epoch': 0.25}
+{'loss': 1.6552, 'grad_norm': 49.790321350097656, 'learning_rate': 9.751548239895698e-06, 'epoch': 0.25}
+{'loss': 1.5426, 'grad_norm': 42.98621368408203, 'learning_rate': 9.749511082138202e-06, 'epoch': 0.25}
+{'loss': 1.5463, 'grad_norm': 57.111106872558594, 'learning_rate': 9.747473924380705e-06, 'epoch': 0.25}
+{'loss': 1.5656, 'grad_norm': 79.46886444091797, 'learning_rate': 9.745436766623208e-06, 'epoch': 0.25}
+{'loss': 1.6722, 'grad_norm': 48.69436264038086, 'learning_rate': 9.743399608865712e-06, 'epoch': 0.26}
+{'loss': 1.5683, 'grad_norm': 32.62643051147461, 'learning_rate': 9.741362451108215e-06, 'epoch': 0.26}
+{'loss': 1.5463, 'grad_norm': 76.85064697265625, 'learning_rate': 9.739325293350718e-06, 'epoch': 0.26}
+{'loss': 1.6599, 'grad_norm': 34.25362777709961, 'learning_rate': 9.737288135593222e-06, 'epoch': 0.26}
+{'loss': 1.6242, 'grad_norm': 58.63939666748047, 'learning_rate': 9.735250977835724e-06, 'epoch': 0.26}
+{'loss': 1.8001, 'grad_norm': 44.37554168701172, 'learning_rate': 9.733213820078229e-06, 'epoch': 0.27}
+{'loss': 1.6244, 'grad_norm': 51.69010543823242, 'learning_rate': 9.73117666232073e-06, 'epoch': 0.27}
+{'loss': 1.8139, 'grad_norm': 51.96116256713867, 'learning_rate': 9.729139504563234e-06, 'epoch': 0.27}
+{'loss': 1.6103, 'grad_norm': 67.10850524902344, 'learning_rate': 9.727102346805739e-06, 'epoch': 0.27}
+{'loss': 1.4181, 'grad_norm': 48.756343841552734, 'learning_rate': 9.72506518904824e-06, 'epoch': 0.28}
+{'loss': 1.5513, 'grad_norm': 62.522342681884766, 'learning_rate': 9.723028031290744e-06, 'epoch': 0.28}
+{'loss': 1.6368, 'grad_norm': 31.619281768798828, 'learning_rate': 9.720990873533247e-06, 'epoch': 0.28}
+{'loss': 1.5215, 'grad_norm': 46.716339111328125, 'learning_rate': 9.71895371577575e-06, 'epoch': 0.28}
+{'loss': 1.6167, 'grad_norm': 47.838584899902344, 'learning_rate': 9.716916558018254e-06, 'epoch': 0.28}
+{'loss': 1.6595, 'grad_norm': 46.51935577392578, 'learning_rate': 9.714879400260757e-06, 'epoch': 0.29}
+{'loss': 1.5168, 'grad_norm': 53.00446319580078, 'learning_rate': 9.71284224250326e-06, 'epoch': 0.29}
+{'loss': 1.5775, 'grad_norm': 44.3257942199707, 'learning_rate': 9.710805084745764e-06, 'epoch': 0.29}
+{'loss': 1.51, 'grad_norm': 68.0206069946289, 'learning_rate': 9.708767926988267e-06, 'epoch': 0.29}
+{'loss': 1.5477, 'grad_norm': 43.08661651611328, 'learning_rate': 9.70673076923077e-06, 'epoch': 0.29}
+{'loss': 1.606, 'grad_norm': 70.66783142089844, 'learning_rate': 9.704693611473274e-06, 'epoch': 0.3}
+{'loss': 1.6077, 'grad_norm': 39.8028564453125, 'learning_rate': 9.702656453715776e-06, 'epoch': 0.3}
+{'loss': 1.5099, 'grad_norm': 50.575565338134766, 'learning_rate': 9.70061929595828e-06, 'epoch': 0.3}
+{'loss': 1.5711, 'grad_norm': 56.3134880065918, 'learning_rate': 9.698582138200782e-06, 'epoch': 0.3}
+{'loss': 1.4772, 'grad_norm': 221.4416961669922, 'learning_rate': 9.696544980443286e-06, 'epoch': 0.3}
+{'loss': 1.5912, 'grad_norm': 42.378360748291016, 'learning_rate': 9.694507822685789e-06, 'epoch': 0.31}
+{'loss': 1.5815, 'grad_norm': 66.75607299804688, 'learning_rate': 9.692470664928292e-06, 'epoch': 0.31}
+{'loss': 1.6488, 'grad_norm': 49.55891036987305, 'learning_rate': 9.690433507170796e-06, 'epoch': 0.31}
+{'loss': 1.5609, 'grad_norm': 43.17788314819336, 'learning_rate': 9.6883963494133e-06, 'epoch': 0.31}
+{'loss': 1.3552, 'grad_norm': 62.631954193115234, 'learning_rate': 9.686359191655803e-06, 'epoch': 0.31}
+{'loss': 1.5596, 'grad_norm': 58.87702178955078, 'learning_rate': 9.684322033898306e-06, 'epoch': 0.32}
+{'loss': 1.6065, 'grad_norm': 66.84998321533203, 'learning_rate': 9.68228487614081e-06, 'epoch': 0.32}
+{'loss': 1.661, 'grad_norm': 48.97206115722656, 'learning_rate': 9.680247718383313e-06, 'epoch': 0.32}
+{'loss': 1.563, 'grad_norm': 47.80892562866211, 'learning_rate': 9.678210560625816e-06, 'epoch': 0.32}
+{'loss': 1.3814, 'grad_norm': 58.979248046875, 'learning_rate': 9.676173402868318e-06, 'epoch': 0.32}
+{'loss': 1.5344, 'grad_norm': 49.819339752197266, 'learning_rate': 9.674136245110823e-06, 'epoch': 0.33}
+{'loss': 1.6318, 'grad_norm': 64.88623046875, 'learning_rate': 9.672099087353324e-06, 'epoch': 0.33}
+{'loss': 1.4845, 'grad_norm': 38.339561462402344, 'learning_rate': 9.67006192959583e-06, 'epoch': 0.33}
+{'loss': 1.5877, 'grad_norm': 41.838565826416016, 'learning_rate': 9.668024771838333e-06, 'epoch': 0.33}
+{'loss': 1.7665, 'grad_norm': 50.66080093383789, 'learning_rate': 9.665987614080835e-06, 'epoch': 0.33}
+{'loss': 1.8122, 'grad_norm': 47.55455780029297, 'learning_rate': 9.66395045632334e-06, 'epoch': 0.34}
+{'loss': 1.46, 'grad_norm': 77.39202880859375, 'learning_rate': 9.661913298565841e-06, 'epoch': 0.34}
+{'loss': 1.6221, 'grad_norm': 39.846622467041016, 'learning_rate': 9.659876140808345e-06, 'epoch': 0.34}
+{'loss': 1.3638, 'grad_norm': 53.0297966003418, 'learning_rate': 9.657838983050848e-06, 'epoch': 0.34}
+{'loss': 1.4395, 'grad_norm': 50.95561981201172, 'learning_rate': 9.655801825293351e-06, 'epoch': 0.34}
+{'loss': 1.4893, 'grad_norm': 50.138648986816406, 'learning_rate': 9.653764667535855e-06, 'epoch': 0.35}
+{'loss': 1.6366, 'grad_norm': 64.896728515625, 'learning_rate': 9.651727509778358e-06, 'epoch': 0.35}
+{'loss': 1.5318, 'grad_norm': 57.465423583984375, 'learning_rate': 9.649690352020861e-06, 'epoch': 0.35}
+{'loss': 1.7457, 'grad_norm': 58.14752960205078, 'learning_rate': 9.647653194263365e-06, 'epoch': 0.35}
+{'loss': 1.5261, 'grad_norm': 36.709659576416016, 'learning_rate': 9.645616036505868e-06, 'epoch': 0.35}
+{'loss': 1.5671, 'grad_norm': 42.51594924926758, 'learning_rate': 9.643578878748372e-06, 'epoch': 0.36}
+{'loss': 1.6145, 'grad_norm': 30.8717098236084, 'learning_rate': 9.641541720990875e-06, 'epoch': 0.36}
+{'loss': 1.5816, 'grad_norm': 43.49198532104492, 'learning_rate': 9.639504563233377e-06, 'epoch': 0.36}
+{'loss': 1.4874, 'grad_norm': 75.85182189941406, 'learning_rate': 9.637467405475882e-06, 'epoch': 0.36}
+{'loss': 1.5326, 'grad_norm': 48.05140686035156, 'learning_rate': 9.635430247718383e-06, 'epoch': 0.36}
+{'loss': 1.4449, 'grad_norm': 56.268287658691406, 'learning_rate': 9.633393089960887e-06, 'epoch': 0.37}
+{'loss': 1.4788, 'grad_norm': 67.68553924560547, 'learning_rate': 9.631355932203392e-06, 'epoch': 0.37}
+{'loss': 1.3479, 'grad_norm': 42.91487121582031, 'learning_rate': 9.629318774445893e-06, 'epoch': 0.37}
+{'loss': 1.3903, 'grad_norm': 58.28224182128906, 'learning_rate': 9.627281616688397e-06, 'epoch': 0.37}
+{'loss': 1.4237, 'grad_norm': 51.63758850097656, 'learning_rate': 9.6252444589309e-06, 'epoch': 0.37}
+{'loss': 1.4471, 'grad_norm': 65.61753845214844, 'learning_rate': 9.623207301173403e-06, 'epoch': 0.38}
+{'loss': 1.5274, 'grad_norm': 46.57978439331055, 'learning_rate': 9.621170143415907e-06, 'epoch': 0.38}
+{'loss': 1.4971, 'grad_norm': 50.780181884765625, 'learning_rate': 9.61913298565841e-06, 'epoch': 0.38}
+{'loss': 1.6811, 'grad_norm': 73.40544891357422, 'learning_rate': 9.617095827900914e-06, 'epoch': 0.38}
+{'loss': 1.3958, 'grad_norm': 77.37530517578125, 'learning_rate': 9.615058670143417e-06, 'epoch': 0.39}
+{'loss': 1.4336, 'grad_norm': 59.66177749633789, 'learning_rate': 9.613021512385919e-06, 'epoch': 0.39}
+{'loss': 1.4431, 'grad_norm': 54.03266525268555, 'learning_rate': 9.610984354628424e-06, 'epoch': 0.39}
+{'loss': 1.5362, 'grad_norm': 35.55562210083008, 'learning_rate': 9.608947196870927e-06, 'epoch': 0.39}
+{'loss': 1.4261, 'grad_norm': 74.52983856201172, 'learning_rate': 9.60691003911343e-06, 'epoch': 0.39}
+{'loss': 1.5241, 'grad_norm': 36.74805450439453, 'learning_rate': 9.604872881355934e-06, 'epoch': 0.4}
+{'loss': 1.3905, 'grad_norm': 43.93144607543945, 'learning_rate': 9.602835723598435e-06, 'epoch': 0.4}
+{'loss': 1.5493, 'grad_norm': 42.56912612915039, 'learning_rate': 9.60079856584094e-06, 'epoch': 0.4}
+{'loss': 1.5695, 'grad_norm': 30.85578727722168, 'learning_rate': 9.598761408083442e-06, 'epoch': 0.4}
+{'loss': 1.5205, 'grad_norm': 38.594810485839844, 'learning_rate': 9.596724250325946e-06, 'epoch': 0.4}
+{'loss': 1.566, 'grad_norm': 28.546184539794922, 'learning_rate': 9.594687092568449e-06, 'epoch': 0.41}
+{'loss': 1.785, 'grad_norm': 63.71894073486328, 'learning_rate': 9.592649934810952e-06, 'epoch': 0.41}
+{'eval_loss': 2.905877113342285, 'eval_accuracy': 0.6751004016064257, 'eval_runtime': 1.4407, 'eval_samples_per_second': 1728.292, 'eval_steps_per_second': 54.139, 'epoch': 0.41}
+{'loss': 1.678, 'grad_norm': 60.814857482910156, 'learning_rate': 9.590612777053456e-06, 'epoch': 0.41}
+{'loss': 1.4116, 'grad_norm': 72.79061889648438, 'learning_rate': 9.588575619295959e-06, 'epoch': 0.41}
+{'loss': 1.6554, 'grad_norm': 57.47885513305664, 'learning_rate': 9.586538461538462e-06, 'epoch': 0.41}
+{'loss': 1.351, 'grad_norm': 55.0244140625, 'learning_rate': 9.584501303780966e-06, 'epoch': 0.42}
+{'loss': 1.6292, 'grad_norm': 39.535343170166016, 'learning_rate': 9.582464146023469e-06, 'epoch': 0.42}
+{'loss': 1.463, 'grad_norm': 54.48548126220703, 'learning_rate': 9.580426988265972e-06, 'epoch': 0.42}
+{'loss': 1.5595, 'grad_norm': 86.04485321044922, 'learning_rate': 9.578389830508476e-06, 'epoch': 0.42}
+{'loss': 1.5506, 'grad_norm': 68.17374420166016, 'learning_rate': 9.576352672750977e-06, 'epoch': 0.42}
+{'loss': 1.4543, 'grad_norm': 59.104400634765625, 'learning_rate': 9.574315514993483e-06, 'epoch': 0.43}
+{'loss': 1.5327, 'grad_norm': 52.52296447753906, 'learning_rate': 9.572278357235986e-06, 'epoch': 0.43}
+{'loss': 1.2258, 'grad_norm': 51.83926010131836, 'learning_rate': 9.570241199478488e-06, 'epoch': 0.43}
+{'loss': 1.4521, 'grad_norm': 52.371681213378906, 'learning_rate': 9.568204041720993e-06, 'epoch': 0.43}
+{'loss': 1.5146, 'grad_norm': 37.98725128173828, 'learning_rate': 9.566166883963494e-06, 'epoch': 0.43}
+{'loss': 1.5442, 'grad_norm': 52.57176208496094, 'learning_rate': 9.564129726205998e-06, 'epoch': 0.44}
+{'loss': 1.4467, 'grad_norm': 60.85673522949219, 'learning_rate': 9.562092568448501e-06, 'epoch': 0.44}
+{'loss': 1.5199, 'grad_norm': 77.63551330566406, 'learning_rate': 9.560055410691004e-06, 'epoch': 0.44}
+{'loss': 1.6569, 'grad_norm': 70.8433609008789, 'learning_rate': 9.558018252933508e-06, 'epoch': 0.44}
+{'loss': 1.5674, 'grad_norm': 39.34718322753906, 'learning_rate': 9.555981095176011e-06, 'epoch': 0.44}
+{'loss': 1.4228, 'grad_norm': 45.725738525390625, 'learning_rate': 9.553943937418514e-06, 'epoch': 0.45}
+{'loss': 1.618, 'grad_norm': 43.76359558105469, 'learning_rate': 9.551906779661018e-06, 'epoch': 0.45}
+{'loss': 1.3613, 'grad_norm': 57.649391174316406, 'learning_rate': 9.549869621903521e-06, 'epoch': 0.45}
+{'loss': 1.4151, 'grad_norm': 28.593914031982422, 'learning_rate': 9.547832464146025e-06, 'epoch': 0.45}
+{'loss': 1.3871, 'grad_norm': 41.16864776611328, 'learning_rate': 9.545795306388528e-06, 'epoch': 0.45}
+{'loss': 1.5198, 'grad_norm': 77.74520111083984, 'learning_rate': 9.54375814863103e-06, 'epoch': 0.46}
+{'loss': 1.523, 'grad_norm': 67.22187042236328, 'learning_rate': 9.541720990873535e-06, 'epoch': 0.46}
+{'loss': 1.422, 'grad_norm': 42.353797912597656, 'learning_rate': 9.539683833116036e-06, 'epoch': 0.46}
+{'loss': 1.4958, 'grad_norm': 60.98402404785156, 'learning_rate': 9.537646675358541e-06, 'epoch': 0.46}
+{'loss': 1.4815, 'grad_norm': 49.513309478759766, 'learning_rate': 9.535609517601043e-06, 'epoch': 0.46}
+{'loss': 1.5472, 'grad_norm': 73.70660400390625, 'learning_rate': 9.533572359843546e-06, 'epoch': 0.47}
+{'loss': 1.6152, 'grad_norm': 42.001564025878906, 'learning_rate': 9.531535202086051e-06, 'epoch': 0.47}
+{'loss': 1.3385, 'grad_norm': 30.176372528076172, 'learning_rate': 9.529498044328553e-06, 'epoch': 0.47}
+{'loss': 1.5479, 'grad_norm': 46.75188064575195, 'learning_rate': 9.527460886571057e-06, 'epoch': 0.47}
+{'loss': 1.4772, 'grad_norm': 61.591636657714844, 'learning_rate': 9.52542372881356e-06, 'epoch': 0.47}
+{'loss': 1.4769, 'grad_norm': 23.673519134521484, 'learning_rate': 9.523386571056063e-06, 'epoch': 0.48}
+{'loss': 1.5108, 'grad_norm': 58.91809844970703, 'learning_rate': 9.521349413298567e-06, 'epoch': 0.48}
+{'loss': 1.441, 'grad_norm': 50.65068435668945, 'learning_rate': 9.51931225554107e-06, 'epoch': 0.48}
+{'loss': 1.628, 'grad_norm': 65.647216796875, 'learning_rate': 9.517275097783573e-06, 'epoch': 0.48}
+{'loss': 1.4648, 'grad_norm': 36.26658248901367, 'learning_rate': 9.515237940026077e-06, 'epoch': 0.48}
+{'loss': 1.4193, 'grad_norm': 57.83897018432617, 'learning_rate': 9.51320078226858e-06, 'epoch': 0.49}
+{'loss': 1.2841, 'grad_norm': 42.57991409301758, 'learning_rate': 9.511163624511083e-06, 'epoch': 0.49}
+{'loss': 1.5648, 'grad_norm': 32.00127029418945, 'learning_rate': 9.509126466753587e-06, 'epoch': 0.49}
+{'loss': 1.5419, 'grad_norm': 44.56234359741211, 'learning_rate': 9.507089308996088e-06, 'epoch': 0.49}
+{'loss': 1.3492, 'grad_norm': 43.38002395629883, 'learning_rate': 9.505052151238594e-06, 'epoch': 0.5}
+{'loss': 1.6709, 'grad_norm': 56.427494049072266, 'learning_rate': 9.503014993481095e-06, 'epoch': 0.5}
+{'loss': 1.5243, 'grad_norm': 71.75025939941406, 'learning_rate': 9.500977835723599e-06, 'epoch': 0.5}
+{'loss': 1.5787, 'grad_norm': 57.192134857177734, 'learning_rate': 9.498940677966102e-06, 'epoch': 0.5}
+{'loss': 1.492, 'grad_norm': 34.129005432128906, 'learning_rate': 9.496903520208605e-06, 'epoch': 0.5}
+{'loss': 1.4544, 'grad_norm': 69.43804931640625, 'learning_rate': 9.494866362451109e-06, 'epoch': 0.51}
+{'loss': 1.3658, 'grad_norm': 41.62266540527344, 'learning_rate': 9.492829204693612e-06, 'epoch': 0.51}
+{'loss': 1.5311, 'grad_norm': 28.33993148803711, 'learning_rate': 9.490792046936115e-06, 'epoch': 0.51}
+{'loss': 1.4876, 'grad_norm': 37.929664611816406, 'learning_rate': 9.488754889178619e-06, 'epoch': 0.51}
+{'loss': 1.4846, 'grad_norm': 57.972877502441406, 'learning_rate': 9.486717731421122e-06, 'epoch': 0.51}
+{'loss': 1.5515, 'grad_norm': 65.2969970703125, 'learning_rate': 9.484680573663625e-06, 'epoch': 0.52}
+{'loss': 1.3712, 'grad_norm': 28.82051658630371, 'learning_rate': 9.482643415906129e-06, 'epoch': 0.52}
+{'loss': 1.5842, 'grad_norm': 42.59970474243164, 'learning_rate': 9.48060625814863e-06, 'epoch': 0.52}
+{'loss': 1.4485, 'grad_norm': 53.25788116455078, 'learning_rate': 9.478569100391136e-06, 'epoch': 0.52}
+{'loss': 1.5243, 'grad_norm': 52.55641555786133, 'learning_rate': 9.476531942633639e-06, 'epoch': 0.52}
+{'loss': 1.4013, 'grad_norm': 63.139610290527344, 'learning_rate': 9.474494784876142e-06, 'epoch': 0.53}
+{'loss': 1.4458, 'grad_norm': 78.06912994384766, 'learning_rate': 9.472457627118646e-06, 'epoch': 0.53}
+{'loss': 1.5313, 'grad_norm': 52.43366622924805, 'learning_rate': 9.470420469361147e-06, 'epoch': 0.53}
+{'loss': 1.2894, 'grad_norm': 84.48531341552734, 'learning_rate': 9.468383311603652e-06, 'epoch': 0.53}
+{'loss': 1.4429, 'grad_norm': 74.45186614990234, 'learning_rate': 9.466346153846154e-06, 'epoch': 0.53}
+{'loss': 1.3332, 'grad_norm': 56.506534576416016, 'learning_rate': 9.464308996088657e-06, 'epoch': 0.54}
+{'loss': 1.2936, 'grad_norm': 45.433589935302734, 'learning_rate': 9.46227183833116e-06, 'epoch': 0.54}
+{'loss': 1.6402, 'grad_norm': 35.920928955078125, 'learning_rate': 9.460234680573664e-06, 'epoch': 0.54}
+{'loss': 1.5196, 'grad_norm': 43.362979888916016, 'learning_rate': 9.458197522816168e-06, 'epoch': 0.54}
+{'loss': 1.3943, 'grad_norm': 41.689117431640625, 'learning_rate': 9.456160365058671e-06, 'epoch': 0.54}
+{'loss': 1.5705, 'grad_norm': 71.24130249023438, 'learning_rate': 9.454123207301174e-06, 'epoch': 0.55}
+{'loss': 1.5627, 'grad_norm': 48.84746551513672, 'learning_rate': 9.452086049543678e-06, 'epoch': 0.55}
+{'loss': 1.5493, 'grad_norm': 56.630619049072266, 'learning_rate': 9.450048891786181e-06, 'epoch': 0.55}
+{'loss': 1.5105, 'grad_norm': 37.46599197387695, 'learning_rate': 9.448011734028684e-06, 'epoch': 0.55}
+{'loss': 1.4435, 'grad_norm': 44.475364685058594, 'learning_rate': 9.445974576271188e-06, 'epoch': 0.55}
+{'loss': 1.4897, 'grad_norm': 66.75475311279297, 'learning_rate': 9.44393741851369e-06, 'epoch': 0.56}
+{'loss': 1.5842, 'grad_norm': 60.07838439941406, 'learning_rate': 9.441900260756194e-06, 'epoch': 0.56}
+{'loss': 1.4703, 'grad_norm': 31.977323532104492, 'learning_rate': 9.439863102998696e-06, 'epoch': 0.56}
+{'loss': 1.3432, 'grad_norm': 35.46234893798828, 'learning_rate': 9.4378259452412e-06, 'epoch': 0.56}
+{'loss': 1.4268, 'grad_norm': 41.43669891357422, 'learning_rate': 9.435788787483705e-06, 'epoch': 0.56}
+{'loss': 1.35, 'grad_norm': 50.280487060546875, 'learning_rate': 9.433751629726206e-06, 'epoch': 0.57}
+{'loss': 1.5269, 'grad_norm': 50.51734161376953, 'learning_rate': 9.43171447196871e-06, 'epoch': 0.57}
+{'loss': 1.3665, 'grad_norm': 58.0168571472168, 'learning_rate': 9.429677314211213e-06, 'epoch': 0.57}
+{'loss': 1.5432, 'grad_norm': 43.22434997558594, 'learning_rate': 9.427640156453716e-06, 'epoch': 0.57}
+{'loss': 1.3827, 'grad_norm': 49.76367950439453, 'learning_rate': 9.42560299869622e-06, 'epoch': 0.57}
+{'loss': 1.5155, 'grad_norm': 57.56947326660156, 'learning_rate': 9.423565840938723e-06, 'epoch': 0.58}
+{'loss': 1.5598, 'grad_norm': 63.9866828918457, 'learning_rate': 9.421528683181226e-06, 'epoch': 0.58}
+{'loss': 1.5556, 'grad_norm': 29.434349060058594, 'learning_rate': 9.41949152542373e-06, 'epoch': 0.58}
+{'loss': 1.6035, 'grad_norm': 70.40606689453125, 'learning_rate': 9.417454367666233e-06, 'epoch': 0.58}
+{'loss': 1.4922, 'grad_norm': 40.11943817138672, 'learning_rate': 9.415417209908736e-06, 'epoch': 0.58}
+{'loss': 1.5806, 'grad_norm': 50.64746856689453, 'learning_rate': 9.41338005215124e-06, 'epoch': 0.59}
+{'loss': 1.5249, 'grad_norm': 45.19501495361328, 'learning_rate': 9.411342894393743e-06, 'epoch': 0.59}
+{'loss': 1.4775, 'grad_norm': 61.03102111816406, 'learning_rate': 9.409305736636247e-06, 'epoch': 0.59}
+{'loss': 1.4891, 'grad_norm': 22.047779083251953, 'learning_rate': 9.407268578878748e-06, 'epoch': 0.59}
+{'loss': 1.5023, 'grad_norm': 52.382015228271484, 'learning_rate': 9.405231421121253e-06, 'epoch': 0.59}
+{'loss': 1.386, 'grad_norm': 33.102596282958984, 'learning_rate': 9.403194263363755e-06, 'epoch': 0.6}
+{'loss': 1.4529, 'grad_norm': 35.498863220214844, 'learning_rate': 9.401157105606258e-06, 'epoch': 0.6}
+{'loss': 1.4502, 'grad_norm': 41.6593132019043, 'learning_rate': 9.399119947848763e-06, 'epoch': 0.6}
+{'loss': 1.5004, 'grad_norm': 35.65311050415039, 'learning_rate': 9.397082790091265e-06, 'epoch': 0.6}
+{'loss': 1.3793, 'grad_norm': 73.67616271972656, 'learning_rate': 9.395045632333768e-06, 'epoch': 0.61}
+{'loss': 1.4263, 'grad_norm': 45.30275344848633, 'learning_rate': 9.393008474576272e-06, 'epoch': 0.61}
+{'loss': 1.2648, 'grad_norm': 44.42911148071289, 'learning_rate': 9.390971316818775e-06, 'epoch': 0.61}
+{'loss': 1.5332, 'grad_norm': 42.14396667480469, 'learning_rate': 9.388934159061279e-06, 'epoch': 0.61}
+{'loss': 1.4144, 'grad_norm': 54.15583801269531, 'learning_rate': 9.386897001303782e-06, 'epoch': 0.61}
+{'loss': 1.5151, 'grad_norm': 67.4290771484375, 'learning_rate': 9.384859843546285e-06, 'epoch': 0.62}
+{'loss': 1.4934, 'grad_norm': 40.06901168823242, 'learning_rate': 9.382822685788789e-06, 'epoch': 0.62}
+{'loss': 1.4549, 'grad_norm': 43.52749252319336, 'learning_rate': 9.380785528031292e-06, 'epoch': 0.62}
+{'loss': 1.4354, 'grad_norm': 48.6215705871582, 'learning_rate': 9.378748370273795e-06, 'epoch': 0.62}
+{'loss': 1.2866, 'grad_norm': 69.92811584472656, 'learning_rate': 9.376711212516299e-06, 'epoch': 0.62}
+{'loss': 1.5278, 'grad_norm': 24.400785446166992, 'learning_rate': 9.3746740547588e-06, 'epoch': 0.63}
+{'loss': 1.4398, 'grad_norm': 54.38785171508789, 'learning_rate': 9.372636897001305e-06, 'epoch': 0.63}
+{'loss': 1.2879, 'grad_norm': 43.603416442871094, 'learning_rate': 9.370599739243807e-06, 'epoch': 0.63}
+{'loss': 1.4235, 'grad_norm': 30.58429527282715, 'learning_rate': 9.36856258148631e-06, 'epoch': 0.63}
+{'loss': 1.4886, 'grad_norm': 45.556922912597656, 'learning_rate': 9.366525423728814e-06, 'epoch': 0.63}
+{'loss': 1.5562, 'grad_norm': 67.16329956054688, 'learning_rate': 9.364488265971317e-06, 'epoch': 0.64}
+{'loss': 1.6319, 'grad_norm': 57.00038528442383, 'learning_rate': 9.36245110821382e-06, 'epoch': 0.64}
+{'loss': 1.4106, 'grad_norm': 39.20078659057617, 'learning_rate': 9.360413950456324e-06, 'epoch': 0.64}
+{'loss': 1.4026, 'grad_norm': 48.5298957824707, 'learning_rate': 9.358376792698827e-06, 'epoch': 0.64}
+{'loss': 1.4532, 'grad_norm': 41.22678756713867, 'learning_rate': 9.35633963494133e-06, 'epoch': 0.64}
+{'loss': 1.6884, 'grad_norm': 42.588008880615234, 'learning_rate': 9.354302477183834e-06, 'epoch': 0.65}
+{'loss': 1.2853, 'grad_norm': 39.45612716674805, 'learning_rate': 9.352265319426337e-06, 'epoch': 0.65}
+{'loss': 1.4408, 'grad_norm': 96.26873016357422, 'learning_rate': 9.35022816166884e-06, 'epoch': 0.65}
+{'loss': 1.3376, 'grad_norm': 51.584678649902344, 'learning_rate': 9.348191003911342e-06, 'epoch': 0.65}
+{'loss': 1.5314, 'grad_norm': 44.439903259277344, 'learning_rate': 9.346153846153847e-06, 'epoch': 0.65}
+{'loss': 1.536, 'grad_norm': 34.309906005859375, 'learning_rate': 9.34411668839635e-06, 'epoch': 0.66}
+{'loss': 1.3671, 'grad_norm': 43.193302154541016, 'learning_rate': 9.342079530638854e-06, 'epoch': 0.66}
+{'loss': 1.504, 'grad_norm': 52.20372009277344, 'learning_rate': 9.340042372881358e-06, 'epoch': 0.66}
+{'loss': 1.6802, 'grad_norm': 39.953102111816406, 'learning_rate': 9.33800521512386e-06, 'epoch': 0.66}
+{'loss': 1.4185, 'grad_norm': 45.98899841308594, 'learning_rate': 9.335968057366364e-06, 'epoch': 0.66}
+{'loss': 1.5027, 'grad_norm': 48.09695816040039, 'learning_rate': 9.333930899608866e-06, 'epoch': 0.67}
+{'loss': 1.5297, 'grad_norm': 35.453857421875, 'learning_rate': 9.33189374185137e-06, 'epoch': 0.67}
+{'loss': 1.4316, 'grad_norm': 36.97930145263672, 'learning_rate': 9.329856584093873e-06, 'epoch': 0.67}
+{'loss': 1.5045, 'grad_norm': 40.20552062988281, 'learning_rate': 9.327819426336376e-06, 'epoch': 0.67}
+{'loss': 1.1778, 'grad_norm': 36.16604232788086, 'learning_rate': 9.32578226857888e-06, 'epoch': 0.67}
+{'loss': 1.5327, 'grad_norm': 29.908157348632812, 'learning_rate': 9.323745110821383e-06, 'epoch': 0.68}
+{'loss': 1.5, 'grad_norm': 28.583648681640625, 'learning_rate': 9.321707953063886e-06, 'epoch': 0.68}
+{'loss': 1.5147, 'grad_norm': 42.26423263549805, 'learning_rate': 9.31967079530639e-06, 'epoch': 0.68}
+{'loss': 1.7852, 'grad_norm': 37.516109466552734, 'learning_rate': 9.317633637548893e-06, 'epoch': 0.68}
+{'loss': 1.3319, 'grad_norm': 42.45443344116211, 'learning_rate': 9.315596479791396e-06, 'epoch': 0.68}
+{'loss': 1.4605, 'grad_norm': 38.31340026855469, 'learning_rate': 9.3135593220339e-06, 'epoch': 0.69}
+{'loss': 1.5007, 'grad_norm': 57.414772033691406, 'learning_rate': 9.311522164276401e-06, 'epoch': 0.69}
+{'loss': 1.4878, 'grad_norm': 44.544273376464844, 'learning_rate': 9.309485006518906e-06, 'epoch': 0.69}
+{'loss': 1.3758, 'grad_norm': 43.88591003417969, 'learning_rate': 9.307447848761408e-06, 'epoch': 0.69}
+{'loss': 1.4725, 'grad_norm': 42.98482131958008, 'learning_rate': 9.305410691003911e-06, 'epoch': 0.69}
+{'loss': 1.4343, 'grad_norm': 53.287410736083984, 'learning_rate': 9.303373533246416e-06, 'epoch': 0.7}
+{'loss': 1.3391, 'grad_norm': 36.039710998535156, 'learning_rate': 9.301336375488918e-06, 'epoch': 0.7}
+{'loss': 1.3317, 'grad_norm': 47.66359329223633, 'learning_rate': 9.299299217731421e-06, 'epoch': 0.7}
+{'loss': 1.5086, 'grad_norm': 42.064205169677734, 'learning_rate': 9.297262059973925e-06, 'epoch': 0.7}
+{'loss': 1.4815, 'grad_norm': 65.68669891357422, 'learning_rate': 9.295224902216428e-06, 'epoch': 0.7}
+{'loss': 1.5575, 'grad_norm': 35.60076904296875, 'learning_rate': 9.293187744458932e-06, 'epoch': 0.71}
+{'loss': 1.5757, 'grad_norm': 28.89139747619629, 'learning_rate': 9.291150586701435e-06, 'epoch': 0.71}
+{'loss': 1.4143, 'grad_norm': 57.60814666748047, 'learning_rate': 9.289113428943938e-06, 'epoch': 0.71}
+{'loss': 1.4308, 'grad_norm': 67.85636138916016, 'learning_rate': 9.287076271186442e-06, 'epoch': 0.71}
+{'loss': 1.4179, 'grad_norm': 54.25847244262695, 'learning_rate': 9.285039113428943e-06, 'epoch': 0.72}
+{'loss': 1.4951, 'grad_norm': 67.1906967163086, 'learning_rate': 9.283001955671448e-06, 'epoch': 0.72}
+{'loss': 1.3385, 'grad_norm': 38.968868255615234, 'learning_rate': 9.280964797913952e-06, 'epoch': 0.72}
+{'loss': 1.3508, 'grad_norm': 67.14381408691406, 'learning_rate': 9.278927640156455e-06, 'epoch': 0.72}
+{'loss': 1.2678, 'grad_norm': 39.59786605834961, 'learning_rate': 9.276890482398959e-06, 'epoch': 0.72}
+{'loss': 1.5459, 'grad_norm': 50.954254150390625, 'learning_rate': 9.27485332464146e-06, 'epoch': 0.73}
+{'loss': 1.2321, 'grad_norm': 48.95228576660156, 'learning_rate': 9.272816166883965e-06, 'epoch': 0.73}
+{'loss': 1.6105, 'grad_norm': 47.57712173461914, 'learning_rate': 9.270779009126467e-06, 'epoch': 0.73}
+{'loss': 1.4817, 'grad_norm': 56.26491165161133, 'learning_rate': 9.26874185136897e-06, 'epoch': 0.73}
+{'loss': 1.3988, 'grad_norm': 37.94929885864258, 'learning_rate': 9.266704693611474e-06, 'epoch': 0.73}
+{'loss': 1.4433, 'grad_norm': 53.267826080322266, 'learning_rate': 9.264667535853977e-06, 'epoch': 0.74}
+{'loss': 1.4609, 'grad_norm': 42.52830505371094, 'learning_rate': 9.26263037809648e-06, 'epoch': 0.74}
+{'loss': 1.6205, 'grad_norm': 34.093082427978516, 'learning_rate': 9.260593220338984e-06, 'epoch': 0.74}
+{'loss': 1.3469, 'grad_norm': 47.734886169433594, 'learning_rate': 9.258556062581487e-06, 'epoch': 0.74}
+{'loss': 1.4679, 'grad_norm': 22.2005615234375, 'learning_rate': 9.25651890482399e-06, 'epoch': 0.74}
+{'loss': 1.4013, 'grad_norm': 66.58007049560547, 'learning_rate': 9.254481747066494e-06, 'epoch': 0.75}
+{'loss': 1.4781, 'grad_norm': 78.87967681884766, 'learning_rate': 9.252444589308997e-06, 'epoch': 0.75}
+{'loss': 1.4584, 'grad_norm': 57.97863006591797, 'learning_rate': 9.2504074315515e-06, 'epoch': 0.75}
+{'loss': 1.5175, 'grad_norm': 34.038734436035156, 'learning_rate': 9.248370273794002e-06, 'epoch': 0.75}
+{'loss': 1.4562, 'grad_norm': 36.549591064453125, 'learning_rate': 9.246333116036507e-06, 'epoch': 0.75}
+{'loss': 1.4125, 'grad_norm': 59.331119537353516, 'learning_rate': 9.24429595827901e-06, 'epoch': 0.76}
+{'loss': 1.3821, 'grad_norm': 32.784603118896484, 'learning_rate': 9.242258800521512e-06, 'epoch': 0.76}
+{'loss': 1.38, 'grad_norm': 23.104644775390625, 'learning_rate': 9.240221642764017e-06, 'epoch': 0.76}
+{'loss': 1.4962, 'grad_norm': 50.16670608520508, 'learning_rate': 9.238184485006519e-06, 'epoch': 0.76}
+{'loss': 1.4861, 'grad_norm': 64.66632843017578, 'learning_rate': 9.236147327249022e-06, 'epoch': 0.76}
+{'loss': 1.3382, 'grad_norm': 19.381383895874023, 'learning_rate': 9.234110169491526e-06, 'epoch': 0.77}
+{'loss': 1.3031, 'grad_norm': 43.460426330566406, 'learning_rate': 9.232073011734029e-06, 'epoch': 0.77}
+{'loss': 1.4098, 'grad_norm': 34.883811950683594, 'learning_rate': 9.230035853976533e-06, 'epoch': 0.77}
+{'loss': 1.398, 'grad_norm': 55.50273513793945, 'learning_rate': 9.227998696219036e-06, 'epoch': 0.77}
+{'loss': 1.4087, 'grad_norm': 55.58626937866211, 'learning_rate': 9.22596153846154e-06, 'epoch': 0.77}
+{'loss': 1.5631, 'grad_norm': 36.01552963256836, 'learning_rate': 9.223924380704043e-06, 'epoch': 0.78}
+{'loss': 1.3061, 'grad_norm': 60.43428421020508, 'learning_rate': 9.221887222946546e-06, 'epoch': 0.78}
+{'loss': 1.531, 'grad_norm': 61.46504211425781, 'learning_rate': 9.21985006518905e-06, 'epoch': 0.78}
+{'loss': 1.466, 'grad_norm': 23.11272430419922, 'learning_rate': 9.217812907431553e-06, 'epoch': 0.78}
+{'loss': 1.304, 'grad_norm': 38.31101989746094, 'learning_rate': 9.215775749674054e-06, 'epoch': 0.78}
+{'loss': 1.2915, 'grad_norm': 28.675064086914062, 'learning_rate': 9.21373859191656e-06, 'epoch': 0.79}
+{'loss': 1.3796, 'grad_norm': 51.07208251953125, 'learning_rate': 9.211701434159061e-06, 'epoch': 0.79}
+{'loss': 1.3973, 'grad_norm': 47.278507232666016, 'learning_rate': 9.209664276401566e-06, 'epoch': 0.79}
+{'loss': 1.5627, 'grad_norm': 58.68639373779297, 'learning_rate': 9.207627118644068e-06, 'epoch': 0.79}
+{'loss': 1.3714, 'grad_norm': 29.704500198364258, 'learning_rate': 9.205589960886571e-06, 'epoch': 0.79}
+{'loss': 1.4428, 'grad_norm': 57.21332550048828, 'learning_rate': 9.203552803129076e-06, 'epoch': 0.8}
+{'loss': 1.5394, 'grad_norm': 35.5216178894043, 'learning_rate': 9.201515645371578e-06, 'epoch': 0.8}
+{'loss': 1.3334, 'grad_norm': 52.96627426147461, 'learning_rate': 9.199478487614081e-06, 'epoch': 0.8}
+{'loss': 1.4023, 'grad_norm': 60.5073356628418, 'learning_rate': 9.197441329856585e-06, 'epoch': 0.8}
+{'loss': 1.3958, 'grad_norm': 32.18875503540039, 'learning_rate': 9.195404172099088e-06, 'epoch': 0.8}
+{'loss': 1.2402, 'grad_norm': 40.18074417114258, 'learning_rate': 9.193367014341591e-06, 'epoch': 0.81}
+{'loss': 1.1637, 'grad_norm': 28.521425247192383, 'learning_rate': 9.191329856584095e-06, 'epoch': 0.81}
+{'loss': 1.4967, 'grad_norm': 42.71877670288086, 'learning_rate': 9.189292698826598e-06, 'epoch': 0.81}
+{'loss': 1.4272, 'grad_norm': 62.70062255859375, 'learning_rate': 9.187255541069101e-06, 'epoch': 0.81}
+{'loss': 1.4478, 'grad_norm': 44.919097900390625, 'learning_rate': 9.185218383311605e-06, 'epoch': 0.81}
+{'eval_loss': 2.844158172607422, 'eval_accuracy': 0.6959839357429719, 'eval_runtime': 1.318, 'eval_samples_per_second': 1889.265, 'eval_steps_per_second': 59.182, 'epoch': 0.81}
+{'loss': 1.3655, 'grad_norm': 67.10536193847656, 'learning_rate': 9.183181225554108e-06, 'epoch': 0.82}
+{'loss': 1.4094, 'grad_norm': 33.77821731567383, 'learning_rate': 9.181144067796612e-06, 'epoch': 0.82}
+{'loss': 1.473, 'grad_norm': 29.87453269958496, 'learning_rate': 9.179106910039113e-06, 'epoch': 0.82}
+{'loss': 1.4987, 'grad_norm': 32.53076171875, 'learning_rate': 9.177069752281618e-06, 'epoch': 0.82}
+{'loss': 1.3717, 'grad_norm': 33.26785659790039, 'learning_rate': 9.17503259452412e-06, 'epoch': 0.83}
+{'loss': 1.3435, 'grad_norm': 41.384647369384766, 'learning_rate': 9.172995436766623e-06, 'epoch': 0.83}
+{'loss': 1.3787, 'grad_norm': 37.841819763183594, 'learning_rate': 9.170958279009127e-06, 'epoch': 0.83}
+{'loss': 1.281, 'grad_norm': 60.31358337402344, 'learning_rate': 9.16892112125163e-06, 'epoch': 0.83}
+{'loss': 1.4836, 'grad_norm': 31.12306022644043, 'learning_rate': 9.166883963494133e-06, 'epoch': 0.83}
+{'loss': 1.4578, 'grad_norm': 36.58332061767578, 'learning_rate': 9.164846805736637e-06, 'epoch': 0.84}
+{'loss': 1.3883, 'grad_norm': 51.02592468261719, 'learning_rate': 9.16280964797914e-06, 'epoch': 0.84}
+{'loss': 1.4135, 'grad_norm': 72.23013305664062, 'learning_rate': 9.160772490221644e-06, 'epoch': 0.84}
+{'loss': 1.3941, 'grad_norm': 46.4786262512207, 'learning_rate': 9.158735332464147e-06, 'epoch': 0.84}
+{'loss': 1.4418, 'grad_norm': 46.193302154541016, 'learning_rate': 9.15669817470665e-06, 'epoch': 0.84}
+{'loss': 1.5763, 'grad_norm': 46.13636779785156, 'learning_rate': 9.154661016949154e-06, 'epoch': 0.85}
+{'loss': 1.4506, 'grad_norm': 58.3377685546875, 'learning_rate': 9.152623859191655e-06, 'epoch': 0.85}
+{'loss': 1.535, 'grad_norm': 89.20501708984375, 'learning_rate': 9.15058670143416e-06, 'epoch': 0.85}
+{'loss': 1.1622, 'grad_norm': 44.32828903198242, 'learning_rate': 9.148549543676664e-06, 'epoch': 0.85}
+{'loss': 1.3647, 'grad_norm': 36.65547561645508, 'learning_rate': 9.146512385919167e-06, 'epoch': 0.85}
+{'loss': 1.2981, 'grad_norm': 49.63272476196289, 'learning_rate': 9.14447522816167e-06, 'epoch': 0.86}
+{'loss': 1.4506, 'grad_norm': 35.96003341674805, 'learning_rate': 9.142438070404172e-06, 'epoch': 0.86}
+{'loss': 1.6198, 'grad_norm': 38.82020950317383, 'learning_rate': 9.140400912646677e-06, 'epoch': 0.86}
+{'loss': 1.4395, 'grad_norm': 50.98587417602539, 'learning_rate': 9.138363754889179e-06, 'epoch': 0.86}
+{'loss': 1.3355, 'grad_norm': 35.9351921081543, 'learning_rate': 9.136326597131682e-06, 'epoch': 0.86}
+{'loss': 1.4223, 'grad_norm': 55.23036193847656, 'learning_rate': 9.134289439374186e-06, 'epoch': 0.87}
+{'loss': 1.374, 'grad_norm': 42.34324264526367, 'learning_rate': 9.132252281616689e-06, 'epoch': 0.87}
+{'loss': 1.3396, 'grad_norm': 50.92013168334961, 'learning_rate': 9.130215123859192e-06, 'epoch': 0.87}
+{'loss': 1.2612, 'grad_norm': 46.843849182128906, 'learning_rate': 9.128177966101696e-06, 'epoch': 0.87}
+{'loss': 1.3273, 'grad_norm': 52.55119323730469, 'learning_rate': 9.126140808344199e-06, 'epoch': 0.87}
+{'loss': 1.3482, 'grad_norm': 51.51388168334961, 'learning_rate': 9.124103650586702e-06, 'epoch': 0.88}
+{'loss': 1.241, 'grad_norm': 48.59625244140625, 'learning_rate': 9.122066492829206e-06, 'epoch': 0.88}
+{'loss': 1.2316, 'grad_norm': 40.31782150268555, 'learning_rate': 9.120029335071709e-06, 'epoch': 0.88}
+{'loss': 1.5892, 'grad_norm': 64.53275299072266, 'learning_rate': 9.117992177314212e-06, 'epoch': 0.88}
+{'loss': 1.4069, 'grad_norm': 52.538509368896484, 'learning_rate': 9.115955019556714e-06, 'epoch': 0.88}
+{'loss': 1.3359, 'grad_norm': 57.49044418334961, 'learning_rate': 9.11391786179922e-06, 'epoch': 0.89}
+{'loss': 1.6387, 'grad_norm': 42.77744674682617, 'learning_rate': 9.111880704041721e-06, 'epoch': 0.89}
+{'loss': 1.2657, 'grad_norm': 29.091915130615234, 'learning_rate': 9.109843546284224e-06, 'epoch': 0.89}
+{'loss': 1.4102, 'grad_norm': 38.22493362426758, 'learning_rate': 9.10780638852673e-06, 'epoch': 0.89}
+{'loss': 1.1789, 'grad_norm': 25.133956909179688, 'learning_rate': 9.105769230769231e-06, 'epoch': 0.89}
+{'loss': 1.3575, 'grad_norm': 31.317461013793945, 'learning_rate': 9.103732073011734e-06, 'epoch': 0.9}
+{'loss': 1.5091, 'grad_norm': 45.92588806152344, 'learning_rate': 9.101694915254238e-06, 'epoch': 0.9}
+{'loss': 1.3984, 'grad_norm': 42.85585021972656, 'learning_rate': 9.099657757496741e-06, 'epoch': 0.9}
+{'loss': 1.3557, 'grad_norm': 34.35123825073242, 'learning_rate': 9.097620599739244e-06, 'epoch': 0.9}
+{'loss': 1.3934, 'grad_norm': 55.367000579833984, 'learning_rate': 9.095583441981748e-06, 'epoch': 0.9}
+{'loss': 1.381, 'grad_norm': 44.50015640258789, 'learning_rate': 9.093546284224251e-06, 'epoch': 0.91}
+{'loss': 1.3467, 'grad_norm': 33.05281066894531, 'learning_rate': 9.091509126466755e-06, 'epoch': 0.91}
+{'loss': 1.3898, 'grad_norm': 29.089704513549805, 'learning_rate': 9.089471968709258e-06, 'epoch': 0.91}
+{'loss': 1.4796, 'grad_norm': 62.69015121459961, 'learning_rate': 9.087434810951761e-06, 'epoch': 0.91}
+{'loss': 1.5134, 'grad_norm': 65.06343841552734, 'learning_rate': 9.085397653194265e-06, 'epoch': 0.91}
+{'loss': 1.3813, 'grad_norm': 32.90183639526367, 'learning_rate': 9.083360495436766e-06, 'epoch': 0.92}
+{'loss': 1.4056, 'grad_norm': 46.59589767456055, 'learning_rate': 9.081323337679271e-06, 'epoch': 0.92}
+{'loss': 1.5993, 'grad_norm': 23.977638244628906, 'learning_rate': 9.079286179921773e-06, 'epoch': 0.92}
+{'loss': 1.4755, 'grad_norm': 35.714683532714844, 'learning_rate': 9.077249022164278e-06, 'epoch': 0.92}
+{'loss': 1.3214, 'grad_norm': 43.56108474731445, 'learning_rate': 9.07521186440678e-06, 'epoch': 0.92}
+{'loss': 1.2797, 'grad_norm': 52.92123794555664, 'learning_rate': 9.073174706649283e-06, 'epoch': 0.93}
+{'loss': 1.3457, 'grad_norm': 37.77199172973633, 'learning_rate': 9.071137548891788e-06, 'epoch': 0.93}
+{'loss': 1.3991, 'grad_norm': 79.3443603515625, 'learning_rate': 9.06910039113429e-06, 'epoch': 0.93}
+{'loss': 1.4952, 'grad_norm': 45.477516174316406, 'learning_rate': 9.067063233376793e-06, 'epoch': 0.93}
+{'loss': 1.4021, 'grad_norm': 29.106794357299805, 'learning_rate': 9.065026075619297e-06, 'epoch': 0.94}
+{'loss': 1.5349, 'grad_norm': 41.3447265625, 'learning_rate': 9.0629889178618e-06, 'epoch': 0.94}
+{'loss': 1.3847, 'grad_norm': 46.72389602661133, 'learning_rate': 9.060951760104303e-06, 'epoch': 0.94}
+{'loss': 1.5409, 'grad_norm': 51.089359283447266, 'learning_rate': 9.058914602346807e-06, 'epoch': 0.94}
+{'loss': 1.5227, 'grad_norm': 30.772525787353516, 'learning_rate': 9.05687744458931e-06, 'epoch': 0.94}
+{'loss': 1.2941, 'grad_norm': 37.93383026123047, 'learning_rate': 9.054840286831813e-06, 'epoch': 0.95}
+{'loss': 1.6375, 'grad_norm': 43.58815002441406, 'learning_rate': 9.052803129074317e-06, 'epoch': 0.95}
+{'loss': 1.2083, 'grad_norm': 42.7253303527832, 'learning_rate': 9.05076597131682e-06, 'epoch': 0.95}
+{'loss': 1.2994, 'grad_norm': 68.10604858398438, 'learning_rate': 9.048728813559323e-06, 'epoch': 0.95}
+{'loss': 1.4318, 'grad_norm': 34.84334182739258, 'learning_rate': 9.046691655801825e-06, 'epoch': 0.95}
+{'loss': 1.2653, 'grad_norm': 32.88683319091797, 'learning_rate': 9.04465449804433e-06, 'epoch': 0.96}
+{'loss': 1.4377, 'grad_norm': 47.8029670715332, 'learning_rate': 9.042617340286832e-06, 'epoch': 0.96}
+{'loss': 1.6155, 'grad_norm': 38.96677780151367, 'learning_rate': 9.040580182529335e-06, 'epoch': 0.96}
+{'loss': 1.4271, 'grad_norm': 36.49459457397461, 'learning_rate': 9.038543024771839e-06, 'epoch': 0.96}
+{'loss': 1.3382, 'grad_norm': 42.62727737426758, 'learning_rate': 9.036505867014342e-06, 'epoch': 0.96}
+{'loss': 1.3523, 'grad_norm': 30.978578567504883, 'learning_rate': 9.034468709256845e-06, 'epoch': 0.97}
+{'loss': 1.528, 'grad_norm': 57.04502868652344, 'learning_rate': 9.032431551499349e-06, 'epoch': 0.97}
+{'loss': 1.4937, 'grad_norm': 50.69810485839844, 'learning_rate': 9.030394393741852e-06, 'epoch': 0.97}
+{'loss': 1.4718, 'grad_norm': 44.39387893676758, 'learning_rate': 9.028357235984355e-06, 'epoch': 0.97}
+{'loss': 1.4217, 'grad_norm': 43.471858978271484, 'learning_rate': 9.026320078226859e-06, 'epoch': 0.97}
+{'loss': 1.5647, 'grad_norm': 29.907258987426758, 'learning_rate': 9.024282920469362e-06, 'epoch': 0.98}
+{'loss': 1.2917, 'grad_norm': 33.04045486450195, 'learning_rate': 9.022245762711866e-06, 'epoch': 0.98}
+{'loss': 1.2911, 'grad_norm': 22.425582885742188, 'learning_rate': 9.020208604954367e-06, 'epoch': 0.98}
+{'loss': 1.2708, 'grad_norm': 39.3015022277832, 'learning_rate': 9.018171447196872e-06, 'epoch': 0.98}
+{'loss': 1.3473, 'grad_norm': 49.75627136230469, 'learning_rate': 9.016134289439374e-06, 'epoch': 0.98}
+{'loss': 1.4642, 'grad_norm': 46.41733932495117, 'learning_rate': 9.014097131681879e-06, 'epoch': 0.99}
+{'loss': 1.2209, 'grad_norm': 38.595481872558594, 'learning_rate': 9.012059973924382e-06, 'epoch': 0.99}
+{'loss': 1.5338, 'grad_norm': 42.217742919921875, 'learning_rate': 9.010022816166884e-06, 'epoch': 0.99}
+{'loss': 1.3509, 'grad_norm': 66.52201080322266, 'learning_rate': 9.007985658409389e-06, 'epoch': 0.99}
+{'loss': 1.2189, 'grad_norm': 37.97477722167969, 'learning_rate': 9.00594850065189e-06, 'epoch': 0.99}
+{'loss': 1.5435, 'grad_norm': 47.21786117553711, 'learning_rate': 9.003911342894394e-06, 'epoch': 1.0}
+{'loss': 1.285, 'grad_norm': 30.574199676513672, 'learning_rate': 9.001874185136897e-06, 'epoch': 1.0}
+{'loss': 1.3737, 'grad_norm': 17.867399215698242, 'learning_rate': 8.9998370273794e-06, 'epoch': 1.0}
+{'loss': 1.0406, 'grad_norm': 37.65542221069336, 'learning_rate': 8.997799869621904e-06, 'epoch': 1.0}
+{'loss': 0.78, 'grad_norm': 32.3367805480957, 'learning_rate': 8.995762711864408e-06, 'epoch': 1.0}
+{'loss': 0.9327, 'grad_norm': 52.85264587402344, 'learning_rate': 8.993725554106911e-06, 'epoch': 1.01}
+{'loss': 0.7743, 'grad_norm': 33.07616424560547, 'learning_rate': 8.991688396349414e-06, 'epoch': 1.01}
+{'loss': 0.9764, 'grad_norm': 73.17145538330078, 'learning_rate': 8.989651238591918e-06, 'epoch': 1.01}
+{'loss': 0.9359, 'grad_norm': 29.654376983642578, 'learning_rate': 8.987614080834421e-06, 'epoch': 1.01}
+{'loss': 0.797, 'grad_norm': 53.86330795288086, 'learning_rate': 8.985576923076924e-06, 'epoch': 1.01}
+{'loss': 0.8885, 'grad_norm': 76.59049224853516, 'learning_rate': 8.983539765319426e-06, 'epoch': 1.02}
+{'loss': 0.8489, 'grad_norm': 51.772953033447266, 'learning_rate': 8.981502607561931e-06, 'epoch': 1.02}
+{'loss': 0.8918, 'grad_norm': 60.64998245239258, 'learning_rate': 8.979465449804433e-06, 'epoch': 1.02}
+{'loss': 0.7604, 'grad_norm': 30.844640731811523, 'learning_rate': 8.977428292046936e-06, 'epoch': 1.02}
+{'loss': 0.9995, 'grad_norm': 70.17113494873047, 'learning_rate': 8.975391134289441e-06, 'epoch': 1.02}
+{'loss': 0.9312, 'grad_norm': 33.45195388793945, 'learning_rate': 8.973353976531943e-06, 'epoch': 1.03}
+{'loss': 0.9238, 'grad_norm': 80.0888900756836, 'learning_rate': 8.971316818774446e-06, 'epoch': 1.03}
+{'loss': 0.9346, 'grad_norm': 35.523494720458984, 'learning_rate': 8.96927966101695e-06, 'epoch': 1.03}
+{'loss': 0.9168, 'grad_norm': 44.575443267822266, 'learning_rate': 8.967242503259453e-06, 'epoch': 1.03}
+{'loss': 0.9454, 'grad_norm': 49.08687973022461, 'learning_rate': 8.965205345501956e-06, 'epoch': 1.03}
+{'loss': 1.1347, 'grad_norm': 46.196414947509766, 'learning_rate': 8.96316818774446e-06, 'epoch': 1.04}
+{'loss': 0.9148, 'grad_norm': 45.941009521484375, 'learning_rate': 8.961131029986963e-06, 'epoch': 1.04}
+{'loss': 0.7976, 'grad_norm': 47.034366607666016, 'learning_rate': 8.959093872229466e-06, 'epoch': 1.04}
+{'loss': 0.9082, 'grad_norm': 65.8216552734375, 'learning_rate': 8.957056714471968e-06, 'epoch': 1.04}
+{'loss': 1.0127, 'grad_norm': 57.955535888671875, 'learning_rate': 8.955019556714473e-06, 'epoch': 1.05}
+{'loss': 0.8686, 'grad_norm': 31.265674591064453, 'learning_rate': 8.952982398956977e-06, 'epoch': 1.05}
+{'loss': 1.0187, 'grad_norm': 46.35829544067383, 'learning_rate': 8.95094524119948e-06, 'epoch': 1.05}
+{'loss': 0.9119, 'grad_norm': 55.069740295410156, 'learning_rate': 8.948908083441983e-06, 'epoch': 1.05}
+{'loss': 1.0922, 'grad_norm': 77.12594604492188, 'learning_rate': 8.946870925684485e-06, 'epoch': 1.05}
+{'loss': 0.7954, 'grad_norm': 29.871644973754883, 'learning_rate': 8.94483376792699e-06, 'epoch': 1.06}
+{'loss': 0.8811, 'grad_norm': 61.24496841430664, 'learning_rate': 8.942796610169492e-06, 'epoch': 1.06}
+{'loss': 0.9169, 'grad_norm': 59.315853118896484, 'learning_rate': 8.940759452411995e-06, 'epoch': 1.06}
+{'loss': 1.0755, 'grad_norm': 74.13114929199219, 'learning_rate': 8.938722294654498e-06, 'epoch': 1.06}
+{'loss': 0.7596, 'grad_norm': 36.345829010009766, 'learning_rate': 8.936685136897002e-06, 'epoch': 1.06}
+{'loss': 0.8628, 'grad_norm': 50.147701263427734, 'learning_rate': 8.934647979139505e-06, 'epoch': 1.07}
+{'loss': 1.03, 'grad_norm': 51.16043472290039, 'learning_rate': 8.932610821382008e-06, 'epoch': 1.07}
+{'loss': 0.8627, 'grad_norm': 78.23997497558594, 'learning_rate': 8.930573663624512e-06, 'epoch': 1.07}
+{'loss': 1.0758, 'grad_norm': 25.72283935546875, 'learning_rate': 8.928536505867015e-06, 'epoch': 1.07}
+{'loss': 1.0409, 'grad_norm': 38.29820251464844, 'learning_rate': 8.926499348109519e-06, 'epoch': 1.07}
+{'loss': 1.0518, 'grad_norm': 31.86827850341797, 'learning_rate': 8.924462190352022e-06, 'epoch': 1.08}
+{'loss': 0.8968, 'grad_norm': 74.2602767944336, 'learning_rate': 8.922425032594525e-06, 'epoch': 1.08}
+{'loss': 0.7868, 'grad_norm': 46.2149772644043, 'learning_rate': 8.920387874837027e-06, 'epoch': 1.08}
+{'loss': 1.0194, 'grad_norm': 29.144927978515625, 'learning_rate': 8.918350717079532e-06, 'epoch': 1.08}
+{'loss': 0.94, 'grad_norm': 52.065765380859375, 'learning_rate': 8.916313559322035e-06, 'epoch': 1.08}
+{'loss': 1.0034, 'grad_norm': 31.77858543395996, 'learning_rate': 8.914276401564537e-06, 'epoch': 1.09}
+{'loss': 0.806, 'grad_norm': 15.439510345458984, 'learning_rate': 8.912239243807042e-06, 'epoch': 1.09}
+{'loss': 0.9584, 'grad_norm': 52.9717903137207, 'learning_rate': 8.910202086049544e-06, 'epoch': 1.09}
+{'loss': 0.8295, 'grad_norm': 72.11717987060547, 'learning_rate': 8.908164928292047e-06, 'epoch': 1.09}
+{'loss': 0.8785, 'grad_norm': 60.325889587402344, 'learning_rate': 8.90612777053455e-06, 'epoch': 1.09}
+{'loss': 0.9489, 'grad_norm': 61.5078010559082, 'learning_rate': 8.904090612777054e-06, 'epoch': 1.1}
+{'loss': 0.8654, 'grad_norm': 59.39323425292969, 'learning_rate': 8.902053455019557e-06, 'epoch': 1.1}
+{'loss': 0.8563, 'grad_norm': 63.617191314697266, 'learning_rate': 8.90001629726206e-06, 'epoch': 1.1}
+{'loss': 0.7624, 'grad_norm': 38.67619323730469, 'learning_rate': 8.897979139504564e-06, 'epoch': 1.1}
+{'loss': 0.9824, 'grad_norm': 30.31256866455078, 'learning_rate': 8.895941981747067e-06, 'epoch': 1.1}
+{'loss': 0.805, 'grad_norm': 54.0593147277832, 'learning_rate': 8.89390482398957e-06, 'epoch': 1.11}
+{'loss': 1.0813, 'grad_norm': 55.740882873535156, 'learning_rate': 8.891867666232074e-06, 'epoch': 1.11}
+{'loss': 0.983, 'grad_norm': 67.84930419921875, 'learning_rate': 8.889830508474577e-06, 'epoch': 1.11}
+{'loss': 0.7167, 'grad_norm': 99.33741760253906, 'learning_rate': 8.887793350717079e-06, 'epoch': 1.11}
+{'loss': 0.9335, 'grad_norm': 52.37168884277344, 'learning_rate': 8.885756192959584e-06, 'epoch': 1.11}
+{'loss': 0.8126, 'grad_norm': 73.22474670410156, 'learning_rate': 8.883719035202086e-06, 'epoch': 1.12}
+{'loss': 0.9203, 'grad_norm': 70.60664367675781, 'learning_rate': 8.881681877444591e-06, 'epoch': 1.12}
+{'loss': 0.9896, 'grad_norm': 53.39366149902344, 'learning_rate': 8.879644719687093e-06, 'epoch': 1.12}
+{'loss': 0.9333, 'grad_norm': 49.094017028808594, 'learning_rate': 8.877607561929596e-06, 'epoch': 1.12}
+{'loss': 0.9036, 'grad_norm': 43.345054626464844, 'learning_rate': 8.875570404172101e-06, 'epoch': 1.12}
+{'loss': 1.0024, 'grad_norm': 47.2796630859375, 'learning_rate': 8.873533246414603e-06, 'epoch': 1.13}
+{'loss': 0.8451, 'grad_norm': 37.23579788208008, 'learning_rate': 8.871496088657106e-06, 'epoch': 1.13}
+{'loss': 0.7765, 'grad_norm': 38.996559143066406, 'learning_rate': 8.86945893089961e-06, 'epoch': 1.13}
+{'loss': 0.8685, 'grad_norm': 69.6250228881836, 'learning_rate': 8.867421773142113e-06, 'epoch': 1.13}
+{'loss': 1.0318, 'grad_norm': 41.23323059082031, 'learning_rate': 8.865384615384616e-06, 'epoch': 1.13}
+{'loss': 1.0576, 'grad_norm': 53.50358963012695, 'learning_rate': 8.86334745762712e-06, 'epoch': 1.14}
+{'loss': 1.0771, 'grad_norm': 25.58985710144043, 'learning_rate': 8.861310299869623e-06, 'epoch': 1.14}
+{'loss': 0.8501, 'grad_norm': 26.71214485168457, 'learning_rate': 8.859273142112126e-06, 'epoch': 1.14}
+{'loss': 0.8501, 'grad_norm': 69.90726470947266, 'learning_rate': 8.85723598435463e-06, 'epoch': 1.14}
+{'loss': 0.7889, 'grad_norm': 61.62168884277344, 'learning_rate': 8.855198826597133e-06, 'epoch': 1.14}
+{'loss': 0.8384, 'grad_norm': 29.469161987304688, 'learning_rate': 8.853161668839636e-06, 'epoch': 1.15}
+{'loss': 1.0087, 'grad_norm': 54.915653228759766, 'learning_rate': 8.851124511082138e-06, 'epoch': 1.15}
+{'loss': 0.9368, 'grad_norm': 64.74657440185547, 'learning_rate': 8.849087353324643e-06, 'epoch': 1.15}
+{'loss': 0.9713, 'grad_norm': 54.87922668457031, 'learning_rate': 8.847050195567145e-06, 'epoch': 1.15}
+{'loss': 0.8895, 'grad_norm': 38.48196029663086, 'learning_rate': 8.845013037809648e-06, 'epoch': 1.16}
+{'loss': 1.0383, 'grad_norm': 58.801658630371094, 'learning_rate': 8.842975880052151e-06, 'epoch': 1.16}
+{'loss': 1.1709, 'grad_norm': 66.62407684326172, 'learning_rate': 8.840938722294655e-06, 'epoch': 1.16}
+{'loss': 1.0904, 'grad_norm': 36.52134323120117, 'learning_rate': 8.838901564537158e-06, 'epoch': 1.16}
+{'loss': 0.8291, 'grad_norm': 83.29988861083984, 'learning_rate': 8.836864406779662e-06, 'epoch': 1.16}
+{'loss': 0.9787, 'grad_norm': 41.42005157470703, 'learning_rate': 8.834827249022165e-06, 'epoch': 1.17}
+{'loss': 0.9626, 'grad_norm': 74.20494079589844, 'learning_rate': 8.832790091264668e-06, 'epoch': 1.17}
+{'loss': 1.0094, 'grad_norm': 66.01719665527344, 'learning_rate': 8.830752933507172e-06, 'epoch': 1.17}
+{'loss': 0.7761, 'grad_norm': 54.04715347290039, 'learning_rate': 8.828715775749675e-06, 'epoch': 1.17}
+{'loss': 1.0004, 'grad_norm': 42.43396759033203, 'learning_rate': 8.826678617992178e-06, 'epoch': 1.17}
+{'loss': 0.919, 'grad_norm': 48.27296829223633, 'learning_rate': 8.82464146023468e-06, 'epoch': 1.18}
+{'loss': 0.7453, 'grad_norm': 68.15653991699219, 'learning_rate': 8.822604302477185e-06, 'epoch': 1.18}
+{'loss': 0.9174, 'grad_norm': 70.61177825927734, 'learning_rate': 8.820567144719688e-06, 'epoch': 1.18}
+{'loss': 0.7284, 'grad_norm': 94.93092346191406, 'learning_rate': 8.818529986962192e-06, 'epoch': 1.18}
+{'loss': 0.886, 'grad_norm': 44.79341125488281, 'learning_rate': 8.816492829204695e-06, 'epoch': 1.18}
+{'loss': 0.8994, 'grad_norm': 49.52956008911133, 'learning_rate': 8.814455671447197e-06, 'epoch': 1.19}
+{'loss': 0.8227, 'grad_norm': 87.5079116821289, 'learning_rate': 8.812418513689702e-06, 'epoch': 1.19}
+{'loss': 1.0975, 'grad_norm': 37.14065933227539, 'learning_rate': 8.810381355932204e-06, 'epoch': 1.19}
+{'loss': 0.9012, 'grad_norm': 44.841426849365234, 'learning_rate': 8.808344198174707e-06, 'epoch': 1.19}
+{'loss': 1.0549, 'grad_norm': 68.76851654052734, 'learning_rate': 8.80630704041721e-06, 'epoch': 1.19}
+{'loss': 0.8477, 'grad_norm': 67.40985107421875, 'learning_rate': 8.804269882659714e-06, 'epoch': 1.2}
+{'loss': 0.8097, 'grad_norm': 44.722354888916016, 'learning_rate': 8.802232724902217e-06, 'epoch': 1.2}
+{'loss': 0.9437, 'grad_norm': 79.96577453613281, 'learning_rate': 8.80019556714472e-06, 'epoch': 1.2}
+{'loss': 0.8471, 'grad_norm': 70.29109191894531, 'learning_rate': 8.798158409387224e-06, 'epoch': 1.2}
+{'loss': 1.0991, 'grad_norm': 49.805973052978516, 'learning_rate': 8.796121251629727e-06, 'epoch': 1.2}
+{'loss': 0.9804, 'grad_norm': 63.335968017578125, 'learning_rate': 8.79408409387223e-06, 'epoch': 1.21}
+{'loss': 0.9359, 'grad_norm': 36.481407165527344, 'learning_rate': 8.792046936114734e-06, 'epoch': 1.21}
+{'loss': 1.013, 'grad_norm': 76.46138000488281, 'learning_rate': 8.790009778357237e-06, 'epoch': 1.21}
+{'loss': 1.0233, 'grad_norm': 46.74138259887695, 'learning_rate': 8.787972620599739e-06, 'epoch': 1.21}
+{'loss': 0.9053, 'grad_norm': 61.717254638671875, 'learning_rate': 8.785935462842244e-06, 'epoch': 1.21}
+{'loss': 1.0593, 'grad_norm': 37.899452209472656, 'learning_rate': 8.783898305084746e-06, 'epoch': 1.22}
+{'loss': 1.0108, 'grad_norm': 34.6251220703125, 'learning_rate': 8.781861147327249e-06, 'epoch': 1.22}
+{'loss': 1.0519, 'grad_norm': 87.69046783447266, 'learning_rate': 8.779823989569754e-06, 'epoch': 1.22}
+{'loss': 0.9603, 'grad_norm': 50.436676025390625, 'learning_rate': 8.777786831812256e-06, 'epoch': 1.22}
+{'eval_loss': 2.831948757171631, 'eval_accuracy': 0.7152610441767068, 'eval_runtime': 1.377, 'eval_samples_per_second': 1808.248, 'eval_steps_per_second': 56.644, 'epoch': 1.22}
+{'loss': 0.9782, 'grad_norm': 36.84089279174805, 'learning_rate': 8.775749674054759e-06, 'epoch': 1.22}
+{'loss': 1.0134, 'grad_norm': 67.77947998046875, 'learning_rate': 8.773712516297262e-06, 'epoch': 1.23}
+{'loss': 0.9356, 'grad_norm': 31.33820915222168, 'learning_rate': 8.771675358539766e-06, 'epoch': 1.23}
+{'loss': 0.8226, 'grad_norm': 22.96882438659668, 'learning_rate': 8.76963820078227e-06, 'epoch': 1.23}
+{'loss': 0.8683, 'grad_norm': 64.02906799316406, 'learning_rate': 8.767601043024773e-06, 'epoch': 1.23}
+{'loss': 0.9062, 'grad_norm': 38.41676330566406, 'learning_rate': 8.765563885267276e-06, 'epoch': 1.23}
+{'loss': 0.9031, 'grad_norm': 25.392065048217773, 'learning_rate': 8.76352672750978e-06, 'epoch': 1.24}
+{'loss': 0.9083, 'grad_norm': 117.159423828125, 'learning_rate': 8.761489569752283e-06, 'epoch': 1.24}
+{'loss': 0.8955, 'grad_norm': 68.01673889160156, 'learning_rate': 8.759452411994786e-06, 'epoch': 1.24}
+{'loss': 0.9622, 'grad_norm': 55.002716064453125, 'learning_rate': 8.75741525423729e-06, 'epoch': 1.24}
+{'loss': 0.9478, 'grad_norm': 39.763999938964844, 'learning_rate': 8.755378096479791e-06, 'epoch': 1.24}
+{'loss': 1.114, 'grad_norm': 33.59537887573242, 'learning_rate': 8.753340938722296e-06, 'epoch': 1.25}
+{'loss': 0.9434, 'grad_norm': 61.770816802978516, 'learning_rate': 8.751303780964798e-06, 'epoch': 1.25}
+{'loss': 0.9465, 'grad_norm': 56.89726257324219, 'learning_rate': 8.749266623207303e-06, 'epoch': 1.25}
+{'loss': 0.8739, 'grad_norm': 54.04146194458008, 'learning_rate': 8.747229465449804e-06, 'epoch': 1.25}
+{'loss': 0.9181, 'grad_norm': 58.00157928466797, 'learning_rate': 8.745192307692308e-06, 'epoch': 1.25}
+{'loss': 0.946, 'grad_norm': 71.20033264160156, 'learning_rate': 8.743155149934813e-06, 'epoch': 1.26}
+{'loss': 0.9964, 'grad_norm': 51.00552749633789, 'learning_rate': 8.741117992177315e-06, 'epoch': 1.26}
+{'loss': 1.066, 'grad_norm': 49.9974479675293, 'learning_rate': 8.739080834419818e-06, 'epoch': 1.26}
+{'loss': 0.8534, 'grad_norm': 54.7672004699707, 'learning_rate': 8.737043676662321e-06, 'epoch': 1.26}
+{'loss': 0.8149, 'grad_norm': 87.7389907836914, 'learning_rate': 8.735006518904825e-06, 'epoch': 1.27}
+{'loss': 0.9331, 'grad_norm': 19.144981384277344, 'learning_rate': 8.732969361147328e-06, 'epoch': 1.27}
+{'loss': 0.9968, 'grad_norm': 59.88056564331055, 'learning_rate': 8.730932203389831e-06, 'epoch': 1.27}
+{'loss': 0.8248, 'grad_norm': 39.524173736572266, 'learning_rate': 8.728895045632335e-06, 'epoch': 1.27}
+{'loss': 1.0254, 'grad_norm': 62.29086685180664, 'learning_rate': 8.726857887874838e-06, 'epoch': 1.27}
+{'loss': 0.975, 'grad_norm': 47.80839920043945, 'learning_rate': 8.724820730117341e-06, 'epoch': 1.28}
+{'loss': 0.9225, 'grad_norm': 43.89999771118164, 'learning_rate': 8.722783572359845e-06, 'epoch': 1.28}
+{'loss': 0.8418, 'grad_norm': 15.526226043701172, 'learning_rate': 8.720746414602348e-06, 'epoch': 1.28}
+{'loss': 0.9409, 'grad_norm': 71.46202087402344, 'learning_rate': 8.71870925684485e-06, 'epoch': 1.28}
+{'loss': 1.0446, 'grad_norm': 24.824758529663086, 'learning_rate': 8.716672099087355e-06, 'epoch': 1.28}
+{'loss': 1.1226, 'grad_norm': 67.38640594482422, 'learning_rate': 8.714634941329857e-06, 'epoch': 1.29}
+{'loss': 0.8009, 'grad_norm': 57.87114715576172, 'learning_rate': 8.71259778357236e-06, 'epoch': 1.29}
+{'loss': 1.0569, 'grad_norm': 61.75230407714844, 'learning_rate': 8.710560625814863e-06, 'epoch': 1.29}
+{'loss': 0.9275, 'grad_norm': 52.93294143676758, 'learning_rate': 8.708523468057367e-06, 'epoch': 1.29}
+{'loss': 0.8838, 'grad_norm': 44.99690628051758, 'learning_rate': 8.70648631029987e-06, 'epoch': 1.29}
+{'loss': 0.8904, 'grad_norm': 98.90828704833984, 'learning_rate': 8.704449152542373e-06, 'epoch': 1.3}
+{'loss': 0.8691, 'grad_norm': 45.85356903076172, 'learning_rate': 8.702411994784877e-06, 'epoch': 1.3}
+{'loss': 0.9095, 'grad_norm': 35.83757019042969, 'learning_rate': 8.70037483702738e-06, 'epoch': 1.3}
+{'loss': 0.9533, 'grad_norm': 27.85915184020996, 'learning_rate': 8.698337679269884e-06, 'epoch': 1.3}
+{'loss': 0.9917, 'grad_norm': 90.31131744384766, 'learning_rate': 8.696300521512387e-06, 'epoch': 1.3}
+{'loss': 0.9872, 'grad_norm': 66.77598571777344, 'learning_rate': 8.69426336375489e-06, 'epoch': 1.31}
+{'loss': 0.8369, 'grad_norm': 32.02001953125, 'learning_rate': 8.692226205997392e-06, 'epoch': 1.31}
+{'loss': 0.8394, 'grad_norm': 94.63176727294922, 'learning_rate': 8.690189048239897e-06, 'epoch': 1.31}
+{'loss': 0.8643, 'grad_norm': 12.501968383789062, 'learning_rate': 8.688151890482399e-06, 'epoch': 1.31}
+{'loss': 1.0621, 'grad_norm': 87.52075958251953, 'learning_rate': 8.686114732724904e-06, 'epoch': 1.31}
+{'loss': 0.8386, 'grad_norm': 45.83060836791992, 'learning_rate': 8.684077574967407e-06, 'epoch': 1.32}
+{'loss': 0.8806, 'grad_norm': 58.4599609375, 'learning_rate': 8.682040417209909e-06, 'epoch': 1.32}
+{'loss': 0.8873, 'grad_norm': 53.809478759765625, 'learning_rate': 8.680003259452414e-06, 'epoch': 1.32}
+{'loss': 0.9051, 'grad_norm': 42.14249038696289, 'learning_rate': 8.677966101694915e-06, 'epoch': 1.32}
+{'loss': 0.956, 'grad_norm': 77.40869903564453, 'learning_rate': 8.675928943937419e-06, 'epoch': 1.32}
+{'loss': 0.7987, 'grad_norm': 66.45364379882812, 'learning_rate': 8.673891786179922e-06, 'epoch': 1.33}
+{'loss': 1.0511, 'grad_norm': 99.72549438476562, 'learning_rate': 8.671854628422426e-06, 'epoch': 1.33}
+{'loss': 0.9842, 'grad_norm': 84.60299682617188, 'learning_rate': 8.669817470664929e-06, 'epoch': 1.33}
+{'loss': 0.8998, 'grad_norm': 22.028121948242188, 'learning_rate': 8.667780312907432e-06, 'epoch': 1.33}
+{'loss': 0.753, 'grad_norm': 37.94926834106445, 'learning_rate': 8.665743155149936e-06, 'epoch': 1.33}
+{'loss': 0.9912, 'grad_norm': 47.584800720214844, 'learning_rate': 8.663705997392439e-06, 'epoch': 1.34}
+{'loss': 0.9004, 'grad_norm': 25.722990036010742, 'learning_rate': 8.661668839634942e-06, 'epoch': 1.34}
+{'loss': 0.8044, 'grad_norm': 77.21207427978516, 'learning_rate': 8.659631681877446e-06, 'epoch': 1.34}
+{'loss': 0.9517, 'grad_norm': 72.76679229736328, 'learning_rate': 8.657594524119949e-06, 'epoch': 1.34}
+{'loss': 0.779, 'grad_norm': 46.43939971923828, 'learning_rate': 8.65555736636245e-06, 'epoch': 1.34}
+{'loss': 0.9003, 'grad_norm': 43.6806640625, 'learning_rate': 8.653520208604956e-06, 'epoch': 1.35}
+{'loss': 0.8447, 'grad_norm': 18.679519653320312, 'learning_rate': 8.651483050847458e-06, 'epoch': 1.35}
+{'loss': 0.8855, 'grad_norm': 51.410091400146484, 'learning_rate': 8.649445893089961e-06, 'epoch': 1.35}
+{'loss': 0.8007, 'grad_norm': 25.923063278198242, 'learning_rate': 8.647408735332466e-06, 'epoch': 1.35}
+{'loss': 1.0197, 'grad_norm': 27.775497436523438, 'learning_rate': 8.645371577574968e-06, 'epoch': 1.35}
+{'loss': 0.8748, 'grad_norm': 40.971553802490234, 'learning_rate': 8.643334419817471e-06, 'epoch': 1.36}
+{'loss': 1.1075, 'grad_norm': 42.29533386230469, 'learning_rate': 8.641297262059974e-06, 'epoch': 1.36}
+{'loss': 0.7323, 'grad_norm': 92.80110168457031, 'learning_rate': 8.639260104302478e-06, 'epoch': 1.36}
+{'loss': 0.8794, 'grad_norm': 50.657657623291016, 'learning_rate': 8.637222946544981e-06, 'epoch': 1.36}
+{'loss': 1.0888, 'grad_norm': 34.10064697265625, 'learning_rate': 8.635185788787484e-06, 'epoch': 1.36}
+{'loss': 0.8885, 'grad_norm': 48.43376922607422, 'learning_rate': 8.633148631029988e-06, 'epoch': 1.37}
+{'loss': 0.9624, 'grad_norm': 77.96353149414062, 'learning_rate': 8.631111473272491e-06, 'epoch': 1.37}
+{'loss': 1.0529, 'grad_norm': 22.974517822265625, 'learning_rate': 8.629074315514993e-06, 'epoch': 1.37}
+{'loss': 0.8964, 'grad_norm': 59.87070083618164, 'learning_rate': 8.627037157757498e-06, 'epoch': 1.37}
+{'loss': 0.9154, 'grad_norm': 57.43585205078125, 'learning_rate': 8.625000000000001e-06, 'epoch': 1.38}
+{'loss': 0.9414, 'grad_norm': 27.978403091430664, 'learning_rate': 8.622962842242505e-06, 'epoch': 1.38}
+{'loss': 0.8194, 'grad_norm': 56.749359130859375, 'learning_rate': 8.620925684485008e-06, 'epoch': 1.38}
+{'loss': 0.7419, 'grad_norm': 32.455299377441406, 'learning_rate': 8.61888852672751e-06, 'epoch': 1.38}
+{'loss': 0.9729, 'grad_norm': 60.4687614440918, 'learning_rate': 8.616851368970015e-06, 'epoch': 1.38}
+{'loss': 0.9461, 'grad_norm': 71.53168487548828, 'learning_rate': 8.614814211212516e-06, 'epoch': 1.39}
+{'loss': 1.0595, 'grad_norm': 50.276851654052734, 'learning_rate': 8.61277705345502e-06, 'epoch': 1.39}
+{'loss': 0.9034, 'grad_norm': 49.677120208740234, 'learning_rate': 8.610739895697523e-06, 'epoch': 1.39}
+{'loss': 0.9563, 'grad_norm': 86.8421859741211, 'learning_rate': 8.608702737940026e-06, 'epoch': 1.39}
+{'loss': 1.0013, 'grad_norm': 44.0430793762207, 'learning_rate': 8.60666558018253e-06, 'epoch': 1.39}
+{'loss': 0.8073, 'grad_norm': 57.693965911865234, 'learning_rate': 8.604628422425033e-06, 'epoch': 1.4}
+{'loss': 0.82, 'grad_norm': 62.35358810424805, 'learning_rate': 8.602591264667537e-06, 'epoch': 1.4}
+{'loss': 0.8387, 'grad_norm': 83.79405975341797, 'learning_rate': 8.60055410691004e-06, 'epoch': 1.4}
+{'loss': 0.8792, 'grad_norm': 35.61775207519531, 'learning_rate': 8.598516949152543e-06, 'epoch': 1.4}
+{'loss': 0.9862, 'grad_norm': 149.16929626464844, 'learning_rate': 8.596479791395047e-06, 'epoch': 1.4}
+{'loss': 1.0479, 'grad_norm': 43.171730041503906, 'learning_rate': 8.59444263363755e-06, 'epoch': 1.41}
+{'loss': 0.9406, 'grad_norm': 56.863502502441406, 'learning_rate': 8.592405475880052e-06, 'epoch': 1.41}
+{'loss': 0.8087, 'grad_norm': 59.9599494934082, 'learning_rate': 8.590368318122557e-06, 'epoch': 1.41}
+{'loss': 0.935, 'grad_norm': 38.357025146484375, 'learning_rate': 8.58833116036506e-06, 'epoch': 1.41}
+{'loss': 1.0327, 'grad_norm': 58.45079040527344, 'learning_rate': 8.586294002607562e-06, 'epoch': 1.41}
+{'loss': 1.0047, 'grad_norm': 68.61868286132812, 'learning_rate': 8.584256844850067e-06, 'epoch': 1.42}
+{'loss': 0.9732, 'grad_norm': 43.2059326171875, 'learning_rate': 8.582219687092569e-06, 'epoch': 1.42}
+{'loss': 1.1414, 'grad_norm': 75.36687469482422, 'learning_rate': 8.580182529335072e-06, 'epoch': 1.42}
+{'loss': 0.9194, 'grad_norm': 51.7155876159668, 'learning_rate': 8.578145371577575e-06, 'epoch': 1.42}
+{'loss': 0.949, 'grad_norm': 70.88308715820312, 'learning_rate': 8.576108213820079e-06, 'epoch': 1.42}
+{'loss': 0.947, 'grad_norm': 68.25607299804688, 'learning_rate': 8.574071056062582e-06, 'epoch': 1.43}
+{'loss': 0.943, 'grad_norm': 75.37320709228516, 'learning_rate': 8.572033898305085e-06, 'epoch': 1.43}
+{'loss': 1.0403, 'grad_norm': 42.705142974853516, 'learning_rate': 8.569996740547589e-06, 'epoch': 1.43}
+{'loss': 0.956, 'grad_norm': 57.90552520751953, 'learning_rate': 8.567959582790092e-06, 'epoch': 1.43}
+{'loss': 1.0461, 'grad_norm': 37.902828216552734, 'learning_rate': 8.565922425032595e-06, 'epoch': 1.43}
+{'loss': 0.9866, 'grad_norm': 49.51485824584961, 'learning_rate': 8.563885267275099e-06, 'epoch': 1.44}
+{'loss': 0.7201, 'grad_norm': 47.14778518676758, 'learning_rate': 8.561848109517602e-06, 'epoch': 1.44}
+{'loss': 0.9626, 'grad_norm': 81.26514434814453, 'learning_rate': 8.559810951760104e-06, 'epoch': 1.44}
+{'loss': 1.0578, 'grad_norm': 37.897396087646484, 'learning_rate': 8.557773794002609e-06, 'epoch': 1.44}
+{'loss': 0.8835, 'grad_norm': 47.41889572143555, 'learning_rate': 8.55573663624511e-06, 'epoch': 1.44}
+{'loss': 0.8836, 'grad_norm': 82.82498931884766, 'learning_rate': 8.553699478487616e-06, 'epoch': 1.45}
+{'loss': 1.0174, 'grad_norm': 35.83186340332031, 'learning_rate': 8.551662320730119e-06, 'epoch': 1.45}
+{'loss': 1.0876, 'grad_norm': 71.92229461669922, 'learning_rate': 8.54962516297262e-06, 'epoch': 1.45}
+{'loss': 0.8424, 'grad_norm': 34.65770721435547, 'learning_rate': 8.547588005215126e-06, 'epoch': 1.45}
+{'loss': 0.9087, 'grad_norm': 78.4599380493164, 'learning_rate': 8.545550847457627e-06, 'epoch': 1.45}
+{'loss': 1.0269, 'grad_norm': 50.16574478149414, 'learning_rate': 8.54351368970013e-06, 'epoch': 1.46}
+{'loss': 0.9809, 'grad_norm': 26.914594650268555, 'learning_rate': 8.541476531942634e-06, 'epoch': 1.46}
+{'loss': 0.9896, 'grad_norm': 51.20393753051758, 'learning_rate': 8.539439374185138e-06, 'epoch': 1.46}
+{'loss': 0.9439, 'grad_norm': 34.3653678894043, 'learning_rate': 8.537402216427641e-06, 'epoch': 1.46}
+{'loss': 1.086, 'grad_norm': 79.34575653076172, 'learning_rate': 8.535365058670144e-06, 'epoch': 1.46}
+{'loss': 0.6724, 'grad_norm': 15.188326835632324, 'learning_rate': 8.533327900912648e-06, 'epoch': 1.47}
+{'loss': 0.8077, 'grad_norm': 65.30072784423828, 'learning_rate': 8.531290743155151e-06, 'epoch': 1.47}
+{'loss': 1.0581, 'grad_norm': 50.67522430419922, 'learning_rate': 8.529253585397654e-06, 'epoch': 1.47}
+{'loss': 1.0407, 'grad_norm': 50.37688064575195, 'learning_rate': 8.527216427640158e-06, 'epoch': 1.47}
+{'loss': 0.7704, 'grad_norm': 74.0989990234375, 'learning_rate': 8.525179269882661e-06, 'epoch': 1.47}
+{'loss': 0.9259, 'grad_norm': 41.480655670166016, 'learning_rate': 8.523142112125163e-06, 'epoch': 1.48}
+{'loss': 1.1814, 'grad_norm': 45.865360260009766, 'learning_rate': 8.521104954367668e-06, 'epoch': 1.48}
+{'loss': 0.8943, 'grad_norm': 59.709110260009766, 'learning_rate': 8.51906779661017e-06, 'epoch': 1.48}
+{'loss': 0.9379, 'grad_norm': 47.048370361328125, 'learning_rate': 8.517030638852673e-06, 'epoch': 1.48}
+{'loss': 0.8259, 'grad_norm': 92.3385009765625, 'learning_rate': 8.514993481095176e-06, 'epoch': 1.49}
+{'loss': 1.1624, 'grad_norm': 86.39923095703125, 'learning_rate': 8.51295632333768e-06, 'epoch': 1.49}
+{'loss': 0.9482, 'grad_norm': 66.20951843261719, 'learning_rate': 8.510919165580183e-06, 'epoch': 1.49}
+{'loss': 0.8926, 'grad_norm': 59.887935638427734, 'learning_rate': 8.508882007822686e-06, 'epoch': 1.49}
+{'loss': 0.767, 'grad_norm': 38.499168395996094, 'learning_rate': 8.50684485006519e-06, 'epoch': 1.49}
+{'loss': 1.0082, 'grad_norm': 78.74063110351562, 'learning_rate': 8.504807692307693e-06, 'epoch': 1.5}
+{'loss': 0.692, 'grad_norm': 41.70794677734375, 'learning_rate': 8.502770534550196e-06, 'epoch': 1.5}
+{'loss': 1.0841, 'grad_norm': 85.80797576904297, 'learning_rate': 8.5007333767927e-06, 'epoch': 1.5}
+{'loss': 1.0239, 'grad_norm': 68.19384765625, 'learning_rate': 8.498696219035203e-06, 'epoch': 1.5}
+{'loss': 0.864, 'grad_norm': 52.86435317993164, 'learning_rate': 8.496659061277705e-06, 'epoch': 1.5}
+{'loss': 1.1071, 'grad_norm': 31.853914260864258, 'learning_rate': 8.49462190352021e-06, 'epoch': 1.51}
+{'loss': 0.7963, 'grad_norm': 67.76061248779297, 'learning_rate': 8.492584745762713e-06, 'epoch': 1.51}
+{'loss': 1.1312, 'grad_norm': 36.49199295043945, 'learning_rate': 8.490547588005217e-06, 'epoch': 1.51}
+{'loss': 0.9091, 'grad_norm': 46.86693572998047, 'learning_rate': 8.48851043024772e-06, 'epoch': 1.51}
+{'loss': 0.8646, 'grad_norm': 44.743553161621094, 'learning_rate': 8.486473272490222e-06, 'epoch': 1.51}
+{'loss': 0.8888, 'grad_norm': 39.50856399536133, 'learning_rate': 8.484436114732727e-06, 'epoch': 1.52}
+{'loss': 0.7894, 'grad_norm': 23.670143127441406, 'learning_rate': 8.482398956975228e-06, 'epoch': 1.52}
+{'loss': 0.856, 'grad_norm': 57.54983901977539, 'learning_rate': 8.480361799217732e-06, 'epoch': 1.52}
+{'loss': 0.9387, 'grad_norm': 111.95585632324219, 'learning_rate': 8.478324641460235e-06, 'epoch': 1.52}
+{'loss': 0.9348, 'grad_norm': 40.6541862487793, 'learning_rate': 8.476287483702738e-06, 'epoch': 1.52}
+{'loss': 1.0087, 'grad_norm': 38.767539978027344, 'learning_rate': 8.474250325945242e-06, 'epoch': 1.53}
+{'loss': 0.9802, 'grad_norm': 50.316802978515625, 'learning_rate': 8.472213168187745e-06, 'epoch': 1.53}
+{'loss': 0.8146, 'grad_norm': 39.18696212768555, 'learning_rate': 8.470176010430249e-06, 'epoch': 1.53}
+{'loss': 0.9226, 'grad_norm': 97.30274200439453, 'learning_rate': 8.468138852672752e-06, 'epoch': 1.53}
+{'loss': 0.8705, 'grad_norm': 36.38114547729492, 'learning_rate': 8.466101694915255e-06, 'epoch': 1.53}
+{'loss': 0.8592, 'grad_norm': 77.22689056396484, 'learning_rate': 8.464064537157759e-06, 'epoch': 1.54}
+{'loss': 1.0819, 'grad_norm': 32.67113494873047, 'learning_rate': 8.462027379400262e-06, 'epoch': 1.54}
+{'loss': 0.9006, 'grad_norm': 23.98940086364746, 'learning_rate': 8.459990221642764e-06, 'epoch': 1.54}
+{'loss': 0.8917, 'grad_norm': 104.00924682617188, 'learning_rate': 8.457953063885269e-06, 'epoch': 1.54}
+{'loss': 0.9633, 'grad_norm': 62.58810043334961, 'learning_rate': 8.45591590612777e-06, 'epoch': 1.54}
+{'loss': 1.0842, 'grad_norm': 49.21742630004883, 'learning_rate': 8.453878748370274e-06, 'epoch': 1.55}
+{'loss': 0.8609, 'grad_norm': 17.887340545654297, 'learning_rate': 8.451841590612779e-06, 'epoch': 1.55}
+{'loss': 1.038, 'grad_norm': 79.01605987548828, 'learning_rate': 8.44980443285528e-06, 'epoch': 1.55}
+{'loss': 1.0012, 'grad_norm': 85.79829406738281, 'learning_rate': 8.447767275097784e-06, 'epoch': 1.55}
+{'loss': 0.8717, 'grad_norm': 37.03583526611328, 'learning_rate': 8.445730117340287e-06, 'epoch': 1.55}
+{'loss': 0.9706, 'grad_norm': 37.97457504272461, 'learning_rate': 8.44369295958279e-06, 'epoch': 1.56}
+{'loss': 1.0322, 'grad_norm': 81.76338958740234, 'learning_rate': 8.441655801825294e-06, 'epoch': 1.56}
+{'loss': 0.9289, 'grad_norm': 34.43955993652344, 'learning_rate': 8.439618644067797e-06, 'epoch': 1.56}
+{'loss': 1.043, 'grad_norm': 47.30730438232422, 'learning_rate': 8.4375814863103e-06, 'epoch': 1.56}
+{'loss': 1.0937, 'grad_norm': 28.286849975585938, 'learning_rate': 8.435544328552804e-06, 'epoch': 1.56}
+{'loss': 0.9809, 'grad_norm': 43.249671936035156, 'learning_rate': 8.433507170795307e-06, 'epoch': 1.57}
+{'loss': 0.909, 'grad_norm': 35.870765686035156, 'learning_rate': 8.43147001303781e-06, 'epoch': 1.57}
+{'loss': 0.947, 'grad_norm': 60.00864791870117, 'learning_rate': 8.429432855280314e-06, 'epoch': 1.57}
+{'loss': 0.9248, 'grad_norm': 52.896881103515625, 'learning_rate': 8.427395697522816e-06, 'epoch': 1.57}
+{'loss': 1.0632, 'grad_norm': 48.892234802246094, 'learning_rate': 8.42535853976532e-06, 'epoch': 1.57}
+{'loss': 0.7984, 'grad_norm': 49.06710433959961, 'learning_rate': 8.423321382007823e-06, 'epoch': 1.58}
+{'loss': 0.9755, 'grad_norm': 47.44533157348633, 'learning_rate': 8.421284224250328e-06, 'epoch': 1.58}
+{'loss': 0.8549, 'grad_norm': 50.082740783691406, 'learning_rate': 8.41924706649283e-06, 'epoch': 1.58}
+{'loss': 1.0063, 'grad_norm': 64.77835083007812, 'learning_rate': 8.417209908735333e-06, 'epoch': 1.58}
+{'loss': 1.0243, 'grad_norm': 34.38458251953125, 'learning_rate': 8.415172750977838e-06, 'epoch': 1.58}
+{'loss': 1.0528, 'grad_norm': 55.00774002075195, 'learning_rate': 8.41313559322034e-06, 'epoch': 1.59}
+{'loss': 1.0085, 'grad_norm': 33.478267669677734, 'learning_rate': 8.411098435462843e-06, 'epoch': 1.59}
+{'loss': 0.8647, 'grad_norm': 17.71112060546875, 'learning_rate': 8.409061277705346e-06, 'epoch': 1.59}
+{'loss': 0.9992, 'grad_norm': 44.55934524536133, 'learning_rate': 8.40702411994785e-06, 'epoch': 1.59}
+{'loss': 1.0094, 'grad_norm': 44.136600494384766, 'learning_rate': 8.404986962190353e-06, 'epoch': 1.6}
+{'loss': 0.84, 'grad_norm': 18.21043586730957, 'learning_rate': 8.402949804432856e-06, 'epoch': 1.6}
+{'loss': 1.0114, 'grad_norm': 67.70671844482422, 'learning_rate': 8.40091264667536e-06, 'epoch': 1.6}
+{'loss': 0.762, 'grad_norm': 61.781028747558594, 'learning_rate': 8.398875488917863e-06, 'epoch': 1.6}
+{'loss': 0.8836, 'grad_norm': 36.198577880859375, 'learning_rate': 8.396838331160366e-06, 'epoch': 1.6}
+{'loss': 1.0696, 'grad_norm': 44.24419021606445, 'learning_rate': 8.39480117340287e-06, 'epoch': 1.61}
+{'loss': 0.9533, 'grad_norm': 83.62632751464844, 'learning_rate': 8.392764015645373e-06, 'epoch': 1.61}
+{'loss': 1.002, 'grad_norm': 23.391311645507812, 'learning_rate': 8.390726857887875e-06, 'epoch': 1.61}
+{'loss': 1.0533, 'grad_norm': 118.32787322998047, 'learning_rate': 8.38868970013038e-06, 'epoch': 1.61}
+{'loss': 0.9035, 'grad_norm': 41.559776306152344, 'learning_rate': 8.386652542372881e-06, 'epoch': 1.61}
+{'loss': 0.8725, 'grad_norm': 64.69509887695312, 'learning_rate': 8.384615384615385e-06, 'epoch': 1.62}
+{'loss': 0.8751, 'grad_norm': 46.43416213989258, 'learning_rate': 8.382578226857888e-06, 'epoch': 1.62}
+{'loss': 1.0373, 'grad_norm': 55.302242279052734, 'learning_rate': 8.380541069100391e-06, 'epoch': 1.62}
+{'loss': 0.8861, 'grad_norm': 6.683404445648193, 'learning_rate': 8.378503911342895e-06, 'epoch': 1.62}
+{'loss': 0.9881, 'grad_norm': 43.66256332397461, 'learning_rate': 8.376466753585398e-06, 'epoch': 1.62}
+{'loss': 0.9714, 'grad_norm': 78.58346557617188, 'learning_rate': 8.374429595827902e-06, 'epoch': 1.63}
+{'loss': 1.0491, 'grad_norm': 47.54433059692383, 'learning_rate': 8.372392438070405e-06, 'epoch': 1.63}
+{'loss': 0.8485, 'grad_norm': 69.16017150878906, 'learning_rate': 8.370355280312908e-06, 'epoch': 1.63}
+{'eval_loss': 2.889737606048584, 'eval_accuracy': 0.7321285140562249, 'eval_runtime': 1.5077, 'eval_samples_per_second': 1651.566, 'eval_steps_per_second': 51.736, 'epoch': 1.63}
+{'loss': 0.8481, 'grad_norm': 67.6126480102539, 'learning_rate': 8.368318122555412e-06, 'epoch': 1.63}
+{'loss': 0.9269, 'grad_norm': 24.988786697387695, 'learning_rate': 8.366280964797915e-06, 'epoch': 1.63}
+{'loss': 0.9953, 'grad_norm': 44.33601379394531, 'learning_rate': 8.364243807040417e-06, 'epoch': 1.64}
+{'loss': 0.7834, 'grad_norm': 36.93672561645508, 'learning_rate': 8.362206649282922e-06, 'epoch': 1.64}
+{'loss': 0.9314, 'grad_norm': 54.44314956665039, 'learning_rate': 8.360169491525423e-06, 'epoch': 1.64}
+{'loss': 0.8985, 'grad_norm': 62.82179641723633, 'learning_rate': 8.358132333767928e-06, 'epoch': 1.64}
+{'loss': 1.0263, 'grad_norm': 26.27849006652832, 'learning_rate': 8.356095176010432e-06, 'epoch': 1.64}
+{'loss': 0.8734, 'grad_norm': 74.55706024169922, 'learning_rate': 8.354058018252934e-06, 'epoch': 1.65}
+{'loss': 1.1879, 'grad_norm': 59.390769958496094, 'learning_rate': 8.352020860495439e-06, 'epoch': 1.65}
+{'loss': 1.1903, 'grad_norm': 64.31969451904297, 'learning_rate': 8.34998370273794e-06, 'epoch': 1.65}
+{'loss': 0.8788, 'grad_norm': 57.000587463378906, 'learning_rate': 8.347946544980444e-06, 'epoch': 1.65}
+{'loss': 0.8509, 'grad_norm': 69.57139587402344, 'learning_rate': 8.345909387222947e-06, 'epoch': 1.65}
+{'loss': 0.9279, 'grad_norm': 52.30406188964844, 'learning_rate': 8.34387222946545e-06, 'epoch': 1.66}
+{'loss': 0.9658, 'grad_norm': 56.3991584777832, 'learning_rate': 8.341835071707954e-06, 'epoch': 1.66}
+{'loss': 1.1271, 'grad_norm': 58.36888122558594, 'learning_rate': 8.339797913950457e-06, 'epoch': 1.66}
+{'loss': 1.0209, 'grad_norm': 42.14524459838867, 'learning_rate': 8.33776075619296e-06, 'epoch': 1.66}
+{'loss': 0.9902, 'grad_norm': 36.161800384521484, 'learning_rate': 8.335723598435464e-06, 'epoch': 1.66}
+{'loss': 0.86, 'grad_norm': 60.058837890625, 'learning_rate': 8.333686440677967e-06, 'epoch': 1.67}
+{'loss': 0.8406, 'grad_norm': 60.27145767211914, 'learning_rate': 8.33164928292047e-06, 'epoch': 1.67}
+{'loss': 0.8779, 'grad_norm': 66.18938446044922, 'learning_rate': 8.329612125162974e-06, 'epoch': 1.67}
+{'loss': 0.8124, 'grad_norm': 75.19196319580078, 'learning_rate': 8.327574967405476e-06, 'epoch': 1.67}
+{'loss': 0.7978, 'grad_norm': 79.11984252929688, 'learning_rate': 8.32553780964798e-06, 'epoch': 1.67}
+{'loss': 0.8995, 'grad_norm': 57.915985107421875, 'learning_rate': 8.323500651890482e-06, 'epoch': 1.68}
+{'loss': 1.1181, 'grad_norm': 97.64122009277344, 'learning_rate': 8.321463494132986e-06, 'epoch': 1.68}
+{'loss': 0.8254, 'grad_norm': 44.32679748535156, 'learning_rate': 8.31942633637549e-06, 'epoch': 1.68}
+{'loss': 1.0286, 'grad_norm': 93.16416931152344, 'learning_rate': 8.317389178617992e-06, 'epoch': 1.68}
+{'loss': 1.0153, 'grad_norm': 60.95335006713867, 'learning_rate': 8.315352020860496e-06, 'epoch': 1.68}
+{'loss': 0.9161, 'grad_norm': 54.073482513427734, 'learning_rate': 8.313314863102999e-06, 'epoch': 1.69}
+{'loss': 1.0167, 'grad_norm': 43.824317932128906, 'learning_rate': 8.311277705345502e-06, 'epoch': 1.69}
+{'loss': 0.954, 'grad_norm': 27.456451416015625, 'learning_rate': 8.309240547588006e-06, 'epoch': 1.69}
+{'loss': 0.9922, 'grad_norm': 42.99755096435547, 'learning_rate': 8.30720338983051e-06, 'epoch': 1.69}
+{'loss': 0.8724, 'grad_norm': 24.270092010498047, 'learning_rate': 8.305166232073013e-06, 'epoch': 1.69}
+{'loss': 0.8997, 'grad_norm': 71.85011291503906, 'learning_rate': 8.303129074315516e-06, 'epoch': 1.7}
+{'loss': 1.0682, 'grad_norm': 63.49343490600586, 'learning_rate': 8.301091916558018e-06, 'epoch': 1.7}
+{'loss': 0.9698, 'grad_norm': 34.73533630371094, 'learning_rate': 8.299054758800523e-06, 'epoch': 1.7}
+{'loss': 1.0975, 'grad_norm': 45.53000259399414, 'learning_rate': 8.297017601043026e-06, 'epoch': 1.7}
+{'loss': 0.9387, 'grad_norm': 42.08952713012695, 'learning_rate': 8.294980443285528e-06, 'epoch': 1.71}
+{'loss': 1.2072, 'grad_norm': 61.21959686279297, 'learning_rate': 8.292943285528033e-06, 'epoch': 1.71}
+{'loss': 0.9751, 'grad_norm': 37.91808319091797, 'learning_rate': 8.290906127770534e-06, 'epoch': 1.71}
+{'loss': 1.0079, 'grad_norm': 38.86415481567383, 'learning_rate': 8.28886897001304e-06, 'epoch': 1.71}
+{'loss': 0.9571, 'grad_norm': 65.30966186523438, 'learning_rate': 8.286831812255541e-06, 'epoch': 1.71}
+{'loss': 1.1631, 'grad_norm': 68.12301635742188, 'learning_rate': 8.284794654498045e-06, 'epoch': 1.72}
+{'loss': 0.9804, 'grad_norm': 41.05868148803711, 'learning_rate': 8.282757496740548e-06, 'epoch': 1.72}
+{'loss': 1.04, 'grad_norm': 53.65007019042969, 'learning_rate': 8.280720338983051e-06, 'epoch': 1.72}
+{'loss': 0.907, 'grad_norm': 56.58546829223633, 'learning_rate': 8.278683181225555e-06, 'epoch': 1.72}
+{'loss': 0.9235, 'grad_norm': 21.418169021606445, 'learning_rate': 8.276646023468058e-06, 'epoch': 1.72}
+{'loss': 0.8379, 'grad_norm': 54.51116180419922, 'learning_rate': 8.274608865710561e-06, 'epoch': 1.73}
+{'loss': 0.9299, 'grad_norm': 60.676700592041016, 'learning_rate': 8.272571707953065e-06, 'epoch': 1.73}
+{'loss': 0.9157, 'grad_norm': 57.27373504638672, 'learning_rate': 8.270534550195568e-06, 'epoch': 1.73}
+{'loss': 0.9329, 'grad_norm': 40.26136779785156, 'learning_rate': 8.268497392438071e-06, 'epoch': 1.73}
+{'loss': 0.8503, 'grad_norm': 72.34003448486328, 'learning_rate': 8.266460234680575e-06, 'epoch': 1.73}
+{'loss': 0.8764, 'grad_norm': 59.359439849853516, 'learning_rate': 8.264423076923076e-06, 'epoch': 1.74}
+{'loss': 1.1013, 'grad_norm': 75.84620666503906, 'learning_rate': 8.262385919165582e-06, 'epoch': 1.74}
+{'loss': 0.8438, 'grad_norm': 49.81319046020508, 'learning_rate': 8.260348761408085e-06, 'epoch': 1.74}
+{'loss': 1.0637, 'grad_norm': 77.8538818359375, 'learning_rate': 8.258311603650587e-06, 'epoch': 1.74}
+{'loss': 0.8643, 'grad_norm': 36.073238372802734, 'learning_rate': 8.256274445893092e-06, 'epoch': 1.74}
+{'loss': 0.9533, 'grad_norm': 30.05040168762207, 'learning_rate': 8.254237288135593e-06, 'epoch': 1.75}
+{'loss': 0.8637, 'grad_norm': 94.51399993896484, 'learning_rate': 8.252200130378097e-06, 'epoch': 1.75}
+{'loss': 1.0007, 'grad_norm': 38.094398498535156, 'learning_rate': 8.2501629726206e-06, 'epoch': 1.75}
+{'loss': 0.9137, 'grad_norm': 70.09113311767578, 'learning_rate': 8.248125814863103e-06, 'epoch': 1.75}
+{'loss': 0.9956, 'grad_norm': 42.460968017578125, 'learning_rate': 8.246088657105607e-06, 'epoch': 1.75}
+{'loss': 0.9826, 'grad_norm': 57.62031555175781, 'learning_rate': 8.24405149934811e-06, 'epoch': 1.76}
+{'loss': 0.8663, 'grad_norm': 49.742679595947266, 'learning_rate': 8.242014341590613e-06, 'epoch': 1.76}
+{'loss': 1.0433, 'grad_norm': 28.621667861938477, 'learning_rate': 8.239977183833117e-06, 'epoch': 1.76}
+{'loss': 1.0123, 'grad_norm': 52.70679473876953, 'learning_rate': 8.23794002607562e-06, 'epoch': 1.76}
+{'loss': 1.024, 'grad_norm': 82.71368408203125, 'learning_rate': 8.235902868318124e-06, 'epoch': 1.76}
+{'loss': 0.8059, 'grad_norm': 90.1330337524414, 'learning_rate': 8.233865710560627e-06, 'epoch': 1.77}
+{'loss': 1.0701, 'grad_norm': 54.96501159667969, 'learning_rate': 8.231828552803129e-06, 'epoch': 1.77}
+{'loss': 0.9984, 'grad_norm': 82.10086059570312, 'learning_rate': 8.229791395045634e-06, 'epoch': 1.77}
+{'loss': 1.0066, 'grad_norm': 52.613929748535156, 'learning_rate': 8.227754237288135e-06, 'epoch': 1.77}
+{'loss': 0.9945, 'grad_norm': 34.972103118896484, 'learning_rate': 8.22571707953064e-06, 'epoch': 1.77}
+{'loss': 1.0669, 'grad_norm': 66.09992980957031, 'learning_rate': 8.223679921773144e-06, 'epoch': 1.78}
+{'loss': 0.9679, 'grad_norm': 36.58906936645508, 'learning_rate': 8.221642764015645e-06, 'epoch': 1.78}
+{'loss': 0.8893, 'grad_norm': 56.438167572021484, 'learning_rate': 8.21960560625815e-06, 'epoch': 1.78}
+{'loss': 1.0345, 'grad_norm': 56.32571792602539, 'learning_rate': 8.217568448500652e-06, 'epoch': 1.78}
+{'loss': 0.8118, 'grad_norm': 32.9179573059082, 'learning_rate': 8.215531290743156e-06, 'epoch': 1.78}
+{'loss': 0.8068, 'grad_norm': 65.93649291992188, 'learning_rate': 8.213494132985659e-06, 'epoch': 1.79}
+{'loss': 1.0177, 'grad_norm': 62.600196838378906, 'learning_rate': 8.211456975228162e-06, 'epoch': 1.79}
+{'loss': 0.9968, 'grad_norm': 83.63365936279297, 'learning_rate': 8.209419817470666e-06, 'epoch': 1.79}
+{'loss': 0.9783, 'grad_norm': 81.78417205810547, 'learning_rate': 8.207382659713169e-06, 'epoch': 1.79}
+{'loss': 0.8767, 'grad_norm': 56.05991744995117, 'learning_rate': 8.205345501955672e-06, 'epoch': 1.79}
+{'loss': 1.111, 'grad_norm': 45.506797790527344, 'learning_rate': 8.203308344198176e-06, 'epoch': 1.8}
+{'loss': 1.051, 'grad_norm': 28.40123748779297, 'learning_rate': 8.201271186440679e-06, 'epoch': 1.8}
+{'loss': 0.8869, 'grad_norm': 42.950538635253906, 'learning_rate': 8.199234028683182e-06, 'epoch': 1.8}
+{'loss': 1.0476, 'grad_norm': 60.87958526611328, 'learning_rate': 8.197196870925686e-06, 'epoch': 1.8}
+{'loss': 0.9666, 'grad_norm': 59.01856994628906, 'learning_rate': 8.195159713168187e-06, 'epoch': 1.8}
+{'loss': 0.9832, 'grad_norm': 45.607269287109375, 'learning_rate': 8.193122555410693e-06, 'epoch': 1.81}
+{'loss': 0.9893, 'grad_norm': 50.76509094238281, 'learning_rate': 8.191085397653194e-06, 'epoch': 1.81}
+{'loss': 0.9031, 'grad_norm': 69.71949005126953, 'learning_rate': 8.189048239895698e-06, 'epoch': 1.81}
+{'loss': 0.93, 'grad_norm': 50.52423858642578, 'learning_rate': 8.187011082138201e-06, 'epoch': 1.81}
+{'loss': 0.9345, 'grad_norm': 46.829429626464844, 'learning_rate': 8.184973924380704e-06, 'epoch': 1.82}
+{'loss': 0.9909, 'grad_norm': 75.2137222290039, 'learning_rate': 8.182936766623208e-06, 'epoch': 1.82}
+{'loss': 0.8433, 'grad_norm': 62.357540130615234, 'learning_rate': 8.180899608865711e-06, 'epoch': 1.82}
+{'loss': 0.8405, 'grad_norm': 69.006103515625, 'learning_rate': 8.178862451108214e-06, 'epoch': 1.82}
+{'loss': 0.8987, 'grad_norm': 56.92003631591797, 'learning_rate': 8.176825293350718e-06, 'epoch': 1.82}
+{'loss': 0.8043, 'grad_norm': 60.497806549072266, 'learning_rate': 8.174788135593221e-06, 'epoch': 1.83}
+{'loss': 0.9215, 'grad_norm': 62.17235565185547, 'learning_rate': 8.172750977835724e-06, 'epoch': 1.83}
+{'loss': 0.9063, 'grad_norm': 70.17167663574219, 'learning_rate': 8.170713820078228e-06, 'epoch': 1.83}
+{'loss': 0.9312, 'grad_norm': 71.03531646728516, 'learning_rate': 8.16867666232073e-06, 'epoch': 1.83}
+{'loss': 0.8448, 'grad_norm': 58.14154052734375, 'learning_rate': 8.166639504563235e-06, 'epoch': 1.83}
+{'loss': 0.9449, 'grad_norm': 37.07578659057617, 'learning_rate': 8.164602346805738e-06, 'epoch': 1.84}
+{'loss': 0.9704, 'grad_norm': 54.85329055786133, 'learning_rate': 8.162565189048241e-06, 'epoch': 1.84}
+{'loss': 0.8358, 'grad_norm': 60.409324645996094, 'learning_rate': 8.160528031290745e-06, 'epoch': 1.84}
+{'loss': 1.1003, 'grad_norm': 95.64727783203125, 'learning_rate': 8.158490873533246e-06, 'epoch': 1.84}
+{'loss': 0.9229, 'grad_norm': 46.94963836669922, 'learning_rate': 8.156453715775751e-06, 'epoch': 1.84}
+{'loss': 1.0106, 'grad_norm': 57.64145278930664, 'learning_rate': 8.154416558018253e-06, 'epoch': 1.85}
+{'loss': 0.891, 'grad_norm': 34.147525787353516, 'learning_rate': 8.152379400260756e-06, 'epoch': 1.85}
+{'loss': 0.8264, 'grad_norm': 65.34078216552734, 'learning_rate': 8.15034224250326e-06, 'epoch': 1.85}
+{'loss': 1.0294, 'grad_norm': 82.02590942382812, 'learning_rate': 8.148305084745763e-06, 'epoch': 1.85}
+{'loss': 0.9435, 'grad_norm': 52.14146041870117, 'learning_rate': 8.146267926988267e-06, 'epoch': 1.85}
+{'loss': 0.9052, 'grad_norm': 42.3315315246582, 'learning_rate': 8.14423076923077e-06, 'epoch': 1.86}
+{'loss': 0.9366, 'grad_norm': 55.82338333129883, 'learning_rate': 8.142193611473273e-06, 'epoch': 1.86}
+{'loss': 1.0758, 'grad_norm': 32.946231842041016, 'learning_rate': 8.140156453715777e-06, 'epoch': 1.86}
+{'loss': 1.1603, 'grad_norm': 67.80435180664062, 'learning_rate': 8.13811929595828e-06, 'epoch': 1.86}
+{'loss': 0.9352, 'grad_norm': 38.131282806396484, 'learning_rate': 8.136082138200783e-06, 'epoch': 1.86}
+{'loss': 0.8301, 'grad_norm': 41.5638542175293, 'learning_rate': 8.134044980443287e-06, 'epoch': 1.87}
+{'loss': 1.2741, 'grad_norm': 33.43330764770508, 'learning_rate': 8.132007822685788e-06, 'epoch': 1.87}
+{'loss': 1.056, 'grad_norm': 36.711219787597656, 'learning_rate': 8.129970664928293e-06, 'epoch': 1.87}
+{'loss': 1.0101, 'grad_norm': 75.03245544433594, 'learning_rate': 8.127933507170795e-06, 'epoch': 1.87}
+{'loss': 0.8997, 'grad_norm': 64.16156005859375, 'learning_rate': 8.125896349413298e-06, 'epoch': 1.87}
+{'loss': 0.9964, 'grad_norm': 66.24752807617188, 'learning_rate': 8.123859191655804e-06, 'epoch': 1.88}
+{'loss': 0.9678, 'grad_norm': 44.697288513183594, 'learning_rate': 8.121822033898305e-06, 'epoch': 1.88}
+{'loss': 1.0463, 'grad_norm': 46.79328155517578, 'learning_rate': 8.119784876140809e-06, 'epoch': 1.88}
+{'loss': 0.9937, 'grad_norm': 32.78944396972656, 'learning_rate': 8.117747718383312e-06, 'epoch': 1.88}
+{'loss': 0.9608, 'grad_norm': 31.49846839904785, 'learning_rate': 8.115710560625815e-06, 'epoch': 1.88}
+{'loss': 0.864, 'grad_norm': 46.74400329589844, 'learning_rate': 8.113673402868319e-06, 'epoch': 1.89}
+{'loss': 0.9097, 'grad_norm': 58.46763229370117, 'learning_rate': 8.111636245110822e-06, 'epoch': 1.89}
+{'loss': 1.0227, 'grad_norm': 39.64543914794922, 'learning_rate': 8.109599087353325e-06, 'epoch': 1.89}
+{'loss': 0.8297, 'grad_norm': 33.6195182800293, 'learning_rate': 8.107561929595829e-06, 'epoch': 1.89}
+{'loss': 0.7696, 'grad_norm': 70.75425720214844, 'learning_rate': 8.105524771838332e-06, 'epoch': 1.89}
+{'loss': 1.2099, 'grad_norm': 77.4023208618164, 'learning_rate': 8.103487614080835e-06, 'epoch': 1.9}
+{'loss': 1.0544, 'grad_norm': 66.7503433227539, 'learning_rate': 8.101450456323339e-06, 'epoch': 1.9}
+{'loss': 1.0983, 'grad_norm': 58.533790588378906, 'learning_rate': 8.09941329856584e-06, 'epoch': 1.9}
+{'loss': 0.9356, 'grad_norm': 42.63325119018555, 'learning_rate': 8.097376140808346e-06, 'epoch': 1.9}
+{'loss': 1.0089, 'grad_norm': 53.02394485473633, 'learning_rate': 8.095338983050847e-06, 'epoch': 1.9}
+{'loss': 0.9255, 'grad_norm': 65.6663589477539, 'learning_rate': 8.093301825293352e-06, 'epoch': 1.91}
+{'loss': 1.0381, 'grad_norm': 57.972984313964844, 'learning_rate': 8.091264667535854e-06, 'epoch': 1.91}
+{'loss': 0.9935, 'grad_norm': 69.41675567626953, 'learning_rate': 8.089227509778357e-06, 'epoch': 1.91}
+{'loss': 0.8633, 'grad_norm': 47.40787887573242, 'learning_rate': 8.087190352020862e-06, 'epoch': 1.91}
+{'loss': 0.8914, 'grad_norm': 49.63265609741211, 'learning_rate': 8.085153194263364e-06, 'epoch': 1.91}
+{'loss': 0.9909, 'grad_norm': 50.317874908447266, 'learning_rate': 8.083116036505867e-06, 'epoch': 1.92}
+{'loss': 0.9883, 'grad_norm': 42.08011245727539, 'learning_rate': 8.08107887874837e-06, 'epoch': 1.92}
+{'loss': 0.9434, 'grad_norm': 42.85115432739258, 'learning_rate': 8.079041720990874e-06, 'epoch': 1.92}
+{'loss': 0.986, 'grad_norm': 71.17662811279297, 'learning_rate': 8.077004563233378e-06, 'epoch': 1.92}
+{'loss': 0.969, 'grad_norm': 41.3362922668457, 'learning_rate': 8.074967405475881e-06, 'epoch': 1.93}
+{'loss': 0.9176, 'grad_norm': 52.941246032714844, 'learning_rate': 8.072930247718384e-06, 'epoch': 1.93}
+{'loss': 0.9006, 'grad_norm': 33.24519729614258, 'learning_rate': 8.070893089960888e-06, 'epoch': 1.93}
+{'loss': 0.8564, 'grad_norm': 43.96560287475586, 'learning_rate': 8.068855932203391e-06, 'epoch': 1.93}
+{'loss': 1.0283, 'grad_norm': 74.81391143798828, 'learning_rate': 8.066818774445894e-06, 'epoch': 1.93}
+{'loss': 0.8673, 'grad_norm': 51.209434509277344, 'learning_rate': 8.064781616688398e-06, 'epoch': 1.94}
+{'loss': 0.8945, 'grad_norm': 64.11691284179688, 'learning_rate': 8.0627444589309e-06, 'epoch': 1.94}
+{'loss': 1.144, 'grad_norm': 58.97718048095703, 'learning_rate': 8.060707301173404e-06, 'epoch': 1.94}
+{'loss': 0.9353, 'grad_norm': 50.54581832885742, 'learning_rate': 8.058670143415906e-06, 'epoch': 1.94}
+{'loss': 0.981, 'grad_norm': 56.92066192626953, 'learning_rate': 8.05663298565841e-06, 'epoch': 1.94}
+{'loss': 1.0307, 'grad_norm': 72.33809661865234, 'learning_rate': 8.054595827900913e-06, 'epoch': 1.95}
+{'loss': 1.0282, 'grad_norm': 84.94204711914062, 'learning_rate': 8.052558670143416e-06, 'epoch': 1.95}
+{'loss': 1.0864, 'grad_norm': 90.45401000976562, 'learning_rate': 8.05052151238592e-06, 'epoch': 1.95}
+{'loss': 0.9121, 'grad_norm': 66.97773742675781, 'learning_rate': 8.048484354628423e-06, 'epoch': 1.95}
+{'loss': 0.9793, 'grad_norm': 20.39703941345215, 'learning_rate': 8.046447196870926e-06, 'epoch': 1.95}
+{'loss': 0.9644, 'grad_norm': 34.21674346923828, 'learning_rate': 8.04441003911343e-06, 'epoch': 1.96}
+{'loss': 0.9114, 'grad_norm': 27.563098907470703, 'learning_rate': 8.042372881355933e-06, 'epoch': 1.96}
+{'loss': 1.1855, 'grad_norm': 67.85005950927734, 'learning_rate': 8.040335723598436e-06, 'epoch': 1.96}
+{'loss': 0.8562, 'grad_norm': 58.892215728759766, 'learning_rate': 8.03829856584094e-06, 'epoch': 1.96}
+{'loss': 0.8374, 'grad_norm': 38.09415817260742, 'learning_rate': 8.036261408083441e-06, 'epoch': 1.96}
+{'loss': 0.7161, 'grad_norm': 92.43656158447266, 'learning_rate': 8.034224250325947e-06, 'epoch': 1.97}
+{'loss': 0.9055, 'grad_norm': 56.27287673950195, 'learning_rate': 8.032187092568448e-06, 'epoch': 1.97}
+{'loss': 1.0335, 'grad_norm': 46.805442810058594, 'learning_rate': 8.030149934810953e-06, 'epoch': 1.97}
+{'loss': 1.0166, 'grad_norm': 58.30678939819336, 'learning_rate': 8.028112777053457e-06, 'epoch': 1.97}
+{'loss': 0.8587, 'grad_norm': 84.97171020507812, 'learning_rate': 8.026075619295958e-06, 'epoch': 1.97}
+{'loss': 0.7912, 'grad_norm': 43.09046936035156, 'learning_rate': 8.024038461538463e-06, 'epoch': 1.98}
+{'loss': 0.8208, 'grad_norm': 52.08723449707031, 'learning_rate': 8.022001303780965e-06, 'epoch': 1.98}
+{'loss': 0.9901, 'grad_norm': 76.64237976074219, 'learning_rate': 8.019964146023468e-06, 'epoch': 1.98}
+{'loss': 0.9053, 'grad_norm': 44.72218704223633, 'learning_rate': 8.017926988265972e-06, 'epoch': 1.98}
+{'loss': 0.9274, 'grad_norm': 33.596336364746094, 'learning_rate': 8.015889830508475e-06, 'epoch': 1.98}
+{'loss': 0.9853, 'grad_norm': 67.05374908447266, 'learning_rate': 8.013852672750978e-06, 'epoch': 1.99}
+{'loss': 0.792, 'grad_norm': 72.56633758544922, 'learning_rate': 8.011815514993482e-06, 'epoch': 1.99}
+{'loss': 0.8911, 'grad_norm': 78.40708923339844, 'learning_rate': 8.009778357235985e-06, 'epoch': 1.99}
+{'loss': 0.9428, 'grad_norm': 58.247379302978516, 'learning_rate': 8.007741199478489e-06, 'epoch': 1.99}
+{'loss': 0.9684, 'grad_norm': 41.86296463012695, 'learning_rate': 8.005704041720992e-06, 'epoch': 1.99}
+{'loss': 0.8822, 'grad_norm': 42.7252082824707, 'learning_rate': 8.003666883963495e-06, 'epoch': 2.0}
+{'loss': 0.9173, 'grad_norm': 95.12662506103516, 'learning_rate': 8.001629726205999e-06, 'epoch': 2.0}
+{'loss': 0.7839, 'grad_norm': 21.588632583618164, 'learning_rate': 7.9995925684485e-06, 'epoch': 2.0}
+{'loss': 0.6303, 'grad_norm': 72.89389038085938, 'learning_rate': 7.997555410691005e-06, 'epoch': 2.0}
+{'loss': 0.4836, 'grad_norm': 5.056571960449219, 'learning_rate': 7.995518252933507e-06, 'epoch': 2.0}
+{'loss': 0.4698, 'grad_norm': 40.82988357543945, 'learning_rate': 7.99348109517601e-06, 'epoch': 2.01}
+{'loss': 0.5263, 'grad_norm': 47.03736114501953, 'learning_rate': 7.991443937418515e-06, 'epoch': 2.01}
+{'loss': 0.5924, 'grad_norm': 57.5179557800293, 'learning_rate': 7.989406779661017e-06, 'epoch': 2.01}
+{'loss': 0.3696, 'grad_norm': 64.41535186767578, 'learning_rate': 7.98736962190352e-06, 'epoch': 2.01}
+{'loss': 0.4926, 'grad_norm': 79.70555877685547, 'learning_rate': 7.985332464146024e-06, 'epoch': 2.01}
+{'loss': 0.4262, 'grad_norm': 42.35231018066406, 'learning_rate': 7.983295306388527e-06, 'epoch': 2.02}
+{'loss': 0.5228, 'grad_norm': 80.03646850585938, 'learning_rate': 7.98125814863103e-06, 'epoch': 2.02}
+{'loss': 0.5438, 'grad_norm': 72.9751968383789, 'learning_rate': 7.979220990873534e-06, 'epoch': 2.02}
+{'loss': 0.6462, 'grad_norm': 63.03309631347656, 'learning_rate': 7.977183833116037e-06, 'epoch': 2.02}
+{'loss': 0.4146, 'grad_norm': 32.217350006103516, 'learning_rate': 7.97514667535854e-06, 'epoch': 2.02}
+{'loss': 0.3445, 'grad_norm': 24.018465042114258, 'learning_rate': 7.973109517601042e-06, 'epoch': 2.03}
+{'loss': 0.494, 'grad_norm': 14.415209770202637, 'learning_rate': 7.971072359843547e-06, 'epoch': 2.03}
+{'loss': 0.497, 'grad_norm': 84.53285217285156, 'learning_rate': 7.96903520208605e-06, 'epoch': 2.03}
+{'loss': 0.4617, 'grad_norm': 91.36796569824219, 'learning_rate': 7.966998044328552e-06, 'epoch': 2.03}
+{'loss': 0.3968, 'grad_norm': 69.65164947509766, 'learning_rate': 7.964960886571058e-06, 'epoch': 2.04}
+{'loss': 0.4357, 'grad_norm': 8.19200325012207, 'learning_rate': 7.96292372881356e-06, 'epoch': 2.04}
+{'eval_loss': 3.8607540130615234, 'eval_accuracy': 0.7180722891566265, 'eval_runtime': 1.3503, 'eval_samples_per_second': 1844.035, 'eval_steps_per_second': 57.765, 'epoch': 2.04}
+{'loss': 0.6494, 'grad_norm': 51.284976959228516, 'learning_rate': 7.960886571056064e-06, 'epoch': 2.04}
+{'loss': 0.299, 'grad_norm': 46.25072479248047, 'learning_rate': 7.958849413298566e-06, 'epoch': 2.04}
+{'loss': 0.6029, 'grad_norm': 76.4046401977539, 'learning_rate': 7.95681225554107e-06, 'epoch': 2.04}
+{'loss': 0.6475, 'grad_norm': 78.58169555664062, 'learning_rate': 7.954775097783573e-06, 'epoch': 2.05}
+{'loss': 0.394, 'grad_norm': 22.00532341003418, 'learning_rate': 7.952737940026076e-06, 'epoch': 2.05}
+{'loss': 0.3692, 'grad_norm': 7.710964679718018, 'learning_rate': 7.95070078226858e-06, 'epoch': 2.05}
+{'loss': 0.6037, 'grad_norm': 97.71090698242188, 'learning_rate': 7.948663624511083e-06, 'epoch': 2.05}
+{'loss': 0.4513, 'grad_norm': 21.88985252380371, 'learning_rate': 7.946626466753586e-06, 'epoch': 2.05}
+{'loss': 0.3815, 'grad_norm': 109.27694702148438, 'learning_rate': 7.94458930899609e-06, 'epoch': 2.06}
+{'loss': 0.6094, 'grad_norm': 42.792415618896484, 'learning_rate': 7.942552151238593e-06, 'epoch': 2.06}
+{'loss': 0.4028, 'grad_norm': 22.091421127319336, 'learning_rate': 7.940514993481096e-06, 'epoch': 2.06}
+{'loss': 0.5016, 'grad_norm': 32.60065460205078, 'learning_rate': 7.9384778357236e-06, 'epoch': 2.06}
+{'loss': 0.5685, 'grad_norm': 3.1998813152313232, 'learning_rate': 7.936440677966101e-06, 'epoch': 2.06}
+{'loss': 0.3443, 'grad_norm': 88.7182388305664, 'learning_rate': 7.934403520208606e-06, 'epoch': 2.07}
+{'loss': 0.4812, 'grad_norm': 17.066171646118164, 'learning_rate': 7.93236636245111e-06, 'epoch': 2.07}
+{'loss': 0.4534, 'grad_norm': 72.45133209228516, 'learning_rate': 7.930329204693611e-06, 'epoch': 2.07}
+{'loss': 0.4478, 'grad_norm': 90.3064956665039, 'learning_rate': 7.928292046936116e-06, 'epoch': 2.07}
+{'loss': 0.4839, 'grad_norm': 65.00047302246094, 'learning_rate': 7.926254889178618e-06, 'epoch': 2.07}
+{'loss': 0.5015, 'grad_norm': 65.3265609741211, 'learning_rate': 7.924217731421121e-06, 'epoch': 2.08}
+{'loss': 0.5665, 'grad_norm': 55.855533599853516, 'learning_rate': 7.922180573663625e-06, 'epoch': 2.08}
+{'loss': 0.5704, 'grad_norm': 99.55352783203125, 'learning_rate': 7.920143415906128e-06, 'epoch': 2.08}
+{'loss': 0.4682, 'grad_norm': 7.859286308288574, 'learning_rate': 7.918106258148632e-06, 'epoch': 2.08}
+{'loss': 0.4419, 'grad_norm': 91.17527770996094, 'learning_rate': 7.916069100391135e-06, 'epoch': 2.08}
+{'loss': 0.5844, 'grad_norm': 49.427215576171875, 'learning_rate': 7.914031942633638e-06, 'epoch': 2.09}
+{'loss': 0.506, 'grad_norm': 74.97692108154297, 'learning_rate': 7.911994784876142e-06, 'epoch': 2.09}
+{'loss': 0.5954, 'grad_norm': 50.01451873779297, 'learning_rate': 7.909957627118645e-06, 'epoch': 2.09}
+{'loss': 0.4346, 'grad_norm': 59.53025436401367, 'learning_rate': 7.907920469361148e-06, 'epoch': 2.09}
+{'loss': 0.4624, 'grad_norm': 11.458518028259277, 'learning_rate': 7.905883311603652e-06, 'epoch': 2.09}
+{'loss': 0.4757, 'grad_norm': 13.973340034484863, 'learning_rate': 7.903846153846153e-06, 'epoch': 2.1}
+{'loss': 0.412, 'grad_norm': 64.41717529296875, 'learning_rate': 7.901808996088658e-06, 'epoch': 2.1}
+{'loss': 0.4229, 'grad_norm': 67.92015838623047, 'learning_rate': 7.89977183833116e-06, 'epoch': 2.1}
+{'loss': 0.601, 'grad_norm': 221.0748748779297, 'learning_rate': 7.897734680573665e-06, 'epoch': 2.1}
+{'loss': 0.6792, 'grad_norm': 19.253376007080078, 'learning_rate': 7.895697522816169e-06, 'epoch': 2.1}
+{'loss': 0.4987, 'grad_norm': 58.53353500366211, 'learning_rate': 7.89366036505867e-06, 'epoch': 2.11}
+{'loss': 0.4187, 'grad_norm': 40.14710998535156, 'learning_rate': 7.891623207301175e-06, 'epoch': 2.11}
+{'loss': 0.4399, 'grad_norm': 34.59031295776367, 'learning_rate': 7.889586049543677e-06, 'epoch': 2.11}
+{'loss': 0.5341, 'grad_norm': 119.8282241821289, 'learning_rate': 7.88754889178618e-06, 'epoch': 2.11}
+{'loss': 0.4915, 'grad_norm': 56.0022087097168, 'learning_rate': 7.885511734028684e-06, 'epoch': 2.11}
+{'loss': 0.4882, 'grad_norm': 172.18133544921875, 'learning_rate': 7.883474576271187e-06, 'epoch': 2.12}
+{'loss': 0.4834, 'grad_norm': 90.87639617919922, 'learning_rate': 7.88143741851369e-06, 'epoch': 2.12}
+{'loss': 0.6304, 'grad_norm': 56.78044509887695, 'learning_rate': 7.879400260756194e-06, 'epoch': 2.12}
+{'loss': 0.5295, 'grad_norm': 73.75727081298828, 'learning_rate': 7.877363102998697e-06, 'epoch': 2.12}
+{'loss': 0.4952, 'grad_norm': 116.5190658569336, 'learning_rate': 7.8753259452412e-06, 'epoch': 2.12}
+{'loss': 0.434, 'grad_norm': 82.78978729248047, 'learning_rate': 7.873288787483704e-06, 'epoch': 2.13}
+{'loss': 0.4443, 'grad_norm': 41.08188247680664, 'learning_rate': 7.871251629726207e-06, 'epoch': 2.13}
+{'loss': 0.4839, 'grad_norm': 75.5016860961914, 'learning_rate': 7.86921447196871e-06, 'epoch': 2.13}
+{'loss': 0.634, 'grad_norm': 57.6241455078125, 'learning_rate': 7.867177314211212e-06, 'epoch': 2.13}
+{'loss': 0.4688, 'grad_norm': 47.97294998168945, 'learning_rate': 7.865140156453717e-06, 'epoch': 2.13}
+{'loss': 0.5395, 'grad_norm': 93.82192993164062, 'learning_rate': 7.863102998696219e-06, 'epoch': 2.14}
+{'loss': 0.4651, 'grad_norm': 33.313114166259766, 'learning_rate': 7.861065840938722e-06, 'epoch': 2.14}
+{'loss': 0.4903, 'grad_norm': 3.903627395629883, 'learning_rate': 7.859028683181226e-06, 'epoch': 2.14}
+{'loss': 0.5374, 'grad_norm': 120.0354995727539, 'learning_rate': 7.856991525423729e-06, 'epoch': 2.14}
+{'loss': 0.3972, 'grad_norm': 77.9106674194336, 'learning_rate': 7.854954367666232e-06, 'epoch': 2.15}
+{'loss': 0.4547, 'grad_norm': 67.29061126708984, 'learning_rate': 7.852917209908736e-06, 'epoch': 2.15}
+{'loss': 0.4412, 'grad_norm': 190.9951629638672, 'learning_rate': 7.850880052151239e-06, 'epoch': 2.15}
+{'loss': 0.4751, 'grad_norm': 7.0938310623168945, 'learning_rate': 7.848842894393743e-06, 'epoch': 2.15}
+{'loss': 0.5322, 'grad_norm': 12.246075630187988, 'learning_rate': 7.846805736636246e-06, 'epoch': 2.15}
+{'loss': 0.6692, 'grad_norm': 92.77754211425781, 'learning_rate': 7.84476857887875e-06, 'epoch': 2.16}
+{'loss': 0.5141, 'grad_norm': 150.8377227783203, 'learning_rate': 7.842731421121253e-06, 'epoch': 2.16}
+{'loss': 0.3447, 'grad_norm': 31.21112823486328, 'learning_rate': 7.840694263363754e-06, 'epoch': 2.16}
+{'loss': 0.4617, 'grad_norm': 82.832763671875, 'learning_rate': 7.83865710560626e-06, 'epoch': 2.16}
+{'loss': 0.5551, 'grad_norm': 13.50673770904541, 'learning_rate': 7.836619947848763e-06, 'epoch': 2.16}
+{'loss': 0.4886, 'grad_norm': 140.9555206298828, 'learning_rate': 7.834582790091264e-06, 'epoch': 2.17}
+{'loss': 0.5536, 'grad_norm': 35.52012634277344, 'learning_rate': 7.83254563233377e-06, 'epoch': 2.17}
+{'loss': 0.4169, 'grad_norm': 70.98674774169922, 'learning_rate': 7.830508474576271e-06, 'epoch': 2.17}
+{'loss': 0.49, 'grad_norm': 95.1614990234375, 'learning_rate': 7.828471316818776e-06, 'epoch': 2.17}
+{'loss': 0.3309, 'grad_norm': 40.8714714050293, 'learning_rate': 7.826434159061278e-06, 'epoch': 2.17}
+{'loss': 0.5126, 'grad_norm': 19.369482040405273, 'learning_rate': 7.824397001303781e-06, 'epoch': 2.18}
+{'loss': 0.4721, 'grad_norm': 128.61163330078125, 'learning_rate': 7.822359843546285e-06, 'epoch': 2.18}
+{'loss': 0.3858, 'grad_norm': 14.418648719787598, 'learning_rate': 7.820322685788788e-06, 'epoch': 2.18}
+{'loss': 0.4306, 'grad_norm': 15.98271656036377, 'learning_rate': 7.818285528031291e-06, 'epoch': 2.18}
+{'loss': 0.4231, 'grad_norm': 44.38788986206055, 'learning_rate': 7.816248370273795e-06, 'epoch': 2.18}
+{'loss': 0.5383, 'grad_norm': 7.015836715698242, 'learning_rate': 7.814211212516298e-06, 'epoch': 2.19}
+{'loss': 0.5493, 'grad_norm': 14.348965644836426, 'learning_rate': 7.812174054758801e-06, 'epoch': 2.19}
+{'loss': 0.5123, 'grad_norm': 84.75390625, 'learning_rate': 7.810136897001305e-06, 'epoch': 2.19}
+{'loss': 0.6035, 'grad_norm': 179.28253173828125, 'learning_rate': 7.808099739243808e-06, 'epoch': 2.19}
+{'loss': 0.5459, 'grad_norm': 9.649897575378418, 'learning_rate': 7.806062581486311e-06, 'epoch': 2.19}
+{'loss': 0.5991, 'grad_norm': 75.28153991699219, 'learning_rate': 7.804025423728813e-06, 'epoch': 2.2}
+{'loss': 0.307, 'grad_norm': 14.81609058380127, 'learning_rate': 7.801988265971318e-06, 'epoch': 2.2}
+{'loss': 0.5364, 'grad_norm': 151.29415893554688, 'learning_rate': 7.79995110821382e-06, 'epoch': 2.2}
+{'loss': 0.4315, 'grad_norm': 116.11363220214844, 'learning_rate': 7.797913950456323e-06, 'epoch': 2.2}
+{'loss': 0.4871, 'grad_norm': 94.4709701538086, 'learning_rate': 7.795876792698828e-06, 'epoch': 2.2}
+{'loss': 0.4253, 'grad_norm': 89.90442657470703, 'learning_rate': 7.79383963494133e-06, 'epoch': 2.21}
+{'loss': 0.5176, 'grad_norm': 39.58504104614258, 'learning_rate': 7.791802477183833e-06, 'epoch': 2.21}
+{'loss': 0.4739, 'grad_norm': 103.41613006591797, 'learning_rate': 7.789765319426337e-06, 'epoch': 2.21}
+{'loss': 0.4207, 'grad_norm': 75.74580383300781, 'learning_rate': 7.78772816166884e-06, 'epoch': 2.21}
+{'loss': 0.4613, 'grad_norm': 13.233906745910645, 'learning_rate': 7.785691003911343e-06, 'epoch': 2.21}
+{'loss': 0.5391, 'grad_norm': 27.243221282958984, 'learning_rate': 7.783653846153847e-06, 'epoch': 2.22}
+{'loss': 0.4615, 'grad_norm': 118.58110046386719, 'learning_rate': 7.78161668839635e-06, 'epoch': 2.22}
+{'loss': 0.5238, 'grad_norm': 80.38246154785156, 'learning_rate': 7.779579530638854e-06, 'epoch': 2.22}
+{'loss': 0.4811, 'grad_norm': 51.49594497680664, 'learning_rate': 7.777542372881357e-06, 'epoch': 2.22}
+{'loss': 0.4463, 'grad_norm': 65.16827392578125, 'learning_rate': 7.77550521512386e-06, 'epoch': 2.22}
+{'loss': 0.6312, 'grad_norm': 151.94717407226562, 'learning_rate': 7.773468057366364e-06, 'epoch': 2.23}
+{'loss': 0.5305, 'grad_norm': 48.156700134277344, 'learning_rate': 7.771430899608865e-06, 'epoch': 2.23}
+{'loss': 0.5215, 'grad_norm': 44.913856506347656, 'learning_rate': 7.76939374185137e-06, 'epoch': 2.23}
+{'loss': 0.4557, 'grad_norm': 57.64165496826172, 'learning_rate': 7.767356584093872e-06, 'epoch': 2.23}
+{'loss': 0.5455, 'grad_norm': 142.56216430664062, 'learning_rate': 7.765319426336377e-06, 'epoch': 2.23}
+{'loss': 0.4484, 'grad_norm': 9.406827926635742, 'learning_rate': 7.763282268578879e-06, 'epoch': 2.24}
+{'loss': 0.4702, 'grad_norm': 62.74483108520508, 'learning_rate': 7.761245110821382e-06, 'epoch': 2.24}
+{'loss': 0.4225, 'grad_norm': 10.40807819366455, 'learning_rate': 7.759207953063887e-06, 'epoch': 2.24}
+{'loss': 0.4753, 'grad_norm': 164.9165496826172, 'learning_rate': 7.757170795306389e-06, 'epoch': 2.24}
+{'loss': 0.6409, 'grad_norm': 9.0697603225708, 'learning_rate': 7.755133637548892e-06, 'epoch': 2.24}
+{'loss': 0.6918, 'grad_norm': 35.02954864501953, 'learning_rate': 7.753096479791396e-06, 'epoch': 2.25}
+{'loss': 0.4452, 'grad_norm': 70.82806396484375, 'learning_rate': 7.751059322033899e-06, 'epoch': 2.25}
+{'loss': 0.3684, 'grad_norm': 5.812201499938965, 'learning_rate': 7.749022164276402e-06, 'epoch': 2.25}
+{'loss': 0.4565, 'grad_norm': 78.13695526123047, 'learning_rate': 7.746985006518906e-06, 'epoch': 2.25}
+{'loss': 0.5182, 'grad_norm': 149.37196350097656, 'learning_rate': 7.744947848761409e-06, 'epoch': 2.26}
+{'loss': 0.4738, 'grad_norm': 43.5820198059082, 'learning_rate': 7.742910691003912e-06, 'epoch': 2.26}
+{'loss': 0.3954, 'grad_norm': 76.66064453125, 'learning_rate': 7.740873533246416e-06, 'epoch': 2.26}
+{'loss': 0.3226, 'grad_norm': 73.65930938720703, 'learning_rate': 7.738836375488919e-06, 'epoch': 2.26}
+{'loss': 0.5499, 'grad_norm': 52.44485855102539, 'learning_rate': 7.736799217731422e-06, 'epoch': 2.26}
+{'loss': 0.576, 'grad_norm': 88.98931884765625, 'learning_rate': 7.734762059973924e-06, 'epoch': 2.27}
+{'loss': 0.3955, 'grad_norm': 72.85956573486328, 'learning_rate': 7.73272490221643e-06, 'epoch': 2.27}
+{'loss': 0.4254, 'grad_norm': 16.148523330688477, 'learning_rate': 7.730687744458931e-06, 'epoch': 2.27}
+{'loss': 0.5309, 'grad_norm': 136.8939666748047, 'learning_rate': 7.728650586701434e-06, 'epoch': 2.27}
+{'loss': 0.5196, 'grad_norm': 211.05819702148438, 'learning_rate': 7.726613428943938e-06, 'epoch': 2.27}
+{'loss': 0.571, 'grad_norm': 138.6913604736328, 'learning_rate': 7.724576271186441e-06, 'epoch': 2.28}
+{'loss': 0.7514, 'grad_norm': 30.13719940185547, 'learning_rate': 7.722539113428944e-06, 'epoch': 2.28}
+{'loss': 0.448, 'grad_norm': 99.28069305419922, 'learning_rate': 7.720501955671448e-06, 'epoch': 2.28}
+{'loss': 0.4129, 'grad_norm': 153.4585723876953, 'learning_rate': 7.718464797913951e-06, 'epoch': 2.28}
+{'loss': 0.4432, 'grad_norm': 4.35797119140625, 'learning_rate': 7.716427640156454e-06, 'epoch': 2.28}
+{'loss': 0.4339, 'grad_norm': 163.63868713378906, 'learning_rate': 7.714390482398958e-06, 'epoch': 2.29}
+{'loss': 0.5178, 'grad_norm': 45.08300018310547, 'learning_rate': 7.712353324641461e-06, 'epoch': 2.29}
+{'loss': 0.3672, 'grad_norm': 81.08818054199219, 'learning_rate': 7.710316166883965e-06, 'epoch': 2.29}
+{'loss': 0.4905, 'grad_norm': 45.30759811401367, 'learning_rate': 7.708279009126466e-06, 'epoch': 2.29}
+{'loss': 0.374, 'grad_norm': 37.93458938598633, 'learning_rate': 7.706241851368971e-06, 'epoch': 2.29}
+{'loss': 0.5071, 'grad_norm': 142.91098022460938, 'learning_rate': 7.704204693611473e-06, 'epoch': 2.3}
+{'loss': 0.6461, 'grad_norm': 86.20419311523438, 'learning_rate': 7.702167535853978e-06, 'epoch': 2.3}
+{'loss': 0.3949, 'grad_norm': 111.87053680419922, 'learning_rate': 7.700130378096481e-06, 'epoch': 2.3}
+{'loss': 0.4101, 'grad_norm': 105.67889404296875, 'learning_rate': 7.698093220338983e-06, 'epoch': 2.3}
+{'loss': 0.4845, 'grad_norm': 51.29470443725586, 'learning_rate': 7.696056062581488e-06, 'epoch': 2.3}
+{'loss': 0.5341, 'grad_norm': 55.96998977661133, 'learning_rate': 7.69401890482399e-06, 'epoch': 2.31}
+{'loss': 0.5267, 'grad_norm': 2.892923593521118, 'learning_rate': 7.691981747066493e-06, 'epoch': 2.31}
+{'loss': 0.5087, 'grad_norm': 165.30947875976562, 'learning_rate': 7.689944589308996e-06, 'epoch': 2.31}
+{'loss': 0.4269, 'grad_norm': 58.50138854980469, 'learning_rate': 7.6879074315515e-06, 'epoch': 2.31}
+{'loss': 0.4477, 'grad_norm': 68.08612060546875, 'learning_rate': 7.685870273794003e-06, 'epoch': 2.31}
+{'loss': 0.5082, 'grad_norm': 88.74540710449219, 'learning_rate': 7.683833116036507e-06, 'epoch': 2.32}
+{'loss': 0.6195, 'grad_norm': 86.66319274902344, 'learning_rate': 7.68179595827901e-06, 'epoch': 2.32}
+{'loss': 0.5283, 'grad_norm': 24.14320945739746, 'learning_rate': 7.679758800521513e-06, 'epoch': 2.32}
+{'loss': 0.3545, 'grad_norm': 4.646768093109131, 'learning_rate': 7.677721642764017e-06, 'epoch': 2.32}
+{'loss': 0.5524, 'grad_norm': 224.27423095703125, 'learning_rate': 7.67568448500652e-06, 'epoch': 2.32}
+{'loss': 0.4627, 'grad_norm': 72.51764678955078, 'learning_rate': 7.673647327249023e-06, 'epoch': 2.33}
+{'loss': 0.7244, 'grad_norm': 203.22642517089844, 'learning_rate': 7.671610169491525e-06, 'epoch': 2.33}
+{'loss': 0.2879, 'grad_norm': 81.2389144897461, 'learning_rate': 7.66957301173403e-06, 'epoch': 2.33}
+{'loss': 0.4312, 'grad_norm': 54.29591751098633, 'learning_rate': 7.667535853976532e-06, 'epoch': 2.33}
+{'loss': 0.5316, 'grad_norm': 31.110445022583008, 'learning_rate': 7.665498696219035e-06, 'epoch': 2.33}
+{'loss': 0.5333, 'grad_norm': 58.10506820678711, 'learning_rate': 7.66346153846154e-06, 'epoch': 2.34}
+{'loss': 0.7055, 'grad_norm': 28.63812255859375, 'learning_rate': 7.661424380704042e-06, 'epoch': 2.34}
+{'loss': 0.686, 'grad_norm': 25.400177001953125, 'learning_rate': 7.659387222946545e-06, 'epoch': 2.34}
+{'loss': 0.5176, 'grad_norm': 2.833582639694214, 'learning_rate': 7.657350065189049e-06, 'epoch': 2.34}
+{'loss': 0.5609, 'grad_norm': 151.80552673339844, 'learning_rate': 7.655312907431552e-06, 'epoch': 2.34}
+{'loss': 0.5358, 'grad_norm': 95.57452392578125, 'learning_rate': 7.653275749674055e-06, 'epoch': 2.35}
+{'loss': 0.3504, 'grad_norm': 67.26940155029297, 'learning_rate': 7.651238591916559e-06, 'epoch': 2.35}
+{'loss': 0.5716, 'grad_norm': 61.918155670166016, 'learning_rate': 7.649201434159062e-06, 'epoch': 2.35}
+{'loss': 0.5437, 'grad_norm': 42.38669967651367, 'learning_rate': 7.647164276401565e-06, 'epoch': 2.35}
+{'loss': 0.4591, 'grad_norm': 58.5728645324707, 'learning_rate': 7.645127118644067e-06, 'epoch': 2.35}
+{'loss': 0.494, 'grad_norm': 203.10186767578125, 'learning_rate': 7.643089960886572e-06, 'epoch': 2.36}
+{'loss': 0.6501, 'grad_norm': 62.60047149658203, 'learning_rate': 7.641052803129076e-06, 'epoch': 2.36}
+{'loss': 0.4682, 'grad_norm': 68.4253158569336, 'learning_rate': 7.639015645371577e-06, 'epoch': 2.36}
+{'loss': 0.5207, 'grad_norm': 38.226654052734375, 'learning_rate': 7.636978487614082e-06, 'epoch': 2.36}
+{'loss': 0.5462, 'grad_norm': 14.194730758666992, 'learning_rate': 7.634941329856584e-06, 'epoch': 2.37}
+{'loss': 0.5563, 'grad_norm': 29.407270431518555, 'learning_rate': 7.632904172099089e-06, 'epoch': 2.37}
+{'loss': 0.4303, 'grad_norm': 29.981897354125977, 'learning_rate': 7.63086701434159e-06, 'epoch': 2.37}
+{'loss': 0.3696, 'grad_norm': 79.4167251586914, 'learning_rate': 7.628829856584095e-06, 'epoch': 2.37}
+{'loss': 0.3232, 'grad_norm': 117.63935852050781, 'learning_rate': 7.626792698826597e-06, 'epoch': 2.37}
+{'loss': 0.6283, 'grad_norm': 9.616629600524902, 'learning_rate': 7.624755541069101e-06, 'epoch': 2.38}
+{'loss': 0.4188, 'grad_norm': 120.21109008789062, 'learning_rate': 7.622718383311605e-06, 'epoch': 2.38}
+{'loss': 0.755, 'grad_norm': 104.66944122314453, 'learning_rate': 7.6206812255541075e-06, 'epoch': 2.38}
+{'loss': 0.4409, 'grad_norm': 58.39200973510742, 'learning_rate': 7.618644067796611e-06, 'epoch': 2.38}
+{'loss': 0.5348, 'grad_norm': 1.2154723405838013, 'learning_rate': 7.616606910039114e-06, 'epoch': 2.38}
+{'loss': 0.4912, 'grad_norm': 24.98770523071289, 'learning_rate': 7.6145697522816176e-06, 'epoch': 2.39}
+{'loss': 0.3766, 'grad_norm': 111.87226867675781, 'learning_rate': 7.61253259452412e-06, 'epoch': 2.39}
+{'loss': 0.5531, 'grad_norm': 74.6434326171875, 'learning_rate': 7.610495436766624e-06, 'epoch': 2.39}
+{'loss': 0.4484, 'grad_norm': 55.91950988769531, 'learning_rate': 7.608458279009127e-06, 'epoch': 2.39}
+{'loss': 0.5409, 'grad_norm': 80.29092407226562, 'learning_rate': 7.60642112125163e-06, 'epoch': 2.39}
+{'loss': 0.6116, 'grad_norm': 88.58922576904297, 'learning_rate': 7.604383963494134e-06, 'epoch': 2.4}
+{'loss': 0.3344, 'grad_norm': 67.40318298339844, 'learning_rate': 7.602346805736637e-06, 'epoch': 2.4}
+{'loss': 0.5983, 'grad_norm': 42.193511962890625, 'learning_rate': 7.60030964797914e-06, 'epoch': 2.4}
+{'loss': 0.4802, 'grad_norm': 133.2417755126953, 'learning_rate': 7.598272490221643e-06, 'epoch': 2.4}
+{'loss': 0.4421, 'grad_norm': 54.09195327758789, 'learning_rate': 7.596235332464147e-06, 'epoch': 2.4}
+{'loss': 0.3384, 'grad_norm': 164.24789428710938, 'learning_rate': 7.5941981747066495e-06, 'epoch': 2.41}
+{'loss': 0.7669, 'grad_norm': 99.64991760253906, 'learning_rate': 7.592161016949153e-06, 'epoch': 2.41}
+{'loss': 0.6065, 'grad_norm': 152.22068786621094, 'learning_rate': 7.590123859191656e-06, 'epoch': 2.41}
+{'loss': 0.4799, 'grad_norm': 52.280662536621094, 'learning_rate': 7.58808670143416e-06, 'epoch': 2.41}
+{'loss': 0.4081, 'grad_norm': 35.15702819824219, 'learning_rate': 7.586049543676664e-06, 'epoch': 2.41}
+{'loss': 0.6676, 'grad_norm': 123.9468002319336, 'learning_rate': 7.584012385919166e-06, 'epoch': 2.42}
+{'loss': 0.501, 'grad_norm': 26.573747634887695, 'learning_rate': 7.58197522816167e-06, 'epoch': 2.42}
+{'loss': 0.4184, 'grad_norm': 96.59895324707031, 'learning_rate': 7.579938070404172e-06, 'epoch': 2.42}
+{'loss': 0.677, 'grad_norm': 87.0442123413086, 'learning_rate': 7.5779009126466764e-06, 'epoch': 2.42}
+{'loss': 0.4981, 'grad_norm': 120.86963653564453, 'learning_rate': 7.575863754889179e-06, 'epoch': 2.42}
+{'loss': 0.6206, 'grad_norm': 30.261287689208984, 'learning_rate': 7.573826597131682e-06, 'epoch': 2.43}
+{'loss': 0.3869, 'grad_norm': 68.10055541992188, 'learning_rate': 7.571789439374186e-06, 'epoch': 2.43}
+{'loss': 0.345, 'grad_norm': 109.30260467529297, 'learning_rate': 7.569752281616689e-06, 'epoch': 2.43}
+{'loss': 0.5213, 'grad_norm': 133.39149475097656, 'learning_rate': 7.567715123859192e-06, 'epoch': 2.43}
+{'loss': 0.5665, 'grad_norm': 167.0963897705078, 'learning_rate': 7.565677966101696e-06, 'epoch': 2.43}
+{'loss': 0.4268, 'grad_norm': 7.533356666564941, 'learning_rate': 7.563640808344199e-06, 'epoch': 2.44}
+{'loss': 0.62, 'grad_norm': 180.30746459960938, 'learning_rate': 7.561603650586702e-06, 'epoch': 2.44}
+{'loss': 0.5679, 'grad_norm': 3.596642255783081, 'learning_rate': 7.559566492829206e-06, 'epoch': 2.44}
+{'loss': 0.4948, 'grad_norm': 30.486244201660156, 'learning_rate': 7.557529335071708e-06, 'epoch': 2.44}
+{'loss': 0.6273, 'grad_norm': 154.7365264892578, 'learning_rate': 7.555492177314212e-06, 'epoch': 2.44}
+{'eval_loss': 3.983313798904419, 'eval_accuracy': 0.7080321285140563, 'eval_runtime': 1.446, 'eval_samples_per_second': 1722.022, 'eval_steps_per_second': 53.943, 'epoch': 2.44}
+{'loss': 0.5472, 'grad_norm': 27.934246063232422, 'learning_rate': 7.553455019556714e-06, 'epoch': 2.45}
+{'loss': 0.3957, 'grad_norm': 7.671281814575195, 'learning_rate': 7.5514178617992185e-06, 'epoch': 2.45}
+{'loss': 0.5212, 'grad_norm': 51.704673767089844, 'learning_rate': 7.549380704041721e-06, 'epoch': 2.45}
+{'loss': 0.6408, 'grad_norm': 18.29878807067871, 'learning_rate': 7.547343546284225e-06, 'epoch': 2.45}
+{'loss': 0.4923, 'grad_norm': 136.7134246826172, 'learning_rate': 7.545306388526729e-06, 'epoch': 2.45}
+{'loss': 0.5589, 'grad_norm': 59.80181121826172, 'learning_rate': 7.543269230769231e-06, 'epoch': 2.46}
+{'loss': 0.4355, 'grad_norm': 66.89944458007812, 'learning_rate': 7.541232073011735e-06, 'epoch': 2.46}
+{'loss': 0.4464, 'grad_norm': 117.22483825683594, 'learning_rate': 7.539194915254238e-06, 'epoch': 2.46}
+{'loss': 0.616, 'grad_norm': 107.32491302490234, 'learning_rate': 7.537157757496741e-06, 'epoch': 2.46}
+{'loss': 0.5975, 'grad_norm': 4.363223552703857, 'learning_rate': 7.535120599739244e-06, 'epoch': 2.46}
+{'loss': 0.4443, 'grad_norm': 92.31800079345703, 'learning_rate': 7.533083441981748e-06, 'epoch': 2.47}
+{'loss': 0.384, 'grad_norm': 97.95954895019531, 'learning_rate': 7.5310462842242504e-06, 'epoch': 2.47}
+{'loss': 0.5867, 'grad_norm': 124.23865509033203, 'learning_rate': 7.529009126466754e-06, 'epoch': 2.47}
+{'loss': 0.596, 'grad_norm': 55.14513397216797, 'learning_rate': 7.526971968709258e-06, 'epoch': 2.47}
+{'loss': 0.5288, 'grad_norm': 126.60626983642578, 'learning_rate': 7.5249348109517605e-06, 'epoch': 2.48}
+{'loss': 0.4165, 'grad_norm': 50.746917724609375, 'learning_rate': 7.522897653194265e-06, 'epoch': 2.48}
+{'loss': 0.6822, 'grad_norm': 59.440982818603516, 'learning_rate': 7.520860495436767e-06, 'epoch': 2.48}
+{'loss': 0.4999, 'grad_norm': 68.57401275634766, 'learning_rate': 7.518823337679271e-06, 'epoch': 2.48}
+{'loss': 0.4413, 'grad_norm': 71.09383392333984, 'learning_rate': 7.516786179921773e-06, 'epoch': 2.48}
+{'loss': 0.5361, 'grad_norm': 47.914363861083984, 'learning_rate': 7.514749022164277e-06, 'epoch': 2.49}
+{'loss': 0.438, 'grad_norm': 103.20160675048828, 'learning_rate': 7.51271186440678e-06, 'epoch': 2.49}
+{'loss': 0.5375, 'grad_norm': 140.88699340820312, 'learning_rate': 7.510674706649283e-06, 'epoch': 2.49}
+{'loss': 0.5492, 'grad_norm': 66.86680603027344, 'learning_rate': 7.5086375488917874e-06, 'epoch': 2.49}
+{'loss': 0.5119, 'grad_norm': 96.6319580078125, 'learning_rate': 7.50660039113429e-06, 'epoch': 2.49}
+{'loss': 0.5049, 'grad_norm': 13.825377464294434, 'learning_rate': 7.504563233376793e-06, 'epoch': 2.5}
+{'loss': 0.5367, 'grad_norm': 95.4735336303711, 'learning_rate': 7.502526075619297e-06, 'epoch': 2.5}
+{'loss': 0.5159, 'grad_norm': 29.899782180786133, 'learning_rate': 7.5004889178618e-06, 'epoch': 2.5}
+{'loss': 0.3093, 'grad_norm': 48.944847106933594, 'learning_rate': 7.498451760104303e-06, 'epoch': 2.5}
+{'loss': 0.3414, 'grad_norm': 170.3564910888672, 'learning_rate': 7.496414602346807e-06, 'epoch': 2.5}
+{'loss': 0.4852, 'grad_norm': 59.29083251953125, 'learning_rate': 7.494377444589309e-06, 'epoch': 2.51}
+{'loss': 0.5836, 'grad_norm': 101.85919952392578, 'learning_rate': 7.492340286831813e-06, 'epoch': 2.51}
+{'loss': 0.5403, 'grad_norm': 77.28277587890625, 'learning_rate': 7.490303129074317e-06, 'epoch': 2.51}
+{'loss': 0.5088, 'grad_norm': 5.003746509552002, 'learning_rate': 7.488265971316819e-06, 'epoch': 2.51}
+{'loss': 0.4815, 'grad_norm': 34.02635192871094, 'learning_rate': 7.486228813559323e-06, 'epoch': 2.51}
+{'loss': 0.423, 'grad_norm': 7.193662643432617, 'learning_rate': 7.484191655801826e-06, 'epoch': 2.52}
+{'loss': 0.442, 'grad_norm': 181.55311584472656, 'learning_rate': 7.4821544980443295e-06, 'epoch': 2.52}
+{'loss': 0.4934, 'grad_norm': 44.884586334228516, 'learning_rate': 7.480117340286832e-06, 'epoch': 2.52}
+{'loss': 0.5405, 'grad_norm': 53.10295867919922, 'learning_rate': 7.478080182529336e-06, 'epoch': 2.52}
+{'loss': 0.4774, 'grad_norm': 49.427799224853516, 'learning_rate': 7.476043024771839e-06, 'epoch': 2.52}
+{'loss': 0.5738, 'grad_norm': 95.4480209350586, 'learning_rate': 7.474005867014342e-06, 'epoch': 2.53}
+{'loss': 0.5139, 'grad_norm': 71.30463409423828, 'learning_rate': 7.471968709256845e-06, 'epoch': 2.53}
+{'loss': 0.431, 'grad_norm': 68.21245574951172, 'learning_rate': 7.469931551499349e-06, 'epoch': 2.53}
+{'loss': 0.6312, 'grad_norm': 90.8795394897461, 'learning_rate': 7.467894393741852e-06, 'epoch': 2.53}
+{'loss': 0.6586, 'grad_norm': 81.8673324584961, 'learning_rate': 7.465857235984355e-06, 'epoch': 2.53}
+{'loss': 0.4855, 'grad_norm': 20.490036010742188, 'learning_rate': 7.463820078226859e-06, 'epoch': 2.54}
+{'loss': 0.6177, 'grad_norm': 105.1686782836914, 'learning_rate': 7.4617829204693614e-06, 'epoch': 2.54}
+{'loss': 0.4925, 'grad_norm': 94.99979400634766, 'learning_rate': 7.459745762711866e-06, 'epoch': 2.54}
+{'loss': 0.5143, 'grad_norm': 42.75309371948242, 'learning_rate': 7.457708604954368e-06, 'epoch': 2.54}
+{'loss': 0.5664, 'grad_norm': 32.5662841796875, 'learning_rate': 7.4556714471968715e-06, 'epoch': 2.54}
+{'loss': 0.4786, 'grad_norm': 116.7352294921875, 'learning_rate': 7.453634289439374e-06, 'epoch': 2.55}
+{'loss': 0.4736, 'grad_norm': 47.54199981689453, 'learning_rate': 7.451597131681878e-06, 'epoch': 2.55}
+{'loss': 0.4528, 'grad_norm': 43.548927307128906, 'learning_rate': 7.449559973924382e-06, 'epoch': 2.55}
+{'loss': 0.5404, 'grad_norm': 63.937355041503906, 'learning_rate': 7.447522816166884e-06, 'epoch': 2.55}
+{'loss': 0.5833, 'grad_norm': 22.354507446289062, 'learning_rate': 7.445485658409388e-06, 'epoch': 2.55}
+{'loss': 0.428, 'grad_norm': 32.11026382446289, 'learning_rate': 7.443448500651891e-06, 'epoch': 2.56}
+{'loss': 0.5426, 'grad_norm': 72.22184753417969, 'learning_rate': 7.441411342894394e-06, 'epoch': 2.56}
+{'loss': 0.6138, 'grad_norm': 89.44499206542969, 'learning_rate': 7.439374185136898e-06, 'epoch': 2.56}
+{'loss': 0.5338, 'grad_norm': 30.219989776611328, 'learning_rate': 7.437337027379401e-06, 'epoch': 2.56}
+{'loss': 0.4052, 'grad_norm': 99.4449234008789, 'learning_rate': 7.4352998696219035e-06, 'epoch': 2.56}
+{'loss': 0.5454, 'grad_norm': 117.23478698730469, 'learning_rate': 7.433262711864408e-06, 'epoch': 2.57}
+{'loss': 0.5354, 'grad_norm': 60.786041259765625, 'learning_rate': 7.431225554106911e-06, 'epoch': 2.57}
+{'loss': 0.4809, 'grad_norm': 79.1972427368164, 'learning_rate': 7.429188396349414e-06, 'epoch': 2.57}
+{'loss': 0.5034, 'grad_norm': 64.77024841308594, 'learning_rate': 7.427151238591918e-06, 'epoch': 2.57}
+{'loss': 0.5899, 'grad_norm': 24.874221801757812, 'learning_rate': 7.42511408083442e-06, 'epoch': 2.57}
+{'loss': 0.4766, 'grad_norm': 48.28900909423828, 'learning_rate': 7.423076923076924e-06, 'epoch': 2.58}
+{'loss': 0.5479, 'grad_norm': 14.76518440246582, 'learning_rate': 7.421039765319426e-06, 'epoch': 2.58}
+{'loss': 0.5333, 'grad_norm': 132.52915954589844, 'learning_rate': 7.41900260756193e-06, 'epoch': 2.58}
+{'loss': 0.5708, 'grad_norm': 67.5954360961914, 'learning_rate': 7.416965449804433e-06, 'epoch': 2.58}
+{'loss': 0.6022, 'grad_norm': 72.13834381103516, 'learning_rate': 7.414928292046937e-06, 'epoch': 2.59}
+{'loss': 0.516, 'grad_norm': 65.31385803222656, 'learning_rate': 7.4128911342894405e-06, 'epoch': 2.59}
+{'loss': 0.7089, 'grad_norm': 121.16546630859375, 'learning_rate': 7.410853976531943e-06, 'epoch': 2.59}
+{'loss': 0.402, 'grad_norm': 27.724258422851562, 'learning_rate': 7.408816818774447e-06, 'epoch': 2.59}
+{'loss': 0.5384, 'grad_norm': 12.098212242126465, 'learning_rate': 7.40677966101695e-06, 'epoch': 2.59}
+{'loss': 0.5373, 'grad_norm': 9.784854888916016, 'learning_rate': 7.404742503259453e-06, 'epoch': 2.6}
+{'loss': 0.6406, 'grad_norm': 101.11351776123047, 'learning_rate': 7.402705345501956e-06, 'epoch': 2.6}
+{'loss': 0.4747, 'grad_norm': 126.59306335449219, 'learning_rate': 7.40066818774446e-06, 'epoch': 2.6}
+{'loss': 0.3289, 'grad_norm': 53.88015365600586, 'learning_rate': 7.398631029986962e-06, 'epoch': 2.6}
+{'loss': 0.5467, 'grad_norm': 67.1650390625, 'learning_rate': 7.396593872229466e-06, 'epoch': 2.6}
+{'loss': 0.5996, 'grad_norm': 41.22860336303711, 'learning_rate': 7.394556714471969e-06, 'epoch': 2.61}
+{'loss': 0.4983, 'grad_norm': 74.32591247558594, 'learning_rate': 7.3925195567144725e-06, 'epoch': 2.61}
+{'loss': 0.532, 'grad_norm': 28.734643936157227, 'learning_rate': 7.390482398956977e-06, 'epoch': 2.61}
+{'loss': 0.467, 'grad_norm': 80.33470916748047, 'learning_rate': 7.388445241199479e-06, 'epoch': 2.61}
+{'loss': 0.6003, 'grad_norm': 78.07847595214844, 'learning_rate': 7.3864080834419825e-06, 'epoch': 2.61}
+{'loss': 0.4953, 'grad_norm': 8.423774719238281, 'learning_rate': 7.384370925684485e-06, 'epoch': 2.62}
+{'loss': 0.4526, 'grad_norm': 8.933015823364258, 'learning_rate': 7.382333767926989e-06, 'epoch': 2.62}
+{'loss': 0.604, 'grad_norm': 42.914791107177734, 'learning_rate': 7.380296610169492e-06, 'epoch': 2.62}
+{'loss': 0.4662, 'grad_norm': 8.167315483093262, 'learning_rate': 7.378259452411995e-06, 'epoch': 2.62}
+{'loss': 0.5902, 'grad_norm': 20.16383934020996, 'learning_rate': 7.3762222946544985e-06, 'epoch': 2.62}
+{'loss': 0.4367, 'grad_norm': 70.16036987304688, 'learning_rate': 7.374185136897002e-06, 'epoch': 2.63}
+{'loss': 0.4716, 'grad_norm': 48.3697509765625, 'learning_rate': 7.372147979139505e-06, 'epoch': 2.63}
+{'loss': 0.4726, 'grad_norm': 157.38629150390625, 'learning_rate': 7.370110821382009e-06, 'epoch': 2.63}
+{'loss': 0.3659, 'grad_norm': 112.9043960571289, 'learning_rate': 7.368073663624512e-06, 'epoch': 2.63}
+{'loss': 0.6761, 'grad_norm': 47.962703704833984, 'learning_rate': 7.3660365058670145e-06, 'epoch': 2.63}
+{'loss': 0.4047, 'grad_norm': 67.93189239501953, 'learning_rate': 7.363999348109519e-06, 'epoch': 2.64}
+{'loss': 0.5125, 'grad_norm': 45.93931579589844, 'learning_rate': 7.361962190352021e-06, 'epoch': 2.64}
+{'loss': 0.4398, 'grad_norm': 105.75939178466797, 'learning_rate': 7.359925032594525e-06, 'epoch': 2.64}
+{'loss': 0.5523, 'grad_norm': 120.03820037841797, 'learning_rate': 7.357887874837027e-06, 'epoch': 2.64}
+{'loss': 0.5342, 'grad_norm': 6.410613059997559, 'learning_rate': 7.355850717079531e-06, 'epoch': 2.64}
+{'loss': 0.4917, 'grad_norm': 83.91930389404297, 'learning_rate': 7.353813559322035e-06, 'epoch': 2.65}
+{'loss': 0.3576, 'grad_norm': 17.949398040771484, 'learning_rate': 7.351776401564538e-06, 'epoch': 2.65}
+{'loss': 0.6183, 'grad_norm': 46.78124237060547, 'learning_rate': 7.349739243807041e-06, 'epoch': 2.65}
+{'loss': 0.5717, 'grad_norm': 42.22481155395508, 'learning_rate': 7.347702086049544e-06, 'epoch': 2.65}
+{'loss': 0.3973, 'grad_norm': 226.2934112548828, 'learning_rate': 7.345664928292048e-06, 'epoch': 2.65}
+{'loss': 0.6532, 'grad_norm': 18.67352294921875, 'learning_rate': 7.343627770534551e-06, 'epoch': 2.66}
+{'loss': 0.4613, 'grad_norm': 42.611785888671875, 'learning_rate': 7.341590612777054e-06, 'epoch': 2.66}
+{'loss': 0.4594, 'grad_norm': 90.97824096679688, 'learning_rate': 7.3395534550195565e-06, 'epoch': 2.66}
+{'loss': 0.4806, 'grad_norm': 34.64055633544922, 'learning_rate': 7.337516297262061e-06, 'epoch': 2.66}
+{'loss': 0.5338, 'grad_norm': 75.12541198730469, 'learning_rate': 7.335479139504564e-06, 'epoch': 2.66}
+{'loss': 0.5547, 'grad_norm': 91.55027770996094, 'learning_rate': 7.333441981747067e-06, 'epoch': 2.67}
+{'loss': 0.5572, 'grad_norm': 36.6828727722168, 'learning_rate': 7.331404823989571e-06, 'epoch': 2.67}
+{'loss': 0.6626, 'grad_norm': 46.89785385131836, 'learning_rate': 7.329367666232073e-06, 'epoch': 2.67}
+{'loss': 0.4358, 'grad_norm': 148.0714569091797, 'learning_rate': 7.3273305084745776e-06, 'epoch': 2.67}
+{'loss': 0.5069, 'grad_norm': 7.855898857116699, 'learning_rate': 7.32529335071708e-06, 'epoch': 2.67}
+{'loss': 0.5541, 'grad_norm': 54.28933334350586, 'learning_rate': 7.3232561929595835e-06, 'epoch': 2.68}
+{'loss': 0.5492, 'grad_norm': 40.48528289794922, 'learning_rate': 7.321219035202086e-06, 'epoch': 2.68}
+{'loss': 0.473, 'grad_norm': 112.3653793334961, 'learning_rate': 7.31918187744459e-06, 'epoch': 2.68}
+{'loss': 0.4877, 'grad_norm': 99.95867156982422, 'learning_rate': 7.317144719687093e-06, 'epoch': 2.68}
+{'loss': 0.4419, 'grad_norm': 16.209733963012695, 'learning_rate': 7.315107561929596e-06, 'epoch': 2.68}
+{'loss': 0.4385, 'grad_norm': 31.355831146240234, 'learning_rate': 7.3130704041721e-06, 'epoch': 2.69}
+{'loss': 0.6517, 'grad_norm': 125.6809310913086, 'learning_rate': 7.311033246414603e-06, 'epoch': 2.69}
+{'loss': 0.5467, 'grad_norm': 8.162918090820312, 'learning_rate': 7.308996088657106e-06, 'epoch': 2.69}
+{'loss': 0.4977, 'grad_norm': 31.47287940979004, 'learning_rate': 7.3069589308996095e-06, 'epoch': 2.69}
+{'loss': 0.3883, 'grad_norm': 135.86167907714844, 'learning_rate': 7.304921773142113e-06, 'epoch': 2.7}
+{'loss': 0.6141, 'grad_norm': 97.83515167236328, 'learning_rate': 7.302884615384615e-06, 'epoch': 2.7}
+{'loss': 0.4074, 'grad_norm': 85.75743103027344, 'learning_rate': 7.30084745762712e-06, 'epoch': 2.7}
+{'loss': 0.4625, 'grad_norm': 262.8843688964844, 'learning_rate': 7.298810299869622e-06, 'epoch': 2.7}
+{'loss': 0.5979, 'grad_norm': 65.16182708740234, 'learning_rate': 7.2967731421121255e-06, 'epoch': 2.7}
+{'loss': 0.4605, 'grad_norm': 74.01390075683594, 'learning_rate': 7.29473598435463e-06, 'epoch': 2.71}
+{'loss': 0.7172, 'grad_norm': 52.091915130615234, 'learning_rate': 7.292698826597132e-06, 'epoch': 2.71}
+{'loss': 0.4902, 'grad_norm': 71.7574691772461, 'learning_rate': 7.290661668839636e-06, 'epoch': 2.71}
+{'loss': 0.5413, 'grad_norm': 32.81680679321289, 'learning_rate': 7.288624511082138e-06, 'epoch': 2.71}
+{'loss': 0.3765, 'grad_norm': 2.648775577545166, 'learning_rate': 7.286587353324642e-06, 'epoch': 2.71}
+{'loss': 0.543, 'grad_norm': 49.91119384765625, 'learning_rate': 7.284550195567145e-06, 'epoch': 2.72}
+{'loss': 0.5003, 'grad_norm': 119.3051528930664, 'learning_rate': 7.282513037809649e-06, 'epoch': 2.72}
+{'loss': 0.425, 'grad_norm': 87.13500213623047, 'learning_rate': 7.2804758800521516e-06, 'epoch': 2.72}
+{'loss': 0.5016, 'grad_norm': 0.9431996941566467, 'learning_rate': 7.278438722294655e-06, 'epoch': 2.72}
+{'loss': 0.6967, 'grad_norm': 102.62787628173828, 'learning_rate': 7.276401564537159e-06, 'epoch': 2.72}
+{'loss': 0.4254, 'grad_norm': 14.34703254699707, 'learning_rate': 7.274364406779662e-06, 'epoch': 2.73}
+{'loss': 0.5884, 'grad_norm': 58.74958419799805, 'learning_rate': 7.272327249022165e-06, 'epoch': 2.73}
+{'loss': 0.521, 'grad_norm': 108.37498474121094, 'learning_rate': 7.2702900912646675e-06, 'epoch': 2.73}
+{'loss': 0.4004, 'grad_norm': 20.61012077331543, 'learning_rate': 7.268252933507172e-06, 'epoch': 2.73}
+{'loss': 0.5, 'grad_norm': 98.18901062011719, 'learning_rate': 7.266215775749674e-06, 'epoch': 2.73}
+{'loss': 0.3983, 'grad_norm': 87.96358489990234, 'learning_rate': 7.264178617992178e-06, 'epoch': 2.74}
+{'loss': 0.4397, 'grad_norm': 91.77203369140625, 'learning_rate': 7.262141460234681e-06, 'epoch': 2.74}
+{'loss': 0.552, 'grad_norm': 95.31629943847656, 'learning_rate': 7.260104302477184e-06, 'epoch': 2.74}
+{'loss': 0.4983, 'grad_norm': 61.663883209228516, 'learning_rate': 7.258067144719689e-06, 'epoch': 2.74}
+{'loss': 0.478, 'grad_norm': 34.91093826293945, 'learning_rate': 7.256029986962191e-06, 'epoch': 2.74}
+{'loss': 0.6784, 'grad_norm': 148.30227661132812, 'learning_rate': 7.2539928292046945e-06, 'epoch': 2.75}
+{'loss': 0.5123, 'grad_norm': 20.502796173095703, 'learning_rate': 7.251955671447197e-06, 'epoch': 2.75}
+{'loss': 0.5285, 'grad_norm': 36.345943450927734, 'learning_rate': 7.249918513689701e-06, 'epoch': 2.75}
+{'loss': 0.5229, 'grad_norm': 42.39152908325195, 'learning_rate': 7.247881355932204e-06, 'epoch': 2.75}
+{'loss': 0.457, 'grad_norm': 7.113595485687256, 'learning_rate': 7.245844198174707e-06, 'epoch': 2.75}
+{'loss': 0.4721, 'grad_norm': 50.09086990356445, 'learning_rate': 7.2438070404172104e-06, 'epoch': 2.76}
+{'loss': 0.393, 'grad_norm': 47.18180465698242, 'learning_rate': 7.241769882659714e-06, 'epoch': 2.76}
+{'loss': 0.46, 'grad_norm': 8.301111221313477, 'learning_rate': 7.239732724902217e-06, 'epoch': 2.76}
+{'loss': 0.6643, 'grad_norm': 51.402523040771484, 'learning_rate': 7.2376955671447205e-06, 'epoch': 2.76}
+{'loss': 0.6826, 'grad_norm': 32.862178802490234, 'learning_rate': 7.235658409387224e-06, 'epoch': 2.76}
+{'loss': 0.6608, 'grad_norm': 36.63521194458008, 'learning_rate': 7.233621251629726e-06, 'epoch': 2.77}
+{'loss': 0.4403, 'grad_norm': 17.22932243347168, 'learning_rate': 7.231584093872231e-06, 'epoch': 2.77}
+{'loss': 0.5156, 'grad_norm': 85.84457397460938, 'learning_rate': 7.229546936114733e-06, 'epoch': 2.77}
+{'loss': 0.539, 'grad_norm': 96.9354476928711, 'learning_rate': 7.2275097783572365e-06, 'epoch': 2.77}
+{'loss': 0.4694, 'grad_norm': 164.0457305908203, 'learning_rate': 7.225472620599739e-06, 'epoch': 2.77}
+{'loss': 0.5336, 'grad_norm': 34.64569091796875, 'learning_rate': 7.223435462842243e-06, 'epoch': 2.78}
+{'loss': 0.4081, 'grad_norm': 264.3609924316406, 'learning_rate': 7.221398305084746e-06, 'epoch': 2.78}
+{'loss': 0.4774, 'grad_norm': 99.09675598144531, 'learning_rate': 7.21936114732725e-06, 'epoch': 2.78}
+{'loss': 0.5469, 'grad_norm': 85.77099609375, 'learning_rate': 7.217323989569753e-06, 'epoch': 2.78}
+{'loss': 0.5339, 'grad_norm': 14.969250679016113, 'learning_rate': 7.215286831812256e-06, 'epoch': 2.78}
+{'loss': 0.4952, 'grad_norm': 14.553099632263184, 'learning_rate': 7.21324967405476e-06, 'epoch': 2.79}
+{'loss': 0.4299, 'grad_norm': 31.317590713500977, 'learning_rate': 7.211212516297263e-06, 'epoch': 2.79}
+{'loss': 0.5732, 'grad_norm': 95.87013244628906, 'learning_rate': 7.209175358539766e-06, 'epoch': 2.79}
+{'loss': 0.4885, 'grad_norm': 90.75724029541016, 'learning_rate': 7.2071382007822685e-06, 'epoch': 2.79}
+{'loss': 0.5126, 'grad_norm': 42.69759750366211, 'learning_rate': 7.205101043024773e-06, 'epoch': 2.79}
+{'loss': 0.4782, 'grad_norm': 33.543540954589844, 'learning_rate': 7.203063885267275e-06, 'epoch': 2.8}
+{'loss': 0.5268, 'grad_norm': 37.652469635009766, 'learning_rate': 7.2010267275097786e-06, 'epoch': 2.8}
+{'loss': 0.5926, 'grad_norm': 75.4967269897461, 'learning_rate': 7.198989569752283e-06, 'epoch': 2.8}
+{'loss': 0.4845, 'grad_norm': 1.41144859790802, 'learning_rate': 7.196952411994785e-06, 'epoch': 2.8}
+{'loss': 0.4577, 'grad_norm': 60.916053771972656, 'learning_rate': 7.1949152542372895e-06, 'epoch': 2.81}
+{'loss': 0.5108, 'grad_norm': 36.295623779296875, 'learning_rate': 7.192878096479792e-06, 'epoch': 2.81}
+{'loss': 0.6637, 'grad_norm': 147.29443359375, 'learning_rate': 7.190840938722295e-06, 'epoch': 2.81}
+{'loss': 0.7332, 'grad_norm': 96.71246337890625, 'learning_rate': 7.188803780964798e-06, 'epoch': 2.81}
+{'loss': 0.4515, 'grad_norm': 93.7919692993164, 'learning_rate': 7.186766623207302e-06, 'epoch': 2.81}
+{'loss': 0.4493, 'grad_norm': 136.779541015625, 'learning_rate': 7.184729465449805e-06, 'epoch': 2.82}
+{'loss': 0.4191, 'grad_norm': 125.06852722167969, 'learning_rate': 7.182692307692308e-06, 'epoch': 2.82}
+{'loss': 0.3793, 'grad_norm': 68.65929412841797, 'learning_rate': 7.180655149934812e-06, 'epoch': 2.82}
+{'loss': 0.6536, 'grad_norm': 27.82496452331543, 'learning_rate': 7.178617992177315e-06, 'epoch': 2.82}
+{'loss': 0.513, 'grad_norm': 89.5845947265625, 'learning_rate': 7.176580834419818e-06, 'epoch': 2.82}
+{'loss': 0.5236, 'grad_norm': 85.80615997314453, 'learning_rate': 7.1745436766623214e-06, 'epoch': 2.83}
+{'loss': 0.5725, 'grad_norm': 65.40287780761719, 'learning_rate': 7.172506518904825e-06, 'epoch': 2.83}
+{'loss': 0.3039, 'grad_norm': 4.385216236114502, 'learning_rate': 7.170469361147327e-06, 'epoch': 2.83}
+{'loss': 0.5019, 'grad_norm': 146.9808807373047, 'learning_rate': 7.1684322033898315e-06, 'epoch': 2.83}
+{'loss': 0.4582, 'grad_norm': 126.72252655029297, 'learning_rate': 7.166395045632334e-06, 'epoch': 2.83}
+{'loss': 0.4158, 'grad_norm': 78.41757202148438, 'learning_rate': 7.164357887874837e-06, 'epoch': 2.84}
+{'loss': 0.6266, 'grad_norm': 104.09809112548828, 'learning_rate': 7.162320730117342e-06, 'epoch': 2.84}
+{'loss': 0.543, 'grad_norm': 149.84649658203125, 'learning_rate': 7.160283572359844e-06, 'epoch': 2.84}
+{'loss': 0.731, 'grad_norm': 131.36065673828125, 'learning_rate': 7.1582464146023475e-06, 'epoch': 2.84}
+{'loss': 0.4925, 'grad_norm': 41.951194763183594, 'learning_rate': 7.156209256844851e-06, 'epoch': 2.84}
+{'loss': 0.7567, 'grad_norm': 8.383362770080566, 'learning_rate': 7.154172099087354e-06, 'epoch': 2.85}
+{'loss': 0.6305, 'grad_norm': 43.3426399230957, 'learning_rate': 7.152134941329857e-06, 'epoch': 2.85}
+{'loss': 0.4665, 'grad_norm': 125.32572937011719, 'learning_rate': 7.150097783572361e-06, 'epoch': 2.85}
+{'loss': 0.4767, 'grad_norm': 192.2190704345703, 'learning_rate': 7.1480606258148635e-06, 'epoch': 2.85}
+{'eval_loss': 3.8096213340759277, 'eval_accuracy': 0.7261044176706827, 'eval_runtime': 1.3878, 'eval_samples_per_second': 1794.204, 'eval_steps_per_second': 56.204, 'epoch': 2.85}
+{'loss': 0.4115, 'grad_norm': 66.27652740478516, 'learning_rate': 7.146023468057367e-06, 'epoch': 2.85}
+{'loss': 0.646, 'grad_norm': 124.08015441894531, 'learning_rate': 7.143986310299869e-06, 'epoch': 2.86}
+{'loss': 0.4994, 'grad_norm': 25.286836624145508, 'learning_rate': 7.141949152542374e-06, 'epoch': 2.86}
+{'loss': 0.4777, 'grad_norm': 81.01439666748047, 'learning_rate': 7.139911994784877e-06, 'epoch': 2.86}
+{'loss': 0.6101, 'grad_norm': 19.42078971862793, 'learning_rate': 7.1378748370273795e-06, 'epoch': 2.86}
+{'loss': 0.5135, 'grad_norm': 110.05738830566406, 'learning_rate': 7.135837679269884e-06, 'epoch': 2.86}
+{'loss': 0.5493, 'grad_norm': 46.160240173339844, 'learning_rate': 7.133800521512386e-06, 'epoch': 2.87}
+{'loss': 0.465, 'grad_norm': 79.95941925048828, 'learning_rate': 7.1317633637548896e-06, 'epoch': 2.87}
+{'loss': 0.4678, 'grad_norm': 86.74519348144531, 'learning_rate': 7.129726205997393e-06, 'epoch': 2.87}
+{'loss': 0.6842, 'grad_norm': 5.671263694763184, 'learning_rate': 7.127689048239896e-06, 'epoch': 2.87}
+{'loss': 0.5632, 'grad_norm': 60.099281311035156, 'learning_rate': 7.125651890482399e-06, 'epoch': 2.87}
+{'loss': 0.592, 'grad_norm': 123.364990234375, 'learning_rate': 7.123614732724903e-06, 'epoch': 2.88}
+{'loss': 0.5659, 'grad_norm': 67.71723937988281, 'learning_rate': 7.121577574967406e-06, 'epoch': 2.88}
+{'loss': 0.5793, 'grad_norm': 93.64242553710938, 'learning_rate': 7.119540417209909e-06, 'epoch': 2.88}
+{'loss': 0.4826, 'grad_norm': 24.875669479370117, 'learning_rate': 7.117503259452413e-06, 'epoch': 2.88}
+{'loss': 0.4193, 'grad_norm': 82.96944427490234, 'learning_rate': 7.115466101694916e-06, 'epoch': 2.88}
+{'loss': 0.571, 'grad_norm': 99.59635162353516, 'learning_rate': 7.113428943937419e-06, 'epoch': 2.89}
+{'loss': 0.6106, 'grad_norm': 37.552364349365234, 'learning_rate': 7.111391786179922e-06, 'epoch': 2.89}
+{'loss': 0.684, 'grad_norm': 54.5639533996582, 'learning_rate': 7.109354628422426e-06, 'epoch': 2.89}
+{'loss': 0.5834, 'grad_norm': 60.824989318847656, 'learning_rate': 7.107317470664928e-06, 'epoch': 2.89}
+{'loss': 0.431, 'grad_norm': 96.01897430419922, 'learning_rate': 7.1052803129074325e-06, 'epoch': 2.89}
+{'loss': 0.5373, 'grad_norm': 41.04164505004883, 'learning_rate': 7.103243155149936e-06, 'epoch': 2.9}
+{'loss': 0.4884, 'grad_norm': 168.94276428222656, 'learning_rate': 7.101205997392438e-06, 'epoch': 2.9}
+{'loss': 0.4297, 'grad_norm': 7.561580657958984, 'learning_rate': 7.0991688396349425e-06, 'epoch': 2.9}
+{'loss': 0.7471, 'grad_norm': 88.29603576660156, 'learning_rate': 7.097131681877445e-06, 'epoch': 2.9}
+{'loss': 0.5465, 'grad_norm': 42.58795928955078, 'learning_rate': 7.0950945241199484e-06, 'epoch': 2.9}
+{'loss': 0.4854, 'grad_norm': 30.403892517089844, 'learning_rate': 7.093057366362451e-06, 'epoch': 2.91}
+{'loss': 0.4604, 'grad_norm': 68.47884368896484, 'learning_rate': 7.091020208604955e-06, 'epoch': 2.91}
+{'loss': 0.3552, 'grad_norm': 33.44007110595703, 'learning_rate': 7.088983050847458e-06, 'epoch': 2.91}
+{'loss': 0.4564, 'grad_norm': 118.21212005615234, 'learning_rate': 7.086945893089962e-06, 'epoch': 2.91}
+{'loss': 0.5144, 'grad_norm': 80.72528076171875, 'learning_rate': 7.084908735332465e-06, 'epoch': 2.92}
+{'loss': 0.4497, 'grad_norm': 2.4827992916107178, 'learning_rate': 7.082871577574968e-06, 'epoch': 2.92}
+{'loss': 0.4318, 'grad_norm': 157.03428649902344, 'learning_rate': 7.080834419817472e-06, 'epoch': 2.92}
+{'loss': 0.4716, 'grad_norm': 258.09478759765625, 'learning_rate': 7.0787972620599745e-06, 'epoch': 2.92}
+{'loss': 0.5572, 'grad_norm': 114.60908508300781, 'learning_rate': 7.076760104302478e-06, 'epoch': 2.92}
+{'loss': 0.6883, 'grad_norm': 43.935707092285156, 'learning_rate': 7.07472294654498e-06, 'epoch': 2.93}
+{'loss': 0.6272, 'grad_norm': 26.51272964477539, 'learning_rate': 7.072685788787485e-06, 'epoch': 2.93}
+{'loss': 0.5224, 'grad_norm': 87.27507019042969, 'learning_rate': 7.070648631029987e-06, 'epoch': 2.93}
+{'loss': 0.5711, 'grad_norm': 26.534189224243164, 'learning_rate': 7.0686114732724905e-06, 'epoch': 2.93}
+{'loss': 0.3381, 'grad_norm': 38.93166732788086, 'learning_rate': 7.066574315514994e-06, 'epoch': 2.93}
+{'loss': 0.4593, 'grad_norm': 17.763036727905273, 'learning_rate': 7.064537157757497e-06, 'epoch': 2.94}
+{'loss': 0.5888, 'grad_norm': 147.06602478027344, 'learning_rate': 7.062500000000001e-06, 'epoch': 2.94}
+{'loss': 0.5974, 'grad_norm': 62.83586120605469, 'learning_rate': 7.060462842242504e-06, 'epoch': 2.94}
+{'loss': 0.3994, 'grad_norm': 65.40483093261719, 'learning_rate': 7.058425684485007e-06, 'epoch': 2.94}
+{'loss': 0.6282, 'grad_norm': 12.693782806396484, 'learning_rate': 7.05638852672751e-06, 'epoch': 2.94}
+{'loss': 0.4706, 'grad_norm': 74.42976379394531, 'learning_rate': 7.054351368970014e-06, 'epoch': 2.95}
+{'loss': 0.5428, 'grad_norm': 73.96829223632812, 'learning_rate': 7.0523142112125165e-06, 'epoch': 2.95}
+{'loss': 0.5573, 'grad_norm': 34.41990280151367, 'learning_rate': 7.05027705345502e-06, 'epoch': 2.95}
+{'loss': 0.5712, 'grad_norm': 110.9742202758789, 'learning_rate': 7.048239895697523e-06, 'epoch': 2.95}
+{'loss': 0.5757, 'grad_norm': 44.93367385864258, 'learning_rate': 7.046202737940027e-06, 'epoch': 2.95}
+{'loss': 0.4229, 'grad_norm': 28.071508407592773, 'learning_rate': 7.04416558018253e-06, 'epoch': 2.96}
+{'loss': 0.5564, 'grad_norm': 19.186004638671875, 'learning_rate': 7.042128422425033e-06, 'epoch': 2.96}
+{'loss': 0.5933, 'grad_norm': 62.674739837646484, 'learning_rate': 7.040091264667537e-06, 'epoch': 2.96}
+{'loss': 0.6561, 'grad_norm': 79.55054473876953, 'learning_rate': 7.038054106910039e-06, 'epoch': 2.96}
+{'loss': 0.4479, 'grad_norm': 36.399497985839844, 'learning_rate': 7.0360169491525435e-06, 'epoch': 2.96}
+{'loss': 0.4917, 'grad_norm': 77.19309997558594, 'learning_rate': 7.033979791395046e-06, 'epoch': 2.97}
+{'loss': 0.4352, 'grad_norm': 53.768802642822266, 'learning_rate': 7.031942633637549e-06, 'epoch': 2.97}
+{'loss': 0.548, 'grad_norm': 98.8683853149414, 'learning_rate': 7.029905475880052e-06, 'epoch': 2.97}
+{'loss': 0.5334, 'grad_norm': 52.97119903564453, 'learning_rate': 7.027868318122556e-06, 'epoch': 2.97}
+{'loss': 0.4222, 'grad_norm': 44.758079528808594, 'learning_rate': 7.0258311603650594e-06, 'epoch': 2.97}
+{'loss': 0.4145, 'grad_norm': 44.67354202270508, 'learning_rate': 7.023794002607563e-06, 'epoch': 2.98}
+{'loss': 0.5462, 'grad_norm': 49.815914154052734, 'learning_rate': 7.021756844850066e-06, 'epoch': 2.98}
+{'loss': 0.4577, 'grad_norm': 168.782470703125, 'learning_rate': 7.019719687092569e-06, 'epoch': 2.98}
+{'loss': 0.4444, 'grad_norm': 35.675777435302734, 'learning_rate': 7.017682529335073e-06, 'epoch': 2.98}
+{'loss': 0.5006, 'grad_norm': 67.84686279296875, 'learning_rate': 7.015645371577575e-06, 'epoch': 2.98}
+{'loss': 0.7174, 'grad_norm': 102.86808013916016, 'learning_rate': 7.013608213820079e-06, 'epoch': 2.99}
+{'loss': 0.4677, 'grad_norm': 50.866905212402344, 'learning_rate': 7.011571056062581e-06, 'epoch': 2.99}
+{'loss': 0.5993, 'grad_norm': 58.143802642822266, 'learning_rate': 7.0095338983050855e-06, 'epoch': 2.99}
+{'loss': 0.3631, 'grad_norm': 45.14387893676758, 'learning_rate': 7.007496740547589e-06, 'epoch': 2.99}
+{'loss': 0.6535, 'grad_norm': 81.11223602294922, 'learning_rate': 7.005459582790091e-06, 'epoch': 2.99}
+{'loss': 0.673, 'grad_norm': 99.58760833740234, 'learning_rate': 7.003422425032596e-06, 'epoch': 3.0}
+{'loss': 0.6669, 'grad_norm': 61.6664924621582, 'learning_rate': 7.001385267275098e-06, 'epoch': 3.0}
+{'loss': 0.4628, 'grad_norm': 4.070313453674316, 'learning_rate': 6.999348109517602e-06, 'epoch': 3.0}
+{'loss': 0.1563, 'grad_norm': 9.204950332641602, 'learning_rate': 6.997310951760105e-06, 'epoch': 3.0}
+{'loss': 0.2243, 'grad_norm': 72.17692565917969, 'learning_rate': 6.995273794002608e-06, 'epoch': 3.0}
+{'loss': 0.2873, 'grad_norm': 5.06411600112915, 'learning_rate': 6.993236636245111e-06, 'epoch': 3.01}
+{'loss': 0.3752, 'grad_norm': 1.0329591035842896, 'learning_rate': 6.991199478487615e-06, 'epoch': 3.01}
+{'loss': 0.3202, 'grad_norm': 17.91692352294922, 'learning_rate': 6.989162320730118e-06, 'epoch': 3.01}
+{'loss': 0.4174, 'grad_norm': 68.94304656982422, 'learning_rate': 6.987125162972621e-06, 'epoch': 3.01}
+{'loss': 0.2338, 'grad_norm': 33.463592529296875, 'learning_rate': 6.985088005215125e-06, 'epoch': 3.01}
+{'loss': 0.2622, 'grad_norm': 108.87328338623047, 'learning_rate': 6.9830508474576275e-06, 'epoch': 3.02}
+{'loss': 0.1907, 'grad_norm': 189.09066772460938, 'learning_rate': 6.981013689700131e-06, 'epoch': 3.02}
+{'loss': 0.3576, 'grad_norm': 90.1271743774414, 'learning_rate': 6.978976531942634e-06, 'epoch': 3.02}
+{'loss': 0.1653, 'grad_norm': 0.1293068826198578, 'learning_rate': 6.976939374185138e-06, 'epoch': 3.02}
+{'loss': 0.1573, 'grad_norm': 106.8682861328125, 'learning_rate': 6.97490221642764e-06, 'epoch': 3.03}
+{'loss': 0.1318, 'grad_norm': 139.25863647460938, 'learning_rate': 6.972865058670144e-06, 'epoch': 3.03}
+{'loss': 0.4869, 'grad_norm': 14.395641326904297, 'learning_rate': 6.970827900912647e-06, 'epoch': 3.03}
+{'loss': 0.3647, 'grad_norm': 0.9860566854476929, 'learning_rate': 6.96879074315515e-06, 'epoch': 3.03}
+{'loss': 0.3598, 'grad_norm': 0.12274587154388428, 'learning_rate': 6.9667535853976545e-06, 'epoch': 3.03}
+{'loss': 0.3572, 'grad_norm': 122.03657531738281, 'learning_rate': 6.964716427640157e-06, 'epoch': 3.04}
+{'loss': 0.1747, 'grad_norm': 26.715007781982422, 'learning_rate': 6.96267926988266e-06, 'epoch': 3.04}
+{'loss': 0.2531, 'grad_norm': 263.3206481933594, 'learning_rate': 6.960642112125163e-06, 'epoch': 3.04}
+{'loss': 0.2034, 'grad_norm': 14.032257080078125, 'learning_rate': 6.958604954367667e-06, 'epoch': 3.04}
+{'loss': 0.2484, 'grad_norm': 196.8851318359375, 'learning_rate': 6.95656779661017e-06, 'epoch': 3.04}
+{'loss': 0.348, 'grad_norm': 5.168080806732178, 'learning_rate': 6.954530638852674e-06, 'epoch': 3.05}
+{'loss': 0.3858, 'grad_norm': 285.2559814453125, 'learning_rate': 6.952493481095176e-06, 'epoch': 3.05}
+{'loss': 0.3355, 'grad_norm': 0.07391226291656494, 'learning_rate': 6.95045632333768e-06, 'epoch': 3.05}
+{'loss': 0.306, 'grad_norm': 31.457965850830078, 'learning_rate': 6.948419165580184e-06, 'epoch': 3.05}
+{'loss': 0.1974, 'grad_norm': 68.82299041748047, 'learning_rate': 6.946382007822686e-06, 'epoch': 3.05}
+{'loss': 0.2957, 'grad_norm': 29.98798942565918, 'learning_rate': 6.94434485006519e-06, 'epoch': 3.06}
+{'loss': 0.2657, 'grad_norm': 181.66946411132812, 'learning_rate': 6.942307692307692e-06, 'epoch': 3.06}
+{'loss': 0.2462, 'grad_norm': 97.1128158569336, 'learning_rate': 6.9402705345501965e-06, 'epoch': 3.06}
+{'loss': 0.2733, 'grad_norm': 24.286909103393555, 'learning_rate': 6.938233376792699e-06, 'epoch': 3.06}
+{'loss': 0.3496, 'grad_norm': 53.37942886352539, 'learning_rate': 6.936196219035202e-06, 'epoch': 3.06}
+{'loss': 0.2671, 'grad_norm': 13.01201057434082, 'learning_rate': 6.934159061277706e-06, 'epoch': 3.07}
+{'loss': 0.3885, 'grad_norm': 0.6038227081298828, 'learning_rate': 6.932121903520209e-06, 'epoch': 3.07}
+{'loss': 0.2889, 'grad_norm': 133.9927520751953, 'learning_rate': 6.930084745762713e-06, 'epoch': 3.07}
+{'loss': 0.3624, 'grad_norm': 20.78033447265625, 'learning_rate': 6.928047588005216e-06, 'epoch': 3.07}
+{'loss': 0.5555, 'grad_norm': 11.80146598815918, 'learning_rate': 6.926010430247719e-06, 'epoch': 3.07}
+{'loss': 0.2741, 'grad_norm': 33.02119827270508, 'learning_rate': 6.923973272490222e-06, 'epoch': 3.08}
+{'loss': 0.4698, 'grad_norm': 1.0333733558654785, 'learning_rate': 6.921936114732726e-06, 'epoch': 3.08}
+{'loss': 0.3436, 'grad_norm': 282.791748046875, 'learning_rate': 6.9198989569752285e-06, 'epoch': 3.08}
+{'loss': 0.2104, 'grad_norm': 14.135802268981934, 'learning_rate': 6.917861799217732e-06, 'epoch': 3.08}
+{'loss': 0.3944, 'grad_norm': 162.12623596191406, 'learning_rate': 6.915824641460235e-06, 'epoch': 3.08}
+{'loss': 0.3648, 'grad_norm': 220.46290588378906, 'learning_rate': 6.9137874837027386e-06, 'epoch': 3.09}
+{'loss': 0.3231, 'grad_norm': 67.42725372314453, 'learning_rate': 6.911750325945242e-06, 'epoch': 3.09}
+{'loss': 0.2863, 'grad_norm': 0.6426370143890381, 'learning_rate': 6.909713168187745e-06, 'epoch': 3.09}
+{'loss': 0.3868, 'grad_norm': 283.6914367675781, 'learning_rate': 6.907676010430249e-06, 'epoch': 3.09}
+{'loss': 0.2111, 'grad_norm': 180.83535766601562, 'learning_rate': 6.905638852672751e-06, 'epoch': 3.09}
+{'loss': 0.3789, 'grad_norm': 0.060949068516492844, 'learning_rate': 6.903601694915255e-06, 'epoch': 3.1}
+{'loss': 0.186, 'grad_norm': 2.455993890762329, 'learning_rate': 6.901564537157758e-06, 'epoch': 3.1}
+{'loss': 0.3366, 'grad_norm': 0.5175074338912964, 'learning_rate': 6.899527379400261e-06, 'epoch': 3.1}
+{'loss': 0.3704, 'grad_norm': 343.2453918457031, 'learning_rate': 6.897490221642764e-06, 'epoch': 3.1}
+{'loss': 0.3002, 'grad_norm': 28.129940032958984, 'learning_rate': 6.895453063885268e-06, 'epoch': 3.1}
+{'loss': 0.1341, 'grad_norm': 10.729779243469238, 'learning_rate': 6.8934159061277705e-06, 'epoch': 3.11}
+{'loss': 0.2867, 'grad_norm': 5.157886028289795, 'learning_rate': 6.891378748370275e-06, 'epoch': 3.11}
+{'loss': 0.3188, 'grad_norm': 136.23326110839844, 'learning_rate': 6.889341590612778e-06, 'epoch': 3.11}
+{'loss': 0.1984, 'grad_norm': 134.6610107421875, 'learning_rate': 6.887304432855281e-06, 'epoch': 3.11}
+{'loss': 0.4439, 'grad_norm': 53.32255935668945, 'learning_rate': 6.885267275097785e-06, 'epoch': 3.11}
+{'loss': 0.3208, 'grad_norm': 374.8619384765625, 'learning_rate': 6.883230117340287e-06, 'epoch': 3.12}
+{'loss': 0.2761, 'grad_norm': 152.48255920410156, 'learning_rate': 6.881192959582791e-06, 'epoch': 3.12}
+{'loss': 0.2378, 'grad_norm': 7.127450466156006, 'learning_rate': 6.879155801825293e-06, 'epoch': 3.12}
+{'loss': 0.2973, 'grad_norm': 124.55664825439453, 'learning_rate': 6.877118644067797e-06, 'epoch': 3.12}
+{'loss': 0.4725, 'grad_norm': 0.48259660601615906, 'learning_rate': 6.8750814863103e-06, 'epoch': 3.12}
+{'loss': 0.3303, 'grad_norm': 2.761291980743408, 'learning_rate': 6.873044328552803e-06, 'epoch': 3.13}
+{'loss': 0.3799, 'grad_norm': 132.71932983398438, 'learning_rate': 6.8710071707953075e-06, 'epoch': 3.13}
+{'loss': 0.2839, 'grad_norm': 225.74716186523438, 'learning_rate': 6.86897001303781e-06, 'epoch': 3.13}
+{'loss': 0.451, 'grad_norm': 62.21818923950195, 'learning_rate': 6.866932855280314e-06, 'epoch': 3.13}
+{'loss': 0.2266, 'grad_norm': 3.563209295272827, 'learning_rate': 6.864895697522817e-06, 'epoch': 3.14}
+{'loss': 0.4066, 'grad_norm': 0.8723182678222656, 'learning_rate': 6.86285853976532e-06, 'epoch': 3.14}
+{'loss': 0.2643, 'grad_norm': 112.49707794189453, 'learning_rate': 6.860821382007823e-06, 'epoch': 3.14}
+{'loss': 0.4395, 'grad_norm': 155.55288696289062, 'learning_rate': 6.858784224250327e-06, 'epoch': 3.14}
+{'loss': 0.3075, 'grad_norm': 89.30677032470703, 'learning_rate': 6.856747066492829e-06, 'epoch': 3.14}
+{'loss': 0.4009, 'grad_norm': 428.5577697753906, 'learning_rate': 6.854709908735333e-06, 'epoch': 3.15}
+{'loss': 0.3429, 'grad_norm': 28.843456268310547, 'learning_rate': 6.852672750977837e-06, 'epoch': 3.15}
+{'loss': 0.221, 'grad_norm': 0.3318357467651367, 'learning_rate': 6.8506355932203395e-06, 'epoch': 3.15}
+{'loss': 0.5062, 'grad_norm': 223.4623260498047, 'learning_rate': 6.848598435462843e-06, 'epoch': 3.15}
+{'loss': 0.2686, 'grad_norm': 93.58732604980469, 'learning_rate': 6.846561277705346e-06, 'epoch': 3.15}
+{'loss': 0.2551, 'grad_norm': 0.7468753457069397, 'learning_rate': 6.8445241199478496e-06, 'epoch': 3.16}
+{'loss': 0.2415, 'grad_norm': 50.68206024169922, 'learning_rate': 6.842486962190352e-06, 'epoch': 3.16}
+{'loss': 0.5016, 'grad_norm': 129.0797882080078, 'learning_rate': 6.840449804432856e-06, 'epoch': 3.16}
+{'loss': 0.3299, 'grad_norm': 2.430402994155884, 'learning_rate': 6.838412646675359e-06, 'epoch': 3.16}
+{'loss': 0.2526, 'grad_norm': 0.3492695391178131, 'learning_rate': 6.836375488917862e-06, 'epoch': 3.16}
+{'loss': 0.3444, 'grad_norm': 52.92988967895508, 'learning_rate': 6.834338331160366e-06, 'epoch': 3.17}
+{'loss': 0.2659, 'grad_norm': 6.984385013580322, 'learning_rate': 6.832301173402869e-06, 'epoch': 3.17}
+{'loss': 0.2094, 'grad_norm': 124.92121124267578, 'learning_rate': 6.830264015645372e-06, 'epoch': 3.17}
+{'loss': 0.389, 'grad_norm': 291.2081298828125, 'learning_rate': 6.828226857887875e-06, 'epoch': 3.17}
+{'loss': 0.3377, 'grad_norm': 145.35731506347656, 'learning_rate': 6.826189700130379e-06, 'epoch': 3.17}
+{'loss': 0.3811, 'grad_norm': 0.057331621646881104, 'learning_rate': 6.8241525423728815e-06, 'epoch': 3.18}
+{'loss': 0.3728, 'grad_norm': 117.5191421508789, 'learning_rate': 6.822115384615386e-06, 'epoch': 3.18}
+{'loss': 0.1784, 'grad_norm': 0.5050733089447021, 'learning_rate': 6.820078226857888e-06, 'epoch': 3.18}
+{'loss': 0.2727, 'grad_norm': 101.39252471923828, 'learning_rate': 6.818041069100392e-06, 'epoch': 3.18}
+{'loss': 0.5472, 'grad_norm': 18.310606002807617, 'learning_rate': 6.816003911342894e-06, 'epoch': 3.18}
+{'loss': 0.4079, 'grad_norm': 437.83648681640625, 'learning_rate': 6.813966753585398e-06, 'epoch': 3.19}
+{'loss': 0.2238, 'grad_norm': 206.13133239746094, 'learning_rate': 6.811929595827902e-06, 'epoch': 3.19}
+{'loss': 0.3417, 'grad_norm': 160.56402587890625, 'learning_rate': 6.809892438070404e-06, 'epoch': 3.19}
+{'loss': 0.3966, 'grad_norm': 454.654052734375, 'learning_rate': 6.8078552803129084e-06, 'epoch': 3.19}
+{'loss': 0.2878, 'grad_norm': 233.70660400390625, 'learning_rate': 6.805818122555411e-06, 'epoch': 3.19}
+{'loss': 0.3422, 'grad_norm': 28.181550979614258, 'learning_rate': 6.803780964797914e-06, 'epoch': 3.2}
+{'loss': 0.2458, 'grad_norm': 70.40453338623047, 'learning_rate': 6.801743807040418e-06, 'epoch': 3.2}
+{'loss': 0.3184, 'grad_norm': 49.585086822509766, 'learning_rate': 6.799706649282921e-06, 'epoch': 3.2}
+{'loss': 0.1816, 'grad_norm': 22.736488342285156, 'learning_rate': 6.7976694915254236e-06, 'epoch': 3.2}
+{'loss': 0.3558, 'grad_norm': 171.30377197265625, 'learning_rate': 6.795632333767928e-06, 'epoch': 3.2}
+{'loss': 0.3295, 'grad_norm': 0.8529686331748962, 'learning_rate': 6.793595176010431e-06, 'epoch': 3.21}
+{'loss': 0.2821, 'grad_norm': 0.18921248614788055, 'learning_rate': 6.791558018252934e-06, 'epoch': 3.21}
+{'loss': 0.2906, 'grad_norm': 0.20234370231628418, 'learning_rate': 6.789520860495438e-06, 'epoch': 3.21}
+{'loss': 0.3292, 'grad_norm': 90.34822082519531, 'learning_rate': 6.78748370273794e-06, 'epoch': 3.21}
+{'loss': 0.2736, 'grad_norm': 10.153288841247559, 'learning_rate': 6.785446544980444e-06, 'epoch': 3.21}
+{'loss': 0.4702, 'grad_norm': 103.65711975097656, 'learning_rate': 6.783409387222947e-06, 'epoch': 3.22}
+{'loss': 0.2603, 'grad_norm': 5.142512321472168, 'learning_rate': 6.7813722294654505e-06, 'epoch': 3.22}
+{'loss': 0.4299, 'grad_norm': 0.2392241209745407, 'learning_rate': 6.779335071707953e-06, 'epoch': 3.22}
+{'loss': 0.3974, 'grad_norm': 13.839841842651367, 'learning_rate': 6.777297913950457e-06, 'epoch': 3.22}
+{'loss': 0.4031, 'grad_norm': 232.60092163085938, 'learning_rate': 6.7752607561929606e-06, 'epoch': 3.22}
+{'loss': 0.2953, 'grad_norm': 140.42831420898438, 'learning_rate': 6.773223598435463e-06, 'epoch': 3.23}
+{'loss': 0.3226, 'grad_norm': 42.9588623046875, 'learning_rate': 6.771186440677967e-06, 'epoch': 3.23}
+{'loss': 0.3086, 'grad_norm': 11.687302589416504, 'learning_rate': 6.76914928292047e-06, 'epoch': 3.23}
+{'loss': 0.1681, 'grad_norm': 163.33436584472656, 'learning_rate': 6.767112125162973e-06, 'epoch': 3.23}
+{'loss': 0.5218, 'grad_norm': 1.1330533027648926, 'learning_rate': 6.765074967405476e-06, 'epoch': 3.24}
+{'loss': 0.3692, 'grad_norm': 19.7525577545166, 'learning_rate': 6.76303780964798e-06, 'epoch': 3.24}
+{'loss': 0.3215, 'grad_norm': 213.979248046875, 'learning_rate': 6.7610006518904824e-06, 'epoch': 3.24}
+{'loss': 0.3409, 'grad_norm': 0.184391587972641, 'learning_rate': 6.758963494132987e-06, 'epoch': 3.24}
+{'loss': 0.364, 'grad_norm': 4.84226655960083, 'learning_rate': 6.75692633637549e-06, 'epoch': 3.24}
+{'loss': 0.2653, 'grad_norm': 0.25329136848449707, 'learning_rate': 6.7548891786179925e-06, 'epoch': 3.25}
+{'loss': 0.3043, 'grad_norm': 54.411155700683594, 'learning_rate': 6.752852020860497e-06, 'epoch': 3.25}
+{'loss': 0.3596, 'grad_norm': 5.391485214233398, 'learning_rate': 6.750814863102999e-06, 'epoch': 3.25}
+{'loss': 0.5646, 'grad_norm': 21.5716609954834, 'learning_rate': 6.748777705345503e-06, 'epoch': 3.25}
+{'loss': 0.4379, 'grad_norm': 0.5156704783439636, 'learning_rate': 6.746740547588005e-06, 'epoch': 3.25}
+{'loss': 0.2689, 'grad_norm': 68.67721557617188, 'learning_rate': 6.744703389830509e-06, 'epoch': 3.26}
+{'loss': 0.3329, 'grad_norm': 4.480534076690674, 'learning_rate': 6.742666232073012e-06, 'epoch': 3.26}
+{'loss': 0.3218, 'grad_norm': 0.03606459125876427, 'learning_rate': 6.740629074315515e-06, 'epoch': 3.26}
+{'eval_loss': 7.133324146270752, 'eval_accuracy': 0.7144578313253012, 'eval_runtime': 1.4911, 'eval_samples_per_second': 1669.853, 'eval_steps_per_second': 52.309, 'epoch': 3.26}
+{'loss': 0.3249, 'grad_norm': 148.70651245117188, 'learning_rate': 6.738591916558019e-06, 'epoch': 3.26}
+{'loss': 0.1997, 'grad_norm': 19.725515365600586, 'learning_rate': 6.736554758800522e-06, 'epoch': 3.26}
+{'loss': 0.518, 'grad_norm': 218.51312255859375, 'learning_rate': 6.734517601043026e-06, 'epoch': 3.27}
+{'loss': 0.3728, 'grad_norm': 82.75041198730469, 'learning_rate': 6.732480443285529e-06, 'epoch': 3.27}
+{'loss': 0.329, 'grad_norm': 8.389335632324219, 'learning_rate': 6.730443285528032e-06, 'epoch': 3.27}
+{'loss': 0.2987, 'grad_norm': 4.567301273345947, 'learning_rate': 6.7284061277705346e-06, 'epoch': 3.27}
+{'loss': 0.4469, 'grad_norm': 1.423278570175171, 'learning_rate': 6.726368970013039e-06, 'epoch': 3.27}
+{'loss': 0.2748, 'grad_norm': 0.4477352499961853, 'learning_rate': 6.724331812255541e-06, 'epoch': 3.28}
+{'loss': 0.2934, 'grad_norm': 285.9201965332031, 'learning_rate': 6.722294654498045e-06, 'epoch': 3.28}
+{'loss': 0.3721, 'grad_norm': 100.14257049560547, 'learning_rate': 6.720257496740548e-06, 'epoch': 3.28}
+{'loss': 0.3293, 'grad_norm': 65.25508880615234, 'learning_rate': 6.718220338983051e-06, 'epoch': 3.28}
+{'loss': 0.4657, 'grad_norm': 281.4331359863281, 'learning_rate': 6.716183181225555e-06, 'epoch': 3.28}
+{'loss': 0.2605, 'grad_norm': 19.737499237060547, 'learning_rate': 6.714146023468058e-06, 'epoch': 3.29}
+{'loss': 0.2628, 'grad_norm': 239.417724609375, 'learning_rate': 6.7121088657105615e-06, 'epoch': 3.29}
+{'loss': 0.3685, 'grad_norm': 348.0895080566406, 'learning_rate': 6.710071707953064e-06, 'epoch': 3.29}
+{'loss': 0.3451, 'grad_norm': 0.15560175478458405, 'learning_rate': 6.708034550195568e-06, 'epoch': 3.29}
+{'loss': 0.3009, 'grad_norm': 9.222390174865723, 'learning_rate': 6.705997392438071e-06, 'epoch': 3.29}
+{'loss': 0.4476, 'grad_norm': 197.4790802001953, 'learning_rate': 6.703960234680574e-06, 'epoch': 3.3}
+{'loss': 0.3839, 'grad_norm': 462.6235046386719, 'learning_rate': 6.701923076923077e-06, 'epoch': 3.3}
+{'loss': 0.2466, 'grad_norm': 65.50140380859375, 'learning_rate': 6.699885919165581e-06, 'epoch': 3.3}
+{'loss': 0.3055, 'grad_norm': 406.2666015625, 'learning_rate': 6.697848761408084e-06, 'epoch': 3.3}
+{'loss': 0.372, 'grad_norm': 0.9413204789161682, 'learning_rate': 6.6958116036505876e-06, 'epoch': 3.3}
+{'loss': 0.4366, 'grad_norm': 28.713600158691406, 'learning_rate': 6.693774445893091e-06, 'epoch': 3.31}
+{'loss': 0.336, 'grad_norm': 24.345365524291992, 'learning_rate': 6.6917372881355934e-06, 'epoch': 3.31}
+{'loss': 0.2376, 'grad_norm': 0.44393283128738403, 'learning_rate': 6.689700130378098e-06, 'epoch': 3.31}
+{'loss': 0.5309, 'grad_norm': 302.2952880859375, 'learning_rate': 6.6876629726206e-06, 'epoch': 3.31}
+{'loss': 0.2934, 'grad_norm': 28.598541259765625, 'learning_rate': 6.6856258148631035e-06, 'epoch': 3.31}
+{'loss': 0.2581, 'grad_norm': 0.8077532649040222, 'learning_rate': 6.683588657105606e-06, 'epoch': 3.32}
+{'loss': 0.2669, 'grad_norm': 97.81095886230469, 'learning_rate': 6.68155149934811e-06, 'epoch': 3.32}
+{'loss': 0.3008, 'grad_norm': 182.0206298828125, 'learning_rate': 6.679514341590614e-06, 'epoch': 3.32}
+{'loss': 0.3603, 'grad_norm': 0.03999331220984459, 'learning_rate': 6.677477183833116e-06, 'epoch': 3.32}
+{'loss': 0.3691, 'grad_norm': 1.0008634328842163, 'learning_rate': 6.67544002607562e-06, 'epoch': 3.32}
+{'loss': 0.419, 'grad_norm': 139.9644317626953, 'learning_rate': 6.673402868318123e-06, 'epoch': 3.33}
+{'loss': 0.476, 'grad_norm': 52.77053451538086, 'learning_rate': 6.671365710560626e-06, 'epoch': 3.33}
+{'loss': 0.4514, 'grad_norm': 112.056396484375, 'learning_rate': 6.66932855280313e-06, 'epoch': 3.33}
+{'loss': 0.3703, 'grad_norm': 0.6503466963768005, 'learning_rate': 6.667291395045633e-06, 'epoch': 3.33}
+{'loss': 0.3101, 'grad_norm': 159.61846923828125, 'learning_rate': 6.6652542372881355e-06, 'epoch': 3.33}
+{'loss': 0.2632, 'grad_norm': 132.83941650390625, 'learning_rate': 6.66321707953064e-06, 'epoch': 3.34}
+{'loss': 0.3359, 'grad_norm': 13.962789535522461, 'learning_rate': 6.661179921773143e-06, 'epoch': 3.34}
+{'loss': 0.2849, 'grad_norm': 82.50135803222656, 'learning_rate': 6.6591427640156456e-06, 'epoch': 3.34}
+{'loss': 0.2713, 'grad_norm': 1.7336581945419312, 'learning_rate': 6.65710560625815e-06, 'epoch': 3.34}
+{'loss': 0.3609, 'grad_norm': 98.24755096435547, 'learning_rate': 6.655068448500652e-06, 'epoch': 3.35}
+{'loss': 0.4666, 'grad_norm': 102.79296875, 'learning_rate': 6.653031290743156e-06, 'epoch': 3.35}
+{'loss': 0.3228, 'grad_norm': 17.6002197265625, 'learning_rate': 6.650994132985659e-06, 'epoch': 3.35}
+{'loss': 0.5244, 'grad_norm': 2.924668788909912, 'learning_rate': 6.648956975228162e-06, 'epoch': 3.35}
+{'loss': 0.4239, 'grad_norm': 0.7243786454200745, 'learning_rate': 6.646919817470665e-06, 'epoch': 3.35}
+{'loss': 0.2884, 'grad_norm': 85.24146270751953, 'learning_rate': 6.644882659713169e-06, 'epoch': 3.36}
+{'loss': 0.2778, 'grad_norm': 0.757271945476532, 'learning_rate': 6.642845501955672e-06, 'epoch': 3.36}
+{'loss': 0.3944, 'grad_norm': 342.2149353027344, 'learning_rate': 6.640808344198175e-06, 'epoch': 3.36}
+{'loss': 0.5052, 'grad_norm': 154.7287139892578, 'learning_rate': 6.638771186440679e-06, 'epoch': 3.36}
+{'loss': 0.3631, 'grad_norm': 0.3974462151527405, 'learning_rate': 6.636734028683182e-06, 'epoch': 3.36}
+{'loss': 0.3568, 'grad_norm': 199.6968536376953, 'learning_rate': 6.634696870925685e-06, 'epoch': 3.37}
+{'loss': 0.3866, 'grad_norm': 0.1334015130996704, 'learning_rate': 6.632659713168188e-06, 'epoch': 3.37}
+{'loss': 0.2945, 'grad_norm': 0.14836227893829346, 'learning_rate': 6.630622555410692e-06, 'epoch': 3.37}
+{'loss': 0.2732, 'grad_norm': 0.05582598224282265, 'learning_rate': 6.628585397653194e-06, 'epoch': 3.37}
+{'loss': 0.2208, 'grad_norm': 256.65802001953125, 'learning_rate': 6.6265482398956986e-06, 'epoch': 3.37}
+{'loss': 0.2725, 'grad_norm': 0.5183539390563965, 'learning_rate': 6.624511082138201e-06, 'epoch': 3.38}
+{'loss': 0.4855, 'grad_norm': 914.3464965820312, 'learning_rate': 6.6224739243807044e-06, 'epoch': 3.38}
+{'loss': 0.3027, 'grad_norm': 352.49688720703125, 'learning_rate': 6.620436766623209e-06, 'epoch': 3.38}
+{'loss': 0.3441, 'grad_norm': 120.57099151611328, 'learning_rate': 6.618399608865711e-06, 'epoch': 3.38}
+{'loss': 0.2888, 'grad_norm': 3.154949903488159, 'learning_rate': 6.6163624511082145e-06, 'epoch': 3.38}
+{'loss': 0.453, 'grad_norm': 130.40908813476562, 'learning_rate': 6.614325293350717e-06, 'epoch': 3.39}
+{'loss': 0.3156, 'grad_norm': 81.65121459960938, 'learning_rate': 6.612288135593221e-06, 'epoch': 3.39}
+{'loss': 0.4544, 'grad_norm': 203.68968200683594, 'learning_rate': 6.610250977835724e-06, 'epoch': 3.39}
+{'loss': 0.2752, 'grad_norm': 11.49215030670166, 'learning_rate': 6.608213820078227e-06, 'epoch': 3.39}
+{'loss': 0.6546, 'grad_norm': 189.81968688964844, 'learning_rate': 6.6061766623207305e-06, 'epoch': 3.39}
+{'loss': 0.4087, 'grad_norm': 17.65611457824707, 'learning_rate': 6.604139504563234e-06, 'epoch': 3.4}
+{'loss': 0.3005, 'grad_norm': 172.88487243652344, 'learning_rate': 6.602102346805738e-06, 'epoch': 3.4}
+{'loss': 0.2443, 'grad_norm': 199.34426879882812, 'learning_rate': 6.600065189048241e-06, 'epoch': 3.4}
+{'loss': 0.2698, 'grad_norm': 84.38256072998047, 'learning_rate': 6.598028031290744e-06, 'epoch': 3.4}
+{'loss': 0.3393, 'grad_norm': 238.29373168945312, 'learning_rate': 6.5959908735332465e-06, 'epoch': 3.4}
+{'loss': 0.5019, 'grad_norm': 0.2798879146575928, 'learning_rate': 6.593953715775751e-06, 'epoch': 3.41}
+{'loss': 0.2081, 'grad_norm': 310.4412841796875, 'learning_rate': 6.591916558018253e-06, 'epoch': 3.41}
+{'loss': 0.2192, 'grad_norm': 2.3200831413269043, 'learning_rate': 6.589879400260757e-06, 'epoch': 3.41}
+{'loss': 0.4263, 'grad_norm': 418.65631103515625, 'learning_rate': 6.58784224250326e-06, 'epoch': 3.41}
+{'loss': 0.3106, 'grad_norm': 56.27693176269531, 'learning_rate': 6.585805084745763e-06, 'epoch': 3.41}
+{'loss': 0.4529, 'grad_norm': 173.43148803710938, 'learning_rate': 6.583767926988267e-06, 'epoch': 3.42}
+{'loss': 0.3516, 'grad_norm': 0.0440622977912426, 'learning_rate': 6.58173076923077e-06, 'epoch': 3.42}
+{'loss': 0.3775, 'grad_norm': 55.472145080566406, 'learning_rate': 6.579693611473273e-06, 'epoch': 3.42}
+{'loss': 0.5166, 'grad_norm': 0.26888686418533325, 'learning_rate': 6.577656453715776e-06, 'epoch': 3.42}
+{'loss': 0.5087, 'grad_norm': 18.113161087036133, 'learning_rate': 6.57561929595828e-06, 'epoch': 3.42}
+{'loss': 0.3879, 'grad_norm': 2.9027504920959473, 'learning_rate': 6.573582138200783e-06, 'epoch': 3.43}
+{'loss': 0.3687, 'grad_norm': 29.266456604003906, 'learning_rate': 6.571544980443286e-06, 'epoch': 3.43}
+{'loss': 0.2508, 'grad_norm': 1.6402029991149902, 'learning_rate': 6.5695078226857885e-06, 'epoch': 3.43}
+{'loss': 0.4102, 'grad_norm': 295.53350830078125, 'learning_rate': 6.567470664928293e-06, 'epoch': 3.43}
+{'loss': 0.2568, 'grad_norm': 6.725258827209473, 'learning_rate': 6.565433507170795e-06, 'epoch': 3.43}
+{'loss': 0.484, 'grad_norm': 293.75506591796875, 'learning_rate': 6.5633963494132995e-06, 'epoch': 3.44}
+{'loss': 0.3663, 'grad_norm': 185.04672241210938, 'learning_rate': 6.561359191655803e-06, 'epoch': 3.44}
+{'loss': 0.2665, 'grad_norm': 0.081386499106884, 'learning_rate': 6.559322033898305e-06, 'epoch': 3.44}
+{'loss': 0.3481, 'grad_norm': 75.00205993652344, 'learning_rate': 6.5572848761408096e-06, 'epoch': 3.44}
+{'loss': 0.5309, 'grad_norm': 419.3001708984375, 'learning_rate': 6.555247718383312e-06, 'epoch': 3.44}
+{'loss': 0.3537, 'grad_norm': 0.5553234815597534, 'learning_rate': 6.5532105606258154e-06, 'epoch': 3.45}
+{'loss': 0.3352, 'grad_norm': 316.5888366699219, 'learning_rate': 6.551173402868318e-06, 'epoch': 3.45}
+{'loss': 0.272, 'grad_norm': 270.2140197753906, 'learning_rate': 6.549136245110822e-06, 'epoch': 3.45}
+{'loss': 0.1555, 'grad_norm': 41.84587478637695, 'learning_rate': 6.547099087353325e-06, 'epoch': 3.45}
+{'loss': 0.3821, 'grad_norm': 0.5097331404685974, 'learning_rate': 6.545061929595828e-06, 'epoch': 3.46}
+{'loss': 0.1994, 'grad_norm': 1.3129996061325073, 'learning_rate': 6.543024771838332e-06, 'epoch': 3.46}
+{'loss': 0.3895, 'grad_norm': 285.1173400878906, 'learning_rate': 6.540987614080835e-06, 'epoch': 3.46}
+{'loss': 0.3183, 'grad_norm': 113.97494506835938, 'learning_rate': 6.538950456323339e-06, 'epoch': 3.46}
+{'loss': 0.3578, 'grad_norm': 125.49011993408203, 'learning_rate': 6.5369132985658415e-06, 'epoch': 3.46}
+{'loss': 0.3639, 'grad_norm': 4.583764553070068, 'learning_rate': 6.534876140808345e-06, 'epoch': 3.47}
+{'loss': 0.2879, 'grad_norm': 10.932557106018066, 'learning_rate': 6.532838983050847e-06, 'epoch': 3.47}
+{'loss': 0.4099, 'grad_norm': 54.323890686035156, 'learning_rate': 6.530801825293352e-06, 'epoch': 3.47}
+{'loss': 0.242, 'grad_norm': 499.3205871582031, 'learning_rate': 6.528764667535854e-06, 'epoch': 3.47}
+{'loss': 0.4331, 'grad_norm': 23.48529815673828, 'learning_rate': 6.5267275097783575e-06, 'epoch': 3.47}
+{'loss': 0.2109, 'grad_norm': 39.84963607788086, 'learning_rate': 6.524690352020862e-06, 'epoch': 3.48}
+{'loss': 0.3395, 'grad_norm': 94.33282470703125, 'learning_rate': 6.522653194263364e-06, 'epoch': 3.48}
+{'loss': 0.4444, 'grad_norm': 187.81858825683594, 'learning_rate': 6.520616036505868e-06, 'epoch': 3.48}
+{'loss': 0.4986, 'grad_norm': 106.82793426513672, 'learning_rate': 6.518578878748371e-06, 'epoch': 3.48}
+{'loss': 0.3391, 'grad_norm': 15.96333122253418, 'learning_rate': 6.516541720990874e-06, 'epoch': 3.48}
+{'loss': 0.4459, 'grad_norm': 2.7528672218322754, 'learning_rate': 6.514504563233377e-06, 'epoch': 3.49}
+{'loss': 0.5977, 'grad_norm': 0.5304648280143738, 'learning_rate': 6.512467405475881e-06, 'epoch': 3.49}
+{'loss': 0.3213, 'grad_norm': 0.06600852310657501, 'learning_rate': 6.5104302477183836e-06, 'epoch': 3.49}
+{'loss': 0.4707, 'grad_norm': 2.1041488647460938, 'learning_rate': 6.508393089960887e-06, 'epoch': 3.49}
+{'loss': 0.3535, 'grad_norm': 668.9942016601562, 'learning_rate': 6.506355932203391e-06, 'epoch': 3.49}
+{'loss': 0.4287, 'grad_norm': 0.6307376623153687, 'learning_rate': 6.504318774445894e-06, 'epoch': 3.5}
+{'loss': 0.3703, 'grad_norm': 366.3572692871094, 'learning_rate': 6.502281616688397e-06, 'epoch': 3.5}
+{'loss': 0.4878, 'grad_norm': 122.05999755859375, 'learning_rate': 6.5002444589308995e-06, 'epoch': 3.5}
+{'loss': 0.366, 'grad_norm': 101.02143859863281, 'learning_rate': 6.498207301173404e-06, 'epoch': 3.5}
+{'loss': 0.2399, 'grad_norm': 20.68567657470703, 'learning_rate': 6.496170143415906e-06, 'epoch': 3.5}
+{'loss': 0.3668, 'grad_norm': 249.43341064453125, 'learning_rate': 6.4941329856584105e-06, 'epoch': 3.51}
+{'loss': 0.2956, 'grad_norm': 0.3573140501976013, 'learning_rate': 6.492095827900913e-06, 'epoch': 3.51}
+{'loss': 0.2586, 'grad_norm': 4.091756343841553, 'learning_rate': 6.490058670143416e-06, 'epoch': 3.51}
+{'loss': 0.3745, 'grad_norm': 570.7382202148438, 'learning_rate': 6.488021512385919e-06, 'epoch': 3.51}
+{'loss': 0.433, 'grad_norm': 37.66495132446289, 'learning_rate': 6.485984354628423e-06, 'epoch': 3.51}
+{'loss': 0.3289, 'grad_norm': 0.4764039218425751, 'learning_rate': 6.4839471968709265e-06, 'epoch': 3.52}
+{'loss': 0.3966, 'grad_norm': 334.24993896484375, 'learning_rate': 6.481910039113429e-06, 'epoch': 3.52}
+{'loss': 0.4514, 'grad_norm': 591.2066040039062, 'learning_rate': 6.479872881355933e-06, 'epoch': 3.52}
+{'loss': 0.2839, 'grad_norm': 2.6719439029693604, 'learning_rate': 6.477835723598436e-06, 'epoch': 3.52}
+{'loss': 0.2853, 'grad_norm': 2.6144769191741943, 'learning_rate': 6.475798565840939e-06, 'epoch': 3.52}
+{'loss': 0.3981, 'grad_norm': 105.99820709228516, 'learning_rate': 6.4737614080834424e-06, 'epoch': 3.53}
+{'loss': 0.5006, 'grad_norm': 4.172642230987549, 'learning_rate': 6.471724250325946e-06, 'epoch': 3.53}
+{'loss': 0.3153, 'grad_norm': 263.92279052734375, 'learning_rate': 6.469687092568448e-06, 'epoch': 3.53}
+{'loss': 0.2362, 'grad_norm': 0.35609668493270874, 'learning_rate': 6.4676499348109525e-06, 'epoch': 3.53}
+{'loss': 0.3516, 'grad_norm': 279.7421569824219, 'learning_rate': 6.465612777053456e-06, 'epoch': 3.53}
+{'loss': 0.3307, 'grad_norm': 37.88174819946289, 'learning_rate': 6.463575619295958e-06, 'epoch': 3.54}
+{'loss': 0.4238, 'grad_norm': 25.494434356689453, 'learning_rate': 6.461538461538463e-06, 'epoch': 3.54}
+{'loss': 0.3288, 'grad_norm': 17.722890853881836, 'learning_rate': 6.459501303780965e-06, 'epoch': 3.54}
+{'loss': 0.1331, 'grad_norm': 10.11202621459961, 'learning_rate': 6.4574641460234685e-06, 'epoch': 3.54}
+{'loss': 0.483, 'grad_norm': 79.96184539794922, 'learning_rate': 6.455426988265972e-06, 'epoch': 3.54}
+{'loss': 0.4807, 'grad_norm': 18.698328018188477, 'learning_rate': 6.453389830508475e-06, 'epoch': 3.55}
+{'loss': 0.4991, 'grad_norm': 435.26898193359375, 'learning_rate': 6.451352672750978e-06, 'epoch': 3.55}
+{'loss': 0.3876, 'grad_norm': 0.8344388604164124, 'learning_rate': 6.449315514993482e-06, 'epoch': 3.55}
+{'loss': 0.2959, 'grad_norm': 0.16616109013557434, 'learning_rate': 6.447278357235985e-06, 'epoch': 3.55}
+{'loss': 0.4051, 'grad_norm': 0.7387564182281494, 'learning_rate': 6.445241199478488e-06, 'epoch': 3.55}
+{'loss': 0.3873, 'grad_norm': 152.030029296875, 'learning_rate': 6.443204041720992e-06, 'epoch': 3.56}
+{'loss': 0.4851, 'grad_norm': 1.1603856086730957, 'learning_rate': 6.4411668839634946e-06, 'epoch': 3.56}
+{'loss': 0.4566, 'grad_norm': 309.05853271484375, 'learning_rate': 6.439129726205998e-06, 'epoch': 3.56}
+{'loss': 0.4297, 'grad_norm': 123.92369079589844, 'learning_rate': 6.4370925684485004e-06, 'epoch': 3.56}
+{'loss': 0.4668, 'grad_norm': 147.75701904296875, 'learning_rate': 6.435055410691005e-06, 'epoch': 3.57}
+{'loss': 0.3572, 'grad_norm': 292.2611083984375, 'learning_rate': 6.433018252933507e-06, 'epoch': 3.57}
+{'loss': 0.3287, 'grad_norm': 77.01689910888672, 'learning_rate': 6.430981095176011e-06, 'epoch': 3.57}
+{'loss': 0.4269, 'grad_norm': 0.13122135400772095, 'learning_rate': 6.428943937418515e-06, 'epoch': 3.57}
+{'loss': 0.2864, 'grad_norm': 19.88709259033203, 'learning_rate': 6.426906779661017e-06, 'epoch': 3.57}
+{'loss': 0.4273, 'grad_norm': 168.11489868164062, 'learning_rate': 6.4248696219035215e-06, 'epoch': 3.58}
+{'loss': 0.3336, 'grad_norm': 40.992069244384766, 'learning_rate': 6.422832464146024e-06, 'epoch': 3.58}
+{'loss': 0.3731, 'grad_norm': 68.46453857421875, 'learning_rate': 6.420795306388527e-06, 'epoch': 3.58}
+{'loss': 0.4753, 'grad_norm': 238.46127319335938, 'learning_rate': 6.41875814863103e-06, 'epoch': 3.58}
+{'loss': 0.2848, 'grad_norm': 99.46595001220703, 'learning_rate': 6.416720990873534e-06, 'epoch': 3.58}
+{'loss': 0.233, 'grad_norm': 0.2736532688140869, 'learning_rate': 6.414683833116037e-06, 'epoch': 3.59}
+{'loss': 0.373, 'grad_norm': 3.532973527908325, 'learning_rate': 6.41264667535854e-06, 'epoch': 3.59}
+{'loss': 0.3771, 'grad_norm': 53.99372100830078, 'learning_rate': 6.410609517601043e-06, 'epoch': 3.59}
+{'loss': 0.2545, 'grad_norm': 0.7712019681930542, 'learning_rate': 6.408572359843547e-06, 'epoch': 3.59}
+{'loss': 0.4512, 'grad_norm': 194.33958435058594, 'learning_rate': 6.406535202086051e-06, 'epoch': 3.59}
+{'loss': 0.3663, 'grad_norm': 0.12711192667484283, 'learning_rate': 6.4044980443285534e-06, 'epoch': 3.6}
+{'loss': 0.3809, 'grad_norm': 0.8064517974853516, 'learning_rate': 6.402460886571057e-06, 'epoch': 3.6}
+{'loss': 0.34, 'grad_norm': 0.03935705125331879, 'learning_rate': 6.400423728813559e-06, 'epoch': 3.6}
+{'loss': 0.4637, 'grad_norm': 0.6506665349006653, 'learning_rate': 6.3983865710560635e-06, 'epoch': 3.6}
+{'loss': 0.3441, 'grad_norm': 357.38409423828125, 'learning_rate': 6.396349413298566e-06, 'epoch': 3.6}
+{'loss': 0.5879, 'grad_norm': 82.18993377685547, 'learning_rate': 6.394312255541069e-06, 'epoch': 3.61}
+{'loss': 0.506, 'grad_norm': 235.89724731445312, 'learning_rate': 6.392275097783573e-06, 'epoch': 3.61}
+{'loss': 0.4031, 'grad_norm': 65.05972290039062, 'learning_rate': 6.390237940026076e-06, 'epoch': 3.61}
+{'loss': 0.2015, 'grad_norm': 0.10777024924755096, 'learning_rate': 6.3882007822685795e-06, 'epoch': 3.61}
+{'loss': 0.2637, 'grad_norm': 346.4919738769531, 'learning_rate': 6.386163624511083e-06, 'epoch': 3.61}
+{'loss': 0.5247, 'grad_norm': 36.92687225341797, 'learning_rate': 6.384126466753586e-06, 'epoch': 3.62}
+{'loss': 0.2991, 'grad_norm': 123.59123992919922, 'learning_rate': 6.382089308996089e-06, 'epoch': 3.62}
+{'loss': 0.4036, 'grad_norm': 7.7657341957092285, 'learning_rate': 6.380052151238593e-06, 'epoch': 3.62}
+{'loss': 0.314, 'grad_norm': 54.31285095214844, 'learning_rate': 6.3780149934810955e-06, 'epoch': 3.62}
+{'loss': 0.6695, 'grad_norm': 217.3797149658203, 'learning_rate': 6.375977835723599e-06, 'epoch': 3.62}
+{'loss': 0.4445, 'grad_norm': 123.84366607666016, 'learning_rate': 6.373940677966101e-06, 'epoch': 3.63}
+{'loss': 0.442, 'grad_norm': 0.17766302824020386, 'learning_rate': 6.3719035202086056e-06, 'epoch': 3.63}
+{'loss': 0.2788, 'grad_norm': 0.09766003489494324, 'learning_rate': 6.369866362451109e-06, 'epoch': 3.63}
+{'loss': 0.1968, 'grad_norm': 258.1527404785156, 'learning_rate': 6.3678292046936115e-06, 'epoch': 3.63}
+{'loss': 0.3671, 'grad_norm': 3.101531744003296, 'learning_rate': 6.365792046936116e-06, 'epoch': 3.63}
+{'loss': 0.3254, 'grad_norm': 0.060623899102211, 'learning_rate': 6.363754889178618e-06, 'epoch': 3.64}
+{'loss': 0.2998, 'grad_norm': 198.02317810058594, 'learning_rate': 6.361717731421122e-06, 'epoch': 3.64}
+{'loss': 0.3946, 'grad_norm': 241.6217041015625, 'learning_rate': 6.359680573663625e-06, 'epoch': 3.64}
+{'loss': 0.25, 'grad_norm': 0.9768289923667908, 'learning_rate': 6.357643415906128e-06, 'epoch': 3.64}
+{'loss': 0.4569, 'grad_norm': 44.21196365356445, 'learning_rate': 6.355606258148631e-06, 'epoch': 3.64}
+{'loss': 0.2915, 'grad_norm': 247.0022430419922, 'learning_rate': 6.353569100391135e-06, 'epoch': 3.65}
+{'loss': 0.3791, 'grad_norm': 0.0908922627568245, 'learning_rate': 6.351531942633638e-06, 'epoch': 3.65}
+{'loss': 0.4621, 'grad_norm': 39.18606185913086, 'learning_rate': 6.349494784876141e-06, 'epoch': 3.65}
+{'loss': 0.5536, 'grad_norm': 221.91738891601562, 'learning_rate': 6.347457627118645e-06, 'epoch': 3.65}
+{'loss': 0.2891, 'grad_norm': 38.759765625, 'learning_rate': 6.345420469361148e-06, 'epoch': 3.65}
+{'loss': 0.3836, 'grad_norm': 0.46512913703918457, 'learning_rate': 6.343383311603651e-06, 'epoch': 3.66}
+{'loss': 0.485, 'grad_norm': 549.0111694335938, 'learning_rate': 6.341346153846154e-06, 'epoch': 3.66}
+{'loss': 0.5151, 'grad_norm': 512.587646484375, 'learning_rate': 6.339308996088658e-06, 'epoch': 3.66}
+{'loss': 0.3832, 'grad_norm': 3.7712085247039795, 'learning_rate': 6.33727183833116e-06, 'epoch': 3.66}
+{'loss': 0.5608, 'grad_norm': 40.755653381347656, 'learning_rate': 6.3352346805736644e-06, 'epoch': 3.66}
+{'loss': 0.2249, 'grad_norm': 1.7100400924682617, 'learning_rate': 6.333197522816168e-06, 'epoch': 3.67}
+{'eval_loss': 6.682454586029053, 'eval_accuracy': 0.7184738955823293, 'eval_runtime': 1.3512, 'eval_samples_per_second': 1842.76, 'eval_steps_per_second': 57.725, 'epoch': 3.67}
+{'loss': 0.3327, 'grad_norm': 241.95162963867188, 'learning_rate': 6.33116036505867e-06, 'epoch': 3.67}
+{'loss': 0.4087, 'grad_norm': 89.74113464355469, 'learning_rate': 6.3291232073011745e-06, 'epoch': 3.67}
+{'loss': 0.5152, 'grad_norm': 238.831787109375, 'learning_rate': 6.327086049543677e-06, 'epoch': 3.67}
+{'loss': 0.4089, 'grad_norm': 38.319156646728516, 'learning_rate': 6.32504889178618e-06, 'epoch': 3.68}
+{'loss': 0.3156, 'grad_norm': 66.21269226074219, 'learning_rate': 6.323011734028684e-06, 'epoch': 3.68}
+{'loss': 0.337, 'grad_norm': 183.33615112304688, 'learning_rate': 6.320974576271187e-06, 'epoch': 3.68}
+{'loss': 0.3884, 'grad_norm': 119.32140350341797, 'learning_rate': 6.31893741851369e-06, 'epoch': 3.68}
+{'loss': 0.4346, 'grad_norm': 97.34393310546875, 'learning_rate': 6.316900260756194e-06, 'epoch': 3.68}
+{'loss': 0.3458, 'grad_norm': 24.94706153869629, 'learning_rate': 6.314863102998696e-06, 'epoch': 3.69}
+{'loss': 0.4853, 'grad_norm': 13.302570343017578, 'learning_rate': 6.3128259452412e-06, 'epoch': 3.69}
+{'loss': 0.2377, 'grad_norm': 1.6650162935256958, 'learning_rate': 6.310788787483704e-06, 'epoch': 3.69}
+{'loss': 0.356, 'grad_norm': 0.7497886419296265, 'learning_rate': 6.3087516297262065e-06, 'epoch': 3.69}
+{'loss': 0.1575, 'grad_norm': 1.9263033866882324, 'learning_rate': 6.30671447196871e-06, 'epoch': 3.69}
+{'loss': 0.4062, 'grad_norm': 1.2016741037368774, 'learning_rate': 6.304677314211212e-06, 'epoch': 3.7}
+{'loss': 0.5731, 'grad_norm': 6.031540870666504, 'learning_rate': 6.302640156453717e-06, 'epoch': 3.7}
+{'loss': 0.3783, 'grad_norm': 240.4433135986328, 'learning_rate': 6.300602998696219e-06, 'epoch': 3.7}
+{'loss': 0.4693, 'grad_norm': 52.57395553588867, 'learning_rate': 6.298565840938723e-06, 'epoch': 3.7}
+{'loss': 0.2801, 'grad_norm': 164.72042846679688, 'learning_rate': 6.296528683181226e-06, 'epoch': 3.7}
+{'loss': 0.4277, 'grad_norm': 1.5575028657913208, 'learning_rate': 6.294491525423729e-06, 'epoch': 3.71}
+{'loss': 0.3459, 'grad_norm': 91.47281646728516, 'learning_rate': 6.292454367666233e-06, 'epoch': 3.71}
+{'loss': 0.6688, 'grad_norm': 0.14534994959831238, 'learning_rate': 6.290417209908736e-06, 'epoch': 3.71}
+{'loss': 0.4464, 'grad_norm': 224.2707061767578, 'learning_rate': 6.288380052151239e-06, 'epoch': 3.71}
+{'loss': 0.5043, 'grad_norm': 0.629372239112854, 'learning_rate': 6.286342894393742e-06, 'epoch': 3.71}
+{'loss': 0.3383, 'grad_norm': 17.566301345825195, 'learning_rate': 6.284305736636246e-06, 'epoch': 3.72}
+{'loss': 0.3336, 'grad_norm': 12.7589693069458, 'learning_rate': 6.2822685788787485e-06, 'epoch': 3.72}
+{'loss': 0.4789, 'grad_norm': 185.18702697753906, 'learning_rate': 6.280231421121252e-06, 'epoch': 3.72}
+{'loss': 0.297, 'grad_norm': 63.37980651855469, 'learning_rate': 6.278194263363755e-06, 'epoch': 3.72}
+{'loss': 0.5478, 'grad_norm': 19.386491775512695, 'learning_rate': 6.276157105606259e-06, 'epoch': 3.72}
+{'loss': 0.237, 'grad_norm': 0.20527204871177673, 'learning_rate': 6.274119947848763e-06, 'epoch': 3.73}
+{'loss': 0.3133, 'grad_norm': 180.22706604003906, 'learning_rate': 6.272082790091265e-06, 'epoch': 3.73}
+{'loss': 0.5865, 'grad_norm': 45.201744079589844, 'learning_rate': 6.270045632333769e-06, 'epoch': 3.73}
+{'loss': 0.1885, 'grad_norm': 0.40088286995887756, 'learning_rate': 6.268008474576271e-06, 'epoch': 3.73}
+{'loss': 0.3207, 'grad_norm': 121.07785034179688, 'learning_rate': 6.2659713168187754e-06, 'epoch': 3.73}
+{'loss': 0.4407, 'grad_norm': 242.81521606445312, 'learning_rate': 6.263934159061278e-06, 'epoch': 3.74}
+{'loss': 0.3993, 'grad_norm': 0.18509981036186218, 'learning_rate': 6.261897001303781e-06, 'epoch': 3.74}
+{'loss': 0.49, 'grad_norm': 3.766787052154541, 'learning_rate': 6.259859843546285e-06, 'epoch': 3.74}
+{'loss': 0.378, 'grad_norm': 56.40510177612305, 'learning_rate': 6.257822685788788e-06, 'epoch': 3.74}
+{'loss': 0.3653, 'grad_norm': 51.1159782409668, 'learning_rate': 6.255785528031291e-06, 'epoch': 3.74}
+{'loss': 0.2795, 'grad_norm': 0.11471814662218094, 'learning_rate': 6.253748370273795e-06, 'epoch': 3.75}
+{'loss': 0.3309, 'grad_norm': 0.8563855886459351, 'learning_rate': 6.251711212516298e-06, 'epoch': 3.75}
+{'loss': 0.3856, 'grad_norm': 159.55078125, 'learning_rate': 6.249674054758801e-06, 'epoch': 3.75}
+{'loss': 0.3181, 'grad_norm': 379.2359619140625, 'learning_rate': 6.247636897001305e-06, 'epoch': 3.75}
+{'loss': 0.5045, 'grad_norm': 222.86546325683594, 'learning_rate': 6.245599739243807e-06, 'epoch': 3.75}
+{'loss': 0.42, 'grad_norm': 284.3663635253906, 'learning_rate': 6.243562581486311e-06, 'epoch': 3.76}
+{'loss': 0.3172, 'grad_norm': 0.4805005192756653, 'learning_rate': 6.241525423728813e-06, 'epoch': 3.76}
+{'loss': 0.4224, 'grad_norm': 16.330921173095703, 'learning_rate': 6.2394882659713175e-06, 'epoch': 3.76}
+{'loss': 0.4381, 'grad_norm': 584.0101928710938, 'learning_rate': 6.23745110821382e-06, 'epoch': 3.76}
+{'loss': 0.614, 'grad_norm': 364.2957763671875, 'learning_rate': 6.235413950456324e-06, 'epoch': 3.76}
+{'loss': 0.3532, 'grad_norm': 194.6331024169922, 'learning_rate': 6.233376792698828e-06, 'epoch': 3.77}
+{'loss': 0.385, 'grad_norm': 53.00302505493164, 'learning_rate': 6.23133963494133e-06, 'epoch': 3.77}
+{'loss': 0.3845, 'grad_norm': 165.00259399414062, 'learning_rate': 6.229302477183834e-06, 'epoch': 3.77}
+{'loss': 0.418, 'grad_norm': 41.533660888671875, 'learning_rate': 6.227265319426337e-06, 'epoch': 3.77}
+{'loss': 0.34, 'grad_norm': 443.53643798828125, 'learning_rate': 6.22522816166884e-06, 'epoch': 3.77}
+{'loss': 0.4635, 'grad_norm': 396.7629699707031, 'learning_rate': 6.223191003911343e-06, 'epoch': 3.78}
+{'loss': 0.3073, 'grad_norm': 386.7724304199219, 'learning_rate': 6.221153846153847e-06, 'epoch': 3.78}
+{'loss': 0.3747, 'grad_norm': 176.12335205078125, 'learning_rate': 6.2191166883963494e-06, 'epoch': 3.78}
+{'loss': 0.3001, 'grad_norm': 0.06089162826538086, 'learning_rate': 6.217079530638853e-06, 'epoch': 3.78}
+{'loss': 0.4054, 'grad_norm': 184.7255859375, 'learning_rate': 6.215042372881357e-06, 'epoch': 3.79}
+{'loss': 0.5137, 'grad_norm': 73.18096923828125, 'learning_rate': 6.2130052151238595e-06, 'epoch': 3.79}
+{'loss': 0.2905, 'grad_norm': 0.29107722640037537, 'learning_rate': 6.210968057366363e-06, 'epoch': 3.79}
+{'loss': 0.1735, 'grad_norm': 57.21990966796875, 'learning_rate': 6.208930899608866e-06, 'epoch': 3.79}
+{'loss': 0.3133, 'grad_norm': 15.733847618103027, 'learning_rate': 6.20689374185137e-06, 'epoch': 3.79}
+{'loss': 0.374, 'grad_norm': 155.29867553710938, 'learning_rate': 6.204856584093872e-06, 'epoch': 3.8}
+{'loss': 0.1525, 'grad_norm': 0.1631687730550766, 'learning_rate': 6.202819426336376e-06, 'epoch': 3.8}
+{'loss': 0.3755, 'grad_norm': 0.14589211344718933, 'learning_rate': 6.200782268578879e-06, 'epoch': 3.8}
+{'loss': 0.1504, 'grad_norm': 524.0426025390625, 'learning_rate': 6.198745110821382e-06, 'epoch': 3.8}
+{'loss': 0.3752, 'grad_norm': 38.83213806152344, 'learning_rate': 6.1967079530638865e-06, 'epoch': 3.8}
+{'loss': 0.4302, 'grad_norm': 54.82858657836914, 'learning_rate': 6.194670795306389e-06, 'epoch': 3.81}
+{'loss': 0.3985, 'grad_norm': 430.7718811035156, 'learning_rate': 6.192633637548892e-06, 'epoch': 3.81}
+{'loss': 0.2751, 'grad_norm': 61.76259994506836, 'learning_rate': 6.190596479791396e-06, 'epoch': 3.81}
+{'loss': 0.4169, 'grad_norm': 196.7694549560547, 'learning_rate': 6.188559322033899e-06, 'epoch': 3.81}
+{'loss': 0.4645, 'grad_norm': 80.16067504882812, 'learning_rate': 6.186522164276402e-06, 'epoch': 3.81}
+{'loss': 0.4568, 'grad_norm': 341.6486511230469, 'learning_rate': 6.184485006518906e-06, 'epoch': 3.82}
+{'loss': 0.3575, 'grad_norm': 0.8554286360740662, 'learning_rate': 6.182447848761408e-06, 'epoch': 3.82}
+{'loss': 0.2944, 'grad_norm': 107.47041320800781, 'learning_rate': 6.180410691003912e-06, 'epoch': 3.82}
+{'loss': 0.4549, 'grad_norm': 295.4792785644531, 'learning_rate': 6.178373533246416e-06, 'epoch': 3.82}
+{'loss': 0.4056, 'grad_norm': 0.6403025984764099, 'learning_rate': 6.176336375488918e-06, 'epoch': 3.82}
+{'loss': 0.3054, 'grad_norm': 9.872699737548828, 'learning_rate': 6.174299217731422e-06, 'epoch': 3.83}
+{'loss': 0.3003, 'grad_norm': 267.5495910644531, 'learning_rate': 6.172262059973924e-06, 'epoch': 3.83}
+{'loss': 0.4265, 'grad_norm': 0.9202675223350525, 'learning_rate': 6.1702249022164285e-06, 'epoch': 3.83}
+{'loss': 0.3117, 'grad_norm': 32.619422912597656, 'learning_rate': 6.168187744458931e-06, 'epoch': 3.83}
+{'loss': 0.5286, 'grad_norm': 93.75260162353516, 'learning_rate': 6.166150586701435e-06, 'epoch': 3.83}
+{'loss': 0.4164, 'grad_norm': 0.11642713099718094, 'learning_rate': 6.164113428943938e-06, 'epoch': 3.84}
+{'loss': 0.3506, 'grad_norm': 4.230129241943359, 'learning_rate': 6.162076271186441e-06, 'epoch': 3.84}
+{'loss': 0.4453, 'grad_norm': 58.94389724731445, 'learning_rate': 6.160039113428944e-06, 'epoch': 3.84}
+{'loss': 0.4054, 'grad_norm': 119.18531799316406, 'learning_rate': 6.158001955671448e-06, 'epoch': 3.84}
+{'loss': 0.3364, 'grad_norm': 3.3988535404205322, 'learning_rate': 6.155964797913951e-06, 'epoch': 3.84}
+{'loss': 0.4436, 'grad_norm': 0.7337481379508972, 'learning_rate': 6.153927640156454e-06, 'epoch': 3.85}
+{'loss': 0.3887, 'grad_norm': 63.029048919677734, 'learning_rate': 6.151890482398958e-06, 'epoch': 3.85}
+{'loss': 0.4696, 'grad_norm': 260.57818603515625, 'learning_rate': 6.1498533246414604e-06, 'epoch': 3.85}
+{'loss': 0.3498, 'grad_norm': 171.66761779785156, 'learning_rate': 6.147816166883964e-06, 'epoch': 3.85}
+{'loss': 0.2221, 'grad_norm': 36.582374572753906, 'learning_rate': 6.145779009126467e-06, 'epoch': 3.85}
+{'loss': 0.4792, 'grad_norm': 6.225701808929443, 'learning_rate': 6.1437418513689705e-06, 'epoch': 3.86}
+{'loss': 0.2364, 'grad_norm': 0.6894668340682983, 'learning_rate': 6.141704693611473e-06, 'epoch': 3.86}
+{'loss': 0.3757, 'grad_norm': 118.75821685791016, 'learning_rate': 6.139667535853977e-06, 'epoch': 3.86}
+{'loss': 0.4678, 'grad_norm': 0.6348024606704712, 'learning_rate': 6.137630378096481e-06, 'epoch': 3.86}
+{'loss': 0.5048, 'grad_norm': 351.9119567871094, 'learning_rate': 6.135593220338983e-06, 'epoch': 3.86}
+{'loss': 0.4815, 'grad_norm': 159.5378875732422, 'learning_rate': 6.133556062581487e-06, 'epoch': 3.87}
+{'loss': 0.399, 'grad_norm': 5.926084995269775, 'learning_rate': 6.13151890482399e-06, 'epoch': 3.87}
+{'loss': 0.4791, 'grad_norm': 88.06356048583984, 'learning_rate': 6.129481747066493e-06, 'epoch': 3.87}
+{'loss': 0.2839, 'grad_norm': 9.04139232635498, 'learning_rate': 6.127444589308997e-06, 'epoch': 3.87}
+{'loss': 0.2947, 'grad_norm': 146.07557678222656, 'learning_rate': 6.1254074315515e-06, 'epoch': 3.87}
+{'loss': 0.3518, 'grad_norm': 0.25323522090911865, 'learning_rate': 6.1233702737940025e-06, 'epoch': 3.88}
+{'loss': 0.5028, 'grad_norm': 101.82288360595703, 'learning_rate': 6.121333116036507e-06, 'epoch': 3.88}
+{'loss': 0.3196, 'grad_norm': 460.0680236816406, 'learning_rate': 6.11929595827901e-06, 'epoch': 3.88}
+{'loss': 0.455, 'grad_norm': 3.301652193069458, 'learning_rate': 6.117258800521513e-06, 'epoch': 3.88}
+{'loss': 0.3112, 'grad_norm': 32.213985443115234, 'learning_rate': 6.115221642764017e-06, 'epoch': 3.88}
+{'loss': 0.2811, 'grad_norm': 34.69480895996094, 'learning_rate': 6.113184485006519e-06, 'epoch': 3.89}
+{'loss': 0.4459, 'grad_norm': 161.27853393554688, 'learning_rate': 6.111147327249023e-06, 'epoch': 3.89}
+{'loss': 0.4659, 'grad_norm': 7.422534465789795, 'learning_rate': 6.109110169491525e-06, 'epoch': 3.89}
+{'loss': 0.5265, 'grad_norm': 140.00599670410156, 'learning_rate': 6.107073011734029e-06, 'epoch': 3.89}
+{'loss': 0.4357, 'grad_norm': 170.0756378173828, 'learning_rate': 6.105035853976532e-06, 'epoch': 3.9}
+{'loss': 0.3137, 'grad_norm': 0.4362233579158783, 'learning_rate': 6.102998696219036e-06, 'epoch': 3.9}
+{'loss': 0.4058, 'grad_norm': 326.2687072753906, 'learning_rate': 6.1009615384615395e-06, 'epoch': 3.9}
+{'loss': 0.2859, 'grad_norm': 190.4131622314453, 'learning_rate': 6.098924380704042e-06, 'epoch': 3.9}
+{'loss': 0.2659, 'grad_norm': 183.9523162841797, 'learning_rate': 6.096887222946546e-06, 'epoch': 3.9}
+{'loss': 0.4279, 'grad_norm': 0.11823270469903946, 'learning_rate': 6.094850065189049e-06, 'epoch': 3.91}
+{'loss': 0.5098, 'grad_norm': 22.04063606262207, 'learning_rate': 6.092812907431552e-06, 'epoch': 3.91}
+{'loss': 0.3653, 'grad_norm': 7.133671760559082, 'learning_rate': 6.090775749674055e-06, 'epoch': 3.91}
+{'loss': 0.3937, 'grad_norm': 137.17486572265625, 'learning_rate': 6.088738591916559e-06, 'epoch': 3.91}
+{'loss': 0.2945, 'grad_norm': 0.31020694971084595, 'learning_rate': 6.086701434159061e-06, 'epoch': 3.91}
+{'loss': 0.3058, 'grad_norm': 175.07525634765625, 'learning_rate': 6.084664276401565e-06, 'epoch': 3.92}
+{'loss': 0.3959, 'grad_norm': 189.59153747558594, 'learning_rate': 6.082627118644068e-06, 'epoch': 3.92}
+{'loss': 0.4086, 'grad_norm': 85.83856964111328, 'learning_rate': 6.0805899608865715e-06, 'epoch': 3.92}
+{'loss': 0.555, 'grad_norm': 93.15687561035156, 'learning_rate': 6.078552803129076e-06, 'epoch': 3.92}
+{'loss': 0.5717, 'grad_norm': 23.306495666503906, 'learning_rate': 6.076515645371578e-06, 'epoch': 3.92}
+{'loss': 0.3235, 'grad_norm': 2.4110193252563477, 'learning_rate': 6.0744784876140815e-06, 'epoch': 3.93}
+{'loss': 0.4399, 'grad_norm': 514.3330688476562, 'learning_rate': 6.072441329856584e-06, 'epoch': 3.93}
+{'loss': 0.2736, 'grad_norm': 315.75921630859375, 'learning_rate': 6.070404172099088e-06, 'epoch': 3.93}
+{'loss': 0.3339, 'grad_norm': 22.326873779296875, 'learning_rate': 6.068367014341591e-06, 'epoch': 3.93}
+{'loss': 0.4543, 'grad_norm': 3.872218370437622, 'learning_rate': 6.066329856584094e-06, 'epoch': 3.93}
+{'loss': 0.3029, 'grad_norm': 0.25871941447257996, 'learning_rate': 6.0642926988265975e-06, 'epoch': 3.94}
+{'loss': 0.3108, 'grad_norm': 0.23397424817085266, 'learning_rate': 6.062255541069101e-06, 'epoch': 3.94}
+{'loss': 0.5676, 'grad_norm': 35.504032135009766, 'learning_rate': 6.060218383311604e-06, 'epoch': 3.94}
+{'loss': 0.3321, 'grad_norm': 13.828340530395508, 'learning_rate': 6.058181225554108e-06, 'epoch': 3.94}
+{'loss': 0.5414, 'grad_norm': 242.02528381347656, 'learning_rate': 6.056144067796611e-06, 'epoch': 3.94}
+{'loss': 0.4597, 'grad_norm': 131.74014282226562, 'learning_rate': 6.0541069100391135e-06, 'epoch': 3.95}
+{'loss': 0.3902, 'grad_norm': 102.46747589111328, 'learning_rate': 6.052069752281618e-06, 'epoch': 3.95}
+{'loss': 0.3793, 'grad_norm': 1.6388133764266968, 'learning_rate': 6.05003259452412e-06, 'epoch': 3.95}
+{'loss': 0.2592, 'grad_norm': 1.0429784059524536, 'learning_rate': 6.047995436766624e-06, 'epoch': 3.95}
+{'loss': 0.3614, 'grad_norm': 162.3768310546875, 'learning_rate': 6.045958279009126e-06, 'epoch': 3.95}
+{'loss': 0.3072, 'grad_norm': 250.34811401367188, 'learning_rate': 6.04392112125163e-06, 'epoch': 3.96}
+{'loss': 0.6322, 'grad_norm': 126.00418090820312, 'learning_rate': 6.041883963494134e-06, 'epoch': 3.96}
+{'loss': 0.3411, 'grad_norm': 28.833715438842773, 'learning_rate': 6.039846805736636e-06, 'epoch': 3.96}
+{'loss': 0.428, 'grad_norm': 315.30242919921875, 'learning_rate': 6.03780964797914e-06, 'epoch': 3.96}
+{'loss': 0.4695, 'grad_norm': 1.5380942821502686, 'learning_rate': 6.035772490221643e-06, 'epoch': 3.96}
+{'loss': 0.2659, 'grad_norm': 44.51846694946289, 'learning_rate': 6.033735332464147e-06, 'epoch': 3.97}
+{'loss': 0.4578, 'grad_norm': 84.69486236572266, 'learning_rate': 6.03169817470665e-06, 'epoch': 3.97}
+{'loss': 0.2302, 'grad_norm': 0.40815070271492004, 'learning_rate': 6.029661016949153e-06, 'epoch': 3.97}
+{'loss': 0.4473, 'grad_norm': 197.04698181152344, 'learning_rate': 6.0276238591916555e-06, 'epoch': 3.97}
+{'loss': 0.4555, 'grad_norm': 17.97182846069336, 'learning_rate': 6.02558670143416e-06, 'epoch': 3.97}
+{'loss': 0.268, 'grad_norm': 6.504394054412842, 'learning_rate': 6.023549543676663e-06, 'epoch': 3.98}
+{'loss': 0.3867, 'grad_norm': 136.17642211914062, 'learning_rate': 6.021512385919166e-06, 'epoch': 3.98}
+{'loss': 0.2645, 'grad_norm': 1.0771458148956299, 'learning_rate': 6.01947522816167e-06, 'epoch': 3.98}
+{'loss': 0.4294, 'grad_norm': 0.12697863578796387, 'learning_rate': 6.017438070404172e-06, 'epoch': 3.98}
+{'loss': 0.4182, 'grad_norm': 310.426025390625, 'learning_rate': 6.015400912646676e-06, 'epoch': 3.98}
+{'loss': 0.4352, 'grad_norm': 0.12022928148508072, 'learning_rate': 6.013363754889179e-06, 'epoch': 3.99}
+{'loss': 0.4957, 'grad_norm': 0.4501855969429016, 'learning_rate': 6.0113265971316825e-06, 'epoch': 3.99}
+{'loss': 0.4853, 'grad_norm': 80.39962768554688, 'learning_rate': 6.009289439374185e-06, 'epoch': 3.99}
+{'loss': 0.3937, 'grad_norm': 63.6538200378418, 'learning_rate': 6.007252281616689e-06, 'epoch': 3.99}
+{'loss': 0.3087, 'grad_norm': 0.18333733081817627, 'learning_rate': 6.0052151238591926e-06, 'epoch': 3.99}
+{'loss': 0.5328, 'grad_norm': 12.204960823059082, 'learning_rate': 6.003177966101695e-06, 'epoch': 4.0}
+{'loss': 0.25, 'grad_norm': 0.24322840571403503, 'learning_rate': 6.001140808344199e-06, 'epoch': 4.0}
+{'loss': 0.4066, 'grad_norm': 0.3923574686050415, 'learning_rate': 5.999103650586702e-06, 'epoch': 4.0}
+{'loss': 0.1206, 'grad_norm': 283.6245422363281, 'learning_rate': 5.997066492829205e-06, 'epoch': 4.0}
+{'loss': 0.1959, 'grad_norm': 119.57347106933594, 'learning_rate': 5.9950293350717085e-06, 'epoch': 4.01}
+{'loss': 0.1941, 'grad_norm': 0.05879538506269455, 'learning_rate': 5.992992177314212e-06, 'epoch': 4.01}
+{'loss': 0.2045, 'grad_norm': 9.988970756530762, 'learning_rate': 5.990955019556714e-06, 'epoch': 4.01}
+{'loss': 0.289, 'grad_norm': 3.542008638381958, 'learning_rate': 5.988917861799219e-06, 'epoch': 4.01}
+{'loss': 0.1926, 'grad_norm': 0.6261539459228516, 'learning_rate': 5.986880704041721e-06, 'epoch': 4.01}
+{'loss': 0.1195, 'grad_norm': 0.04287875443696976, 'learning_rate': 5.9848435462842245e-06, 'epoch': 4.02}
+{'loss': 0.1657, 'grad_norm': 41.29328536987305, 'learning_rate': 5.982806388526729e-06, 'epoch': 4.02}
+{'loss': 0.0913, 'grad_norm': 279.57208251953125, 'learning_rate': 5.980769230769231e-06, 'epoch': 4.02}
+{'loss': 0.2394, 'grad_norm': 14.47745132446289, 'learning_rate': 5.978732073011735e-06, 'epoch': 4.02}
+{'loss': 0.1508, 'grad_norm': 0.08614671975374222, 'learning_rate': 5.976694915254237e-06, 'epoch': 4.02}
+{'loss': 0.3042, 'grad_norm': 0.050939321517944336, 'learning_rate': 5.974657757496741e-06, 'epoch': 4.03}
+{'loss': 0.1908, 'grad_norm': 7.840156555175781, 'learning_rate': 5.972620599739244e-06, 'epoch': 4.03}
+{'loss': 0.2485, 'grad_norm': 0.5744242072105408, 'learning_rate': 5.970583441981748e-06, 'epoch': 4.03}
+{'loss': 0.2332, 'grad_norm': 147.21209716796875, 'learning_rate': 5.9685462842242506e-06, 'epoch': 4.03}
+{'loss': 0.167, 'grad_norm': 0.09587296098470688, 'learning_rate': 5.966509126466754e-06, 'epoch': 4.03}
+{'loss': 0.1737, 'grad_norm': 0.41697660088539124, 'learning_rate': 5.964471968709258e-06, 'epoch': 4.04}
+{'loss': 0.117, 'grad_norm': 1.7754260301589966, 'learning_rate': 5.962434810951761e-06, 'epoch': 4.04}
+{'loss': 0.1383, 'grad_norm': 0.06293432414531708, 'learning_rate': 5.960397653194264e-06, 'epoch': 4.04}
+{'loss': 0.2214, 'grad_norm': 62.81903839111328, 'learning_rate': 5.9583604954367666e-06, 'epoch': 4.04}
+{'loss': 0.0581, 'grad_norm': 6.694408416748047, 'learning_rate': 5.956323337679271e-06, 'epoch': 4.04}
+{'loss': 0.2716, 'grad_norm': 116.26752471923828, 'learning_rate': 5.954286179921773e-06, 'epoch': 4.05}
+{'loss': 0.1113, 'grad_norm': 31.28071403503418, 'learning_rate': 5.952249022164277e-06, 'epoch': 4.05}
+{'loss': 0.2349, 'grad_norm': 416.890380859375, 'learning_rate': 5.95021186440678e-06, 'epoch': 4.05}
+{'loss': 0.2255, 'grad_norm': 0.7056080102920532, 'learning_rate': 5.948174706649283e-06, 'epoch': 4.05}
+{'loss': 0.1406, 'grad_norm': 146.58865356445312, 'learning_rate': 5.946137548891788e-06, 'epoch': 4.05}
+{'loss': 0.223, 'grad_norm': 2.6592044830322266, 'learning_rate': 5.94410039113429e-06, 'epoch': 4.06}
+{'loss': 0.2184, 'grad_norm': 0.058600589632987976, 'learning_rate': 5.9420632333767935e-06, 'epoch': 4.06}
+{'loss': 0.1786, 'grad_norm': 0.14882951974868774, 'learning_rate': 5.940026075619296e-06, 'epoch': 4.06}
+{'loss': 0.2578, 'grad_norm': 0.02864811383187771, 'learning_rate': 5.9379889178618e-06, 'epoch': 4.06}
+{'loss': 0.2038, 'grad_norm': 0.03150126710534096, 'learning_rate': 5.935951760104303e-06, 'epoch': 4.06}
+{'loss': 0.2024, 'grad_norm': 0.40518003702163696, 'learning_rate': 5.933914602346806e-06, 'epoch': 4.07}
+{'loss': 0.3469, 'grad_norm': 259.0128173828125, 'learning_rate': 5.9318774445893094e-06, 'epoch': 4.07}
+{'loss': 0.2872, 'grad_norm': 0.07392957806587219, 'learning_rate': 5.929840286831813e-06, 'epoch': 4.07}
+{'loss': 0.1961, 'grad_norm': 324.7232971191406, 'learning_rate': 5.927803129074316e-06, 'epoch': 4.07}
+{'loss': 0.2428, 'grad_norm': 10.988350868225098, 'learning_rate': 5.9257659713168195e-06, 'epoch': 4.07}
+{'eval_loss': 8.445793151855469, 'eval_accuracy': 0.7160642570281125, 'eval_runtime': 1.4916, 'eval_samples_per_second': 1669.387, 'eval_steps_per_second': 52.294, 'epoch': 4.07}
+{'loss': 0.3518, 'grad_norm': 232.43521118164062, 'learning_rate': 5.923728813559323e-06, 'epoch': 4.08}
+{'loss': 0.2551, 'grad_norm': 0.20956973731517792, 'learning_rate': 5.921691655801825e-06, 'epoch': 4.08}
+{'loss': 0.1367, 'grad_norm': 0.14119143784046173, 'learning_rate': 5.91965449804433e-06, 'epoch': 4.08}
+{'loss': 0.1199, 'grad_norm': 0.10791847854852676, 'learning_rate': 5.917617340286832e-06, 'epoch': 4.08}
+{'loss': 0.2242, 'grad_norm': 16.497068405151367, 'learning_rate': 5.9155801825293355e-06, 'epoch': 4.08}
+{'loss': 0.2179, 'grad_norm': 0.15659403800964355, 'learning_rate': 5.913543024771838e-06, 'epoch': 4.09}
+{'loss': 0.2966, 'grad_norm': 108.27361297607422, 'learning_rate': 5.911505867014342e-06, 'epoch': 4.09}
+{'loss': 0.2553, 'grad_norm': 25.456167221069336, 'learning_rate': 5.909468709256845e-06, 'epoch': 4.09}
+{'loss': 0.3166, 'grad_norm': 323.8089904785156, 'learning_rate': 5.907431551499349e-06, 'epoch': 4.09}
+{'loss': 0.2087, 'grad_norm': 546.8359985351562, 'learning_rate': 5.905394393741852e-06, 'epoch': 4.09}
+{'loss': 0.2627, 'grad_norm': 14.292037963867188, 'learning_rate': 5.903357235984355e-06, 'epoch': 4.1}
+{'loss': 0.1499, 'grad_norm': 218.59327697753906, 'learning_rate': 5.901320078226859e-06, 'epoch': 4.1}
+{'loss': 0.2765, 'grad_norm': 252.0609588623047, 'learning_rate': 5.899282920469362e-06, 'epoch': 4.1}
+{'loss': 0.2237, 'grad_norm': 97.82788848876953, 'learning_rate': 5.897245762711865e-06, 'epoch': 4.1}
+{'loss': 0.3978, 'grad_norm': 60.551082611083984, 'learning_rate': 5.8952086049543675e-06, 'epoch': 4.1}
+{'loss': 0.1287, 'grad_norm': 35.52116394042969, 'learning_rate': 5.893171447196872e-06, 'epoch': 4.11}
+{'loss': 0.2153, 'grad_norm': 91.61834716796875, 'learning_rate': 5.891134289439374e-06, 'epoch': 4.11}
+{'loss': 0.2174, 'grad_norm': 301.6835632324219, 'learning_rate': 5.8890971316818776e-06, 'epoch': 4.11}
+{'loss': 0.2808, 'grad_norm': 0.03775625303387642, 'learning_rate': 5.887059973924382e-06, 'epoch': 4.11}
+{'loss': 0.1128, 'grad_norm': 119.53329467773438, 'learning_rate': 5.885022816166884e-06, 'epoch': 4.12}
+{'loss': 0.1268, 'grad_norm': 774.7000732421875, 'learning_rate': 5.882985658409388e-06, 'epoch': 4.12}
+{'loss': 0.0977, 'grad_norm': 0.021126307547092438, 'learning_rate': 5.880948500651891e-06, 'epoch': 4.12}
+{'loss': 0.4547, 'grad_norm': 0.030698783695697784, 'learning_rate': 5.878911342894394e-06, 'epoch': 4.12}
+{'loss': 0.1991, 'grad_norm': 0.03592600300908089, 'learning_rate': 5.876874185136897e-06, 'epoch': 4.12}
+{'loss': 0.369, 'grad_norm': 36.534305572509766, 'learning_rate': 5.874837027379401e-06, 'epoch': 4.13}
+{'loss': 0.2074, 'grad_norm': 0.10700856894254684, 'learning_rate': 5.872799869621904e-06, 'epoch': 4.13}
+{'loss': 0.313, 'grad_norm': 0.03129802644252777, 'learning_rate': 5.870762711864407e-06, 'epoch': 4.13}
+{'loss': 0.1828, 'grad_norm': 0.23235630989074707, 'learning_rate': 5.868725554106911e-06, 'epoch': 4.13}
+{'loss': 0.1045, 'grad_norm': 1.1899338960647583, 'learning_rate': 5.866688396349414e-06, 'epoch': 4.13}
+{'loss': 0.1333, 'grad_norm': 0.42498183250427246, 'learning_rate': 5.864651238591917e-06, 'epoch': 4.14}
+{'loss': 0.2172, 'grad_norm': 184.85264587402344, 'learning_rate': 5.8626140808344204e-06, 'epoch': 4.14}
+{'loss': 0.3045, 'grad_norm': 34.464969635009766, 'learning_rate': 5.860576923076924e-06, 'epoch': 4.14}
+{'loss': 0.2706, 'grad_norm': 0.15412560105323792, 'learning_rate': 5.858539765319426e-06, 'epoch': 4.14}
+{'loss': 0.1896, 'grad_norm': 0.21755467355251312, 'learning_rate': 5.8565026075619305e-06, 'epoch': 4.14}
+{'loss': 0.2811, 'grad_norm': 58.291748046875, 'learning_rate': 5.854465449804433e-06, 'epoch': 4.15}
+{'loss': 0.3337, 'grad_norm': 0.9699822068214417, 'learning_rate': 5.8524282920469364e-06, 'epoch': 4.15}
+{'loss': 0.1865, 'grad_norm': 0.02627703547477722, 'learning_rate': 5.850391134289441e-06, 'epoch': 4.15}
+{'loss': 0.153, 'grad_norm': 155.6007080078125, 'learning_rate': 5.848353976531943e-06, 'epoch': 4.15}
+{'loss': 0.2361, 'grad_norm': 40.74062728881836, 'learning_rate': 5.8463168187744465e-06, 'epoch': 4.15}
+{'loss': 0.3167, 'grad_norm': 0.0289746206253767, 'learning_rate': 5.844279661016949e-06, 'epoch': 4.16}
+{'loss': 0.2889, 'grad_norm': 15.360331535339355, 'learning_rate': 5.842242503259453e-06, 'epoch': 4.16}
+{'loss': 0.2052, 'grad_norm': 294.49566650390625, 'learning_rate': 5.840205345501956e-06, 'epoch': 4.16}
+{'loss': 0.1265, 'grad_norm': 88.99090576171875, 'learning_rate': 5.83816818774446e-06, 'epoch': 4.16}
+{'loss': 0.1617, 'grad_norm': 0.03351670131087303, 'learning_rate': 5.8361310299869625e-06, 'epoch': 4.16}
+{'loss': 0.1313, 'grad_norm': 0.03666812181472778, 'learning_rate': 5.834093872229466e-06, 'epoch': 4.17}
+{'loss': 0.0993, 'grad_norm': 8.490821838378906, 'learning_rate': 5.832056714471968e-06, 'epoch': 4.17}
+{'loss': 0.3107, 'grad_norm': 1.8949910402297974, 'learning_rate': 5.830019556714473e-06, 'epoch': 4.17}
+{'loss': 0.3725, 'grad_norm': 4.24289083480835, 'learning_rate': 5.827982398956976e-06, 'epoch': 4.17}
+{'loss': 0.28, 'grad_norm': 240.0164031982422, 'learning_rate': 5.8259452411994785e-06, 'epoch': 4.17}
+{'loss': 0.284, 'grad_norm': 0.14814990758895874, 'learning_rate': 5.823908083441983e-06, 'epoch': 4.18}
+{'loss': 0.2673, 'grad_norm': 135.73211669921875, 'learning_rate': 5.821870925684485e-06, 'epoch': 4.18}
+{'loss': 0.2417, 'grad_norm': 537.24951171875, 'learning_rate': 5.8198337679269886e-06, 'epoch': 4.18}
+{'loss': 0.2294, 'grad_norm': 0.4065757095813751, 'learning_rate': 5.817796610169492e-06, 'epoch': 4.18}
+{'loss': 0.3205, 'grad_norm': 2.433181047439575, 'learning_rate': 5.815759452411995e-06, 'epoch': 4.18}
+{'loss': 0.2506, 'grad_norm': 0.061596114188432693, 'learning_rate': 5.813722294654498e-06, 'epoch': 4.19}
+{'loss': 0.2385, 'grad_norm': 341.4802551269531, 'learning_rate': 5.811685136897002e-06, 'epoch': 4.19}
+{'loss': 0.1871, 'grad_norm': 4.372566223144531, 'learning_rate': 5.809647979139505e-06, 'epoch': 4.19}
+{'loss': 0.346, 'grad_norm': 61.8208122253418, 'learning_rate': 5.807610821382008e-06, 'epoch': 4.19}
+{'loss': 0.0838, 'grad_norm': 0.01653854362666607, 'learning_rate': 5.805573663624512e-06, 'epoch': 4.19}
+{'loss': 0.2181, 'grad_norm': 0.035302385687828064, 'learning_rate': 5.803536505867015e-06, 'epoch': 4.2}
+{'loss': 0.2231, 'grad_norm': 36.87223815917969, 'learning_rate': 5.801499348109518e-06, 'epoch': 4.2}
+{'loss': 0.3824, 'grad_norm': 286.2436828613281, 'learning_rate': 5.799462190352021e-06, 'epoch': 4.2}
+{'loss': 0.3073, 'grad_norm': 691.5762939453125, 'learning_rate': 5.797425032594525e-06, 'epoch': 4.2}
+{'loss': 0.3072, 'grad_norm': 0.11704692989587784, 'learning_rate': 5.795387874837027e-06, 'epoch': 4.2}
+{'loss': 0.2274, 'grad_norm': 15.67833423614502, 'learning_rate': 5.7933507170795315e-06, 'epoch': 4.21}
+{'loss': 0.3226, 'grad_norm': 29.66836929321289, 'learning_rate': 5.791313559322035e-06, 'epoch': 4.21}
+{'loss': 0.3389, 'grad_norm': 0.07201086729764938, 'learning_rate': 5.789276401564537e-06, 'epoch': 4.21}
+{'loss': 0.4438, 'grad_norm': 431.45037841796875, 'learning_rate': 5.7872392438070415e-06, 'epoch': 4.21}
+{'loss': 0.2783, 'grad_norm': 0.602112352848053, 'learning_rate': 5.785202086049544e-06, 'epoch': 4.21}
+{'loss': 0.1546, 'grad_norm': 0.1356811374425888, 'learning_rate': 5.7831649282920474e-06, 'epoch': 4.22}
+{'loss': 0.2891, 'grad_norm': 285.53167724609375, 'learning_rate': 5.78112777053455e-06, 'epoch': 4.22}
+{'loss': 0.1656, 'grad_norm': 2.672347068786621, 'learning_rate': 5.779090612777054e-06, 'epoch': 4.22}
+{'loss': 0.2935, 'grad_norm': 0.0991872251033783, 'learning_rate': 5.777053455019557e-06, 'epoch': 4.22}
+{'loss': 0.3906, 'grad_norm': 504.5180969238281, 'learning_rate': 5.775016297262061e-06, 'epoch': 4.23}
+{'loss': 0.1289, 'grad_norm': 11.66636848449707, 'learning_rate': 5.772979139504564e-06, 'epoch': 4.23}
+{'loss': 0.2582, 'grad_norm': 0.31685811281204224, 'learning_rate': 5.770941981747067e-06, 'epoch': 4.23}
+{'loss': 0.3792, 'grad_norm': 831.9164428710938, 'learning_rate': 5.768904823989571e-06, 'epoch': 4.23}
+{'loss': 0.1314, 'grad_norm': 0.053004562854766846, 'learning_rate': 5.7668676662320735e-06, 'epoch': 4.23}
+{'loss': 0.2956, 'grad_norm': 213.90817260742188, 'learning_rate': 5.764830508474577e-06, 'epoch': 4.24}
+{'loss': 0.1865, 'grad_norm': 285.9708251953125, 'learning_rate': 5.762793350717079e-06, 'epoch': 4.24}
+{'loss': 0.0922, 'grad_norm': 0.03259184584021568, 'learning_rate': 5.760756192959584e-06, 'epoch': 4.24}
+{'loss': 0.1791, 'grad_norm': 113.1142807006836, 'learning_rate': 5.758719035202086e-06, 'epoch': 4.24}
+{'loss': 0.3179, 'grad_norm': 859.8826293945312, 'learning_rate': 5.7566818774445895e-06, 'epoch': 4.24}
+{'loss': 0.234, 'grad_norm': 0.12812146544456482, 'learning_rate': 5.754644719687093e-06, 'epoch': 4.25}
+{'loss': 0.2903, 'grad_norm': 0.0513390377163887, 'learning_rate': 5.752607561929596e-06, 'epoch': 4.25}
+{'loss': 0.1976, 'grad_norm': 130.48463439941406, 'learning_rate': 5.7505704041721e-06, 'epoch': 4.25}
+{'loss': 0.3612, 'grad_norm': 0.10328938812017441, 'learning_rate': 5.748533246414603e-06, 'epoch': 4.25}
+{'loss': 0.1954, 'grad_norm': 182.1288604736328, 'learning_rate': 5.746496088657106e-06, 'epoch': 4.25}
+{'loss': 0.3166, 'grad_norm': 80.59876251220703, 'learning_rate': 5.744458930899609e-06, 'epoch': 4.26}
+{'loss': 0.166, 'grad_norm': 0.1263360232114792, 'learning_rate': 5.742421773142113e-06, 'epoch': 4.26}
+{'loss': 0.2147, 'grad_norm': 336.8776550292969, 'learning_rate': 5.7403846153846155e-06, 'epoch': 4.26}
+{'loss': 0.212, 'grad_norm': 0.02954975701868534, 'learning_rate': 5.738347457627119e-06, 'epoch': 4.26}
+{'loss': 0.258, 'grad_norm': 0.6713951230049133, 'learning_rate': 5.7363102998696214e-06, 'epoch': 4.26}
+{'loss': 0.121, 'grad_norm': 540.139892578125, 'learning_rate': 5.734273142112126e-06, 'epoch': 4.27}
+{'loss': 0.1864, 'grad_norm': 0.059246767312288284, 'learning_rate': 5.732235984354629e-06, 'epoch': 4.27}
+{'loss': 0.183, 'grad_norm': 76.65620422363281, 'learning_rate': 5.730198826597132e-06, 'epoch': 4.27}
+{'loss': 0.1466, 'grad_norm': 198.91110229492188, 'learning_rate': 5.728161668839636e-06, 'epoch': 4.27}
+{'loss': 0.2416, 'grad_norm': 120.18470764160156, 'learning_rate': 5.726124511082138e-06, 'epoch': 4.27}
+{'loss': 0.2845, 'grad_norm': 14.804884910583496, 'learning_rate': 5.7240873533246425e-06, 'epoch': 4.28}
+{'loss': 0.305, 'grad_norm': 51.46253967285156, 'learning_rate': 5.722050195567145e-06, 'epoch': 4.28}
+{'loss': 0.2294, 'grad_norm': 0.13784107565879822, 'learning_rate': 5.720013037809648e-06, 'epoch': 4.28}
+{'loss': 0.4643, 'grad_norm': 162.54986572265625, 'learning_rate': 5.717975880052151e-06, 'epoch': 4.28}
+{'loss': 0.2744, 'grad_norm': 1.5636829137802124, 'learning_rate': 5.715938722294655e-06, 'epoch': 4.28}
+{'loss': 0.0674, 'grad_norm': 0.026248561218380928, 'learning_rate': 5.7139015645371584e-06, 'epoch': 4.29}
+{'loss': 0.283, 'grad_norm': 40.97170639038086, 'learning_rate': 5.711864406779661e-06, 'epoch': 4.29}
+{'loss': 0.1014, 'grad_norm': 470.04510498046875, 'learning_rate': 5.709827249022165e-06, 'epoch': 4.29}
+{'loss': 0.3652, 'grad_norm': 1.6870875358581543, 'learning_rate': 5.707790091264668e-06, 'epoch': 4.29}
+{'loss': 0.1385, 'grad_norm': 149.15049743652344, 'learning_rate': 5.705752933507172e-06, 'epoch': 4.29}
+{'loss': 0.1224, 'grad_norm': 0.17109894752502441, 'learning_rate': 5.703715775749674e-06, 'epoch': 4.3}
+{'loss': 0.216, 'grad_norm': 0.037945330142974854, 'learning_rate': 5.701678617992178e-06, 'epoch': 4.3}
+{'loss': 0.2134, 'grad_norm': 85.7506332397461, 'learning_rate': 5.69964146023468e-06, 'epoch': 4.3}
+{'loss': 0.3213, 'grad_norm': 41.472049713134766, 'learning_rate': 5.6976043024771845e-06, 'epoch': 4.3}
+{'loss': 0.1868, 'grad_norm': 0.02683035098016262, 'learning_rate': 5.695567144719688e-06, 'epoch': 4.3}
+{'loss': 0.442, 'grad_norm': 251.58688354492188, 'learning_rate': 5.69352998696219e-06, 'epoch': 4.31}
+{'loss': 0.1516, 'grad_norm': 0.1237330213189125, 'learning_rate': 5.691492829204695e-06, 'epoch': 4.31}
+{'loss': 0.3218, 'grad_norm': 1.0890644788742065, 'learning_rate': 5.689455671447197e-06, 'epoch': 4.31}
+{'loss': 0.2389, 'grad_norm': 0.6574826240539551, 'learning_rate': 5.6874185136897005e-06, 'epoch': 4.31}
+{'loss': 0.2279, 'grad_norm': 36.54055404663086, 'learning_rate': 5.685381355932204e-06, 'epoch': 4.31}
+{'loss': 0.2028, 'grad_norm': 0.03493056446313858, 'learning_rate': 5.683344198174707e-06, 'epoch': 4.32}
+{'loss': 0.2096, 'grad_norm': 0.03687591850757599, 'learning_rate': 5.68130704041721e-06, 'epoch': 4.32}
+{'loss': 0.0819, 'grad_norm': 0.055177416652441025, 'learning_rate': 5.679269882659714e-06, 'epoch': 4.32}
+{'loss': 0.2188, 'grad_norm': 0.2680175006389618, 'learning_rate': 5.677232724902217e-06, 'epoch': 4.32}
+{'loss': 0.1478, 'grad_norm': 0.7247933745384216, 'learning_rate': 5.67519556714472e-06, 'epoch': 4.32}
+{'loss': 0.1326, 'grad_norm': 0.5072055459022522, 'learning_rate': 5.673158409387224e-06, 'epoch': 4.33}
+{'loss': 0.1571, 'grad_norm': 0.008220416493713856, 'learning_rate': 5.6711212516297266e-06, 'epoch': 4.33}
+{'loss': 0.2388, 'grad_norm': 0.8310370445251465, 'learning_rate': 5.66908409387223e-06, 'epoch': 4.33}
+{'loss': 0.2085, 'grad_norm': 0.02603914961218834, 'learning_rate': 5.667046936114733e-06, 'epoch': 4.33}
+{'loss': 0.1504, 'grad_norm': 5.896562576293945, 'learning_rate': 5.665009778357237e-06, 'epoch': 4.34}
+{'loss': 0.2238, 'grad_norm': 0.677584707736969, 'learning_rate': 5.662972620599739e-06, 'epoch': 4.34}
+{'loss': 0.1506, 'grad_norm': 0.1608743816614151, 'learning_rate': 5.660935462842243e-06, 'epoch': 4.34}
+{'loss': 0.3083, 'grad_norm': 0.09410402178764343, 'learning_rate': 5.658898305084746e-06, 'epoch': 4.34}
+{'loss': 0.3209, 'grad_norm': 1.0962592363357544, 'learning_rate': 5.656861147327249e-06, 'epoch': 4.34}
+{'loss': 0.3096, 'grad_norm': 537.564697265625, 'learning_rate': 5.6548239895697535e-06, 'epoch': 4.35}
+{'loss': 0.2067, 'grad_norm': 88.82901000976562, 'learning_rate': 5.652786831812256e-06, 'epoch': 4.35}
+{'loss': 0.2873, 'grad_norm': 71.56927490234375, 'learning_rate': 5.650749674054759e-06, 'epoch': 4.35}
+{'loss': 0.2591, 'grad_norm': 0.22745512425899506, 'learning_rate': 5.648712516297262e-06, 'epoch': 4.35}
+{'loss': 0.2317, 'grad_norm': 0.3955109417438507, 'learning_rate': 5.646675358539766e-06, 'epoch': 4.35}
+{'loss': 0.4607, 'grad_norm': 0.4048860967159271, 'learning_rate': 5.644638200782269e-06, 'epoch': 4.36}
+{'loss': 0.1045, 'grad_norm': 0.5107951760292053, 'learning_rate': 5.642601043024773e-06, 'epoch': 4.36}
+{'loss': 0.4115, 'grad_norm': 89.74040985107422, 'learning_rate': 5.640563885267275e-06, 'epoch': 4.36}
+{'loss': 0.3341, 'grad_norm': 80.02105712890625, 'learning_rate': 5.638526727509779e-06, 'epoch': 4.36}
+{'loss': 0.3481, 'grad_norm': 407.917724609375, 'learning_rate': 5.636489569752283e-06, 'epoch': 4.36}
+{'loss': 0.0794, 'grad_norm': 47.21505355834961, 'learning_rate': 5.634452411994785e-06, 'epoch': 4.37}
+{'loss': 0.1823, 'grad_norm': 0.021235298365354538, 'learning_rate': 5.632415254237289e-06, 'epoch': 4.37}
+{'loss': 0.21, 'grad_norm': 460.74810791015625, 'learning_rate': 5.630378096479791e-06, 'epoch': 4.37}
+{'loss': 0.2814, 'grad_norm': 0.04300630837678909, 'learning_rate': 5.6283409387222955e-06, 'epoch': 4.37}
+{'loss': 0.232, 'grad_norm': 0.7756978869438171, 'learning_rate': 5.626303780964798e-06, 'epoch': 4.37}
+{'loss': 0.2151, 'grad_norm': 0.06999378651380539, 'learning_rate': 5.624266623207301e-06, 'epoch': 4.38}
+{'loss': 0.3207, 'grad_norm': 0.042746927589178085, 'learning_rate': 5.622229465449805e-06, 'epoch': 4.38}
+{'loss': 0.247, 'grad_norm': 0.19066929817199707, 'learning_rate': 5.620192307692308e-06, 'epoch': 4.38}
+{'loss': 0.2548, 'grad_norm': 150.53402709960938, 'learning_rate': 5.618155149934812e-06, 'epoch': 4.38}
+{'loss': 0.2275, 'grad_norm': 0.11498922109603882, 'learning_rate': 5.616117992177315e-06, 'epoch': 4.38}
+{'loss': 0.2226, 'grad_norm': 0.0498470664024353, 'learning_rate': 5.614080834419818e-06, 'epoch': 4.39}
+{'loss': 0.1067, 'grad_norm': 0.046253640204668045, 'learning_rate': 5.612043676662321e-06, 'epoch': 4.39}
+{'loss': 0.0789, 'grad_norm': 0.0602785125374794, 'learning_rate': 5.610006518904825e-06, 'epoch': 4.39}
+{'loss': 0.2029, 'grad_norm': 1.2578392028808594, 'learning_rate': 5.6079693611473275e-06, 'epoch': 4.39}
+{'loss': 0.1383, 'grad_norm': 134.03323364257812, 'learning_rate': 5.605932203389831e-06, 'epoch': 4.39}
+{'loss': 0.3778, 'grad_norm': 36.88079071044922, 'learning_rate': 5.603895045632334e-06, 'epoch': 4.4}
+{'loss': 0.2289, 'grad_norm': 262.55126953125, 'learning_rate': 5.6018578878748376e-06, 'epoch': 4.4}
+{'loss': 0.2102, 'grad_norm': 0.028434166684746742, 'learning_rate': 5.599820730117341e-06, 'epoch': 4.4}
+{'loss': 0.2445, 'grad_norm': 434.28192138671875, 'learning_rate': 5.597783572359844e-06, 'epoch': 4.4}
+{'loss': 0.1461, 'grad_norm': 0.09769388288259506, 'learning_rate': 5.595746414602348e-06, 'epoch': 4.4}
+{'loss': 0.2277, 'grad_norm': 320.544921875, 'learning_rate': 5.59370925684485e-06, 'epoch': 4.41}
+{'loss': 0.1615, 'grad_norm': 0.022154061123728752, 'learning_rate': 5.591672099087354e-06, 'epoch': 4.41}
+{'loss': 0.1457, 'grad_norm': 63.834617614746094, 'learning_rate': 5.589634941329857e-06, 'epoch': 4.41}
+{'loss': 0.249, 'grad_norm': 0.017739737406373024, 'learning_rate': 5.58759778357236e-06, 'epoch': 4.41}
+{'loss': 0.3319, 'grad_norm': 34.83356857299805, 'learning_rate': 5.585560625814863e-06, 'epoch': 4.41}
+{'loss': 0.2578, 'grad_norm': 0.8137730956077576, 'learning_rate': 5.583523468057367e-06, 'epoch': 4.42}
+{'loss': 0.2846, 'grad_norm': 53.812625885009766, 'learning_rate': 5.5814863102998695e-06, 'epoch': 4.42}
+{'loss': 0.2714, 'grad_norm': 0.12953661382198334, 'learning_rate': 5.579449152542373e-06, 'epoch': 4.42}
+{'loss': 0.2232, 'grad_norm': 0.25329336524009705, 'learning_rate': 5.577411994784877e-06, 'epoch': 4.42}
+{'loss': 0.3106, 'grad_norm': 0.03979980945587158, 'learning_rate': 5.57537483702738e-06, 'epoch': 4.42}
+{'loss': 0.1465, 'grad_norm': 0.8031279444694519, 'learning_rate': 5.573337679269884e-06, 'epoch': 4.43}
+{'loss': 0.1068, 'grad_norm': 0.031147755682468414, 'learning_rate': 5.571300521512386e-06, 'epoch': 4.43}
+{'loss': 0.5333, 'grad_norm': 0.025163959711790085, 'learning_rate': 5.56926336375489e-06, 'epoch': 4.43}
+{'loss': 0.2017, 'grad_norm': 0.5926141142845154, 'learning_rate': 5.567226205997392e-06, 'epoch': 4.43}
+{'loss': 0.2068, 'grad_norm': 0.3717130720615387, 'learning_rate': 5.5651890482398964e-06, 'epoch': 4.43}
+{'loss': 0.3151, 'grad_norm': 0.03344644233584404, 'learning_rate': 5.563151890482399e-06, 'epoch': 4.44}
+{'loss': 0.0867, 'grad_norm': 135.0668487548828, 'learning_rate': 5.561114732724902e-06, 'epoch': 4.44}
+{'loss': 0.1879, 'grad_norm': 39.426082611083984, 'learning_rate': 5.5590775749674065e-06, 'epoch': 4.44}
+{'loss': 0.2554, 'grad_norm': 54.39509963989258, 'learning_rate': 5.557040417209909e-06, 'epoch': 4.44}
+{'loss': 0.2476, 'grad_norm': 0.24682310223579407, 'learning_rate': 5.555003259452412e-06, 'epoch': 4.45}
+{'loss': 0.1391, 'grad_norm': 0.9623749256134033, 'learning_rate': 5.552966101694916e-06, 'epoch': 4.45}
+{'loss': 0.3992, 'grad_norm': 66.82406616210938, 'learning_rate': 5.550928943937419e-06, 'epoch': 4.45}
+{'loss': 0.3231, 'grad_norm': 0.1381756216287613, 'learning_rate': 5.548891786179922e-06, 'epoch': 4.45}
+{'loss': 0.2493, 'grad_norm': 0.14576223492622375, 'learning_rate': 5.546854628422426e-06, 'epoch': 4.45}
+{'loss': 0.258, 'grad_norm': 1.454447627067566, 'learning_rate': 5.544817470664928e-06, 'epoch': 4.46}
+{'loss': 0.2231, 'grad_norm': 28.996376037597656, 'learning_rate': 5.542780312907432e-06, 'epoch': 4.46}
+{'loss': 0.2781, 'grad_norm': 7.133811950683594, 'learning_rate': 5.540743155149936e-06, 'epoch': 4.46}
+{'loss': 0.2986, 'grad_norm': 0.03516664728522301, 'learning_rate': 5.5387059973924385e-06, 'epoch': 4.46}
+{'loss': 0.3099, 'grad_norm': 38.068870544433594, 'learning_rate': 5.536668839634942e-06, 'epoch': 4.46}
+{'loss': 0.1821, 'grad_norm': 0.21017149090766907, 'learning_rate': 5.534631681877445e-06, 'epoch': 4.47}
+{'loss': 0.3456, 'grad_norm': 12.145432472229004, 'learning_rate': 5.5325945241199486e-06, 'epoch': 4.47}
+{'loss': 0.345, 'grad_norm': 7.325992107391357, 'learning_rate': 5.530557366362451e-06, 'epoch': 4.47}
+{'loss': 0.2852, 'grad_norm': 0.07687075436115265, 'learning_rate': 5.528520208604955e-06, 'epoch': 4.47}
+{'loss': 0.0863, 'grad_norm': 0.03163547441363335, 'learning_rate': 5.526483050847458e-06, 'epoch': 4.47}
+{'loss': 0.1972, 'grad_norm': 0.13881473243236542, 'learning_rate': 5.524445893089961e-06, 'epoch': 4.48}
+{'loss': 0.2412, 'grad_norm': 0.26359498500823975, 'learning_rate': 5.522408735332465e-06, 'epoch': 4.48}
+{'loss': 0.1695, 'grad_norm': 0.031162528321146965, 'learning_rate': 5.520371577574968e-06, 'epoch': 4.48}
+{'loss': 0.0832, 'grad_norm': 311.3324279785156, 'learning_rate': 5.518334419817471e-06, 'epoch': 4.48}
+{'eval_loss': 8.57167911529541, 'eval_accuracy': 0.7248995983935743, 'eval_runtime': 1.4458, 'eval_samples_per_second': 1722.287, 'eval_steps_per_second': 53.951, 'epoch': 4.48}
+{'loss': 0.2985, 'grad_norm': 0.10097087174654007, 'learning_rate': 5.516297262059974e-06, 'epoch': 4.48}
+{'loss': 0.3088, 'grad_norm': 70.43522644042969, 'learning_rate': 5.514260104302478e-06, 'epoch': 4.49}
+{'loss': 0.1899, 'grad_norm': 0.03984365612268448, 'learning_rate': 5.5122229465449805e-06, 'epoch': 4.49}
+{'loss': 0.2356, 'grad_norm': 0.019558776170015335, 'learning_rate': 5.510185788787485e-06, 'epoch': 4.49}
+{'loss': 0.2709, 'grad_norm': 1595.939208984375, 'learning_rate': 5.508148631029987e-06, 'epoch': 4.49}
+{'loss': 0.3185, 'grad_norm': 76.67306518554688, 'learning_rate': 5.506111473272491e-06, 'epoch': 4.49}
+{'loss': 0.2486, 'grad_norm': 0.43587759137153625, 'learning_rate': 5.504074315514993e-06, 'epoch': 4.5}
+{'loss': 0.2147, 'grad_norm': 49.015132904052734, 'learning_rate': 5.502037157757497e-06, 'epoch': 4.5}
+{'loss': 0.1556, 'grad_norm': 0.18100084364414215, 'learning_rate': 5.500000000000001e-06, 'epoch': 4.5}
+{'loss': 0.2437, 'grad_norm': 207.32948303222656, 'learning_rate': 5.497962842242503e-06, 'epoch': 4.5}
+{'loss': 0.1831, 'grad_norm': 0.09046663343906403, 'learning_rate': 5.4959256844850074e-06, 'epoch': 4.5}
+{'loss': 0.1579, 'grad_norm': 0.068903349339962, 'learning_rate': 5.49388852672751e-06, 'epoch': 4.51}
+{'loss': 0.3256, 'grad_norm': 49.76320266723633, 'learning_rate': 5.491851368970013e-06, 'epoch': 4.51}
+{'loss': 0.1011, 'grad_norm': 157.0424041748047, 'learning_rate': 5.489814211212517e-06, 'epoch': 4.51}
+{'loss': 0.2199, 'grad_norm': 0.029826467856764793, 'learning_rate': 5.48777705345502e-06, 'epoch': 4.51}
+{'loss': 0.2251, 'grad_norm': 73.60234069824219, 'learning_rate': 5.4857398956975226e-06, 'epoch': 4.51}
+{'loss': 0.3796, 'grad_norm': 3.7974846363067627, 'learning_rate': 5.483702737940027e-06, 'epoch': 4.52}
+{'loss': 0.2633, 'grad_norm': 1.4946467876434326, 'learning_rate': 5.48166558018253e-06, 'epoch': 4.52}
+{'loss': 0.256, 'grad_norm': 28.631738662719727, 'learning_rate': 5.479628422425033e-06, 'epoch': 4.52}
+{'loss': 0.3196, 'grad_norm': 0.19776904582977295, 'learning_rate': 5.477591264667537e-06, 'epoch': 4.52}
+{'loss': 0.1305, 'grad_norm': 84.33295440673828, 'learning_rate': 5.475554106910039e-06, 'epoch': 4.52}
+{'loss': 0.2994, 'grad_norm': 0.0948161780834198, 'learning_rate': 5.473516949152543e-06, 'epoch': 4.53}
+{'loss': 0.2261, 'grad_norm': 1.455936074256897, 'learning_rate': 5.471479791395046e-06, 'epoch': 4.53}
+{'loss': 0.2812, 'grad_norm': 0.9087591171264648, 'learning_rate': 5.4694426336375495e-06, 'epoch': 4.53}
+{'loss': 0.2766, 'grad_norm': 0.030797308310866356, 'learning_rate': 5.467405475880052e-06, 'epoch': 4.53}
+{'loss': 0.231, 'grad_norm': 0.08553799241781235, 'learning_rate': 5.465368318122556e-06, 'epoch': 4.53}
+{'loss': 0.345, 'grad_norm': 0.26209089159965515, 'learning_rate': 5.4633311603650596e-06, 'epoch': 4.54}
+{'loss': 0.2059, 'grad_norm': 54.789649963378906, 'learning_rate': 5.461294002607562e-06, 'epoch': 4.54}
+{'loss': 0.4835, 'grad_norm': 275.9491271972656, 'learning_rate': 5.459256844850066e-06, 'epoch': 4.54}
+{'loss': 0.2456, 'grad_norm': 15.901765823364258, 'learning_rate': 5.457219687092569e-06, 'epoch': 4.54}
+{'loss': 0.1543, 'grad_norm': 0.08849769085645676, 'learning_rate': 5.455182529335072e-06, 'epoch': 4.54}
+{'loss': 0.2392, 'grad_norm': 0.36063534021377563, 'learning_rate': 5.453145371577575e-06, 'epoch': 4.55}
+{'loss': 0.212, 'grad_norm': 0.08264506608247757, 'learning_rate': 5.451108213820079e-06, 'epoch': 4.55}
+{'loss': 0.1095, 'grad_norm': 0.038416579365730286, 'learning_rate': 5.4490710560625814e-06, 'epoch': 4.55}
+{'loss': 0.5629, 'grad_norm': 152.20639038085938, 'learning_rate': 5.447033898305086e-06, 'epoch': 4.55}
+{'loss': 0.3835, 'grad_norm': 150.7138671875, 'learning_rate': 5.444996740547589e-06, 'epoch': 4.56}
+{'loss': 0.3802, 'grad_norm': 0.14470188319683075, 'learning_rate': 5.4429595827900915e-06, 'epoch': 4.56}
+{'loss': 0.1822, 'grad_norm': 320.1669616699219, 'learning_rate': 5.440922425032596e-06, 'epoch': 4.56}
+{'loss': 0.2298, 'grad_norm': 376.09063720703125, 'learning_rate': 5.438885267275098e-06, 'epoch': 4.56}
+{'loss': 0.3882, 'grad_norm': 54.54124069213867, 'learning_rate': 5.436848109517602e-06, 'epoch': 4.56}
+{'loss': 0.2135, 'grad_norm': 195.81886291503906, 'learning_rate': 5.434810951760104e-06, 'epoch': 4.57}
+{'loss': 0.1335, 'grad_norm': 0.04386047273874283, 'learning_rate': 5.432773794002608e-06, 'epoch': 4.57}
+{'loss': 0.2371, 'grad_norm': 0.06125473603606224, 'learning_rate': 5.430736636245111e-06, 'epoch': 4.57}
+{'loss': 0.2743, 'grad_norm': 37.5628662109375, 'learning_rate': 5.428699478487614e-06, 'epoch': 4.57}
+{'loss': 0.3407, 'grad_norm': 119.82189178466797, 'learning_rate': 5.4266623207301184e-06, 'epoch': 4.57}
+{'loss': 0.1959, 'grad_norm': 16.61333465576172, 'learning_rate': 5.424625162972621e-06, 'epoch': 4.58}
+{'loss': 0.2197, 'grad_norm': 96.40106964111328, 'learning_rate': 5.422588005215124e-06, 'epoch': 4.58}
+{'loss': 0.3162, 'grad_norm': 7.932539939880371, 'learning_rate': 5.420550847457628e-06, 'epoch': 4.58}
+{'loss': 0.0979, 'grad_norm': 572.331298828125, 'learning_rate': 5.418513689700131e-06, 'epoch': 4.58}
+{'loss': 0.1625, 'grad_norm': 155.1813507080078, 'learning_rate': 5.4164765319426336e-06, 'epoch': 4.58}
+{'loss': 0.1942, 'grad_norm': 0.018630454316735268, 'learning_rate': 5.414439374185138e-06, 'epoch': 4.59}
+{'loss': 0.2224, 'grad_norm': 0.01262703351676464, 'learning_rate': 5.41240221642764e-06, 'epoch': 4.59}
+{'loss': 0.3368, 'grad_norm': 120.25193786621094, 'learning_rate': 5.410365058670144e-06, 'epoch': 4.59}
+{'loss': 0.2976, 'grad_norm': 100.05509185791016, 'learning_rate': 5.408327900912646e-06, 'epoch': 4.59}
+{'loss': 0.2821, 'grad_norm': 445.5118103027344, 'learning_rate': 5.40629074315515e-06, 'epoch': 4.59}
+{'loss': 0.2205, 'grad_norm': 0.05612007901072502, 'learning_rate': 5.404253585397654e-06, 'epoch': 4.6}
+{'loss': 0.1873, 'grad_norm': 0.21767137944698334, 'learning_rate': 5.402216427640157e-06, 'epoch': 4.6}
+{'loss': 0.1787, 'grad_norm': 61.919532775878906, 'learning_rate': 5.4001792698826605e-06, 'epoch': 4.6}
+{'loss': 0.1128, 'grad_norm': 2.2533328533172607, 'learning_rate': 5.398142112125163e-06, 'epoch': 4.6}
+{'loss': 0.2086, 'grad_norm': 72.48905944824219, 'learning_rate': 5.396104954367667e-06, 'epoch': 4.6}
+{'loss': 0.3398, 'grad_norm': 253.82723999023438, 'learning_rate': 5.39406779661017e-06, 'epoch': 4.61}
+{'loss': 0.2304, 'grad_norm': 0.04238303378224373, 'learning_rate': 5.392030638852673e-06, 'epoch': 4.61}
+{'loss': 0.2724, 'grad_norm': 49.01192092895508, 'learning_rate': 5.389993481095176e-06, 'epoch': 4.61}
+{'loss': 0.2868, 'grad_norm': 0.09724289178848267, 'learning_rate': 5.38795632333768e-06, 'epoch': 4.61}
+{'loss': 0.2588, 'grad_norm': 0.1922626793384552, 'learning_rate': 5.385919165580183e-06, 'epoch': 4.61}
+{'loss': 0.2885, 'grad_norm': 696.2431640625, 'learning_rate': 5.383882007822686e-06, 'epoch': 4.62}
+{'loss': 0.4482, 'grad_norm': 108.48764038085938, 'learning_rate': 5.38184485006519e-06, 'epoch': 4.62}
+{'loss': 0.0517, 'grad_norm': 0.2662232220172882, 'learning_rate': 5.3798076923076924e-06, 'epoch': 4.62}
+{'loss': 0.2106, 'grad_norm': 88.88041687011719, 'learning_rate': 5.377770534550197e-06, 'epoch': 4.62}
+{'loss': 0.3543, 'grad_norm': 383.5090026855469, 'learning_rate': 5.375733376792699e-06, 'epoch': 4.62}
+{'loss': 0.2059, 'grad_norm': 9.84383773803711, 'learning_rate': 5.3736962190352025e-06, 'epoch': 4.63}
+{'loss': 0.2567, 'grad_norm': 14.65687084197998, 'learning_rate': 5.371659061277705e-06, 'epoch': 4.63}
+{'loss': 0.359, 'grad_norm': 339.16082763671875, 'learning_rate': 5.369621903520209e-06, 'epoch': 4.63}
+{'loss': 0.2704, 'grad_norm': 42.83079528808594, 'learning_rate': 5.367584745762713e-06, 'epoch': 4.63}
+{'loss': 0.2152, 'grad_norm': 0.7440924644470215, 'learning_rate': 5.365547588005215e-06, 'epoch': 4.63}
+{'loss': 0.3111, 'grad_norm': 0.6487702131271362, 'learning_rate': 5.363510430247719e-06, 'epoch': 4.64}
+{'loss': 0.3332, 'grad_norm': 0.08284148573875427, 'learning_rate': 5.361473272490222e-06, 'epoch': 4.64}
+{'loss': 0.1611, 'grad_norm': 625.172119140625, 'learning_rate': 5.359436114732725e-06, 'epoch': 4.64}
+{'loss': 0.331, 'grad_norm': 0.2358403503894806, 'learning_rate': 5.357398956975229e-06, 'epoch': 4.64}
+{'loss': 0.2618, 'grad_norm': 0.2201724797487259, 'learning_rate': 5.355361799217732e-06, 'epoch': 4.64}
+{'loss': 0.1251, 'grad_norm': 0.060210321098566055, 'learning_rate': 5.3533246414602345e-06, 'epoch': 4.65}
+{'loss': 0.3238, 'grad_norm': 0.4480658173561096, 'learning_rate': 5.351287483702739e-06, 'epoch': 4.65}
+{'loss': 0.2893, 'grad_norm': 0.06328359991312027, 'learning_rate': 5.349250325945242e-06, 'epoch': 4.65}
+{'loss': 0.3083, 'grad_norm': 490.7381896972656, 'learning_rate': 5.3472131681877446e-06, 'epoch': 4.65}
+{'loss': 0.2153, 'grad_norm': 0.02109041064977646, 'learning_rate': 5.345176010430249e-06, 'epoch': 4.65}
+{'loss': 0.2939, 'grad_norm': 3.0669379234313965, 'learning_rate': 5.343138852672751e-06, 'epoch': 4.66}
+{'loss': 0.2823, 'grad_norm': 138.42874145507812, 'learning_rate': 5.341101694915255e-06, 'epoch': 4.66}
+{'loss': 0.1488, 'grad_norm': 0.35191255807876587, 'learning_rate': 5.339064537157758e-06, 'epoch': 4.66}
+{'loss': 0.1949, 'grad_norm': 267.0750732421875, 'learning_rate': 5.337027379400261e-06, 'epoch': 4.66}
+{'loss': 0.3653, 'grad_norm': 0.1439821422100067, 'learning_rate': 5.334990221642764e-06, 'epoch': 4.67}
+{'loss': 0.2227, 'grad_norm': 415.28741455078125, 'learning_rate': 5.332953063885268e-06, 'epoch': 4.67}
+{'loss': 0.3507, 'grad_norm': 0.48689693212509155, 'learning_rate': 5.330915906127771e-06, 'epoch': 4.67}
+{'loss': 0.2265, 'grad_norm': 0.041936296969652176, 'learning_rate': 5.328878748370274e-06, 'epoch': 4.67}
+{'loss': 0.2677, 'grad_norm': 307.8192138671875, 'learning_rate': 5.326841590612778e-06, 'epoch': 4.67}
+{'loss': 0.1924, 'grad_norm': 0.08121843636035919, 'learning_rate': 5.324804432855281e-06, 'epoch': 4.68}
+{'loss': 0.163, 'grad_norm': 0.02186678722500801, 'learning_rate': 5.322767275097784e-06, 'epoch': 4.68}
+{'loss': 0.1657, 'grad_norm': 0.0332786999642849, 'learning_rate': 5.320730117340287e-06, 'epoch': 4.68}
+{'loss': 0.3108, 'grad_norm': 0.13749349117279053, 'learning_rate': 5.318692959582791e-06, 'epoch': 4.68}
+{'loss': 0.4511, 'grad_norm': 0.04112212732434273, 'learning_rate': 5.316655801825293e-06, 'epoch': 4.68}
+{'loss': 0.2616, 'grad_norm': 9.608932495117188, 'learning_rate': 5.3146186440677976e-06, 'epoch': 4.69}
+{'loss': 0.3026, 'grad_norm': 82.66376495361328, 'learning_rate': 5.3125814863103e-06, 'epoch': 4.69}
+{'loss': 0.2811, 'grad_norm': 0.05530913919210434, 'learning_rate': 5.3105443285528034e-06, 'epoch': 4.69}
+{'loss': 0.197, 'grad_norm': 0.43445613980293274, 'learning_rate': 5.308507170795308e-06, 'epoch': 4.69}
+{'loss': 0.127, 'grad_norm': 238.03128051757812, 'learning_rate': 5.30647001303781e-06, 'epoch': 4.69}
+{'loss': 0.3086, 'grad_norm': 305.5978088378906, 'learning_rate': 5.3044328552803135e-06, 'epoch': 4.7}
+{'loss': 0.3072, 'grad_norm': 0.14699913561344147, 'learning_rate': 5.302395697522816e-06, 'epoch': 4.7}
+{'loss': 0.31, 'grad_norm': 37.07180404663086, 'learning_rate': 5.30035853976532e-06, 'epoch': 4.7}
+{'loss': 0.3542, 'grad_norm': 0.2060752660036087, 'learning_rate': 5.298321382007823e-06, 'epoch': 4.7}
+{'loss': 0.2743, 'grad_norm': 1.9278810024261475, 'learning_rate': 5.296284224250326e-06, 'epoch': 4.7}
+{'loss': 0.225, 'grad_norm': 59.85852813720703, 'learning_rate': 5.2942470664928295e-06, 'epoch': 4.71}
+{'loss': 0.1564, 'grad_norm': 332.7624816894531, 'learning_rate': 5.292209908735333e-06, 'epoch': 4.71}
+{'loss': 0.1773, 'grad_norm': 0.7096794843673706, 'learning_rate': 5.290172750977837e-06, 'epoch': 4.71}
+{'loss': 0.2255, 'grad_norm': 90.71874237060547, 'learning_rate': 5.28813559322034e-06, 'epoch': 4.71}
+{'loss': 0.2091, 'grad_norm': 0.1556915044784546, 'learning_rate': 5.286098435462843e-06, 'epoch': 4.71}
+{'loss': 0.2361, 'grad_norm': 4.708608627319336, 'learning_rate': 5.2840612777053455e-06, 'epoch': 4.72}
+{'loss': 0.1951, 'grad_norm': 0.11110889166593552, 'learning_rate': 5.28202411994785e-06, 'epoch': 4.72}
+{'loss': 0.352, 'grad_norm': 0.060621295124292374, 'learning_rate': 5.279986962190352e-06, 'epoch': 4.72}
+{'loss': 0.3029, 'grad_norm': 35.71584701538086, 'learning_rate': 5.277949804432856e-06, 'epoch': 4.72}
+{'loss': 0.119, 'grad_norm': 106.1819076538086, 'learning_rate': 5.275912646675358e-06, 'epoch': 4.72}
+{'loss': 0.1975, 'grad_norm': 0.8053867220878601, 'learning_rate': 5.273875488917862e-06, 'epoch': 4.73}
+{'loss': 0.1644, 'grad_norm': 0.28619620203971863, 'learning_rate': 5.271838331160366e-06, 'epoch': 4.73}
+{'loss': 0.372, 'grad_norm': 0.10022604465484619, 'learning_rate': 5.269801173402869e-06, 'epoch': 4.73}
+{'loss': 0.2202, 'grad_norm': 52.19785690307617, 'learning_rate': 5.267764015645372e-06, 'epoch': 4.73}
+{'loss': 0.09, 'grad_norm': 77.1677017211914, 'learning_rate': 5.265726857887875e-06, 'epoch': 4.73}
+{'loss': 0.3848, 'grad_norm': 40.553810119628906, 'learning_rate': 5.263689700130379e-06, 'epoch': 4.74}
+{'loss': 0.2399, 'grad_norm': 0.4051792323589325, 'learning_rate': 5.261652542372882e-06, 'epoch': 4.74}
+{'loss': 0.302, 'grad_norm': 0.17109856009483337, 'learning_rate': 5.259615384615385e-06, 'epoch': 4.74}
+{'loss': 0.1108, 'grad_norm': 0.06680107116699219, 'learning_rate': 5.2575782268578875e-06, 'epoch': 4.74}
+{'loss': 0.3667, 'grad_norm': 669.5892944335938, 'learning_rate': 5.255541069100392e-06, 'epoch': 4.74}
+{'loss': 0.2112, 'grad_norm': 0.1990470141172409, 'learning_rate': 5.253503911342894e-06, 'epoch': 4.75}
+{'loss': 0.2214, 'grad_norm': 0.769708514213562, 'learning_rate': 5.251466753585398e-06, 'epoch': 4.75}
+{'loss': 0.168, 'grad_norm': 0.029789721593260765, 'learning_rate': 5.249429595827902e-06, 'epoch': 4.75}
+{'loss': 0.2026, 'grad_norm': 0.163904070854187, 'learning_rate': 5.247392438070404e-06, 'epoch': 4.75}
+{'loss': 0.0986, 'grad_norm': 0.6176882386207581, 'learning_rate': 5.2453552803129086e-06, 'epoch': 4.75}
+{'loss': 0.0998, 'grad_norm': 200.51486206054688, 'learning_rate': 5.243318122555411e-06, 'epoch': 4.76}
+{'loss': 0.2348, 'grad_norm': 0.015998920425772667, 'learning_rate': 5.2412809647979144e-06, 'epoch': 4.76}
+{'loss': 0.2976, 'grad_norm': 0.06802456080913544, 'learning_rate': 5.239243807040417e-06, 'epoch': 4.76}
+{'loss': 0.3652, 'grad_norm': 11.366445541381836, 'learning_rate': 5.237206649282921e-06, 'epoch': 4.76}
+{'loss': 0.2327, 'grad_norm': 3.9222171306610107, 'learning_rate': 5.235169491525424e-06, 'epoch': 4.76}
+{'loss': 0.33, 'grad_norm': 124.60891723632812, 'learning_rate': 5.233132333767927e-06, 'epoch': 4.77}
+{'loss': 0.2577, 'grad_norm': 0.21176360547542572, 'learning_rate': 5.231095176010431e-06, 'epoch': 4.77}
+{'loss': 0.1703, 'grad_norm': 82.8045425415039, 'learning_rate': 5.229058018252934e-06, 'epoch': 4.77}
+{'loss': 0.3211, 'grad_norm': 0.06757359206676483, 'learning_rate': 5.227020860495437e-06, 'epoch': 4.77}
+{'loss': 0.1211, 'grad_norm': 103.16102600097656, 'learning_rate': 5.2249837027379405e-06, 'epoch': 4.78}
+{'loss': 0.353, 'grad_norm': 0.19217410683631897, 'learning_rate': 5.222946544980444e-06, 'epoch': 4.78}
+{'loss': 0.1363, 'grad_norm': 230.94424438476562, 'learning_rate': 5.220909387222946e-06, 'epoch': 4.78}
+{'loss': 0.4267, 'grad_norm': 0.2685067355632782, 'learning_rate': 5.218872229465451e-06, 'epoch': 4.78}
+{'loss': 0.2568, 'grad_norm': 0.6027244925498962, 'learning_rate': 5.216835071707953e-06, 'epoch': 4.78}
+{'loss': 0.31, 'grad_norm': 0.18210436403751373, 'learning_rate': 5.2147979139504565e-06, 'epoch': 4.79}
+{'loss': 0.1007, 'grad_norm': 1.86330246925354, 'learning_rate': 5.212760756192961e-06, 'epoch': 4.79}
+{'loss': 0.4251, 'grad_norm': 140.74656677246094, 'learning_rate': 5.210723598435463e-06, 'epoch': 4.79}
+{'loss': 0.1744, 'grad_norm': 0.30350640416145325, 'learning_rate': 5.208686440677967e-06, 'epoch': 4.79}
+{'loss': 0.1609, 'grad_norm': 0.08763039857149124, 'learning_rate': 5.20664928292047e-06, 'epoch': 4.79}
+{'loss': 0.4229, 'grad_norm': 0.19233092665672302, 'learning_rate': 5.204612125162973e-06, 'epoch': 4.8}
+{'loss': 0.2068, 'grad_norm': 0.313520222902298, 'learning_rate': 5.202574967405476e-06, 'epoch': 4.8}
+{'loss': 0.1765, 'grad_norm': 0.10026475787162781, 'learning_rate': 5.20053780964798e-06, 'epoch': 4.8}
+{'loss': 0.359, 'grad_norm': 40.00383758544922, 'learning_rate': 5.1985006518904826e-06, 'epoch': 4.8}
+{'loss': 0.1401, 'grad_norm': 0.8442473411560059, 'learning_rate': 5.196463494132986e-06, 'epoch': 4.8}
+{'loss': 0.2538, 'grad_norm': 23.129600524902344, 'learning_rate': 5.19442633637549e-06, 'epoch': 4.81}
+{'loss': 0.407, 'grad_norm': 0.11332739889621735, 'learning_rate': 5.192389178617993e-06, 'epoch': 4.81}
+{'loss': 0.3169, 'grad_norm': 139.74729919433594, 'learning_rate': 5.190352020860496e-06, 'epoch': 4.81}
+{'loss': 0.3602, 'grad_norm': 237.4973907470703, 'learning_rate': 5.1883148631029985e-06, 'epoch': 4.81}
+{'loss': 0.1717, 'grad_norm': 0.36910662055015564, 'learning_rate': 5.186277705345503e-06, 'epoch': 4.81}
+{'loss': 0.4201, 'grad_norm': 263.0181579589844, 'learning_rate': 5.184240547588005e-06, 'epoch': 4.82}
+{'loss': 0.2594, 'grad_norm': 470.4815673828125, 'learning_rate': 5.1822033898305095e-06, 'epoch': 4.82}
+{'loss': 0.2917, 'grad_norm': 0.9636737704277039, 'learning_rate': 5.180166232073012e-06, 'epoch': 4.82}
+{'loss': 0.3152, 'grad_norm': 8.55919361114502, 'learning_rate': 5.178129074315515e-06, 'epoch': 4.82}
+{'loss': 0.1267, 'grad_norm': 1.5644022226333618, 'learning_rate': 5.176091916558018e-06, 'epoch': 4.82}
+{'loss': 0.157, 'grad_norm': 56.275657653808594, 'learning_rate': 5.174054758800522e-06, 'epoch': 4.83}
+{'loss': 0.133, 'grad_norm': 204.86180114746094, 'learning_rate': 5.1720176010430255e-06, 'epoch': 4.83}
+{'loss': 0.2303, 'grad_norm': 6.292740345001221, 'learning_rate': 5.169980443285528e-06, 'epoch': 4.83}
+{'loss': 0.3038, 'grad_norm': 0.06094489246606827, 'learning_rate': 5.167943285528032e-06, 'epoch': 4.83}
+{'loss': 0.3067, 'grad_norm': 0.23087187111377716, 'learning_rate': 5.165906127770535e-06, 'epoch': 4.83}
+{'loss': 0.4656, 'grad_norm': 455.3978271484375, 'learning_rate': 5.163868970013038e-06, 'epoch': 4.84}
+{'loss': 0.2006, 'grad_norm': 120.71315002441406, 'learning_rate': 5.1618318122555414e-06, 'epoch': 4.84}
+{'loss': 0.3173, 'grad_norm': 0.6562265753746033, 'learning_rate': 5.159794654498045e-06, 'epoch': 4.84}
+{'loss': 0.1586, 'grad_norm': 214.6553192138672, 'learning_rate': 5.157757496740547e-06, 'epoch': 4.84}
+{'loss': 0.0953, 'grad_norm': 0.014680194668471813, 'learning_rate': 5.1557203389830515e-06, 'epoch': 4.84}
+{'loss': 0.3311, 'grad_norm': 382.10443115234375, 'learning_rate': 5.153683181225555e-06, 'epoch': 4.85}
+{'loss': 0.4037, 'grad_norm': 1757.5430908203125, 'learning_rate': 5.151646023468057e-06, 'epoch': 4.85}
+{'loss': 0.1045, 'grad_norm': 0.06879590451717377, 'learning_rate': 5.149608865710562e-06, 'epoch': 4.85}
+{'loss': 0.2947, 'grad_norm': 217.81761169433594, 'learning_rate': 5.147571707953064e-06, 'epoch': 4.85}
+{'loss': 0.0759, 'grad_norm': 0.031052354723215103, 'learning_rate': 5.1455345501955675e-06, 'epoch': 4.85}
+{'loss': 0.2293, 'grad_norm': 103.82183074951172, 'learning_rate': 5.143497392438071e-06, 'epoch': 4.86}
+{'loss': 0.1197, 'grad_norm': 0.11937561631202698, 'learning_rate': 5.141460234680574e-06, 'epoch': 4.86}
+{'loss': 0.2694, 'grad_norm': 0.11955121904611588, 'learning_rate': 5.139423076923077e-06, 'epoch': 4.86}
+{'loss': 0.2179, 'grad_norm': 0.11975815147161484, 'learning_rate': 5.137385919165581e-06, 'epoch': 4.86}
+{'loss': 0.228, 'grad_norm': 0.293942928314209, 'learning_rate': 5.135348761408084e-06, 'epoch': 4.86}
+{'loss': 0.2193, 'grad_norm': 0.0866277739405632, 'learning_rate': 5.133311603650587e-06, 'epoch': 4.87}
+{'loss': 0.1863, 'grad_norm': 0.010427689179778099, 'learning_rate': 5.131274445893091e-06, 'epoch': 4.87}
+{'loss': 0.2187, 'grad_norm': 0.1521468311548233, 'learning_rate': 5.1292372881355936e-06, 'epoch': 4.87}
+{'loss': 0.3443, 'grad_norm': 0.7746286392211914, 'learning_rate': 5.127200130378097e-06, 'epoch': 4.87}
+{'loss': 0.2327, 'grad_norm': 107.54220581054688, 'learning_rate': 5.1251629726205995e-06, 'epoch': 4.87}
+{'loss': 0.261, 'grad_norm': 121.8791732788086, 'learning_rate': 5.123125814863104e-06, 'epoch': 4.88}
+{'loss': 0.2366, 'grad_norm': 0.3982285261154175, 'learning_rate': 5.121088657105606e-06, 'epoch': 4.88}
+{'loss': 0.1918, 'grad_norm': 0.5092856884002686, 'learning_rate': 5.1190514993481095e-06, 'epoch': 4.88}
+{'loss': 0.3189, 'grad_norm': 92.45279693603516, 'learning_rate': 5.117014341590614e-06, 'epoch': 4.88}
+{'loss': 0.1866, 'grad_norm': 0.04858092591166496, 'learning_rate': 5.114977183833116e-06, 'epoch': 4.89}
+{'loss': 0.3426, 'grad_norm': 523.5245361328125, 'learning_rate': 5.1129400260756205e-06, 'epoch': 4.89}
+{'loss': 0.3606, 'grad_norm': 78.53248596191406, 'learning_rate': 5.110902868318123e-06, 'epoch': 4.89}
+{'eval_loss': 8.169354438781738, 'eval_accuracy': 0.7196787148594378, 'eval_runtime': 1.4192, 'eval_samples_per_second': 1754.506, 'eval_steps_per_second': 54.96, 'epoch': 4.89}
+{'loss': 0.2461, 'grad_norm': 0.1579250544309616, 'learning_rate': 5.108865710560626e-06, 'epoch': 4.89}
+{'loss': 0.183, 'grad_norm': 0.046870891004800797, 'learning_rate': 5.106828552803129e-06, 'epoch': 4.89}
+{'loss': 0.3359, 'grad_norm': 271.2857360839844, 'learning_rate': 5.104791395045633e-06, 'epoch': 4.9}
+{'loss': 0.2307, 'grad_norm': 126.70477294921875, 'learning_rate': 5.102754237288136e-06, 'epoch': 4.9}
+{'loss': 0.0722, 'grad_norm': 0.0837351605296135, 'learning_rate': 5.100717079530639e-06, 'epoch': 4.9}
+{'loss': 0.1915, 'grad_norm': 0.43874114751815796, 'learning_rate': 5.098679921773143e-06, 'epoch': 4.9}
+{'loss': 0.0878, 'grad_norm': 104.17193603515625, 'learning_rate': 5.096642764015646e-06, 'epoch': 4.9}
+{'loss': 0.2621, 'grad_norm': 0.01263410784304142, 'learning_rate': 5.094605606258149e-06, 'epoch': 4.91}
+{'loss': 0.1432, 'grad_norm': 49.96831130981445, 'learning_rate': 5.0925684485006524e-06, 'epoch': 4.91}
+{'loss': 0.2006, 'grad_norm': 0.023699799552559853, 'learning_rate': 5.090531290743156e-06, 'epoch': 4.91}
+{'loss': 0.3125, 'grad_norm': 78.79158020019531, 'learning_rate': 5.088494132985658e-06, 'epoch': 4.91}
+{'loss': 0.385, 'grad_norm': 290.6982116699219, 'learning_rate': 5.0864569752281625e-06, 'epoch': 4.91}
+{'loss': 0.3259, 'grad_norm': 0.04171980917453766, 'learning_rate': 5.084419817470665e-06, 'epoch': 4.92}
+{'loss': 0.1033, 'grad_norm': 17.7434139251709, 'learning_rate': 5.082382659713168e-06, 'epoch': 4.92}
+{'loss': 0.4663, 'grad_norm': 495.7104187011719, 'learning_rate': 5.080345501955671e-06, 'epoch': 4.92}
+{'loss': 0.1707, 'grad_norm': 347.3309631347656, 'learning_rate': 5.078308344198175e-06, 'epoch': 4.92}
+{'loss': 0.2009, 'grad_norm': 0.14717258512973785, 'learning_rate': 5.0762711864406785e-06, 'epoch': 4.92}
+{'loss': 0.3841, 'grad_norm': 0.032788150012493134, 'learning_rate': 5.074234028683182e-06, 'epoch': 4.93}
+{'loss': 0.2307, 'grad_norm': 0.11914700269699097, 'learning_rate': 5.072196870925685e-06, 'epoch': 4.93}
+{'loss': 0.1268, 'grad_norm': 0.05907752737402916, 'learning_rate': 5.070159713168188e-06, 'epoch': 4.93}
+{'loss': 0.1447, 'grad_norm': 0.02497902885079384, 'learning_rate': 5.068122555410692e-06, 'epoch': 4.93}
+{'loss': 0.2308, 'grad_norm': 0.011646159924566746, 'learning_rate': 5.0660853976531945e-06, 'epoch': 4.93}
+{'loss': 0.389, 'grad_norm': 43.60273742675781, 'learning_rate': 5.064048239895698e-06, 'epoch': 4.94}
+{'loss': 0.472, 'grad_norm': 279.2174072265625, 'learning_rate': 5.0620110821382e-06, 'epoch': 4.94}
+{'loss': 0.1852, 'grad_norm': 0.06053150072693825, 'learning_rate': 5.0599739243807046e-06, 'epoch': 4.94}
+{'loss': 0.1746, 'grad_norm': 1.3330391645431519, 'learning_rate': 5.057936766623208e-06, 'epoch': 4.94}
+{'loss': 0.4318, 'grad_norm': 1.1859639883041382, 'learning_rate': 5.0558996088657105e-06, 'epoch': 4.94}
+{'loss': 0.3965, 'grad_norm': 24.84093475341797, 'learning_rate': 5.053862451108215e-06, 'epoch': 4.95}
+{'loss': 0.3394, 'grad_norm': 574.9007568359375, 'learning_rate': 5.051825293350717e-06, 'epoch': 4.95}
+{'loss': 0.1709, 'grad_norm': 5.370664119720459, 'learning_rate': 5.049788135593221e-06, 'epoch': 4.95}
+{'loss': 0.2573, 'grad_norm': 0.04255818575620651, 'learning_rate': 5.047750977835724e-06, 'epoch': 4.95}
+{'loss': 0.2146, 'grad_norm': 414.4443054199219, 'learning_rate': 5.045713820078227e-06, 'epoch': 4.95}
+{'loss': 0.0922, 'grad_norm': 42.49945068359375, 'learning_rate': 5.04367666232073e-06, 'epoch': 4.96}
+{'loss': 0.277, 'grad_norm': 0.08724988996982574, 'learning_rate': 5.041639504563234e-06, 'epoch': 4.96}
+{'loss': 0.1662, 'grad_norm': 319.1329345703125, 'learning_rate': 5.039602346805737e-06, 'epoch': 4.96}
+{'loss': 0.2017, 'grad_norm': 0.07556450366973877, 'learning_rate': 5.03756518904824e-06, 'epoch': 4.96}
+{'loss': 0.5053, 'grad_norm': 0.16767409443855286, 'learning_rate': 5.035528031290744e-06, 'epoch': 4.96}
+{'loss': 0.2229, 'grad_norm': 5.884999752044678, 'learning_rate': 5.033490873533247e-06, 'epoch': 4.97}
+{'loss': 0.1087, 'grad_norm': 7.343127250671387, 'learning_rate': 5.03145371577575e-06, 'epoch': 4.97}
+{'loss': 0.2038, 'grad_norm': 362.9760437011719, 'learning_rate': 5.029416558018253e-06, 'epoch': 4.97}
+{'loss': 0.714, 'grad_norm': 0.7216772437095642, 'learning_rate': 5.027379400260757e-06, 'epoch': 4.97}
+{'loss': 0.21, 'grad_norm': 0.5199620723724365, 'learning_rate': 5.025342242503259e-06, 'epoch': 4.97}
+{'loss': 0.2338, 'grad_norm': 0.07965177297592163, 'learning_rate': 5.0233050847457634e-06, 'epoch': 4.98}
+{'loss': 0.15, 'grad_norm': 0.08517619967460632, 'learning_rate': 5.021267926988267e-06, 'epoch': 4.98}
+{'loss': 0.3355, 'grad_norm': 22.37567901611328, 'learning_rate': 5.019230769230769e-06, 'epoch': 4.98}
+{'loss': 0.2655, 'grad_norm': 0.029167095199227333, 'learning_rate': 5.0171936114732735e-06, 'epoch': 4.98}
+{'loss': 0.3123, 'grad_norm': 0.1765444278717041, 'learning_rate': 5.015156453715776e-06, 'epoch': 4.98}
+{'loss': 0.322, 'grad_norm': 59.44686508178711, 'learning_rate': 5.013119295958279e-06, 'epoch': 4.99}
+{'loss': 0.24, 'grad_norm': 3.2829227447509766, 'learning_rate': 5.011082138200783e-06, 'epoch': 4.99}
+{'loss': 0.1902, 'grad_norm': 9.975650787353516, 'learning_rate': 5.009044980443286e-06, 'epoch': 4.99}
+{'loss': 0.2607, 'grad_norm': 633.2156372070312, 'learning_rate': 5.007007822685789e-06, 'epoch': 4.99}
+{'loss': 0.4077, 'grad_norm': 0.6137619018554688, 'learning_rate': 5.004970664928293e-06, 'epoch': 5.0}
+{'loss': 0.2548, 'grad_norm': 544.966796875, 'learning_rate': 5.002933507170795e-06, 'epoch': 5.0}
+{'loss': 0.1643, 'grad_norm': 0.03748871013522148, 'learning_rate': 5.000896349413299e-06, 'epoch': 5.0}
+{'loss': 0.2688, 'grad_norm': 182.73385620117188, 'learning_rate': 4.998859191655802e-06, 'epoch': 5.0}
+{'loss': 0.049, 'grad_norm': 52.027835845947266, 'learning_rate': 4.9968220338983055e-06, 'epoch': 5.0}
+{'loss': 0.0545, 'grad_norm': 0.1578657180070877, 'learning_rate': 4.994784876140809e-06, 'epoch': 5.01}
+{'loss': 0.1579, 'grad_norm': 0.020722685381770134, 'learning_rate': 4.992747718383311e-06, 'epoch': 5.01}
+{'loss': 0.1395, 'grad_norm': 0.49029970169067383, 'learning_rate': 4.990710560625816e-06, 'epoch': 5.01}
+{'loss': 0.1987, 'grad_norm': 117.93763732910156, 'learning_rate': 4.988673402868319e-06, 'epoch': 5.01}
+{'loss': 0.1285, 'grad_norm': 0.01715690828859806, 'learning_rate': 4.986636245110822e-06, 'epoch': 5.01}
+{'loss': 0.154, 'grad_norm': 0.21877677738666534, 'learning_rate': 4.984599087353325e-06, 'epoch': 5.02}
+{'loss': 0.0002, 'grad_norm': 0.004728876519948244, 'learning_rate': 4.982561929595828e-06, 'epoch': 5.02}
+{'loss': 0.0906, 'grad_norm': 0.0033264888916164637, 'learning_rate': 4.9805247718383316e-06, 'epoch': 5.02}
+{'loss': 0.1941, 'grad_norm': 0.054697297513484955, 'learning_rate': 4.978487614080835e-06, 'epoch': 5.02}
+{'loss': 0.2073, 'grad_norm': 356.4832763671875, 'learning_rate': 4.976450456323338e-06, 'epoch': 5.02}
+{'loss': 0.1324, 'grad_norm': 33.86436080932617, 'learning_rate': 4.974413298565841e-06, 'epoch': 5.03}
+{'loss': 0.1862, 'grad_norm': 190.4065399169922, 'learning_rate': 4.972376140808345e-06, 'epoch': 5.03}
+{'loss': 0.1368, 'grad_norm': 1.7636030912399292, 'learning_rate': 4.970338983050848e-06, 'epoch': 5.03}
+{'loss': 0.0743, 'grad_norm': 0.018928147852420807, 'learning_rate': 4.968301825293351e-06, 'epoch': 5.03}
+{'loss': 0.1907, 'grad_norm': 0.008779016323387623, 'learning_rate': 4.966264667535854e-06, 'epoch': 5.03}
+{'loss': 0.1751, 'grad_norm': 2.3491761684417725, 'learning_rate': 4.964227509778358e-06, 'epoch': 5.04}
+{'loss': 0.0351, 'grad_norm': 0.2173967808485031, 'learning_rate': 4.962190352020861e-06, 'epoch': 5.04}
+{'loss': 0.0766, 'grad_norm': 0.04386400803923607, 'learning_rate': 4.960153194263364e-06, 'epoch': 5.04}
+{'loss': 0.2451, 'grad_norm': 28.27195930480957, 'learning_rate': 4.958116036505867e-06, 'epoch': 5.04}
+{'loss': 0.1534, 'grad_norm': 11.08919620513916, 'learning_rate': 4.95607887874837e-06, 'epoch': 5.04}
+{'loss': 0.0955, 'grad_norm': 0.028026621788740158, 'learning_rate': 4.9540417209908744e-06, 'epoch': 5.05}
+{'loss': 0.1012, 'grad_norm': 0.06785909086465836, 'learning_rate': 4.952004563233378e-06, 'epoch': 5.05}
+{'loss': 0.0958, 'grad_norm': 0.06866633892059326, 'learning_rate': 4.94996740547588e-06, 'epoch': 5.05}
+{'loss': 0.0378, 'grad_norm': 0.0497516430914402, 'learning_rate': 4.947930247718384e-06, 'epoch': 5.05}
+{'loss': 0.0689, 'grad_norm': 137.1738739013672, 'learning_rate': 4.945893089960887e-06, 'epoch': 5.05}
+{'loss': 0.097, 'grad_norm': 0.013817746192216873, 'learning_rate': 4.9438559322033904e-06, 'epoch': 5.06}
+{'loss': 0.1065, 'grad_norm': 0.023779114708304405, 'learning_rate': 4.941818774445894e-06, 'epoch': 5.06}
+{'loss': 0.185, 'grad_norm': 20.236387252807617, 'learning_rate': 4.939781616688396e-06, 'epoch': 5.06}
+{'loss': 0.0861, 'grad_norm': 0.19889599084854126, 'learning_rate': 4.9377444589309e-06, 'epoch': 5.06}
+{'loss': 0.2006, 'grad_norm': 0.02222072333097458, 'learning_rate': 4.935707301173403e-06, 'epoch': 5.06}
+{'loss': 0.1839, 'grad_norm': 0.07465989142656326, 'learning_rate': 4.933670143415906e-06, 'epoch': 5.07}
+{'loss': 0.2993, 'grad_norm': 456.044189453125, 'learning_rate': 4.93163298565841e-06, 'epoch': 5.07}
+{'loss': 0.0092, 'grad_norm': 0.15506558120250702, 'learning_rate': 4.929595827900913e-06, 'epoch': 5.07}
+{'loss': 0.1128, 'grad_norm': 0.004210731480270624, 'learning_rate': 4.9275586701434165e-06, 'epoch': 5.07}
+{'loss': 0.1669, 'grad_norm': 231.6123046875, 'learning_rate': 4.92552151238592e-06, 'epoch': 5.07}
+{'loss': 0.0513, 'grad_norm': 2.972705602645874, 'learning_rate': 4.923484354628422e-06, 'epoch': 5.08}
+{'loss': 0.3073, 'grad_norm': 0.06097700446844101, 'learning_rate': 4.921447196870926e-06, 'epoch': 5.08}
+{'loss': 0.1031, 'grad_norm': 1047.903564453125, 'learning_rate': 4.919410039113429e-06, 'epoch': 5.08}
+{'loss': 0.2531, 'grad_norm': 0.029424337670207024, 'learning_rate': 4.9173728813559325e-06, 'epoch': 5.08}
+{'loss': 0.0363, 'grad_norm': 0.21701176464557648, 'learning_rate': 4.915335723598436e-06, 'epoch': 5.08}
+{'loss': 0.2503, 'grad_norm': 0.038745082914829254, 'learning_rate': 4.913298565840939e-06, 'epoch': 5.09}
+{'loss': 0.1274, 'grad_norm': 0.01686018332839012, 'learning_rate': 4.9112614080834426e-06, 'epoch': 5.09}
+{'loss': 0.1718, 'grad_norm': 3.6200785636901855, 'learning_rate': 4.909224250325946e-06, 'epoch': 5.09}
+{'loss': 0.0348, 'grad_norm': 1.2077161073684692, 'learning_rate': 4.907187092568449e-06, 'epoch': 5.09}
+{'loss': 0.2081, 'grad_norm': 0.06878276914358139, 'learning_rate': 4.905149934810952e-06, 'epoch': 5.09}
+{'loss': 0.2056, 'grad_norm': 2.129603624343872, 'learning_rate': 4.903112777053455e-06, 'epoch': 5.1}
+{'loss': 0.2198, 'grad_norm': 0.045319102704524994, 'learning_rate': 4.9010756192959585e-06, 'epoch': 5.1}
+{'loss': 0.119, 'grad_norm': 0.317356675863266, 'learning_rate': 4.899038461538462e-06, 'epoch': 5.1}
+{'loss': 0.1319, 'grad_norm': 239.41964721679688, 'learning_rate': 4.897001303780965e-06, 'epoch': 5.1}
+{'loss': 0.2383, 'grad_norm': 339.4490966796875, 'learning_rate': 4.894964146023469e-06, 'epoch': 5.11}
+{'loss': 0.0027, 'grad_norm': 0.04432889446616173, 'learning_rate': 4.892926988265972e-06, 'epoch': 5.11}
+{'loss': 0.1123, 'grad_norm': 0.021997610107064247, 'learning_rate': 4.890889830508475e-06, 'epoch': 5.11}
+{'loss': 0.1569, 'grad_norm': 0.03445403277873993, 'learning_rate': 4.888852672750978e-06, 'epoch': 5.11}
+{'loss': 0.2035, 'grad_norm': 0.161444753408432, 'learning_rate': 4.886815514993481e-06, 'epoch': 5.11}
+{'loss': 0.0891, 'grad_norm': 0.015519220381975174, 'learning_rate': 4.884778357235985e-06, 'epoch': 5.12}
+{'loss': 0.1013, 'grad_norm': 0.5529044270515442, 'learning_rate': 4.882741199478488e-06, 'epoch': 5.12}
+{'loss': 0.0572, 'grad_norm': 1.5782290697097778, 'learning_rate': 4.880704041720991e-06, 'epoch': 5.12}
+{'loss': 0.0425, 'grad_norm': 0.006788624916225672, 'learning_rate': 4.878666883963495e-06, 'epoch': 5.12}
+{'loss': 0.0793, 'grad_norm': 0.009847654961049557, 'learning_rate': 4.876629726205998e-06, 'epoch': 5.12}
+{'loss': 0.1608, 'grad_norm': 0.41416722536087036, 'learning_rate': 4.8745925684485014e-06, 'epoch': 5.13}
+{'loss': 0.2612, 'grad_norm': 0.2016047090291977, 'learning_rate': 4.872555410691005e-06, 'epoch': 5.13}
+{'loss': 0.125, 'grad_norm': 0.2306400090456009, 'learning_rate': 4.870518252933507e-06, 'epoch': 5.13}
+{'loss': 0.058, 'grad_norm': 0.03210294991731644, 'learning_rate': 4.868481095176011e-06, 'epoch': 5.13}
+{'loss': 0.1781, 'grad_norm': 1.548154592514038, 'learning_rate': 4.866443937418514e-06, 'epoch': 5.13}
+{'loss': 0.4111, 'grad_norm': 0.15395916998386383, 'learning_rate': 4.864406779661017e-06, 'epoch': 5.14}
+{'loss': 0.0894, 'grad_norm': 0.026969240978360176, 'learning_rate': 4.862369621903521e-06, 'epoch': 5.14}
+{'loss': 0.3151, 'grad_norm': 0.01380578801035881, 'learning_rate': 4.860332464146023e-06, 'epoch': 5.14}
+{'loss': 0.2387, 'grad_norm': 0.16607990860939026, 'learning_rate': 4.858295306388527e-06, 'epoch': 5.14}
+{'loss': 0.1509, 'grad_norm': 52.754032135009766, 'learning_rate': 4.856258148631031e-06, 'epoch': 5.14}
+{'loss': 0.1139, 'grad_norm': 52.374603271484375, 'learning_rate': 4.854220990873534e-06, 'epoch': 5.15}
+{'loss': 0.1909, 'grad_norm': 726.9237670898438, 'learning_rate': 4.852183833116037e-06, 'epoch': 5.15}
+{'loss': 0.2272, 'grad_norm': 0.06568252295255661, 'learning_rate': 4.85014667535854e-06, 'epoch': 5.15}
+{'loss': 0.107, 'grad_norm': 0.027994506061077118, 'learning_rate': 4.8481095176010435e-06, 'epoch': 5.15}
+{'loss': 0.0724, 'grad_norm': 418.03839111328125, 'learning_rate': 4.846072359843547e-06, 'epoch': 5.15}
+{'loss': 0.0827, 'grad_norm': 843.9486694335938, 'learning_rate': 4.84403520208605e-06, 'epoch': 5.16}
+{'loss': 0.0651, 'grad_norm': 0.01723209209740162, 'learning_rate': 4.841998044328553e-06, 'epoch': 5.16}
+{'loss': 0.2333, 'grad_norm': 0.029383117333054543, 'learning_rate': 4.839960886571056e-06, 'epoch': 5.16}
+{'loss': 0.1461, 'grad_norm': 0.023793479427695274, 'learning_rate': 4.83792372881356e-06, 'epoch': 5.16}
+{'loss': 0.0796, 'grad_norm': 136.34080505371094, 'learning_rate': 4.835886571056063e-06, 'epoch': 5.16}
+{'loss': 0.0177, 'grad_norm': 0.6835470199584961, 'learning_rate': 4.833849413298566e-06, 'epoch': 5.17}
+{'loss': 0.2717, 'grad_norm': 0.022434914484620094, 'learning_rate': 4.8318122555410695e-06, 'epoch': 5.17}
+{'loss': 0.1681, 'grad_norm': 0.020177427679300308, 'learning_rate': 4.829775097783573e-06, 'epoch': 5.17}
+{'loss': 0.1988, 'grad_norm': 0.03187715634703636, 'learning_rate': 4.827737940026076e-06, 'epoch': 5.17}
+{'loss': 0.1092, 'grad_norm': 0.17854642868041992, 'learning_rate': 4.825700782268579e-06, 'epoch': 5.17}
+{'loss': 0.1022, 'grad_norm': 0.05129384994506836, 'learning_rate': 4.823663624511082e-06, 'epoch': 5.18}
+{'loss': 0.102, 'grad_norm': 0.061591751873493195, 'learning_rate': 4.8216264667535855e-06, 'epoch': 5.18}
+{'loss': 0.1132, 'grad_norm': 591.4549560546875, 'learning_rate': 4.819589308996089e-06, 'epoch': 5.18}
+{'loss': 0.1786, 'grad_norm': 0.013496099039912224, 'learning_rate': 4.817552151238592e-06, 'epoch': 5.18}
+{'loss': 0.2838, 'grad_norm': 0.5650193095207214, 'learning_rate': 4.815514993481096e-06, 'epoch': 5.18}
+{'loss': 0.1318, 'grad_norm': 0.034261759370565414, 'learning_rate': 4.813477835723599e-06, 'epoch': 5.19}
+{'loss': 0.3292, 'grad_norm': 0.0672401711344719, 'learning_rate': 4.811440677966102e-06, 'epoch': 5.19}
+{'loss': 0.1125, 'grad_norm': 0.03901746869087219, 'learning_rate': 4.809403520208606e-06, 'epoch': 5.19}
+{'loss': 0.1078, 'grad_norm': 15.77409839630127, 'learning_rate': 4.807366362451108e-06, 'epoch': 5.19}
+{'loss': 0.2418, 'grad_norm': 0.3021181523799896, 'learning_rate': 4.805329204693612e-06, 'epoch': 5.19}
+{'loss': 0.0172, 'grad_norm': 0.016667895019054413, 'learning_rate': 4.803292046936115e-06, 'epoch': 5.2}
+{'loss': 0.093, 'grad_norm': 0.10172662138938904, 'learning_rate': 4.801254889178618e-06, 'epoch': 5.2}
+{'loss': 0.0214, 'grad_norm': 716.9004516601562, 'learning_rate': 4.799217731421122e-06, 'epoch': 5.2}
+{'loss': 0.1504, 'grad_norm': 0.2047736495733261, 'learning_rate': 4.797180573663625e-06, 'epoch': 5.2}
+{'loss': 0.0321, 'grad_norm': 0.023702872917056084, 'learning_rate': 4.795143415906128e-06, 'epoch': 5.2}
+{'loss': 0.0672, 'grad_norm': 0.04583673179149628, 'learning_rate': 4.793106258148632e-06, 'epoch': 5.21}
+{'loss': 0.1378, 'grad_norm': 689.338623046875, 'learning_rate': 4.791069100391134e-06, 'epoch': 5.21}
+{'loss': 0.1381, 'grad_norm': 0.00886915996670723, 'learning_rate': 4.789031942633638e-06, 'epoch': 5.21}
+{'loss': 0.1109, 'grad_norm': 183.9034881591797, 'learning_rate': 4.786994784876141e-06, 'epoch': 5.21}
+{'loss': 0.0499, 'grad_norm': 0.015025666914880276, 'learning_rate': 4.784957627118644e-06, 'epoch': 5.22}
+{'loss': 0.1332, 'grad_norm': 0.02758319303393364, 'learning_rate': 4.782920469361148e-06, 'epoch': 5.22}
+{'loss': 0.2108, 'grad_norm': 0.04234916716814041, 'learning_rate': 4.780883311603651e-06, 'epoch': 5.22}
+{'loss': 0.1876, 'grad_norm': 0.09408234059810638, 'learning_rate': 4.7788461538461545e-06, 'epoch': 5.22}
+{'loss': 0.1015, 'grad_norm': 0.06536107510328293, 'learning_rate': 4.776808996088658e-06, 'epoch': 5.22}
+{'loss': 0.0842, 'grad_norm': 0.04253089427947998, 'learning_rate': 4.774771838331161e-06, 'epoch': 5.23}
+{'loss': 0.1274, 'grad_norm': 0.2698114216327667, 'learning_rate': 4.772734680573664e-06, 'epoch': 5.23}
+{'loss': 0.1089, 'grad_norm': 0.004393232986330986, 'learning_rate': 4.770697522816167e-06, 'epoch': 5.23}
+{'loss': 0.0909, 'grad_norm': 0.015349717810750008, 'learning_rate': 4.7686603650586705e-06, 'epoch': 5.23}
+{'loss': 0.112, 'grad_norm': 0.036482665687799454, 'learning_rate': 4.766623207301174e-06, 'epoch': 5.23}
+{'loss': 0.2794, 'grad_norm': 0.16539324820041656, 'learning_rate': 4.764586049543677e-06, 'epoch': 5.24}
+{'loss': 0.0386, 'grad_norm': 0.029804283753037453, 'learning_rate': 4.76254889178618e-06, 'epoch': 5.24}
+{'loss': 0.225, 'grad_norm': 59.887794494628906, 'learning_rate': 4.760511734028684e-06, 'epoch': 5.24}
+{'loss': 0.2592, 'grad_norm': 876.9706420898438, 'learning_rate': 4.758474576271187e-06, 'epoch': 5.24}
+{'loss': 0.0692, 'grad_norm': 0.04283503443002701, 'learning_rate': 4.756437418513691e-06, 'epoch': 5.24}
+{'loss': 0.0716, 'grad_norm': 0.005716066341847181, 'learning_rate': 4.754400260756193e-06, 'epoch': 5.25}
+{'loss': 0.2891, 'grad_norm': 736.94091796875, 'learning_rate': 4.7523631029986965e-06, 'epoch': 5.25}
+{'loss': 0.1719, 'grad_norm': 1032.972900390625, 'learning_rate': 4.7503259452412e-06, 'epoch': 5.25}
+{'loss': 0.2062, 'grad_norm': 0.3109903335571289, 'learning_rate': 4.748288787483703e-06, 'epoch': 5.25}
+{'loss': 0.1475, 'grad_norm': 0.1085490807890892, 'learning_rate': 4.746251629726207e-06, 'epoch': 5.25}
+{'loss': 0.0735, 'grad_norm': 0.010198797099292278, 'learning_rate': 4.744214471968709e-06, 'epoch': 5.26}
+{'loss': 0.2009, 'grad_norm': 17.781173706054688, 'learning_rate': 4.7421773142112125e-06, 'epoch': 5.26}
+{'loss': 0.1336, 'grad_norm': 0.18433137238025665, 'learning_rate': 4.740140156453717e-06, 'epoch': 5.26}
+{'loss': 0.1025, 'grad_norm': 0.3192239999771118, 'learning_rate': 4.738102998696219e-06, 'epoch': 5.26}
+{'loss': 0.0241, 'grad_norm': 0.004535469692200422, 'learning_rate': 4.736065840938723e-06, 'epoch': 5.26}
+{'loss': 0.0244, 'grad_norm': 0.0041141086257994175, 'learning_rate': 4.734028683181226e-06, 'epoch': 5.27}
+{'loss': 0.0954, 'grad_norm': 0.003669850993901491, 'learning_rate': 4.731991525423729e-06, 'epoch': 5.27}
+{'loss': 0.0591, 'grad_norm': 0.011908705346286297, 'learning_rate': 4.729954367666233e-06, 'epoch': 5.27}
+{'loss': 0.1818, 'grad_norm': 0.005775025580078363, 'learning_rate': 4.727917209908735e-06, 'epoch': 5.27}
+{'loss': 0.1452, 'grad_norm': 1104.341064453125, 'learning_rate': 4.7258800521512386e-06, 'epoch': 5.27}
+{'loss': 0.2656, 'grad_norm': 0.005789637565612793, 'learning_rate': 4.723842894393742e-06, 'epoch': 5.28}
+{'loss': 0.1609, 'grad_norm': 0.030627014115452766, 'learning_rate': 4.721805736636246e-06, 'epoch': 5.28}
+{'loss': 0.1234, 'grad_norm': 75.73324584960938, 'learning_rate': 4.719768578878749e-06, 'epoch': 5.28}
+{'loss': 0.1121, 'grad_norm': 0.011356828734278679, 'learning_rate': 4.717731421121252e-06, 'epoch': 5.28}
+{'loss': 0.2029, 'grad_norm': 132.7506866455078, 'learning_rate': 4.715694263363755e-06, 'epoch': 5.28}
+{'loss': 0.1347, 'grad_norm': 0.011554569005966187, 'learning_rate': 4.713657105606259e-06, 'epoch': 5.29}
+{'loss': 0.1359, 'grad_norm': 0.8300499320030212, 'learning_rate': 4.711619947848762e-06, 'epoch': 5.29}
+{'loss': 0.1339, 'grad_norm': 0.7841537594795227, 'learning_rate': 4.709582790091265e-06, 'epoch': 5.29}
+{'loss': 0.0958, 'grad_norm': 0.21333295106887817, 'learning_rate': 4.707545632333768e-06, 'epoch': 5.29}
+{'loss': 0.0927, 'grad_norm': 0.018304210156202316, 'learning_rate': 4.705508474576271e-06, 'epoch': 5.29}
+{'loss': 0.0904, 'grad_norm': 0.05328834429383278, 'learning_rate': 4.703471316818775e-06, 'epoch': 5.3}
+{'eval_loss': 11.162199974060059, 'eval_accuracy': 0.7216867469879518, 'eval_runtime': 1.4842, 'eval_samples_per_second': 1677.666, 'eval_steps_per_second': 52.553, 'epoch': 5.3}
+{'loss': 0.1292, 'grad_norm': 0.0038322838954627514, 'learning_rate': 4.701434159061278e-06, 'epoch': 5.3}
+{'loss': 0.0913, 'grad_norm': 0.006790644954890013, 'learning_rate': 4.6993970013037815e-06, 'epoch': 5.3}
+{'loss': 0.1664, 'grad_norm': 0.07205643504858017, 'learning_rate': 4.697359843546285e-06, 'epoch': 5.3}
+{'loss': 0.1189, 'grad_norm': 0.012186877429485321, 'learning_rate': 4.695322685788788e-06, 'epoch': 5.3}
+{'loss': 0.2126, 'grad_norm': 0.010887031443417072, 'learning_rate': 4.693285528031291e-06, 'epoch': 5.31}
+{'loss': 0.0012, 'grad_norm': 0.19447383284568787, 'learning_rate': 4.691248370273794e-06, 'epoch': 5.31}
+{'loss': 0.1996, 'grad_norm': 0.22033573687076569, 'learning_rate': 4.6892112125162974e-06, 'epoch': 5.31}
+{'loss': 0.097, 'grad_norm': 0.004749823361635208, 'learning_rate': 4.687174054758801e-06, 'epoch': 5.31}
+{'loss': 0.0736, 'grad_norm': 0.0022795565892010927, 'learning_rate': 4.685136897001304e-06, 'epoch': 5.31}
+{'loss': 0.2211, 'grad_norm': 285.2550964355469, 'learning_rate': 4.6830997392438075e-06, 'epoch': 5.32}
+{'loss': 0.1208, 'grad_norm': 0.034159813076257706, 'learning_rate': 4.681062581486311e-06, 'epoch': 5.32}
+{'loss': 0.2008, 'grad_norm': 0.019538836553692818, 'learning_rate': 4.679025423728814e-06, 'epoch': 5.32}
+{'loss': 0.1269, 'grad_norm': 6.946000099182129, 'learning_rate': 4.676988265971318e-06, 'epoch': 5.32}
+{'loss': 0.1153, 'grad_norm': 0.006463531870394945, 'learning_rate': 4.67495110821382e-06, 'epoch': 5.33}
+{'loss': 0.1555, 'grad_norm': 0.13950179517269135, 'learning_rate': 4.6729139504563235e-06, 'epoch': 5.33}
+{'loss': 0.1726, 'grad_norm': 0.18925532698631287, 'learning_rate': 4.670876792698827e-06, 'epoch': 5.33}
+{'loss': 0.2123, 'grad_norm': 232.18211364746094, 'learning_rate': 4.66883963494133e-06, 'epoch': 5.33}
+{'loss': 0.2044, 'grad_norm': 393.5021667480469, 'learning_rate': 4.666802477183834e-06, 'epoch': 5.33}
+{'loss': 0.0856, 'grad_norm': 0.05073712393641472, 'learning_rate': 4.664765319426336e-06, 'epoch': 5.34}
+{'loss': 0.1203, 'grad_norm': 173.2763671875, 'learning_rate': 4.66272816166884e-06, 'epoch': 5.34}
+{'loss': 0.0726, 'grad_norm': 311.5286560058594, 'learning_rate': 4.660691003911344e-06, 'epoch': 5.34}
+{'loss': 0.0918, 'grad_norm': 0.013966704718768597, 'learning_rate': 4.658653846153846e-06, 'epoch': 5.34}
+{'loss': 0.1038, 'grad_norm': 0.005376796238124371, 'learning_rate': 4.65661668839635e-06, 'epoch': 5.34}
+{'loss': 0.0798, 'grad_norm': 0.09974737465381622, 'learning_rate': 4.654579530638853e-06, 'epoch': 5.35}
+{'loss': 0.1122, 'grad_norm': 222.25840759277344, 'learning_rate': 4.652542372881356e-06, 'epoch': 5.35}
+{'loss': 0.1088, 'grad_norm': 373.11395263671875, 'learning_rate': 4.65050521512386e-06, 'epoch': 5.35}
+{'loss': 0.1328, 'grad_norm': 0.0018093654653057456, 'learning_rate': 4.648468057366363e-06, 'epoch': 5.35}
+{'loss': 0.0706, 'grad_norm': 0.007483460009098053, 'learning_rate': 4.6464308996088656e-06, 'epoch': 5.35}
+{'loss': 0.1948, 'grad_norm': 0.018876604735851288, 'learning_rate': 4.64439374185137e-06, 'epoch': 5.36}
+{'loss': 0.2587, 'grad_norm': 3.910548210144043, 'learning_rate': 4.642356584093873e-06, 'epoch': 5.36}
+{'loss': 0.1961, 'grad_norm': 0.07473204284906387, 'learning_rate': 4.640319426336376e-06, 'epoch': 5.36}
+{'loss': 0.0627, 'grad_norm': 0.9103160500526428, 'learning_rate': 4.638282268578879e-06, 'epoch': 5.36}
+{'loss': 0.1006, 'grad_norm': 0.020594416186213493, 'learning_rate': 4.636245110821382e-06, 'epoch': 5.36}
+{'loss': 0.0223, 'grad_norm': 0.05051784962415695, 'learning_rate': 4.634207953063886e-06, 'epoch': 5.37}
+{'loss': 0.2157, 'grad_norm': 0.10046824812889099, 'learning_rate': 4.632170795306389e-06, 'epoch': 5.37}
+{'loss': 0.232, 'grad_norm': 0.08538763970136642, 'learning_rate': 4.630133637548892e-06, 'epoch': 5.37}
+{'loss': 0.1087, 'grad_norm': 0.09065806865692139, 'learning_rate': 4.628096479791395e-06, 'epoch': 5.37}
+{'loss': 0.2933, 'grad_norm': 0.04536409676074982, 'learning_rate': 4.626059322033899e-06, 'epoch': 5.37}
+{'loss': 0.1935, 'grad_norm': 0.037539854645729065, 'learning_rate': 4.6240221642764026e-06, 'epoch': 5.38}
+{'loss': 0.1184, 'grad_norm': 0.18543976545333862, 'learning_rate': 4.621985006518905e-06, 'epoch': 5.38}
+{'loss': 0.115, 'grad_norm': 0.43825823068618774, 'learning_rate': 4.6199478487614084e-06, 'epoch': 5.38}
+{'loss': 0.0517, 'grad_norm': 0.014643336646258831, 'learning_rate': 4.617910691003912e-06, 'epoch': 5.38}
+{'loss': 0.0702, 'grad_norm': 0.037229858338832855, 'learning_rate': 4.615873533246415e-06, 'epoch': 5.38}
+{'loss': 0.1231, 'grad_norm': 170.42056274414062, 'learning_rate': 4.6138363754889185e-06, 'epoch': 5.39}
+{'loss': 0.1818, 'grad_norm': 0.049026865512132645, 'learning_rate': 4.611799217731421e-06, 'epoch': 5.39}
+{'loss': 0.2045, 'grad_norm': 0.0732056051492691, 'learning_rate': 4.609762059973924e-06, 'epoch': 5.39}
+{'loss': 0.0754, 'grad_norm': 4.946500301361084, 'learning_rate': 4.607724902216428e-06, 'epoch': 5.39}
+{'loss': 0.2199, 'grad_norm': 79.61968994140625, 'learning_rate': 4.605687744458931e-06, 'epoch': 5.39}
+{'loss': 0.1671, 'grad_norm': 0.02473151683807373, 'learning_rate': 4.6036505867014345e-06, 'epoch': 5.4}
+{'loss': 0.0898, 'grad_norm': 0.008811354637145996, 'learning_rate': 4.601613428943938e-06, 'epoch': 5.4}
+{'loss': 0.1729, 'grad_norm': 0.02752445824444294, 'learning_rate': 4.599576271186441e-06, 'epoch': 5.4}
+{'loss': 0.1336, 'grad_norm': 37.073265075683594, 'learning_rate': 4.597539113428945e-06, 'epoch': 5.4}
+{'loss': 0.2873, 'grad_norm': 0.27118492126464844, 'learning_rate': 4.595501955671447e-06, 'epoch': 5.4}
+{'loss': 0.0981, 'grad_norm': 0.013750060461461544, 'learning_rate': 4.5934647979139505e-06, 'epoch': 5.41}
+{'loss': 0.1065, 'grad_norm': 0.07617547363042831, 'learning_rate': 4.591427640156454e-06, 'epoch': 5.41}
+{'loss': 0.2545, 'grad_norm': 0.019934069365262985, 'learning_rate': 4.589390482398957e-06, 'epoch': 5.41}
+{'loss': 0.1252, 'grad_norm': 63.578182220458984, 'learning_rate': 4.587353324641461e-06, 'epoch': 5.41}
+{'loss': 0.1564, 'grad_norm': 0.013013887219130993, 'learning_rate': 4.585316166883964e-06, 'epoch': 5.41}
+{'loss': 0.2226, 'grad_norm': 9.762280464172363, 'learning_rate': 4.583279009126467e-06, 'epoch': 5.42}
+{'loss': 0.1642, 'grad_norm': 0.1965947449207306, 'learning_rate': 4.581241851368971e-06, 'epoch': 5.42}
+{'loss': 0.0316, 'grad_norm': 265.6243591308594, 'learning_rate': 4.579204693611474e-06, 'epoch': 5.42}
+{'loss': 0.1481, 'grad_norm': 0.16737349331378937, 'learning_rate': 4.5771675358539766e-06, 'epoch': 5.42}
+{'loss': 0.0851, 'grad_norm': 0.014199698343873024, 'learning_rate': 4.57513037809648e-06, 'epoch': 5.42}
+{'loss': 0.2792, 'grad_norm': 0.04832771047949791, 'learning_rate': 4.573093220338983e-06, 'epoch': 5.43}
+{'loss': 0.0294, 'grad_norm': 0.04879779741168022, 'learning_rate': 4.571056062581487e-06, 'epoch': 5.43}
+{'loss': 0.2246, 'grad_norm': 0.01385131198912859, 'learning_rate': 4.56901890482399e-06, 'epoch': 5.43}
+{'loss': 0.1497, 'grad_norm': 63.78396224975586, 'learning_rate': 4.566981747066493e-06, 'epoch': 5.43}
+{'loss': 0.1192, 'grad_norm': 0.4404073655605316, 'learning_rate': 4.564944589308997e-06, 'epoch': 5.44}
+{'loss': 0.0883, 'grad_norm': 0.04136570915579796, 'learning_rate': 4.5629074315515e-06, 'epoch': 5.44}
+{'loss': 0.2005, 'grad_norm': 0.01104658655822277, 'learning_rate': 4.560870273794003e-06, 'epoch': 5.44}
+{'loss': 0.2687, 'grad_norm': 101.56397247314453, 'learning_rate': 4.558833116036506e-06, 'epoch': 5.44}
+{'loss': 0.1834, 'grad_norm': 0.030799470841884613, 'learning_rate': 4.556795958279009e-06, 'epoch': 5.44}
+{'loss': 0.0983, 'grad_norm': 0.07904776185750961, 'learning_rate': 4.554758800521513e-06, 'epoch': 5.45}
+{'loss': 0.0991, 'grad_norm': 0.016131415963172913, 'learning_rate': 4.552721642764016e-06, 'epoch': 5.45}
+{'loss': 0.145, 'grad_norm': 0.04847358167171478, 'learning_rate': 4.5506844850065195e-06, 'epoch': 5.45}
+{'loss': 0.1486, 'grad_norm': 1.7131309509277344, 'learning_rate': 4.548647327249023e-06, 'epoch': 5.45}
+{'loss': 0.1684, 'grad_norm': 0.0045533073134720325, 'learning_rate': 4.546610169491526e-06, 'epoch': 5.45}
+{'loss': 0.0878, 'grad_norm': 462.5903625488281, 'learning_rate': 4.5445730117340295e-06, 'epoch': 5.46}
+{'loss': 0.0998, 'grad_norm': 179.708984375, 'learning_rate': 4.542535853976532e-06, 'epoch': 5.46}
+{'loss': 0.1351, 'grad_norm': 0.038811564445495605, 'learning_rate': 4.5404986962190354e-06, 'epoch': 5.46}
+{'loss': 0.2796, 'grad_norm': 0.009729987941682339, 'learning_rate': 4.538461538461539e-06, 'epoch': 5.46}
+{'loss': 0.0912, 'grad_norm': 0.007769915275275707, 'learning_rate': 4.536424380704042e-06, 'epoch': 5.46}
+{'loss': 0.1448, 'grad_norm': 1.1038432121276855, 'learning_rate': 4.5343872229465455e-06, 'epoch': 5.47}
+{'loss': 0.1221, 'grad_norm': 0.016058214008808136, 'learning_rate': 4.532350065189048e-06, 'epoch': 5.47}
+{'loss': 0.0523, 'grad_norm': 0.06018950790166855, 'learning_rate': 4.530312907431551e-06, 'epoch': 5.47}
+{'loss': 0.3453, 'grad_norm': 151.258544921875, 'learning_rate': 4.528275749674056e-06, 'epoch': 5.47}
+{'loss': 0.1181, 'grad_norm': 32.4321403503418, 'learning_rate': 4.526238591916559e-06, 'epoch': 5.47}
+{'loss': 0.1905, 'grad_norm': 750.1376342773438, 'learning_rate': 4.5242014341590615e-06, 'epoch': 5.48}
+{'loss': 0.197, 'grad_norm': 227.20614624023438, 'learning_rate': 4.522164276401565e-06, 'epoch': 5.48}
+{'loss': 0.2787, 'grad_norm': 0.06462396681308746, 'learning_rate': 4.520127118644068e-06, 'epoch': 5.48}
+{'loss': 0.0587, 'grad_norm': 845.6746826171875, 'learning_rate': 4.518089960886572e-06, 'epoch': 5.48}
+{'loss': 0.2007, 'grad_norm': 167.64266967773438, 'learning_rate': 4.516052803129075e-06, 'epoch': 5.48}
+{'loss': 0.0772, 'grad_norm': 0.8890345692634583, 'learning_rate': 4.5140156453715775e-06, 'epoch': 5.49}
+{'loss': 0.0762, 'grad_norm': 63.232696533203125, 'learning_rate': 4.511978487614081e-06, 'epoch': 5.49}
+{'loss': 0.2094, 'grad_norm': 0.031013840809464455, 'learning_rate': 4.509941329856585e-06, 'epoch': 5.49}
+{'loss': 0.3669, 'grad_norm': 0.019020959734916687, 'learning_rate': 4.5079041720990876e-06, 'epoch': 5.49}
+{'loss': 0.0659, 'grad_norm': 50.634708404541016, 'learning_rate': 4.505867014341591e-06, 'epoch': 5.49}
+{'loss': 0.2563, 'grad_norm': 0.12753169238567352, 'learning_rate': 4.503829856584094e-06, 'epoch': 5.5}
+{'loss': 0.0653, 'grad_norm': 0.024155819788575172, 'learning_rate': 4.501792698826598e-06, 'epoch': 5.5}
+{'loss': 0.1021, 'grad_norm': 0.057647302746772766, 'learning_rate': 4.499755541069101e-06, 'epoch': 5.5}
+{'loss': 0.051, 'grad_norm': 0.015923194587230682, 'learning_rate': 4.4977183833116035e-06, 'epoch': 5.5}
+{'loss': 0.1117, 'grad_norm': 0.012230060063302517, 'learning_rate': 4.495681225554107e-06, 'epoch': 5.5}
+{'loss': 0.1486, 'grad_norm': 0.5154460668563843, 'learning_rate': 4.49364406779661e-06, 'epoch': 5.51}
+{'loss': 0.0684, 'grad_norm': 1.9939802885055542, 'learning_rate': 4.491606910039114e-06, 'epoch': 5.51}
+{'loss': 0.1783, 'grad_norm': 321.57269287109375, 'learning_rate': 4.489569752281617e-06, 'epoch': 5.51}
+{'loss': 0.0826, 'grad_norm': 0.0018598061287775636, 'learning_rate': 4.48753259452412e-06, 'epoch': 5.51}
+{'loss': 0.1508, 'grad_norm': 0.16594372689723969, 'learning_rate': 4.485495436766624e-06, 'epoch': 5.51}
+{'loss': 0.1314, 'grad_norm': 297.4482116699219, 'learning_rate': 4.483458279009127e-06, 'epoch': 5.52}
+{'loss': 0.1233, 'grad_norm': 0.04923652857542038, 'learning_rate': 4.4814211212516305e-06, 'epoch': 5.52}
+{'loss': 0.1059, 'grad_norm': 86.02069091796875, 'learning_rate': 4.479383963494133e-06, 'epoch': 5.52}
+{'loss': 0.1884, 'grad_norm': 0.4832599461078644, 'learning_rate': 4.477346805736636e-06, 'epoch': 5.52}
+{'loss': 0.1821, 'grad_norm': 47.575496673583984, 'learning_rate': 4.47530964797914e-06, 'epoch': 5.52}
+{'loss': 0.0704, 'grad_norm': 0.05289068445563316, 'learning_rate': 4.473272490221643e-06, 'epoch': 5.53}
+{'loss': 0.0199, 'grad_norm': 0.01726331003010273, 'learning_rate': 4.4712353324641464e-06, 'epoch': 5.53}
+{'loss': 0.1293, 'grad_norm': 0.20233981311321259, 'learning_rate': 4.46919817470665e-06, 'epoch': 5.53}
+{'loss': 0.1811, 'grad_norm': 199.8673095703125, 'learning_rate': 4.467161016949153e-06, 'epoch': 5.53}
+{'loss': 0.1498, 'grad_norm': 0.0038789985701441765, 'learning_rate': 4.4651238591916565e-06, 'epoch': 5.53}
+{'loss': 0.0705, 'grad_norm': 22.878921508789062, 'learning_rate': 4.463086701434159e-06, 'epoch': 5.54}
+{'loss': 0.1845, 'grad_norm': 0.0362776480615139, 'learning_rate': 4.461049543676662e-06, 'epoch': 5.54}
+{'loss': 0.2063, 'grad_norm': 0.005172336474061012, 'learning_rate': 4.459012385919166e-06, 'epoch': 5.54}
+{'loss': 0.0009, 'grad_norm': 0.023013407364487648, 'learning_rate': 4.456975228161669e-06, 'epoch': 5.54}
+{'loss': 0.2712, 'grad_norm': 0.05469833314418793, 'learning_rate': 4.4549380704041725e-06, 'epoch': 5.55}
+{'loss': 0.0875, 'grad_norm': 0.04239656776189804, 'learning_rate': 4.452900912646676e-06, 'epoch': 5.55}
+{'loss': 0.16, 'grad_norm': 0.005488898605108261, 'learning_rate': 4.450863754889179e-06, 'epoch': 5.55}
+{'loss': 0.1173, 'grad_norm': 0.009979200549423695, 'learning_rate': 4.448826597131683e-06, 'epoch': 5.55}
+{'loss': 0.1819, 'grad_norm': 0.03507097810506821, 'learning_rate': 4.446789439374186e-06, 'epoch': 5.55}
+{'loss': 0.1694, 'grad_norm': 0.00489779794588685, 'learning_rate': 4.4447522816166885e-06, 'epoch': 5.56}
+{'loss': 0.0012, 'grad_norm': 0.22665932774543762, 'learning_rate': 4.442715123859192e-06, 'epoch': 5.56}
+{'loss': 0.2192, 'grad_norm': 0.010472971014678478, 'learning_rate': 4.440677966101695e-06, 'epoch': 5.56}
+{'loss': 0.3162, 'grad_norm': 0.027996374294161797, 'learning_rate': 4.4386408083441986e-06, 'epoch': 5.56}
+{'loss': 0.2687, 'grad_norm': 0.05692479759454727, 'learning_rate': 4.436603650586702e-06, 'epoch': 5.56}
+{'loss': 0.1554, 'grad_norm': 0.6275562047958374, 'learning_rate': 4.4345664928292045e-06, 'epoch': 5.57}
+{'loss': 0.1253, 'grad_norm': 0.08066023886203766, 'learning_rate': 4.432529335071709e-06, 'epoch': 5.57}
+{'loss': 0.2264, 'grad_norm': 0.07212528586387634, 'learning_rate': 4.430492177314212e-06, 'epoch': 5.57}
+{'loss': 0.2226, 'grad_norm': 193.61253356933594, 'learning_rate': 4.428455019556715e-06, 'epoch': 5.57}
+{'loss': 0.1335, 'grad_norm': 0.020261455327272415, 'learning_rate': 4.426417861799218e-06, 'epoch': 5.57}
+{'loss': 0.1414, 'grad_norm': 0.04303639754652977, 'learning_rate': 4.424380704041721e-06, 'epoch': 5.58}
+{'loss': 0.1016, 'grad_norm': 0.0008484226418659091, 'learning_rate': 4.422343546284225e-06, 'epoch': 5.58}
+{'loss': 0.1411, 'grad_norm': 0.007064195349812508, 'learning_rate': 4.420306388526728e-06, 'epoch': 5.58}
+{'loss': 0.1407, 'grad_norm': 0.018491709604859352, 'learning_rate': 4.418269230769231e-06, 'epoch': 5.58}
+{'loss': 0.1425, 'grad_norm': 1220.50537109375, 'learning_rate': 4.416232073011734e-06, 'epoch': 5.58}
+{'loss': 0.2585, 'grad_norm': 23.71815299987793, 'learning_rate': 4.414194915254237e-06, 'epoch': 5.59}
+{'loss': 0.1235, 'grad_norm': 320.8357238769531, 'learning_rate': 4.4121577574967415e-06, 'epoch': 5.59}
+{'loss': 0.1883, 'grad_norm': 0.004378031939268112, 'learning_rate': 4.410120599739244e-06, 'epoch': 5.59}
+{'loss': 0.1342, 'grad_norm': 0.007877995260059834, 'learning_rate': 4.408083441981747e-06, 'epoch': 5.59}
+{'loss': 0.0823, 'grad_norm': 0.0062988013960421085, 'learning_rate': 4.406046284224251e-06, 'epoch': 5.59}
+{'loss': 0.2453, 'grad_norm': 0.01300602126866579, 'learning_rate': 4.404009126466754e-06, 'epoch': 5.6}
+{'loss': 0.1637, 'grad_norm': 0.028416594490408897, 'learning_rate': 4.4019719687092574e-06, 'epoch': 5.6}
+{'loss': 0.1464, 'grad_norm': 0.17002950608730316, 'learning_rate': 4.39993481095176e-06, 'epoch': 5.6}
+{'loss': 0.1219, 'grad_norm': 0.02269694022834301, 'learning_rate': 4.397897653194263e-06, 'epoch': 5.6}
+{'loss': 0.2141, 'grad_norm': 49.593482971191406, 'learning_rate': 4.395860495436767e-06, 'epoch': 5.6}
+{'loss': 0.2195, 'grad_norm': 0.019874384626746178, 'learning_rate': 4.393823337679271e-06, 'epoch': 5.61}
+{'loss': 0.1979, 'grad_norm': 79.54206085205078, 'learning_rate': 4.391786179921773e-06, 'epoch': 5.61}
+{'loss': 0.1435, 'grad_norm': 68.0531005859375, 'learning_rate': 4.389749022164277e-06, 'epoch': 5.61}
+{'loss': 0.1682, 'grad_norm': 28.33757781982422, 'learning_rate': 4.38771186440678e-06, 'epoch': 5.61}
+{'loss': 0.0947, 'grad_norm': 0.1307477205991745, 'learning_rate': 4.3856747066492835e-06, 'epoch': 5.61}
+{'loss': 0.1856, 'grad_norm': 4.529385566711426, 'learning_rate': 4.383637548891787e-06, 'epoch': 5.62}
+{'loss': 0.1603, 'grad_norm': 0.06383594870567322, 'learning_rate': 4.381600391134289e-06, 'epoch': 5.62}
+{'loss': 0.0865, 'grad_norm': 73.91405487060547, 'learning_rate': 4.379563233376793e-06, 'epoch': 5.62}
+{'loss': 0.1069, 'grad_norm': 0.02562732994556427, 'learning_rate': 4.377526075619296e-06, 'epoch': 5.62}
+{'loss': 0.0534, 'grad_norm': 0.514689028263092, 'learning_rate': 4.3754889178617995e-06, 'epoch': 5.62}
+{'loss': 0.174, 'grad_norm': 0.04473679140210152, 'learning_rate': 4.373451760104303e-06, 'epoch': 5.63}
+{'loss': 0.1781, 'grad_norm': 2.1256988048553467, 'learning_rate': 4.371414602346806e-06, 'epoch': 5.63}
+{'loss': 0.039, 'grad_norm': 0.015020246617496014, 'learning_rate': 4.36937744458931e-06, 'epoch': 5.63}
+{'loss': 0.1889, 'grad_norm': 0.013532038778066635, 'learning_rate': 4.367340286831813e-06, 'epoch': 5.63}
+{'loss': 0.1993, 'grad_norm': 80.49004364013672, 'learning_rate': 4.3653031290743155e-06, 'epoch': 5.63}
+{'loss': 0.0471, 'grad_norm': 1.295189619064331, 'learning_rate': 4.363265971316819e-06, 'epoch': 5.64}
+{'loss': 0.1169, 'grad_norm': 0.4992031455039978, 'learning_rate': 4.361228813559322e-06, 'epoch': 5.64}
+{'loss': 0.3378, 'grad_norm': 0.03589685261249542, 'learning_rate': 4.3591916558018256e-06, 'epoch': 5.64}
+{'loss': 0.1705, 'grad_norm': 0.06038743630051613, 'learning_rate': 4.357154498044329e-06, 'epoch': 5.64}
+{'loss': 0.0801, 'grad_norm': 0.11791132390499115, 'learning_rate': 4.355117340286832e-06, 'epoch': 5.64}
+{'loss': 0.307, 'grad_norm': 0.0051428452134132385, 'learning_rate': 4.353080182529336e-06, 'epoch': 5.65}
+{'loss': 0.2253, 'grad_norm': 0.21804533898830414, 'learning_rate': 4.351043024771839e-06, 'epoch': 5.65}
+{'loss': 0.136, 'grad_norm': 0.01748942770063877, 'learning_rate': 4.349005867014342e-06, 'epoch': 5.65}
+{'loss': 0.0963, 'grad_norm': 0.13514496386051178, 'learning_rate': 4.346968709256845e-06, 'epoch': 5.65}
+{'loss': 0.154, 'grad_norm': 551.0859375, 'learning_rate': 4.344931551499348e-06, 'epoch': 5.66}
+{'loss': 0.1347, 'grad_norm': 0.009562946856021881, 'learning_rate': 4.342894393741852e-06, 'epoch': 5.66}
+{'loss': 0.0908, 'grad_norm': 0.13263006508350372, 'learning_rate': 4.340857235984355e-06, 'epoch': 5.66}
+{'loss': 0.1791, 'grad_norm': 0.03422040492296219, 'learning_rate': 4.338820078226858e-06, 'epoch': 5.66}
+{'loss': 0.0723, 'grad_norm': 0.11412069946527481, 'learning_rate': 4.336782920469362e-06, 'epoch': 5.66}
+{'loss': 0.2046, 'grad_norm': 10.125106811523438, 'learning_rate': 4.334745762711865e-06, 'epoch': 5.67}
+{'loss': 0.1985, 'grad_norm': 0.15134789049625397, 'learning_rate': 4.3327086049543684e-06, 'epoch': 5.67}
+{'loss': 0.1419, 'grad_norm': 0.01533904392272234, 'learning_rate': 4.330671447196871e-06, 'epoch': 5.67}
+{'loss': 0.0636, 'grad_norm': 0.027479423210024834, 'learning_rate': 4.328634289439374e-06, 'epoch': 5.67}
+{'loss': 0.079, 'grad_norm': 56.23097229003906, 'learning_rate': 4.326597131681878e-06, 'epoch': 5.67}
+{'loss': 0.1435, 'grad_norm': 0.06537512689828873, 'learning_rate': 4.324559973924381e-06, 'epoch': 5.68}
+{'loss': 0.0566, 'grad_norm': 0.03564949333667755, 'learning_rate': 4.3225228161668844e-06, 'epoch': 5.68}
+{'loss': 0.1184, 'grad_norm': 18.155269622802734, 'learning_rate': 4.320485658409388e-06, 'epoch': 5.68}
+{'loss': 0.0918, 'grad_norm': 0.011841507628560066, 'learning_rate': 4.31844850065189e-06, 'epoch': 5.68}
+{'loss': 0.0332, 'grad_norm': 0.006885264068841934, 'learning_rate': 4.3164113428943945e-06, 'epoch': 5.68}
+{'loss': 0.1582, 'grad_norm': 207.11778259277344, 'learning_rate': 4.314374185136898e-06, 'epoch': 5.69}
+{'loss': 0.3068, 'grad_norm': 173.03692626953125, 'learning_rate': 4.3123370273794e-06, 'epoch': 5.69}
+{'loss': 0.159, 'grad_norm': 0.20192015171051025, 'learning_rate': 4.310299869621904e-06, 'epoch': 5.69}
+{'loss': 0.257, 'grad_norm': 14.612932205200195, 'learning_rate': 4.308262711864407e-06, 'epoch': 5.69}
+{'loss': 0.0906, 'grad_norm': 28.025283813476562, 'learning_rate': 4.3062255541069105e-06, 'epoch': 5.69}
+{'loss': 0.278, 'grad_norm': 0.18724675476551056, 'learning_rate': 4.304188396349414e-06, 'epoch': 5.7}
+{'loss': 0.1627, 'grad_norm': 0.3193129301071167, 'learning_rate': 4.302151238591916e-06, 'epoch': 5.7}
+{'loss': 0.1743, 'grad_norm': 0.006231089122593403, 'learning_rate': 4.30011408083442e-06, 'epoch': 5.7}
+{'loss': 0.0442, 'grad_norm': 0.03195706009864807, 'learning_rate': 4.298076923076924e-06, 'epoch': 5.7}
+{'loss': 0.0693, 'grad_norm': 123.51719665527344, 'learning_rate': 4.296039765319427e-06, 'epoch': 5.7}
+{'eval_loss': 10.722723960876465, 'eval_accuracy': 0.714859437751004, 'eval_runtime': 1.4379, 'eval_samples_per_second': 1731.711, 'eval_steps_per_second': 54.246, 'epoch': 5.7}
+{'loss': 0.1814, 'grad_norm': 15.874761581420898, 'learning_rate': 4.29400260756193e-06, 'epoch': 5.71}
+{'loss': 0.1162, 'grad_norm': 455.7969055175781, 'learning_rate': 4.291965449804433e-06, 'epoch': 5.71}
+{'loss': 0.0831, 'grad_norm': 0.010731714777648449, 'learning_rate': 4.2899282920469366e-06, 'epoch': 5.71}
+{'loss': 0.1266, 'grad_norm': 0.0037771856877952814, 'learning_rate': 4.28789113428944e-06, 'epoch': 5.71}
+{'loss': 0.1121, 'grad_norm': 1.170888066291809, 'learning_rate': 4.285853976531943e-06, 'epoch': 5.71}
+{'loss': 0.0937, 'grad_norm': 88.7154312133789, 'learning_rate': 4.283816818774446e-06, 'epoch': 5.72}
+{'loss': 0.206, 'grad_norm': 0.0266495943069458, 'learning_rate': 4.281779661016949e-06, 'epoch': 5.72}
+{'loss': 0.0348, 'grad_norm': 0.009253771044313908, 'learning_rate': 4.2797425032594525e-06, 'epoch': 5.72}
+{'loss': 0.2997, 'grad_norm': 0.29279232025146484, 'learning_rate': 4.277705345501956e-06, 'epoch': 5.72}
+{'loss': 0.1582, 'grad_norm': 64.73109436035156, 'learning_rate': 4.275668187744459e-06, 'epoch': 5.72}
+{'loss': 0.1316, 'grad_norm': 0.030331876128911972, 'learning_rate': 4.273631029986963e-06, 'epoch': 5.73}
+{'loss': 0.1137, 'grad_norm': 5.951101303100586, 'learning_rate': 4.271593872229466e-06, 'epoch': 5.73}
+{'loss': 0.0813, 'grad_norm': 567.9322509765625, 'learning_rate': 4.269556714471969e-06, 'epoch': 5.73}
+{'loss': 0.1469, 'grad_norm': 0.005910198669880629, 'learning_rate': 4.267519556714472e-06, 'epoch': 5.73}
+{'loss': 0.0997, 'grad_norm': 0.012653673067688942, 'learning_rate': 4.265482398956975e-06, 'epoch': 5.73}
+{'loss': 0.3117, 'grad_norm': 0.07058253139257431, 'learning_rate': 4.263445241199479e-06, 'epoch': 5.74}
+{'loss': 0.1561, 'grad_norm': 0.20073917508125305, 'learning_rate': 4.261408083441982e-06, 'epoch': 5.74}
+{'loss': 0.1856, 'grad_norm': 0.8077871203422546, 'learning_rate': 4.259370925684485e-06, 'epoch': 5.74}
+{'loss': 0.2225, 'grad_norm': 0.04295559227466583, 'learning_rate': 4.257333767926989e-06, 'epoch': 5.74}
+{'loss': 0.0796, 'grad_norm': 0.009024393744766712, 'learning_rate': 4.255296610169492e-06, 'epoch': 5.74}
+{'loss': 0.3161, 'grad_norm': 0.11352565884590149, 'learning_rate': 4.2532594524119954e-06, 'epoch': 5.75}
+{'loss': 0.1354, 'grad_norm': 0.7944064140319824, 'learning_rate': 4.251222294654499e-06, 'epoch': 5.75}
+{'loss': 0.1153, 'grad_norm': 0.022079678252339363, 'learning_rate': 4.249185136897001e-06, 'epoch': 5.75}
+{'loss': 0.1786, 'grad_norm': 128.68716430664062, 'learning_rate': 4.247147979139505e-06, 'epoch': 5.75}
+{'loss': 0.0746, 'grad_norm': 0.05033253878355026, 'learning_rate': 4.245110821382008e-06, 'epoch': 5.75}
+{'loss': 0.1253, 'grad_norm': 0.2904493510723114, 'learning_rate': 4.243073663624511e-06, 'epoch': 5.76}
+{'loss': 0.1941, 'grad_norm': 0.007468764670193195, 'learning_rate': 4.241036505867015e-06, 'epoch': 5.76}
+{'loss': 0.1984, 'grad_norm': 0.014368565753102303, 'learning_rate': 4.238999348109518e-06, 'epoch': 5.76}
+{'loss': 0.1188, 'grad_norm': 0.05314626544713974, 'learning_rate': 4.2369621903520215e-06, 'epoch': 5.76}
+{'loss': 0.1248, 'grad_norm': 0.04429321736097336, 'learning_rate': 4.234925032594525e-06, 'epoch': 5.77}
+{'loss': 0.1042, 'grad_norm': 0.044178709387779236, 'learning_rate': 4.232887874837027e-06, 'epoch': 5.77}
+{'loss': 0.1489, 'grad_norm': 0.16269539296627045, 'learning_rate': 4.230850717079531e-06, 'epoch': 5.77}
+{'loss': 0.0006, 'grad_norm': 0.007321516517549753, 'learning_rate': 4.228813559322034e-06, 'epoch': 5.77}
+{'loss': 0.0393, 'grad_norm': 36.926509857177734, 'learning_rate': 4.2267764015645375e-06, 'epoch': 5.77}
+{'loss': 0.1675, 'grad_norm': 0.0060513936914503574, 'learning_rate': 4.224739243807041e-06, 'epoch': 5.78}
+{'loss': 0.1288, 'grad_norm': 0.007807133253663778, 'learning_rate': 4.222702086049544e-06, 'epoch': 5.78}
+{'loss': 0.2628, 'grad_norm': 235.72650146484375, 'learning_rate': 4.2206649282920476e-06, 'epoch': 5.78}
+{'loss': 0.1301, 'grad_norm': 0.02508225478231907, 'learning_rate': 4.218627770534551e-06, 'epoch': 5.78}
+{'loss': 0.2129, 'grad_norm': 0.0064827390015125275, 'learning_rate': 4.216590612777054e-06, 'epoch': 5.78}
+{'loss': 0.1531, 'grad_norm': 0.02477174624800682, 'learning_rate': 4.214553455019557e-06, 'epoch': 5.79}
+{'loss': 0.2728, 'grad_norm': 0.04985910281538963, 'learning_rate': 4.21251629726206e-06, 'epoch': 5.79}
+{'loss': 0.1594, 'grad_norm': 0.01610054448246956, 'learning_rate': 4.2104791395045635e-06, 'epoch': 5.79}
+{'loss': 0.2118, 'grad_norm': 0.3885022699832916, 'learning_rate': 4.208441981747067e-06, 'epoch': 5.79}
+{'loss': 0.087, 'grad_norm': 0.40511372685432434, 'learning_rate': 4.20640482398957e-06, 'epoch': 5.79}
+{'loss': 0.1046, 'grad_norm': 434.8291015625, 'learning_rate': 4.204367666232073e-06, 'epoch': 5.8}
+{'loss': 0.2978, 'grad_norm': 10.977938652038574, 'learning_rate': 4.202330508474576e-06, 'epoch': 5.8}
+{'loss': 0.0301, 'grad_norm': 0.06165943294763565, 'learning_rate': 4.20029335071708e-06, 'epoch': 5.8}
+{'loss': 0.0892, 'grad_norm': 4.735345840454102, 'learning_rate': 4.198256192959584e-06, 'epoch': 5.8}
+{'loss': 0.1891, 'grad_norm': 0.039738819003105164, 'learning_rate': 4.196219035202086e-06, 'epoch': 5.8}
+{'loss': 0.1071, 'grad_norm': 0.5815122723579407, 'learning_rate': 4.19418187744459e-06, 'epoch': 5.81}
+{'loss': 0.1032, 'grad_norm': 0.03879700228571892, 'learning_rate': 4.192144719687093e-06, 'epoch': 5.81}
+{'loss': 0.2626, 'grad_norm': 0.009045458398759365, 'learning_rate': 4.190107561929596e-06, 'epoch': 5.81}
+{'loss': 0.0892, 'grad_norm': 53.74842071533203, 'learning_rate': 4.1880704041721e-06, 'epoch': 5.81}
+{'loss': 0.2457, 'grad_norm': 18.791383743286133, 'learning_rate': 4.186033246414602e-06, 'epoch': 5.81}
+{'loss': 0.1596, 'grad_norm': 0.12335608154535294, 'learning_rate': 4.183996088657106e-06, 'epoch': 5.82}
+{'loss': 0.0317, 'grad_norm': 0.037740256637334824, 'learning_rate': 4.18195893089961e-06, 'epoch': 5.82}
+{'loss': 0.1471, 'grad_norm': 0.08837860822677612, 'learning_rate': 4.179921773142112e-06, 'epoch': 5.82}
+{'loss': 0.3932, 'grad_norm': 0.021969351917505264, 'learning_rate': 4.177884615384616e-06, 'epoch': 5.82}
+{'loss': 0.2047, 'grad_norm': 0.048310164362192154, 'learning_rate': 4.175847457627119e-06, 'epoch': 5.82}
+{'loss': 0.0576, 'grad_norm': 0.0491793192923069, 'learning_rate': 4.173810299869622e-06, 'epoch': 5.83}
+{'loss': 0.3598, 'grad_norm': 508.9945983886719, 'learning_rate': 4.171773142112126e-06, 'epoch': 5.83}
+{'loss': 0.156, 'grad_norm': 0.6861751675605774, 'learning_rate': 4.169735984354628e-06, 'epoch': 5.83}
+{'loss': 0.0982, 'grad_norm': 0.022123483940958977, 'learning_rate': 4.167698826597132e-06, 'epoch': 5.83}
+{'loss': 0.2767, 'grad_norm': 0.03456958755850792, 'learning_rate': 4.165661668839635e-06, 'epoch': 5.83}
+{'loss': 0.405, 'grad_norm': 115.8093490600586, 'learning_rate': 4.163624511082138e-06, 'epoch': 5.84}
+{'loss': 0.0696, 'grad_norm': 0.8849736452102661, 'learning_rate': 4.161587353324642e-06, 'epoch': 5.84}
+{'loss': 0.2177, 'grad_norm': 0.5434571504592896, 'learning_rate': 4.159550195567145e-06, 'epoch': 5.84}
+{'loss': 0.2814, 'grad_norm': 0.023454854264855385, 'learning_rate': 4.1575130378096485e-06, 'epoch': 5.84}
+{'loss': 0.2239, 'grad_norm': 0.044050633907318115, 'learning_rate': 4.155475880052152e-06, 'epoch': 5.84}
+{'loss': 0.1829, 'grad_norm': 0.014879810623824596, 'learning_rate': 4.153438722294655e-06, 'epoch': 5.85}
+{'loss': 0.0838, 'grad_norm': 0.06038317456841469, 'learning_rate': 4.151401564537158e-06, 'epoch': 5.85}
+{'loss': 0.1488, 'grad_norm': 0.08495336025953293, 'learning_rate': 4.149364406779661e-06, 'epoch': 5.85}
+{'loss': 0.1988, 'grad_norm': 0.02311415784060955, 'learning_rate': 4.1473272490221645e-06, 'epoch': 5.85}
+{'loss': 0.0869, 'grad_norm': 0.029297199100255966, 'learning_rate': 4.145290091264668e-06, 'epoch': 5.85}
+{'loss': 0.0797, 'grad_norm': 0.020310815423727036, 'learning_rate': 4.143252933507171e-06, 'epoch': 5.86}
+{'loss': 0.2152, 'grad_norm': 0.002906516194343567, 'learning_rate': 4.1412157757496746e-06, 'epoch': 5.86}
+{'loss': 0.2276, 'grad_norm': 0.0025022898335009813, 'learning_rate': 4.139178617992178e-06, 'epoch': 5.86}
+{'loss': 0.07, 'grad_norm': 0.7516262531280518, 'learning_rate': 4.137141460234681e-06, 'epoch': 5.86}
+{'loss': 0.1352, 'grad_norm': 0.1266004890203476, 'learning_rate': 4.135104302477184e-06, 'epoch': 5.86}
+{'loss': 0.1981, 'grad_norm': 2.3954203128814697, 'learning_rate': 4.133067144719687e-06, 'epoch': 5.87}
+{'loss': 0.0895, 'grad_norm': 0.2560051381587982, 'learning_rate': 4.1310299869621905e-06, 'epoch': 5.87}
+{'loss': 0.2907, 'grad_norm': 0.12074853479862213, 'learning_rate': 4.128992829204694e-06, 'epoch': 5.87}
+{'loss': 0.1332, 'grad_norm': 0.019938241690397263, 'learning_rate': 4.126955671447197e-06, 'epoch': 5.87}
+{'loss': 0.2594, 'grad_norm': 0.012291981838643551, 'learning_rate': 4.124918513689701e-06, 'epoch': 5.88}
+{'loss': 0.0876, 'grad_norm': 18.954437255859375, 'learning_rate': 4.122881355932204e-06, 'epoch': 5.88}
+{'loss': 0.2564, 'grad_norm': 1.0904849767684937, 'learning_rate': 4.120844198174707e-06, 'epoch': 5.88}
+{'loss': 0.172, 'grad_norm': 0.028198188170790672, 'learning_rate': 4.118807040417211e-06, 'epoch': 5.88}
+{'loss': 0.2247, 'grad_norm': 1.159975528717041, 'learning_rate': 4.116769882659713e-06, 'epoch': 5.88}
+{'loss': 0.0964, 'grad_norm': 0.036980196833610535, 'learning_rate': 4.114732724902217e-06, 'epoch': 5.89}
+{'loss': 0.007, 'grad_norm': 33.850669860839844, 'learning_rate': 4.11269556714472e-06, 'epoch': 5.89}
+{'loss': 0.1127, 'grad_norm': 0.015761466696858406, 'learning_rate': 4.110658409387223e-06, 'epoch': 5.89}
+{'loss': 0.2116, 'grad_norm': 0.04366467148065567, 'learning_rate': 4.108621251629727e-06, 'epoch': 5.89}
+{'loss': 0.1356, 'grad_norm': 30.447336196899414, 'learning_rate': 4.106584093872229e-06, 'epoch': 5.89}
+{'loss': 0.0357, 'grad_norm': 0.026205938309431076, 'learning_rate': 4.104546936114733e-06, 'epoch': 5.9}
+{'loss': 0.0854, 'grad_norm': 0.7155395150184631, 'learning_rate': 4.102509778357237e-06, 'epoch': 5.9}
+{'loss': 0.1363, 'grad_norm': 0.3380059599876404, 'learning_rate': 4.100472620599739e-06, 'epoch': 5.9}
+{'loss': 0.2856, 'grad_norm': 0.7285533547401428, 'learning_rate': 4.098435462842243e-06, 'epoch': 5.9}
+{'loss': 0.1583, 'grad_norm': 0.5848045349121094, 'learning_rate': 4.096398305084746e-06, 'epoch': 5.9}
+{'loss': 0.0272, 'grad_norm': 0.030570013448596, 'learning_rate': 4.094361147327249e-06, 'epoch': 5.91}
+{'loss': 0.2288, 'grad_norm': 142.67918395996094, 'learning_rate': 4.092323989569753e-06, 'epoch': 5.91}
+{'loss': 0.2161, 'grad_norm': 863.0586547851562, 'learning_rate': 4.090286831812256e-06, 'epoch': 5.91}
+{'loss': 0.1977, 'grad_norm': 0.044677797704935074, 'learning_rate': 4.088249674054759e-06, 'epoch': 5.91}
+{'loss': 0.1215, 'grad_norm': 0.05225620046257973, 'learning_rate': 4.086212516297262e-06, 'epoch': 5.91}
+{'loss': 0.1584, 'grad_norm': 2.982414960861206, 'learning_rate': 4.084175358539766e-06, 'epoch': 5.92}
+{'loss': 0.0535, 'grad_norm': 0.023703450337052345, 'learning_rate': 4.082138200782269e-06, 'epoch': 5.92}
+{'loss': 0.0466, 'grad_norm': 0.2821672260761261, 'learning_rate': 4.080101043024772e-06, 'epoch': 5.92}
+{'loss': 0.0566, 'grad_norm': 0.008157455362379551, 'learning_rate': 4.0780638852672755e-06, 'epoch': 5.92}
+{'loss': 0.1291, 'grad_norm': 0.1871955692768097, 'learning_rate': 4.076026727509779e-06, 'epoch': 5.92}
+{'loss': 0.0886, 'grad_norm': 0.021818552166223526, 'learning_rate': 4.073989569752282e-06, 'epoch': 5.93}
+{'loss': 0.1444, 'grad_norm': 0.09496114403009415, 'learning_rate': 4.071952411994785e-06, 'epoch': 5.93}
+{'loss': 0.0627, 'grad_norm': 0.06900154799222946, 'learning_rate': 4.069915254237288e-06, 'epoch': 5.93}
+{'loss': 0.0994, 'grad_norm': 0.024904964491724968, 'learning_rate': 4.0678780964797914e-06, 'epoch': 5.93}
+{'loss': 0.1636, 'grad_norm': 0.010506690479815006, 'learning_rate': 4.065840938722296e-06, 'epoch': 5.93}
+{'loss': 0.1825, 'grad_norm': 0.0121682770550251, 'learning_rate': 4.063803780964798e-06, 'epoch': 5.94}
+{'loss': 0.1625, 'grad_norm': 0.014434167183935642, 'learning_rate': 4.0617666232073015e-06, 'epoch': 5.94}
+{'loss': 0.1737, 'grad_norm': 0.017601309344172478, 'learning_rate': 4.059729465449805e-06, 'epoch': 5.94}
+{'loss': 0.1611, 'grad_norm': 0.015064732171595097, 'learning_rate': 4.057692307692308e-06, 'epoch': 5.94}
+{'loss': 0.0805, 'grad_norm': 677.46923828125, 'learning_rate': 4.055655149934812e-06, 'epoch': 5.94}
+{'loss': 0.2414, 'grad_norm': 0.07434715330600739, 'learning_rate': 4.053617992177314e-06, 'epoch': 5.95}
+{'loss': 0.3085, 'grad_norm': 3.3634283542633057, 'learning_rate': 4.0515808344198175e-06, 'epoch': 5.95}
+{'loss': 0.1655, 'grad_norm': 0.046318478882312775, 'learning_rate': 4.049543676662321e-06, 'epoch': 5.95}
+{'loss': 0.1395, 'grad_norm': 0.16719290614128113, 'learning_rate': 4.047506518904824e-06, 'epoch': 5.95}
+{'loss': 0.0942, 'grad_norm': 0.05929374322295189, 'learning_rate': 4.045469361147328e-06, 'epoch': 5.95}
+{'loss': 0.1362, 'grad_norm': 4.739964008331299, 'learning_rate': 4.043432203389831e-06, 'epoch': 5.96}
+{'loss': 0.1485, 'grad_norm': 0.09436706453561783, 'learning_rate': 4.041395045632334e-06, 'epoch': 5.96}
+{'loss': 0.183, 'grad_norm': 35.335479736328125, 'learning_rate': 4.039357887874838e-06, 'epoch': 5.96}
+{'loss': 0.1452, 'grad_norm': 0.00930389016866684, 'learning_rate': 4.03732073011734e-06, 'epoch': 5.96}
+{'loss': 0.1904, 'grad_norm': 0.3472610116004944, 'learning_rate': 4.035283572359844e-06, 'epoch': 5.96}
+{'loss': 0.0443, 'grad_norm': 0.280651330947876, 'learning_rate': 4.033246414602347e-06, 'epoch': 5.97}
+{'loss': 0.0836, 'grad_norm': 857.145751953125, 'learning_rate': 4.03120925684485e-06, 'epoch': 5.97}
+{'loss': 0.1519, 'grad_norm': 0.006097203120589256, 'learning_rate': 4.029172099087354e-06, 'epoch': 5.97}
+{'loss': 0.0845, 'grad_norm': 0.015244223177433014, 'learning_rate': 4.027134941329857e-06, 'epoch': 5.97}
+{'loss': 0.15, 'grad_norm': 0.0056765140034258366, 'learning_rate': 4.02509778357236e-06, 'epoch': 5.97}
+{'loss': 0.097, 'grad_norm': 0.5883269906044006, 'learning_rate': 4.023060625814864e-06, 'epoch': 5.98}
+{'loss': 0.1963, 'grad_norm': 0.06265638768672943, 'learning_rate': 4.021023468057367e-06, 'epoch': 5.98}
+{'loss': 0.2503, 'grad_norm': 0.017773400992155075, 'learning_rate': 4.01898631029987e-06, 'epoch': 5.98}
+{'loss': 0.283, 'grad_norm': 0.050822094082832336, 'learning_rate': 4.016949152542373e-06, 'epoch': 5.98}
+{'loss': 0.1486, 'grad_norm': 0.15215559303760529, 'learning_rate': 4.014911994784876e-06, 'epoch': 5.99}
+{'loss': 0.1189, 'grad_norm': 0.15637251734733582, 'learning_rate': 4.01287483702738e-06, 'epoch': 5.99}
+{'loss': 0.1877, 'grad_norm': 0.03637523949146271, 'learning_rate': 4.010837679269883e-06, 'epoch': 5.99}
+{'loss': 0.1005, 'grad_norm': 0.008757065050303936, 'learning_rate': 4.0088005215123865e-06, 'epoch': 5.99}
+{'loss': 0.1325, 'grad_norm': 0.015611732378602028, 'learning_rate': 4.00676336375489e-06, 'epoch': 5.99}
+{'loss': 0.1404, 'grad_norm': 592.169921875, 'learning_rate': 4.004726205997393e-06, 'epoch': 6.0}
+{'loss': 0.2037, 'grad_norm': 0.5320336222648621, 'learning_rate': 4.002689048239896e-06, 'epoch': 6.0}
+{'loss': 0.1792, 'grad_norm': 0.020908093079924583, 'learning_rate': 4.000651890482399e-06, 'epoch': 6.0}
+{'loss': 0.0896, 'grad_norm': 0.011405925266444683, 'learning_rate': 3.9986147327249024e-06, 'epoch': 6.0}
+{'loss': 0.0003, 'grad_norm': 0.04136224463582039, 'learning_rate': 3.996577574967406e-06, 'epoch': 6.0}
+{'loss': 0.0034, 'grad_norm': 0.0011469073360785842, 'learning_rate': 3.994540417209909e-06, 'epoch': 6.01}
+{'loss': 0.0807, 'grad_norm': 0.005585252773016691, 'learning_rate': 3.9925032594524125e-06, 'epoch': 6.01}
+{'loss': 0.0311, 'grad_norm': 0.0035603034775704145, 'learning_rate': 3.990466101694915e-06, 'epoch': 6.01}
+{'loss': 0.051, 'grad_norm': 0.003036587266251445, 'learning_rate': 3.988428943937419e-06, 'epoch': 6.01}
+{'loss': 0.002, 'grad_norm': 0.0031547436956316233, 'learning_rate': 3.986391786179923e-06, 'epoch': 6.01}
+{'loss': 0.1527, 'grad_norm': 0.0052535138092935085, 'learning_rate': 3.984354628422425e-06, 'epoch': 6.02}
+{'loss': 0.049, 'grad_norm': 545.1383666992188, 'learning_rate': 3.9823174706649285e-06, 'epoch': 6.02}
+{'loss': 0.0019, 'grad_norm': 0.008517049252986908, 'learning_rate': 3.980280312907432e-06, 'epoch': 6.02}
+{'loss': 0.0057, 'grad_norm': 0.013885591179132462, 'learning_rate': 3.978243155149935e-06, 'epoch': 6.02}
+{'loss': 0.2188, 'grad_norm': 0.004227972589433193, 'learning_rate': 3.976205997392439e-06, 'epoch': 6.02}
+{'loss': 0.1352, 'grad_norm': 0.014584127813577652, 'learning_rate': 3.974168839634941e-06, 'epoch': 6.03}
+{'loss': 0.0062, 'grad_norm': 0.06718438118696213, 'learning_rate': 3.9721316818774445e-06, 'epoch': 6.03}
+{'loss': 0.0253, 'grad_norm': 0.048223625868558884, 'learning_rate': 3.970094524119949e-06, 'epoch': 6.03}
+{'loss': 0.0231, 'grad_norm': 0.0046410164795815945, 'learning_rate': 3.968057366362452e-06, 'epoch': 6.03}
+{'loss': 0.0184, 'grad_norm': 0.010568881407380104, 'learning_rate': 3.966020208604955e-06, 'epoch': 6.03}
+{'loss': 0.0336, 'grad_norm': 0.0014883085386827588, 'learning_rate': 3.963983050847458e-06, 'epoch': 6.04}
+{'loss': 0.1276, 'grad_norm': 0.007513291668146849, 'learning_rate': 3.961945893089961e-06, 'epoch': 6.04}
+{'loss': 0.1746, 'grad_norm': 1721.3065185546875, 'learning_rate': 3.959908735332465e-06, 'epoch': 6.04}
+{'loss': 0.0211, 'grad_norm': 0.0028011584654450417, 'learning_rate': 3.957871577574968e-06, 'epoch': 6.04}
+{'loss': 0.0901, 'grad_norm': 0.0013484208611771464, 'learning_rate': 3.9558344198174706e-06, 'epoch': 6.04}
+{'loss': 0.1706, 'grad_norm': 0.013742617331445217, 'learning_rate': 3.953797262059974e-06, 'epoch': 6.05}
+{'loss': 0.1385, 'grad_norm': 0.21571706235408783, 'learning_rate': 3.951760104302477e-06, 'epoch': 6.05}
+{'loss': 0.0, 'grad_norm': 0.0023837792687118053, 'learning_rate': 3.949722946544981e-06, 'epoch': 6.05}
+{'loss': 0.0434, 'grad_norm': 0.005897683557122946, 'learning_rate': 3.947685788787484e-06, 'epoch': 6.05}
+{'loss': 0.0113, 'grad_norm': 0.0032522419933229685, 'learning_rate': 3.945648631029987e-06, 'epoch': 6.05}
+{'loss': 0.05, 'grad_norm': 0.046913161873817444, 'learning_rate': 3.943611473272491e-06, 'epoch': 6.06}
+{'loss': 0.0208, 'grad_norm': 0.0014463650295510888, 'learning_rate': 3.941574315514994e-06, 'epoch': 6.06}
+{'loss': 0.1947, 'grad_norm': 0.005685118492692709, 'learning_rate': 3.939537157757497e-06, 'epoch': 6.06}
+{'loss': 0.1019, 'grad_norm': 0.0003275990893598646, 'learning_rate': 3.9375e-06, 'epoch': 6.06}
+{'loss': 0.0547, 'grad_norm': 0.017024563625454903, 'learning_rate': 3.935462842242503e-06, 'epoch': 6.06}
+{'loss': 0.0033, 'grad_norm': 5.874330520629883, 'learning_rate': 3.933425684485007e-06, 'epoch': 6.07}
+{'loss': 0.1726, 'grad_norm': 0.018215499818325043, 'learning_rate': 3.93138852672751e-06, 'epoch': 6.07}
+{'loss': 0.0729, 'grad_norm': 0.0734037533402443, 'learning_rate': 3.9293513689700135e-06, 'epoch': 6.07}
+{'loss': 0.1556, 'grad_norm': 0.003436113242059946, 'learning_rate': 3.927314211212517e-06, 'epoch': 6.07}
+{'loss': 0.0544, 'grad_norm': 0.0029802885837852955, 'learning_rate': 3.92527705345502e-06, 'epoch': 6.07}
+{'loss': 0.0771, 'grad_norm': 0.005058517679572105, 'learning_rate': 3.9232398956975235e-06, 'epoch': 6.08}
+{'loss': 0.0521, 'grad_norm': 0.005214769393205643, 'learning_rate': 3.921202737940026e-06, 'epoch': 6.08}
+{'loss': 0.1238, 'grad_norm': 0.0012943343026563525, 'learning_rate': 3.9191655801825294e-06, 'epoch': 6.08}
+{'loss': 0.0201, 'grad_norm': 0.00107812718488276, 'learning_rate': 3.917128422425033e-06, 'epoch': 6.08}
+{'loss': 0.0234, 'grad_norm': 0.002152011962607503, 'learning_rate': 3.915091264667536e-06, 'epoch': 6.08}
+{'loss': 0.0556, 'grad_norm': 0.0030024617444723845, 'learning_rate': 3.9130541069100395e-06, 'epoch': 6.09}
+{'loss': 0.0006, 'grad_norm': 0.01352307666093111, 'learning_rate': 3.911016949152543e-06, 'epoch': 6.09}
+{'loss': 0.0895, 'grad_norm': 0.0020836172625422478, 'learning_rate': 3.908979791395046e-06, 'epoch': 6.09}
+{'loss': 0.1149, 'grad_norm': 0.0006744923302903771, 'learning_rate': 3.90694263363755e-06, 'epoch': 6.09}
+{'loss': 0.0485, 'grad_norm': 0.023396208882331848, 'learning_rate': 3.904905475880052e-06, 'epoch': 6.1}
+{'loss': 0.033, 'grad_norm': 1429.1927490234375, 'learning_rate': 3.9028683181225555e-06, 'epoch': 6.1}
+{'loss': 0.0206, 'grad_norm': 0.0030354862101376057, 'learning_rate': 3.900831160365059e-06, 'epoch': 6.1}
+{'loss': 0.0902, 'grad_norm': 0.014273161068558693, 'learning_rate': 3.898794002607562e-06, 'epoch': 6.1}
+{'loss': 0.0071, 'grad_norm': 0.0009324278216809034, 'learning_rate': 3.896756844850066e-06, 'epoch': 6.1}
+{'loss': 0.066, 'grad_norm': 0.0021781278774142265, 'learning_rate': 3.894719687092569e-06, 'epoch': 6.11}
+{'loss': 0.0803, 'grad_norm': 0.0017443113029003143, 'learning_rate': 3.892682529335072e-06, 'epoch': 6.11}
+{'loss': 0.1086, 'grad_norm': 0.004295540973544121, 'learning_rate': 3.890645371577576e-06, 'epoch': 6.11}
+{'loss': 0.0002, 'grad_norm': 0.0032313400879502296, 'learning_rate': 3.888608213820079e-06, 'epoch': 6.11}
+{'eval_loss': 13.811003684997559, 'eval_accuracy': 0.7088353413654619, 'eval_runtime': 1.5006, 'eval_samples_per_second': 1659.34, 'eval_steps_per_second': 51.979, 'epoch': 6.11}
+{'loss': 0.1019, 'grad_norm': 0.004147921688854694, 'learning_rate': 3.8865710560625816e-06, 'epoch': 6.11}
+{'loss': 0.0915, 'grad_norm': 0.020553288981318474, 'learning_rate': 3.884533898305085e-06, 'epoch': 6.12}
+{'loss': 0.0169, 'grad_norm': 0.0029842229560017586, 'learning_rate': 3.882496740547588e-06, 'epoch': 6.12}
+{'loss': 0.1499, 'grad_norm': 0.008320393972098827, 'learning_rate': 3.880459582790092e-06, 'epoch': 6.12}
+{'loss': 0.0434, 'grad_norm': 0.0025432270485907793, 'learning_rate': 3.878422425032595e-06, 'epoch': 6.12}
+{'loss': 0.1111, 'grad_norm': 0.006310625001788139, 'learning_rate': 3.8763852672750975e-06, 'epoch': 6.12}
+{'loss': 0.0476, 'grad_norm': 0.0009579355246387422, 'learning_rate': 3.874348109517601e-06, 'epoch': 6.13}
+{'loss': 0.0546, 'grad_norm': 0.006219293922185898, 'learning_rate': 3.872310951760105e-06, 'epoch': 6.13}
+{'loss': 0.0943, 'grad_norm': 0.01753045804798603, 'learning_rate': 3.870273794002608e-06, 'epoch': 6.13}
+{'loss': 0.0464, 'grad_norm': 32.82257843017578, 'learning_rate': 3.868236636245111e-06, 'epoch': 6.13}
+{'loss': 0.1526, 'grad_norm': 0.006913637742400169, 'learning_rate': 3.866199478487614e-06, 'epoch': 6.13}
+{'loss': 0.0689, 'grad_norm': 0.004120249766856432, 'learning_rate': 3.864162320730118e-06, 'epoch': 6.14}
+{'loss': 0.0001, 'grad_norm': 3.2125887870788574, 'learning_rate': 3.862125162972621e-06, 'epoch': 6.14}
+{'loss': 0.111, 'grad_norm': 0.004894501995295286, 'learning_rate': 3.8600880052151245e-06, 'epoch': 6.14}
+{'loss': 0.0744, 'grad_norm': 357.2488708496094, 'learning_rate': 3.858050847457627e-06, 'epoch': 6.14}
+{'loss': 0.0519, 'grad_norm': 0.0029152645729482174, 'learning_rate': 3.85601368970013e-06, 'epoch': 6.14}
+{'loss': 0.0577, 'grad_norm': 0.007172798737883568, 'learning_rate': 3.8539765319426346e-06, 'epoch': 6.15}
+{'loss': 0.0882, 'grad_norm': 0.003682829672470689, 'learning_rate': 3.851939374185137e-06, 'epoch': 6.15}
+{'loss': 0.1625, 'grad_norm': 525.5653076171875, 'learning_rate': 3.8499022164276404e-06, 'epoch': 6.15}
+{'loss': 0.0352, 'grad_norm': 0.03468124195933342, 'learning_rate': 3.847865058670144e-06, 'epoch': 6.15}
+{'loss': 0.0715, 'grad_norm': 0.00403247307986021, 'learning_rate': 3.845827900912647e-06, 'epoch': 6.15}
+{'loss': 0.2239, 'grad_norm': 0.004375655669718981, 'learning_rate': 3.8437907431551505e-06, 'epoch': 6.16}
+{'loss': 0.0338, 'grad_norm': 0.00276964926160872, 'learning_rate': 3.841753585397653e-06, 'epoch': 6.16}
+{'loss': 0.1315, 'grad_norm': 0.0879741758108139, 'learning_rate': 3.839716427640156e-06, 'epoch': 6.16}
+{'loss': 0.0103, 'grad_norm': 0.0023077139630913734, 'learning_rate': 3.83767926988266e-06, 'epoch': 6.16}
+{'loss': 0.0788, 'grad_norm': 0.004097695462405682, 'learning_rate': 3.835642112125163e-06, 'epoch': 6.16}
+{'loss': 0.0098, 'grad_norm': 0.004184032790362835, 'learning_rate': 3.8336049543676665e-06, 'epoch': 6.17}
+{'loss': 0.1242, 'grad_norm': 149.26107788085938, 'learning_rate': 3.83156779661017e-06, 'epoch': 6.17}
+{'loss': 0.043, 'grad_norm': 0.024583999067544937, 'learning_rate': 3.829530638852673e-06, 'epoch': 6.17}
+{'loss': 0.089, 'grad_norm': 0.03473610803484917, 'learning_rate': 3.827493481095177e-06, 'epoch': 6.17}
+{'loss': 0.1213, 'grad_norm': 0.0041010696440935135, 'learning_rate': 3.82545632333768e-06, 'epoch': 6.17}
+{'loss': 0.0649, 'grad_norm': 0.006839192006736994, 'learning_rate': 3.8234191655801825e-06, 'epoch': 6.18}
+{'loss': 0.022, 'grad_norm': 0.018551353365182877, 'learning_rate': 3.821382007822686e-06, 'epoch': 6.18}
+{'loss': 0.0379, 'grad_norm': 0.0009572604321874678, 'learning_rate': 3.819344850065189e-06, 'epoch': 6.18}
+{'loss': 0.0861, 'grad_norm': 0.0037772597279399633, 'learning_rate': 3.8173076923076926e-06, 'epoch': 6.18}
+{'loss': 0.1171, 'grad_norm': 171.59690856933594, 'learning_rate': 3.815270534550196e-06, 'epoch': 6.18}
+{'loss': 0.1403, 'grad_norm': 0.08910172432661057, 'learning_rate': 3.8132333767926993e-06, 'epoch': 6.19}
+{'loss': 0.1232, 'grad_norm': 0.34993916749954224, 'learning_rate': 3.8111962190352027e-06, 'epoch': 6.19}
+{'loss': 0.073, 'grad_norm': 142.2142791748047, 'learning_rate': 3.8091590612777056e-06, 'epoch': 6.19}
+{'loss': 0.0555, 'grad_norm': 0.1227881908416748, 'learning_rate': 3.807121903520209e-06, 'epoch': 6.19}
+{'loss': 0.0578, 'grad_norm': 0.013144254684448242, 'learning_rate': 3.8050847457627123e-06, 'epoch': 6.19}
+{'loss': 0.0046, 'grad_norm': 0.029989974573254585, 'learning_rate': 3.8030475880052153e-06, 'epoch': 6.2}
+{'loss': 0.1653, 'grad_norm': 0.008812841027975082, 'learning_rate': 3.8010104302477186e-06, 'epoch': 6.2}
+{'loss': 0.0835, 'grad_norm': 0.006729682441800833, 'learning_rate': 3.7989732724902216e-06, 'epoch': 6.2}
+{'loss': 0.2747, 'grad_norm': 0.028054846450686455, 'learning_rate': 3.796936114732725e-06, 'epoch': 6.2}
+{'loss': 0.0804, 'grad_norm': 0.057225801050662994, 'learning_rate': 3.7948989569752287e-06, 'epoch': 6.21}
+{'loss': 0.0765, 'grad_norm': 0.04222084581851959, 'learning_rate': 3.792861799217732e-06, 'epoch': 6.21}
+{'loss': 0.1738, 'grad_norm': 0.002716885879635811, 'learning_rate': 3.790824641460235e-06, 'epoch': 6.21}
+{'loss': 0.0287, 'grad_norm': 0.7078772187232971, 'learning_rate': 3.7887874837027384e-06, 'epoch': 6.21}
+{'loss': 0.1474, 'grad_norm': 0.28260233998298645, 'learning_rate': 3.7867503259452413e-06, 'epoch': 6.21}
+{'loss': 0.0334, 'grad_norm': 0.005794519558548927, 'learning_rate': 3.7847131681877447e-06, 'epoch': 6.22}
+{'loss': 0.0665, 'grad_norm': 0.04620672017335892, 'learning_rate': 3.782676010430248e-06, 'epoch': 6.22}
+{'loss': 0.0485, 'grad_norm': 0.0034255709033459425, 'learning_rate': 3.780638852672751e-06, 'epoch': 6.22}
+{'loss': 0.0015, 'grad_norm': 0.010896897874772549, 'learning_rate': 3.7786016949152544e-06, 'epoch': 6.22}
+{'loss': 0.0938, 'grad_norm': 0.0037664759438484907, 'learning_rate': 3.776564537157758e-06, 'epoch': 6.22}
+{'loss': 0.1855, 'grad_norm': 60.824527740478516, 'learning_rate': 3.774527379400261e-06, 'epoch': 6.23}
+{'loss': 0.2361, 'grad_norm': 0.026645110920071602, 'learning_rate': 3.7724902216427645e-06, 'epoch': 6.23}
+{'loss': 0.1124, 'grad_norm': 0.022988855838775635, 'learning_rate': 3.770453063885268e-06, 'epoch': 6.23}
+{'loss': 0.0909, 'grad_norm': 17.07855987548828, 'learning_rate': 3.7684159061277708e-06, 'epoch': 6.23}
+{'loss': 0.0786, 'grad_norm': 0.10875114798545837, 'learning_rate': 3.766378748370274e-06, 'epoch': 6.23}
+{'loss': 0.1018, 'grad_norm': 272.74322509765625, 'learning_rate': 3.764341590612777e-06, 'epoch': 6.24}
+{'loss': 0.0214, 'grad_norm': 0.0062179286032915115, 'learning_rate': 3.7623044328552805e-06, 'epoch': 6.24}
+{'loss': 0.1886, 'grad_norm': 0.08904112130403519, 'learning_rate': 3.760267275097784e-06, 'epoch': 6.24}
+{'loss': 0.0371, 'grad_norm': 0.020611170679330826, 'learning_rate': 3.7582301173402868e-06, 'epoch': 6.24}
+{'loss': 0.1551, 'grad_norm': 0.020976250991225243, 'learning_rate': 3.7561929595827905e-06, 'epoch': 6.24}
+{'loss': 0.04, 'grad_norm': 23.332847595214844, 'learning_rate': 3.754155801825294e-06, 'epoch': 6.25}
+{'loss': 0.2998, 'grad_norm': 334.2027282714844, 'learning_rate': 3.752118644067797e-06, 'epoch': 6.25}
+{'loss': 0.0083, 'grad_norm': 70.90184020996094, 'learning_rate': 3.7500814863103002e-06, 'epoch': 6.25}
+{'loss': 0.0068, 'grad_norm': 0.006803653668612242, 'learning_rate': 3.7480443285528036e-06, 'epoch': 6.25}
+{'loss': 0.0346, 'grad_norm': 0.3084331750869751, 'learning_rate': 3.7460071707953065e-06, 'epoch': 6.25}
+{'loss': 0.056, 'grad_norm': 0.0060681854374706745, 'learning_rate': 3.74397001303781e-06, 'epoch': 6.26}
+{'loss': 0.0662, 'grad_norm': 0.0059771365486085415, 'learning_rate': 3.741932855280313e-06, 'epoch': 6.26}
+{'loss': 0.2262, 'grad_norm': 1.7445262670516968, 'learning_rate': 3.739895697522816e-06, 'epoch': 6.26}
+{'loss': 0.0242, 'grad_norm': 0.030481096357107162, 'learning_rate': 3.73785853976532e-06, 'epoch': 6.26}
+{'loss': 0.1665, 'grad_norm': 0.005073565058410168, 'learning_rate': 3.7358213820078233e-06, 'epoch': 6.26}
+{'loss': 0.0148, 'grad_norm': 0.008438929915428162, 'learning_rate': 3.7337842242503263e-06, 'epoch': 6.27}
+{'loss': 0.098, 'grad_norm': 132.99224853515625, 'learning_rate': 3.7317470664928296e-06, 'epoch': 6.27}
+{'loss': 0.0542, 'grad_norm': 6.757274150848389, 'learning_rate': 3.7297099087353326e-06, 'epoch': 6.27}
+{'loss': 0.1013, 'grad_norm': 0.007733975537121296, 'learning_rate': 3.727672750977836e-06, 'epoch': 6.27}
+{'loss': 0.1027, 'grad_norm': 0.010132341645658016, 'learning_rate': 3.7256355932203393e-06, 'epoch': 6.27}
+{'loss': 0.0339, 'grad_norm': 0.022646155208349228, 'learning_rate': 3.7235984354628423e-06, 'epoch': 6.28}
+{'loss': 0.1148, 'grad_norm': 0.008617999963462353, 'learning_rate': 3.7215612777053456e-06, 'epoch': 6.28}
+{'loss': 0.0621, 'grad_norm': 0.013087514787912369, 'learning_rate': 3.719524119947849e-06, 'epoch': 6.28}
+{'loss': 0.0962, 'grad_norm': 82.37796020507812, 'learning_rate': 3.7174869621903524e-06, 'epoch': 6.28}
+{'loss': 0.1109, 'grad_norm': 0.013371956534683704, 'learning_rate': 3.7154498044328557e-06, 'epoch': 6.28}
+{'loss': 0.0536, 'grad_norm': 0.020246515050530434, 'learning_rate': 3.713412646675359e-06, 'epoch': 6.29}
+{'loss': 0.0268, 'grad_norm': 0.1158568263053894, 'learning_rate': 3.711375488917862e-06, 'epoch': 6.29}
+{'loss': 0.026, 'grad_norm': 0.011357177048921585, 'learning_rate': 3.7093383311603654e-06, 'epoch': 6.29}
+{'loss': 0.1558, 'grad_norm': 57.88248062133789, 'learning_rate': 3.7073011734028688e-06, 'epoch': 6.29}
+{'loss': 0.0151, 'grad_norm': 0.015252490527927876, 'learning_rate': 3.7052640156453717e-06, 'epoch': 6.29}
+{'loss': 0.0899, 'grad_norm': 0.0013771707890555263, 'learning_rate': 3.703226857887875e-06, 'epoch': 6.3}
+{'loss': 0.0131, 'grad_norm': 0.01601722650229931, 'learning_rate': 3.701189700130378e-06, 'epoch': 6.3}
+{'loss': 0.0741, 'grad_norm': 0.015186852775514126, 'learning_rate': 3.6991525423728818e-06, 'epoch': 6.3}
+{'loss': 0.0563, 'grad_norm': 0.6400468945503235, 'learning_rate': 3.697115384615385e-06, 'epoch': 6.3}
+{'loss': 0.1481, 'grad_norm': 358.6457824707031, 'learning_rate': 3.6950782268578885e-06, 'epoch': 6.31}
+{'loss': 0.0527, 'grad_norm': 0.04365728050470352, 'learning_rate': 3.6930410691003915e-06, 'epoch': 6.31}
+{'loss': 0.0434, 'grad_norm': 0.002778587630018592, 'learning_rate': 3.691003911342895e-06, 'epoch': 6.31}
+{'loss': 0.0517, 'grad_norm': 0.007415350992232561, 'learning_rate': 3.6889667535853978e-06, 'epoch': 6.31}
+{'loss': 0.1189, 'grad_norm': 0.015166879631578922, 'learning_rate': 3.686929595827901e-06, 'epoch': 6.31}
+{'loss': 0.0051, 'grad_norm': 0.0018880049465224147, 'learning_rate': 3.6848924380704045e-06, 'epoch': 6.32}
+{'loss': 0.1399, 'grad_norm': 0.002734137699007988, 'learning_rate': 3.6828552803129074e-06, 'epoch': 6.32}
+{'loss': 0.1814, 'grad_norm': 0.006764568388462067, 'learning_rate': 3.6808181225554112e-06, 'epoch': 6.32}
+{'loss': 0.0688, 'grad_norm': 0.07136926054954529, 'learning_rate': 3.6787809647979146e-06, 'epoch': 6.32}
+{'loss': 0.0422, 'grad_norm': 0.017490075901150703, 'learning_rate': 3.6767438070404175e-06, 'epoch': 6.32}
+{'loss': 0.0274, 'grad_norm': 0.02148342877626419, 'learning_rate': 3.674706649282921e-06, 'epoch': 6.33}
+{'loss': 0.1056, 'grad_norm': 0.004467624705284834, 'learning_rate': 3.6726694915254243e-06, 'epoch': 6.33}
+{'loss': 0.1394, 'grad_norm': 0.02386535331606865, 'learning_rate': 3.670632333767927e-06, 'epoch': 6.33}
+{'loss': 0.0636, 'grad_norm': 0.011773059144616127, 'learning_rate': 3.6685951760104306e-06, 'epoch': 6.33}
+{'loss': 0.3317, 'grad_norm': 0.0045981560833752155, 'learning_rate': 3.6665580182529335e-06, 'epoch': 6.33}
+{'loss': 0.0344, 'grad_norm': 0.0032229823991656303, 'learning_rate': 3.664520860495437e-06, 'epoch': 6.34}
+{'loss': 0.0741, 'grad_norm': 34.211669921875, 'learning_rate': 3.6624837027379402e-06, 'epoch': 6.34}
+{'loss': 0.229, 'grad_norm': 0.010671267285943031, 'learning_rate': 3.660446544980444e-06, 'epoch': 6.34}
+{'loss': 0.0352, 'grad_norm': 0.01634938269853592, 'learning_rate': 3.658409387222947e-06, 'epoch': 6.34}
+{'loss': 0.0701, 'grad_norm': 0.005097949877381325, 'learning_rate': 3.6563722294654503e-06, 'epoch': 6.34}
+{'loss': 0.0249, 'grad_norm': 0.09420598298311234, 'learning_rate': 3.6543350717079533e-06, 'epoch': 6.35}
+{'loss': 0.0536, 'grad_norm': 0.0044084759429097176, 'learning_rate': 3.6522979139504566e-06, 'epoch': 6.35}
+{'loss': 0.176, 'grad_norm': 261.1615295410156, 'learning_rate': 3.65026075619296e-06, 'epoch': 6.35}
+{'loss': 0.0189, 'grad_norm': 0.005672222003340721, 'learning_rate': 3.648223598435463e-06, 'epoch': 6.35}
+{'loss': 0.0643, 'grad_norm': 0.005113902967423201, 'learning_rate': 3.6461864406779663e-06, 'epoch': 6.35}
+{'loss': 0.0752, 'grad_norm': 0.02315669320523739, 'learning_rate': 3.6441492829204692e-06, 'epoch': 6.36}
+{'loss': 0.0217, 'grad_norm': 0.005873342044651508, 'learning_rate': 3.642112125162973e-06, 'epoch': 6.36}
+{'loss': 0.1508, 'grad_norm': 0.0033239973708987236, 'learning_rate': 3.6400749674054764e-06, 'epoch': 6.36}
+{'loss': 0.04, 'grad_norm': 1.7119226455688477, 'learning_rate': 3.6380378096479798e-06, 'epoch': 6.36}
+{'loss': 0.0818, 'grad_norm': 0.00725867273285985, 'learning_rate': 3.6360006518904827e-06, 'epoch': 6.36}
+{'loss': 0.1159, 'grad_norm': 144.5076141357422, 'learning_rate': 3.633963494132986e-06, 'epoch': 6.37}
+{'loss': 0.1812, 'grad_norm': 0.0016881111077964306, 'learning_rate': 3.631926336375489e-06, 'epoch': 6.37}
+{'loss': 0.0, 'grad_norm': 0.024489562958478928, 'learning_rate': 3.6298891786179924e-06, 'epoch': 6.37}
+{'loss': 0.1201, 'grad_norm': 0.025792401283979416, 'learning_rate': 3.6278520208604957e-06, 'epoch': 6.37}
+{'loss': 0.1026, 'grad_norm': 0.016216941177845, 'learning_rate': 3.6258148631029987e-06, 'epoch': 6.37}
+{'loss': 0.0129, 'grad_norm': 0.007747970055788755, 'learning_rate': 3.623777705345502e-06, 'epoch': 6.38}
+{'loss': 0.2136, 'grad_norm': 0.012263544835150242, 'learning_rate': 3.621740547588006e-06, 'epoch': 6.38}
+{'loss': 0.1778, 'grad_norm': 0.01499098353087902, 'learning_rate': 3.6197033898305088e-06, 'epoch': 6.38}
+{'loss': 0.0749, 'grad_norm': 0.0358315147459507, 'learning_rate': 3.617666232073012e-06, 'epoch': 6.38}
+{'loss': 0.0387, 'grad_norm': 0.7445113062858582, 'learning_rate': 3.6156290743155155e-06, 'epoch': 6.38}
+{'loss': 0.1091, 'grad_norm': 5.440441608428955, 'learning_rate': 3.6135919165580184e-06, 'epoch': 6.39}
+{'loss': 0.0734, 'grad_norm': 0.0011861196253448725, 'learning_rate': 3.611554758800522e-06, 'epoch': 6.39}
+{'loss': 0.1033, 'grad_norm': 0.004437927156686783, 'learning_rate': 3.6095176010430247e-06, 'epoch': 6.39}
+{'loss': 0.033, 'grad_norm': 52.54000473022461, 'learning_rate': 3.607480443285528e-06, 'epoch': 6.39}
+{'loss': 0.1505, 'grad_norm': 0.01755637489259243, 'learning_rate': 3.6054432855280315e-06, 'epoch': 6.39}
+{'loss': 0.1352, 'grad_norm': 0.2033020555973053, 'learning_rate': 3.6034061277705353e-06, 'epoch': 6.4}
+{'loss': 0.1584, 'grad_norm': 0.048964109271764755, 'learning_rate': 3.601368970013038e-06, 'epoch': 6.4}
+{'loss': 0.0399, 'grad_norm': 0.002886664355173707, 'learning_rate': 3.5993318122555416e-06, 'epoch': 6.4}
+{'loss': 0.0308, 'grad_norm': 0.005823660641908646, 'learning_rate': 3.5972946544980445e-06, 'epoch': 6.4}
+{'loss': 0.1019, 'grad_norm': 0.007939922623336315, 'learning_rate': 3.595257496740548e-06, 'epoch': 6.4}
+{'loss': 0.0182, 'grad_norm': 0.006803343538194895, 'learning_rate': 3.5932203389830512e-06, 'epoch': 6.41}
+{'loss': 0.0256, 'grad_norm': 0.00848593469709158, 'learning_rate': 3.591183181225554e-06, 'epoch': 6.41}
+{'loss': 0.175, 'grad_norm': 0.004238496068865061, 'learning_rate': 3.5891460234680575e-06, 'epoch': 6.41}
+{'loss': 0.2527, 'grad_norm': 323.98443603515625, 'learning_rate': 3.587108865710561e-06, 'epoch': 6.41}
+{'loss': 0.0765, 'grad_norm': 0.024147750809788704, 'learning_rate': 3.585071707953064e-06, 'epoch': 6.42}
+{'loss': 0.0692, 'grad_norm': 385.3258056640625, 'learning_rate': 3.5830345501955676e-06, 'epoch': 6.42}
+{'loss': 0.0595, 'grad_norm': 0.032927192747592926, 'learning_rate': 3.580997392438071e-06, 'epoch': 6.42}
+{'loss': 0.037, 'grad_norm': 0.0438484363257885, 'learning_rate': 3.578960234680574e-06, 'epoch': 6.42}
+{'loss': 0.2876, 'grad_norm': 0.09497275948524475, 'learning_rate': 3.5769230769230773e-06, 'epoch': 6.42}
+{'loss': 0.0275, 'grad_norm': 0.32582148909568787, 'learning_rate': 3.5748859191655807e-06, 'epoch': 6.43}
+{'loss': 0.0385, 'grad_norm': 226.3653564453125, 'learning_rate': 3.5728487614080836e-06, 'epoch': 6.43}
+{'loss': 0.004, 'grad_norm': 0.012401054613292217, 'learning_rate': 3.570811603650587e-06, 'epoch': 6.43}
+{'loss': 0.0431, 'grad_norm': 568.4151000976562, 'learning_rate': 3.56877444589309e-06, 'epoch': 6.43}
+{'loss': 0.1398, 'grad_norm': 0.11936093866825104, 'learning_rate': 3.5667372881355933e-06, 'epoch': 6.43}
+{'loss': 0.0597, 'grad_norm': 0.0021672288421541452, 'learning_rate': 3.564700130378097e-06, 'epoch': 6.44}
+{'loss': 0.2053, 'grad_norm': 69.0478286743164, 'learning_rate': 3.5626629726206004e-06, 'epoch': 6.44}
+{'loss': 0.0744, 'grad_norm': 0.007248270325362682, 'learning_rate': 3.5606258148631034e-06, 'epoch': 6.44}
+{'loss': 0.1512, 'grad_norm': 0.053299739956855774, 'learning_rate': 3.5585886571056067e-06, 'epoch': 6.44}
+{'loss': 0.0733, 'grad_norm': 0.7164830565452576, 'learning_rate': 3.5565514993481097e-06, 'epoch': 6.44}
+{'loss': 0.0809, 'grad_norm': 0.39228329062461853, 'learning_rate': 3.554514341590613e-06, 'epoch': 6.45}
+{'loss': 0.127, 'grad_norm': 0.05282432958483696, 'learning_rate': 3.5524771838331164e-06, 'epoch': 6.45}
+{'loss': 0.125, 'grad_norm': 620.8093872070312, 'learning_rate': 3.5504400260756194e-06, 'epoch': 6.45}
+{'loss': 0.0883, 'grad_norm': 0.017525149509310722, 'learning_rate': 3.5484028683181227e-06, 'epoch': 6.45}
+{'loss': 0.1477, 'grad_norm': 0.035088494420051575, 'learning_rate': 3.5463657105606257e-06, 'epoch': 6.45}
+{'loss': 0.0853, 'grad_norm': 0.03168632835149765, 'learning_rate': 3.5443285528031294e-06, 'epoch': 6.46}
+{'loss': 0.2191, 'grad_norm': 0.002506950404495001, 'learning_rate': 3.542291395045633e-06, 'epoch': 6.46}
+{'loss': 0.1345, 'grad_norm': 0.05130256712436676, 'learning_rate': 3.540254237288136e-06, 'epoch': 6.46}
+{'loss': 0.0342, 'grad_norm': 0.08145731687545776, 'learning_rate': 3.538217079530639e-06, 'epoch': 6.46}
+{'loss': 0.0154, 'grad_norm': 1.9746283292770386, 'learning_rate': 3.5361799217731425e-06, 'epoch': 6.46}
+{'loss': 0.1097, 'grad_norm': 0.004112767055630684, 'learning_rate': 3.5341427640156454e-06, 'epoch': 6.47}
+{'loss': 0.1074, 'grad_norm': 0.01554237399250269, 'learning_rate': 3.5321056062581488e-06, 'epoch': 6.47}
+{'loss': 0.1132, 'grad_norm': 9.85544490814209, 'learning_rate': 3.530068448500652e-06, 'epoch': 6.47}
+{'loss': 0.0372, 'grad_norm': 0.04973316192626953, 'learning_rate': 3.528031290743155e-06, 'epoch': 6.47}
+{'loss': 0.0836, 'grad_norm': 0.06892958283424377, 'learning_rate': 3.525994132985659e-06, 'epoch': 6.47}
+{'loss': 0.0457, 'grad_norm': 0.00901593267917633, 'learning_rate': 3.5239569752281622e-06, 'epoch': 6.48}
+{'loss': 0.0813, 'grad_norm': 0.08362443745136261, 'learning_rate': 3.521919817470665e-06, 'epoch': 6.48}
+{'loss': 0.022, 'grad_norm': 0.0035828740801662207, 'learning_rate': 3.5198826597131685e-06, 'epoch': 6.48}
+{'loss': 0.0355, 'grad_norm': 0.06208481639623642, 'learning_rate': 3.517845501955672e-06, 'epoch': 6.48}
+{'loss': 0.124, 'grad_norm': 0.0033463502768427134, 'learning_rate': 3.515808344198175e-06, 'epoch': 6.48}
+{'loss': 0.1873, 'grad_norm': 0.025379501283168793, 'learning_rate': 3.5137711864406782e-06, 'epoch': 6.49}
+{'loss': 0.1578, 'grad_norm': 0.004295296501368284, 'learning_rate': 3.511734028683181e-06, 'epoch': 6.49}
+{'loss': 0.1208, 'grad_norm': 0.019078686833381653, 'learning_rate': 3.5096968709256845e-06, 'epoch': 6.49}
+{'loss': 0.0192, 'grad_norm': 0.014852691441774368, 'learning_rate': 3.507659713168188e-06, 'epoch': 6.49}
+{'loss': 0.1778, 'grad_norm': 0.01616070419549942, 'learning_rate': 3.5056225554106917e-06, 'epoch': 6.49}
+{'loss': 0.0212, 'grad_norm': 0.07198586314916611, 'learning_rate': 3.5035853976531946e-06, 'epoch': 6.5}
+{'loss': 0.0001, 'grad_norm': 0.0335518904030323, 'learning_rate': 3.501548239895698e-06, 'epoch': 6.5}
+{'loss': 0.2548, 'grad_norm': 0.2543332874774933, 'learning_rate': 3.499511082138201e-06, 'epoch': 6.5}
+{'loss': 0.038, 'grad_norm': 0.0009398015099577606, 'learning_rate': 3.4974739243807043e-06, 'epoch': 6.5}
+{'loss': 0.0525, 'grad_norm': 0.01645614765584469, 'learning_rate': 3.4954367666232077e-06, 'epoch': 6.5}
+{'loss': 0.0036, 'grad_norm': 0.005170448683202267, 'learning_rate': 3.4933996088657106e-06, 'epoch': 6.51}
+{'loss': 0.0, 'grad_norm': 0.13626806437969208, 'learning_rate': 3.491362451108214e-06, 'epoch': 6.51}
+{'loss': 0.0685, 'grad_norm': 2.316730260848999, 'learning_rate': 3.4893252933507173e-06, 'epoch': 6.51}
+{'loss': 0.2918, 'grad_norm': 0.0073178550228476524, 'learning_rate': 3.4872881355932207e-06, 'epoch': 6.51}
+{'loss': 0.0133, 'grad_norm': 0.00554055068641901, 'learning_rate': 3.485250977835724e-06, 'epoch': 6.51}
+{'loss': 0.0087, 'grad_norm': 0.005458253901451826, 'learning_rate': 3.4832138200782274e-06, 'epoch': 6.52}
+{'loss': 0.0979, 'grad_norm': 219.30239868164062, 'learning_rate': 3.4811766623207304e-06, 'epoch': 6.52}
+{'eval_loss': 11.491613388061523, 'eval_accuracy': 0.7060240963855422, 'eval_runtime': 1.4463, 'eval_samples_per_second': 1721.608, 'eval_steps_per_second': 53.93, 'epoch': 6.52}
+{'loss': 0.0458, 'grad_norm': 0.03491353988647461, 'learning_rate': 3.4791395045632337e-06, 'epoch': 6.52}
+{'loss': 0.0171, 'grad_norm': 0.004269542172551155, 'learning_rate': 3.477102346805737e-06, 'epoch': 6.52}
+{'loss': 0.1904, 'grad_norm': 508.51898193359375, 'learning_rate': 3.47506518904824e-06, 'epoch': 6.53}
+{'loss': 0.0404, 'grad_norm': 0.09337890893220901, 'learning_rate': 3.4730280312907434e-06, 'epoch': 6.53}
+{'loss': 0.142, 'grad_norm': 9.50496768951416, 'learning_rate': 3.4709908735332463e-06, 'epoch': 6.53}
+{'loss': 0.0724, 'grad_norm': 0.001582060125656426, 'learning_rate': 3.4689537157757497e-06, 'epoch': 6.53}
+{'loss': 0.0132, 'grad_norm': 0.06369449943304062, 'learning_rate': 3.4669165580182535e-06, 'epoch': 6.53}
+{'loss': 0.0816, 'grad_norm': 154.78179931640625, 'learning_rate': 3.464879400260757e-06, 'epoch': 6.54}
+{'loss': 0.1421, 'grad_norm': 0.011450379155576229, 'learning_rate': 3.46284224250326e-06, 'epoch': 6.54}
+{'loss': 0.0457, 'grad_norm': 0.01084934826940298, 'learning_rate': 3.460805084745763e-06, 'epoch': 6.54}
+{'loss': 0.1277, 'grad_norm': 0.005363559816032648, 'learning_rate': 3.458767926988266e-06, 'epoch': 6.54}
+{'loss': 0.0185, 'grad_norm': 0.006033375393599272, 'learning_rate': 3.4567307692307695e-06, 'epoch': 6.54}
+{'loss': 0.0201, 'grad_norm': 0.010428463108837605, 'learning_rate': 3.454693611473273e-06, 'epoch': 6.55}
+{'loss': 0.001, 'grad_norm': 0.312149316072464, 'learning_rate': 3.4526564537157758e-06, 'epoch': 6.55}
+{'loss': 0.0697, 'grad_norm': 0.2494623363018036, 'learning_rate': 3.450619295958279e-06, 'epoch': 6.55}
+{'loss': 0.043, 'grad_norm': 0.013344110921025276, 'learning_rate': 3.448582138200783e-06, 'epoch': 6.55}
+{'loss': 0.1405, 'grad_norm': 1.1502585411071777, 'learning_rate': 3.446544980443286e-06, 'epoch': 6.55}
+{'loss': 0.1029, 'grad_norm': 435.86810302734375, 'learning_rate': 3.4445078226857892e-06, 'epoch': 6.56}
+{'loss': 0.0977, 'grad_norm': 0.011792165227234364, 'learning_rate': 3.4424706649282926e-06, 'epoch': 6.56}
+{'loss': 0.0691, 'grad_norm': 0.004289375152438879, 'learning_rate': 3.4404335071707955e-06, 'epoch': 6.56}
+{'loss': 0.1601, 'grad_norm': 65.69795989990234, 'learning_rate': 3.438396349413299e-06, 'epoch': 6.56}
+{'loss': 0.1237, 'grad_norm': 0.1163388043642044, 'learning_rate': 3.436359191655802e-06, 'epoch': 6.56}
+{'loss': 0.0831, 'grad_norm': 0.0077400547452270985, 'learning_rate': 3.434322033898305e-06, 'epoch': 6.57}
+{'loss': 0.0367, 'grad_norm': 0.00374691653996706, 'learning_rate': 3.4322848761408086e-06, 'epoch': 6.57}
+{'loss': 0.0421, 'grad_norm': 0.006493896711617708, 'learning_rate': 3.4302477183833115e-06, 'epoch': 6.57}
+{'loss': 0.1362, 'grad_norm': 0.0015685695689171553, 'learning_rate': 3.4282105606258153e-06, 'epoch': 6.57}
+{'loss': 0.1277, 'grad_norm': 0.2879268527030945, 'learning_rate': 3.4261734028683187e-06, 'epoch': 6.57}
+{'loss': 0.0534, 'grad_norm': 0.0011823634849861264, 'learning_rate': 3.4241362451108216e-06, 'epoch': 6.58}
+{'loss': 0.0888, 'grad_norm': 0.016790710389614105, 'learning_rate': 3.422099087353325e-06, 'epoch': 6.58}
+{'loss': 0.106, 'grad_norm': 0.006386816035956144, 'learning_rate': 3.4200619295958283e-06, 'epoch': 6.58}
+{'loss': 0.0965, 'grad_norm': 0.01141147781163454, 'learning_rate': 3.4180247718383313e-06, 'epoch': 6.58}
+{'loss': 0.1577, 'grad_norm': 85.8481674194336, 'learning_rate': 3.4159876140808346e-06, 'epoch': 6.58}
+{'loss': 0.085, 'grad_norm': 0.02565733529627323, 'learning_rate': 3.4139504563233376e-06, 'epoch': 6.59}
+{'loss': 0.0202, 'grad_norm': 0.009500955231487751, 'learning_rate': 3.411913298565841e-06, 'epoch': 6.59}
+{'loss': 0.1008, 'grad_norm': 0.002121059689670801, 'learning_rate': 3.4098761408083447e-06, 'epoch': 6.59}
+{'loss': 0.029, 'grad_norm': 0.49828842282295227, 'learning_rate': 3.407838983050848e-06, 'epoch': 6.59}
+{'loss': 0.0002, 'grad_norm': 0.021663308143615723, 'learning_rate': 3.405801825293351e-06, 'epoch': 6.59}
+{'loss': 0.1009, 'grad_norm': 0.004107252694666386, 'learning_rate': 3.4037646675358544e-06, 'epoch': 6.6}
+{'loss': 0.0367, 'grad_norm': 0.2622629702091217, 'learning_rate': 3.4017275097783573e-06, 'epoch': 6.6}
+{'loss': 0.0866, 'grad_norm': 143.80125427246094, 'learning_rate': 3.3996903520208607e-06, 'epoch': 6.6}
+{'loss': 0.1338, 'grad_norm': 53.3622932434082, 'learning_rate': 3.397653194263364e-06, 'epoch': 6.6}
+{'loss': 0.2846, 'grad_norm': 0.00897496473044157, 'learning_rate': 3.395616036505867e-06, 'epoch': 6.6}
+{'loss': 0.0041, 'grad_norm': 0.026736855506896973, 'learning_rate': 3.3935788787483704e-06, 'epoch': 6.61}
+{'loss': 0.1869, 'grad_norm': 474.1338806152344, 'learning_rate': 3.391541720990874e-06, 'epoch': 6.61}
+{'loss': 0.0001, 'grad_norm': 0.00890650600194931, 'learning_rate': 3.389504563233377e-06, 'epoch': 6.61}
+{'loss': 0.0902, 'grad_norm': 50.342018127441406, 'learning_rate': 3.3874674054758805e-06, 'epoch': 6.61}
+{'loss': 0.1244, 'grad_norm': 902.57763671875, 'learning_rate': 3.385430247718384e-06, 'epoch': 6.61}
+{'loss': 0.1295, 'grad_norm': 521.9264526367188, 'learning_rate': 3.3833930899608868e-06, 'epoch': 6.62}
+{'loss': 0.055, 'grad_norm': 0.014683561399579048, 'learning_rate': 3.38135593220339e-06, 'epoch': 6.62}
+{'loss': 0.0003, 'grad_norm': 0.0020620955619961023, 'learning_rate': 3.379318774445893e-06, 'epoch': 6.62}
+{'loss': 0.0023, 'grad_norm': 9.711042404174805, 'learning_rate': 3.3772816166883964e-06, 'epoch': 6.62}
+{'loss': 0.0945, 'grad_norm': 0.016178933903574944, 'learning_rate': 3.3752444589309e-06, 'epoch': 6.62}
+{'loss': 0.0975, 'grad_norm': 0.007110494188964367, 'learning_rate': 3.3732073011734027e-06, 'epoch': 6.63}
+{'loss': 0.1184, 'grad_norm': 0.005239119287580252, 'learning_rate': 3.3711701434159065e-06, 'epoch': 6.63}
+{'loss': 0.055, 'grad_norm': 0.01686013489961624, 'learning_rate': 3.36913298565841e-06, 'epoch': 6.63}
+{'loss': 0.0635, 'grad_norm': 0.003169437637552619, 'learning_rate': 3.367095827900913e-06, 'epoch': 6.63}
+{'loss': 0.1097, 'grad_norm': 0.017802514135837555, 'learning_rate': 3.365058670143416e-06, 'epoch': 6.64}
+{'loss': 0.2977, 'grad_norm': 77.1849365234375, 'learning_rate': 3.3630215123859196e-06, 'epoch': 6.64}
+{'loss': 0.0881, 'grad_norm': 0.8968905806541443, 'learning_rate': 3.3609843546284225e-06, 'epoch': 6.64}
+{'loss': 0.046, 'grad_norm': 0.1485217809677124, 'learning_rate': 3.358947196870926e-06, 'epoch': 6.64}
+{'loss': 0.1108, 'grad_norm': 0.009936254471540451, 'learning_rate': 3.3569100391134292e-06, 'epoch': 6.64}
+{'loss': 0.0533, 'grad_norm': 0.007763007190078497, 'learning_rate': 3.354872881355932e-06, 'epoch': 6.65}
+{'loss': 0.1459, 'grad_norm': 0.0034083654172718525, 'learning_rate': 3.352835723598436e-06, 'epoch': 6.65}
+{'loss': 0.0475, 'grad_norm': 0.02895413152873516, 'learning_rate': 3.3507985658409393e-06, 'epoch': 6.65}
+{'loss': 0.0511, 'grad_norm': 56.17570495605469, 'learning_rate': 3.3487614080834423e-06, 'epoch': 6.65}
+{'loss': 0.0926, 'grad_norm': 0.008693800307810307, 'learning_rate': 3.3467242503259456e-06, 'epoch': 6.65}
+{'loss': 0.1586, 'grad_norm': 0.0015718891518190503, 'learning_rate': 3.344687092568449e-06, 'epoch': 6.66}
+{'loss': 0.107, 'grad_norm': 0.004455667454749346, 'learning_rate': 3.342649934810952e-06, 'epoch': 6.66}
+{'loss': 0.0647, 'grad_norm': 0.009611963294446468, 'learning_rate': 3.3406127770534553e-06, 'epoch': 6.66}
+{'loss': 0.1151, 'grad_norm': 0.013542420230805874, 'learning_rate': 3.3385756192959583e-06, 'epoch': 6.66}
+{'loss': 0.1117, 'grad_norm': 909.6841430664062, 'learning_rate': 3.3365384615384616e-06, 'epoch': 6.66}
+{'loss': 0.035, 'grad_norm': 0.018336446955800056, 'learning_rate': 3.334501303780965e-06, 'epoch': 6.67}
+{'loss': 0.0001, 'grad_norm': 0.0031156130135059357, 'learning_rate': 3.3324641460234688e-06, 'epoch': 6.67}
+{'loss': 0.0266, 'grad_norm': 0.1706046760082245, 'learning_rate': 3.3304269882659717e-06, 'epoch': 6.67}
+{'loss': 0.3375, 'grad_norm': 8.855792045593262, 'learning_rate': 3.328389830508475e-06, 'epoch': 6.67}
+{'loss': 0.1454, 'grad_norm': 891.973388671875, 'learning_rate': 3.326352672750978e-06, 'epoch': 6.67}
+{'loss': 0.1032, 'grad_norm': 0.01411400269716978, 'learning_rate': 3.3243155149934814e-06, 'epoch': 6.68}
+{'loss': 0.142, 'grad_norm': 0.03518011420965195, 'learning_rate': 3.3222783572359847e-06, 'epoch': 6.68}
+{'loss': 0.156, 'grad_norm': 3.644538640975952, 'learning_rate': 3.3202411994784877e-06, 'epoch': 6.68}
+{'loss': 0.0406, 'grad_norm': 0.041758544743061066, 'learning_rate': 3.318204041720991e-06, 'epoch': 6.68}
+{'loss': 0.0692, 'grad_norm': 1.714394211769104, 'learning_rate': 3.316166883963494e-06, 'epoch': 6.68}
+{'loss': 0.0748, 'grad_norm': 207.2552490234375, 'learning_rate': 3.3141297262059978e-06, 'epoch': 6.69}
+{'loss': 0.0901, 'grad_norm': 0.07032299041748047, 'learning_rate': 3.312092568448501e-06, 'epoch': 6.69}
+{'loss': 0.0384, 'grad_norm': 0.17209492623806, 'learning_rate': 3.3100554106910045e-06, 'epoch': 6.69}
+{'loss': 0.1242, 'grad_norm': 0.0022344370372593403, 'learning_rate': 3.3080182529335075e-06, 'epoch': 6.69}
+{'loss': 0.0445, 'grad_norm': 0.058022018522024155, 'learning_rate': 3.305981095176011e-06, 'epoch': 6.69}
+{'loss': 0.0727, 'grad_norm': 0.045533694326877594, 'learning_rate': 3.3039439374185138e-06, 'epoch': 6.7}
+{'loss': 0.0391, 'grad_norm': 0.009282562881708145, 'learning_rate': 3.301906779661017e-06, 'epoch': 6.7}
+{'loss': 0.1729, 'grad_norm': 0.055060748010873795, 'learning_rate': 3.2998696219035205e-06, 'epoch': 6.7}
+{'loss': 0.029, 'grad_norm': 0.013834396377205849, 'learning_rate': 3.2978324641460234e-06, 'epoch': 6.7}
+{'loss': 0.114, 'grad_norm': 0.006598173640668392, 'learning_rate': 3.295795306388527e-06, 'epoch': 6.7}
+{'loss': 0.1359, 'grad_norm': 448.4242858886719, 'learning_rate': 3.2937581486310306e-06, 'epoch': 6.71}
+{'loss': 0.0466, 'grad_norm': 0.01510166097432375, 'learning_rate': 3.2917209908735335e-06, 'epoch': 6.71}
+{'loss': 0.006, 'grad_norm': 0.09484158456325531, 'learning_rate': 3.289683833116037e-06, 'epoch': 6.71}
+{'loss': 0.1395, 'grad_norm': 0.012425118125975132, 'learning_rate': 3.2876466753585402e-06, 'epoch': 6.71}
+{'loss': 0.0551, 'grad_norm': 0.0038833306171000004, 'learning_rate': 3.285609517601043e-06, 'epoch': 6.71}
+{'loss': 0.0128, 'grad_norm': 0.000529054319486022, 'learning_rate': 3.2835723598435466e-06, 'epoch': 6.72}
+{'loss': 0.2029, 'grad_norm': 0.011429990641772747, 'learning_rate': 3.2815352020860495e-06, 'epoch': 6.72}
+{'loss': 0.0374, 'grad_norm': 0.008735543116927147, 'learning_rate': 3.279498044328553e-06, 'epoch': 6.72}
+{'loss': 0.0449, 'grad_norm': 35.278900146484375, 'learning_rate': 3.2774608865710562e-06, 'epoch': 6.72}
+{'loss': 0.0696, 'grad_norm': 0.09070681035518646, 'learning_rate': 3.27542372881356e-06, 'epoch': 6.72}
+{'loss': 0.1754, 'grad_norm': 0.005273218732327223, 'learning_rate': 3.273386571056063e-06, 'epoch': 6.73}
+{'loss': 0.0579, 'grad_norm': 0.0011456250213086605, 'learning_rate': 3.2713494132985663e-06, 'epoch': 6.73}
+{'loss': 0.127, 'grad_norm': 4.056694984436035, 'learning_rate': 3.2693122555410693e-06, 'epoch': 6.73}
+{'loss': 0.1248, 'grad_norm': 0.13103190064430237, 'learning_rate': 3.2672750977835726e-06, 'epoch': 6.73}
+{'loss': 0.0017, 'grad_norm': 0.006579922512173653, 'learning_rate': 3.265237940026076e-06, 'epoch': 6.73}
+{'loss': 0.0358, 'grad_norm': 0.07286818325519562, 'learning_rate': 3.263200782268579e-06, 'epoch': 6.74}
+{'loss': 0.0526, 'grad_norm': 0.0009550626273266971, 'learning_rate': 3.2611636245110823e-06, 'epoch': 6.74}
+{'loss': 0.2546, 'grad_norm': 0.0033530474174767733, 'learning_rate': 3.2591264667535857e-06, 'epoch': 6.74}
+{'loss': 0.0251, 'grad_norm': 0.008141560479998589, 'learning_rate': 3.2570893089960886e-06, 'epoch': 6.74}
+{'loss': 0.2001, 'grad_norm': 0.018681397661566734, 'learning_rate': 3.2550521512385924e-06, 'epoch': 6.75}
+{'loss': 0.0095, 'grad_norm': 0.0014442424289882183, 'learning_rate': 3.2530149934810958e-06, 'epoch': 6.75}
+{'loss': 0.0414, 'grad_norm': 0.0036412079352885485, 'learning_rate': 3.2509778357235987e-06, 'epoch': 6.75}
+{'loss': 0.0259, 'grad_norm': 0.021693948656320572, 'learning_rate': 3.248940677966102e-06, 'epoch': 6.75}
+{'loss': 0.1157, 'grad_norm': 0.0006422894075512886, 'learning_rate': 3.2469035202086054e-06, 'epoch': 6.75}
+{'loss': 0.1613, 'grad_norm': 0.0054008509032428265, 'learning_rate': 3.2448663624511084e-06, 'epoch': 6.76}
+{'loss': 0.0147, 'grad_norm': 0.004024176392704248, 'learning_rate': 3.2428292046936117e-06, 'epoch': 6.76}
+{'loss': 0.0774, 'grad_norm': 0.004120667465031147, 'learning_rate': 3.2407920469361147e-06, 'epoch': 6.76}
+{'loss': 0.0256, 'grad_norm': 4.454892635345459, 'learning_rate': 3.238754889178618e-06, 'epoch': 6.76}
+{'loss': 0.1041, 'grad_norm': 1132.925048828125, 'learning_rate': 3.236717731421122e-06, 'epoch': 6.76}
+{'loss': 0.0265, 'grad_norm': 0.07315891981124878, 'learning_rate': 3.234680573663625e-06, 'epoch': 6.77}
+{'loss': 0.1355, 'grad_norm': 686.3847045898438, 'learning_rate': 3.232643415906128e-06, 'epoch': 6.77}
+{'loss': 0.0393, 'grad_norm': 0.0038586456794291735, 'learning_rate': 3.2306062581486315e-06, 'epoch': 6.77}
+{'loss': 0.187, 'grad_norm': 0.06253006309270859, 'learning_rate': 3.2285691003911344e-06, 'epoch': 6.77}
+{'loss': 0.2103, 'grad_norm': 0.05267544835805893, 'learning_rate': 3.226531942633638e-06, 'epoch': 6.77}
+{'loss': 0.0363, 'grad_norm': 2.9216227531433105, 'learning_rate': 3.224494784876141e-06, 'epoch': 6.78}
+{'loss': 0.0253, 'grad_norm': 0.00921623595058918, 'learning_rate': 3.222457627118644e-06, 'epoch': 6.78}
+{'loss': 0.0334, 'grad_norm': 0.004512476269155741, 'learning_rate': 3.2204204693611475e-06, 'epoch': 6.78}
+{'loss': 0.0536, 'grad_norm': 2010.1201171875, 'learning_rate': 3.2183833116036504e-06, 'epoch': 6.78}
+{'loss': 0.1979, 'grad_norm': 0.039653271436691284, 'learning_rate': 3.216346153846154e-06, 'epoch': 6.78}
+{'loss': 0.0756, 'grad_norm': 0.003425054717808962, 'learning_rate': 3.2143089960886576e-06, 'epoch': 6.79}
+{'loss': 0.0492, 'grad_norm': 0.17101912200450897, 'learning_rate': 3.212271838331161e-06, 'epoch': 6.79}
+{'loss': 0.045, 'grad_norm': 0.18866483867168427, 'learning_rate': 3.210234680573664e-06, 'epoch': 6.79}
+{'loss': 0.0833, 'grad_norm': 0.015477071516215801, 'learning_rate': 3.2081975228161672e-06, 'epoch': 6.79}
+{'loss': 0.1584, 'grad_norm': 0.010164373554289341, 'learning_rate': 3.20616036505867e-06, 'epoch': 6.79}
+{'loss': 0.0444, 'grad_norm': 0.005136160645633936, 'learning_rate': 3.2041232073011735e-06, 'epoch': 6.8}
+{'loss': 0.0319, 'grad_norm': 0.00470541650429368, 'learning_rate': 3.202086049543677e-06, 'epoch': 6.8}
+{'loss': 0.0141, 'grad_norm': 0.002571257995441556, 'learning_rate': 3.20004889178618e-06, 'epoch': 6.8}
+{'loss': 0.13, 'grad_norm': 0.005680243484675884, 'learning_rate': 3.1980117340286836e-06, 'epoch': 6.8}
+{'loss': 0.016, 'grad_norm': 128.69972229003906, 'learning_rate': 3.195974576271187e-06, 'epoch': 6.8}
+{'loss': 0.0275, 'grad_norm': 473.9300842285156, 'learning_rate': 3.19393741851369e-06, 'epoch': 6.81}
+{'loss': 0.1659, 'grad_norm': 56.76520919799805, 'learning_rate': 3.1919002607561933e-06, 'epoch': 6.81}
+{'loss': 0.0766, 'grad_norm': 0.6623139381408691, 'learning_rate': 3.1898631029986967e-06, 'epoch': 6.81}
+{'loss': 0.1949, 'grad_norm': 0.002657635137438774, 'learning_rate': 3.1878259452411996e-06, 'epoch': 6.81}
+{'loss': 0.0179, 'grad_norm': 1088.264892578125, 'learning_rate': 3.185788787483703e-06, 'epoch': 6.81}
+{'loss': 0.0438, 'grad_norm': 0.0029357720632106066, 'learning_rate': 3.183751629726206e-06, 'epoch': 6.82}
+{'loss': 0.0974, 'grad_norm': 0.028714608401060104, 'learning_rate': 3.1817144719687093e-06, 'epoch': 6.82}
+{'loss': 0.1109, 'grad_norm': 0.011381053365767002, 'learning_rate': 3.1796773142112126e-06, 'epoch': 6.82}
+{'loss': 0.0228, 'grad_norm': 0.005871650297194719, 'learning_rate': 3.1776401564537164e-06, 'epoch': 6.82}
+{'loss': 0.1264, 'grad_norm': 2.7381362915039062, 'learning_rate': 3.1756029986962194e-06, 'epoch': 6.82}
+{'loss': 0.044, 'grad_norm': 0.003003192599862814, 'learning_rate': 3.1735658409387227e-06, 'epoch': 6.83}
+{'loss': 0.0567, 'grad_norm': 0.029536889865994453, 'learning_rate': 3.1715286831812257e-06, 'epoch': 6.83}
+{'loss': 0.1581, 'grad_norm': 1059.79052734375, 'learning_rate': 3.169491525423729e-06, 'epoch': 6.83}
+{'loss': 0.0775, 'grad_norm': 0.3993627727031708, 'learning_rate': 3.1674543676662324e-06, 'epoch': 6.83}
+{'loss': 0.0417, 'grad_norm': 0.0022577070631086826, 'learning_rate': 3.1654172099087353e-06, 'epoch': 6.83}
+{'loss': 0.0109, 'grad_norm': 0.10430002212524414, 'learning_rate': 3.1633800521512387e-06, 'epoch': 6.84}
+{'loss': 0.0001, 'grad_norm': 0.0044891065917909145, 'learning_rate': 3.161342894393742e-06, 'epoch': 6.84}
+{'loss': 0.1013, 'grad_norm': 0.9579373598098755, 'learning_rate': 3.1593057366362454e-06, 'epoch': 6.84}
+{'loss': 0.1087, 'grad_norm': 1119.962158203125, 'learning_rate': 3.157268578878749e-06, 'epoch': 6.84}
+{'loss': 0.213, 'grad_norm': 0.004298713523894548, 'learning_rate': 3.155231421121252e-06, 'epoch': 6.84}
+{'loss': 0.0274, 'grad_norm': 0.36538031697273254, 'learning_rate': 3.153194263363755e-06, 'epoch': 6.85}
+{'loss': 0.0296, 'grad_norm': 0.019332280382514, 'learning_rate': 3.1511571056062585e-06, 'epoch': 6.85}
+{'loss': 0.2476, 'grad_norm': 0.030547617003321648, 'learning_rate': 3.149119947848762e-06, 'epoch': 6.85}
+{'loss': 0.1892, 'grad_norm': 0.006821373477578163, 'learning_rate': 3.1470827900912648e-06, 'epoch': 6.85}
+{'loss': 0.1763, 'grad_norm': 1.2388360500335693, 'learning_rate': 3.145045632333768e-06, 'epoch': 6.86}
+{'loss': 0.0805, 'grad_norm': 0.015669044107198715, 'learning_rate': 3.143008474576271e-06, 'epoch': 6.86}
+{'loss': 0.0934, 'grad_norm': 85.35098266601562, 'learning_rate': 3.1409713168187744e-06, 'epoch': 6.86}
+{'loss': 0.075, 'grad_norm': 99.87020874023438, 'learning_rate': 3.1389341590612782e-06, 'epoch': 6.86}
+{'loss': 0.0545, 'grad_norm': 0.009966420009732246, 'learning_rate': 3.136897001303781e-06, 'epoch': 6.86}
+{'loss': 0.0359, 'grad_norm': 0.014268467202782631, 'learning_rate': 3.1348598435462845e-06, 'epoch': 6.87}
+{'loss': 0.1745, 'grad_norm': 0.010951492935419083, 'learning_rate': 3.132822685788788e-06, 'epoch': 6.87}
+{'loss': 0.0767, 'grad_norm': 0.0033673744183033705, 'learning_rate': 3.130785528031291e-06, 'epoch': 6.87}
+{'loss': 0.1504, 'grad_norm': 460.158203125, 'learning_rate': 3.1287483702737942e-06, 'epoch': 6.87}
+{'loss': 0.0582, 'grad_norm': 0.002138955984264612, 'learning_rate': 3.1267112125162976e-06, 'epoch': 6.87}
+{'loss': 0.0988, 'grad_norm': 0.01147164311259985, 'learning_rate': 3.1246740547588005e-06, 'epoch': 6.88}
+{'loss': 0.1592, 'grad_norm': 306.8397521972656, 'learning_rate': 3.122636897001304e-06, 'epoch': 6.88}
+{'loss': 0.0764, 'grad_norm': 17.85259437561035, 'learning_rate': 3.1205997392438077e-06, 'epoch': 6.88}
+{'loss': 0.0799, 'grad_norm': 0.6146485209465027, 'learning_rate': 3.1185625814863106e-06, 'epoch': 6.88}
+{'loss': 0.124, 'grad_norm': 0.010339269414544106, 'learning_rate': 3.116525423728814e-06, 'epoch': 6.88}
+{'loss': 0.0517, 'grad_norm': 0.011790878139436245, 'learning_rate': 3.1144882659713173e-06, 'epoch': 6.89}
+{'loss': 0.0361, 'grad_norm': 0.002681957557797432, 'learning_rate': 3.1124511082138203e-06, 'epoch': 6.89}
+{'loss': 0.0244, 'grad_norm': 0.26073363423347473, 'learning_rate': 3.1104139504563236e-06, 'epoch': 6.89}
+{'loss': 0.0932, 'grad_norm': 0.0029777714516967535, 'learning_rate': 3.1083767926988266e-06, 'epoch': 6.89}
+{'loss': 0.2166, 'grad_norm': 0.011870632879436016, 'learning_rate': 3.10633963494133e-06, 'epoch': 6.89}
+{'loss': 0.0775, 'grad_norm': 0.010167388245463371, 'learning_rate': 3.1043024771838333e-06, 'epoch': 6.9}
+{'loss': 0.1092, 'grad_norm': 0.04231615737080574, 'learning_rate': 3.1022653194263363e-06, 'epoch': 6.9}
+{'loss': 0.0698, 'grad_norm': 135.79441833496094, 'learning_rate': 3.10022816166884e-06, 'epoch': 6.9}
+{'loss': 0.0237, 'grad_norm': 0.010933758690953255, 'learning_rate': 3.0981910039113434e-06, 'epoch': 6.9}
+{'loss': 0.1023, 'grad_norm': 0.005601303186267614, 'learning_rate': 3.0961538461538464e-06, 'epoch': 6.9}
+{'loss': 0.1001, 'grad_norm': 93.46802520751953, 'learning_rate': 3.0941166883963497e-06, 'epoch': 6.91}
+{'loss': 0.0391, 'grad_norm': 0.03511279448866844, 'learning_rate': 3.092079530638853e-06, 'epoch': 6.91}
+{'loss': 0.0415, 'grad_norm': 0.020139219239354134, 'learning_rate': 3.090042372881356e-06, 'epoch': 6.91}
+{'loss': 0.0413, 'grad_norm': 0.2555859684944153, 'learning_rate': 3.0880052151238594e-06, 'epoch': 6.91}
+{'loss': 0.1003, 'grad_norm': 0.009739695116877556, 'learning_rate': 3.0859680573663623e-06, 'epoch': 6.91}
+{'loss': 0.0605, 'grad_norm': 0.01659058779478073, 'learning_rate': 3.0839308996088657e-06, 'epoch': 6.92}
+{'loss': 0.0295, 'grad_norm': 0.019762201234698296, 'learning_rate': 3.0818937418513695e-06, 'epoch': 6.92}
+{'loss': 0.0088, 'grad_norm': 0.00835042167454958, 'learning_rate': 3.079856584093873e-06, 'epoch': 6.92}
+{'loss': 0.0539, 'grad_norm': 0.009712508879601955, 'learning_rate': 3.0778194263363758e-06, 'epoch': 6.92}
+{'loss': 0.0532, 'grad_norm': 125.17357635498047, 'learning_rate': 3.075782268578879e-06, 'epoch': 6.92}
+{'loss': 0.2312, 'grad_norm': 0.09420963376760483, 'learning_rate': 3.073745110821382e-06, 'epoch': 6.93}
+{'eval_loss': 12.382123947143555, 'eval_accuracy': 0.7164658634538152, 'eval_runtime': 1.4447, 'eval_samples_per_second': 1723.568, 'eval_steps_per_second': 53.991, 'epoch': 6.93}
+{'loss': 0.0554, 'grad_norm': 0.0012365233851596713, 'learning_rate': 3.0717079530638855e-06, 'epoch': 6.93}
+{'loss': 0.0086, 'grad_norm': 0.007045663893222809, 'learning_rate': 3.069670795306389e-06, 'epoch': 6.93}
+{'loss': 0.0686, 'grad_norm': 0.0005255329888314009, 'learning_rate': 3.0676336375488918e-06, 'epoch': 6.93}
+{'loss': 0.0952, 'grad_norm': 435.04632568359375, 'learning_rate': 3.065596479791395e-06, 'epoch': 6.93}
+{'loss': 0.2082, 'grad_norm': 0.0036892953794449568, 'learning_rate': 3.063559322033899e-06, 'epoch': 6.94}
+{'loss': 0.0002, 'grad_norm': 2.1805713176727295, 'learning_rate': 3.061522164276402e-06, 'epoch': 6.94}
+{'loss': 0.1733, 'grad_norm': 0.03626767545938492, 'learning_rate': 3.0594850065189052e-06, 'epoch': 6.94}
+{'loss': 0.2055, 'grad_norm': 0.0058510503731667995, 'learning_rate': 3.0574478487614086e-06, 'epoch': 6.94}
+{'loss': 0.1072, 'grad_norm': 0.002527262782678008, 'learning_rate': 3.0554106910039115e-06, 'epoch': 6.94}
+{'loss': 0.0784, 'grad_norm': 63.01945495605469, 'learning_rate': 3.053373533246415e-06, 'epoch': 6.95}
+{'loss': 0.0516, 'grad_norm': 0.014685592614114285, 'learning_rate': 3.051336375488918e-06, 'epoch': 6.95}
+{'loss': 0.0235, 'grad_norm': 0.6064026951789856, 'learning_rate': 3.049299217731421e-06, 'epoch': 6.95}
+{'loss': 0.211, 'grad_norm': 0.004902233369648457, 'learning_rate': 3.0472620599739246e-06, 'epoch': 6.95}
+{'loss': 0.1023, 'grad_norm': 0.3315514326095581, 'learning_rate': 3.0452249022164275e-06, 'epoch': 6.95}
+{'loss': 0.1092, 'grad_norm': 0.012348570860922337, 'learning_rate': 3.0431877444589313e-06, 'epoch': 6.96}
+{'loss': 0.1474, 'grad_norm': 26.790836334228516, 'learning_rate': 3.0411505867014347e-06, 'epoch': 6.96}
+{'loss': 0.1201, 'grad_norm': 0.021453168243169785, 'learning_rate': 3.0391134289439376e-06, 'epoch': 6.96}
+{'loss': 0.0195, 'grad_norm': 0.028837604448199272, 'learning_rate': 3.037076271186441e-06, 'epoch': 6.96}
+{'loss': 0.0859, 'grad_norm': 0.034952983260154724, 'learning_rate': 3.0350391134289443e-06, 'epoch': 6.97}
+{'loss': 0.0372, 'grad_norm': 0.036652568727731705, 'learning_rate': 3.0330019556714473e-06, 'epoch': 6.97}
+{'loss': 0.2221, 'grad_norm': 0.011088713072240353, 'learning_rate': 3.0309647979139506e-06, 'epoch': 6.97}
+{'loss': 0.0318, 'grad_norm': 0.2915496826171875, 'learning_rate': 3.028927640156454e-06, 'epoch': 6.97}
+{'loss': 0.1154, 'grad_norm': 0.01968427188694477, 'learning_rate': 3.026890482398957e-06, 'epoch': 6.97}
+{'loss': 0.0555, 'grad_norm': 0.01788605935871601, 'learning_rate': 3.0248533246414607e-06, 'epoch': 6.98}
+{'loss': 0.1439, 'grad_norm': 0.18203461170196533, 'learning_rate': 3.022816166883964e-06, 'epoch': 6.98}
+{'loss': 0.0639, 'grad_norm': 0.021957306191325188, 'learning_rate': 3.020779009126467e-06, 'epoch': 6.98}
+{'loss': 0.0023, 'grad_norm': 0.009371529333293438, 'learning_rate': 3.0187418513689704e-06, 'epoch': 6.98}
+{'loss': 0.1501, 'grad_norm': 0.00994499959051609, 'learning_rate': 3.0167046936114738e-06, 'epoch': 6.98}
+{'loss': 0.0576, 'grad_norm': 0.05276374891400337, 'learning_rate': 3.0146675358539767e-06, 'epoch': 6.99}
+{'loss': 0.0357, 'grad_norm': 0.009274705313146114, 'learning_rate': 3.01263037809648e-06, 'epoch': 6.99}
+{'loss': 0.0689, 'grad_norm': 0.014784198254346848, 'learning_rate': 3.010593220338983e-06, 'epoch': 6.99}
+{'loss': 0.1541, 'grad_norm': 679.03564453125, 'learning_rate': 3.0085560625814864e-06, 'epoch': 6.99}
+{'loss': 0.1486, 'grad_norm': 0.006026927847415209, 'learning_rate': 3.0065189048239897e-06, 'epoch': 6.99}
+{'loss': 0.1409, 'grad_norm': 1.7245126962661743, 'learning_rate': 3.0044817470664935e-06, 'epoch': 7.0}
+{'loss': 0.1253, 'grad_norm': 0.009411639533936977, 'learning_rate': 3.0024445893089965e-06, 'epoch': 7.0}
+{'loss': 0.0411, 'grad_norm': 0.017940141260623932, 'learning_rate': 3.0004074315515e-06, 'epoch': 7.0}
+{'loss': 0.0001, 'grad_norm': 0.8610939979553223, 'learning_rate': 2.9983702737940028e-06, 'epoch': 7.0}
+{'loss': 0.0001, 'grad_norm': 0.0020094721112400293, 'learning_rate': 2.996333116036506e-06, 'epoch': 7.0}
+{'loss': 0.0407, 'grad_norm': 0.0038882517255842686, 'learning_rate': 2.9942959582790095e-06, 'epoch': 7.01}
+{'loss': 0.0027, 'grad_norm': 0.039847247302532196, 'learning_rate': 2.9922588005215124e-06, 'epoch': 7.01}
+{'loss': 0.1162, 'grad_norm': 0.013836665078997612, 'learning_rate': 2.990221642764016e-06, 'epoch': 7.01}
+{'loss': 0.0001, 'grad_norm': 0.0032267062924802303, 'learning_rate': 2.9881844850065187e-06, 'epoch': 7.01}
+{'loss': 0.03, 'grad_norm': 0.005029129330068827, 'learning_rate': 2.9861473272490225e-06, 'epoch': 7.01}
+{'loss': 0.0029, 'grad_norm': 2.233821153640747, 'learning_rate': 2.984110169491526e-06, 'epoch': 7.02}
+{'loss': 0.0443, 'grad_norm': 0.005002765916287899, 'learning_rate': 2.9820730117340293e-06, 'epoch': 7.02}
+{'loss': 0.086, 'grad_norm': 0.0021109303925186396, 'learning_rate': 2.980035853976532e-06, 'epoch': 7.02}
+{'loss': 0.1352, 'grad_norm': 0.010371279902756214, 'learning_rate': 2.9779986962190356e-06, 'epoch': 7.02}
+{'loss': 0.0415, 'grad_norm': 0.0004859459004364908, 'learning_rate': 2.9759615384615385e-06, 'epoch': 7.02}
+{'loss': 0.0586, 'grad_norm': 0.0006836621905677021, 'learning_rate': 2.973924380704042e-06, 'epoch': 7.03}
+{'loss': 0.0813, 'grad_norm': 0.008879224769771099, 'learning_rate': 2.9718872229465452e-06, 'epoch': 7.03}
+{'loss': 0.0092, 'grad_norm': 53.91571044921875, 'learning_rate': 2.969850065189048e-06, 'epoch': 7.03}
+{'loss': 0.0325, 'grad_norm': 4.706333637237549, 'learning_rate': 2.9678129074315515e-06, 'epoch': 7.03}
+{'loss': 0.0418, 'grad_norm': 0.014459500089287758, 'learning_rate': 2.9657757496740553e-06, 'epoch': 7.03}
+{'loss': 0.0766, 'grad_norm': 1181.43603515625, 'learning_rate': 2.9637385919165583e-06, 'epoch': 7.04}
+{'loss': 0.0002, 'grad_norm': 0.0009038391290232539, 'learning_rate': 2.9617014341590616e-06, 'epoch': 7.04}
+{'loss': 0.0368, 'grad_norm': 1.3203139305114746, 'learning_rate': 2.959664276401565e-06, 'epoch': 7.04}
+{'loss': 0.055, 'grad_norm': 0.09699990600347519, 'learning_rate': 2.957627118644068e-06, 'epoch': 7.04}
+{'loss': 0.0068, 'grad_norm': 0.01243345346301794, 'learning_rate': 2.9555899608865713e-06, 'epoch': 7.04}
+{'loss': 0.0619, 'grad_norm': 0.049795106053352356, 'learning_rate': 2.9535528031290742e-06, 'epoch': 7.05}
+{'loss': 0.0652, 'grad_norm': 0.0013143826508894563, 'learning_rate': 2.9515156453715776e-06, 'epoch': 7.05}
+{'loss': 0.1099, 'grad_norm': 0.004047618247568607, 'learning_rate': 2.949478487614081e-06, 'epoch': 7.05}
+{'loss': 0.1602, 'grad_norm': 0.0012615580344572663, 'learning_rate': 2.9474413298565848e-06, 'epoch': 7.05}
+{'loss': 0.0362, 'grad_norm': 1.6401374340057373, 'learning_rate': 2.9454041720990877e-06, 'epoch': 7.05}
+{'loss': 0.0424, 'grad_norm': 0.029844071716070175, 'learning_rate': 2.943367014341591e-06, 'epoch': 7.06}
+{'loss': 0.0055, 'grad_norm': 0.009315595030784607, 'learning_rate': 2.941329856584094e-06, 'epoch': 7.06}
+{'loss': 0.0029, 'grad_norm': 0.0017794297309592366, 'learning_rate': 2.9392926988265974e-06, 'epoch': 7.06}
+{'loss': 0.0394, 'grad_norm': 0.004205718170851469, 'learning_rate': 2.9372555410691007e-06, 'epoch': 7.06}
+{'loss': 0.0547, 'grad_norm': 0.013165352866053581, 'learning_rate': 2.9352183833116037e-06, 'epoch': 7.06}
+{'loss': 0.0344, 'grad_norm': 0.0018775385105982423, 'learning_rate': 2.933181225554107e-06, 'epoch': 7.07}
+{'loss': 0.0323, 'grad_norm': 0.022955594584345818, 'learning_rate': 2.9311440677966104e-06, 'epoch': 7.07}
+{'loss': 0.0, 'grad_norm': 0.010048724710941315, 'learning_rate': 2.9291069100391134e-06, 'epoch': 7.07}
+{'loss': 0.0, 'grad_norm': 1.364356517791748, 'learning_rate': 2.927069752281617e-06, 'epoch': 7.07}
+{'loss': 0.0638, 'grad_norm': 56.23508834838867, 'learning_rate': 2.9250325945241205e-06, 'epoch': 7.08}
+{'loss': 0.0, 'grad_norm': 0.01109969150274992, 'learning_rate': 2.9229954367666234e-06, 'epoch': 7.08}
+{'loss': 0.0263, 'grad_norm': 0.19963166117668152, 'learning_rate': 2.920958279009127e-06, 'epoch': 7.08}
+{'loss': 0.0804, 'grad_norm': 0.0072822654619812965, 'learning_rate': 2.91892112125163e-06, 'epoch': 7.08}
+{'loss': 0.041, 'grad_norm': 0.003980554174631834, 'learning_rate': 2.916883963494133e-06, 'epoch': 7.08}
+{'loss': 0.1184, 'grad_norm': 0.00031082413624972105, 'learning_rate': 2.9148468057366365e-06, 'epoch': 7.09}
+{'loss': 0.0566, 'grad_norm': 0.002934106858447194, 'learning_rate': 2.9128096479791394e-06, 'epoch': 7.09}
+{'loss': 0.0513, 'grad_norm': 0.024592546746134758, 'learning_rate': 2.9107724902216428e-06, 'epoch': 7.09}
+{'loss': 0.0186, 'grad_norm': 0.006007801741361618, 'learning_rate': 2.9087353324641466e-06, 'epoch': 7.09}
+{'loss': 0.0165, 'grad_norm': 0.0008289060788229108, 'learning_rate': 2.9066981747066495e-06, 'epoch': 7.09}
+{'loss': 0.1384, 'grad_norm': 100.05696868896484, 'learning_rate': 2.904661016949153e-06, 'epoch': 7.1}
+{'loss': 0.0836, 'grad_norm': 0.11175398528575897, 'learning_rate': 2.9026238591916562e-06, 'epoch': 7.1}
+{'loss': 0.0163, 'grad_norm': 0.007804636377841234, 'learning_rate': 2.900586701434159e-06, 'epoch': 7.1}
+{'loss': 0.013, 'grad_norm': 0.0044893487356603146, 'learning_rate': 2.8985495436766625e-06, 'epoch': 7.1}
+{'loss': 0.0793, 'grad_norm': 126.59105682373047, 'learning_rate': 2.896512385919166e-06, 'epoch': 7.1}
+{'loss': 0.0135, 'grad_norm': 0.0012751532485708594, 'learning_rate': 2.894475228161669e-06, 'epoch': 7.11}
+{'loss': 0.0358, 'grad_norm': 0.006582409609109163, 'learning_rate': 2.8924380704041722e-06, 'epoch': 7.11}
+{'loss': 0.0189, 'grad_norm': 0.0009746789000928402, 'learning_rate': 2.890400912646675e-06, 'epoch': 7.11}
+{'loss': 0.0, 'grad_norm': 0.0020079216919839382, 'learning_rate': 2.888363754889179e-06, 'epoch': 7.11}
+{'loss': 0.126, 'grad_norm': 0.003653374034911394, 'learning_rate': 2.8863265971316823e-06, 'epoch': 7.11}
+{'loss': 0.0225, 'grad_norm': 0.0025434610433876514, 'learning_rate': 2.8842894393741857e-06, 'epoch': 7.12}
+{'loss': 0.0328, 'grad_norm': 0.005339393392205238, 'learning_rate': 2.8822522816166886e-06, 'epoch': 7.12}
+{'loss': 0.1058, 'grad_norm': 0.0014280512696132064, 'learning_rate': 2.880215123859192e-06, 'epoch': 7.12}
+{'loss': 0.08, 'grad_norm': 0.0005734425503760576, 'learning_rate': 2.878177966101695e-06, 'epoch': 7.12}
+{'loss': 0.0015, 'grad_norm': 0.008274005725979805, 'learning_rate': 2.8761408083441983e-06, 'epoch': 7.12}
+{'loss': 0.0305, 'grad_norm': 0.005604841746389866, 'learning_rate': 2.8741036505867017e-06, 'epoch': 7.13}
+{'loss': 0.1424, 'grad_norm': 0.0024717748165130615, 'learning_rate': 2.8720664928292046e-06, 'epoch': 7.13}
+{'loss': 0.0002, 'grad_norm': 0.04835577309131622, 'learning_rate': 2.8700293350717084e-06, 'epoch': 7.13}
+{'loss': 0.0914, 'grad_norm': 101.64440155029297, 'learning_rate': 2.8679921773142117e-06, 'epoch': 7.13}
+{'loss': 0.0697, 'grad_norm': 0.0023640224244445562, 'learning_rate': 2.8659550195567147e-06, 'epoch': 7.13}
+{'loss': 0.0673, 'grad_norm': 0.01884811744093895, 'learning_rate': 2.863917861799218e-06, 'epoch': 7.14}
+{'loss': 0.0328, 'grad_norm': 0.008245172910392284, 'learning_rate': 2.8618807040417214e-06, 'epoch': 7.14}
+{'loss': 0.0512, 'grad_norm': 0.019641611725091934, 'learning_rate': 2.8598435462842244e-06, 'epoch': 7.14}
+{'loss': 0.0907, 'grad_norm': 0.005899110808968544, 'learning_rate': 2.8578063885267277e-06, 'epoch': 7.14}
+{'loss': 0.0131, 'grad_norm': 0.0039334543980658054, 'learning_rate': 2.8557692307692307e-06, 'epoch': 7.14}
+{'loss': 0.0062, 'grad_norm': 0.0056242928840219975, 'learning_rate': 2.853732073011734e-06, 'epoch': 7.15}
+{'loss': 0.0005, 'grad_norm': 0.004833613056689501, 'learning_rate': 2.8516949152542374e-06, 'epoch': 7.15}
+{'loss': 0.0545, 'grad_norm': 0.01741948537528515, 'learning_rate': 2.849657757496741e-06, 'epoch': 7.15}
+{'loss': 0.0584, 'grad_norm': 0.00021441957505885512, 'learning_rate': 2.847620599739244e-06, 'epoch': 7.15}
+{'loss': 0.0153, 'grad_norm': 0.0016304561868309975, 'learning_rate': 2.8455834419817475e-06, 'epoch': 7.15}
+{'loss': 0.1001, 'grad_norm': 14.737995147705078, 'learning_rate': 2.8435462842242504e-06, 'epoch': 7.16}
+{'loss': 0.0014, 'grad_norm': 0.0008865834679454565, 'learning_rate': 2.841509126466754e-06, 'epoch': 7.16}
+{'loss': 0.0149, 'grad_norm': 0.0027342154644429684, 'learning_rate': 2.839471968709257e-06, 'epoch': 7.16}
+{'loss': 0.0001, 'grad_norm': 0.0013554519973695278, 'learning_rate': 2.83743481095176e-06, 'epoch': 7.16}
+{'loss': 0.0715, 'grad_norm': 0.00220800144597888, 'learning_rate': 2.8353976531942635e-06, 'epoch': 7.16}
+{'loss': 0.0027, 'grad_norm': 0.015134953893721104, 'learning_rate': 2.8333604954367664e-06, 'epoch': 7.17}
+{'loss': 0.0517, 'grad_norm': 0.1937265396118164, 'learning_rate': 2.83132333767927e-06, 'epoch': 7.17}
+{'loss': 0.0013, 'grad_norm': 0.0036239665932953358, 'learning_rate': 2.8292861799217736e-06, 'epoch': 7.17}
+{'loss': 0.0292, 'grad_norm': 0.03647889569401741, 'learning_rate': 2.827249022164277e-06, 'epoch': 7.17}
+{'loss': 0.0787, 'grad_norm': 0.00791097804903984, 'learning_rate': 2.82521186440678e-06, 'epoch': 7.17}
+{'loss': 0.0582, 'grad_norm': 0.015356992371380329, 'learning_rate': 2.8231747066492832e-06, 'epoch': 7.18}
+{'loss': 0.0001, 'grad_norm': 0.004914914723485708, 'learning_rate': 2.821137548891786e-06, 'epoch': 7.18}
+{'loss': 0.0479, 'grad_norm': 0.022571654990315437, 'learning_rate': 2.8191003911342895e-06, 'epoch': 7.18}
+{'loss': 0.1262, 'grad_norm': 0.03667732700705528, 'learning_rate': 2.817063233376793e-06, 'epoch': 7.18}
+{'loss': 0.0789, 'grad_norm': 4.974493980407715, 'learning_rate': 2.815026075619296e-06, 'epoch': 7.19}
+{'loss': 0.053, 'grad_norm': 66.39488983154297, 'learning_rate': 2.812988917861799e-06, 'epoch': 7.19}
+{'loss': 0.0015, 'grad_norm': 0.0015795191284269094, 'learning_rate': 2.810951760104303e-06, 'epoch': 7.19}
+{'loss': 0.0121, 'grad_norm': 0.006175360642373562, 'learning_rate': 2.808914602346806e-06, 'epoch': 7.19}
+{'loss': 0.0033, 'grad_norm': 0.018045159056782722, 'learning_rate': 2.8068774445893093e-06, 'epoch': 7.19}
+{'loss': 0.0704, 'grad_norm': 0.005985957570374012, 'learning_rate': 2.8048402868318127e-06, 'epoch': 7.2}
+{'loss': 0.0488, 'grad_norm': 0.005059550050646067, 'learning_rate': 2.8028031290743156e-06, 'epoch': 7.2}
+{'loss': 0.0086, 'grad_norm': 0.0009319736273027956, 'learning_rate': 2.800765971316819e-06, 'epoch': 7.2}
+{'loss': 0.0327, 'grad_norm': 0.006815403699874878, 'learning_rate': 2.7987288135593223e-06, 'epoch': 7.2}
+{'loss': 0.0001, 'grad_norm': 0.0013974154135212302, 'learning_rate': 2.7966916558018253e-06, 'epoch': 7.2}
+{'loss': 0.0548, 'grad_norm': 0.0013184493873268366, 'learning_rate': 2.7946544980443286e-06, 'epoch': 7.21}
+{'loss': 0.0399, 'grad_norm': 0.009051562286913395, 'learning_rate': 2.7926173402868324e-06, 'epoch': 7.21}
+{'loss': 0.0, 'grad_norm': 0.0052347974851727486, 'learning_rate': 2.7905801825293354e-06, 'epoch': 7.21}
+{'loss': 0.0218, 'grad_norm': 0.002098235534504056, 'learning_rate': 2.7885430247718387e-06, 'epoch': 7.21}
+{'loss': 0.0003, 'grad_norm': 0.002100168028846383, 'learning_rate': 2.786505867014342e-06, 'epoch': 7.21}
+{'loss': 0.0574, 'grad_norm': 0.002877006307244301, 'learning_rate': 2.784468709256845e-06, 'epoch': 7.22}
+{'loss': 0.0795, 'grad_norm': 0.0067535219714045525, 'learning_rate': 2.7824315514993484e-06, 'epoch': 7.22}
+{'loss': 0.0922, 'grad_norm': 0.0032047375570982695, 'learning_rate': 2.7803943937418513e-06, 'epoch': 7.22}
+{'loss': 0.0003, 'grad_norm': 0.004454670939594507, 'learning_rate': 2.7783572359843547e-06, 'epoch': 7.22}
+{'loss': 0.0447, 'grad_norm': 691.5458984375, 'learning_rate': 2.776320078226858e-06, 'epoch': 7.22}
+{'loss': 0.0235, 'grad_norm': 0.003495890414342284, 'learning_rate': 2.774282920469362e-06, 'epoch': 7.23}
+{'loss': 0.0347, 'grad_norm': 0.0009036506526172161, 'learning_rate': 2.772245762711865e-06, 'epoch': 7.23}
+{'loss': 0.0125, 'grad_norm': 0.006568616721779108, 'learning_rate': 2.770208604954368e-06, 'epoch': 7.23}
+{'loss': 0.0489, 'grad_norm': 0.00949838012456894, 'learning_rate': 2.768171447196871e-06, 'epoch': 7.23}
+{'loss': 0.0167, 'grad_norm': 0.0028396155685186386, 'learning_rate': 2.7661342894393745e-06, 'epoch': 7.23}
+{'loss': 0.0186, 'grad_norm': 0.001395137282088399, 'learning_rate': 2.764097131681878e-06, 'epoch': 7.24}
+{'loss': 0.0374, 'grad_norm': 1.2523778676986694, 'learning_rate': 2.7620599739243808e-06, 'epoch': 7.24}
+{'loss': 0.0011, 'grad_norm': 0.0014123194850981236, 'learning_rate': 2.760022816166884e-06, 'epoch': 7.24}
+{'loss': 0.1324, 'grad_norm': 0.00036408312735147774, 'learning_rate': 2.757985658409387e-06, 'epoch': 7.24}
+{'loss': 0.0302, 'grad_norm': 0.004324823152273893, 'learning_rate': 2.7559485006518904e-06, 'epoch': 7.24}
+{'loss': 0.1387, 'grad_norm': 227.66531372070312, 'learning_rate': 2.7539113428943942e-06, 'epoch': 7.25}
+{'loss': 0.017, 'grad_norm': 0.0012653659796342254, 'learning_rate': 2.7518741851368976e-06, 'epoch': 7.25}
+{'loss': 0.0085, 'grad_norm': 0.02098616026341915, 'learning_rate': 2.7498370273794005e-06, 'epoch': 7.25}
+{'loss': 0.0, 'grad_norm': 0.01520806085318327, 'learning_rate': 2.747799869621904e-06, 'epoch': 7.25}
+{'loss': 0.0, 'grad_norm': 0.004673599265515804, 'learning_rate': 2.745762711864407e-06, 'epoch': 7.25}
+{'loss': 0.0613, 'grad_norm': 0.0013181937392801046, 'learning_rate': 2.74372555410691e-06, 'epoch': 7.26}
+{'loss': 0.0819, 'grad_norm': 0.00025639511295594275, 'learning_rate': 2.7416883963494136e-06, 'epoch': 7.26}
+{'loss': 0.2122, 'grad_norm': 0.007941879332065582, 'learning_rate': 2.7396512385919165e-06, 'epoch': 7.26}
+{'loss': 0.0286, 'grad_norm': 0.002904884982854128, 'learning_rate': 2.73761408083442e-06, 'epoch': 7.26}
+{'loss': 0.0109, 'grad_norm': 0.0037897236179560423, 'learning_rate': 2.7355769230769237e-06, 'epoch': 7.26}
+{'loss': 0.1164, 'grad_norm': 0.0005815618787892163, 'learning_rate': 2.7335397653194266e-06, 'epoch': 7.27}
+{'loss': 0.0, 'grad_norm': 0.015328413806855679, 'learning_rate': 2.73150260756193e-06, 'epoch': 7.27}
+{'loss': 0.1135, 'grad_norm': 0.002596983453258872, 'learning_rate': 2.7294654498044333e-06, 'epoch': 7.27}
+{'loss': 0.0017, 'grad_norm': 0.015466632321476936, 'learning_rate': 2.7274282920469363e-06, 'epoch': 7.27}
+{'loss': 0.0246, 'grad_norm': 0.001823707832954824, 'learning_rate': 2.7253911342894396e-06, 'epoch': 7.27}
+{'loss': 0.0131, 'grad_norm': 0.003157355124130845, 'learning_rate': 2.7233539765319426e-06, 'epoch': 7.28}
+{'loss': 0.0491, 'grad_norm': 0.11181792616844177, 'learning_rate': 2.721316818774446e-06, 'epoch': 7.28}
+{'loss': 0.0011, 'grad_norm': 0.0013477401807904243, 'learning_rate': 2.7192796610169493e-06, 'epoch': 7.28}
+{'loss': 0.112, 'grad_norm': 0.003035219619050622, 'learning_rate': 2.7172425032594523e-06, 'epoch': 7.28}
+{'loss': 0.0424, 'grad_norm': 0.0005390477599576116, 'learning_rate': 2.715205345501956e-06, 'epoch': 7.28}
+{'loss': 0.0932, 'grad_norm': 514.0520629882812, 'learning_rate': 2.7131681877444594e-06, 'epoch': 7.29}
+{'loss': 0.1259, 'grad_norm': 0.0094833392649889, 'learning_rate': 2.7111310299869623e-06, 'epoch': 7.29}
+{'loss': 0.1252, 'grad_norm': 0.016300195828080177, 'learning_rate': 2.7090938722294657e-06, 'epoch': 7.29}
+{'loss': 0.0005, 'grad_norm': 0.0045479657128453255, 'learning_rate': 2.707056714471969e-06, 'epoch': 7.29}
+{'loss': 0.0607, 'grad_norm': 0.001185583765618503, 'learning_rate': 2.705019556714472e-06, 'epoch': 7.3}
+{'loss': 0.0989, 'grad_norm': 0.0039758202619850636, 'learning_rate': 2.7029823989569754e-06, 'epoch': 7.3}
+{'loss': 0.0184, 'grad_norm': 0.005736589897423983, 'learning_rate': 2.7009452411994787e-06, 'epoch': 7.3}
+{'loss': 0.013, 'grad_norm': 0.00046675687190145254, 'learning_rate': 2.6989080834419817e-06, 'epoch': 7.3}
+{'loss': 0.0585, 'grad_norm': 0.00364354788325727, 'learning_rate': 2.6968709256844855e-06, 'epoch': 7.3}
+{'loss': 0.0468, 'grad_norm': 0.006830424070358276, 'learning_rate': 2.694833767926989e-06, 'epoch': 7.31}
+{'loss': 0.0367, 'grad_norm': 0.0031720183324068785, 'learning_rate': 2.6927966101694918e-06, 'epoch': 7.31}
+{'loss': 0.0061, 'grad_norm': 0.004521368537098169, 'learning_rate': 2.690759452411995e-06, 'epoch': 7.31}
+{'loss': 0.0008, 'grad_norm': 0.001052467618137598, 'learning_rate': 2.6887222946544985e-06, 'epoch': 7.31}
+{'loss': 0.0, 'grad_norm': 0.0011186163173988461, 'learning_rate': 2.6866851368970014e-06, 'epoch': 7.31}
+{'loss': 0.0, 'grad_norm': 0.006041715387254953, 'learning_rate': 2.684647979139505e-06, 'epoch': 7.32}
+{'loss': 0.0, 'grad_norm': 0.00889328308403492, 'learning_rate': 2.6826108213820078e-06, 'epoch': 7.32}
+{'loss': 0.0298, 'grad_norm': 109.0079116821289, 'learning_rate': 2.680573663624511e-06, 'epoch': 7.32}
+{'loss': 0.0944, 'grad_norm': 0.002487774007022381, 'learning_rate': 2.6785365058670145e-06, 'epoch': 7.32}
+{'loss': 0.137, 'grad_norm': 0.001982706366106868, 'learning_rate': 2.676499348109518e-06, 'epoch': 7.32}
+{'loss': 0.0009, 'grad_norm': 1.106451153755188, 'learning_rate': 2.6744621903520212e-06, 'epoch': 7.33}
+{'loss': 0.0, 'grad_norm': 1.8617100715637207, 'learning_rate': 2.6724250325945246e-06, 'epoch': 7.33}
+{'loss': 0.0002, 'grad_norm': 0.0008763524820096791, 'learning_rate': 2.6703878748370275e-06, 'epoch': 7.33}
+{'loss': 0.1262, 'grad_norm': 0.001892338041216135, 'learning_rate': 2.668350717079531e-06, 'epoch': 7.33}
+{'loss': 0.0223, 'grad_norm': 0.5832481980323792, 'learning_rate': 2.6663135593220342e-06, 'epoch': 7.33}
+{'eval_loss': 13.222698211669922, 'eval_accuracy': 0.7104417670682731, 'eval_runtime': 1.4303, 'eval_samples_per_second': 1740.918, 'eval_steps_per_second': 54.535, 'epoch': 7.33}
+{'loss': 0.0004, 'grad_norm': 0.0020997547544538975, 'learning_rate': 2.664276401564537e-06, 'epoch': 7.34}
+{'loss': 0.1601, 'grad_norm': 0.009604240767657757, 'learning_rate': 2.6622392438070406e-06, 'epoch': 7.34}
+{'loss': 0.0006, 'grad_norm': 0.00030668204999528825, 'learning_rate': 2.6602020860495435e-06, 'epoch': 7.34}
+{'loss': 0.0307, 'grad_norm': 0.0022339315619319677, 'learning_rate': 2.6581649282920473e-06, 'epoch': 7.34}
+{'loss': 0.0586, 'grad_norm': 2.159834623336792, 'learning_rate': 2.6561277705345506e-06, 'epoch': 7.34}
+{'loss': 0.0, 'grad_norm': 0.0003006188489962369, 'learning_rate': 2.654090612777054e-06, 'epoch': 7.35}
+{'loss': 0.0008, 'grad_norm': 2.6758005619049072, 'learning_rate': 2.652053455019557e-06, 'epoch': 7.35}
+{'loss': 0.061, 'grad_norm': 0.0004621414409484714, 'learning_rate': 2.6500162972620603e-06, 'epoch': 7.35}
+{'loss': 0.0731, 'grad_norm': 0.0003322783741168678, 'learning_rate': 2.6479791395045633e-06, 'epoch': 7.35}
+{'loss': 0.0527, 'grad_norm': 0.0012378423707559705, 'learning_rate': 2.6459419817470666e-06, 'epoch': 7.35}
+{'loss': 0.0, 'grad_norm': 0.05522168055176735, 'learning_rate': 2.64390482398957e-06, 'epoch': 7.36}
+{'loss': 0.1389, 'grad_norm': 0.01323988102376461, 'learning_rate': 2.641867666232073e-06, 'epoch': 7.36}
+{'loss': 0.0665, 'grad_norm': 0.006646756548434496, 'learning_rate': 2.6398305084745763e-06, 'epoch': 7.36}
+{'loss': 0.0444, 'grad_norm': 0.004825722426176071, 'learning_rate': 2.63779335071708e-06, 'epoch': 7.36}
+{'loss': 0.0799, 'grad_norm': 0.015088086947798729, 'learning_rate': 2.635756192959583e-06, 'epoch': 7.36}
+{'loss': 0.0958, 'grad_norm': 0.004944974556565285, 'learning_rate': 2.6337190352020864e-06, 'epoch': 7.37}
+{'loss': 0.0408, 'grad_norm': 0.0009925130289047956, 'learning_rate': 2.6316818774445898e-06, 'epoch': 7.37}
+{'loss': 0.0521, 'grad_norm': 0.0004393473209347576, 'learning_rate': 2.6296447196870927e-06, 'epoch': 7.37}
+{'loss': 0.0353, 'grad_norm': 0.002842359244823456, 'learning_rate': 2.627607561929596e-06, 'epoch': 7.37}
+{'loss': 0.0021, 'grad_norm': 0.0006539294845424592, 'learning_rate': 2.625570404172099e-06, 'epoch': 7.37}
+{'loss': 0.0, 'grad_norm': 0.0005506197921931744, 'learning_rate': 2.6235332464146024e-06, 'epoch': 7.38}
+{'loss': 0.1069, 'grad_norm': 0.008871560916304588, 'learning_rate': 2.6214960886571057e-06, 'epoch': 7.38}
+{'loss': 0.0664, 'grad_norm': 0.21338535845279694, 'learning_rate': 2.6194589308996095e-06, 'epoch': 7.38}
+{'loss': 0.0747, 'grad_norm': 0.003226774511858821, 'learning_rate': 2.6174217731421125e-06, 'epoch': 7.38}
+{'loss': 0.0391, 'grad_norm': 0.05330207943916321, 'learning_rate': 2.615384615384616e-06, 'epoch': 7.38}
+{'loss': 0.0286, 'grad_norm': 0.0010521762305870652, 'learning_rate': 2.6133474576271188e-06, 'epoch': 7.39}
+{'loss': 0.0754, 'grad_norm': 0.04869593307375908, 'learning_rate': 2.611310299869622e-06, 'epoch': 7.39}
+{'loss': 0.0651, 'grad_norm': 0.0058087799698114395, 'learning_rate': 2.6092731421121255e-06, 'epoch': 7.39}
+{'loss': 0.0504, 'grad_norm': 0.0011550628114491701, 'learning_rate': 2.6072359843546284e-06, 'epoch': 7.39}
+{'loss': 0.1424, 'grad_norm': 1582.3043212890625, 'learning_rate': 2.605198826597132e-06, 'epoch': 7.39}
+{'loss': 0.0507, 'grad_norm': 0.012766115367412567, 'learning_rate': 2.6031616688396347e-06, 'epoch': 7.4}
+{'loss': 0.1109, 'grad_norm': 6.613246440887451, 'learning_rate': 2.601124511082138e-06, 'epoch': 7.4}
+{'loss': 0.0614, 'grad_norm': 0.007833150215446949, 'learning_rate': 2.599087353324642e-06, 'epoch': 7.4}
+{'loss': 0.0205, 'grad_norm': 0.003352950094267726, 'learning_rate': 2.5970501955671453e-06, 'epoch': 7.4}
+{'loss': 0.1482, 'grad_norm': 0.09128106385469437, 'learning_rate': 2.595013037809648e-06, 'epoch': 7.41}
+{'loss': 0.0001, 'grad_norm': 0.003118355292826891, 'learning_rate': 2.5929758800521516e-06, 'epoch': 7.41}
+{'loss': 0.0536, 'grad_norm': 3.929159641265869, 'learning_rate': 2.5909387222946545e-06, 'epoch': 7.41}
+{'loss': 0.0472, 'grad_norm': 0.011271627619862556, 'learning_rate': 2.588901564537158e-06, 'epoch': 7.41}
+{'loss': 0.0003, 'grad_norm': 0.005354414694011211, 'learning_rate': 2.5868644067796612e-06, 'epoch': 7.41}
+{'loss': 0.0215, 'grad_norm': 25.886375427246094, 'learning_rate': 2.584827249022164e-06, 'epoch': 7.42}
+{'loss': 0.0191, 'grad_norm': 0.010280796326696873, 'learning_rate': 2.5827900912646675e-06, 'epoch': 7.42}
+{'loss': 0.0002, 'grad_norm': 0.0008228251826949418, 'learning_rate': 2.5807529335071713e-06, 'epoch': 7.42}
+{'loss': 0.0004, 'grad_norm': 0.0007499800994992256, 'learning_rate': 2.5787157757496743e-06, 'epoch': 7.42}
+{'loss': 0.0791, 'grad_norm': 0.0006268806173466146, 'learning_rate': 2.5766786179921776e-06, 'epoch': 7.42}
+{'loss': 0.0724, 'grad_norm': 0.0023609106428921223, 'learning_rate': 2.574641460234681e-06, 'epoch': 7.43}
+{'loss': 0.2148, 'grad_norm': 0.0010078750783577561, 'learning_rate': 2.572604302477184e-06, 'epoch': 7.43}
+{'loss': 0.0878, 'grad_norm': 0.005753259640187025, 'learning_rate': 2.5705671447196873e-06, 'epoch': 7.43}
+{'loss': 0.1863, 'grad_norm': 0.013976454734802246, 'learning_rate': 2.5685299869621907e-06, 'epoch': 7.43}
+{'loss': 0.0871, 'grad_norm': 9.026625633239746, 'learning_rate': 2.5664928292046936e-06, 'epoch': 7.43}
+{'loss': 0.0001, 'grad_norm': 0.00045161868911236525, 'learning_rate': 2.564455671447197e-06, 'epoch': 7.44}
+{'loss': 0.1677, 'grad_norm': 0.005932284984737635, 'learning_rate': 2.5624185136897e-06, 'epoch': 7.44}
+{'loss': 0.1342, 'grad_norm': 0.8428340554237366, 'learning_rate': 2.5603813559322037e-06, 'epoch': 7.44}
+{'loss': 0.037, 'grad_norm': 0.016780516132712364, 'learning_rate': 2.558344198174707e-06, 'epoch': 7.44}
+{'loss': 0.1435, 'grad_norm': 0.029406266286969185, 'learning_rate': 2.5563070404172104e-06, 'epoch': 7.44}
+{'loss': 0.0032, 'grad_norm': 0.0056850360706448555, 'learning_rate': 2.5542698826597134e-06, 'epoch': 7.45}
+{'loss': 0.017, 'grad_norm': 0.0021988057997077703, 'learning_rate': 2.5522327249022167e-06, 'epoch': 7.45}
+{'loss': 0.105, 'grad_norm': 1156.286865234375, 'learning_rate': 2.5501955671447197e-06, 'epoch': 7.45}
+{'loss': 0.0836, 'grad_norm': 0.003618803108111024, 'learning_rate': 2.548158409387223e-06, 'epoch': 7.45}
+{'loss': 0.0, 'grad_norm': 0.0011566407047212124, 'learning_rate': 2.5461212516297264e-06, 'epoch': 7.45}
+{'loss': 0.0114, 'grad_norm': 0.024973949417471886, 'learning_rate': 2.5440840938722293e-06, 'epoch': 7.46}
+{'loss': 0.0162, 'grad_norm': 0.006099599413573742, 'learning_rate': 2.542046936114733e-06, 'epoch': 7.46}
+{'loss': 0.0314, 'grad_norm': 0.023390736430883408, 'learning_rate': 2.5400097783572365e-06, 'epoch': 7.46}
+{'loss': 0.0, 'grad_norm': 0.0006604099180549383, 'learning_rate': 2.5379726205997394e-06, 'epoch': 7.46}
+{'loss': 0.0, 'grad_norm': 0.24420209228992462, 'learning_rate': 2.535935462842243e-06, 'epoch': 7.46}
+{'loss': 0.0001, 'grad_norm': 0.0005997219122946262, 'learning_rate': 2.533898305084746e-06, 'epoch': 7.47}
+{'loss': 0.0148, 'grad_norm': 0.007271751295775175, 'learning_rate': 2.531861147327249e-06, 'epoch': 7.47}
+{'loss': 0.05, 'grad_norm': 0.0002004231500905007, 'learning_rate': 2.5298239895697525e-06, 'epoch': 7.47}
+{'loss': 0.1091, 'grad_norm': 0.7477303743362427, 'learning_rate': 2.5277868318122554e-06, 'epoch': 7.47}
+{'loss': 0.0688, 'grad_norm': 3.564941167831421, 'learning_rate': 2.5257496740547588e-06, 'epoch': 7.47}
+{'loss': 0.0489, 'grad_norm': 7.792516231536865, 'learning_rate': 2.523712516297262e-06, 'epoch': 7.48}
+{'loss': 0.0054, 'grad_norm': 0.02816283330321312, 'learning_rate': 2.521675358539766e-06, 'epoch': 7.48}
+{'loss': 0.065, 'grad_norm': 0.004660405684262514, 'learning_rate': 2.519638200782269e-06, 'epoch': 7.48}
+{'loss': 0.021, 'grad_norm': 0.002692693378776312, 'learning_rate': 2.5176010430247722e-06, 'epoch': 7.48}
+{'loss': 0.0178, 'grad_norm': 0.008822408504784107, 'learning_rate': 2.515563885267275e-06, 'epoch': 7.48}
+{'loss': 0.0619, 'grad_norm': 0.0028177769854664803, 'learning_rate': 2.5135267275097785e-06, 'epoch': 7.49}
+{'loss': 0.0077, 'grad_norm': 0.005590243265032768, 'learning_rate': 2.511489569752282e-06, 'epoch': 7.49}
+{'loss': 0.0235, 'grad_norm': 0.001464060740545392, 'learning_rate': 2.509452411994785e-06, 'epoch': 7.49}
+{'loss': 0.0026, 'grad_norm': 0.004451924003660679, 'learning_rate': 2.507415254237288e-06, 'epoch': 7.49}
+{'loss': 0.0525, 'grad_norm': 0.017266517505049706, 'learning_rate': 2.505378096479791e-06, 'epoch': 7.49}
+{'loss': 0.0716, 'grad_norm': 9.30561351776123, 'learning_rate': 2.503340938722295e-06, 'epoch': 7.5}
+{'loss': 0.0, 'grad_norm': 0.0013249804032966495, 'learning_rate': 2.5013037809647983e-06, 'epoch': 7.5}
+{'loss': 0.0885, 'grad_norm': 0.14787347614765167, 'learning_rate': 2.4992666232073017e-06, 'epoch': 7.5}
+{'loss': 0.0676, 'grad_norm': 0.2545835077762604, 'learning_rate': 2.4972294654498046e-06, 'epoch': 7.5}
+{'loss': 0.0001, 'grad_norm': 0.004525857046246529, 'learning_rate': 2.495192307692308e-06, 'epoch': 7.5}
+{'loss': 0.0, 'grad_norm': 0.005039173644036055, 'learning_rate': 2.493155149934811e-06, 'epoch': 7.51}
+{'loss': 0.1159, 'grad_norm': 0.008186367340385914, 'learning_rate': 2.4911179921773143e-06, 'epoch': 7.51}
+{'loss': 0.0, 'grad_norm': 0.015744777396321297, 'learning_rate': 2.4890808344198176e-06, 'epoch': 7.51}
+{'loss': 0.136, 'grad_norm': 0.003304926445707679, 'learning_rate': 2.487043676662321e-06, 'epoch': 7.51}
+{'loss': 0.0609, 'grad_norm': 0.0049025025218725204, 'learning_rate': 2.4850065189048244e-06, 'epoch': 7.52}
+{'loss': 0.0204, 'grad_norm': 0.028112605214118958, 'learning_rate': 2.4829693611473273e-06, 'epoch': 7.52}
+{'loss': 0.0398, 'grad_norm': 0.009537411853671074, 'learning_rate': 2.4809322033898307e-06, 'epoch': 7.52}
+{'loss': 0.0062, 'grad_norm': 0.019002895802259445, 'learning_rate': 2.478895045632334e-06, 'epoch': 7.52}
+{'loss': 0.025, 'grad_norm': 0.0002903573913499713, 'learning_rate': 2.4768578878748374e-06, 'epoch': 7.52}
+{'loss': 0.0238, 'grad_norm': 0.010527649894356728, 'learning_rate': 2.4748207301173404e-06, 'epoch': 7.53}
+{'loss': 0.1141, 'grad_norm': 0.004206741228699684, 'learning_rate': 2.4727835723598437e-06, 'epoch': 7.53}
+{'loss': 0.064, 'grad_norm': 0.016440756618976593, 'learning_rate': 2.470746414602347e-06, 'epoch': 7.53}
+{'loss': 0.0001, 'grad_norm': 0.0006718346267007291, 'learning_rate': 2.4687092568448504e-06, 'epoch': 7.53}
+{'loss': 0.0367, 'grad_norm': 0.02574051357805729, 'learning_rate': 2.4666720990873534e-06, 'epoch': 7.53}
+{'loss': 0.0, 'grad_norm': 0.00044540403177961707, 'learning_rate': 2.4646349413298567e-06, 'epoch': 7.54}
+{'loss': 0.0034, 'grad_norm': 0.040390755981206894, 'learning_rate': 2.46259778357236e-06, 'epoch': 7.54}
+{'loss': 0.0, 'grad_norm': 0.023555878549814224, 'learning_rate': 2.4605606258148635e-06, 'epoch': 7.54}
+{'loss': 0.0, 'grad_norm': 0.0021562851034104824, 'learning_rate': 2.458523468057367e-06, 'epoch': 7.54}
+{'loss': 0.0658, 'grad_norm': 0.004535318352282047, 'learning_rate': 2.4564863102998698e-06, 'epoch': 7.54}
+{'loss': 0.0274, 'grad_norm': 0.00043859489960595965, 'learning_rate': 2.454449152542373e-06, 'epoch': 7.55}
+{'loss': 0.0888, 'grad_norm': 1202.9552001953125, 'learning_rate': 2.452411994784876e-06, 'epoch': 7.55}
+{'loss': 0.0651, 'grad_norm': 0.00048351631266996264, 'learning_rate': 2.45037483702738e-06, 'epoch': 7.55}
+{'loss': 0.0046, 'grad_norm': 0.0007114761392585933, 'learning_rate': 2.448337679269883e-06, 'epoch': 7.55}
+{'loss': 0.0376, 'grad_norm': 0.004605999682098627, 'learning_rate': 2.446300521512386e-06, 'epoch': 7.55}
+{'loss': 0.0566, 'grad_norm': 0.00416155718266964, 'learning_rate': 2.444263363754889e-06, 'epoch': 7.56}
+{'loss': 0.0099, 'grad_norm': 0.0015669367276132107, 'learning_rate': 2.4422262059973925e-06, 'epoch': 7.56}
+{'loss': 0.0001, 'grad_norm': 0.06886589527130127, 'learning_rate': 2.440189048239896e-06, 'epoch': 7.56}
+{'loss': 0.0523, 'grad_norm': 0.010879673063755035, 'learning_rate': 2.4381518904823992e-06, 'epoch': 7.56}
+{'loss': 0.0092, 'grad_norm': 0.046990443021059036, 'learning_rate': 2.4361147327249026e-06, 'epoch': 7.56}
+{'loss': 0.0604, 'grad_norm': 0.005304847843945026, 'learning_rate': 2.4340775749674055e-06, 'epoch': 7.57}
+{'loss': 0.2686, 'grad_norm': 0.0048659322783350945, 'learning_rate': 2.432040417209909e-06, 'epoch': 7.57}
+{'loss': 0.0959, 'grad_norm': 0.0019478764152154326, 'learning_rate': 2.4300032594524123e-06, 'epoch': 7.57}
+{'loss': 0.0159, 'grad_norm': 0.31683844327926636, 'learning_rate': 2.4279661016949156e-06, 'epoch': 7.57}
+{'loss': 0.1222, 'grad_norm': 0.06428682059049606, 'learning_rate': 2.4259289439374186e-06, 'epoch': 7.57}
+{'loss': 0.0288, 'grad_norm': 0.0010306730400770903, 'learning_rate': 2.423891786179922e-06, 'epoch': 7.58}
+{'loss': 0.0373, 'grad_norm': 39.125335693359375, 'learning_rate': 2.4218546284224253e-06, 'epoch': 7.58}
+{'loss': 0.0274, 'grad_norm': 1898.490234375, 'learning_rate': 2.4198174706649287e-06, 'epoch': 7.58}
+{'loss': 0.0461, 'grad_norm': 0.019447186961770058, 'learning_rate': 2.4177803129074316e-06, 'epoch': 7.58}
+{'loss': 0.0507, 'grad_norm': 0.015870580449700356, 'learning_rate': 2.415743155149935e-06, 'epoch': 7.58}
+{'loss': 0.0, 'grad_norm': 0.004864374175667763, 'learning_rate': 2.4137059973924383e-06, 'epoch': 7.59}
+{'loss': 0.0369, 'grad_norm': 0.013301807455718517, 'learning_rate': 2.4116688396349417e-06, 'epoch': 7.59}
+{'loss': 0.0001, 'grad_norm': 0.002347560366615653, 'learning_rate': 2.4096316818774446e-06, 'epoch': 7.59}
+{'loss': 0.0, 'grad_norm': 0.33775708079338074, 'learning_rate': 2.407594524119948e-06, 'epoch': 7.59}
+{'loss': 0.0694, 'grad_norm': 0.0008515696390531957, 'learning_rate': 2.4055573663624514e-06, 'epoch': 7.59}
+{'loss': 0.0997, 'grad_norm': 0.0027031770441681147, 'learning_rate': 2.4035202086049543e-06, 'epoch': 7.6}
+{'loss': 0.024, 'grad_norm': 0.0004701480793301016, 'learning_rate': 2.401483050847458e-06, 'epoch': 7.6}
+{'loss': 0.0, 'grad_norm': 0.02644418366253376, 'learning_rate': 2.399445893089961e-06, 'epoch': 7.6}
+{'loss': 0.0, 'grad_norm': 0.001894007669761777, 'learning_rate': 2.3974087353324644e-06, 'epoch': 7.6}
+{'loss': 0.1423, 'grad_norm': 2.7235705852508545, 'learning_rate': 2.3953715775749673e-06, 'epoch': 7.6}
+{'loss': 0.0009, 'grad_norm': 0.009988803416490555, 'learning_rate': 2.3933344198174707e-06, 'epoch': 7.61}
+{'loss': 0.0494, 'grad_norm': 0.15223060548305511, 'learning_rate': 2.391297262059974e-06, 'epoch': 7.61}
+{'loss': 0.0002, 'grad_norm': 0.005897134076803923, 'learning_rate': 2.3892601043024774e-06, 'epoch': 7.61}
+{'loss': 0.0268, 'grad_norm': 0.0006684134132228792, 'learning_rate': 2.387222946544981e-06, 'epoch': 7.61}
+{'loss': 0.0522, 'grad_norm': 0.0037777808029204607, 'learning_rate': 2.3851857887874837e-06, 'epoch': 7.61}
+{'loss': 0.0004, 'grad_norm': 0.0019656254444271326, 'learning_rate': 2.383148631029987e-06, 'epoch': 7.62}
+{'loss': 0.0203, 'grad_norm': 0.005024550016969442, 'learning_rate': 2.3811114732724905e-06, 'epoch': 7.62}
+{'loss': 0.003, 'grad_norm': 0.0035132181365042925, 'learning_rate': 2.379074315514994e-06, 'epoch': 7.62}
+{'loss': 0.026, 'grad_norm': 0.007678713649511337, 'learning_rate': 2.3770371577574968e-06, 'epoch': 7.62}
+{'loss': 0.0794, 'grad_norm': 0.03126908466219902, 'learning_rate': 2.375e-06, 'epoch': 7.63}
+{'loss': 0.1994, 'grad_norm': 0.0001556468050694093, 'learning_rate': 2.3729628422425035e-06, 'epoch': 7.63}
+{'loss': 0.0458, 'grad_norm': 0.0017328469548374414, 'learning_rate': 2.370925684485007e-06, 'epoch': 7.63}
+{'loss': 0.0882, 'grad_norm': 0.003723942907527089, 'learning_rate': 2.36888852672751e-06, 'epoch': 7.63}
+{'loss': 0.0694, 'grad_norm': 0.003915624227374792, 'learning_rate': 2.366851368970013e-06, 'epoch': 7.63}
+{'loss': 0.1003, 'grad_norm': 0.002570890123024583, 'learning_rate': 2.3648142112125165e-06, 'epoch': 7.64}
+{'loss': 0.0047, 'grad_norm': 0.16556239128112793, 'learning_rate': 2.36277705345502e-06, 'epoch': 7.64}
+{'loss': 0.0112, 'grad_norm': 0.031040100380778313, 'learning_rate': 2.360739895697523e-06, 'epoch': 7.64}
+{'loss': 0.0001, 'grad_norm': 0.02779507450759411, 'learning_rate': 2.358702737940026e-06, 'epoch': 7.64}
+{'loss': 0.0234, 'grad_norm': 0.013376468792557716, 'learning_rate': 2.3566655801825296e-06, 'epoch': 7.64}
+{'loss': 0.191, 'grad_norm': 0.15386563539505005, 'learning_rate': 2.354628422425033e-06, 'epoch': 7.65}
+{'loss': 0.0012, 'grad_norm': 0.010807869024574757, 'learning_rate': 2.3525912646675363e-06, 'epoch': 7.65}
+{'loss': 0.0001, 'grad_norm': 0.019245805218815804, 'learning_rate': 2.3505541069100392e-06, 'epoch': 7.65}
+{'loss': 0.0454, 'grad_norm': 0.0019630752503871918, 'learning_rate': 2.3485169491525426e-06, 'epoch': 7.65}
+{'loss': 0.0953, 'grad_norm': 0.012381029315292835, 'learning_rate': 2.3464797913950455e-06, 'epoch': 7.65}
+{'loss': 0.0246, 'grad_norm': 7.7264323234558105, 'learning_rate': 2.3444426336375493e-06, 'epoch': 7.66}
+{'loss': 0.1411, 'grad_norm': 0.003036991460248828, 'learning_rate': 2.3424054758800523e-06, 'epoch': 7.66}
+{'loss': 0.076, 'grad_norm': 0.0017401945078745484, 'learning_rate': 2.3403683181225556e-06, 'epoch': 7.66}
+{'loss': 0.0329, 'grad_norm': 0.03128812089562416, 'learning_rate': 2.338331160365059e-06, 'epoch': 7.66}
+{'loss': 0.1654, 'grad_norm': 0.007645663805305958, 'learning_rate': 2.336294002607562e-06, 'epoch': 7.66}
+{'loss': 0.0242, 'grad_norm': 0.012763255275785923, 'learning_rate': 2.3342568448500653e-06, 'epoch': 7.67}
+{'loss': 0.0193, 'grad_norm': 0.008251739665865898, 'learning_rate': 2.3322196870925687e-06, 'epoch': 7.67}
+{'loss': 0.0032, 'grad_norm': 0.00651219766587019, 'learning_rate': 2.330182529335072e-06, 'epoch': 7.67}
+{'loss': 0.0419, 'grad_norm': 0.10477861762046814, 'learning_rate': 2.328145371577575e-06, 'epoch': 7.67}
+{'loss': 0.0035, 'grad_norm': 0.0010067586554214358, 'learning_rate': 2.3261082138200783e-06, 'epoch': 7.67}
+{'loss': 0.0625, 'grad_norm': 0.003261800156906247, 'learning_rate': 2.3240710560625817e-06, 'epoch': 7.68}
+{'loss': 0.0, 'grad_norm': 0.06189289689064026, 'learning_rate': 2.322033898305085e-06, 'epoch': 7.68}
+{'loss': 0.0256, 'grad_norm': 0.09667985141277313, 'learning_rate': 2.319996740547588e-06, 'epoch': 7.68}
+{'loss': 0.0355, 'grad_norm': 0.010862384922802448, 'learning_rate': 2.3179595827900914e-06, 'epoch': 7.68}
+{'loss': 0.0, 'grad_norm': 0.0032422617077827454, 'learning_rate': 2.3159224250325947e-06, 'epoch': 7.68}
+{'loss': 0.1071, 'grad_norm': 9.354353904724121, 'learning_rate': 2.313885267275098e-06, 'epoch': 7.69}
+{'loss': 0.1229, 'grad_norm': 0.008108559064567089, 'learning_rate': 2.311848109517601e-06, 'epoch': 7.69}
+{'loss': 0.0005, 'grad_norm': 14.916781425476074, 'learning_rate': 2.3098109517601044e-06, 'epoch': 7.69}
+{'loss': 0.0622, 'grad_norm': 0.0005276177544146776, 'learning_rate': 2.3077737940026078e-06, 'epoch': 7.69}
+{'loss': 0.0044, 'grad_norm': 0.024242624640464783, 'learning_rate': 2.305736636245111e-06, 'epoch': 7.69}
+{'loss': 0.0008, 'grad_norm': 0.0024488442577421665, 'learning_rate': 2.3036994784876145e-06, 'epoch': 7.7}
+{'loss': 0.0049, 'grad_norm': 0.003454250982031226, 'learning_rate': 2.3016623207301174e-06, 'epoch': 7.7}
+{'loss': 0.0559, 'grad_norm': 0.0006592012941837311, 'learning_rate': 2.299625162972621e-06, 'epoch': 7.7}
+{'loss': 0.0264, 'grad_norm': 0.001038244809024036, 'learning_rate': 2.2975880052151237e-06, 'epoch': 7.7}
+{'loss': 0.0115, 'grad_norm': 0.00407811626791954, 'learning_rate': 2.2955508474576275e-06, 'epoch': 7.7}
+{'loss': 0.0, 'grad_norm': 0.0005278530297800899, 'learning_rate': 2.2935136897001305e-06, 'epoch': 7.71}
+{'loss': 0.014, 'grad_norm': 0.003322051838040352, 'learning_rate': 2.291476531942634e-06, 'epoch': 7.71}
+{'loss': 0.0116, 'grad_norm': 0.0018623697105795145, 'learning_rate': 2.289439374185137e-06, 'epoch': 7.71}
+{'loss': 0.0, 'grad_norm': 0.0008583180606365204, 'learning_rate': 2.28740221642764e-06, 'epoch': 7.71}
+{'loss': 0.0183, 'grad_norm': 0.007431180216372013, 'learning_rate': 2.2853650586701435e-06, 'epoch': 7.71}
+{'loss': 0.0055, 'grad_norm': 0.0005869419546797872, 'learning_rate': 2.283327900912647e-06, 'epoch': 7.72}
+{'loss': 0.1111, 'grad_norm': 0.00730467913672328, 'learning_rate': 2.2812907431551502e-06, 'epoch': 7.72}
+{'loss': 0.0, 'grad_norm': 0.0008224690682254732, 'learning_rate': 2.279253585397653e-06, 'epoch': 7.72}
+{'loss': 0.034, 'grad_norm': 0.0008760390337556601, 'learning_rate': 2.277216427640157e-06, 'epoch': 7.72}
+{'loss': 0.0458, 'grad_norm': 0.0052967797964811325, 'learning_rate': 2.27517926988266e-06, 'epoch': 7.72}
+{'loss': 0.0456, 'grad_norm': 0.001329301972873509, 'learning_rate': 2.2731421121251633e-06, 'epoch': 7.73}
+{'loss': 0.0168, 'grad_norm': 0.002629366936162114, 'learning_rate': 2.2711049543676662e-06, 'epoch': 7.73}
+{'loss': 0.0502, 'grad_norm': 0.0006223772652447224, 'learning_rate': 2.2690677966101696e-06, 'epoch': 7.73}
+{'loss': 0.0859, 'grad_norm': 0.054086051881313324, 'learning_rate': 2.267030638852673e-06, 'epoch': 7.73}
+{'loss': 0.1216, 'grad_norm': 0.006832050625234842, 'learning_rate': 2.2649934810951763e-06, 'epoch': 7.74}
+{'loss': 0.0501, 'grad_norm': 0.006815352942794561, 'learning_rate': 2.2629563233376793e-06, 'epoch': 7.74}
+{'loss': 0.0024, 'grad_norm': 104.43389892578125, 'learning_rate': 2.2609191655801826e-06, 'epoch': 7.74}
+{'loss': 0.1127, 'grad_norm': 0.0010261901188641787, 'learning_rate': 2.258882007822686e-06, 'epoch': 7.74}
+{'eval_loss': 12.848295211791992, 'eval_accuracy': 0.7092369477911646, 'eval_runtime': 1.4451, 'eval_samples_per_second': 1723.048, 'eval_steps_per_second': 53.975, 'epoch': 7.74}
+{'loss': 0.0001, 'grad_norm': 0.0228494331240654, 'learning_rate': 2.2568448500651893e-06, 'epoch': 7.74}
+{'loss': 0.0666, 'grad_norm': 0.0022726089227944613, 'learning_rate': 2.2548076923076927e-06, 'epoch': 7.75}
+{'loss': 0.0052, 'grad_norm': 0.029389429837465286, 'learning_rate': 2.2527705345501957e-06, 'epoch': 7.75}
+{'loss': 0.01, 'grad_norm': 0.004654617514461279, 'learning_rate': 2.250733376792699e-06, 'epoch': 7.75}
+{'loss': 0.0434, 'grad_norm': 0.0003191560390405357, 'learning_rate': 2.248696219035202e-06, 'epoch': 7.75}
+{'loss': 0.1075, 'grad_norm': 1793.9161376953125, 'learning_rate': 2.2466590612777057e-06, 'epoch': 7.75}
+{'loss': 0.0001, 'grad_norm': 0.00853167474269867, 'learning_rate': 2.2446219035202087e-06, 'epoch': 7.76}
+{'loss': 0.0073, 'grad_norm': 0.17226698994636536, 'learning_rate': 2.242584745762712e-06, 'epoch': 7.76}
+{'loss': 0.0484, 'grad_norm': 0.00305157364346087, 'learning_rate': 2.2405475880052154e-06, 'epoch': 7.76}
+{'loss': 0.0809, 'grad_norm': 0.002309199422597885, 'learning_rate': 2.2385104302477188e-06, 'epoch': 7.76}
+{'loss': 0.0007, 'grad_norm': 0.0015537638682872057, 'learning_rate': 2.2364732724902217e-06, 'epoch': 7.76}
+{'loss': 0.0918, 'grad_norm': 0.0021769218146800995, 'learning_rate': 2.234436114732725e-06, 'epoch': 7.77}
+{'loss': 0.1992, 'grad_norm': 0.0024185478687286377, 'learning_rate': 2.2323989569752284e-06, 'epoch': 7.77}
+{'loss': 0.0069, 'grad_norm': 0.019404346123337746, 'learning_rate': 2.2303617992177314e-06, 'epoch': 7.77}
+{'loss': 0.0877, 'grad_norm': 0.2053963840007782, 'learning_rate': 2.228324641460235e-06, 'epoch': 7.77}
+{'loss': 0.099, 'grad_norm': 0.0025269961915910244, 'learning_rate': 2.226287483702738e-06, 'epoch': 7.77}
+{'loss': 0.0912, 'grad_norm': 0.0036726430989801884, 'learning_rate': 2.2242503259452415e-06, 'epoch': 7.78}
+{'loss': 0.0819, 'grad_norm': 0.01640920341014862, 'learning_rate': 2.2222131681877444e-06, 'epoch': 7.78}
+{'loss': 0.091, 'grad_norm': 0.0066786864772439, 'learning_rate': 2.220176010430248e-06, 'epoch': 7.78}
+{'loss': 0.0394, 'grad_norm': 0.016981415450572968, 'learning_rate': 2.218138852672751e-06, 'epoch': 7.78}
+{'loss': 0.0, 'grad_norm': 0.0012801220873370767, 'learning_rate': 2.2161016949152545e-06, 'epoch': 7.78}
+{'loss': 0.0017, 'grad_norm': 0.003494982374832034, 'learning_rate': 2.2140645371577575e-06, 'epoch': 7.79}
+{'loss': 0.1097, 'grad_norm': 5.178800582885742, 'learning_rate': 2.212027379400261e-06, 'epoch': 7.79}
+{'loss': 0.046, 'grad_norm': 0.001218248507939279, 'learning_rate': 2.209990221642764e-06, 'epoch': 7.79}
+{'loss': 0.027, 'grad_norm': 0.002756687579676509, 'learning_rate': 2.2079530638852676e-06, 'epoch': 7.79}
+{'loss': 0.1134, 'grad_norm': 0.02417706698179245, 'learning_rate': 2.205915906127771e-06, 'epoch': 7.79}
+{'loss': 0.0145, 'grad_norm': 0.07256112992763519, 'learning_rate': 2.203878748370274e-06, 'epoch': 7.8}
+{'loss': 0.0083, 'grad_norm': 0.013577183708548546, 'learning_rate': 2.2018415906127772e-06, 'epoch': 7.8}
+{'loss': 0.0074, 'grad_norm': 0.0010999615769833326, 'learning_rate': 2.1998044328552806e-06, 'epoch': 7.8}
+{'loss': 0.294, 'grad_norm': 0.055522557348012924, 'learning_rate': 2.197767275097784e-06, 'epoch': 7.8}
+{'loss': 0.1068, 'grad_norm': 8.204412460327148, 'learning_rate': 2.195730117340287e-06, 'epoch': 7.8}
+{'loss': 0.0748, 'grad_norm': 4.403021335601807, 'learning_rate': 2.1936929595827903e-06, 'epoch': 7.81}
+{'loss': 0.0009, 'grad_norm': 0.10778374969959259, 'learning_rate': 2.1916558018252936e-06, 'epoch': 7.81}
+{'loss': 0.0708, 'grad_norm': 0.0018723926041275263, 'learning_rate': 2.189618644067797e-06, 'epoch': 7.81}
+{'loss': 0.0423, 'grad_norm': 0.015949387103319168, 'learning_rate': 2.1875814863103e-06, 'epoch': 7.81}
+{'loss': 0.1059, 'grad_norm': 0.008691778406500816, 'learning_rate': 2.1855443285528033e-06, 'epoch': 7.81}
+{'loss': 0.0001, 'grad_norm': 0.01221382338553667, 'learning_rate': 2.1835071707953067e-06, 'epoch': 7.82}
+{'loss': 0.093, 'grad_norm': 0.0030523473396897316, 'learning_rate': 2.1814700130378096e-06, 'epoch': 7.82}
+{'loss': 0.0682, 'grad_norm': 0.03338665887713432, 'learning_rate': 2.1794328552803134e-06, 'epoch': 7.82}
+{'loss': 0.0439, 'grad_norm': 85.92767333984375, 'learning_rate': 2.1773956975228163e-06, 'epoch': 7.82}
+{'loss': 0.0395, 'grad_norm': 5.021772861480713, 'learning_rate': 2.1753585397653197e-06, 'epoch': 7.82}
+{'loss': 0.0492, 'grad_norm': 0.00582777988165617, 'learning_rate': 2.1733213820078226e-06, 'epoch': 7.83}
+{'loss': 0.0002, 'grad_norm': 0.0038781329058110714, 'learning_rate': 2.1712842242503264e-06, 'epoch': 7.83}
+{'loss': 0.0421, 'grad_norm': 0.0041512297466397285, 'learning_rate': 2.1692470664928294e-06, 'epoch': 7.83}
+{'loss': 0.0541, 'grad_norm': 0.001550897490233183, 'learning_rate': 2.1672099087353327e-06, 'epoch': 7.83}
+{'loss': 0.0376, 'grad_norm': 804.6646728515625, 'learning_rate': 2.1651727509778357e-06, 'epoch': 7.83}
+{'loss': 0.0225, 'grad_norm': 0.004728761501610279, 'learning_rate': 2.163135593220339e-06, 'epoch': 7.84}
+{'loss': 0.0187, 'grad_norm': 0.0003388452169019729, 'learning_rate': 2.1610984354628424e-06, 'epoch': 7.84}
+{'loss': 0.0463, 'grad_norm': 0.006994973868131638, 'learning_rate': 2.1590612777053458e-06, 'epoch': 7.84}
+{'loss': 0.0243, 'grad_norm': 0.0010637049563229084, 'learning_rate': 2.157024119947849e-06, 'epoch': 7.84}
+{'loss': 0.0828, 'grad_norm': 0.7782264351844788, 'learning_rate': 2.154986962190352e-06, 'epoch': 7.85}
+{'loss': 0.0269, 'grad_norm': 0.001015518675558269, 'learning_rate': 2.1529498044328554e-06, 'epoch': 7.85}
+{'loss': 0.0101, 'grad_norm': 0.0020708036608994007, 'learning_rate': 2.150912646675359e-06, 'epoch': 7.85}
+{'loss': 0.0384, 'grad_norm': 0.01542469672858715, 'learning_rate': 2.148875488917862e-06, 'epoch': 7.85}
+{'loss': 0.0, 'grad_norm': 0.016567330807447433, 'learning_rate': 2.146838331160365e-06, 'epoch': 7.85}
+{'loss': 0.0022, 'grad_norm': 0.0013230538461357355, 'learning_rate': 2.1448011734028685e-06, 'epoch': 7.86}
+{'loss': 0.0463, 'grad_norm': 0.009055346250534058, 'learning_rate': 2.142764015645372e-06, 'epoch': 7.86}
+{'loss': 0.0302, 'grad_norm': 0.0026346915401518345, 'learning_rate': 2.140726857887875e-06, 'epoch': 7.86}
+{'loss': 0.0002, 'grad_norm': 0.0006557898595929146, 'learning_rate': 2.138689700130378e-06, 'epoch': 7.86}
+{'loss': 0.1244, 'grad_norm': 214.89022827148438, 'learning_rate': 2.1366525423728815e-06, 'epoch': 7.86}
+{'loss': 0.0538, 'grad_norm': 0.003405560739338398, 'learning_rate': 2.134615384615385e-06, 'epoch': 7.87}
+{'loss': 0.0597, 'grad_norm': 0.0016262286808341742, 'learning_rate': 2.1325782268578882e-06, 'epoch': 7.87}
+{'loss': 0.0858, 'grad_norm': 0.006199789233505726, 'learning_rate': 2.130541069100391e-06, 'epoch': 7.87}
+{'loss': 0.1117, 'grad_norm': 0.002417051000520587, 'learning_rate': 2.1285039113428945e-06, 'epoch': 7.87}
+{'loss': 0.0269, 'grad_norm': 0.015418387949466705, 'learning_rate': 2.126466753585398e-06, 'epoch': 7.87}
+{'loss': 0.0707, 'grad_norm': 0.004358440171927214, 'learning_rate': 2.124429595827901e-06, 'epoch': 7.88}
+{'loss': 0.0034, 'grad_norm': 0.0008778480696491897, 'learning_rate': 2.1223924380704046e-06, 'epoch': 7.88}
+{'loss': 0.0265, 'grad_norm': 0.009481102228164673, 'learning_rate': 2.1203552803129076e-06, 'epoch': 7.88}
+{'loss': 0.0569, 'grad_norm': 0.0004741790471598506, 'learning_rate': 2.118318122555411e-06, 'epoch': 7.88}
+{'loss': 0.0491, 'grad_norm': 0.007019856479018927, 'learning_rate': 2.116280964797914e-06, 'epoch': 7.88}
+{'loss': 0.0543, 'grad_norm': 0.11005715280771255, 'learning_rate': 2.1142438070404172e-06, 'epoch': 7.89}
+{'loss': 0.0002, 'grad_norm': 0.002397062722593546, 'learning_rate': 2.1122066492829206e-06, 'epoch': 7.89}
+{'loss': 0.0328, 'grad_norm': 0.003172589698806405, 'learning_rate': 2.110169491525424e-06, 'epoch': 7.89}
+{'loss': 0.0597, 'grad_norm': 0.010498296469449997, 'learning_rate': 2.1081323337679273e-06, 'epoch': 7.89}
+{'loss': 0.1396, 'grad_norm': 0.006193413864821196, 'learning_rate': 2.1060951760104303e-06, 'epoch': 7.89}
+{'loss': 0.0001, 'grad_norm': 0.00742433313280344, 'learning_rate': 2.1040580182529336e-06, 'epoch': 7.9}
+{'loss': 0.0269, 'grad_norm': 0.00485118106007576, 'learning_rate': 2.102020860495437e-06, 'epoch': 7.9}
+{'loss': 0.0001, 'grad_norm': 1.9777629375457764, 'learning_rate': 2.0999837027379404e-06, 'epoch': 7.9}
+{'loss': 0.0067, 'grad_norm': 0.012429769150912762, 'learning_rate': 2.0979465449804433e-06, 'epoch': 7.9}
+{'loss': 0.0358, 'grad_norm': 0.0013885607477277517, 'learning_rate': 2.0959093872229467e-06, 'epoch': 7.9}
+{'loss': 0.054, 'grad_norm': 30.010772705078125, 'learning_rate': 2.09387222946545e-06, 'epoch': 7.91}
+{'loss': 0.0001, 'grad_norm': 0.0055181304924190044, 'learning_rate': 2.0918350717079534e-06, 'epoch': 7.91}
+{'loss': 0.0007, 'grad_norm': 0.023742550984025, 'learning_rate': 2.0897979139504563e-06, 'epoch': 7.91}
+{'loss': 0.0413, 'grad_norm': 0.0007718543638475239, 'learning_rate': 2.0877607561929597e-06, 'epoch': 7.91}
+{'loss': 0.1132, 'grad_norm': 0.004918606486171484, 'learning_rate': 2.085723598435463e-06, 'epoch': 7.91}
+{'loss': 0.0158, 'grad_norm': 1.3102214336395264, 'learning_rate': 2.0836864406779664e-06, 'epoch': 7.92}
+{'loss': 0.0, 'grad_norm': 0.002016416983678937, 'learning_rate': 2.0816492829204694e-06, 'epoch': 7.92}
+{'loss': 0.1392, 'grad_norm': 0.0005528688197955489, 'learning_rate': 2.0796121251629727e-06, 'epoch': 7.92}
+{'loss': 0.0903, 'grad_norm': 0.001070748083293438, 'learning_rate': 2.077574967405476e-06, 'epoch': 7.92}
+{'loss': 0.0001, 'grad_norm': 0.6251614689826965, 'learning_rate': 2.075537809647979e-06, 'epoch': 7.92}
+{'loss': 0.0845, 'grad_norm': 0.001993419136852026, 'learning_rate': 2.073500651890483e-06, 'epoch': 7.93}
+{'loss': 0.0791, 'grad_norm': 0.0014996143290773034, 'learning_rate': 2.0714634941329858e-06, 'epoch': 7.93}
+{'loss': 0.0001, 'grad_norm': 0.004046890884637833, 'learning_rate': 2.069426336375489e-06, 'epoch': 7.93}
+{'loss': 0.1132, 'grad_norm': 0.00165097217541188, 'learning_rate': 2.067389178617992e-06, 'epoch': 7.93}
+{'loss': 0.0519, 'grad_norm': 0.0008518665563315153, 'learning_rate': 2.065352020860496e-06, 'epoch': 7.93}
+{'loss': 0.0916, 'grad_norm': 0.007067295257002115, 'learning_rate': 2.063314863102999e-06, 'epoch': 7.94}
+{'loss': 0.0572, 'grad_norm': 0.004095667507499456, 'learning_rate': 2.061277705345502e-06, 'epoch': 7.94}
+{'loss': 0.0001, 'grad_norm': 0.011736775748431683, 'learning_rate': 2.0592405475880055e-06, 'epoch': 7.94}
+{'loss': 0.0753, 'grad_norm': 0.007726157549768686, 'learning_rate': 2.0572033898305085e-06, 'epoch': 7.94}
+{'loss': 0.0001, 'grad_norm': 0.004034058190882206, 'learning_rate': 2.055166232073012e-06, 'epoch': 7.94}
+{'loss': 0.0976, 'grad_norm': 0.0022466983646154404, 'learning_rate': 2.053129074315515e-06, 'epoch': 7.95}
+{'loss': 0.1324, 'grad_norm': 43.78709411621094, 'learning_rate': 2.0510919165580186e-06, 'epoch': 7.95}
+{'loss': 0.1213, 'grad_norm': 0.015670111402869225, 'learning_rate': 2.0490547588005215e-06, 'epoch': 7.95}
+{'loss': 0.0009, 'grad_norm': 0.00385621702298522, 'learning_rate': 2.047017601043025e-06, 'epoch': 7.95}
+{'loss': 0.0251, 'grad_norm': 0.0017433965113013983, 'learning_rate': 2.0449804432855282e-06, 'epoch': 7.96}
+{'loss': 0.0029, 'grad_norm': 0.20767608284950256, 'learning_rate': 2.0429432855280316e-06, 'epoch': 7.96}
+{'loss': 0.0003, 'grad_norm': 0.0007579713128507137, 'learning_rate': 2.0409061277705346e-06, 'epoch': 7.96}
+{'loss': 0.1246, 'grad_norm': 0.0029520434327423573, 'learning_rate': 2.038868970013038e-06, 'epoch': 7.96}
+{'loss': 0.0457, 'grad_norm': 0.006718215998262167, 'learning_rate': 2.0368318122555413e-06, 'epoch': 7.96}
+{'loss': 0.0001, 'grad_norm': 0.22512221336364746, 'learning_rate': 2.0347946544980446e-06, 'epoch': 7.97}
+{'loss': 0.0811, 'grad_norm': 0.010102578438818455, 'learning_rate': 2.0327574967405476e-06, 'epoch': 7.97}
+{'loss': 0.0689, 'grad_norm': 0.009146308526396751, 'learning_rate': 2.030720338983051e-06, 'epoch': 7.97}
+{'loss': 0.0236, 'grad_norm': 0.31887945532798767, 'learning_rate': 2.0286831812255543e-06, 'epoch': 7.97}
+{'loss': 0.0314, 'grad_norm': 0.003042491851374507, 'learning_rate': 2.0266460234680577e-06, 'epoch': 7.97}
+{'loss': 0.0001, 'grad_norm': 1.8936619758605957, 'learning_rate': 2.024608865710561e-06, 'epoch': 7.98}
+{'loss': 0.1126, 'grad_norm': 0.014433802105486393, 'learning_rate': 2.022571707953064e-06, 'epoch': 7.98}
+{'loss': 0.0385, 'grad_norm': 0.004345430992543697, 'learning_rate': 2.0205345501955674e-06, 'epoch': 7.98}
+{'loss': 0.0373, 'grad_norm': 0.14333906769752502, 'learning_rate': 2.0184973924380703e-06, 'epoch': 7.98}
+{'loss': 0.0864, 'grad_norm': 158.7046661376953, 'learning_rate': 2.016460234680574e-06, 'epoch': 7.98}
+{'loss': 0.0522, 'grad_norm': 0.015237748622894287, 'learning_rate': 2.014423076923077e-06, 'epoch': 7.99}
+{'loss': 0.0264, 'grad_norm': 0.02498684823513031, 'learning_rate': 2.0123859191655804e-06, 'epoch': 7.99}
+{'loss': 0.0835, 'grad_norm': 0.01815885305404663, 'learning_rate': 2.0103487614080837e-06, 'epoch': 7.99}
+{'loss': 0.0432, 'grad_norm': 151.6417236328125, 'learning_rate': 2.0083116036505867e-06, 'epoch': 7.99}
+{'loss': 0.0344, 'grad_norm': 0.006565581541508436, 'learning_rate': 2.00627444589309e-06, 'epoch': 7.99}
+{'loss': 0.0132, 'grad_norm': 0.0038078981451690197, 'learning_rate': 2.0042372881355934e-06, 'epoch': 8.0}
+{'loss': 0.0094, 'grad_norm': 0.0015970461536198854, 'learning_rate': 2.0022001303780968e-06, 'epoch': 8.0}
+{'loss': 0.0102, 'grad_norm': 0.005685387644916773, 'learning_rate': 2.0001629726205997e-06, 'epoch': 8.0}
+{'loss': 0.0054, 'grad_norm': 0.022233832627534866, 'learning_rate': 1.998125814863103e-06, 'epoch': 8.0}
+{'loss': 0.0031, 'grad_norm': 195.81005859375, 'learning_rate': 1.9960886571056065e-06, 'epoch': 8.0}
+{'loss': 0.0947, 'grad_norm': 0.005303635261952877, 'learning_rate': 1.99405149934811e-06, 'epoch': 8.01}
+{'loss': 0.001, 'grad_norm': 0.000742129166610539, 'learning_rate': 1.9920143415906128e-06, 'epoch': 8.01}
+{'loss': 0.0002, 'grad_norm': 0.003085525007918477, 'learning_rate': 1.989977183833116e-06, 'epoch': 8.01}
+{'loss': 0.0313, 'grad_norm': 0.000652918650303036, 'learning_rate': 1.9879400260756195e-06, 'epoch': 8.01}
+{'loss': 0.0297, 'grad_norm': 0.000733361579477787, 'learning_rate': 1.985902868318123e-06, 'epoch': 8.01}
+{'loss': 0.0, 'grad_norm': 0.0011460159439593554, 'learning_rate': 1.983865710560626e-06, 'epoch': 8.02}
+{'loss': 0.0331, 'grad_norm': 0.0011015036143362522, 'learning_rate': 1.981828552803129e-06, 'epoch': 8.02}
+{'loss': 0.0, 'grad_norm': 0.0035883858799934387, 'learning_rate': 1.9797913950456325e-06, 'epoch': 8.02}
+{'loss': 0.0, 'grad_norm': 0.0010545606492087245, 'learning_rate': 1.977754237288136e-06, 'epoch': 8.02}
+{'loss': 0.0101, 'grad_norm': 0.0010633408091962337, 'learning_rate': 1.9757170795306393e-06, 'epoch': 8.02}
+{'loss': 0.0, 'grad_norm': 0.000475028034998104, 'learning_rate': 1.973679921773142e-06, 'epoch': 8.03}
+{'loss': 0.0386, 'grad_norm': 0.003907866310328245, 'learning_rate': 1.9716427640156456e-06, 'epoch': 8.03}
+{'loss': 0.0, 'grad_norm': 0.0014309879625216126, 'learning_rate': 1.9696056062581485e-06, 'epoch': 8.03}
+{'loss': 0.0, 'grad_norm': 0.0021601079497486353, 'learning_rate': 1.9675684485006523e-06, 'epoch': 8.03}
+{'loss': 0.0154, 'grad_norm': 0.0004327674105297774, 'learning_rate': 1.9655312907431552e-06, 'epoch': 8.03}
+{'loss': 0.0, 'grad_norm': 0.010317191481590271, 'learning_rate': 1.9634941329856586e-06, 'epoch': 8.04}
+{'loss': 0.0002, 'grad_norm': 0.0009249933646060526, 'learning_rate': 1.961456975228162e-06, 'epoch': 8.04}
+{'loss': 0.1312, 'grad_norm': 0.0005830460577271879, 'learning_rate': 1.959419817470665e-06, 'epoch': 8.04}
+{'loss': 0.006, 'grad_norm': 0.002569036791101098, 'learning_rate': 1.9573826597131683e-06, 'epoch': 8.04}
+{'loss': 0.0, 'grad_norm': 0.0005154893733561039, 'learning_rate': 1.9553455019556716e-06, 'epoch': 8.04}
+{'loss': 0.0006, 'grad_norm': 2.322798490524292, 'learning_rate': 1.953308344198175e-06, 'epoch': 8.05}
+{'loss': 0.0089, 'grad_norm': 0.0059937769547104836, 'learning_rate': 1.951271186440678e-06, 'epoch': 8.05}
+{'loss': 0.0065, 'grad_norm': 0.001854770933277905, 'learning_rate': 1.9492340286831817e-06, 'epoch': 8.05}
+{'loss': 0.1556, 'grad_norm': 0.006722561549395323, 'learning_rate': 1.9471968709256847e-06, 'epoch': 8.05}
+{'loss': 0.0823, 'grad_norm': 3231.706787109375, 'learning_rate': 1.945159713168188e-06, 'epoch': 8.05}
+{'loss': 0.0703, 'grad_norm': 0.004866081289947033, 'learning_rate': 1.943122555410691e-06, 'epoch': 8.06}
+{'loss': 0.0635, 'grad_norm': 58.42210006713867, 'learning_rate': 1.9410853976531943e-06, 'epoch': 8.06}
+{'loss': 0.0255, 'grad_norm': 0.0025958784390240908, 'learning_rate': 1.9390482398956977e-06, 'epoch': 8.06}
+{'loss': 0.0026, 'grad_norm': 0.0022091201972216368, 'learning_rate': 1.937011082138201e-06, 'epoch': 8.06}
+{'loss': 0.0142, 'grad_norm': 2.1445441246032715, 'learning_rate': 1.934973924380704e-06, 'epoch': 8.07}
+{'loss': 0.0, 'grad_norm': 0.0009249531431123614, 'learning_rate': 1.9329367666232074e-06, 'epoch': 8.07}
+{'loss': 0.0404, 'grad_norm': 0.007954508066177368, 'learning_rate': 1.9308996088657107e-06, 'epoch': 8.07}
+{'loss': 0.0, 'grad_norm': 0.0006712963222526014, 'learning_rate': 1.928862451108214e-06, 'epoch': 8.07}
+{'loss': 0.0185, 'grad_norm': 0.001168592250905931, 'learning_rate': 1.9268252933507175e-06, 'epoch': 8.07}
+{'loss': 0.0063, 'grad_norm': 0.0007186660659499466, 'learning_rate': 1.9247881355932204e-06, 'epoch': 8.08}
+{'loss': 0.0465, 'grad_norm': 0.00020117548410780728, 'learning_rate': 1.9227509778357238e-06, 'epoch': 8.08}
+{'loss': 0.0427, 'grad_norm': 0.0011289875255897641, 'learning_rate': 1.920713820078227e-06, 'epoch': 8.08}
+{'loss': 0.0139, 'grad_norm': 0.0011235119309276342, 'learning_rate': 1.9186766623207305e-06, 'epoch': 8.08}
+{'loss': 0.0055, 'grad_norm': 984.7522583007812, 'learning_rate': 1.9166395045632334e-06, 'epoch': 8.08}
+{'loss': 0.0, 'grad_norm': 0.008243954740464687, 'learning_rate': 1.914602346805737e-06, 'epoch': 8.09}
+{'loss': 0.0001, 'grad_norm': 0.0027895276434719563, 'learning_rate': 1.91256518904824e-06, 'epoch': 8.09}
+{'loss': 0.0194, 'grad_norm': 0.004944802261888981, 'learning_rate': 1.9105280312907435e-06, 'epoch': 8.09}
+{'loss': 0.0, 'grad_norm': 0.007803247310221195, 'learning_rate': 1.9084908735332465e-06, 'epoch': 8.09}
+{'loss': 0.0, 'grad_norm': 0.0024038241244852543, 'learning_rate': 1.9064537157757498e-06, 'epoch': 8.09}
+{'loss': 0.0002, 'grad_norm': 4.0211289160652086e-05, 'learning_rate': 1.904416558018253e-06, 'epoch': 8.1}
+{'loss': 0.0, 'grad_norm': 0.003831651294603944, 'learning_rate': 1.9023794002607561e-06, 'epoch': 8.1}
+{'loss': 0.011, 'grad_norm': 0.00016874638095032424, 'learning_rate': 1.9003422425032597e-06, 'epoch': 8.1}
+{'loss': 0.0079, 'grad_norm': 0.005400769412517548, 'learning_rate': 1.8983050847457629e-06, 'epoch': 8.1}
+{'loss': 0.0058, 'grad_norm': 0.0022054887376725674, 'learning_rate': 1.896267926988266e-06, 'epoch': 8.1}
+{'loss': 0.1329, 'grad_norm': 1038.8309326171875, 'learning_rate': 1.8942307692307694e-06, 'epoch': 8.11}
+{'loss': 0.0013, 'grad_norm': 0.0005147602641955018, 'learning_rate': 1.8921936114732725e-06, 'epoch': 8.11}
+{'loss': 0.0, 'grad_norm': 0.000623336061835289, 'learning_rate': 1.890156453715776e-06, 'epoch': 8.11}
+{'loss': 0.0581, 'grad_norm': 9.858919656835496e-05, 'learning_rate': 1.8881192959582793e-06, 'epoch': 8.11}
+{'loss': 0.006, 'grad_norm': 0.008160114288330078, 'learning_rate': 1.8860821382007824e-06, 'epoch': 8.11}
+{'loss': 0.0136, 'grad_norm': 0.0006944689084775746, 'learning_rate': 1.8840449804432856e-06, 'epoch': 8.12}
+{'loss': 0.0305, 'grad_norm': 0.005137016996741295, 'learning_rate': 1.8820078226857892e-06, 'epoch': 8.12}
+{'loss': 0.0514, 'grad_norm': 6.1236572265625, 'learning_rate': 1.8799706649282923e-06, 'epoch': 8.12}
+{'loss': 0.0, 'grad_norm': 0.03959228843450546, 'learning_rate': 1.8779335071707955e-06, 'epoch': 8.12}
+{'loss': 0.0011, 'grad_norm': 5.9677510261535645, 'learning_rate': 1.8758963494132986e-06, 'epoch': 8.12}
+{'loss': 0.0, 'grad_norm': 0.00047369589447043836, 'learning_rate': 1.873859191655802e-06, 'epoch': 8.13}
+{'loss': 0.0006, 'grad_norm': 0.001793030882254243, 'learning_rate': 1.8718220338983053e-06, 'epoch': 8.13}
+{'loss': 0.0707, 'grad_norm': 951.0856323242188, 'learning_rate': 1.8697848761408085e-06, 'epoch': 8.13}
+{'loss': 0.0, 'grad_norm': 0.0016193693736568093, 'learning_rate': 1.8677477183833119e-06, 'epoch': 8.13}
+{'loss': 0.0, 'grad_norm': 0.0018303801771253347, 'learning_rate': 1.865710560625815e-06, 'epoch': 8.13}
+{'loss': 0.0653, 'grad_norm': 0.0005693580606020987, 'learning_rate': 1.8636734028683182e-06, 'epoch': 8.14}
+{'loss': 0.0001, 'grad_norm': 0.00023413060989696532, 'learning_rate': 1.8616362451108217e-06, 'epoch': 8.14}
+{'loss': 0.0, 'grad_norm': 0.00010653828212525696, 'learning_rate': 1.8595990873533249e-06, 'epoch': 8.14}
+{'loss': 0.0418, 'grad_norm': 0.00011021753016393632, 'learning_rate': 1.857561929595828e-06, 'epoch': 8.14}
+{'loss': 0.0072, 'grad_norm': 5.215871351538226e-05, 'learning_rate': 1.8555247718383312e-06, 'epoch': 8.14}
+{'loss': 0.0003, 'grad_norm': 0.0063255769200623035, 'learning_rate': 1.8534876140808343e-06, 'epoch': 8.15}
+{'loss': 0.037, 'grad_norm': 0.10771562904119492, 'learning_rate': 1.851450456323338e-06, 'epoch': 8.15}
+{'eval_loss': 14.947455406188965, 'eval_accuracy': 0.7068273092369478, 'eval_runtime': 1.3895, 'eval_samples_per_second': 1791.967, 'eval_steps_per_second': 56.134, 'epoch': 8.15}
+{'loss': 0.0004, 'grad_norm': 0.0005676124710589647, 'learning_rate': 1.849413298565841e-06, 'epoch': 8.15}
+{'loss': 0.0547, 'grad_norm': 0.0025906898081302643, 'learning_rate': 1.8473761408083442e-06, 'epoch': 8.15}
+{'loss': 0.0016, 'grad_norm': 4.033095836639404, 'learning_rate': 1.8453389830508476e-06, 'epoch': 8.15}
+{'loss': 0.0, 'grad_norm': 0.0005645602359436452, 'learning_rate': 1.843301825293351e-06, 'epoch': 8.16}
+{'loss': 0.0, 'grad_norm': 0.0005193566903471947, 'learning_rate': 1.8412646675358541e-06, 'epoch': 8.16}
+{'loss': 0.0101, 'grad_norm': 0.004912401549518108, 'learning_rate': 1.8392275097783575e-06, 'epoch': 8.16}
+{'loss': 0.0623, 'grad_norm': 0.004516239278018475, 'learning_rate': 1.8371903520208606e-06, 'epoch': 8.16}
+{'loss': 0.0, 'grad_norm': 0.00026412593433633447, 'learning_rate': 1.8351531942633638e-06, 'epoch': 8.16}
+{'loss': 0.0001, 'grad_norm': 0.0004956883494742215, 'learning_rate': 1.8331160365058674e-06, 'epoch': 8.17}
+{'loss': 0.0, 'grad_norm': 0.0007101663504727185, 'learning_rate': 1.8310788787483705e-06, 'epoch': 8.17}
+{'loss': 0.0016, 'grad_norm': 7.003350765444338e-05, 'learning_rate': 1.8290417209908737e-06, 'epoch': 8.17}
+{'loss': 0.05, 'grad_norm': 0.004644670523703098, 'learning_rate': 1.8270045632333768e-06, 'epoch': 8.17}
+{'loss': 0.0389, 'grad_norm': 0.0007544889231212437, 'learning_rate': 1.8249674054758802e-06, 'epoch': 8.18}
+{'loss': 0.0119, 'grad_norm': 0.00030308941495604813, 'learning_rate': 1.8229302477183835e-06, 'epoch': 8.18}
+{'loss': 0.0225, 'grad_norm': 0.0018623318755999207, 'learning_rate': 1.8208930899608867e-06, 'epoch': 8.18}
+{'loss': 0.0545, 'grad_norm': 0.0004990540910512209, 'learning_rate': 1.81885593220339e-06, 'epoch': 8.18}
+{'loss': 0.0, 'grad_norm': 0.0007025623926892877, 'learning_rate': 1.8168187744458932e-06, 'epoch': 8.18}
+{'loss': 0.0138, 'grad_norm': 0.012275869026780128, 'learning_rate': 1.8147816166883964e-06, 'epoch': 8.19}
+{'loss': 0.0712, 'grad_norm': 141.80905151367188, 'learning_rate': 1.8127444589309e-06, 'epoch': 8.19}
+{'loss': 0.0, 'grad_norm': 0.0010030587436631322, 'learning_rate': 1.810707301173403e-06, 'epoch': 8.19}
+{'loss': 0.0008, 'grad_norm': 0.004925812594592571, 'learning_rate': 1.8086701434159063e-06, 'epoch': 8.19}
+{'loss': 0.0, 'grad_norm': 0.00023531434999313205, 'learning_rate': 1.8066329856584094e-06, 'epoch': 8.19}
+{'loss': 0.0167, 'grad_norm': 1.5736863613128662, 'learning_rate': 1.804595827900913e-06, 'epoch': 8.2}
+{'loss': 0.0, 'grad_norm': 0.00765145942568779, 'learning_rate': 1.8025586701434161e-06, 'epoch': 8.2}
+{'loss': 0.0, 'grad_norm': 0.00033229790278710425, 'learning_rate': 1.8005215123859193e-06, 'epoch': 8.2}
+{'loss': 0.1097, 'grad_norm': 0.0011881801765412092, 'learning_rate': 1.7984843546284224e-06, 'epoch': 8.2}
+{'loss': 0.1072, 'grad_norm': 0.0068637169897556305, 'learning_rate': 1.7964471968709258e-06, 'epoch': 8.2}
+{'loss': 0.0, 'grad_norm': 0.014726578257977962, 'learning_rate': 1.7944100391134292e-06, 'epoch': 8.21}
+{'loss': 0.0003, 'grad_norm': 0.0029245091136544943, 'learning_rate': 1.7923728813559323e-06, 'epoch': 8.21}
+{'loss': 0.0, 'grad_norm': 0.0039490219205617905, 'learning_rate': 1.7903357235984357e-06, 'epoch': 8.21}
+{'loss': 0.0974, 'grad_norm': 9.625406528357416e-05, 'learning_rate': 1.7882985658409388e-06, 'epoch': 8.21}
+{'loss': 0.05, 'grad_norm': 0.000596839003264904, 'learning_rate': 1.786261408083442e-06, 'epoch': 8.21}
+{'loss': 0.0279, 'grad_norm': 0.000993296504020691, 'learning_rate': 1.7842242503259456e-06, 'epoch': 8.22}
+{'loss': 0.0066, 'grad_norm': 0.005224061664193869, 'learning_rate': 1.7821870925684487e-06, 'epoch': 8.22}
+{'loss': 0.0001, 'grad_norm': 0.00047743236063979566, 'learning_rate': 1.7801499348109519e-06, 'epoch': 8.22}
+{'loss': 0.0006, 'grad_norm': 0.0011869346490129828, 'learning_rate': 1.778112777053455e-06, 'epoch': 8.22}
+{'loss': 0.0013, 'grad_norm': 0.0028639661613851786, 'learning_rate': 1.7760756192959584e-06, 'epoch': 8.22}
+{'loss': 0.0257, 'grad_norm': 0.0003618876216933131, 'learning_rate': 1.7740384615384618e-06, 'epoch': 8.23}
+{'loss': 0.0141, 'grad_norm': 8.0963773727417, 'learning_rate': 1.772001303780965e-06, 'epoch': 8.23}
+{'loss': 0.0271, 'grad_norm': 0.000436941598309204, 'learning_rate': 1.7699641460234683e-06, 'epoch': 8.23}
+{'loss': 0.0, 'grad_norm': 0.0005418401560746133, 'learning_rate': 1.7679269882659714e-06, 'epoch': 8.23}
+{'loss': 0.0609, 'grad_norm': 0.0005965149030089378, 'learning_rate': 1.7658898305084748e-06, 'epoch': 8.23}
+{'loss': 0.0124, 'grad_norm': 0.16984885931015015, 'learning_rate': 1.763852672750978e-06, 'epoch': 8.24}
+{'loss': 0.0, 'grad_norm': 0.0007296635885722935, 'learning_rate': 1.7618155149934813e-06, 'epoch': 8.24}
+{'loss': 0.0242, 'grad_norm': 33.18376541137695, 'learning_rate': 1.7597783572359845e-06, 'epoch': 8.24}
+{'loss': 0.0002, 'grad_norm': 0.0019067097455263138, 'learning_rate': 1.7577411994784876e-06, 'epoch': 8.24}
+{'loss': 0.026, 'grad_norm': 0.0007176236249506474, 'learning_rate': 1.7557040417209912e-06, 'epoch': 8.24}
+{'loss': 0.0, 'grad_norm': 0.0022465146612375975, 'learning_rate': 1.7536668839634943e-06, 'epoch': 8.25}
+{'loss': 0.0094, 'grad_norm': 0.0024848158936947584, 'learning_rate': 1.7516297262059975e-06, 'epoch': 8.25}
+{'loss': 0.033, 'grad_norm': 0.0010858626337721944, 'learning_rate': 1.7495925684485006e-06, 'epoch': 8.25}
+{'loss': 0.0296, 'grad_norm': 0.03296476602554321, 'learning_rate': 1.747555410691004e-06, 'epoch': 8.25}
+{'loss': 0.0356, 'grad_norm': 0.002079143188893795, 'learning_rate': 1.7455182529335074e-06, 'epoch': 8.25}
+{'loss': 0.0569, 'grad_norm': 0.0051408009603619576, 'learning_rate': 1.7434810951760105e-06, 'epoch': 8.26}
+{'loss': 0.057, 'grad_norm': 0.0007671306375414133, 'learning_rate': 1.7414439374185139e-06, 'epoch': 8.26}
+{'loss': 0.0002, 'grad_norm': 0.00042334201862104237, 'learning_rate': 1.739406779661017e-06, 'epoch': 8.26}
+{'loss': 0.0877, 'grad_norm': 0.0015773928025737405, 'learning_rate': 1.7373696219035204e-06, 'epoch': 8.26}
+{'loss': 0.0082, 'grad_norm': 0.0038689449429512024, 'learning_rate': 1.7353324641460238e-06, 'epoch': 8.26}
+{'loss': 0.1203, 'grad_norm': 0.015305967070162296, 'learning_rate': 1.733295306388527e-06, 'epoch': 8.27}
+{'loss': 0.0291, 'grad_norm': 0.006327793002128601, 'learning_rate': 1.73125814863103e-06, 'epoch': 8.27}
+{'loss': 0.0247, 'grad_norm': 0.0010440265759825706, 'learning_rate': 1.7292209908735332e-06, 'epoch': 8.27}
+{'loss': 0.0655, 'grad_norm': 0.0015998282469809055, 'learning_rate': 1.7271838331160368e-06, 'epoch': 8.27}
+{'loss': 0.0, 'grad_norm': 0.0022248458117246628, 'learning_rate': 1.72514667535854e-06, 'epoch': 8.27}
+{'loss': 0.0, 'grad_norm': 0.01818234845995903, 'learning_rate': 1.7231095176010431e-06, 'epoch': 8.28}
+{'loss': 0.0, 'grad_norm': 0.002358284080401063, 'learning_rate': 1.7210723598435463e-06, 'epoch': 8.28}
+{'loss': 0.0275, 'grad_norm': 0.0007764633628539741, 'learning_rate': 1.7190352020860496e-06, 'epoch': 8.28}
+{'loss': 0.0175, 'grad_norm': 0.0020255057606846094, 'learning_rate': 1.716998044328553e-06, 'epoch': 8.28}
+{'loss': 0.0001, 'grad_norm': 0.07539640367031097, 'learning_rate': 1.7149608865710561e-06, 'epoch': 8.29}
+{'loss': 0.2205, 'grad_norm': 0.007766996510326862, 'learning_rate': 1.7129237288135595e-06, 'epoch': 8.29}
+{'loss': 0.0099, 'grad_norm': 0.0187941025942564, 'learning_rate': 1.7108865710560627e-06, 'epoch': 8.29}
+{'loss': 0.0009, 'grad_norm': 0.007543544750660658, 'learning_rate': 1.7088494132985658e-06, 'epoch': 8.29}
+{'loss': 0.0055, 'grad_norm': 0.003916149493306875, 'learning_rate': 1.7068122555410694e-06, 'epoch': 8.29}
+{'loss': 0.0001, 'grad_norm': 0.0006660123472101986, 'learning_rate': 1.7047750977835725e-06, 'epoch': 8.3}
+{'loss': 0.0614, 'grad_norm': 0.0005795793840661645, 'learning_rate': 1.7027379400260757e-06, 'epoch': 8.3}
+{'loss': 0.1063, 'grad_norm': 0.016563696786761284, 'learning_rate': 1.7007007822685789e-06, 'epoch': 8.3}
+{'loss': 0.0, 'grad_norm': 0.060005418956279755, 'learning_rate': 1.6986636245110824e-06, 'epoch': 8.3}
+{'loss': 0.0132, 'grad_norm': 0.017492247745394707, 'learning_rate': 1.6966264667535856e-06, 'epoch': 8.3}
+{'loss': 0.0, 'grad_norm': 0.004028891678899527, 'learning_rate': 1.6945893089960887e-06, 'epoch': 8.31}
+{'loss': 0.0137, 'grad_norm': 0.008365822024643421, 'learning_rate': 1.692552151238592e-06, 'epoch': 8.31}
+{'loss': 0.0077, 'grad_norm': 0.005406548734754324, 'learning_rate': 1.6905149934810953e-06, 'epoch': 8.31}
+{'loss': 0.0303, 'grad_norm': 0.012430804781615734, 'learning_rate': 1.6884778357235986e-06, 'epoch': 8.31}
+{'loss': 0.0002, 'grad_norm': 0.01137284655123949, 'learning_rate': 1.686440677966102e-06, 'epoch': 8.31}
+{'loss': 0.0941, 'grad_norm': 0.00010611151810735464, 'learning_rate': 1.6844035202086051e-06, 'epoch': 8.32}
+{'loss': 0.0001, 'grad_norm': 0.0028475583530962467, 'learning_rate': 1.6823663624511083e-06, 'epoch': 8.32}
+{'loss': 0.038, 'grad_norm': 0.001043632859364152, 'learning_rate': 1.6803292046936114e-06, 'epoch': 8.32}
+{'loss': 0.0291, 'grad_norm': 0.008127434179186821, 'learning_rate': 1.678292046936115e-06, 'epoch': 8.32}
+{'loss': 0.0822, 'grad_norm': 0.0038237280678004026, 'learning_rate': 1.6762548891786182e-06, 'epoch': 8.32}
+{'loss': 0.0177, 'grad_norm': 0.013163555413484573, 'learning_rate': 1.6742177314211213e-06, 'epoch': 8.33}
+{'loss': 0.0002, 'grad_norm': 0.08086684346199036, 'learning_rate': 1.6721805736636245e-06, 'epoch': 8.33}
+{'loss': 0.0, 'grad_norm': 0.0003899520088452846, 'learning_rate': 1.6701434159061278e-06, 'epoch': 8.33}
+{'loss': 0.0026, 'grad_norm': 0.002944478765130043, 'learning_rate': 1.6681062581486312e-06, 'epoch': 8.33}
+{'loss': 0.0015, 'grad_norm': 0.0025023343041539192, 'learning_rate': 1.6660691003911344e-06, 'epoch': 8.33}
+{'loss': 0.0314, 'grad_norm': 0.0007941265939734876, 'learning_rate': 1.6640319426336377e-06, 'epoch': 8.34}
+{'loss': 0.0, 'grad_norm': 0.00016068106924649328, 'learning_rate': 1.6619947848761409e-06, 'epoch': 8.34}
+{'loss': 0.0, 'grad_norm': 0.00017775714513845742, 'learning_rate': 1.6599576271186442e-06, 'epoch': 8.34}
+{'loss': 0.0285, 'grad_norm': 0.0007317602867260575, 'learning_rate': 1.6579204693611476e-06, 'epoch': 8.34}
+{'loss': 0.0544, 'grad_norm': 0.00023835856700316072, 'learning_rate': 1.6558833116036508e-06, 'epoch': 8.34}
+{'loss': 0.1028, 'grad_norm': 0.0019764963071793318, 'learning_rate': 1.653846153846154e-06, 'epoch': 8.35}
+{'loss': 0.0666, 'grad_norm': 0.0014483522390946746, 'learning_rate': 1.651808996088657e-06, 'epoch': 8.35}
+{'loss': 0.0, 'grad_norm': 0.00100419030059129, 'learning_rate': 1.6497718383311606e-06, 'epoch': 8.35}
+{'loss': 0.0198, 'grad_norm': 0.0006717110518366098, 'learning_rate': 1.6477346805736638e-06, 'epoch': 8.35}
+{'loss': 0.0, 'grad_norm': 0.0020917700603604317, 'learning_rate': 1.645697522816167e-06, 'epoch': 8.35}
+{'loss': 0.0, 'grad_norm': 0.00040572829311713576, 'learning_rate': 1.6436603650586703e-06, 'epoch': 8.36}
+{'loss': 0.0061, 'grad_norm': 0.00045348654384724796, 'learning_rate': 1.6416232073011735e-06, 'epoch': 8.36}
+{'loss': 0.0295, 'grad_norm': 0.00011241911124670878, 'learning_rate': 1.6395860495436768e-06, 'epoch': 8.36}
+{'loss': 0.0025, 'grad_norm': 0.005099092610180378, 'learning_rate': 1.6375488917861802e-06, 'epoch': 8.36}
+{'loss': 0.0717, 'grad_norm': 5.657315341522917e-05, 'learning_rate': 1.6355117340286833e-06, 'epoch': 8.36}
+{'loss': 0.0004, 'grad_norm': 0.0002732843568082899, 'learning_rate': 1.6334745762711865e-06, 'epoch': 8.37}
+{'loss': 0.1826, 'grad_norm': 0.0020984781440347433, 'learning_rate': 1.6314374185136896e-06, 'epoch': 8.37}
+{'loss': 0.0, 'grad_norm': 0.04348749667406082, 'learning_rate': 1.6294002607561932e-06, 'epoch': 8.37}
+{'loss': 0.0, 'grad_norm': 0.009367691352963448, 'learning_rate': 1.6273631029986964e-06, 'epoch': 8.37}
+{'loss': 0.0, 'grad_norm': 6.781266711186618e-05, 'learning_rate': 1.6253259452411995e-06, 'epoch': 8.37}
+{'loss': 0.0, 'grad_norm': 0.0006629540002904832, 'learning_rate': 1.6232887874837027e-06, 'epoch': 8.38}
+{'loss': 0.0, 'grad_norm': 0.0001769426162354648, 'learning_rate': 1.6212516297262063e-06, 'epoch': 8.38}
+{'loss': 0.0016, 'grad_norm': 0.004454717505723238, 'learning_rate': 1.6192144719687094e-06, 'epoch': 8.38}
+{'loss': 0.1242, 'grad_norm': 0.0012135837459936738, 'learning_rate': 1.6171773142112126e-06, 'epoch': 8.38}
+{'loss': 0.0, 'grad_norm': 0.0015181386843323708, 'learning_rate': 1.615140156453716e-06, 'epoch': 8.38}
+{'loss': 0.0, 'grad_norm': 0.0010406336514279246, 'learning_rate': 1.613102998696219e-06, 'epoch': 8.39}
+{'loss': 0.0302, 'grad_norm': 0.003769948612898588, 'learning_rate': 1.6110658409387224e-06, 'epoch': 8.39}
+{'loss': 0.0008, 'grad_norm': 0.000300324842100963, 'learning_rate': 1.6090286831812258e-06, 'epoch': 8.39}
+{'loss': 0.0, 'grad_norm': 0.0011795716127380729, 'learning_rate': 1.606991525423729e-06, 'epoch': 8.39}
+{'loss': 0.0144, 'grad_norm': 1.2811222076416016, 'learning_rate': 1.6049543676662321e-06, 'epoch': 8.4}
+{'loss': 0.0, 'grad_norm': 0.0007131856400519609, 'learning_rate': 1.6029172099087353e-06, 'epoch': 8.4}
+{'loss': 0.1281, 'grad_norm': 0.00010720566933741793, 'learning_rate': 1.6008800521512388e-06, 'epoch': 8.4}
+{'loss': 0.0101, 'grad_norm': 0.0008162982994690537, 'learning_rate': 1.598842894393742e-06, 'epoch': 8.4}
+{'loss': 0.0, 'grad_norm': 0.0015540271997451782, 'learning_rate': 1.5968057366362452e-06, 'epoch': 8.4}
+{'loss': 0.0004, 'grad_norm': 0.0035680700093507767, 'learning_rate': 1.5947685788787485e-06, 'epoch': 8.41}
+{'loss': 0.0081, 'grad_norm': 0.03652611002326012, 'learning_rate': 1.5927314211212519e-06, 'epoch': 8.41}
+{'loss': 0.0132, 'grad_norm': 0.0019167354330420494, 'learning_rate': 1.590694263363755e-06, 'epoch': 8.41}
+{'loss': 0.0391, 'grad_norm': 0.016376852989196777, 'learning_rate': 1.5886571056062584e-06, 'epoch': 8.41}
+{'loss': 0.1359, 'grad_norm': 0.00035292806569486856, 'learning_rate': 1.5866199478487616e-06, 'epoch': 8.41}
+{'loss': 0.087, 'grad_norm': 0.000996779534034431, 'learning_rate': 1.5845827900912647e-06, 'epoch': 8.42}
+{'loss': 0.0, 'grad_norm': 0.0003868438652716577, 'learning_rate': 1.5825456323337683e-06, 'epoch': 8.42}
+{'loss': 0.0116, 'grad_norm': 0.0022040747571736574, 'learning_rate': 1.5805084745762714e-06, 'epoch': 8.42}
+{'loss': 0.0424, 'grad_norm': 0.0043130675330758095, 'learning_rate': 1.5784713168187746e-06, 'epoch': 8.42}
+{'loss': 0.0, 'grad_norm': 0.0008374098688364029, 'learning_rate': 1.5764341590612777e-06, 'epoch': 8.42}
+{'loss': 0.0, 'grad_norm': 0.0001530759473098442, 'learning_rate': 1.5743970013037809e-06, 'epoch': 8.43}
+{'loss': 0.0001, 'grad_norm': 0.0016268901526927948, 'learning_rate': 1.5723598435462845e-06, 'epoch': 8.43}
+{'loss': 0.0161, 'grad_norm': 0.00322775193490088, 'learning_rate': 1.5703226857887876e-06, 'epoch': 8.43}
+{'loss': 0.0002, 'grad_norm': 0.0011363121448084712, 'learning_rate': 1.5682855280312908e-06, 'epoch': 8.43}
+{'loss': 0.0015, 'grad_norm': 0.0021172198466956615, 'learning_rate': 1.5662483702737941e-06, 'epoch': 8.43}
+{'loss': 0.0004, 'grad_norm': 0.0006068797083571553, 'learning_rate': 1.5642112125162973e-06, 'epoch': 8.44}
+{'loss': 0.0, 'grad_norm': 0.004096997436136007, 'learning_rate': 1.5621740547588007e-06, 'epoch': 8.44}
+{'loss': 0.032, 'grad_norm': 8.994457311928272e-05, 'learning_rate': 1.560136897001304e-06, 'epoch': 8.44}
+{'loss': 0.0016, 'grad_norm': 0.00078989053145051, 'learning_rate': 1.5580997392438072e-06, 'epoch': 8.44}
+{'loss': 0.0, 'grad_norm': 0.05697433277964592, 'learning_rate': 1.5560625814863103e-06, 'epoch': 8.44}
+{'loss': 0.0016, 'grad_norm': 0.005678047891706228, 'learning_rate': 1.554025423728814e-06, 'epoch': 8.45}
+{'loss': 0.0763, 'grad_norm': 0.0003048641374334693, 'learning_rate': 1.551988265971317e-06, 'epoch': 8.45}
+{'loss': 0.0, 'grad_norm': 0.0021612830460071564, 'learning_rate': 1.5499511082138202e-06, 'epoch': 8.45}
+{'loss': 0.0063, 'grad_norm': 0.0012135278666391969, 'learning_rate': 1.5479139504563234e-06, 'epoch': 8.45}
+{'loss': 0.1664, 'grad_norm': 0.0003081307513639331, 'learning_rate': 1.5458767926988267e-06, 'epoch': 8.45}
+{'loss': 0.0061, 'grad_norm': 0.0007460589404217899, 'learning_rate': 1.54383963494133e-06, 'epoch': 8.46}
+{'loss': 0.0, 'grad_norm': 0.0034664825070649385, 'learning_rate': 1.5418024771838332e-06, 'epoch': 8.46}
+{'loss': 0.0, 'grad_norm': 0.0012637900654226542, 'learning_rate': 1.5397653194263366e-06, 'epoch': 8.46}
+{'loss': 0.0, 'grad_norm': 0.0016995336627587676, 'learning_rate': 1.5377281616688398e-06, 'epoch': 8.46}
+{'loss': 0.0002, 'grad_norm': 0.020270954817533493, 'learning_rate': 1.535691003911343e-06, 'epoch': 8.46}
+{'loss': 0.0373, 'grad_norm': 0.00795257929712534, 'learning_rate': 1.5336538461538463e-06, 'epoch': 8.47}
+{'loss': 0.0448, 'grad_norm': 0.0003600575728341937, 'learning_rate': 1.5316166883963496e-06, 'epoch': 8.47}
+{'loss': 0.0005, 'grad_norm': 0.004543629474937916, 'learning_rate': 1.5295795306388528e-06, 'epoch': 8.47}
+{'loss': 0.0, 'grad_norm': 0.0006997400778345764, 'learning_rate': 1.527542372881356e-06, 'epoch': 8.47}
+{'loss': 0.0203, 'grad_norm': 0.0030501619912683964, 'learning_rate': 1.525505215123859e-06, 'epoch': 8.47}
+{'loss': 0.0, 'grad_norm': 0.004109867382794619, 'learning_rate': 1.5234680573663627e-06, 'epoch': 8.48}
+{'loss': 0.0071, 'grad_norm': 0.16635988652706146, 'learning_rate': 1.5214308996088658e-06, 'epoch': 8.48}
+{'loss': 0.0059, 'grad_norm': 0.00017694190319161862, 'learning_rate': 1.519393741851369e-06, 'epoch': 8.48}
+{'loss': 0.0036, 'grad_norm': 0.0008184398175217211, 'learning_rate': 1.5173565840938723e-06, 'epoch': 8.48}
+{'loss': 0.0483, 'grad_norm': 0.0022320332936942577, 'learning_rate': 1.5153194263363757e-06, 'epoch': 8.48}
+{'loss': 0.0, 'grad_norm': 0.0014149529160931706, 'learning_rate': 1.5132822685788789e-06, 'epoch': 8.49}
+{'loss': 0.0185, 'grad_norm': 0.000959764642175287, 'learning_rate': 1.5112451108213822e-06, 'epoch': 8.49}
+{'loss': 0.0216, 'grad_norm': 0.0035581106785684824, 'learning_rate': 1.5092079530638854e-06, 'epoch': 8.49}
+{'loss': 0.1357, 'grad_norm': 0.00434080557897687, 'learning_rate': 1.5071707953063885e-06, 'epoch': 8.49}
+{'loss': 0.1191, 'grad_norm': 0.0969405323266983, 'learning_rate': 1.5051336375488921e-06, 'epoch': 8.49}
+{'loss': 0.0003, 'grad_norm': 0.037587642669677734, 'learning_rate': 1.5030964797913953e-06, 'epoch': 8.5}
+{'loss': 0.0641, 'grad_norm': 0.015522393397986889, 'learning_rate': 1.5010593220338984e-06, 'epoch': 8.5}
+{'loss': 0.0003, 'grad_norm': 0.001859719050116837, 'learning_rate': 1.4990221642764016e-06, 'epoch': 8.5}
+{'loss': 0.0031, 'grad_norm': 0.023930922150611877, 'learning_rate': 1.4969850065189047e-06, 'epoch': 8.5}
+{'loss': 0.0614, 'grad_norm': 0.008331247605383396, 'learning_rate': 1.4949478487614083e-06, 'epoch': 8.51}
+{'loss': 0.0359, 'grad_norm': 0.010799562558531761, 'learning_rate': 1.4929106910039115e-06, 'epoch': 8.51}
+{'loss': 0.0122, 'grad_norm': 0.0002229948586318642, 'learning_rate': 1.4908735332464146e-06, 'epoch': 8.51}
+{'loss': 0.05, 'grad_norm': 0.0007343758479692042, 'learning_rate': 1.488836375488918e-06, 'epoch': 8.51}
+{'loss': 0.0219, 'grad_norm': 0.021250968798995018, 'learning_rate': 1.4867992177314211e-06, 'epoch': 8.51}
+{'loss': 0.0001, 'grad_norm': 0.00011170028301421553, 'learning_rate': 1.4847620599739245e-06, 'epoch': 8.52}
+{'loss': 0.0, 'grad_norm': 0.002866762224584818, 'learning_rate': 1.4827249022164278e-06, 'epoch': 8.52}
+{'loss': 0.1341, 'grad_norm': 0.0005307173123583198, 'learning_rate': 1.480687744458931e-06, 'epoch': 8.52}
+{'loss': 0.1085, 'grad_norm': 0.0013425335055217147, 'learning_rate': 1.4786505867014342e-06, 'epoch': 8.52}
+{'loss': 0.0559, 'grad_norm': 0.0012134406715631485, 'learning_rate': 1.4766134289439377e-06, 'epoch': 8.52}
+{'loss': 0.0, 'grad_norm': 0.0028607388958334923, 'learning_rate': 1.4745762711864409e-06, 'epoch': 8.53}
+{'loss': 0.0037, 'grad_norm': 0.03561058267951012, 'learning_rate': 1.472539113428944e-06, 'epoch': 8.53}
+{'loss': 0.0, 'grad_norm': 0.0007368677179329097, 'learning_rate': 1.4705019556714472e-06, 'epoch': 8.53}
+{'loss': 0.0011, 'grad_norm': 0.0007888831896707416, 'learning_rate': 1.4684647979139506e-06, 'epoch': 8.53}
+{'loss': 0.0, 'grad_norm': 0.0009044280159287155, 'learning_rate': 1.466427640156454e-06, 'epoch': 8.53}
+{'loss': 0.0, 'grad_norm': 0.002076915465295315, 'learning_rate': 1.464390482398957e-06, 'epoch': 8.54}
+{'loss': 0.0, 'grad_norm': 0.08839517086744308, 'learning_rate': 1.4623533246414604e-06, 'epoch': 8.54}
+{'loss': 0.033, 'grad_norm': 0.0029312577098608017, 'learning_rate': 1.4603161668839636e-06, 'epoch': 8.54}
+{'loss': 0.0391, 'grad_norm': 0.03131738677620888, 'learning_rate': 1.4582790091264667e-06, 'epoch': 8.54}
+{'loss': 0.0342, 'grad_norm': 0.19966572523117065, 'learning_rate': 1.4562418513689703e-06, 'epoch': 8.54}
+{'loss': 0.0895, 'grad_norm': 0.0005910492618568242, 'learning_rate': 1.4542046936114735e-06, 'epoch': 8.55}
+{'loss': 0.0108, 'grad_norm': 0.018500998616218567, 'learning_rate': 1.4521675358539766e-06, 'epoch': 8.55}
+{'loss': 0.0495, 'grad_norm': 0.0005198728176765144, 'learning_rate': 1.4501303780964798e-06, 'epoch': 8.55}
+{'loss': 0.016, 'grad_norm': 0.008964958600699902, 'learning_rate': 1.4480932203389834e-06, 'epoch': 8.55}
+{'loss': 0.0, 'grad_norm': 0.0006469691288657486, 'learning_rate': 1.4460560625814865e-06, 'epoch': 8.55}
+{'loss': 0.0002, 'grad_norm': 0.011354670859873295, 'learning_rate': 1.4440189048239897e-06, 'epoch': 8.56}
+{'eval_loss': 13.770912170410156, 'eval_accuracy': 0.7224899598393574, 'eval_runtime': 1.4374, 'eval_samples_per_second': 1732.298, 'eval_steps_per_second': 54.265, 'epoch': 8.56}
+{'loss': 0.0, 'grad_norm': 0.0005564691964536905, 'learning_rate': 1.4419817470664928e-06, 'epoch': 8.56}
+{'loss': 0.0774, 'grad_norm': 0.0008577467524446547, 'learning_rate': 1.4399445893089962e-06, 'epoch': 8.56}
+{'loss': 0.0212, 'grad_norm': 0.0017775874584913254, 'learning_rate': 1.4379074315514995e-06, 'epoch': 8.56}
+{'loss': 0.024, 'grad_norm': 0.02581247128546238, 'learning_rate': 1.4358702737940027e-06, 'epoch': 8.56}
+{'loss': 0.06, 'grad_norm': 1.1475193500518799, 'learning_rate': 1.433833116036506e-06, 'epoch': 8.57}
+{'loss': 0.0374, 'grad_norm': 0.03049478866159916, 'learning_rate': 1.4317959582790092e-06, 'epoch': 8.57}
+{'loss': 0.0003, 'grad_norm': 0.0030699162743985653, 'learning_rate': 1.4297588005215124e-06, 'epoch': 8.57}
+{'loss': 0.0598, 'grad_norm': 0.005978270433843136, 'learning_rate': 1.427721642764016e-06, 'epoch': 8.57}
+{'loss': 0.0002, 'grad_norm': 0.0023311248514801264, 'learning_rate': 1.425684485006519e-06, 'epoch': 8.57}
+{'loss': 0.0814, 'grad_norm': 0.002056086203083396, 'learning_rate': 1.4236473272490222e-06, 'epoch': 8.58}
+{'loss': 0.0009, 'grad_norm': 0.004176895134150982, 'learning_rate': 1.4216101694915254e-06, 'epoch': 8.58}
+{'loss': 0.0002, 'grad_norm': 0.012093625962734222, 'learning_rate': 1.4195730117340288e-06, 'epoch': 8.58}
+{'loss': 0.0153, 'grad_norm': 8.960294508142397e-05, 'learning_rate': 1.4175358539765321e-06, 'epoch': 8.58}
+{'loss': 0.0047, 'grad_norm': 0.13084055483341217, 'learning_rate': 1.4154986962190353e-06, 'epoch': 8.58}
+{'loss': 0.0001, 'grad_norm': 0.014850424602627754, 'learning_rate': 1.4134615384615386e-06, 'epoch': 8.59}
+{'loss': 0.0255, 'grad_norm': 0.0011039703385904431, 'learning_rate': 1.4114243807040418e-06, 'epoch': 8.59}
+{'loss': 0.0, 'grad_norm': 0.15338407456874847, 'learning_rate': 1.4093872229465452e-06, 'epoch': 8.59}
+{'loss': 0.0288, 'grad_norm': 0.0030508851632475853, 'learning_rate': 1.4073500651890485e-06, 'epoch': 8.59}
+{'loss': 0.0, 'grad_norm': 0.00039378736983053386, 'learning_rate': 1.4053129074315517e-06, 'epoch': 8.59}
+{'loss': 0.0339, 'grad_norm': 0.0011827105190604925, 'learning_rate': 1.4032757496740548e-06, 'epoch': 8.6}
+{'loss': 0.0038, 'grad_norm': 14.372228622436523, 'learning_rate': 1.401238591916558e-06, 'epoch': 8.6}
+{'loss': 0.0196, 'grad_norm': 0.000246949028223753, 'learning_rate': 1.3992014341590616e-06, 'epoch': 8.6}
+{'loss': 0.0035, 'grad_norm': 0.0024792796466499567, 'learning_rate': 1.3971642764015647e-06, 'epoch': 8.6}
+{'loss': 0.0, 'grad_norm': 0.001294341986067593, 'learning_rate': 1.3951271186440679e-06, 'epoch': 8.6}
+{'loss': 0.032, 'grad_norm': 0.0010456242598593235, 'learning_rate': 1.393089960886571e-06, 'epoch': 8.61}
+{'loss': 0.0394, 'grad_norm': 1803.1710205078125, 'learning_rate': 1.3910528031290744e-06, 'epoch': 8.61}
+{'loss': 0.0002, 'grad_norm': 1.341819405555725, 'learning_rate': 1.3890156453715777e-06, 'epoch': 8.61}
+{'loss': 0.0, 'grad_norm': 0.0004285561153665185, 'learning_rate': 1.386978487614081e-06, 'epoch': 8.61}
+{'loss': 0.0338, 'grad_norm': 0.0014288275269791484, 'learning_rate': 1.3849413298565843e-06, 'epoch': 8.62}
+{'loss': 0.0012, 'grad_norm': 0.005763176362961531, 'learning_rate': 1.3829041720990874e-06, 'epoch': 8.62}
+{'loss': 0.0, 'grad_norm': 0.0008707338711246848, 'learning_rate': 1.3808670143415906e-06, 'epoch': 8.62}
+{'loss': 0.1093, 'grad_norm': 0.00023917632643133402, 'learning_rate': 1.3788298565840941e-06, 'epoch': 8.62}
+{'loss': 0.0, 'grad_norm': 0.002696066163480282, 'learning_rate': 1.3767926988265973e-06, 'epoch': 8.62}
+{'loss': 0.0, 'grad_norm': 0.0013215959770604968, 'learning_rate': 1.3747555410691005e-06, 'epoch': 8.63}
+{'loss': 0.0037, 'grad_norm': 0.00020337569003459066, 'learning_rate': 1.3727183833116036e-06, 'epoch': 8.63}
+{'loss': 0.016, 'grad_norm': 0.0002875989011954516, 'learning_rate': 1.3706812255541072e-06, 'epoch': 8.63}
+{'loss': 0.0119, 'grad_norm': 0.0007703197188675404, 'learning_rate': 1.3686440677966103e-06, 'epoch': 8.63}
+{'loss': 0.0, 'grad_norm': 0.0008836416527628899, 'learning_rate': 1.3666069100391135e-06, 'epoch': 8.63}
+{'loss': 0.0029, 'grad_norm': 0.00023418254568241537, 'learning_rate': 1.3645697522816169e-06, 'epoch': 8.64}
+{'loss': 0.015, 'grad_norm': 0.0032177825924009085, 'learning_rate': 1.36253259452412e-06, 'epoch': 8.64}
+{'loss': 0.0153, 'grad_norm': 0.00021363500854931772, 'learning_rate': 1.3604954367666234e-06, 'epoch': 8.64}
+{'loss': 0.11, 'grad_norm': 0.00015984050696715713, 'learning_rate': 1.3584582790091267e-06, 'epoch': 8.64}
+{'loss': 0.0009, 'grad_norm': 253.3280487060547, 'learning_rate': 1.3564211212516299e-06, 'epoch': 8.64}
+{'loss': 0.0091, 'grad_norm': 0.00036142158205620944, 'learning_rate': 1.354383963494133e-06, 'epoch': 8.65}
+{'loss': 0.0725, 'grad_norm': 0.0014732207637280226, 'learning_rate': 1.3523468057366362e-06, 'epoch': 8.65}
+{'loss': 0.0162, 'grad_norm': 0.0012123066699132323, 'learning_rate': 1.3503096479791398e-06, 'epoch': 8.65}
+{'loss': 0.0017, 'grad_norm': 0.025598986074328423, 'learning_rate': 1.348272490221643e-06, 'epoch': 8.65}
+{'loss': 0.0008, 'grad_norm': 0.00018242998339701444, 'learning_rate': 1.346235332464146e-06, 'epoch': 8.65}
+{'loss': 0.0, 'grad_norm': 0.00048318124026991427, 'learning_rate': 1.3441981747066492e-06, 'epoch': 8.66}
+{'loss': 0.0484, 'grad_norm': 0.0002299058687640354, 'learning_rate': 1.3421610169491526e-06, 'epoch': 8.66}
+{'loss': 0.0, 'grad_norm': 0.001078977482393384, 'learning_rate': 1.340123859191656e-06, 'epoch': 8.66}
+{'loss': 0.0, 'grad_norm': 5.890131069463678e-05, 'learning_rate': 1.3380867014341591e-06, 'epoch': 8.66}
+{'loss': 0.0, 'grad_norm': 0.0015738195506855845, 'learning_rate': 1.3360495436766625e-06, 'epoch': 8.66}
+{'loss': 0.0, 'grad_norm': 0.01734204776585102, 'learning_rate': 1.3340123859191656e-06, 'epoch': 8.67}
+{'loss': 0.0, 'grad_norm': 0.0001885414676507935, 'learning_rate': 1.331975228161669e-06, 'epoch': 8.67}
+{'loss': 0.0, 'grad_norm': 0.00037173062446527183, 'learning_rate': 1.3299380704041724e-06, 'epoch': 8.67}
+{'loss': 0.0343, 'grad_norm': 6.162079807836562e-05, 'learning_rate': 1.3279009126466755e-06, 'epoch': 8.67}
+{'loss': 0.0, 'grad_norm': 0.0003734068013727665, 'learning_rate': 1.3258637548891787e-06, 'epoch': 8.67}
+{'loss': 0.0359, 'grad_norm': 0.0005634219269268215, 'learning_rate': 1.3238265971316818e-06, 'epoch': 8.68}
+{'loss': 0.0001, 'grad_norm': 0.08232840895652771, 'learning_rate': 1.3217894393741854e-06, 'epoch': 8.68}
+{'loss': 0.0334, 'grad_norm': 0.0011673581320792437, 'learning_rate': 1.3197522816166885e-06, 'epoch': 8.68}
+{'loss': 0.0752, 'grad_norm': 0.015990136191248894, 'learning_rate': 1.3177151238591917e-06, 'epoch': 8.68}
+{'loss': 0.0077, 'grad_norm': 0.0004890249692834914, 'learning_rate': 1.315677966101695e-06, 'epoch': 8.68}
+{'loss': 0.0263, 'grad_norm': 21.314563751220703, 'learning_rate': 1.3136408083441982e-06, 'epoch': 8.69}
+{'loss': 0.0111, 'grad_norm': 0.0006613843725062907, 'learning_rate': 1.3116036505867016e-06, 'epoch': 8.69}
+{'loss': 0.0312, 'grad_norm': 0.00751903373748064, 'learning_rate': 1.309566492829205e-06, 'epoch': 8.69}
+{'loss': 0.0018, 'grad_norm': 0.0038107021246105433, 'learning_rate': 1.307529335071708e-06, 'epoch': 8.69}
+{'loss': 0.0753, 'grad_norm': 0.0843886062502861, 'learning_rate': 1.3054921773142112e-06, 'epoch': 8.69}
+{'loss': 0.002, 'grad_norm': 0.0007255090167745948, 'learning_rate': 1.3034550195567144e-06, 'epoch': 8.7}
+{'loss': 0.0001, 'grad_norm': 0.008198811672627926, 'learning_rate': 1.301417861799218e-06, 'epoch': 8.7}
+{'loss': 0.0287, 'grad_norm': 0.009789559058845043, 'learning_rate': 1.2993807040417211e-06, 'epoch': 8.7}
+{'loss': 0.0, 'grad_norm': 0.002269577234983444, 'learning_rate': 1.2973435462842243e-06, 'epoch': 8.7}
+{'loss': 0.0001, 'grad_norm': 0.6347858309745789, 'learning_rate': 1.2953063885267274e-06, 'epoch': 8.7}
+{'loss': 0.0525, 'grad_norm': 0.00023026498092804104, 'learning_rate': 1.293269230769231e-06, 'epoch': 8.71}
+{'loss': 0.0656, 'grad_norm': 0.001364456838928163, 'learning_rate': 1.2912320730117342e-06, 'epoch': 8.71}
+{'loss': 0.0, 'grad_norm': 0.0016294631641358137, 'learning_rate': 1.2891949152542373e-06, 'epoch': 8.71}
+{'loss': 0.0454, 'grad_norm': 0.0007539732032455504, 'learning_rate': 1.2871577574967407e-06, 'epoch': 8.71}
+{'loss': 0.0328, 'grad_norm': 0.0001434623554814607, 'learning_rate': 1.2851205997392438e-06, 'epoch': 8.71}
+{'loss': 0.0358, 'grad_norm': 1.621705174446106, 'learning_rate': 1.2830834419817472e-06, 'epoch': 8.72}
+{'loss': 0.0199, 'grad_norm': 0.0024318706709891558, 'learning_rate': 1.2810462842242506e-06, 'epoch': 8.72}
+{'loss': 0.0, 'grad_norm': 0.00970974937081337, 'learning_rate': 1.2790091264667537e-06, 'epoch': 8.72}
+{'loss': 0.1435, 'grad_norm': 0.0020806221291422844, 'learning_rate': 1.2769719687092569e-06, 'epoch': 8.72}
+{'loss': 0.0409, 'grad_norm': 0.0048213498666882515, 'learning_rate': 1.27493481095176e-06, 'epoch': 8.73}
+{'loss': 0.003, 'grad_norm': 0.005410573910921812, 'learning_rate': 1.2728976531942636e-06, 'epoch': 8.73}
+{'loss': 0.0085, 'grad_norm': 0.00550717581063509, 'learning_rate': 1.2708604954367668e-06, 'epoch': 8.73}
+{'loss': 0.051, 'grad_norm': 0.007371000479906797, 'learning_rate': 1.26882333767927e-06, 'epoch': 8.73}
+{'loss': 0.0772, 'grad_norm': 0.005082299467176199, 'learning_rate': 1.2667861799217733e-06, 'epoch': 8.73}
+{'loss': 0.0478, 'grad_norm': 0.0013435319997370243, 'learning_rate': 1.2647490221642766e-06, 'epoch': 8.74}
+{'loss': 0.0652, 'grad_norm': 0.0007567367865704, 'learning_rate': 1.2627118644067798e-06, 'epoch': 8.74}
+{'loss': 0.0119, 'grad_norm': 14.84748649597168, 'learning_rate': 1.260674706649283e-06, 'epoch': 8.74}
+{'loss': 0.0006, 'grad_norm': 0.0022708934266120195, 'learning_rate': 1.2586375488917863e-06, 'epoch': 8.74}
+{'loss': 0.0208, 'grad_norm': 0.0021395592484623194, 'learning_rate': 1.2566003911342895e-06, 'epoch': 8.74}
+{'loss': 0.0283, 'grad_norm': 0.014301390387117863, 'learning_rate': 1.2545632333767928e-06, 'epoch': 8.75}
+{'loss': 0.0048, 'grad_norm': 0.004524747841060162, 'learning_rate': 1.2525260756192962e-06, 'epoch': 8.75}
+{'loss': 0.0556, 'grad_norm': 0.004306440241634846, 'learning_rate': 1.2504889178617993e-06, 'epoch': 8.75}
+{'loss': 0.0001, 'grad_norm': 0.0010835888097062707, 'learning_rate': 1.2484517601043025e-06, 'epoch': 8.75}
+{'loss': 0.0529, 'grad_norm': 7.810410170350224e-05, 'learning_rate': 1.2464146023468059e-06, 'epoch': 8.75}
+{'loss': 0.0, 'grad_norm': 0.0031692618504166603, 'learning_rate': 1.244377444589309e-06, 'epoch': 8.76}
+{'loss': 0.0025, 'grad_norm': 0.0012935742270201445, 'learning_rate': 1.2423402868318124e-06, 'epoch': 8.76}
+{'loss': 0.0375, 'grad_norm': 0.005886008497327566, 'learning_rate': 1.2403031290743155e-06, 'epoch': 8.76}
+{'loss': 0.061, 'grad_norm': 0.040244150906801224, 'learning_rate': 1.2382659713168189e-06, 'epoch': 8.76}
+{'loss': 0.0002, 'grad_norm': 0.0019641665276139975, 'learning_rate': 1.236228813559322e-06, 'epoch': 8.76}
+{'loss': 0.0517, 'grad_norm': 0.001222059829160571, 'learning_rate': 1.2341916558018254e-06, 'epoch': 8.77}
+{'loss': 0.0289, 'grad_norm': 0.004025476519018412, 'learning_rate': 1.2321544980443288e-06, 'epoch': 8.77}
+{'loss': 0.0, 'grad_norm': 0.0016414227429777384, 'learning_rate': 1.230117340286832e-06, 'epoch': 8.77}
+{'loss': 0.0162, 'grad_norm': 0.01872435212135315, 'learning_rate': 1.2280801825293353e-06, 'epoch': 8.77}
+{'loss': 0.0, 'grad_norm': 0.0022091460414230824, 'learning_rate': 1.2260430247718384e-06, 'epoch': 8.77}
+{'loss': 0.051, 'grad_norm': 0.0026057150680571795, 'learning_rate': 1.2240058670143416e-06, 'epoch': 8.78}
+{'loss': 0.0026, 'grad_norm': 0.00046212843153625727, 'learning_rate': 1.221968709256845e-06, 'epoch': 8.78}
+{'loss': 0.0071, 'grad_norm': 0.0019175527850165963, 'learning_rate': 1.2199315514993481e-06, 'epoch': 8.78}
+{'loss': 0.0218, 'grad_norm': 0.0013332997914403677, 'learning_rate': 1.2178943937418515e-06, 'epoch': 8.78}
+{'loss': 0.0079, 'grad_norm': 0.00913970172405243, 'learning_rate': 1.2158572359843546e-06, 'epoch': 8.78}
+{'loss': 0.004, 'grad_norm': 0.0010619735112413764, 'learning_rate': 1.213820078226858e-06, 'epoch': 8.79}
+{'loss': 0.0474, 'grad_norm': 0.01196997705847025, 'learning_rate': 1.2117829204693611e-06, 'epoch': 8.79}
+{'loss': 0.0, 'grad_norm': 0.0008876870851963758, 'learning_rate': 1.2097457627118645e-06, 'epoch': 8.79}
+{'loss': 0.0475, 'grad_norm': 0.005237136501818895, 'learning_rate': 1.2077086049543679e-06, 'epoch': 8.79}
+{'loss': 0.0479, 'grad_norm': 0.0004005699302069843, 'learning_rate': 1.205671447196871e-06, 'epoch': 8.79}
+{'loss': 0.0001, 'grad_norm': 0.023475348949432373, 'learning_rate': 1.2036342894393744e-06, 'epoch': 8.8}
+{'loss': 0.0, 'grad_norm': 0.0005191288655623794, 'learning_rate': 1.2015971316818775e-06, 'epoch': 8.8}
+{'loss': 0.0002, 'grad_norm': 0.0005587138584814966, 'learning_rate': 1.199559973924381e-06, 'epoch': 8.8}
+{'loss': 0.0038, 'grad_norm': 0.019295064732432365, 'learning_rate': 1.197522816166884e-06, 'epoch': 8.8}
+{'loss': 0.0, 'grad_norm': 0.010399001650512218, 'learning_rate': 1.1954856584093872e-06, 'epoch': 8.8}
+{'loss': 0.0073, 'grad_norm': 0.006457035895437002, 'learning_rate': 1.1934485006518906e-06, 'epoch': 8.81}
+{'loss': 0.065, 'grad_norm': 0.0010219714604318142, 'learning_rate': 1.1914113428943937e-06, 'epoch': 8.81}
+{'loss': 0.1269, 'grad_norm': 0.0009803541470319033, 'learning_rate': 1.189374185136897e-06, 'epoch': 8.81}
+{'loss': 0.1155, 'grad_norm': 0.0011337941978126764, 'learning_rate': 1.1873370273794002e-06, 'epoch': 8.81}
+{'loss': 0.0238, 'grad_norm': 0.0032119310926645994, 'learning_rate': 1.1852998696219036e-06, 'epoch': 8.81}
+{'loss': 0.0, 'grad_norm': 0.0004541261587291956, 'learning_rate': 1.183262711864407e-06, 'epoch': 8.82}
+{'loss': 0.0094, 'grad_norm': 0.004975958727300167, 'learning_rate': 1.1812255541069101e-06, 'epoch': 8.82}
+{'loss': 0.0935, 'grad_norm': 0.010679909028112888, 'learning_rate': 1.1791883963494135e-06, 'epoch': 8.82}
+{'loss': 0.0664, 'grad_norm': 0.005540870595723391, 'learning_rate': 1.1771512385919166e-06, 'epoch': 8.82}
+{'loss': 0.0011, 'grad_norm': 0.00155311927665025, 'learning_rate': 1.17511408083442e-06, 'epoch': 8.82}
+{'loss': 0.0056, 'grad_norm': 0.011259786784648895, 'learning_rate': 1.1730769230769232e-06, 'epoch': 8.83}
+{'loss': 0.0389, 'grad_norm': 0.01119255181401968, 'learning_rate': 1.1710397653194263e-06, 'epoch': 8.83}
+{'loss': 0.1267, 'grad_norm': 0.006370717193931341, 'learning_rate': 1.1690026075619297e-06, 'epoch': 8.83}
+{'loss': 0.0, 'grad_norm': 0.5401836633682251, 'learning_rate': 1.1669654498044328e-06, 'epoch': 8.83}
+{'loss': 0.0026, 'grad_norm': 0.010228886269032955, 'learning_rate': 1.1649282920469362e-06, 'epoch': 8.84}
+{'loss': 0.0046, 'grad_norm': 3.544994354248047, 'learning_rate': 1.1628911342894394e-06, 'epoch': 8.84}
+{'loss': 0.0534, 'grad_norm': 0.0006537095177918673, 'learning_rate': 1.1608539765319427e-06, 'epoch': 8.84}
+{'loss': 0.0595, 'grad_norm': 0.0007980834343470633, 'learning_rate': 1.158816818774446e-06, 'epoch': 8.84}
+{'loss': 0.0, 'grad_norm': 0.00040010848897509277, 'learning_rate': 1.1567796610169492e-06, 'epoch': 8.84}
+{'loss': 0.005, 'grad_norm': 0.0019752876833081245, 'learning_rate': 1.1547425032594526e-06, 'epoch': 8.85}
+{'loss': 0.0037, 'grad_norm': 0.019808998331427574, 'learning_rate': 1.1527053455019558e-06, 'epoch': 8.85}
+{'loss': 0.0009, 'grad_norm': 0.002745476784184575, 'learning_rate': 1.1506681877444591e-06, 'epoch': 8.85}
+{'loss': 0.0004, 'grad_norm': 0.0038784993812441826, 'learning_rate': 1.1486310299869623e-06, 'epoch': 8.85}
+{'loss': 0.0, 'grad_norm': 0.0007783914916217327, 'learning_rate': 1.1465938722294656e-06, 'epoch': 8.85}
+{'loss': 0.0592, 'grad_norm': 0.0010521456133574247, 'learning_rate': 1.1445567144719688e-06, 'epoch': 8.86}
+{'loss': 0.0, 'grad_norm': 0.0031876340508461, 'learning_rate': 1.142519556714472e-06, 'epoch': 8.86}
+{'loss': 0.0126, 'grad_norm': 0.0004028851690236479, 'learning_rate': 1.1404823989569753e-06, 'epoch': 8.86}
+{'loss': 0.0315, 'grad_norm': 2003.7374267578125, 'learning_rate': 1.1384452411994785e-06, 'epoch': 8.86}
+{'loss': 0.0584, 'grad_norm': 0.0007827709778212011, 'learning_rate': 1.1364080834419818e-06, 'epoch': 8.86}
+{'loss': 0.0374, 'grad_norm': 0.005304789170622826, 'learning_rate': 1.1343709256844852e-06, 'epoch': 8.87}
+{'loss': 0.0385, 'grad_norm': 0.003972760401666164, 'learning_rate': 1.1323337679269883e-06, 'epoch': 8.87}
+{'loss': 0.0772, 'grad_norm': 0.00304652308113873, 'learning_rate': 1.1302966101694917e-06, 'epoch': 8.87}
+{'loss': 0.0331, 'grad_norm': 0.0007448222604580224, 'learning_rate': 1.1282594524119949e-06, 'epoch': 8.87}
+{'loss': 0.0, 'grad_norm': 0.0030609327368438244, 'learning_rate': 1.1262222946544982e-06, 'epoch': 8.87}
+{'loss': 0.0638, 'grad_norm': 0.005541748832911253, 'learning_rate': 1.1241851368970014e-06, 'epoch': 8.88}
+{'loss': 0.1264, 'grad_norm': 0.00796614307910204, 'learning_rate': 1.1221479791395047e-06, 'epoch': 8.88}
+{'loss': 0.0496, 'grad_norm': 0.020780909806489944, 'learning_rate': 1.1201108213820079e-06, 'epoch': 8.88}
+{'loss': 0.0575, 'grad_norm': 0.001805481151677668, 'learning_rate': 1.118073663624511e-06, 'epoch': 8.88}
+{'loss': 0.0001, 'grad_norm': 0.7786374092102051, 'learning_rate': 1.1160365058670144e-06, 'epoch': 8.88}
+{'loss': 0.0009, 'grad_norm': 21.53055191040039, 'learning_rate': 1.1139993481095176e-06, 'epoch': 8.89}
+{'loss': 0.0041, 'grad_norm': 0.005567276384681463, 'learning_rate': 1.111962190352021e-06, 'epoch': 8.89}
+{'loss': 0.0713, 'grad_norm': 0.011160709895193577, 'learning_rate': 1.1099250325945243e-06, 'epoch': 8.89}
+{'loss': 0.0071, 'grad_norm': 0.001503342529758811, 'learning_rate': 1.1078878748370274e-06, 'epoch': 8.89}
+{'loss': 0.0, 'grad_norm': 0.001977145206183195, 'learning_rate': 1.1058507170795308e-06, 'epoch': 8.89}
+{'loss': 0.1191, 'grad_norm': 0.016809770837426186, 'learning_rate': 1.103813559322034e-06, 'epoch': 8.9}
+{'loss': 0.0266, 'grad_norm': 0.006718403194099665, 'learning_rate': 1.1017764015645373e-06, 'epoch': 8.9}
+{'loss': 0.0001, 'grad_norm': 0.010593236424028873, 'learning_rate': 1.0997392438070405e-06, 'epoch': 8.9}
+{'loss': 0.0001, 'grad_norm': 0.000229557859711349, 'learning_rate': 1.0977020860495438e-06, 'epoch': 8.9}
+{'loss': 0.123, 'grad_norm': 0.0031288592144846916, 'learning_rate': 1.095664928292047e-06, 'epoch': 8.9}
+{'loss': 0.0021, 'grad_norm': 1.194152593612671, 'learning_rate': 1.0936277705345504e-06, 'epoch': 8.91}
+{'loss': 0.0, 'grad_norm': 0.019613215699791908, 'learning_rate': 1.0915906127770535e-06, 'epoch': 8.91}
+{'loss': 0.0526, 'grad_norm': 0.00906092207878828, 'learning_rate': 1.0895534550195567e-06, 'epoch': 8.91}
+{'loss': 0.0668, 'grad_norm': 0.007023661397397518, 'learning_rate': 1.08751629726206e-06, 'epoch': 8.91}
+{'loss': 0.0, 'grad_norm': 0.0030670121777802706, 'learning_rate': 1.0854791395045634e-06, 'epoch': 8.91}
+{'loss': 0.0181, 'grad_norm': 0.0019402730977162719, 'learning_rate': 1.0834419817470665e-06, 'epoch': 8.92}
+{'loss': 0.0773, 'grad_norm': 0.0005539123667404056, 'learning_rate': 1.08140482398957e-06, 'epoch': 8.92}
+{'loss': 0.0897, 'grad_norm': 0.0017097244272008538, 'learning_rate': 1.079367666232073e-06, 'epoch': 8.92}
+{'loss': 0.0394, 'grad_norm': 0.0009694669861346483, 'learning_rate': 1.0773305084745764e-06, 'epoch': 8.92}
+{'loss': 0.0, 'grad_norm': 0.00788442138582468, 'learning_rate': 1.0752933507170796e-06, 'epoch': 8.92}
+{'loss': 0.0, 'grad_norm': 0.0010514672612771392, 'learning_rate': 1.073256192959583e-06, 'epoch': 8.93}
+{'loss': 0.0006, 'grad_norm': 0.00250042206607759, 'learning_rate': 1.071219035202086e-06, 'epoch': 8.93}
+{'loss': 0.0378, 'grad_norm': 0.014176642522215843, 'learning_rate': 1.0691818774445895e-06, 'epoch': 8.93}
+{'loss': 0.0855, 'grad_norm': 11.278192520141602, 'learning_rate': 1.0671447196870926e-06, 'epoch': 8.93}
+{'loss': 0.0032, 'grad_norm': 0.002801164286211133, 'learning_rate': 1.0651075619295958e-06, 'epoch': 8.93}
+{'loss': 0.0001, 'grad_norm': 0.005626703146845102, 'learning_rate': 1.0630704041720991e-06, 'epoch': 8.94}
+{'loss': 0.0048, 'grad_norm': 0.006478034425526857, 'learning_rate': 1.0610332464146025e-06, 'epoch': 8.94}
+{'loss': 0.0052, 'grad_norm': 0.11724264919757843, 'learning_rate': 1.0589960886571057e-06, 'epoch': 8.94}
+{'loss': 0.0002, 'grad_norm': 0.00033806386636570096, 'learning_rate': 1.056958930899609e-06, 'epoch': 8.94}
+{'loss': 0.0378, 'grad_norm': 0.04702463746070862, 'learning_rate': 1.0549217731421124e-06, 'epoch': 8.95}
+{'loss': 0.0, 'grad_norm': 0.003669540397822857, 'learning_rate': 1.0528846153846155e-06, 'epoch': 8.95}
+{'loss': 0.0494, 'grad_norm': 0.00483693229034543, 'learning_rate': 1.0508474576271187e-06, 'epoch': 8.95}
+{'loss': 0.0, 'grad_norm': 0.00672205351293087, 'learning_rate': 1.048810299869622e-06, 'epoch': 8.95}
+{'loss': 0.0044, 'grad_norm': 0.005815332289785147, 'learning_rate': 1.0467731421121252e-06, 'epoch': 8.95}
+{'loss': 0.0005, 'grad_norm': 0.009203868918120861, 'learning_rate': 1.0447359843546286e-06, 'epoch': 8.96}
+{'loss': 0.0033, 'grad_norm': 0.00704019283875823, 'learning_rate': 1.0426988265971317e-06, 'epoch': 8.96}
+{'loss': 0.0151, 'grad_norm': 0.012897931039333344, 'learning_rate': 1.0406616688396349e-06, 'epoch': 8.96}
+{'loss': 0.0055, 'grad_norm': 0.002364116022363305, 'learning_rate': 1.0386245110821382e-06, 'epoch': 8.96}
+{'loss': 0.0001, 'grad_norm': 0.0014864347176626325, 'learning_rate': 1.0365873533246416e-06, 'epoch': 8.96}
+{'eval_loss': 14.484199523925781, 'eval_accuracy': 0.7168674698795181, 'eval_runtime': 1.3396, 'eval_samples_per_second': 1858.798, 'eval_steps_per_second': 58.227, 'epoch': 8.96}
+{'loss': 0.0581, 'grad_norm': 39.293460845947266, 'learning_rate': 1.0345501955671448e-06, 'epoch': 8.97}
+{'loss': 0.0037, 'grad_norm': 0.00020229900837875903, 'learning_rate': 1.0325130378096481e-06, 'epoch': 8.97}
+{'loss': 0.0, 'grad_norm': 0.010741972364485264, 'learning_rate': 1.0304758800521513e-06, 'epoch': 8.97}
+{'loss': 0.0173, 'grad_norm': 0.01373167522251606, 'learning_rate': 1.0284387222946546e-06, 'epoch': 8.97}
+{'loss': 0.0006, 'grad_norm': 0.006960372906178236, 'learning_rate': 1.0264015645371578e-06, 'epoch': 8.97}
+{'loss': 0.0082, 'grad_norm': 0.0134497145190835, 'learning_rate': 1.0243644067796612e-06, 'epoch': 8.98}
+{'loss': 0.0103, 'grad_norm': 0.0025291810743510723, 'learning_rate': 1.0223272490221643e-06, 'epoch': 8.98}
+{'loss': 0.0, 'grad_norm': 0.009738114662468433, 'learning_rate': 1.0202900912646677e-06, 'epoch': 8.98}
+{'loss': 0.0043, 'grad_norm': 0.0003512864641379565, 'learning_rate': 1.0182529335071708e-06, 'epoch': 8.98}
+{'loss': 0.0506, 'grad_norm': 0.005056397989392281, 'learning_rate': 1.0162157757496742e-06, 'epoch': 8.98}
+{'loss': 0.0, 'grad_norm': 0.001199388294480741, 'learning_rate': 1.0141786179921773e-06, 'epoch': 8.99}
+{'loss': 0.0, 'grad_norm': 0.0029876113403588533, 'learning_rate': 1.0121414602346805e-06, 'epoch': 8.99}
+{'loss': 0.0, 'grad_norm': 0.0033446825109422207, 'learning_rate': 1.0101043024771839e-06, 'epoch': 8.99}
+{'loss': 0.0001, 'grad_norm': 0.00034221180249005556, 'learning_rate': 1.0080671447196872e-06, 'epoch': 8.99}
+{'loss': 0.0066, 'grad_norm': 0.003709087148308754, 'learning_rate': 1.0060299869621904e-06, 'epoch': 8.99}
+{'loss': 0.0015, 'grad_norm': 0.00026717493892647326, 'learning_rate': 1.0039928292046937e-06, 'epoch': 9.0}
+{'loss': 0.0582, 'grad_norm': 0.00047625653678551316, 'learning_rate': 1.0019556714471971e-06, 'epoch': 9.0}
+{'loss': 0.0, 'grad_norm': 0.0005431363824754953, 'learning_rate': 9.999185136897003e-07, 'epoch': 9.0}
+{'loss': 0.0, 'grad_norm': 0.0007362652104347944, 'learning_rate': 9.978813559322034e-07, 'epoch': 9.0}
+{'loss': 0.0239, 'grad_norm': 0.015055938623845577, 'learning_rate': 9.958441981747068e-07, 'epoch': 9.0}
+{'loss': 0.052, 'grad_norm': 0.0007972314488142729, 'learning_rate': 9.9380704041721e-07, 'epoch': 9.01}
+{'loss': 0.0049, 'grad_norm': 0.013225805945694447, 'learning_rate': 9.917698826597133e-07, 'epoch': 9.01}
+{'loss': 0.0102, 'grad_norm': 0.0005591917433775961, 'learning_rate': 9.897327249022164e-07, 'epoch': 9.01}
+{'loss': 0.0, 'grad_norm': 0.000274957186775282, 'learning_rate': 9.876955671447196e-07, 'epoch': 9.01}
+{'loss': 0.0, 'grad_norm': 0.013957327231764793, 'learning_rate': 9.85658409387223e-07, 'epoch': 9.01}
+{'loss': 0.0156, 'grad_norm': 0.0012965495698153973, 'learning_rate': 9.836212516297263e-07, 'epoch': 9.02}
+{'loss': 0.0131, 'grad_norm': 0.0008825331460684538, 'learning_rate': 9.815840938722295e-07, 'epoch': 9.02}
+{'loss': 0.0, 'grad_norm': 0.004738693591207266, 'learning_rate': 9.795469361147328e-07, 'epoch': 9.02}
+{'loss': 0.0, 'grad_norm': 0.00035684017348103225, 'learning_rate': 9.775097783572362e-07, 'epoch': 9.02}
+{'loss': 0.0026, 'grad_norm': 0.011744922958314419, 'learning_rate': 9.754726205997394e-07, 'epoch': 9.02}
+{'loss': 0.0059, 'grad_norm': 0.022924549877643585, 'learning_rate': 9.734354628422425e-07, 'epoch': 9.03}
+{'loss': 0.0, 'grad_norm': 0.008093243464827538, 'learning_rate': 9.713983050847459e-07, 'epoch': 9.03}
+{'loss': 0.0, 'grad_norm': 0.0006137900054454803, 'learning_rate': 9.69361147327249e-07, 'epoch': 9.03}
+{'loss': 0.0041, 'grad_norm': 0.0002618995786178857, 'learning_rate': 9.673239895697524e-07, 'epoch': 9.03}
+{'loss': 0.0, 'grad_norm': 0.0006594529841095209, 'learning_rate': 9.652868318122556e-07, 'epoch': 9.03}
+{'loss': 0.0002, 'grad_norm': 0.002921970561146736, 'learning_rate': 9.63249674054759e-07, 'epoch': 9.04}
+{'loss': 0.0, 'grad_norm': 0.0005612450768239796, 'learning_rate': 9.61212516297262e-07, 'epoch': 9.04}
+{'loss': 0.0054, 'grad_norm': 0.0006416898686438799, 'learning_rate': 9.591753585397654e-07, 'epoch': 9.04}
+{'loss': 0.0054, 'grad_norm': 0.007126628886908293, 'learning_rate': 9.571382007822686e-07, 'epoch': 9.04}
+{'loss': 0.0, 'grad_norm': 0.0008680210448801517, 'learning_rate': 9.55101043024772e-07, 'epoch': 9.04}
+{'loss': 0.0409, 'grad_norm': 0.000637710967566818, 'learning_rate': 9.530638852672752e-07, 'epoch': 9.05}
+{'loss': 0.0, 'grad_norm': 0.015731140971183777, 'learning_rate': 9.510267275097785e-07, 'epoch': 9.05}
+{'loss': 0.0, 'grad_norm': 0.00354020856320858, 'learning_rate': 9.489895697522816e-07, 'epoch': 9.05}
+{'loss': 0.0317, 'grad_norm': 0.00734514556825161, 'learning_rate': 9.46952411994785e-07, 'epoch': 9.05}
+{'loss': 0.0, 'grad_norm': 0.0047926390543580055, 'learning_rate': 9.449152542372881e-07, 'epoch': 9.06}
+{'loss': 0.0014, 'grad_norm': 0.00021087458299007267, 'learning_rate': 9.428780964797915e-07, 'epoch': 9.06}
+{'loss': 0.0006, 'grad_norm': 3.6255221366882324, 'learning_rate': 9.408409387222947e-07, 'epoch': 9.06}
+{'loss': 0.0, 'grad_norm': 0.004352224990725517, 'learning_rate': 9.38803780964798e-07, 'epoch': 9.06}
+{'loss': 0.054, 'grad_norm': 0.0008408434223383665, 'learning_rate': 9.367666232073013e-07, 'epoch': 9.06}
+{'loss': 0.0, 'grad_norm': 0.0012836650712415576, 'learning_rate': 9.347294654498044e-07, 'epoch': 9.07}
+{'loss': 0.0, 'grad_norm': 0.0006472777458839118, 'learning_rate': 9.326923076923078e-07, 'epoch': 9.07}
+{'loss': 0.0169, 'grad_norm': 0.0014520668191835284, 'learning_rate': 9.30655149934811e-07, 'epoch': 9.07}
+{'loss': 0.0, 'grad_norm': 0.000330582435708493, 'learning_rate': 9.286179921773143e-07, 'epoch': 9.07}
+{'loss': 0.0004, 'grad_norm': 0.0027250901330262423, 'learning_rate': 9.265808344198176e-07, 'epoch': 9.07}
+{'loss': 0.0001, 'grad_norm': 0.0006401127320714295, 'learning_rate': 9.245436766623208e-07, 'epoch': 9.08}
+{'loss': 0.0061, 'grad_norm': 0.0004112335154786706, 'learning_rate': 9.225065189048241e-07, 'epoch': 9.08}
+{'loss': 0.0, 'grad_norm': 0.0008107383619062603, 'learning_rate': 9.204693611473272e-07, 'epoch': 9.08}
+{'loss': 0.0, 'grad_norm': 0.0001545599225210026, 'learning_rate': 9.184322033898306e-07, 'epoch': 9.08}
+{'loss': 0.0067, 'grad_norm': 0.0033249743282794952, 'learning_rate': 9.163950456323338e-07, 'epoch': 9.08}
+{'loss': 0.0, 'grad_norm': 0.0002076153177767992, 'learning_rate': 9.143578878748371e-07, 'epoch': 9.09}
+{'loss': 0.0, 'grad_norm': 0.0006530656828545034, 'learning_rate': 9.123207301173404e-07, 'epoch': 9.09}
+{'loss': 0.0048, 'grad_norm': 0.0006037933053448796, 'learning_rate': 9.102835723598436e-07, 'epoch': 9.09}
+{'loss': 0.0152, 'grad_norm': 0.0005280551849864423, 'learning_rate': 9.082464146023469e-07, 'epoch': 9.09}
+{'loss': 0.0026, 'grad_norm': 0.06080674007534981, 'learning_rate': 9.0620925684485e-07, 'epoch': 9.09}
+{'loss': 0.0, 'grad_norm': 4.2008421587524936e-05, 'learning_rate': 9.041720990873534e-07, 'epoch': 9.1}
+{'loss': 0.0139, 'grad_norm': 0.00017241007299162447, 'learning_rate': 9.021349413298567e-07, 'epoch': 9.1}
+{'loss': 0.0209, 'grad_norm': 0.0007743624737486243, 'learning_rate': 9.000977835723599e-07, 'epoch': 9.1}
+{'loss': 0.0295, 'grad_norm': 0.0013255306985229254, 'learning_rate': 8.980606258148632e-07, 'epoch': 9.1}
+{'loss': 0.0, 'grad_norm': 0.00016865624638739973, 'learning_rate': 8.960234680573663e-07, 'epoch': 9.1}
+{'loss': 0.0111, 'grad_norm': 0.00016715464880689979, 'learning_rate': 8.939863102998697e-07, 'epoch': 9.11}
+{'loss': 0.0, 'grad_norm': 0.0036840024404227734, 'learning_rate': 8.919491525423729e-07, 'epoch': 9.11}
+{'loss': 0.0057, 'grad_norm': 0.11826853454113007, 'learning_rate': 8.899119947848762e-07, 'epoch': 9.11}
+{'loss': 0.0079, 'grad_norm': 0.007105850148946047, 'learning_rate': 8.878748370273795e-07, 'epoch': 9.11}
+{'loss': 0.0, 'grad_norm': 0.007936042733490467, 'learning_rate': 8.858376792698827e-07, 'epoch': 9.11}
+{'loss': 0.0018, 'grad_norm': 0.0014401570660993457, 'learning_rate': 8.83800521512386e-07, 'epoch': 9.12}
+{'loss': 0.0, 'grad_norm': 0.0003922427713405341, 'learning_rate': 8.817633637548892e-07, 'epoch': 9.12}
+{'loss': 0.0466, 'grad_norm': 0.006346152629703283, 'learning_rate': 8.797262059973925e-07, 'epoch': 9.12}
+{'loss': 0.0, 'grad_norm': 5.296126983012073e-05, 'learning_rate': 8.776890482398958e-07, 'epoch': 9.12}
+{'loss': 0.0, 'grad_norm': 0.011477228254079819, 'learning_rate': 8.75651890482399e-07, 'epoch': 9.12}
+{'loss': 0.0, 'grad_norm': 0.005998171400278807, 'learning_rate': 8.736147327249023e-07, 'epoch': 9.13}
+{'loss': 0.0, 'grad_norm': 0.0011336811585351825, 'learning_rate': 8.715775749674057e-07, 'epoch': 9.13}
+{'loss': 0.0197, 'grad_norm': 0.011267549358308315, 'learning_rate': 8.695404172099088e-07, 'epoch': 9.13}
+{'loss': 0.0, 'grad_norm': 0.0004014756123069674, 'learning_rate': 8.67503259452412e-07, 'epoch': 9.13}
+{'loss': 0.0, 'grad_norm': 0.003183437045663595, 'learning_rate': 8.654661016949153e-07, 'epoch': 9.13}
+{'loss': 0.0, 'grad_norm': 9.584162762621418e-05, 'learning_rate': 8.634289439374186e-07, 'epoch': 9.14}
+{'loss': 0.001, 'grad_norm': 0.0005170904332771897, 'learning_rate': 8.613917861799218e-07, 'epoch': 9.14}
+{'loss': 0.0, 'grad_norm': 0.00010879981709877029, 'learning_rate': 8.593546284224251e-07, 'epoch': 9.14}
+{'loss': 0.0, 'grad_norm': 5.288467582431622e-05, 'learning_rate': 8.573174706649285e-07, 'epoch': 9.14}
+{'loss': 0.0, 'grad_norm': 0.0003419887216296047, 'learning_rate': 8.552803129074316e-07, 'epoch': 9.14}
+{'loss': 0.0267, 'grad_norm': 0.0004398366145323962, 'learning_rate': 8.532431551499349e-07, 'epoch': 9.15}
+{'loss': 0.006, 'grad_norm': 0.0001511965529061854, 'learning_rate': 8.512059973924381e-07, 'epoch': 9.15}
+{'loss': 0.0, 'grad_norm': 4.83355734104407e-06, 'learning_rate': 8.491688396349414e-07, 'epoch': 9.15}
+{'loss': 0.0475, 'grad_norm': 0.0004373764095362276, 'learning_rate': 8.471316818774447e-07, 'epoch': 9.15}
+{'loss': 0.0, 'grad_norm': 0.0004326369089540094, 'learning_rate': 8.450945241199479e-07, 'epoch': 9.15}
+{'loss': 0.0, 'grad_norm': 0.0001856223534559831, 'learning_rate': 8.430573663624511e-07, 'epoch': 9.16}
+{'loss': 0.0, 'grad_norm': 2.4791055693640374e-05, 'learning_rate': 8.410202086049544e-07, 'epoch': 9.16}
+{'loss': 0.0, 'grad_norm': 0.015124094672501087, 'learning_rate': 8.389830508474577e-07, 'epoch': 9.16}
+{'loss': 0.0172, 'grad_norm': 0.00020358184701763093, 'learning_rate': 8.36945893089961e-07, 'epoch': 9.16}
+{'loss': 0.0, 'grad_norm': 0.00020854829926975071, 'learning_rate': 8.349087353324642e-07, 'epoch': 9.17}
+{'loss': 0.0007, 'grad_norm': 0.05001508444547653, 'learning_rate': 8.328715775749676e-07, 'epoch': 9.17}
+{'loss': 0.0564, 'grad_norm': 0.0003024549223482609, 'learning_rate': 8.308344198174707e-07, 'epoch': 9.17}
+{'loss': 0.0, 'grad_norm': 0.0002108060580212623, 'learning_rate': 8.28797262059974e-07, 'epoch': 9.17}
+{'loss': 0.0, 'grad_norm': 0.0004154450725764036, 'learning_rate': 8.267601043024772e-07, 'epoch': 9.17}
+{'loss': 0.0, 'grad_norm': 0.0012480777222663164, 'learning_rate': 8.247229465449805e-07, 'epoch': 9.18}
+{'loss': 0.0, 'grad_norm': 0.0002391682064626366, 'learning_rate': 8.226857887874838e-07, 'epoch': 9.18}
+{'loss': 0.0, 'grad_norm': 0.0018914534011855721, 'learning_rate': 8.20648631029987e-07, 'epoch': 9.18}
+{'loss': 0.0003, 'grad_norm': 0.005694011691957712, 'learning_rate': 8.186114732724904e-07, 'epoch': 9.18}
+{'loss': 0.0203, 'grad_norm': 0.000372297246940434, 'learning_rate': 8.165743155149935e-07, 'epoch': 9.18}
+{'loss': 0.0041, 'grad_norm': 0.0005021001561544836, 'learning_rate': 8.145371577574968e-07, 'epoch': 9.19}
+{'loss': 0.0, 'grad_norm': 0.02516820654273033, 'learning_rate': 8.125000000000001e-07, 'epoch': 9.19}
+{'loss': 0.0056, 'grad_norm': 0.001124803558923304, 'learning_rate': 8.104628422425033e-07, 'epoch': 9.19}
+{'loss': 0.0, 'grad_norm': 5.0256589020136744e-05, 'learning_rate': 8.084256844850067e-07, 'epoch': 9.19}
+{'loss': 0.0, 'grad_norm': 0.0010921765351668, 'learning_rate': 8.063885267275098e-07, 'epoch': 9.19}
+{'loss': 0.0, 'grad_norm': 0.0012013212544843554, 'learning_rate': 8.04351368970013e-07, 'epoch': 9.2}
+{'loss': 0.0425, 'grad_norm': 0.0003275558992754668, 'learning_rate': 8.023142112125163e-07, 'epoch': 9.2}
+{'loss': 0.0, 'grad_norm': 0.0005103594739921391, 'learning_rate': 8.002770534550196e-07, 'epoch': 9.2}
+{'loss': 0.0, 'grad_norm': 0.0019496458116918802, 'learning_rate': 7.982398956975229e-07, 'epoch': 9.2}
+{'loss': 0.0, 'grad_norm': 0.002426914870738983, 'learning_rate': 7.962027379400261e-07, 'epoch': 9.2}
+{'loss': 0.0003, 'grad_norm': 0.0012760924873873591, 'learning_rate': 7.941655801825295e-07, 'epoch': 9.21}
+{'loss': 0.0011, 'grad_norm': 0.0010081165237352252, 'learning_rate': 7.921284224250326e-07, 'epoch': 9.21}
+{'loss': 0.0, 'grad_norm': 0.0006093226256780326, 'learning_rate': 7.900912646675359e-07, 'epoch': 9.21}
+{'loss': 0.0785, 'grad_norm': 0.00035074836341664195, 'learning_rate': 7.880541069100392e-07, 'epoch': 9.21}
+{'loss': 0.0, 'grad_norm': 0.00025636673672124743, 'learning_rate': 7.860169491525424e-07, 'epoch': 9.21}
+{'loss': 0.0775, 'grad_norm': 0.000314845034154132, 'learning_rate': 7.839797913950458e-07, 'epoch': 9.22}
+{'loss': 0.0, 'grad_norm': 0.00044667895417660475, 'learning_rate': 7.819426336375489e-07, 'epoch': 9.22}
+{'loss': 0.0, 'grad_norm': 0.004299262538552284, 'learning_rate': 7.799054758800523e-07, 'epoch': 9.22}
+{'loss': 0.0, 'grad_norm': 2.381683952989988e-05, 'learning_rate': 7.778683181225555e-07, 'epoch': 9.22}
+{'loss': 0.0, 'grad_norm': 3.570687840692699e-05, 'learning_rate': 7.758311603650587e-07, 'epoch': 9.22}
+{'loss': 0.0, 'grad_norm': 2.9571179766207933e-05, 'learning_rate': 7.73794002607562e-07, 'epoch': 9.23}
+{'loss': 0.0346, 'grad_norm': 0.00011821916268672794, 'learning_rate': 7.717568448500652e-07, 'epoch': 9.23}
+{'loss': 0.0011, 'grad_norm': 0.00025848785298876464, 'learning_rate': 7.697196870925686e-07, 'epoch': 9.23}
+{'loss': 0.0, 'grad_norm': 0.04564632475376129, 'learning_rate': 7.676825293350717e-07, 'epoch': 9.23}
+{'loss': 0.0, 'grad_norm': 0.00030566976056434214, 'learning_rate': 7.656453715775751e-07, 'epoch': 9.23}
+{'loss': 0.0001, 'grad_norm': 0.0005937168607488275, 'learning_rate': 7.636082138200783e-07, 'epoch': 9.24}
+{'loss': 0.0, 'grad_norm': 0.12084630131721497, 'learning_rate': 7.615710560625815e-07, 'epoch': 9.24}
+{'loss': 0.1117, 'grad_norm': 0.0002657496079336852, 'learning_rate': 7.595338983050849e-07, 'epoch': 9.24}
+{'loss': 0.0126, 'grad_norm': 0.0003881930315401405, 'learning_rate': 7.57496740547588e-07, 'epoch': 9.24}
+{'loss': 0.0007, 'grad_norm': 0.001954752719029784, 'learning_rate': 7.554595827900914e-07, 'epoch': 9.24}
+{'loss': 0.0047, 'grad_norm': 1.8140199244953692e-05, 'learning_rate': 7.534224250325946e-07, 'epoch': 9.25}
+{'loss': 0.0, 'grad_norm': 0.00043409253703430295, 'learning_rate': 7.513852672750978e-07, 'epoch': 9.25}
+{'loss': 0.0052, 'grad_norm': 0.00012091448297724128, 'learning_rate': 7.493481095176011e-07, 'epoch': 9.25}
+{'loss': 0.0, 'grad_norm': 6.809001934016123e-05, 'learning_rate': 7.473109517601043e-07, 'epoch': 9.25}
+{'loss': 0.0634, 'grad_norm': 0.0004172394401393831, 'learning_rate': 7.452737940026077e-07, 'epoch': 9.25}
+{'loss': 0.0155, 'grad_norm': 8.460154640488327e-05, 'learning_rate': 7.432366362451109e-07, 'epoch': 9.26}
+{'loss': 0.0, 'grad_norm': 0.00038624968146905303, 'learning_rate': 7.411994784876142e-07, 'epoch': 9.26}
+{'loss': 0.0, 'grad_norm': 0.0010608506854623556, 'learning_rate': 7.391623207301174e-07, 'epoch': 9.26}
+{'loss': 0.0, 'grad_norm': 3.3551106753293425e-05, 'learning_rate': 7.371251629726206e-07, 'epoch': 9.26}
+{'loss': 0.0, 'grad_norm': 0.0008822657982818782, 'learning_rate': 7.35088005215124e-07, 'epoch': 9.26}
+{'loss': 0.0098, 'grad_norm': 6.0043446865165606e-05, 'learning_rate': 7.330508474576271e-07, 'epoch': 9.27}
+{'loss': 0.0106, 'grad_norm': 0.0005036740330979228, 'learning_rate': 7.310136897001305e-07, 'epoch': 9.27}
+{'loss': 0.0, 'grad_norm': 0.0021845323499292135, 'learning_rate': 7.289765319426337e-07, 'epoch': 9.27}
+{'loss': 0.0, 'grad_norm': 3.798508987529203e-05, 'learning_rate': 7.26939374185137e-07, 'epoch': 9.27}
+{'loss': 0.0, 'grad_norm': 0.0003023206372745335, 'learning_rate': 7.249022164276402e-07, 'epoch': 9.28}
+{'loss': 0.007, 'grad_norm': 0.0008224296034313738, 'learning_rate': 7.228650586701434e-07, 'epoch': 9.28}
+{'loss': 0.0, 'grad_norm': 0.0008334600715897977, 'learning_rate': 7.208279009126468e-07, 'epoch': 9.28}
+{'loss': 0.0753, 'grad_norm': 0.0051260138861835, 'learning_rate': 7.1879074315515e-07, 'epoch': 9.28}
+{'loss': 0.0, 'grad_norm': 0.0006643665838055313, 'learning_rate': 7.167535853976533e-07, 'epoch': 9.28}
+{'loss': 0.0, 'grad_norm': 0.00016208886518143117, 'learning_rate': 7.147164276401565e-07, 'epoch': 9.29}
+{'loss': 0.0, 'grad_norm': 0.0006272303871810436, 'learning_rate': 7.126792698826597e-07, 'epoch': 9.29}
+{'loss': 0.0291, 'grad_norm': 0.00020178305567242205, 'learning_rate': 7.10642112125163e-07, 'epoch': 9.29}
+{'loss': 0.0, 'grad_norm': 6.391647184500471e-05, 'learning_rate': 7.086049543676662e-07, 'epoch': 9.29}
+{'loss': 0.0, 'grad_norm': 0.00031064808717928827, 'learning_rate': 7.065677966101696e-07, 'epoch': 9.29}
+{'loss': 0.0, 'grad_norm': 0.00019031493866350502, 'learning_rate': 7.045306388526728e-07, 'epoch': 9.3}
+{'loss': 0.0117, 'grad_norm': 0.00013455589942168444, 'learning_rate': 7.024934810951761e-07, 'epoch': 9.3}
+{'loss': 0.0, 'grad_norm': 0.005570964887738228, 'learning_rate': 7.004563233376793e-07, 'epoch': 9.3}
+{'loss': 0.0028, 'grad_norm': 0.004247268196195364, 'learning_rate': 6.984191655801825e-07, 'epoch': 9.3}
+{'loss': 0.0, 'grad_norm': 0.0015426177997142076, 'learning_rate': 6.963820078226859e-07, 'epoch': 9.3}
+{'loss': 0.0, 'grad_norm': 0.0002926686138380319, 'learning_rate': 6.943448500651891e-07, 'epoch': 9.31}
+{'loss': 0.0001, 'grad_norm': 0.010234183631837368, 'learning_rate': 6.923076923076924e-07, 'epoch': 9.31}
+{'loss': 0.0, 'grad_norm': 0.003936285153031349, 'learning_rate': 6.902705345501956e-07, 'epoch': 9.31}
+{'loss': 0.0267, 'grad_norm': 0.0008797873742878437, 'learning_rate': 6.882333767926989e-07, 'epoch': 9.31}
+{'loss': 0.0164, 'grad_norm': 0.00028920036857016385, 'learning_rate': 6.861962190352021e-07, 'epoch': 9.31}
+{'loss': 0.0, 'grad_norm': 2.374425639573019e-05, 'learning_rate': 6.841590612777054e-07, 'epoch': 9.32}
+{'loss': 0.0, 'grad_norm': 0.0007496282923966646, 'learning_rate': 6.821219035202087e-07, 'epoch': 9.32}
+{'loss': 0.0, 'grad_norm': 0.0007972404127940536, 'learning_rate': 6.800847457627119e-07, 'epoch': 9.32}
+{'loss': 0.0057, 'grad_norm': 0.00012429810885805637, 'learning_rate': 6.780475880052152e-07, 'epoch': 9.32}
+{'loss': 0.0681, 'grad_norm': 0.00025852627004496753, 'learning_rate': 6.760104302477184e-07, 'epoch': 9.32}
+{'loss': 0.0, 'grad_norm': 0.017362495884299278, 'learning_rate': 6.739732724902218e-07, 'epoch': 9.33}
+{'loss': 0.0366, 'grad_norm': 0.00010680686682462692, 'learning_rate': 6.71936114732725e-07, 'epoch': 9.33}
+{'loss': 0.0, 'grad_norm': 0.0001986938004847616, 'learning_rate': 6.698989569752282e-07, 'epoch': 9.33}
+{'loss': 0.0007, 'grad_norm': 0.0002774246677290648, 'learning_rate': 6.678617992177315e-07, 'epoch': 9.33}
+{'loss': 0.0, 'grad_norm': 0.0006825097370892763, 'learning_rate': 6.658246414602347e-07, 'epoch': 9.33}
+{'loss': 0.0088, 'grad_norm': 0.002976900665089488, 'learning_rate': 6.63787483702738e-07, 'epoch': 9.34}
+{'loss': 0.0097, 'grad_norm': 0.00028894501156173646, 'learning_rate': 6.617503259452412e-07, 'epoch': 9.34}
+{'loss': 0.0031, 'grad_norm': 0.0034675246570259333, 'learning_rate': 6.597131681877445e-07, 'epoch': 9.34}
+{'loss': 0.0, 'grad_norm': 0.0021748715080320835, 'learning_rate': 6.576760104302478e-07, 'epoch': 9.34}
+{'loss': 0.0461, 'grad_norm': 0.0006420821882784367, 'learning_rate': 6.55638852672751e-07, 'epoch': 9.34}
+{'loss': 0.0, 'grad_norm': 0.0026181202847510576, 'learning_rate': 6.536016949152543e-07, 'epoch': 9.35}
+{'loss': 0.0, 'grad_norm': 0.0009056340204551816, 'learning_rate': 6.515645371577575e-07, 'epoch': 9.35}
+{'loss': 0.0, 'grad_norm': 7.319325231947005e-05, 'learning_rate': 6.495273794002609e-07, 'epoch': 9.35}
+{'loss': 0.0035, 'grad_norm': 6.840390205383301, 'learning_rate': 6.474902216427641e-07, 'epoch': 9.35}
+{'loss': 0.0534, 'grad_norm': 0.00042384793050587177, 'learning_rate': 6.454530638852673e-07, 'epoch': 9.35}
+{'loss': 0.0, 'grad_norm': 0.0001826672232709825, 'learning_rate': 6.434159061277706e-07, 'epoch': 9.36}
+{'loss': 0.0011, 'grad_norm': 0.001430630567483604, 'learning_rate': 6.413787483702738e-07, 'epoch': 9.36}
+{'loss': 0.0115, 'grad_norm': 0.002254180610179901, 'learning_rate': 6.393415906127771e-07, 'epoch': 9.36}
+{'loss': 0.0, 'grad_norm': 0.001201403560116887, 'learning_rate': 6.373044328552803e-07, 'epoch': 9.36}
+{'loss': 0.0, 'grad_norm': 0.00016021906048990786, 'learning_rate': 6.352672750977837e-07, 'epoch': 9.36}
+{'loss': 0.0, 'grad_norm': 0.0009516671998426318, 'learning_rate': 6.332301173402869e-07, 'epoch': 9.37}
+{'loss': 0.0083, 'grad_norm': 0.00031710320035927, 'learning_rate': 6.311929595827901e-07, 'epoch': 9.37}
+{'loss': 0.0184, 'grad_norm': 0.0010967082343995571, 'learning_rate': 6.291558018252934e-07, 'epoch': 9.37}
+{'eval_loss': 14.70001220703125, 'eval_accuracy': 0.7168674698795181, 'eval_runtime': 1.4352, 'eval_samples_per_second': 1734.923, 'eval_steps_per_second': 54.347, 'epoch': 9.37}
+{'loss': 0.0, 'grad_norm': 0.008765832521021366, 'learning_rate': 6.271186440677966e-07, 'epoch': 9.37}
+{'loss': 0.0, 'grad_norm': 0.00010560116788838059, 'learning_rate': 6.250814863103e-07, 'epoch': 9.38}
+{'loss': 0.057, 'grad_norm': 0.001299114665016532, 'learning_rate': 6.230443285528032e-07, 'epoch': 9.38}
+{'loss': 0.0, 'grad_norm': 0.0019552120938897133, 'learning_rate': 6.210071707953065e-07, 'epoch': 9.38}
+{'loss': 0.0, 'grad_norm': 0.005976136773824692, 'learning_rate': 6.189700130378097e-07, 'epoch': 9.38}
+{'loss': 0.0, 'grad_norm': 0.00045678604510612786, 'learning_rate': 6.16932855280313e-07, 'epoch': 9.38}
+{'loss': 0.0297, 'grad_norm': 0.0005648325313813984, 'learning_rate': 6.148956975228163e-07, 'epoch': 9.39}
+{'loss': 0.0094, 'grad_norm': 0.0009685092372819781, 'learning_rate': 6.128585397653194e-07, 'epoch': 9.39}
+{'loss': 0.0, 'grad_norm': 0.007049570791423321, 'learning_rate': 6.108213820078228e-07, 'epoch': 9.39}
+{'loss': 0.2114, 'grad_norm': 0.01612122356891632, 'learning_rate': 6.08784224250326e-07, 'epoch': 9.39}
+{'loss': 0.0397, 'grad_norm': 0.00039762954111211, 'learning_rate': 6.067470664928293e-07, 'epoch': 9.39}
+{'loss': 0.0, 'grad_norm': 0.008773481473326683, 'learning_rate': 6.047099087353325e-07, 'epoch': 9.4}
+{'loss': 0.0, 'grad_norm': 0.0040851496160030365, 'learning_rate': 6.026727509778358e-07, 'epoch': 9.4}
+{'loss': 0.0, 'grad_norm': 0.0016348508652299643, 'learning_rate': 6.00635593220339e-07, 'epoch': 9.4}
+{'loss': 0.0001, 'grad_norm': 0.007237996440380812, 'learning_rate': 5.985984354628423e-07, 'epoch': 9.4}
+{'loss': 0.0, 'grad_norm': 0.0035695212427526712, 'learning_rate': 5.965612777053456e-07, 'epoch': 9.4}
+{'loss': 0.005, 'grad_norm': 0.0009500692249275744, 'learning_rate': 5.945241199478488e-07, 'epoch': 9.41}
+{'loss': 0.0459, 'grad_norm': 0.0010189316235482693, 'learning_rate': 5.924869621903521e-07, 'epoch': 9.41}
+{'loss': 0.0, 'grad_norm': 0.04502636194229126, 'learning_rate': 5.904498044328554e-07, 'epoch': 9.41}
+{'loss': 0.0024, 'grad_norm': 0.005136752035468817, 'learning_rate': 5.884126466753586e-07, 'epoch': 9.41}
+{'loss': 0.0, 'grad_norm': 0.0027576489374041557, 'learning_rate': 5.863754889178619e-07, 'epoch': 9.41}
+{'loss': 0.0236, 'grad_norm': 0.008742530830204487, 'learning_rate': 5.843383311603651e-07, 'epoch': 9.42}
+{'loss': 0.0028, 'grad_norm': 18.756025314331055, 'learning_rate': 5.823011734028684e-07, 'epoch': 9.42}
+{'loss': 0.0133, 'grad_norm': 0.0009276561322622001, 'learning_rate': 5.802640156453716e-07, 'epoch': 9.42}
+{'loss': 0.0077, 'grad_norm': 0.000479517737403512, 'learning_rate': 5.782268578878749e-07, 'epoch': 9.42}
+{'loss': 0.0, 'grad_norm': 0.00040822968003340065, 'learning_rate': 5.761897001303782e-07, 'epoch': 9.42}
+{'loss': 0.0, 'grad_norm': 0.0004009525873698294, 'learning_rate': 5.741525423728813e-07, 'epoch': 9.43}
+{'loss': 0.0074, 'grad_norm': 0.004693877883255482, 'learning_rate': 5.721153846153847e-07, 'epoch': 9.43}
+{'loss': 0.0, 'grad_norm': 0.0032197132240980864, 'learning_rate': 5.700782268578879e-07, 'epoch': 9.43}
+{'loss': 0.0, 'grad_norm': 0.0017578547121956944, 'learning_rate': 5.680410691003912e-07, 'epoch': 9.43}
+{'loss': 0.0001, 'grad_norm': 0.0072951484471559525, 'learning_rate': 5.660039113428945e-07, 'epoch': 9.43}
+{'loss': 0.0007, 'grad_norm': 0.005372465588152409, 'learning_rate': 5.639667535853977e-07, 'epoch': 9.44}
+{'loss': 0.0, 'grad_norm': 0.0011829874711111188, 'learning_rate': 5.61929595827901e-07, 'epoch': 9.44}
+{'loss': 0.0, 'grad_norm': 0.07373173534870148, 'learning_rate': 5.598924380704042e-07, 'epoch': 9.44}
+{'loss': 0.0, 'grad_norm': 0.0021919123828411102, 'learning_rate': 5.578552803129075e-07, 'epoch': 9.44}
+{'loss': 0.0, 'grad_norm': 6.405320891644806e-05, 'learning_rate': 5.558181225554108e-07, 'epoch': 9.44}
+{'loss': 0.0068, 'grad_norm': 0.001669574063271284, 'learning_rate': 5.53780964797914e-07, 'epoch': 9.45}
+{'loss': 0.0266, 'grad_norm': 0.0003439136780798435, 'learning_rate': 5.517438070404173e-07, 'epoch': 9.45}
+{'loss': 0.0, 'grad_norm': 0.0021961720194667578, 'learning_rate': 5.497066492829205e-07, 'epoch': 9.45}
+{'loss': 0.0007, 'grad_norm': 0.00014393875608220696, 'learning_rate': 5.476694915254238e-07, 'epoch': 9.45}
+{'loss': 0.0, 'grad_norm': 0.0003453665704000741, 'learning_rate': 5.45632333767927e-07, 'epoch': 9.45}
+{'loss': 0.0, 'grad_norm': 0.001217972720041871, 'learning_rate': 5.435951760104303e-07, 'epoch': 9.46}
+{'loss': 0.0, 'grad_norm': 0.0019377194112166762, 'learning_rate': 5.415580182529336e-07, 'epoch': 9.46}
+{'loss': 0.006, 'grad_norm': 0.0005995925748720765, 'learning_rate': 5.395208604954368e-07, 'epoch': 9.46}
+{'loss': 0.0016, 'grad_norm': 0.0002858289226423949, 'learning_rate': 5.374837027379401e-07, 'epoch': 9.46}
+{'loss': 0.0, 'grad_norm': 0.0035768509842455387, 'learning_rate': 5.354465449804433e-07, 'epoch': 9.46}
+{'loss': 0.0167, 'grad_norm': 0.002365860855206847, 'learning_rate': 5.334093872229466e-07, 'epoch': 9.47}
+{'loss': 0.0255, 'grad_norm': 0.0007265767198987305, 'learning_rate': 5.313722294654499e-07, 'epoch': 9.47}
+{'loss': 0.0, 'grad_norm': 0.0007754798862151802, 'learning_rate': 5.293350717079531e-07, 'epoch': 9.47}
+{'loss': 0.0, 'grad_norm': 0.001495790551416576, 'learning_rate': 5.272979139504564e-07, 'epoch': 9.47}
+{'loss': 0.0, 'grad_norm': 0.0008512689964845777, 'learning_rate': 5.252607561929596e-07, 'epoch': 9.47}
+{'loss': 0.0, 'grad_norm': 0.001072225160896778, 'learning_rate': 5.232235984354629e-07, 'epoch': 9.48}
+{'loss': 0.0, 'grad_norm': 0.00012063458416378126, 'learning_rate': 5.211864406779662e-07, 'epoch': 9.48}
+{'loss': 0.0129, 'grad_norm': 679.1664428710938, 'learning_rate': 5.191492829204694e-07, 'epoch': 9.48}
+{'loss': 0.0188, 'grad_norm': 0.0023868600837886333, 'learning_rate': 5.171121251629727e-07, 'epoch': 9.48}
+{'loss': 0.0002, 'grad_norm': 0.06167962774634361, 'learning_rate': 5.150749674054759e-07, 'epoch': 9.49}
+{'loss': 0.0057, 'grad_norm': 0.014012428000569344, 'learning_rate': 5.130378096479792e-07, 'epoch': 9.49}
+{'loss': 0.0, 'grad_norm': 0.005419335328042507, 'learning_rate': 5.110006518904824e-07, 'epoch': 9.49}
+{'loss': 0.0211, 'grad_norm': 0.006791974417865276, 'learning_rate': 5.089634941329857e-07, 'epoch': 9.49}
+{'loss': 0.0051, 'grad_norm': 0.028052667155861855, 'learning_rate': 5.06926336375489e-07, 'epoch': 9.49}
+{'loss': 0.0027, 'grad_norm': 3.738951136256219e-06, 'learning_rate': 5.048891786179922e-07, 'epoch': 9.5}
+{'loss': 0.0, 'grad_norm': 0.0001651085476623848, 'learning_rate': 5.028520208604955e-07, 'epoch': 9.5}
+{'loss': 0.0, 'grad_norm': 0.00013675288937520236, 'learning_rate': 5.008148631029987e-07, 'epoch': 9.5}
+{'loss': 0.0006, 'grad_norm': 0.0003622193180490285, 'learning_rate': 4.98777705345502e-07, 'epoch': 9.5}
+{'loss': 0.0, 'grad_norm': 0.0003569498367141932, 'learning_rate': 4.967405475880053e-07, 'epoch': 9.5}
+{'loss': 0.0, 'grad_norm': 0.00013158601359464228, 'learning_rate': 4.947033898305085e-07, 'epoch': 9.51}
+{'loss': 0.0124, 'grad_norm': 0.00015754863852635026, 'learning_rate': 4.926662320730118e-07, 'epoch': 9.51}
+{'loss': 0.0003, 'grad_norm': 0.0015471208607777953, 'learning_rate': 4.90629074315515e-07, 'epoch': 9.51}
+{'loss': 0.0055, 'grad_norm': 0.00022334494860842824, 'learning_rate': 4.885919165580183e-07, 'epoch': 9.51}
+{'loss': 0.0053, 'grad_norm': 0.007516769226640463, 'learning_rate': 4.865547588005215e-07, 'epoch': 9.51}
+{'loss': 0.0, 'grad_norm': 0.0011309790425002575, 'learning_rate': 4.845176010430248e-07, 'epoch': 9.52}
+{'loss': 0.0, 'grad_norm': 0.0017364342929795384, 'learning_rate': 4.824804432855281e-07, 'epoch': 9.52}
+{'loss': 0.0002, 'grad_norm': 0.00010375370766269043, 'learning_rate': 4.804432855280313e-07, 'epoch': 9.52}
+{'loss': 0.0344, 'grad_norm': 0.000863092252984643, 'learning_rate': 4.784061277705346e-07, 'epoch': 9.52}
+{'loss': 0.024, 'grad_norm': 0.0010663941502571106, 'learning_rate': 4.7636897001303784e-07, 'epoch': 9.52}
+{'loss': 0.0005, 'grad_norm': 0.0016404063208028674, 'learning_rate': 4.743318122555411e-07, 'epoch': 9.53}
+{'loss': 0.0, 'grad_norm': 0.0012226463295519352, 'learning_rate': 4.722946544980444e-07, 'epoch': 9.53}
+{'loss': 0.02, 'grad_norm': 0.0014033372281119227, 'learning_rate': 4.7025749674054767e-07, 'epoch': 9.53}
+{'loss': 0.0, 'grad_norm': 0.0010087282862514257, 'learning_rate': 4.682203389830509e-07, 'epoch': 9.53}
+{'loss': 0.0, 'grad_norm': 0.00035260169534012675, 'learning_rate': 4.6618318122555413e-07, 'epoch': 9.53}
+{'loss': 0.0203, 'grad_norm': 3.758853563340381e-05, 'learning_rate': 4.641460234680574e-07, 'epoch': 9.54}
+{'loss': 0.0, 'grad_norm': 0.0001476057805120945, 'learning_rate': 4.6210886571056065e-07, 'epoch': 9.54}
+{'loss': 0.0596, 'grad_norm': 0.0035165403969585896, 'learning_rate': 4.6007170795306396e-07, 'epoch': 9.54}
+{'loss': 0.0, 'grad_norm': 0.0019012318225577474, 'learning_rate': 4.580345501955672e-07, 'epoch': 9.54}
+{'loss': 0.0001, 'grad_norm': 0.000305315712466836, 'learning_rate': 4.5599739243807043e-07, 'epoch': 9.54}
+{'loss': 0.0197, 'grad_norm': 7.905046368250623e-05, 'learning_rate': 4.539602346805737e-07, 'epoch': 9.55}
+{'loss': 0.0125, 'grad_norm': 0.00026633741799741983, 'learning_rate': 4.5192307692307695e-07, 'epoch': 9.55}
+{'loss': 0.0123, 'grad_norm': 5.5162545322673395e-05, 'learning_rate': 4.498859191655802e-07, 'epoch': 9.55}
+{'loss': 0.0, 'grad_norm': 0.0024056080728769302, 'learning_rate': 4.478487614080835e-07, 'epoch': 9.55}
+{'loss': 0.0, 'grad_norm': 0.003706093179062009, 'learning_rate': 4.458116036505868e-07, 'epoch': 9.55}
+{'loss': 0.0, 'grad_norm': 0.0030719961505383253, 'learning_rate': 4.4377444589309003e-07, 'epoch': 9.56}
+{'loss': 0.0202, 'grad_norm': 0.0009004899766296148, 'learning_rate': 4.4173728813559324e-07, 'epoch': 9.56}
+{'loss': 0.0575, 'grad_norm': 0.00038466081605292857, 'learning_rate': 4.397001303780965e-07, 'epoch': 9.56}
+{'loss': 0.0, 'grad_norm': 0.0009328118758276105, 'learning_rate': 4.3766297262059976e-07, 'epoch': 9.56}
+{'loss': 0.0, 'grad_norm': 0.00041108750156126916, 'learning_rate': 4.3562581486310307e-07, 'epoch': 9.56}
+{'loss': 0.0, 'grad_norm': 0.0012381321284919977, 'learning_rate': 4.335886571056063e-07, 'epoch': 9.57}
+{'loss': 0.0126, 'grad_norm': 0.0012152633862569928, 'learning_rate': 4.315514993481096e-07, 'epoch': 9.57}
+{'loss': 0.0, 'grad_norm': 0.00011194166290806606, 'learning_rate': 4.295143415906128e-07, 'epoch': 9.57}
+{'loss': 0.0, 'grad_norm': 0.001465102774091065, 'learning_rate': 4.2747718383311605e-07, 'epoch': 9.57}
+{'loss': 0.168, 'grad_norm': 0.0009777635568752885, 'learning_rate': 4.254400260756193e-07, 'epoch': 9.57}
+{'loss': 0.0, 'grad_norm': 0.001263894373551011, 'learning_rate': 4.2340286831812257e-07, 'epoch': 9.58}
+{'loss': 0.0281, 'grad_norm': 4.402222839416936e-05, 'learning_rate': 4.213657105606259e-07, 'epoch': 9.58}
+{'loss': 0.0, 'grad_norm': 0.024732230231165886, 'learning_rate': 4.1932855280312914e-07, 'epoch': 9.58}
+{'loss': 0.0412, 'grad_norm': 79.55551147460938, 'learning_rate': 4.172913950456324e-07, 'epoch': 9.58}
+{'loss': 0.0, 'grad_norm': 0.0012251028092578053, 'learning_rate': 4.152542372881356e-07, 'epoch': 9.58}
+{'loss': 0.0074, 'grad_norm': 0.0008069439209066331, 'learning_rate': 4.1321707953063886e-07, 'epoch': 9.59}
+{'loss': 0.0, 'grad_norm': 0.0002954512310680002, 'learning_rate': 4.111799217731421e-07, 'epoch': 9.59}
+{'loss': 0.0124, 'grad_norm': 0.0004144565900787711, 'learning_rate': 4.0914276401564543e-07, 'epoch': 9.59}
+{'loss': 0.0, 'grad_norm': 0.00037335671368055046, 'learning_rate': 4.071056062581487e-07, 'epoch': 9.59}
+{'loss': 0.0065, 'grad_norm': 298.2630615234375, 'learning_rate': 4.0506844850065195e-07, 'epoch': 9.6}
+{'loss': 0.0388, 'grad_norm': 0.0004941946244798601, 'learning_rate': 4.0303129074315515e-07, 'epoch': 9.6}
+{'loss': 0.0, 'grad_norm': 0.0055932700634002686, 'learning_rate': 4.009941329856584e-07, 'epoch': 9.6}
+{'loss': 0.0492, 'grad_norm': 0.00043648711289279163, 'learning_rate': 3.9895697522816167e-07, 'epoch': 9.6}
+{'loss': 0.0, 'grad_norm': 0.000341707345796749, 'learning_rate': 3.96919817470665e-07, 'epoch': 9.6}
+{'loss': 0.0028, 'grad_norm': 0.003879605559632182, 'learning_rate': 3.9488265971316824e-07, 'epoch': 9.61}
+{'loss': 0.0, 'grad_norm': 0.00019307865295559168, 'learning_rate': 3.928455019556715e-07, 'epoch': 9.61}
+{'loss': 0.0, 'grad_norm': 0.002525314223021269, 'learning_rate': 3.908083441981747e-07, 'epoch': 9.61}
+{'loss': 0.0, 'grad_norm': 4.3598392949206755e-05, 'learning_rate': 3.8877118644067796e-07, 'epoch': 9.61}
+{'loss': 0.0001, 'grad_norm': 0.0013901377096772194, 'learning_rate': 3.867340286831812e-07, 'epoch': 9.61}
+{'loss': 0.0, 'grad_norm': 3.475029006949626e-05, 'learning_rate': 3.8469687092568453e-07, 'epoch': 9.62}
+{'loss': 0.0, 'grad_norm': 0.0012649802956730127, 'learning_rate': 3.826597131681878e-07, 'epoch': 9.62}
+{'loss': 0.0, 'grad_norm': 0.022851862013339996, 'learning_rate': 3.8062255541069105e-07, 'epoch': 9.62}
+{'loss': 0.0, 'grad_norm': 0.0010232379427179694, 'learning_rate': 3.785853976531943e-07, 'epoch': 9.62}
+{'loss': 0.0, 'grad_norm': 7.068904960760847e-05, 'learning_rate': 3.765482398956975e-07, 'epoch': 9.62}
+{'loss': 0.0196, 'grad_norm': 0.006027129478752613, 'learning_rate': 3.745110821382008e-07, 'epoch': 9.63}
+{'loss': 0.0413, 'grad_norm': 0.0002488005848135799, 'learning_rate': 3.724739243807041e-07, 'epoch': 9.63}
+{'loss': 0.0056, 'grad_norm': 0.0015203895745798945, 'learning_rate': 3.7043676662320734e-07, 'epoch': 9.63}
+{'loss': 0.0046, 'grad_norm': 0.014674980193376541, 'learning_rate': 3.683996088657106e-07, 'epoch': 9.63}
+{'loss': 0.0, 'grad_norm': 0.0035232878290116787, 'learning_rate': 3.6636245110821386e-07, 'epoch': 9.63}
+{'loss': 0.0, 'grad_norm': 0.022812385112047195, 'learning_rate': 3.6432529335071707e-07, 'epoch': 9.64}
+{'loss': 0.0255, 'grad_norm': 0.009680435061454773, 'learning_rate': 3.6228813559322033e-07, 'epoch': 9.64}
+{'loss': 0.0, 'grad_norm': 0.0003694909974001348, 'learning_rate': 3.6025097783572364e-07, 'epoch': 9.64}
+{'loss': 0.0, 'grad_norm': 0.002288888208568096, 'learning_rate': 3.582138200782269e-07, 'epoch': 9.64}
+{'loss': 0.0016, 'grad_norm': 0.0036121364682912827, 'learning_rate': 3.5617666232073016e-07, 'epoch': 9.64}
+{'loss': 0.0083, 'grad_norm': 0.0009771991753950715, 'learning_rate': 3.541395045632334e-07, 'epoch': 9.65}
+{'loss': 0.0, 'grad_norm': 0.0032100153621286154, 'learning_rate': 3.5210234680573667e-07, 'epoch': 9.65}
+{'loss': 0.0099, 'grad_norm': 0.00047498656203970313, 'learning_rate': 3.500651890482399e-07, 'epoch': 9.65}
+{'loss': 0.0, 'grad_norm': 0.0023869031574577093, 'learning_rate': 3.480280312907432e-07, 'epoch': 9.65}
+{'loss': 0.0, 'grad_norm': 0.00037725616130046546, 'learning_rate': 3.4599087353324645e-07, 'epoch': 9.65}
+{'loss': 0.0, 'grad_norm': 0.001874124864116311, 'learning_rate': 3.439537157757497e-07, 'epoch': 9.66}
+{'loss': 0.0048, 'grad_norm': 0.0007733595557510853, 'learning_rate': 3.4191655801825297e-07, 'epoch': 9.66}
+{'loss': 0.0, 'grad_norm': 0.015001343563199043, 'learning_rate': 3.398794002607562e-07, 'epoch': 9.66}
+{'loss': 0.0, 'grad_norm': 0.00024285308609250933, 'learning_rate': 3.3784224250325943e-07, 'epoch': 9.66}
+{'loss': 0.0125, 'grad_norm': 0.0003180572239216417, 'learning_rate': 3.3580508474576274e-07, 'epoch': 9.66}
+{'loss': 0.0, 'grad_norm': 0.0005503618740476668, 'learning_rate': 3.33767926988266e-07, 'epoch': 9.67}
+{'loss': 0.0213, 'grad_norm': 0.0059209405444562435, 'learning_rate': 3.3173076923076926e-07, 'epoch': 9.67}
+{'loss': 0.0, 'grad_norm': 0.0003977328888140619, 'learning_rate': 3.296936114732725e-07, 'epoch': 9.67}
+{'loss': 0.0115, 'grad_norm': 0.0013201715191826224, 'learning_rate': 3.276564537157758e-07, 'epoch': 9.67}
+{'loss': 0.0, 'grad_norm': 0.004380459897220135, 'learning_rate': 3.256192959582791e-07, 'epoch': 9.67}
+{'loss': 0.0, 'grad_norm': 0.0001766421482898295, 'learning_rate': 3.235821382007823e-07, 'epoch': 9.68}
+{'loss': 0.0, 'grad_norm': 0.0004030414274893701, 'learning_rate': 3.2154498044328555e-07, 'epoch': 9.68}
+{'loss': 0.0033, 'grad_norm': 0.04815318062901497, 'learning_rate': 3.195078226857888e-07, 'epoch': 9.68}
+{'loss': 0.0242, 'grad_norm': 0.0058471146039664745, 'learning_rate': 3.1747066492829207e-07, 'epoch': 9.68}
+{'loss': 0.0, 'grad_norm': 0.0024192086420953274, 'learning_rate': 3.1543350717079533e-07, 'epoch': 9.68}
+{'loss': 0.0, 'grad_norm': 0.0036609205417335033, 'learning_rate': 3.1339634941329864e-07, 'epoch': 9.69}
+{'loss': 0.0, 'grad_norm': 0.0007098673959262669, 'learning_rate': 3.1135919165580185e-07, 'epoch': 9.69}
+{'loss': 0.0, 'grad_norm': 0.005949246697127819, 'learning_rate': 3.093220338983051e-07, 'epoch': 9.69}
+{'loss': 0.0, 'grad_norm': 0.00018856913084164262, 'learning_rate': 3.0728487614080836e-07, 'epoch': 9.69}
+{'loss': 0.0, 'grad_norm': 0.004754383582621813, 'learning_rate': 3.052477183833116e-07, 'epoch': 9.69}
+{'loss': 0.0, 'grad_norm': 0.06509659439325333, 'learning_rate': 3.032105606258149e-07, 'epoch': 9.7}
+{'loss': 0.0, 'grad_norm': 0.0003398359986022115, 'learning_rate': 3.0117340286831814e-07, 'epoch': 9.7}
+{'loss': 0.0048, 'grad_norm': 0.001382487709634006, 'learning_rate': 2.991362451108214e-07, 'epoch': 9.7}
+{'loss': 0.0, 'grad_norm': 0.00042702758219093084, 'learning_rate': 2.9709908735332466e-07, 'epoch': 9.7}
+{'loss': 0.0, 'grad_norm': 0.00017294504505116493, 'learning_rate': 2.950619295958279e-07, 'epoch': 9.71}
+{'loss': 0.0, 'grad_norm': 0.0009532233234494925, 'learning_rate': 2.930247718383312e-07, 'epoch': 9.71}
+{'loss': 0.0, 'grad_norm': 1.2281595445529092e-05, 'learning_rate': 2.9098761408083443e-07, 'epoch': 9.71}
+{'loss': 0.0, 'grad_norm': 0.008393890224397182, 'learning_rate': 2.889504563233377e-07, 'epoch': 9.71}
+{'loss': 0.0333, 'grad_norm': 0.00044445382081903517, 'learning_rate': 2.8691329856584095e-07, 'epoch': 9.71}
+{'loss': 0.0105, 'grad_norm': 0.001394630060531199, 'learning_rate': 2.848761408083442e-07, 'epoch': 9.72}
+{'loss': 0.0, 'grad_norm': 0.024717137217521667, 'learning_rate': 2.828389830508475e-07, 'epoch': 9.72}
+{'loss': 0.0014, 'grad_norm': 0.001907257130369544, 'learning_rate': 2.808018252933507e-07, 'epoch': 9.72}
+{'loss': 0.0, 'grad_norm': 0.0019442063057795167, 'learning_rate': 2.78764667535854e-07, 'epoch': 9.72}
+{'loss': 0.0, 'grad_norm': 0.0002145222097169608, 'learning_rate': 2.767275097783573e-07, 'epoch': 9.72}
+{'loss': 0.0149, 'grad_norm': 8.324663212988526e-05, 'learning_rate': 2.746903520208605e-07, 'epoch': 9.73}
+{'loss': 0.0, 'grad_norm': 0.0007611532346345484, 'learning_rate': 2.7265319426336376e-07, 'epoch': 9.73}
+{'loss': 0.0352, 'grad_norm': 0.0003380618873052299, 'learning_rate': 2.7061603650586707e-07, 'epoch': 9.73}
+{'loss': 0.0, 'grad_norm': 0.00045848602894693613, 'learning_rate': 2.685788787483703e-07, 'epoch': 9.73}
+{'loss': 0.0, 'grad_norm': 0.00029537364025600255, 'learning_rate': 2.6654172099087354e-07, 'epoch': 9.73}
+{'loss': 0.0014, 'grad_norm': 0.005067670717835426, 'learning_rate': 2.6450456323337685e-07, 'epoch': 9.74}
+{'loss': 0.0049, 'grad_norm': 0.00026701492606662214, 'learning_rate': 2.6246740547588005e-07, 'epoch': 9.74}
+{'loss': 0.0139, 'grad_norm': 0.0011498910607770085, 'learning_rate': 2.604302477183833e-07, 'epoch': 9.74}
+{'loss': 0.0, 'grad_norm': 0.001042520860210061, 'learning_rate': 2.583930899608866e-07, 'epoch': 9.74}
+{'loss': 0.0, 'grad_norm': 0.0010640468681231141, 'learning_rate': 2.5635593220338983e-07, 'epoch': 9.74}
+{'loss': 0.0023, 'grad_norm': 0.0011577191762626171, 'learning_rate': 2.543187744458931e-07, 'epoch': 9.75}
+{'loss': 0.0, 'grad_norm': 0.002938151592388749, 'learning_rate': 2.522816166883964e-07, 'epoch': 9.75}
+{'loss': 0.0, 'grad_norm': 0.0022705558221787214, 'learning_rate': 2.5024445893089966e-07, 'epoch': 9.75}
+{'loss': 0.0, 'grad_norm': 0.0009812569478526711, 'learning_rate': 2.4820730117340286e-07, 'epoch': 9.75}
+{'loss': 0.0, 'grad_norm': 0.00032742079929448664, 'learning_rate': 2.461701434159062e-07, 'epoch': 9.75}
+{'loss': 0.0002, 'grad_norm': 0.00035244040191173553, 'learning_rate': 2.4413298565840944e-07, 'epoch': 9.76}
+{'loss': 0.0028, 'grad_norm': 0.00010103658132720739, 'learning_rate': 2.4209582790091264e-07, 'epoch': 9.76}
+{'loss': 0.0, 'grad_norm': 9.881516598397866e-05, 'learning_rate': 2.400586701434159e-07, 'epoch': 9.76}
+{'loss': 0.0, 'grad_norm': 0.0028586769476532936, 'learning_rate': 2.3802151238591918e-07, 'epoch': 9.76}
+{'loss': 0.0, 'grad_norm': 0.00022477183665614575, 'learning_rate': 2.3598435462842244e-07, 'epoch': 9.76}
+{'loss': 0.0, 'grad_norm': 0.0002368955174461007, 'learning_rate': 2.339471968709257e-07, 'epoch': 9.77}
+{'loss': 0.0, 'grad_norm': 0.0002889332827180624, 'learning_rate': 2.3191003911342896e-07, 'epoch': 9.77}
+{'loss': 0.0, 'grad_norm': 0.0013392805121839046, 'learning_rate': 2.2987288135593222e-07, 'epoch': 9.77}
+{'loss': 0.0056, 'grad_norm': 0.0007148960139602423, 'learning_rate': 2.2783572359843548e-07, 'epoch': 9.77}
+{'loss': 0.0326, 'grad_norm': 0.0007203631103038788, 'learning_rate': 2.2579856584093874e-07, 'epoch': 9.77}
+{'loss': 0.0281, 'grad_norm': 9.454588871449232e-05, 'learning_rate': 2.2376140808344202e-07, 'epoch': 9.78}
+{'loss': 0.0047, 'grad_norm': 0.015557589940726757, 'learning_rate': 2.2172425032594525e-07, 'epoch': 9.78}
+{'eval_loss': 14.423686981201172, 'eval_accuracy': 0.7164658634538152, 'eval_runtime': 1.4931, 'eval_samples_per_second': 1667.683, 'eval_steps_per_second': 52.241, 'epoch': 9.78}
+{'loss': 0.0, 'grad_norm': 0.002678211312741041, 'learning_rate': 2.196870925684485e-07, 'epoch': 9.78}
+{'loss': 0.0324, 'grad_norm': 0.0011465600691735744, 'learning_rate': 2.176499348109518e-07, 'epoch': 9.78}
+{'loss': 0.0, 'grad_norm': 0.000817145046312362, 'learning_rate': 2.1561277705345503e-07, 'epoch': 9.78}
+{'loss': 0.0, 'grad_norm': 0.0007720219437032938, 'learning_rate': 2.135756192959583e-07, 'epoch': 9.79}
+{'loss': 0.0, 'grad_norm': 0.022234827280044556, 'learning_rate': 2.1153846153846157e-07, 'epoch': 9.79}
+{'loss': 0.0, 'grad_norm': 0.0009310522000305355, 'learning_rate': 2.095013037809648e-07, 'epoch': 9.79}
+{'loss': 0.0206, 'grad_norm': 0.00016876065637916327, 'learning_rate': 2.0746414602346806e-07, 'epoch': 9.79}
+{'loss': 0.0084, 'grad_norm': 0.0468030720949173, 'learning_rate': 2.0542698826597135e-07, 'epoch': 9.79}
+{'loss': 0.0088, 'grad_norm': 0.00017718225717544556, 'learning_rate': 2.0338983050847458e-07, 'epoch': 9.8}
+{'loss': 0.0001, 'grad_norm': 0.009880051016807556, 'learning_rate': 2.0135267275097784e-07, 'epoch': 9.8}
+{'loss': 0.0, 'grad_norm': 0.0008015054045245051, 'learning_rate': 1.9931551499348113e-07, 'epoch': 9.8}
+{'loss': 0.0012, 'grad_norm': 0.00030575194978155196, 'learning_rate': 1.9727835723598436e-07, 'epoch': 9.8}
+{'loss': 0.0, 'grad_norm': 0.0002762266085483134, 'learning_rate': 1.9524119947848762e-07, 'epoch': 9.8}
+{'loss': 0.0, 'grad_norm': 3.137357271043584e-05, 'learning_rate': 1.932040417209909e-07, 'epoch': 9.81}
+{'loss': 0.0, 'grad_norm': 0.006087672431021929, 'learning_rate': 1.9116688396349416e-07, 'epoch': 9.81}
+{'loss': 0.0, 'grad_norm': 8.770998829277232e-05, 'learning_rate': 1.891297262059974e-07, 'epoch': 9.81}
+{'loss': 0.0289, 'grad_norm': 0.001808708067983389, 'learning_rate': 1.8709256844850068e-07, 'epoch': 9.81}
+{'loss': 0.0066, 'grad_norm': 0.0074689313769340515, 'learning_rate': 1.8505541069100394e-07, 'epoch': 9.82}
+{'loss': 0.0328, 'grad_norm': 0.002018607221543789, 'learning_rate': 1.8301825293350717e-07, 'epoch': 9.82}
+{'loss': 0.0002, 'grad_norm': 0.0011154343374073505, 'learning_rate': 1.8098109517601045e-07, 'epoch': 9.82}
+{'loss': 0.0, 'grad_norm': 0.003585227532312274, 'learning_rate': 1.789439374185137e-07, 'epoch': 9.82}
+{'loss': 0.0406, 'grad_norm': 0.001811311230994761, 'learning_rate': 1.7690677966101694e-07, 'epoch': 9.82}
+{'loss': 0.0038, 'grad_norm': 0.001066513010300696, 'learning_rate': 1.7486962190352023e-07, 'epoch': 9.83}
+{'loss': 0.0, 'grad_norm': 0.0012925021583214402, 'learning_rate': 1.728324641460235e-07, 'epoch': 9.83}
+{'loss': 0.0033, 'grad_norm': 0.0018920822767540812, 'learning_rate': 1.7079530638852672e-07, 'epoch': 9.83}
+{'loss': 0.0063, 'grad_norm': 0.0020455196499824524, 'learning_rate': 1.6875814863103e-07, 'epoch': 9.83}
+{'loss': 0.0093, 'grad_norm': 0.0012525480706244707, 'learning_rate': 1.6672099087353326e-07, 'epoch': 9.83}
+{'loss': 0.0215, 'grad_norm': 4.524130344390869, 'learning_rate': 1.6468383311603652e-07, 'epoch': 9.84}
+{'loss': 0.0, 'grad_norm': 0.0001413556165061891, 'learning_rate': 1.6264667535853978e-07, 'epoch': 9.84}
+{'loss': 0.0, 'grad_norm': 0.0002106725878547877, 'learning_rate': 1.6060951760104304e-07, 'epoch': 9.84}
+{'loss': 0.0, 'grad_norm': 0.0008063301793299615, 'learning_rate': 1.585723598435463e-07, 'epoch': 9.84}
+{'loss': 0.0, 'grad_norm': 0.0016114048194140196, 'learning_rate': 1.5653520208604956e-07, 'epoch': 9.84}
+{'loss': 0.0, 'grad_norm': 0.00023851366131566465, 'learning_rate': 1.5449804432855282e-07, 'epoch': 9.85}
+{'loss': 0.0005, 'grad_norm': 0.0013164642732590437, 'learning_rate': 1.5246088657105607e-07, 'epoch': 9.85}
+{'loss': 0.0067, 'grad_norm': 2.2017316818237305, 'learning_rate': 1.5042372881355933e-07, 'epoch': 9.85}
+{'loss': 0.0, 'grad_norm': 0.0007552205352112651, 'learning_rate': 1.483865710560626e-07, 'epoch': 9.85}
+{'loss': 0.0, 'grad_norm': 0.00019930987036786973, 'learning_rate': 1.4634941329856585e-07, 'epoch': 9.85}
+{'loss': 0.0027, 'grad_norm': 0.0004207579477224499, 'learning_rate': 1.443122555410691e-07, 'epoch': 9.86}
+{'loss': 0.018, 'grad_norm': 0.00018101927707903087, 'learning_rate': 1.4227509778357237e-07, 'epoch': 9.86}
+{'loss': 0.0, 'grad_norm': 0.0006956931320019066, 'learning_rate': 1.4023794002607563e-07, 'epoch': 9.86}
+{'loss': 0.0, 'grad_norm': 0.0006281845271587372, 'learning_rate': 1.3820078226857889e-07, 'epoch': 9.86}
+{'loss': 0.0, 'grad_norm': 0.00173280481249094, 'learning_rate': 1.3616362451108214e-07, 'epoch': 9.86}
+{'loss': 0.0184, 'grad_norm': 0.0013050034176558256, 'learning_rate': 1.341264667535854e-07, 'epoch': 9.87}
+{'loss': 0.0032, 'grad_norm': 0.024963313713669777, 'learning_rate': 1.3208930899608866e-07, 'epoch': 9.87}
+{'loss': 0.0, 'grad_norm': 0.0012249706778675318, 'learning_rate': 1.3005215123859192e-07, 'epoch': 9.87}
+{'loss': 0.0, 'grad_norm': 0.0026289792731404305, 'learning_rate': 1.2801499348109518e-07, 'epoch': 9.87}
+{'loss': 0.0019, 'grad_norm': 0.00013491058780346066, 'learning_rate': 1.2597783572359844e-07, 'epoch': 9.87}
+{'loss': 0.0, 'grad_norm': 0.00032046870910562575, 'learning_rate': 1.2394067796610172e-07, 'epoch': 9.88}
+{'loss': 0.0, 'grad_norm': 0.0008666750509291887, 'learning_rate': 1.2190352020860495e-07, 'epoch': 9.88}
+{'loss': 0.0, 'grad_norm': 5.625205085380003e-05, 'learning_rate': 1.1986636245110821e-07, 'epoch': 9.88}
+{'loss': 0.0, 'grad_norm': 0.00164837168995291, 'learning_rate': 1.1782920469361149e-07, 'epoch': 9.88}
+{'loss': 0.0087, 'grad_norm': 9.369944018544629e-05, 'learning_rate': 1.1579204693611474e-07, 'epoch': 9.88}
+{'loss': 0.0144, 'grad_norm': 0.00011471472680568695, 'learning_rate': 1.1375488917861802e-07, 'epoch': 9.89}
+{'loss': 0.0064, 'grad_norm': 0.0010372207034379244, 'learning_rate': 1.1171773142112126e-07, 'epoch': 9.89}
+{'loss': 0.0001, 'grad_norm': 0.0010679479455575347, 'learning_rate': 1.0968057366362452e-07, 'epoch': 9.89}
+{'loss': 0.0, 'grad_norm': 0.01524998340755701, 'learning_rate': 1.0764341590612778e-07, 'epoch': 9.89}
+{'loss': 0.0, 'grad_norm': 0.00045748832053504884, 'learning_rate': 1.0560625814863104e-07, 'epoch': 9.89}
+{'loss': 0.041, 'grad_norm': 0.00017241356545127928, 'learning_rate': 1.035691003911343e-07, 'epoch': 9.9}
+{'loss': 0.0, 'grad_norm': 0.0015348880551755428, 'learning_rate': 1.0153194263363755e-07, 'epoch': 9.9}
+{'loss': 0.0, 'grad_norm': 0.0009131756378337741, 'learning_rate': 9.949478487614081e-08, 'epoch': 9.9}
+{'loss': 0.0122, 'grad_norm': 0.0008293818100355566, 'learning_rate': 9.745762711864409e-08, 'epoch': 9.9}
+{'loss': 0.0, 'grad_norm': 0.0003921671013813466, 'learning_rate': 9.542046936114733e-08, 'epoch': 9.9}
+{'loss': 0.0004, 'grad_norm': 0.0003070971870329231, 'learning_rate': 9.338331160365059e-08, 'epoch': 9.91}
+{'loss': 0.0003, 'grad_norm': 0.001911225845105946, 'learning_rate': 9.134615384615386e-08, 'epoch': 9.91}
+{'loss': 0.0, 'grad_norm': 0.0016016853041946888, 'learning_rate': 8.930899608865711e-08, 'epoch': 9.91}
+{'loss': 0.0, 'grad_norm': 0.0023574295919388533, 'learning_rate': 8.727183833116037e-08, 'epoch': 9.91}
+{'loss': 0.0081, 'grad_norm': 5.4071861086413264e-05, 'learning_rate': 8.523468057366364e-08, 'epoch': 9.91}
+{'loss': 0.0325, 'grad_norm': 0.0038561688270419836, 'learning_rate': 8.319752281616688e-08, 'epoch': 9.92}
+{'loss': 0.0, 'grad_norm': 0.00010950119758490473, 'learning_rate': 8.116036505867015e-08, 'epoch': 9.92}
+{'loss': 0.0048, 'grad_norm': 0.00011544136214070022, 'learning_rate': 7.912320730117341e-08, 'epoch': 9.92}
+{'loss': 0.0001, 'grad_norm': 0.0005427589640021324, 'learning_rate': 7.708604954367667e-08, 'epoch': 9.92}
+{'loss': 0.0416, 'grad_norm': 2.001159429550171, 'learning_rate': 7.504889178617992e-08, 'epoch': 9.93}
+{'loss': 0.0, 'grad_norm': 0.0002991019864566624, 'learning_rate': 7.301173402868319e-08, 'epoch': 9.93}
+{'loss': 0.1021, 'grad_norm': 0.0011763859074562788, 'learning_rate': 7.097457627118645e-08, 'epoch': 9.93}
+{'loss': 0.0, 'grad_norm': 0.0008259026799350977, 'learning_rate': 6.893741851368971e-08, 'epoch': 9.93}
+{'loss': 0.0007, 'grad_norm': 0.001360651571303606, 'learning_rate': 6.690026075619297e-08, 'epoch': 9.93}
+{'loss': 0.0, 'grad_norm': 0.0008716474403627217, 'learning_rate': 6.486310299869622e-08, 'epoch': 9.94}
+{'loss': 0.006, 'grad_norm': 0.00011685564822982997, 'learning_rate': 6.282594524119948e-08, 'epoch': 9.94}
+{'loss': 0.0484, 'grad_norm': 0.00171179068274796, 'learning_rate': 6.078878748370274e-08, 'epoch': 9.94}
+{'loss': 0.0001, 'grad_norm': 0.00010868089884752408, 'learning_rate': 5.8751629726206007e-08, 'epoch': 9.94}
+{'loss': 0.0, 'grad_norm': 0.002938087098300457, 'learning_rate': 5.671447196870926e-08, 'epoch': 9.94}
+{'loss': 0.0447, 'grad_norm': 0.0010634080972522497, 'learning_rate': 5.467731421121252e-08, 'epoch': 9.95}
+{'loss': 0.0, 'grad_norm': 0.0008958682883530855, 'learning_rate': 5.264015645371578e-08, 'epoch': 9.95}
+{'loss': 0.0, 'grad_norm': 0.0016204701969400048, 'learning_rate': 5.060299869621904e-08, 'epoch': 9.95}
+{'loss': 0.0, 'grad_norm': 0.001054165419191122, 'learning_rate': 4.8565840938722293e-08, 'epoch': 9.95}
+{'loss': 0.0049, 'grad_norm': 0.0018536223797127604, 'learning_rate': 4.652868318122556e-08, 'epoch': 9.95}
+{'loss': 0.0, 'grad_norm': 0.0011232626857236028, 'learning_rate': 4.449152542372882e-08, 'epoch': 9.96}
+{'loss': 0.0258, 'grad_norm': 0.0005423960974439979, 'learning_rate': 4.245436766623208e-08, 'epoch': 9.96}
+{'loss': 0.0304, 'grad_norm': 0.000538127962499857, 'learning_rate': 4.0417209908735335e-08, 'epoch': 9.96}
+{'loss': 0.0, 'grad_norm': 0.0005053087370470166, 'learning_rate': 3.838005215123859e-08, 'epoch': 9.96}
+{'loss': 0.0466, 'grad_norm': 0.00015415098459925503, 'learning_rate': 3.634289439374185e-08, 'epoch': 9.96}
+{'loss': 0.0018, 'grad_norm': 0.0005112171056680381, 'learning_rate': 3.430573663624511e-08, 'epoch': 9.97}
+{'loss': 0.0022, 'grad_norm': 0.0013360921293497086, 'learning_rate': 3.2268578878748376e-08, 'epoch': 9.97}
+{'loss': 0.0, 'grad_norm': 0.000848987081553787, 'learning_rate': 3.023142112125163e-08, 'epoch': 9.97}
+{'loss': 0.0056, 'grad_norm': 0.0004381310718599707, 'learning_rate': 2.8194263363754893e-08, 'epoch': 9.97}
+{'loss': 0.0, 'grad_norm': 0.0009286724380217493, 'learning_rate': 2.615710560625815e-08, 'epoch': 9.97}
+{'loss': 0.0004, 'grad_norm': 0.00017805409152060747, 'learning_rate': 2.411994784876141e-08, 'epoch': 9.98}
+{'loss': 0.0033, 'grad_norm': 0.0004558280052151531, 'learning_rate': 2.2082790091264666e-08, 'epoch': 9.98}
+{'loss': 0.0, 'grad_norm': 0.0015722665702924132, 'learning_rate': 2.0045632333767928e-08, 'epoch': 9.98}
+{'loss': 0.0, 'grad_norm': 0.0003838567645289004, 'learning_rate': 1.8008474576271187e-08, 'epoch': 9.98}
+{'loss': 0.0, 'grad_norm': 0.00879007950425148, 'learning_rate': 1.597131681877445e-08, 'epoch': 9.98}
+{'loss': 0.0, 'grad_norm': 0.00015352612535934895, 'learning_rate': 1.3934159061277707e-08, 'epoch': 9.99}
+{'loss': 0.0, 'grad_norm': 0.00016355799743905663, 'learning_rate': 1.1897001303780966e-08, 'epoch': 9.99}
+{'loss': 0.0, 'grad_norm': 0.003100665984675288, 'learning_rate': 9.859843546284224e-09, 'epoch': 9.99}
+{'loss': 0.0688, 'grad_norm': 8.944857108872384e-05, 'learning_rate': 7.822685788787485e-09, 'epoch': 9.99}
+{'loss': 0.0, 'grad_norm': 0.0001259517448488623, 'learning_rate': 5.7855280312907435e-09, 'epoch': 9.99}
+{'loss': 0.0, 'grad_norm': 0.001436013961210847, 'learning_rate': 3.748370273794003e-09, 'epoch': 10.0}
+{'loss': 0.0, 'grad_norm': 3.5364725589752197, 'learning_rate': 1.7112125162972623e-09, 'epoch': 10.0}
+{'train_runtime': 7378.855, 'train_samples_per_second': 532.199, 'train_steps_per_second': 16.631, 'train_loss': 0.39307365278850614, 'epoch': 10.0}
+***** train metrics *****
+  epoch                    =        10.0
+  total_flos               = 311569071GF
+  train_loss               =      0.3931
+  train_runtime            =  2:02:58.85
+  train_samples            =      392702
+  train_samples_per_second =     532.199
+  train_steps_per_second   =      16.631
+12/17/2025 20:01:42 - INFO - __main__ - *** Evaluate ***
+***** eval metrics *****
+  epoch                   =       10.0
+  eval_accuracy           =     0.7157
+  eval_loss               =    14.5488
+  eval_runtime            = 0:00:01.33
+  eval_samples            =       2490
+  eval_samples_per_second =   1861.554
+  eval_steps_per_second   =     58.314