bert_4

This model is a fine-tuned version of on an unknown dataset. It achieves the following results on the evaluation set:

• Train Loss: nan
• Epoch: 39

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

• optimizer: {'name': 'Adam', 'learning_rate': 1e-04, 'decay': 0.0, 'beta_1': 0.9, 'beta_2': 0.999, 'epsilon': 1e-07, 'amsgrad': False}
• training_precision: float32

Training results

Train Loss	Epoch
9.1922	0
nan	1
nan	2
nan	3
nan	4
nan	5
nan	6
nan	7
nan	8
nan	9
nan	10
nan	11
nan	12
nan	13
nan	14
nan	15
nan	16
nan	17
nan	18
nan	19
nan	20
nan	21
nan	22
nan	23
nan	24
nan	25
nan	26
nan	27
nan	28
nan	29
nan	30
nan	31
nan	32
nan	33
nan	34
nan	35
nan	36
nan	37
nan	38
nan	39

Framework versions

• Transformers 4.33.1
• TensorFlow 2.10.0
• Datasets 2.12.0
• Tokenizers 0.13.3