| { | |
| "config": { | |
| "model_type": "pretrained", | |
| "model_dtype": "torch.float16", | |
| "model_name": "meta-llama/Llama-3.1-70B", | |
| "model_sha": "main" | |
| }, | |
| "results": { | |
| "NER": { | |
| "EntityF1": 0.05 | |
| }, | |
| "FINER-ORD": { | |
| "EntityF1": 0.18 | |
| }, | |
| "FinRED": { | |
| "F1": 0.00 | |
| }, | |
| "SC": { | |
| "F1": 0.87 | |
| }, | |
| "CD": { | |
| "F1": 0.00 | |
| }, | |
| "FNXL": { | |
| "EntityF1": 0.00 | |
| }, | |
| "FSRL": { | |
| "EntityF1": 0.00 | |
| }, | |
| "FPB": { | |
| "F1": 0.79 | |
| }, | |
| "FiQA-SA": { | |
| "F1": 0.74 | |
| }, | |
| "TSA": { | |
| "RMSE": 0.42 | |
| }, | |
| "Headlines": { | |
| "AvgF1": 0.60 | |
| }, | |
| "FOMC": { | |
| "F1": 0.64 | |
| }, | |
| "FinArg-ACC": { | |
| "MicroF1": 0.65 | |
| }, | |
| "FinArg-ARC": { | |
| "MicroF1": 0.55 | |
| }, | |
| "MultiFin": { | |
| "MicroF1": 0.69 | |
| }, | |
| "MA": { | |
| "MicroF1": 0.84 | |
| }, | |
| "MLESG": { | |
| "MicroF1": 0.44 | |
| }, | |
| "FinQA": { | |
| "EmAcc": 0.00 | |
| }, | |
| "TATQA": { | |
| "EmAcc": 0.44 | |
| }, | |
| "Regulations": { | |
| "Rouge-1": 0.10 | |
| }, | |
| "ConvFinQA": { | |
| "EmAcc": 0.00 | |
| }, | |
| "EDTSUM": { | |
| "Rouge-1": 0.18 | |
| }, | |
| "ECTSUM": { | |
| "Rouge-1": 0.00 | |
| }, | |
| "BigData22": { | |
| "Acc": 0.45 | |
| }, | |
| "ACL18": { | |
| "Acc": 0.49 | |
| }, | |
| "CIKM18": { | |
| "Acc": 0.44 | |
| }, | |
| "FinTrade": { | |
| "SR": -0.04 | |
| } | |
| } | |
| } |