Alvant
commited on
Commit
·
1370356
1
Parent(s):
37a8010
add info in readme
Browse files
README.md
CHANGED
|
@@ -14,3 +14,59 @@ configs:
|
|
| 14 |
- split: train
|
| 15 |
path: "data/RTL_Wiki_person.csv.gz"
|
| 16 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 14 |
- split: train
|
| 15 |
path: "data/RTL_Wiki_person.csv.gz"
|
| 16 |
---
|
| 17 |
+
|
| 18 |
+
|
| 19 |
+
# RTL-Wiki
|
| 20 |
+
|
| 21 |
+
Измеряемые характеристики датасета:
|
| 22 |
+
|
| 23 |
+
* D — число документов
|
| 24 |
+
* <имя модальности> W — размер словаря данной модальности (количество уникальных токенов)
|
| 25 |
+
* <имя модальности> len D — средняя длина документа в терминах этой модальности (количество слов)
|
| 26 |
+
* <имя модальности> len D uniq — средняя длина документа в уникальных терминах этой модальности (количество уникальных слов)
|
| 27 |
+
|
| 28 |
+
|
| 29 |
+
| | D | @lemmatized W | @lemmatized len D | @lemmatized len D uniq | @bigram W | @bigram len D | @bigram len D uniq |
|
| 30 |
+
|:------|------------:|-----------------------:|---------------------------:|--------------------------------:|-------------------:|-----------------------:|----------------------------:|
|
| 31 |
+
| value | 7838 | 1.28065e+07 | 1633.9 | 691.157 | 503619 | 64.2535 | 30.8372 |
|
| 32 |
+
|
| 33 |
+
|
| 34 |
+
Информация о длинах документов в расчёте на модальность:
|
| 35 |
+
|
| 36 |
+
|
| 37 |
+
| | len_total@lemmatized | len_total@bigram | len_uniq@lemmatized | len_uniq@bigram |
|
| 38 |
+
|:-----|-----------------------:|-------------------:|----------------------:|------------------:|
|
| 39 |
+
| mean | 1633.9 | 64.2535 | 691.157 | 30.8372 |
|
| 40 |
+
| std | 1565.19 | 73.1737 | 521.463 | 28.071 |
|
| 41 |
+
| min | 2 | 0 | 2 | 0 |
|
| 42 |
+
| 25% | 500 | 18 | 283 | 11 |
|
| 43 |
+
| 50% | 1115.5 | 41 | 554 | 22 |
|
| 44 |
+
| 75% | 2233.5 | 85 | 961 | 42 |
|
| 45 |
+
| max | 15851 | 1098 | 4184 | 283 |
|
| 46 |
+
|
| 47 |
+
|
| 48 |
+
## RTL_Wiki_person
|
| 49 |
+
|
| 50 |
+
Версия датасета, отфильтрованная по персоналиям, содержащая только 1201 документ.
|
| 51 |
+
|
| 52 |
+
|
| 53 |
+
Измеряемые характеристики датасета:
|
| 54 |
+
|
| 55 |
+
|
| 56 |
+
| | D | @lemmatized W | @lemmatized len D | @lemmatized len D uniq | @bigram W | @bigram len D | @bigram len D uniq |
|
| 57 |
+
|:------|------------:|-----------------------:|---------------------------:|--------------------------------:|-------------------:|-----------------------:|----------------------------:|
|
| 58 |
+
| value | 1201 | 1.92167e+06 | 1600.06 | 729.93 | 371430 | 309.267 | 196.595 |
|
| 59 |
+
|
| 60 |
+
|
| 61 |
+
Информация о длинах документов в расчёте на модальность:
|
| 62 |
+
|
| 63 |
+
|
| 64 |
+
| | len_total@lemmatized | len_total@bigram | len_uniq@lemmatized | len_uniq@bigram |
|
| 65 |
+
|:-----|-----------------------:|-------------------:|----------------------:|------------------:|
|
| 66 |
+
| mean | 1600.06 | 309.267 | 729.93 | 196.595 |
|
| 67 |
+
| std | 1569.31 | 323.991 | 541.153 | 170.06 |
|
| 68 |
+
| min | 73 | 4 | 60 | 4 |
|
| 69 |
+
| 25% | 484 | 90 | 305 | 70 |
|
| 70 |
+
| 50% | 1036 | 206 | 575 | 147 |
|
| 71 |
+
| 75% | 2117 | 403 | 1007 | 268 |
|
| 72 |
+
| max | 11661 | 3212 | 3108 | 1216 |
|