Datasets:
Tasks:
Text Classification
Formats:
json
Sub-tasks:
multi-label-classification
Languages:
Finnish
Size:
100K - 1M
Tags:
toxicity, multi-label
License:
Update README.md
Browse files
README.md
CHANGED
@@ -4,9 +4,65 @@ task_categories:
|
|
4 |
- text-classification
|
5 |
language:
|
6 |
- fi
|
|
|
|
|
7 |
tags:
|
8 |
-
- toxicity
|
9 |
-
|
|
|
10 |
size_categories:
|
11 |
- 100K<n<1M
|
12 |
-
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
4 |
- text-classification
|
5 |
language:
|
6 |
- fi
|
7 |
+
multilinguality:
|
8 |
+
- translation
|
9 |
tags:
|
10 |
+
- toxicity, multi-label
|
11 |
+
source_datasets:
|
12 |
+
- extended|jigsaw_toxicity_pred
|
13 |
size_categories:
|
14 |
- 100K<n<1M
|
15 |
+
---
|
16 |
+
|
17 |
+
|
18 |
+
### Dataset summary
|
19 |
+
|
20 |
+
This dataset is a DeepL -based machine translated version of the Jigsaw toxicity dataset for Finnish. The dataset is originally from a Kaggle competition https://www.kaggle.com/c/jigsaw-toxic-comment-classification-challenge/data.
|
21 |
+
The dataset poses a multi-label text classification problem.
|
22 |
+
|
23 |
+
#### Example data
|
24 |
+
|
25 |
+
```
|
26 |
+
{
|
27 |
+
"id": "879ad7bdba4cedaa",
|
28 |
+
"label_identity_attack": 0,
|
29 |
+
# for these "0 or 1"?
|
30 |
+
"label_insult": 0,
|
31 |
+
"label_obscene": 0,
|
32 |
+
"label_severe_toxicity": 0,
|
33 |
+
"label_threat": 0,
|
34 |
+
"label_toxicity": 0,
|
35 |
+
"lang": "fi-deepl",
|
36 |
+
"text": "\" \n\n Hei Pieter Pietersen, ja tervetuloa Wikipediaan! \n\n Tervetuloa Wikipediaan! Toivottavasti viihdyt tietosanakirjassa ja haluat jäädä tänne. Ensimmäiseksi voit lukea johdannon. \n\n Jos sinulla on kysyttävää, voit kysyä minulta keskustelusivullani - autan mielelläni. Tai voit kysyä kysymyksesi Uusien avustajien ohjesivulla. \n\n - \n Seuraavassa on lisää resursseja, jotka auttavat sinua tutkimaan ja osallistumaan maailman suurinta tietosanakirjaa.... \n\n Löydät perille: \n\n \n * Sisällysluettelo \n\n * Osastohakemisto \n\n \n Tarvitsetko apua? \n\n \n * Kysymykset - opas siitä, mistä voi esittää kysymyksiä. \n * Huijausluettelo - pikaohje Wikipedian merkintäkoodeista. \n\n * Wikipedian 5 pilaria - yleiskatsaus Wikipedian perustaan. \n * The Simplified Ruleset - yhteenveto Wikipedian tärkeimmistä säännöistä. \n\n \n Miten voit auttaa: \n\n \n * Wikipedian avustaminen - opas siitä, miten voit auttaa. \n\n * Yhteisöportaali - Wikipedian toiminnan keskus. \n\n \n Lisää vinkkejä... \n\n \n * Allekirjoita viestisi keskustelusivuilla neljällä tildillä (~~~~). Tämä lisää automaattisesti \"\"allekirjoituksesi\"\" (käyttäjänimesi ja päivämääräleima). Myös Wikipedian tekstinmuokkausikkunan yläpuolella olevassa työkalupalkissa oleva painike tekee tämän. \n\n * Jos haluat leikkiä uusilla Wiki-taidoillasi, Hiekkalaatikko on sinua varten. \n\n \n Onnea ja hauskaa. \""
|
37 |
+
}
|
38 |
+
```
|
39 |
+
|
40 |
+
### Data fields
|
41 |
+
|
42 |
+
- `id`: a `string` feature.
|
43 |
+
- `label_identity_attack`: a `int32` feature.
|
44 |
+
- `label_insult`: a `int32` feature.
|
45 |
+
- `label_obscene`: a `int32` feature.
|
46 |
+
- `label_severe_toxicity`: a `int32` feature.
|
47 |
+
- `label_threat`: a `int32` feature.
|
48 |
+
- `label_toxicity`: a `int32` feature.
|
49 |
+
- `lang`: a `string` feature,
|
50 |
+
- `text`: a `string` feature.
|
51 |
+
|
52 |
+
|
53 |
+
### Data splits
|
54 |
+
|
55 |
+
The splits are the same as in the original English data.
|
56 |
+
|
57 |
+
| | train | test |
|
58 |
+
| -------- | -----: | ---------: |
|
59 |
+
| Jigsaw toxicity data | 130319 | 11873 |
|
60 |
+
|
61 |
+
### Considerations for Using the Data
|
62 |
+
Due to DeepL terms and conditions, this dataset **must not be used for any machine translation work**, namely machine translation
|
63 |
+
system development and evaluation of any kind. In general, we wish you do not pair the original English data with the translations
|
64 |
+
except when working on research unrelated to machine translation, so as not to infringe on the terms and conditions.
|
65 |
+
### Licensing Information
|
66 |
+
Contents of this repository are distributed under the
|
67 |
+
[Creative Commons Attribution-ShareAlike 4.0 International License (CC BY-SA 4.0)](https://creativecommons.org/licenses/by-sa/4.0/).
|
68 |
+
Copyright of the dataset contents belongs to the original copyright holders.
|