add README
Browse files
README.md
ADDED
@@ -0,0 +1,39 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
---
|
2 |
+
language:
|
3 |
+
- ja
|
4 |
+
tags:
|
5 |
+
- text generation
|
6 |
+
- pytorch
|
7 |
+
- causal-lm
|
8 |
+
- japanese
|
9 |
+
license: apache-2.0
|
10 |
+
datasets:
|
11 |
+
- oscar
|
12 |
+
- cc100
|
13 |
+
- wikipedia
|
14 |
+
---
|
15 |
+
|
16 |
+
|
17 |
+
# GPT-Neo 1.3B pre-trained model for Japanese
|
18 |
+
|
19 |
+
## Model Description
|
20 |
+
|
21 |
+
GPT2/GPT3 like model trained on Japanese.corpus.
|
22 |
+
|
23 |
+
## Training data
|
24 |
+
|
25 |
+
- cc100 ja
|
26 |
+
- oscar ja
|
27 |
+
- wikipedia ja
|
28 |
+
|
29 |
+
## How to use
|
30 |
+
|
31 |
+
```
|
32 |
+
from transformers import pipeline
|
33 |
+
>>> generator = pipeline('text-generation', model='yellowback/gpt-neo-japanese-1.3B')
|
34 |
+
>>> generator("こんばんは、徳川家康です。", do_sample=True, max_length=50, num_return_sequences=3)
|
35 |
+
|
36 |
+
[{'generated_text': 'こんばんは、徳川家康です。 世の中を見渡してみても、残念なことだけれども、まぎれもなく「世のなか...\n5月になりました、家康です。 ゴールデンウィークも終ってしまい、世間では'},
|
37 |
+
{'generated_text': 'こんばんは、徳川家康です。さあ今日は昨晩から降り続いた雨は上がりましたが、まだまだ雨脚は強いですが、晴れるところは晴れて欲しいですね。昨日の夜は仕事だったので、今日の夕'},
|
38 |
+
{'generated_text': 'こんばんは、徳川家康です。 今回は、『世界史再考──日本史再考』という本を書いたあと、『世界史再考──日本史再考』の6~8章'}]
|
39 |
+
```
|