File size: 1,007 Bytes
3553dd8 9efb1ab 3553dd8 b1f51c5 01bebe8 9efb1ab 3553dd8 5c1e5a2 9efb1ab f0d2783 9efb1ab 3553dd8 01bebe8 3553dd8 01bebe8 3553dd8 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 |
import gradio as gr
from transformers import pipeline, set_seed
from transformers import GPTNeoForCausalLM, GPT2Tokenizer
set_seed(42)
model = GPTNeoForCausalLM.from_pretrained("EleutherAI/gpt-neo-1.3B")
tokenizer = GPT2Tokenizer.from_pretrained("EleutherAI/gpt-neo-1.3B")
def Bemenet(input_string):
input_ids = tokenizer(input_string, return_tensors="pt").input_ids
gen_tokens = model.generate(
input_ids,
do_sample=True,
temperature=0.01,
max_length=100,
)
return tokenizer.batch_decode(gen_tokens)[0]
textbox = gr.Textbox()
interface = gr.Interface(fn=Bemenet,
title="GPT-3",
description="A GPT-3 egy előtanított nyelvi modell, ami nem párbeszédre lett optimalizálva. Használatakor figyelj erre, érdemesebb olyan bemenetekkel próbálkozni amik az eredeti tanítási célt használják ki.",
inputs=textbox,
outputs=textbox)
interface.launch() |