app.py

import gradio as gr
import os
from transformers import pipeline, set_seed

set_seed(42)

generator = pipeline('text-generation', model='gpt2-xl', return_full_text=False, do_sample=False)


def Bemenet(input_string):
    return generator(os.environ['SECRET_PROMPT'] + " " + input_string, max_length=100)[0]['generated_text']

textbox = gr.Textbox()

interface = gr.Interface(fn=Bemenet,
                        title="GPT-2",
                        description="A GPT-2 egy előtanított nyelvi  modell, ami nem párbeszédre lett optimalizálva. Használatakor figyelj erre, érdemesebb olyan bemenetekkel próbálkozni ami az eredeti tanítási célt használják ki.",
                        inputs=textbox,
                        outputs=textbox)

interface.launch()