app.py

# %%
import gradio as gr
from gradio import ChatMessage
from openai import OpenAI
from langchain_chroma import Chroma
from langchain_huggingface import HuggingFaceEmbeddings



# %%
client=OpenAI()


# %%
embeddings = HuggingFaceEmbeddings(model_name='radlab/polish-sts-v2')

# %%
vector_store = Chroma(
    collection_name='baza',
    embedding_function=embeddings,
    persist_directory='baza'
)



# Funkcja wyszukiwania najbardziej podobnych fragmentów
def szukaj(query, konwersacja):
    query+=konwersacja
    context_objects = vector_store.similarity_search(query=query, k=3)
    context = ""  # Inicjalizacja pustego ciągu znaków
    for context_object in context_objects:
        context += context_object.page_content + "\n"
    return context




# Funkcja wyciągająca z historii tekst jako wsad do kontekstu
def formatuj_historie_dla_promptu(history):
    prompt = ""
    for message in history:
        role = message["role"]
        content = message["content"]
        prompt += f"{content}\n"
        print(prompt)
    return prompt



# Główna funkcja chata
def odp(message, history):
    kontekst_konwersacji = formatuj_historie_dla_promptu(history)
    Kontekst=szukaj(message, kontekst_konwersacji)
    prompt= f"Konwersacja:\n{kontekst_konwersacji}\nKontekst z bazy wiedzy:\n{Kontekst}\nPytanie użytkownika: {message}"
    response=client.chat.completions.create(
        model='gpt-4o-mini',
        temperature=0.2,
        messages=[
            {'role': 'system',
             'content': 'Jesteś ekspertem dostępności cyfrowej i masz na imię Jacek. Odpowiadaj krótko na pytania korzystając z kontekstu i historii konwersacji.'},
        {'role': 'user',
            'content': prompt}
        ]
    )
    history.append({'role': 'user', 'content': message})
    history.append({'role': 'assistant', 'content': response.choices[0].message.content})
    return '', history


## Interfejs graficzny
with gr.Blocks() as demo:
    chatbot = gr.Chatbot(type="messages")
    msg = gr.Textbox(label='Ja', autofocus=True)
    msg.submit(odp, [msg, chatbot], [msg, chatbot])
demo.launch(inbrowser=True)


# %%