Update app.py
Browse files
app.py
CHANGED
@@ -247,6 +247,17 @@ def get_rag_response(question):
|
|
247 |
|
248 |
return response
|
249 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
250 |
|
251 |
|
252 |
#Eingaben der GUI verarbeiten
|
@@ -274,7 +285,7 @@ def generate_auswahl(prompt_in, file, file_history, chatbot, history, anzahl_doc
|
|
274 |
#kein Bild hochgeladen -> auf Text antworten...
|
275 |
status = "Antwort der KI ..."
|
276 |
if (file == None and file_history == None):
|
277 |
-
|
278 |
else:
|
279 |
#Es wurde ein File neu angehängt -> das hochladen und dann Prompt bearbeiten
|
280 |
#das history_fiel muss neu gesetzt werden
|
@@ -283,7 +294,7 @@ def generate_auswahl(prompt_in, file, file_history, chatbot, history, anzahl_doc
|
|
283 |
neu_file = file
|
284 |
|
285 |
#File hochladen in Chroma und dann Antwort generieren
|
286 |
-
|
287 |
#########################################
|
288 |
#result verarbeiten
|
289 |
#aus result die Ergebnisse aufteilen und der History anhängen
|
@@ -297,28 +308,14 @@ def generate_auswahl(prompt_in, file, file_history, chatbot, history, anzahl_doc
|
|
297 |
#"documents": [{"link": link, "passage": passage} for link, passage in zip(links, passages)]
|
298 |
#}
|
299 |
|
300 |
-
|
301 |
-
|
|
|
|
|
|
|
|
|
|
|
302 |
|
303 |
-
#die history erweitern - abhängig davon, ob gerade ein file hochgeladen wurde oder nicht
|
304 |
-
if (file != None):
|
305 |
-
history = history + [[(file,), None],[prompt, response]]
|
306 |
-
else:
|
307 |
-
history = history + [[prompt, response]]
|
308 |
-
|
309 |
-
|
310 |
-
|
311 |
-
chatbot[-1][1] = ""
|
312 |
-
for character in response:
|
313 |
-
chatbot[-1][1] += character
|
314 |
-
time.sleep(0.03)
|
315 |
-
yield chatbot, history, None, neu_file, status
|
316 |
-
if shared_state.interrupted:
|
317 |
-
shared_state.recover()
|
318 |
-
try:
|
319 |
-
yield chatbot, history, None, neu_file, "Stop: Success"
|
320 |
-
except:
|
321 |
-
pass
|
322 |
else: #noch nicht validiert, oder kein Prompt
|
323 |
return chatbot, history, None, file_history, "Erst validieren oder einen Prompt eingeben!"
|
324 |
|
|
|
247 |
|
248 |
return response
|
249 |
|
250 |
+
def create_history_entry(page_content, metadata):
|
251 |
+
source = metadata.get('source', 'No source available')
|
252 |
+
page = metadata.get('page', 'No page information available')
|
253 |
+
download_link = f"https://example.com/download/{source.replace('pdf/', '')}"
|
254 |
+
|
255 |
+
return {
|
256 |
+
"page_content": page_content,
|
257 |
+
"page": page,
|
258 |
+
"download_link": download_link
|
259 |
+
}
|
260 |
+
|
261 |
|
262 |
|
263 |
#Eingaben der GUI verarbeiten
|
|
|
285 |
#kein Bild hochgeladen -> auf Text antworten...
|
286 |
status = "Antwort der KI ..."
|
287 |
if (file == None and file_history == None):
|
288 |
+
results, status = generate_text(prompt, chatbot, history,vektordatenbank, top_p=0.6, temperature=0.5, max_new_tokens=4048, max_context_length_tokens=2048, repetition_penalty=1.3, top_k=3)
|
289 |
else:
|
290 |
#Es wurde ein File neu angehängt -> das hochladen und dann Prompt bearbeiten
|
291 |
#das history_fiel muss neu gesetzt werden
|
|
|
294 |
neu_file = file
|
295 |
|
296 |
#File hochladen in Chroma und dann Antwort generieren
|
297 |
+
results = generate_text_zu_doc(neu_file, prompt, k, rag_option, chatbot, history, vektordatenbank)
|
298 |
#########################################
|
299 |
#result verarbeiten
|
300 |
#aus result die Ergebnisse aufteilen und der History anhängen
|
|
|
308 |
#"documents": [{"link": link, "passage": passage} for link, passage in zip(links, passages)]
|
309 |
#}
|
310 |
|
311 |
+
print("hier...........................")
|
312 |
+
for text in results:
|
313 |
+
entry = create_history_entry(text['page_content'], text['metadata'])
|
314 |
+
#history.append(entry)
|
315 |
+
history = history + [[prompt, entry]]
|
316 |
+
|
317 |
+
return chatbot, history, None, file_history, ""
|
318 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
319 |
else: #noch nicht validiert, oder kein Prompt
|
320 |
return chatbot, history, None, file_history, "Erst validieren oder einen Prompt eingeben!"
|
321 |
|