Update utils.py
Browse files
utils.py
CHANGED
@@ -403,12 +403,12 @@ def rag_chain(llm, prompt, retriever):
|
|
403 |
|
404 |
|
405 |
#2. Alternative, wenn mit API_URL ...........................................
|
406 |
-
answer = query(llm, {"inputs": input_text,})
|
407 |
|
408 |
#3. Alternative: mit pipeline
|
409 |
-
|
410 |
-
|
411 |
-
|
412 |
|
413 |
# Erstelle das Ergebnis-Dictionary
|
414 |
result = {
|
|
|
403 |
|
404 |
|
405 |
#2. Alternative, wenn mit API_URL ...........................................
|
406 |
+
#answer = query(llm, {"inputs": input_text,})
|
407 |
|
408 |
#3. Alternative: mit pipeline
|
409 |
+
messages = [{"role": "user", "content": input_text},]
|
410 |
+
pipe = pipeline("text-generation", model= llm, trust_remote_code=True)
|
411 |
+
answer = pipe(messages)
|
412 |
|
413 |
# Erstelle das Ergebnis-Dictionary
|
414 |
result = {
|