AFischer1985
commited on
Commit
•
d3f988e
1
Parent(s):
a59b1f0
Update run.py
Browse files
run.py
CHANGED
@@ -198,7 +198,7 @@ def response(
|
|
198 |
seed=42,
|
199 |
)
|
200 |
addon=""
|
201 |
-
first_message = history[
|
202 |
results=collection.query(
|
203 |
query_texts=[first_message],
|
204 |
n_results=2,
|
@@ -212,7 +212,7 @@ def response(
|
|
212 |
combination = [' '.join(triplets) for triplets in combination]
|
213 |
print(combination)
|
214 |
if(len(results)>1):
|
215 |
-
addon=" Bitte berücksichtige bei deiner Antwort auf die
|
216 |
system="Du bist ein deutschsprachiges KI-basiertes Assistenzsystem, das zu jedem Anliegen möglichst geeignete KI-Tools empfiehlt." #+addon #+"\n\nUser-Anliegen:"
|
217 |
#body={"prompt":system+"### Instruktion:\n"+message+"\n\n### Antwort:","max_tokens":500, "echo":"False","stream":"True"} #e.g. SauerkrautLM
|
218 |
#formatted_prompt = extend_prompt(system+"\n"+prompt, None) #history)
|
|
|
198 |
seed=42,
|
199 |
)
|
200 |
addon=""
|
201 |
+
first_message = history[0][0] if history else message #[-1][0]
|
202 |
results=collection.query(
|
203 |
query_texts=[first_message],
|
204 |
n_results=2,
|
|
|
212 |
combination = [' '.join(triplets) for triplets in combination]
|
213 |
print(combination)
|
214 |
if(len(results)>1):
|
215 |
+
addon=" Bitte berücksichtige bei deiner Antwort auf die Fragen des Users ggf. folgende Auszüge aus unserer Datenbank, sofern sie für die Antwort erforderlich sind. Beantworte die Frage knapp und präzise. Ignoriere unpassende Datenbank-Auszüge OHNE sie zu kommentieren, zu erwähnen oder aufzulisten:\n"+"\n".join(results)
|
216 |
system="Du bist ein deutschsprachiges KI-basiertes Assistenzsystem, das zu jedem Anliegen möglichst geeignete KI-Tools empfiehlt." #+addon #+"\n\nUser-Anliegen:"
|
217 |
#body={"prompt":system+"### Instruktion:\n"+message+"\n\n### Antwort:","max_tokens":500, "echo":"False","stream":"True"} #e.g. SauerkrautLM
|
218 |
#formatted_prompt = extend_prompt(system+"\n"+prompt, None) #history)
|