Spaces:
Sleeping
Sleeping
Commit
·
a746e38
1
Parent(s):
689af97
Update run.py
Browse files
run.py
CHANGED
@@ -96,10 +96,10 @@ def response(message, history):
|
|
96 |
results=results['documents'][0]
|
97 |
print(results)
|
98 |
if(len(results)>1):
|
99 |
-
addon=" Bitte berücksichtige bei deiner Antwort ggf. folgende Auszüge aus unserer Datenbank, sofern sie für die Antwort erforderlich sind. Beantworte die Frage knapp und präzise. Ignoriere unpassende Datenbank-Auszüge OHNE sie zu kommentieren:\n"+"\n".join(results)
|
100 |
#url="https://afischer1985-wizardlm-13b-v1-2-q4-0-gguf.hf.space/v1/completions"
|
101 |
url="http://localhost:2600/v1/completions"
|
102 |
-
system="Du bist ein KI-basiertes Assistenzsystem."+addon+"\n\nUser-Anliegen
|
103 |
#body={"prompt":system+"### Instruktion:\n"+message+"\n\n### Antwort:","max_tokens":500, "echo":"False","stream":"True"} #e.g. SauerkrautLM
|
104 |
body={"prompt":"[INST]"+system+"\n"+message+"[/INST]","max_tokens":500, "echo":"False","stream":"True"} #e.g. Mixtral-Instruct
|
105 |
response=""
|
|
|
96 |
results=results['documents'][0]
|
97 |
print(results)
|
98 |
if(len(results)>1):
|
99 |
+
addon=" Bitte berücksichtige bei deiner Antwort ggf. folgende Auszüge aus unserer Datenbank, sofern sie für die Antwort erforderlich sind. Beantworte die Frage knapp und präzise. Ignoriere unpassende Datenbank-Auszüge OHNE sie zu kommentieren:\n"+"\n".join(results)
|
100 |
#url="https://afischer1985-wizardlm-13b-v1-2-q4-0-gguf.hf.space/v1/completions"
|
101 |
url="http://localhost:2600/v1/completions"
|
102 |
+
system="Du bist ein KI-basiertes Assistenzsystem."+addon+"\n\nUser-Anliegen:"
|
103 |
#body={"prompt":system+"### Instruktion:\n"+message+"\n\n### Antwort:","max_tokens":500, "echo":"False","stream":"True"} #e.g. SauerkrautLM
|
104 |
body={"prompt":"[INST]"+system+"\n"+message+"[/INST]","max_tokens":500, "echo":"False","stream":"True"} #e.g. Mixtral-Instruct
|
105 |
response=""
|