AFischer1985 commited on
Commit
a746e38
·
1 Parent(s): 689af97

Update run.py

Browse files
Files changed (1) hide show
  1. run.py +2 -2
run.py CHANGED
@@ -96,10 +96,10 @@ def response(message, history):
96
  results=results['documents'][0]
97
  print(results)
98
  if(len(results)>1):
99
- addon=" Bitte berücksichtige bei deiner Antwort ggf. folgende Auszüge aus unserer Datenbank, sofern sie für die Antwort erforderlich sind. Beantworte die Frage knapp und präzise. Ignoriere unpassende Datenbank-Auszüge OHNE sie zu kommentieren:\n"+"\n".join(results)+"\n\n"
100
  #url="https://afischer1985-wizardlm-13b-v1-2-q4-0-gguf.hf.space/v1/completions"
101
  url="http://localhost:2600/v1/completions"
102
- system="Du bist ein KI-basiertes Assistenzsystem."+addon+"\n\nUser-Anliegen:\n"
103
  #body={"prompt":system+"### Instruktion:\n"+message+"\n\n### Antwort:","max_tokens":500, "echo":"False","stream":"True"} #e.g. SauerkrautLM
104
  body={"prompt":"[INST]"+system+"\n"+message+"[/INST]","max_tokens":500, "echo":"False","stream":"True"} #e.g. Mixtral-Instruct
105
  response=""
 
96
  results=results['documents'][0]
97
  print(results)
98
  if(len(results)>1):
99
+ addon=" Bitte berücksichtige bei deiner Antwort ggf. folgende Auszüge aus unserer Datenbank, sofern sie für die Antwort erforderlich sind. Beantworte die Frage knapp und präzise. Ignoriere unpassende Datenbank-Auszüge OHNE sie zu kommentieren:\n"+"\n".join(results)
100
  #url="https://afischer1985-wizardlm-13b-v1-2-q4-0-gguf.hf.space/v1/completions"
101
  url="http://localhost:2600/v1/completions"
102
+ system="Du bist ein KI-basiertes Assistenzsystem."+addon+"\n\nUser-Anliegen:"
103
  #body={"prompt":system+"### Instruktion:\n"+message+"\n\n### Antwort:","max_tokens":500, "echo":"False","stream":"True"} #e.g. SauerkrautLM
104
  body={"prompt":"[INST]"+system+"\n"+message+"[/INST]","max_tokens":500, "echo":"False","stream":"True"} #e.g. Mixtral-Instruct
105
  response=""