Update run.py

run.py

@@ -202,6 +202,11 @@ def format_prompt(message, history):
     print(prompt)
     return prompt
 
+def format_promptc(message):
+  prompt = "" #"<s>"
+  prompt += f"[INST] {message} [/INST]"
+  return prompt
+
 def responsecritical(
     prompt, temperature=0.9, max_new_tokens=200, top_p=0.95, repetition_penalty=1.0,
 ):
@@ -218,7 +223,7 @@ def responsecritical(
     )
     
     systemc="Bitte evaluiere ob die Frage soziokulturell oder allgemein problematisch oder auch sensibel oder politisch ist. Antworte ausschließlich mit Ja wenn sie soziokulturell oder allgemein problematisch ist, ansonsten nur mit Nein. Erkläre deine Entscheidung nicht.\n\nUser-Anliegen:"   
-    formatted_promptc = format_prompt(systemc+"\n"+prompt)
+    formatted_promptc = format_promptc(systemc+"\n"+prompt)
     streamc = client.text_generation(formatted_promptc, **generate_kwargs, stream=True, details=True, return_full_text=False)
     outputc = ""
     print(streamc)