uhygfd commited on
Commit
458f3be
·
verified ·
1 Parent(s): ffe5894

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +1 -2
app.py CHANGED
@@ -23,7 +23,7 @@ API_TOKEN = random.choice(hugging_tokens)
23
  with open("./dialogues.txt", "r", encoding="utf-8") as file:
24
  error_phrases = [line.strip() for line in file]
25
 
26
- client = InferenceClient("Qwen/Qwen1.5-4B-Chat", token=API_TOKEN)
27
 
28
  def format_prompt(message, history):
29
  # Предварительный текст, который будет добавлен перед каждым запросом
@@ -62,7 +62,6 @@ USER: """
62
  for user_prompt, bot_response in history:
63
  prompt += f"[INST] {user_prompt} [/INST]"
64
  prompt += f" {bot_response}</s> "
65
- # Добавление предварительного текста перед текущим сообщением пользователя
66
  prompt += f"[INST] {preface_text} {message} [/INST]"
67
  return prompt
68
 
 
23
  with open("./dialogues.txt", "r", encoding="utf-8") as file:
24
  error_phrases = [line.strip() for line in file]
25
 
26
+ client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1", token=API_TOKEN)
27
 
28
  def format_prompt(message, history):
29
  # Предварительный текст, который будет добавлен перед каждым запросом
 
62
  for user_prompt, bot_response in history:
63
  prompt += f"[INST] {user_prompt} [/INST]"
64
  prompt += f" {bot_response}</s> "
 
65
  prompt += f"[INST] {preface_text} {message} [/INST]"
66
  return prompt
67