Update app.py
Browse files
app.py
CHANGED
@@ -23,7 +23,7 @@ API_TOKEN = random.choice(hugging_tokens)
|
|
23 |
with open("./dialogues.txt", "r", encoding="utf-8") as file:
|
24 |
error_phrases = [line.strip() for line in file]
|
25 |
|
26 |
-
client = InferenceClient("
|
27 |
|
28 |
def format_prompt(message, history):
|
29 |
# Предварительный текст, который будет добавлен перед каждым запросом
|
@@ -62,7 +62,6 @@ USER: """
|
|
62 |
for user_prompt, bot_response in history:
|
63 |
prompt += f"[INST] {user_prompt} [/INST]"
|
64 |
prompt += f" {bot_response}</s> "
|
65 |
-
# Добавление предварительного текста перед текущим сообщением пользователя
|
66 |
prompt += f"[INST] {preface_text} {message} [/INST]"
|
67 |
return prompt
|
68 |
|
|
|
23 |
with open("./dialogues.txt", "r", encoding="utf-8") as file:
|
24 |
error_phrases = [line.strip() for line in file]
|
25 |
|
26 |
+
client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1", token=API_TOKEN)
|
27 |
|
28 |
def format_prompt(message, history):
|
29 |
# Предварительный текст, который будет добавлен перед каждым запросом
|
|
|
62 |
for user_prompt, bot_response in history:
|
63 |
prompt += f"[INST] {user_prompt} [/INST]"
|
64 |
prompt += f" {bot_response}</s> "
|
|
|
65 |
prompt += f"[INST] {preface_text} {message} [/INST]"
|
66 |
return prompt
|
67 |
|