Spaces:
Sleeping
Sleeping
Update app.py
Browse files
app.py
CHANGED
@@ -6,10 +6,10 @@ from langdetect import detect, DetectorFactory
|
|
6 |
# Introducimos un mensaje para el modelo para que hable solo en español y con respeto
|
7 |
system_message = "Eres un asistente que siempre responde en español."
|
8 |
|
9 |
-
|
10 |
def load_llm():
|
11 |
llm = AutoModelForCausalLM.from_pretrained(
|
12 |
-
TheBloke/Llama-2-7B-Chat-GGUF,
|
13 |
model_file='llama-2-7b-chat.Q5_K_M.gguf'
|
14 |
model_type='llama',
|
15 |
max_new_tokens=2048,
|
|
|
6 |
# Introducimos un mensaje para el modelo para que hable solo en español y con respeto
|
7 |
system_message = "Eres un asistente que siempre responde en español."
|
8 |
|
9 |
+
"llama2":{"name": "TheBloke/Llama-2-7B-Chat-GGUF", "file":"llama-2-7b-chat.Q4_K_M.gguf"},
|
10 |
def load_llm():
|
11 |
llm = AutoModelForCausalLM.from_pretrained(
|
12 |
+
model_name="TheBloke/Llama-2-7B-Chat-GGUF",
|
13 |
model_file='llama-2-7b-chat.Q5_K_M.gguf'
|
14 |
model_type='llama',
|
15 |
max_new_tokens=2048,
|