ailearnings commited on
Commit
afeb1c1
·
verified ·
1 Parent(s): a19da5b

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +2 -2
app.py CHANGED
@@ -6,10 +6,10 @@ from langdetect import detect, DetectorFactory
6
  # Introducimos un mensaje para el modelo para que hable solo en español y con respeto
7
  system_message = "Eres un asistente que siempre responde en español."
8
 
9
-
10
  def load_llm():
11
  llm = AutoModelForCausalLM.from_pretrained(
12
- TheBloke/Llama-2-7B-Chat-GGUF,
13
  model_file='llama-2-7b-chat.Q5_K_M.gguf'
14
  model_type='llama',
15
  max_new_tokens=2048,
 
6
  # Introducimos un mensaje para el modelo para que hable solo en español y con respeto
7
  system_message = "Eres un asistente que siempre responde en español."
8
 
9
+ "llama2":{"name": "TheBloke/Llama-2-7B-Chat-GGUF", "file":"llama-2-7b-chat.Q4_K_M.gguf"},
10
  def load_llm():
11
  llm = AutoModelForCausalLM.from_pretrained(
12
+ model_name="TheBloke/Llama-2-7B-Chat-GGUF",
13
  model_file='llama-2-7b-chat.Q5_K_M.gguf'
14
  model_type='llama',
15
  max_new_tokens=2048,