gnosticdev commited on
Commit
38683ac
verified
1 Parent(s): c8a31c4

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +4 -12
app.py CHANGED
@@ -1,5 +1,6 @@
1
  import os
2
  import gradio as gr
 
3
  from transformers import AutoModelForCausalLM, AutoTokenizer
4
  from huggingface_hub import login
5
 
@@ -10,25 +11,16 @@ if huggingface_token is None:
10
  login(huggingface_token)
11
 
12
  # Cargar el modelo y el tokenizador
13
- model_name = "meta-llama/Llama-3.2-1B-Instruct" # Aseg煤rate de que este sea el nombre correcto
14
  model = AutoModelForCausalLM.from_pretrained(model_name)
15
  tokenizer = AutoTokenizer.from_pretrained(model_name)
16
 
17
- # Leer el archivo de texto
18
- with open("reparaciones.txt", "r") as file:
19
- informacion_adicional = file.read()
20
-
21
  def respond_to_query(user_input):
22
- # Crear el prompt
23
- prompt = f"{informacion_adicional} Responde la siguiente pregunta: {user_input}"
24
-
25
- # Tokenizar el prompt
26
  inputs = tokenizer(prompt, return_tensors="pt")
27
-
28
- # Generar la respuesta
29
  outputs = model.generate(**inputs)
30
  response = tokenizer.decode(outputs[0], skip_special_tokens=True)
31
-
32
  return response
33
 
34
  # Crear la interfaz de Gradio
 
1
  import os
2
  import gradio as gr
3
+ import torch # Aseg煤rate de importar torch si lo est谩s usando
4
  from transformers import AutoModelForCausalLM, AutoTokenizer
5
  from huggingface_hub import login
6
 
 
11
  login(huggingface_token)
12
 
13
  # Cargar el modelo y el tokenizador
14
+ model_name = "meta-llama/Llama-3.2-1B-Instruct"
15
  model = AutoModelForCausalLM.from_pretrained(model_name)
16
  tokenizer = AutoTokenizer.from_pretrained(model_name)
17
 
18
+ # Funci贸n para responder a la consulta
 
 
 
19
  def respond_to_query(user_input):
20
+ prompt = f"Responde la siguiente pregunta: {user_input}"
 
 
 
21
  inputs = tokenizer(prompt, return_tensors="pt")
 
 
22
  outputs = model.generate(**inputs)
23
  response = tokenizer.decode(outputs[0], skip_special_tokens=True)
 
24
  return response
25
 
26
  # Crear la interfaz de Gradio