Ffftdtd5dtft commited on
Commit
7d7a8cb
verified
1 Parent(s): 80d3553

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +60 -17
app.py CHANGED
@@ -207,25 +207,68 @@ def process_model(model_id, q_method, use_imatrix, imatrix_q_method, private_rep
207
 
208
  with gr.Blocks() as app:
209
  gr.Markdown("# Procesamiento de Modelos")
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
210
 
211
- # Campos de entrada para el procesamiento del modelo
212
  with gr.Row():
213
- model_id = gr.Textbox(label="ID del Modelo", placeholder="e.g., 'username/model-name'")
214
- q_method = gr.Dropdown(["methodA", "methodB"], label="M茅todo de Cuantizaci贸n")
215
- use_imatrix = gr.Checkbox(label="Usar Matriz de Importancia")
216
- imatrix_q_method = gr.Dropdown(["methodA", "methodB"], label="M茅todo de Matriz de Importancia")
217
- private_repo = gr.Checkbox(label="Repositorio Privado")
218
- train_data_file = gr.File(label="Archivo de Datos de Entrenamiento", type="filepath")
219
- split_model = gr.Checkbox(label="Dividir Modelo")
220
- split_max_tensors = gr.Number(label="Max Tensors (para divisi贸n)", value=256)
221
- split_max_size = gr.Number(label="Max Tama帽o (para divisi贸n)", value=None)
222
- oauth_token = gr.Textbox(label="Token de Hugging Face", type="password")
223
-
224
- # Campos de salida
225
- result = gr.HTML()
226
- img = gr.Image()
227
-
228
- # Bot贸n de proceso
229
  process_button = gr.Button("Procesar Modelo")
230
  process_button.click(
231
  process_model,
 
207
 
208
  with gr.Blocks() as app:
209
  gr.Markdown("# Procesamiento de Modelos")
210
+
211
+ gr.Markdown(
212
+ """
213
+ Este panel permite procesar modelos de machine learning, convertirlos al formato GGUF, y cargarlos en un repositorio de Hugging Face.
214
+ Puedes seleccionar diferentes m茅todos de cuantizaci贸n y personalizar la conversi贸n usando matrices de importancia.
215
+ """
216
+ )
217
+
218
+ with gr.Row():
219
+ model_id = gr.Textbox(
220
+ label="ID del Modelo",
221
+ placeholder="username/model-name",
222
+ info="Introduce el ID del modelo en Hugging Face que deseas procesar.",
223
+ )
224
+ q_method = gr.Dropdown(
225
+ ["IQ3_M", "IQ3_XXS", "Q4_K_M", "Q4_K_S", "IQ4_NL", "IQ4_XS", "Q5_K_M", "Q5_K_S"],
226
+ label="M茅todo de Cuantizaci贸n",
227
+ info="Selecciona el m茅todo de cuantizaci贸n que deseas aplicar al modelo."
228
+ )
229
+ use_imatrix = gr.Checkbox(
230
+ label="Usar Matriz de Importancia",
231
+ info="Marca esta opci贸n si deseas usar una matriz de importancia para la cuantizaci贸n."
232
+ )
233
+ imatrix_q_method = gr.Dropdown(
234
+ ["IQ3_M", "IQ3_XXS", "Q4_K_M", "Q4_K_S", "IQ4_NL", "IQ4_XS", "Q5_K_M", "Q5_K_S"],
235
+ label="M茅todo de Matriz de Importancia",
236
+ info="Selecciona el m茅todo de cuantizaci贸n para la matriz de importancia.",
237
+ visible=False # Solo visible si se marca 'use_imatrix'
238
+ )
239
+ private_repo = gr.Checkbox(
240
+ label="Repositorio Privado",
241
+ info="Marca esta opci贸n si deseas que el repositorio creado sea privado."
242
+ )
243
+ train_data_file = gr.File(
244
+ label="Archivo de Datos de Entrenamiento",
245
+ type="filepath",
246
+ info="Selecciona el archivo que contiene los datos de entrenamiento necesarios para generar la matriz de importancia.",
247
+ )
248
+ split_model = gr.Checkbox(
249
+ label="Dividir Modelo",
250
+ info="Marca esta opci贸n para dividir el modelo en partes m谩s peque帽as antes de subirlo."
251
+ )
252
+ split_max_tensors = gr.Number(
253
+ label="Max Tensors (para divisi贸n)",
254
+ value=256,
255
+ info="Especifica el n煤mero m谩ximo de tensores por parte si est谩s dividiendo el modelo.",
256
+ )
257
+ split_max_size = gr.Number(
258
+ label="Max Tama帽o (para divisi贸n)",
259
+ value=None,
260
+ info="Especifica el tama帽o m谩ximo de cada parte si est谩s dividiendo el modelo.",
261
+ )
262
+ oauth_token = gr.Textbox(
263
+ label="Token de Hugging Face",
264
+ type="password",
265
+ info="Introduce tu token de autenticaci贸n de Hugging Face. Aseg煤rate de que el token sea v谩lido para acceder a los repositorios."
266
+ )
267
 
 
268
  with gr.Row():
269
+ result = gr.HTML(label="Resultado")
270
+ img = gr.Image(label="Imagen")
271
+
 
 
 
 
 
 
 
 
 
 
 
 
 
272
  process_button = gr.Button("Procesar Modelo")
273
  process_button.click(
274
  process_model,