Spaces:
Runtime error
Runtime error
Ffftdtd5dtft
commited on
Update app.py
Browse files
app.py
CHANGED
@@ -207,25 +207,68 @@ def process_model(model_id, q_method, use_imatrix, imatrix_q_method, private_rep
|
|
207 |
|
208 |
with gr.Blocks() as app:
|
209 |
gr.Markdown("# Procesamiento de Modelos")
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
210 |
|
211 |
-
# Campos de entrada para el procesamiento del modelo
|
212 |
with gr.Row():
|
213 |
-
|
214 |
-
|
215 |
-
|
216 |
-
imatrix_q_method = gr.Dropdown(["methodA", "methodB"], label="M茅todo de Matriz de Importancia")
|
217 |
-
private_repo = gr.Checkbox(label="Repositorio Privado")
|
218 |
-
train_data_file = gr.File(label="Archivo de Datos de Entrenamiento", type="filepath")
|
219 |
-
split_model = gr.Checkbox(label="Dividir Modelo")
|
220 |
-
split_max_tensors = gr.Number(label="Max Tensors (para divisi贸n)", value=256)
|
221 |
-
split_max_size = gr.Number(label="Max Tama帽o (para divisi贸n)", value=None)
|
222 |
-
oauth_token = gr.Textbox(label="Token de Hugging Face", type="password")
|
223 |
-
|
224 |
-
# Campos de salida
|
225 |
-
result = gr.HTML()
|
226 |
-
img = gr.Image()
|
227 |
-
|
228 |
-
# Bot贸n de proceso
|
229 |
process_button = gr.Button("Procesar Modelo")
|
230 |
process_button.click(
|
231 |
process_model,
|
|
|
207 |
|
208 |
with gr.Blocks() as app:
|
209 |
gr.Markdown("# Procesamiento de Modelos")
|
210 |
+
|
211 |
+
gr.Markdown(
|
212 |
+
"""
|
213 |
+
Este panel permite procesar modelos de machine learning, convertirlos al formato GGUF, y cargarlos en un repositorio de Hugging Face.
|
214 |
+
Puedes seleccionar diferentes m茅todos de cuantizaci贸n y personalizar la conversi贸n usando matrices de importancia.
|
215 |
+
"""
|
216 |
+
)
|
217 |
+
|
218 |
+
with gr.Row():
|
219 |
+
model_id = gr.Textbox(
|
220 |
+
label="ID del Modelo",
|
221 |
+
placeholder="username/model-name",
|
222 |
+
info="Introduce el ID del modelo en Hugging Face que deseas procesar.",
|
223 |
+
)
|
224 |
+
q_method = gr.Dropdown(
|
225 |
+
["IQ3_M", "IQ3_XXS", "Q4_K_M", "Q4_K_S", "IQ4_NL", "IQ4_XS", "Q5_K_M", "Q5_K_S"],
|
226 |
+
label="M茅todo de Cuantizaci贸n",
|
227 |
+
info="Selecciona el m茅todo de cuantizaci贸n que deseas aplicar al modelo."
|
228 |
+
)
|
229 |
+
use_imatrix = gr.Checkbox(
|
230 |
+
label="Usar Matriz de Importancia",
|
231 |
+
info="Marca esta opci贸n si deseas usar una matriz de importancia para la cuantizaci贸n."
|
232 |
+
)
|
233 |
+
imatrix_q_method = gr.Dropdown(
|
234 |
+
["IQ3_M", "IQ3_XXS", "Q4_K_M", "Q4_K_S", "IQ4_NL", "IQ4_XS", "Q5_K_M", "Q5_K_S"],
|
235 |
+
label="M茅todo de Matriz de Importancia",
|
236 |
+
info="Selecciona el m茅todo de cuantizaci贸n para la matriz de importancia.",
|
237 |
+
visible=False # Solo visible si se marca 'use_imatrix'
|
238 |
+
)
|
239 |
+
private_repo = gr.Checkbox(
|
240 |
+
label="Repositorio Privado",
|
241 |
+
info="Marca esta opci贸n si deseas que el repositorio creado sea privado."
|
242 |
+
)
|
243 |
+
train_data_file = gr.File(
|
244 |
+
label="Archivo de Datos de Entrenamiento",
|
245 |
+
type="filepath",
|
246 |
+
info="Selecciona el archivo que contiene los datos de entrenamiento necesarios para generar la matriz de importancia.",
|
247 |
+
)
|
248 |
+
split_model = gr.Checkbox(
|
249 |
+
label="Dividir Modelo",
|
250 |
+
info="Marca esta opci贸n para dividir el modelo en partes m谩s peque帽as antes de subirlo."
|
251 |
+
)
|
252 |
+
split_max_tensors = gr.Number(
|
253 |
+
label="Max Tensors (para divisi贸n)",
|
254 |
+
value=256,
|
255 |
+
info="Especifica el n煤mero m谩ximo de tensores por parte si est谩s dividiendo el modelo.",
|
256 |
+
)
|
257 |
+
split_max_size = gr.Number(
|
258 |
+
label="Max Tama帽o (para divisi贸n)",
|
259 |
+
value=None,
|
260 |
+
info="Especifica el tama帽o m谩ximo de cada parte si est谩s dividiendo el modelo.",
|
261 |
+
)
|
262 |
+
oauth_token = gr.Textbox(
|
263 |
+
label="Token de Hugging Face",
|
264 |
+
type="password",
|
265 |
+
info="Introduce tu token de autenticaci贸n de Hugging Face. Aseg煤rate de que el token sea v谩lido para acceder a los repositorios."
|
266 |
+
)
|
267 |
|
|
|
268 |
with gr.Row():
|
269 |
+
result = gr.HTML(label="Resultado")
|
270 |
+
img = gr.Image(label="Imagen")
|
271 |
+
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
272 |
process_button = gr.Button("Procesar Modelo")
|
273 |
process_button.click(
|
274 |
process_model,
|