Trat80 commited on
Commit
12729e0
·
1 Parent(s): d0136e0

Delete adem.python

Browse files
Files changed (1) hide show
  1. adem.python +0 -27
adem.python DELETED
@@ -1,27 +0,0 @@
1
- de transformadores importe GPT2LMHeadModel, GPT2Tokenizer, TextDataset, DataCollatorForLanguageModeling
2
- de transformadores importan Entrenador, TrainingArguments
3
- # Cargar el tokenizador y el modelo
4
- tokenizador = GPT2Tokenizer.from_pretrained('gpt2')
5
- modelo = GPT2LMHeadModel.from_pretrained('gpt2')
6
- # Ejemplo de datos de entrenamiento (necesitarás un conjunto de datos mucho más grande)
7
- train_data = [" Texto de ejemplo 1. ", " Texto de ejemplo 2. ", " Texto de ejemplo 3. "]
8
- # Preparar el conjunto de datos
9
- train_encodings = tokenizer(train_data, truncamiento=Verdadero, relleno=Verdadero)
10
- train_dataset = TextDataset(train_encodings)
11
- # Configuración de entrenamiento
12
- Training_args = Argumentos de entrenamiento(
13
- output_dir='./AdemGPT_model', # directorio de salida
14
- overwrite_output_dir=Verdadero,
15
- num_train_epochs=3,
16
- per_device_train_batch_size=4,
17
- guardar_pasos = 500,
18
- save_total_limit=2
19
- )
20
- # Entrenamiento del modelo
21
- entrenador = entrenador (
22
- modelo = modelo,
23
- args=args_entrenamiento,
24
- data_collator=DataCollatorForLanguageModeling(tokenizer=tokenizador),
25
- train_dataset=entren_dataset
26
- )
27
- entrenador.entren()