teting

pages/gpt.py

@@ -19,10 +19,9 @@ beams = st.slider('Выберите число генераций',min_value=1,
 
 
 p = st.slider('Выберите значения top_p',min_value=0.5, max_value=0.9, step=0.1 )
-
+model.eval()
 if text:
     input_ids = tokenizer.encode(text, return_tensors="pt").to('cpu')
-    model.eval()
     with torch.no_grad():
         out = model.generate(input_ids,
                             do_sample=True,