Update tasks/audio.py

tasks/audio.py

@@ -59,8 +59,13 @@ async def evaluate_audio(request: AudioEvaluationRequest):
     test_dataset = test_dataset.map(preprocess_function, fn_kwargs={"feature_extractor": feature_extractor}, remove_columns="audio", batched=True,  batch_size=32)  # Choix de la taille du batch)
     
     gc.collect()
+    # Chargement du modèle avec quantification dynamique
+    model = torch.load("CindyDelage/Challenge_HuggingFace_DFG_FrugalAI")  # Charger le modèle original
+    model.eval()  # Mettre le modèle en mode évaluation
+    model = torch.quantization.quantize_dynamic(model, dtype=torch.qint8)  # Appliquer la quantification dynamique
+    
     # Pipeline de classification optimisé
-    classifier = pipeline("audio-classification", model="CindyDelage/Challenge_HuggingFace_DFG_FrugalAI", device=device)
+    classifier = pipeline("audio-classification", model="CindyDelage/Challenge_HuggingFace_DFG_FrugalAI",feature_extractor=feature_extractor, device=device)
     predictions = []  # Liste pour stocker les prédictions
     logging.info("Début des prédictions par batch")
     for data in iter(test_dataset):