Update app.py

app.py

@@ -70,10 +70,26 @@ class ModelManager:
             self._device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')
         return self._device
 
+    # @property
+    # def yolo_model(self):
+    #     if self._yolo_model is None:
+    #         self._yolo_model = YOLO('yolov8x.pt')
+    #     return self._yolo_model
+
     @property
     def yolo_model(self):
         if self._yolo_model is None:
             self._yolo_model = YOLO('yolov8x.pt')
+            
+            if hasattr(self._yolo_model, 'model') and hasattr(self._yolo_model.model, 'fuse'):
+                print("avoid CUDA error")
+                
+                def no_fuse(*args, **kwargs):
+                    print("skip the fuse step")
+                    return self._yolo_model.model
+                
+                self._yolo_model.model.fuse = no_fuse
+                
         return self._yolo_model
 
     @property