config.json

{
  "model_type": "phi",
  "quantization": "4bit",
  "task": "text-generation"
}