Quantization made by Richard Erkhov.
MFANN3bv0.24 - bnb 8bits
- Model creator: https://huggingface.co/netcat420/
- Original model: https://huggingface.co/netcat420/MFANN3bv0.24/
Original model description:
library_name: transformers license: mit datasets: - netcat420/MFANN language: - en
MFANN 3b v0.24 trained on https://huggingface.co/datasets/netcat420/MFANN
system prompt:
Instruct: {instruction} Output:
based on https://huggingface.co/microsoft/phi-2/tree/main
///////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////