FROM /content/sudip2003/llama3.2-ts/unsloth.F16.gguf | |
TEMPLATE """{{ if .Prompt }}### Question: | |
{{ .Prompt }} | |
{{ end }}### Answer: | |
{{ .Response }} | |
<|end_of_text|>""" | |
PARAMETER stop "<|eot_id|>" | |
PARAMETER stop "<|end_header_id|>" | |
PARAMETER stop "<|start_header_id|>" | |
PARAMETER stop "<|finetune_right_pad_id|>" | |
PARAMETER stop "<|python_tag|>" | |
PARAMETER stop "<|eom_id|>" | |
PARAMETER stop "<|end_of_text|>" | |
PARAMETER stop "<|reserved_special_token_" | |
PARAMETER temperature 1.5 | |
PARAMETER min_p 0.1 |