Update app.py

app.py

@@ -5,7 +5,7 @@ import os
 from huggingface_hub import hf_hub_download
 import base64
 from llama_cpp import Llama
-# from llama_cpp.llama_chat_format import NanoLlavaChatHandler
+from llama_cpp.llama_chat_format import Llava15ChatHandler
 
 
 os.environ["HF_HUB_ENABLE_HF_TRANSFER"] = "1"
@@ -27,7 +27,7 @@ CSS = """
 }
 """
 
-chat_handler = Llama.from_pretrained(
+chat_handler = Llava15ChatHandler.from_pretrained(
     repo_id="openbmb/MiniCPM-Llama3-V-2_5-gguf",
     filename="*mmproj*",
 )
@@ -37,6 +37,7 @@ llm = Llama.from_pretrained(
   filename="ggml-model-Q5_K_M.gguf",
   chat_handler=chat_handler,
   n_ctx=4096,
+  verbose=True
 )
 
 def image_to_base64_data_uri(file_path):