Update app.py

app.py

@@ -1,10 +1,9 @@
-# app.py
 import gradio as gr
 from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig
 import torch
 
 def load_model():
-    model_name = "meta-llama/Llama-2-13b-chat-hf"
+    model_name = "TheBloke/Llama-2-13B-chat-GGUF"  # Zmiana na publicznie dostępny model
     
     # Konfiguracja kwantyzacji 4-bitowej
     quantization_config = BitsAndBytesConfig(
@@ -22,7 +21,6 @@ def load_model():
         trust_remote_code=True
     )
     return model, tokenizer
-
 def generate_response(prompt, max_length=100):
     try:
         inputs = tokenizer(prompt, return_tensors="pt").to(model.device)