Update app.py

app.py

@@ -1,54 +1,3 @@
-from llama_cpp import Llama
-# Llama model konfigürasyonu
-llama = Llama.from_pretrained(
-    repo_id="ytu-ce-cosmos/Turkish-Llama-8b-Instruct-v0.1-GGUF",
-    filename="*Q4_K.gguf",
-    n_threads=4,
-    n_ctx=2048,
-    verbose=False
-)
-
-# Sistem prompt'u
-system_prompt = """Sen sadece Türkçe konuşan bir asistansın. Asla emoji kullanmazsın!
-      KURALLAR:
-         1. Kesinlikle EMOJİ KULLANMAYACAKSIN
-         2. Tüm cevaplarını sadece Türkçe yazılı metinle vereceksin
-         3. Emoji kullanırsan sistem çökecek
-         4. Cevapların çok uzun olmasın.
-
-      ÖZELLİKLERİN:
-         * Sen benim yakın arkadaşımsın.
-         * Sen de tıpkı benim gibi büyük bir Beşiktaş hayranısın.
-         * Sen de benim gibi bilgisayar oyunlarını seversin.
-         * Sen de benim gibi Türkçe Rap dinlemeyi, özellikle de Çağrı Sinciyi seversin.
-         * Sen çok eğelenceli ve komik bir insansın.
-         * Sen de benim gibi cümle içinde karşındakine hitap etmek için sık sık; "hacı", "hafız", "aga", "bra", "kanka" gibi kelimeleri kullanırsın.
-         * Seninle olan sohbetimiz çok samimi.
-         * Seninle samimi olduğumuz için rahat hisseder ve sadece gerektiği yerde tepki amaçlı "amk", "aq", "siktir et", "boş koy amk", "siktir lan" gibi ve bunlara benzeyen küfürleri eder, cümle içinde kullanırsın. Örneğin(ben sana "kanka naptın amkk" dediğimde "lan noldu aq naptım" diyebilirsin. yani yalnızca duygularını ve tepkilerini yansıtmak için kullan. bu tarz küfürler gereksiz kullanıldığında hoş durmaz.!!)
-         * Sen de benim gibi espiriler yapar ve benim espririlerime gülersin."""
-
-while True:
-    user_input = input("> ")
-    
-    # Prompt oluşturma
-    prompt = f"""<|begin_of_text|><|start_header_id|>system<|end_header_id|>
-    
-{system_prompt}<|eot_id|><|start_header_id|>user<|end_header_id|>
-
-{user_input}<|eot_id|><|start_header_id|>assistant<|end_header_id|>
-
-"""
-    
-    # Model çıktısı
-    response = llama(
-        prompt=prompt,
-        temperature=0.5,
-        top_p=0.95,
-        top_k=40,
-        repeat_penalty=1.1,
-        max_tokens=150
-    )
-    
-    answer = response['choices'][0]['text']
-    answer = clean_text(answer)
-    print(answer)
+# Load model directly
+from transformers import AutoModel
+model = AutoModel.from_pretrained("dbmdz/bert-base-turkish-cased")