Update app.py

app.py

@@ -2,7 +2,7 @@ import gradio as gr
 import pandas as pd
 import matplotlib.pyplot as plt
 import seaborn as sns
-from transformers import pipeline, AutoModelForCausalLM, AutoTokenizer
+from ctransformers import AutoModelForCausalLM
 import json
 import os
 
@@ -28,17 +28,14 @@ def increment_counter():
 
 # Configuração do modelo local
 def load_model():
-    model_name = "TheBloke/Mistral-7B-Instruct-v0.1-GGUF"
-    model = AutoModelForCausalLM.from_quantized(
-        model_name,
-        model_file="mistral-7b-instruct-v0.1.Q4_K_M.gguf",
-        device="cpu",
-        trust_remote_code=True
+    return AutoModelForCausalLM.from_pretrained(
+        'TheBloke/Mistral-7B-Instruct-v0.1-GGUF',
+        model_file='mistral-7b-instruct-v0.1.Q4_K_M.gguf',
+        model_type='mistral',
+        gpu_layers=0  # CPU only
     )
-    tokenizer = AutoTokenizer.from_pretrained(model_name)
-    return pipeline('text-generation', model=model, tokenizer=tokenizer)
 
-# Questões DISC (mantido igual...)
+# Questões DISC
 perguntas = {
     'D': [
         "Eu sou direto e vou direto ao ponto",
@@ -66,7 +63,6 @@ perguntas = {
     ]
 }
 
-# Funções existentes mantidas iguais...
 def calcular_disc(respostas):
     resultados = {'D': 0, 'I': 0, 'S': 0, 'C': 0}
     
@@ -92,7 +88,7 @@ def criar_grafico(resultados):
     
     return plt
 
-def gerar_analise_llm(pipe, resultados, respostas_brutas):
+def gerar_analise_llm(llm, resultados, respostas_brutas):
     prompt = f"""<s>[INST] Como um especialista em análise comportamental DISC, faça uma análise detalhada do seguinte perfil:
 
 Resultados percentuais:
@@ -120,19 +116,11 @@ Forneça:
 5. Ambientes de trabalho mais adequados
 [/INST]"""
 
-    resposta = pipe(
-        prompt,
-        max_new_tokens=1024,
-        temperature=0.7,
-        top_p=0.95,
-        repetition_penalty=1.15
-    )[0]['generated_text']
-    
-    return resposta.split("[/INST]")[1].strip()
+    return llm(prompt, max_new_tokens=1024, temperature=0.7)
 
 class DiscAnalyzer:
     def __init__(self):
-        self.pipe = load_model()
+        self.llm = load_model()
     
     def avaliar_disc(self, values):
         # Incrementa o contador
@@ -146,7 +134,7 @@ class DiscAnalyzer:
         
         resultados = calcular_disc(respostas)
         fig = criar_grafico(resultados)
-        analise = gerar_analise_llm(self.pipe, resultados, respostas)
+        analise = gerar_analise_llm(self.llm, resultados, respostas)
         
         return fig, analise, counter_text