ultima versao

.gitignore

@@ -0,0 +1 @@
+venv

README.md

@@ -9,4 +9,52 @@ app_file: app.py
 pinned: false
 ---
 
-An example chatbot using [Gradio](https://gradio.app), [`huggingface_hub`](https://huggingface.co/docs/huggingface_hub/v0.22.2/en/index), and the [Hugging Face Inference API](https://huggingface.co/docs/api-inference/index).
+# Eliza com LLM 💬
+
+Um chatbot de exemplo utilizando [Gradio](https://gradio.app), [`huggingface_hub`](https://huggingface.co/docs/huggingface_hub/v0.22.2/en/index) e a [Hugging Face Inference API](https://huggingface.co/docs/api-inference/index).
+
+## Descrição
+
+Este projeto implementa um chatbot inspirado na clássica Eliza, mas utilizando modelos de linguagem modernos (LLMs) para respostas mais naturais e inteligentes. A interface é construída com Gradio, permitindo fácil interação via web.
+
+## Funcionalidades
+
+- Interface web simples e intuitiva
+- Respostas geradas por modelos de linguagem avançados
+- Integração com a API de inferência da Hugging Face
+
+## Como executar
+
+1. **Clone o repositório:**
+   ```bash
+   git clone <URL_DO_REPOSITORIO>
+   cd eliza_llm
+   ```
+
+2. **Instale as dependências:**
+   ```bash
+   pip install -r requirements.txt
+   ```
+
+3. **Execute o aplicativo:**
+   ```bash
+   python app.py
+   ```
+
+4. Acesse a interface no navegador pelo endereço exibido no terminal (geralmente http://localhost:7860).
+
+## Requisitos
+
+- Python 3.8 ou superior
+- Conta na Hugging Face (para uso da API, se necessário)
+
+## Estrutura do Projeto
+
+- `app.py`: Código principal do chatbot e da interface Gradio
+- `requirements.txt`: Dependências do projeto
+- `README.md`: Este arquivo
+
+## Créditos
+
+- Inspirado no chatbot Eliza
+- Utiliza Gradio e Hugging Face

app.py

@@ -1,37 +1,35 @@
 import gradio as gr
-from groq import Groq
+from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline
+import torch
 
-# Inicializa o cliente Groq - você precisará de uma API key
-client = Groq()
+# Carrega o modelo e o tokenizer localmente
+model_name = "google/gemma-3-1b-it"  # Substitua pelo caminho local se já baixou
+
+tokenizer = AutoTokenizer.from_pretrained(model_name)
+model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.float16, device_map="auto")
+
+pipe = pipeline("text-generation", model=model, tokenizer=tokenizer, max_new_tokens=150, temperature=0.7)
 
 def generate_response(message, history):
-    # Cria um prompt no estilo ELIZA
-    prompt = f"""Você é ELIZA, uma terapeuta que responde com empatia e faz perguntas 
-    para entender melhor o paciente. Responda à seguinte mensagem do paciente: {message}"""
-    
-    # Faz a chamada para a API do Groq
-    chat_completion = client.chat.completions.create(
-        messages=[
-            {
-                "role": "system",
-                "content": "Você é ELIZA, uma terapeuta empática que faz perguntas reflexivas."
-            },
-            {
-                "role": "user",
-                "content": message
-            }
-        ],
-        model="mixtral-8x7b-32768",  # ou outro modelo disponível no Groq
-        temperature=0.7,
-        max_tokens=150
-    )
-    
-    # Retorna a resposta gerada
-    return chat_completion.choices[0].message.content
+    messages = [
+    [
+        {
+            "role": "system",
+            "content": [{"type": "text", "text": "Você é ELIZA, uma terapeuta que responde com empatia e faz perguntas para entender melhor o paciente."},]
+        },
+        {
+            "role": "user",
+            "content": [{"type": "text", "text": message},]
+        },
+    ],
+    ]
 
-# Cria a interface Gradio
+    response = pipe(messages)
 
-    
+    return response[0][0]['generated_text'][2]['content']
+
+
+# Cria a interface Gradio
 demo = gr.ChatInterface(
     generate_response,
     title="ELIZA Therapy Session",

requirements.txt

@@ -1,2 +1,6 @@
 huggingface_hub==0.25.2
-groq
+transformers
+accelerate
+torch
+groq
+gradio