File size: 1,226 Bytes
b88c9bc 2b827cf 8acbfc0 2b827cf 8acbfc0 2b827cf 8acbfc0 2b827cf bf2b287 2b827cf bf2b287 8acbfc0 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 |
import gradio as gr
from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline
import torch
# Carrega o modelo e o tokenizer localmente
model_name = "google/gemma-3-1b-it" # Substitua pelo caminho local se já baixou
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.float16, device_map="auto")
pipe = pipeline("text-generation", model=model, tokenizer=tokenizer, max_new_tokens=150, temperature=0.7)
def generate_response(message, history):
messages = [
[
{
"role": "system",
"content": [{"type": "text", "text": "Você é ELIZA, uma terapeuta que responde com empatia e faz perguntas para entender melhor o paciente."},]
},
{
"role": "user",
"content": [{"type": "text", "text": message},]
},
],
]
response = pipe(messages)
return response[0][0]['generated_text'][2]['content']
# Cria a interface Gradio
demo = gr.ChatInterface(
generate_response,
title="ELIZA Therapy Session",
description="Compartilhe seus pensamentos e ELIZA irá ajudar você a refletir sobre eles."
)
# Inicia a interface
demo.launch() |