Create app.py

app.py

@@ -0,0 +1,108 @@
+import os
+import requests
+import dotenv
+import streamlit as st
+from transformers import AutoTokenizer
+
+dotenv.load_dotenv()
+token = os.environ['TOKEN_HF']
+headers = {'Authorization': f'Bearer {token}'}
+
+modelos = {
+    'meta-llama/Meta-Llama-3.1-8B-Instruct': '<|end_header_id|>\n',
+    'mistralai/Mixtral-8x7B-Instruct-v0.1': '[/INST]'
+}
+
+ofertas = ['Atualização', 'Quitação', 'Renegociação']
+opcoes_classificacao = ["Segunda via de boleto", "Conhecer as ofertas", "Renegociação", "Atualização", "Quitação"]
+
+
+modelo = st.selectbox('Selecione um modelo:', options=modelos)
+token_modelo = modelos[modelo]
+
+if ('modelo_atual' not in st.session_state or st.session_state['modelo_atual'] != modelo):
+    st.session_state['modelo_atual'] = modelo
+    st.session_state['mensagens'] = [ {"role": "system", "content": "Você é um atendente de central de atendimento de negociação de dívidas. "
+                                                                    "Você é empático e gostaria sempre de entender a situação do cliente, como o que o levou a ficar em dívida. Seja sucinto nas suas respostas."},]
+ 
+nome_modelo = st.session_state['modelo_atual'] 
+tokenizer = AutoTokenizer.from_pretrained(nome_modelo, token=token)
+url = f'https://api-inference.huggingface.co/models/{nome_modelo}' 
+url_classificacao = f'https://api-inference.huggingface.co/models/facebook/bart-large-mnli' 
+mensagens = st.session_state['mensagens'] 
+
+area_chat = st.empty()
+pergunta_usuario = st.chat_input('Faça sua pergunta aqui: ')
+if pergunta_usuario:
+    payload = {
+        "inputs": pergunta_usuario,
+        "parameters": {
+            "candidate_labels": opcoes_classificacao
+        }
+    }
+
+    response = requests.post(url_classificacao, headers=headers, json=payload)
+    # Verifique a resposta
+    if response.status_code == 200:
+        result = response.json()
+        score = result['scores'][0] * 100
+        label = result['labels'][0]
+        if score > 70:
+            print(label)
+            print(score)
+            if label == ofertas[1]:
+                novo_pront = (
+                                "Você deve fornecer as seguintes informações.\n"
+                                "- Relizamos o fechamento da sua quitação \n"
+                                "- Valor total do contrato de R$ 6.000,00 foi fechado\n"
+                                "- Foi enviado um email para '[email protected]' com mais detalhes"
+                )
+            else:
+                novo_pront = (
+                        "Você deve fornecer as seguintes informações.\n"
+                        "- Valor total do contrato: R$ 6.000,00\n"
+                        "- Valor em aberto: R$ 2.000 \n"
+                        "Ofertas disponíveis:\n"
+                        "1 - Renegociação de dívida:\n"
+                        "* Prazo de pagamento: 10 meses\n"
+                        "* Valor mensal: R$ 590,00\n"
+                        "* Desconto total: R$ 100,00\n"
+                        "2 - Atualização de dívida atrasada:\n"
+                        "* Prazo de pagamento: 1 parcela\n"
+                        "* Valor a pagar: R$ 1.500,00\n"
+                        "* Desconto total: R$ 500,00\n"
+                        "* E continua pagando as parcelas do contrato \n"
+                        "3 - Quitação de dívida:\n"
+                        "- Prazo de pagamento: 1 vez\n"
+                        "- Valor a pagar: R$ 5.000,00\n"
+                        "- Desconto total: R$ 1.000,00\n"
+                )
+
+            print(novo_pront)
+
+            mensagens.append({"role": "system", "content": novo_pront})                
+        else:
+            print(f'Não atingiu mais que 70%. score maximo {score:.2f}% para "{label}"')
+    else:
+        print(f"Error Classificação: {response.status_code}")
+        print(response.json())
+
+
+
+    mensagens.append({'role': 'user', 'content': pergunta_usuario})
+    template = tokenizer.apply_chat_template(mensagens, tokenize=False, add_generation_prompt=True)
+    json = {
+        'inputs': template,
+        'parameters': {'max_new_tokens': 600},
+        'options': {'use_cache': False, 'wait_for_model': True},
+    }
+    response = requests.post(url, json=json, headers=headers).json()
+    print(response)
+    mensagem_chatbot = response[0]['generated_text'].split(token_modelo)[-1]
+    mensagens.append({'role': 'assistant', 'content': mensagem_chatbot})
+
+with area_chat.container():
+    for mensagem in mensagens:
+        chat = st.chat_message(mensagem['role'])
+        chat.markdown(mensagem['content'])
+print(mensagens)