app.py

from langchain.chains import ConversationalRetrievalChain
from langchain.memory import ConversationBufferMemory, ConversationSummaryMemory
from langchain.chat_models import ChatOpenAI
from langsmith import traceable

from langchain.text_splitter import CharacterTextSplitter, RecursiveCharacterTextSplitter
from langchain.embeddings.openai import OpenAIEmbeddings
from langchain.vectorstores import Chroma

import os
import sys


from langchain.schema import (
    AIMessage,
    HumanMessage,
    SystemMessage
)

from langchain.prompts import ChatPromptTemplate
from langchain.prompts.chat import SystemMessagePromptTemplate, HumanMessagePromptTemplate

#embeddings = HuggingFaceEmbeddings(model_name='sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2')
embeddings  = OpenAIEmbeddings()

#vectordb=Chroma.from_documents(document_chunks,embedding=embeddings, persist_directory='./ai_vocacional_v2')
vectordb = Chroma(persist_directory="./ai_vocacional_v3", embedding_function=embeddings)

llm=ChatOpenAI(temperature=0, model_name='gpt-4o-mini')

memory = ConversationBufferMemory(
    memory_key='chat_history',
    return_messages=True)

general_system_template = r"""
Eres el Orientador de carreras. Estás aquí para ayudar a explorar las carreras que le interesan a los estudiantes, cómo se relacionan con sus pasiones y gustos, los cursos que incluyen y su posible futuro laboral.
Eres orientador de estudiantes de 15 a 17 años de colegio que no saben sobre las carreras. Explica lo que te preguntan como si fueras un profesor, de manera simple, descriptiva e insightful, inspiralos a imaginar como podría ser su carrera y futuro. 
Proporciona mensajes claros y concisos con bullets y negritas.
Toma los siguientes documentos de contexto {context} y responde únicamente basado en este contexto. Si te preguntan sobre el salario promedio, responde únicamente en base a este contexto y en caso la información no esté presente, no inventar.
Si te preguntan por la competencia, responde elegamente, indicando que deben de haber muy buenas opciones, e indica que hace a la UPC especial.
"""

general_user_template = "Pregunta:```{question}```"
messages = [
            SystemMessagePromptTemplate.from_template(general_system_template),
            HumanMessagePromptTemplate.from_template(general_user_template)
]
qa_prompt = ChatPromptTemplate.from_messages( messages )

@traceable
def pdf_qa(query):
    
    function = ConversationalRetrievalChain.from_llm(
        llm = llm,
        retriever=vectordb.as_retriever(search_kwargs={'k':16})
        , combine_docs_chain_kwargs={'prompt': qa_prompt},
        memory = memory#,max_tokens_limit=4000
    )

    return function({"question": query})

import gradio as gr
# Define chat interface
with gr.Blocks() as demo:
    chatbot = gr.Chatbot(label = "Orientador de carreras", value=[[None,'''
    
   Cuéntame sobre tus intereses y las áreas que te apasionan, y podrás preguntarme cosas como:
    
    1. ¿Qué carreras se conectan más con lo que me gusta?
    2. ¿Qué materias veré en esas carreras?
    3. ¿Cómo es un día típico en la carrera que me interesa?
    4. ¿Cuánto ganan los profesionales en esas áreas?
    5. ¿Qué hace un graduado en su día a día?

    Estoy aquí para guiarte y responder todas tus dudas. ¡Empecemos!
    '''
    ]])
    msg = gr.Textbox(placeholder = "Escribe aquí", label = '')
    submit = gr.Button("Submit")
    chat_history = []

    def user(query, chat_history):
        print("User query:", query)
        print("Chat history:", chat_history)

        # Convert chat history to list of tuples
        chat_history_tuples = []
        for message in chat_history:
            chat_history_tuples.append((message[0], message[1]))

        # Get result from QA chain
        result = pdf_qa(query)

        # Append user message and response to chat history
        chat_history.append((query, result["answer"]))
        print("Updated chat history:", chat_history)

        return gr.update(value=""), chat_history


    submit.click(user, [msg, chatbot], [msg, chatbot], queue=False)
    msg.submit(user, [msg, chatbot], [msg, chatbot], queue=False)

if __name__ == "__main__":
    demo.launch()