Update app.py

app.py

@@ -1,36 +1,16 @@
 from langchain.chains import ConversationalRetrievalChain
-from langchain.memory import ConversationBufferMemory, ConversationSummaryMemory
+from langchain.memory import ConversationBufferMemory
 from langchain.chat_models import ChatOpenAI
 from langsmith import traceable
-
-from langchain.text_splitter import CharacterTextSplitter, RecursiveCharacterTextSplitter
 from langchain.embeddings.openai import OpenAIEmbeddings
 from langchain.vectorstores import Chroma
-
-import os
-import sys
-
-
-from langchain.schema import (
-    AIMessage,
-    HumanMessage,
-    SystemMessage
-)
-
 from langchain.prompts import ChatPromptTemplate
 from langchain.prompts.chat import SystemMessagePromptTemplate, HumanMessagePromptTemplate
+import gradio as gr
 
-#embeddings = HuggingFaceEmbeddings(model_name='sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2')
-embeddings  = OpenAIEmbeddings()
-
-#vectordb=Chroma.from_documents(document_chunks,embedding=embeddings, persist_directory='./ai_vocacional_v2')
+embeddings = OpenAIEmbeddings()
 vectordb = Chroma(persist_directory="./ai_vocacional_v2", embedding_function=embeddings)
-
-llm=ChatOpenAI(temperature=0, model_name='gpt-4o-2024-08-06')
-
-memory = ConversationBufferMemory(
-    memory_key='chat_history',
-    return_messages=True)
+llm = ChatOpenAI(temperature=0, model_name='gpt-4o-2024-08-06')
 
 general_system_template = r"""
 Eres el Orientador de carreras. Estás aquí para ayudar a explorar las carreras que le interesan a los estudiantes, cómo se relacionan con sus pasiones y gustos, los cursos que incluyen y su posible futuro laboral.
@@ -42,65 +22,51 @@ Si te preguntan por universidades, responde elegantemente que deben de haber muy
 
 general_user_template = "Pregunta:```{question}```"
 messages = [
-            SystemMessagePromptTemplate.from_template(general_system_template),
-            HumanMessagePromptTemplate.from_template(general_user_template)
+    SystemMessagePromptTemplate.from_template(general_system_template),
+    HumanMessagePromptTemplate.from_template(general_user_template)
 ]
-qa_prompt = ChatPromptTemplate.from_messages( messages )
+qa_prompt = ChatPromptTemplate.from_messages(messages)
+
+def create_memory():
+    return ConversationBufferMemory(memory_key='chat_history', return_messages=True)
 
 @traceable
-def pdf_qa(query):
-    
+def pdf_qa(query, memory):
     function = ConversationalRetrievalChain.from_llm(
-        llm = llm,
-        retriever=vectordb.as_retriever(search_kwargs={'k':16})
-        , combine_docs_chain_kwargs={'prompt': qa_prompt},
-        memory = memory#,max_tokens_limit=4000
+        llm=llm,
+        retriever=vectordb.as_retriever(search_kwargs={'k': 16}),
+        combine_docs_chain_kwargs={'prompt': qa_prompt},
+        memory=memory
     )
-
     return function({"question": query})
 
-import gradio as gr
-# Define chat interface
 with gr.Blocks() as demo:
-    chatbot = gr.Chatbot(label = "Orientador de carreras", value=[[None,'''
-    
+    chatbot = gr.Chatbot(label="Orientador de carreras", value=[[None, '''
     ¡Hola! Soy tu Orientador de Carreras. Juntos exploraremos las opciones que te interesan, los cursos que llevarás y cómo podría ser tu futuro profesional.
-
     Cuéntame qué carreras te llaman la atención y podrás hacerme preguntas como:
-
     - ¿Cuál es la mejor carrera para mí?
     - ¿Qué cursos veré en esas carreras? ¿En qué se parecen y en qué se diferencian?
     - ¿Cómo es un día típico como estudiante en la carrera que me interesa?
     - ¿Cómo es la vida diaria de un egresado de esas carreras?
-
     Estoy aquí para ayudarte a tomar una decisión informada. ¡Empecemos!
-    '''
-    ]])
-    msg = gr.Textbox(placeholder = "Escribe aquí", label = '')
+    ''']])
+    msg = gr.Textbox(placeholder="Escribe aquí", label='')
     submit = gr.Button("Enviar")
-    chat_history = []
+    memory_state = gr.State(create_memory)
 
-    def user(query, chat_history):
+    def user(query, chat_history, memory):
         print("User query:", query)
         print("Chat history:", chat_history)
 
-        # Convert chat history to list of tuples
-        chat_history_tuples = []
-        for message in chat_history:
-            chat_history_tuples.append((message[0], message[1]))
+        result = pdf_qa(query, memory)
 
-        # Get result from QA chain
-        result = pdf_qa(query)
-
-        # Append user message and response to chat history
         chat_history.append((query, result["answer"]))
         print("Updated chat history:", chat_history)
 
-        return gr.update(value=""), chat_history
-
+        return gr.update(value=""), chat_history, memory
 
-    submit.click(user, [msg, chatbot], [msg, chatbot], queue=False)
-    msg.submit(user, [msg, chatbot], [msg, chatbot], queue=False)
+    submit.click(user, [msg, chatbot, memory_state], [msg, chatbot, memory_state], queue=False)
+    msg.submit(user, [msg, chatbot, memory_state], [msg, chatbot, memory_state], queue=False)
 
 if __name__ == "__main__":
     demo.launch()