Update app.py

app.py

@@ -6,6 +6,7 @@ import numpy as np
 from tqdm.auto import tqdm
 from sentence_transformers import SentenceTransformer
 import torch
+import copy
 import llama_cpp
 from llama_cpp import Llama
 from huggingface_hub import hf_hub_download
@@ -75,10 +76,15 @@ def main():
     st.write("Most relevants answers")
     st.table(dataList)
 
-    # Текстовое поле для вывода текста
-    st.write("LLAMA generated answer:")
-    output = llm('Что ты можешь рассказать про поэта Пушкина?', max_tokens=512, stream=True)
-    text_output = st.text_area("", output)
+    # Кнопка "Answer LLM"
+    if st.button("LLM Answer"):
+        st.write("LLAMA generated answer:")
+        output = llm('Что ты можешь рассказать про поэта Пушкина?', max_tokens=512, stream=True)
+        for out in output:
+            stream = copy.deepcopy(out)
+            text_output = st.text_area("", stream["choices"][0]["text"])
+        pass
+
 
 # Запуск основной части приложения
 if __name__ == "__main__":