trashchenkov commited on
Commit
5768e97
·
verified ·
1 Parent(s): 55bb135

Create app.py

Browse files
Files changed (1) hide show
  1. app.py +39 -0
app.py ADDED
@@ -0,0 +1,39 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ import gradio as gr
2
+ from langchain_gigachat.chat_models import GigaChat
3
+ from dotenv import load_dotenv
4
+ import os
5
+
6
+ # Загрузка переменных из .env
7
+ load_dotenv()
8
+
9
+ giga = GigaChat(
10
+ credentials=os.getenv('GIGACHAT_KEY'),
11
+ verify_ssl_certs=False, scope="GIGACHAT_API_CORP",
12
+
13
+ )
14
+
15
+ ddef generate_response(user_input):
16
+ """Функция для генерации ответа от LLM"""
17
+ try:
18
+ response = giga.invoke(user_input)
19
+ return response.content # Предполагается, что ответ содержит ключ 'tex>
20
+ except Exception as e:
21
+ return f"Ошибка: {str(e)}"
22
+
23
+ # Интерфейс Gradio
24
+ def main():
25
+ interface = gr.Interface(
26
+ fn=generate_response,
27
+ inputs=gr.Textbox(label="Ваш запрос"),
28
+ outputs=gr.Textbox(label="Ответ от GigaChat"),
29
+ title="Генератор сообщений на основе GigaChat",
30
+ description="Введите ваш запрос, чтобы получить ответ от LLM от Сбера.",
31
+ allow_flagging="manual",
32
+ flagging_options=["Пометить"]
33
+
34
+ # Запуск сервера с публичным доступом
35
+ interface.launch(share=True) #server_name="0.0.0.0", server_port=7860)
36
+
37
+ if __name__ == "__main__":
38
+ main()
39
+