HaveAI commited on
Commit
b628b4e
·
verified ·
1 Parent(s): a7f4fe1

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +21 -18
app.py CHANGED
@@ -1,33 +1,36 @@
1
  import gradio as gr
2
- from transformers import AutoTokenizer, AutoModelForSeq2SeqLM, pipeline
3
 
4
  # Загружаем модель
5
- model_name = "google/flan-t5-small"
6
- tokenizer = AutoTokenizer.from_pretrained(model_name)
7
- model = AutoModelForSeq2SeqLM.from_pretrained(model_name)
8
 
9
- # Пайплайн генерации текста
10
- generator = pipeline("text2text-generation", model=model, tokenizer=tokenizer)
11
 
12
  # Функция чата
13
- def chat(message, history):
 
 
14
  if not message.strip():
15
- return "Пожалуйста, напиши что-то!"
16
-
17
  # Генерация ответа
18
  response = generator(message, max_new_tokens=100)[0]["generated_text"]
19
-
20
- # Простой фильтр для исключения повтора
21
- response = ' '.join(sorted(set(response.split()), key=response.split().index)) # Убираем дубли в ответе
22
 
23
- return response
 
 
 
 
24
 
25
  # Интерфейс
26
- gr.Interface(
27
  fn=chat,
28
- inputs=[gr.Textbox(placeholder="Напиши сюда...", label="Сообщение")],
29
- outputs=[gr.Chatbot()],
30
  title="FlareGPT Light",
31
  description="Поговори с FlareGPT!",
32
- theme="compact"
33
- ).launch()
 
 
 
1
  import gradio as gr
2
+ from transformers import pipeline
3
 
4
  # Загружаем модель
5
+ generator = pipeline("text2text-generation", model="google/flan-t5-small")
 
 
6
 
7
+ # История сообщений
8
+ chat_history = []
9
 
10
  # Функция чата
11
+ def chat(message):
12
+ global chat_history
13
+
14
  if not message.strip():
15
+ return chat_history + [["Ты", message], ["FlareGPT", "Пожалуйста, напиши что-то!"]]
16
+
17
  # Генерация ответа
18
  response = generator(message, max_new_tokens=100)[0]["generated_text"]
 
 
 
19
 
20
+ # Обновляем историю
21
+ chat_history.append(["Ты", message])
22
+ chat_history.append(["FlareGPT", response])
23
+
24
+ return chat_history
25
 
26
  # Интерфейс
27
+ iface = gr.Interface(
28
  fn=chat,
29
+ inputs=gr.Textbox(label="Сообщение"),
30
+ outputs=gr.Chatbot(label="FlareGPT Light"),
31
  title="FlareGPT Light",
32
  description="Поговори с FlareGPT!",
33
+ theme="default"
34
+ )
35
+
36
+ iface.launch()