Update app.py
Browse files
app.py
CHANGED
@@ -1,33 +1,36 @@
|
|
1 |
import gradio as gr
|
2 |
-
from transformers import
|
3 |
|
4 |
# Загружаем модель
|
5 |
-
|
6 |
-
tokenizer = AutoTokenizer.from_pretrained(model_name)
|
7 |
-
model = AutoModelForSeq2SeqLM.from_pretrained(model_name)
|
8 |
|
9 |
-
#
|
10 |
-
|
11 |
|
12 |
# Функция чата
|
13 |
-
def chat(message
|
|
|
|
|
14 |
if not message.strip():
|
15 |
-
return "Пожалуйста, напиши что-то!"
|
16 |
-
|
17 |
# Генерация ответа
|
18 |
response = generator(message, max_new_tokens=100)[0]["generated_text"]
|
19 |
-
|
20 |
-
# Простой фильтр для исключения повтора
|
21 |
-
response = ' '.join(sorted(set(response.split()), key=response.split().index)) # Убираем дубли в ответе
|
22 |
|
23 |
-
|
|
|
|
|
|
|
|
|
24 |
|
25 |
# Интерфейс
|
26 |
-
gr.Interface(
|
27 |
fn=chat,
|
28 |
-
inputs=
|
29 |
-
outputs=
|
30 |
title="FlareGPT Light",
|
31 |
description="Поговори с FlareGPT!",
|
32 |
-
theme="
|
33 |
-
)
|
|
|
|
|
|
1 |
import gradio as gr
|
2 |
+
from transformers import pipeline
|
3 |
|
4 |
# Загружаем модель
|
5 |
+
generator = pipeline("text2text-generation", model="google/flan-t5-small")
|
|
|
|
|
6 |
|
7 |
+
# История сообщений
|
8 |
+
chat_history = []
|
9 |
|
10 |
# Функция чата
|
11 |
+
def chat(message):
|
12 |
+
global chat_history
|
13 |
+
|
14 |
if not message.strip():
|
15 |
+
return chat_history + [["Ты", message], ["FlareGPT", "Пожалуйста, напиши что-то!"]]
|
16 |
+
|
17 |
# Генерация ответа
|
18 |
response = generator(message, max_new_tokens=100)[0]["generated_text"]
|
|
|
|
|
|
|
19 |
|
20 |
+
# Обновляем историю
|
21 |
+
chat_history.append(["Ты", message])
|
22 |
+
chat_history.append(["FlareGPT", response])
|
23 |
+
|
24 |
+
return chat_history
|
25 |
|
26 |
# Интерфейс
|
27 |
+
iface = gr.Interface(
|
28 |
fn=chat,
|
29 |
+
inputs=gr.Textbox(label="Сообщение"),
|
30 |
+
outputs=gr.Chatbot(label="FlareGPT Light"),
|
31 |
title="FlareGPT Light",
|
32 |
description="Поговори с FlareGPT!",
|
33 |
+
theme="default"
|
34 |
+
)
|
35 |
+
|
36 |
+
iface.launch()
|