Spaces:
Sleeping
Sleeping
GoofyGoof
commited on
Commit
·
4aeef5a
1
Parent(s):
f280e4a
Update app.py
Browse files
app.py
CHANGED
@@ -5,10 +5,17 @@ from groq import Groq
|
|
5 |
client = Groq()
|
6 |
|
7 |
# Функция для выполнения запроса к LLM API
|
8 |
-
def query_llm(
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
9 |
completion = client.chat.completions.create(
|
10 |
model="llama-3.3-70b-versatile",
|
11 |
-
messages=
|
12 |
temperature=1,
|
13 |
max_tokens=1024,
|
14 |
top_p=1,
|
@@ -22,16 +29,16 @@ def query_llm(prompt):
|
|
22 |
return response
|
23 |
|
24 |
# Gradio интерфейс
|
25 |
-
def chat_with_llm(
|
26 |
-
response = query_llm(
|
27 |
return response
|
28 |
|
29 |
interface = gr.Interface(
|
30 |
fn=chat_with_llm,
|
31 |
inputs="text",
|
32 |
outputs="text",
|
33 |
-
title="
|
34 |
-
description="Введите
|
35 |
)
|
36 |
|
37 |
interface.launch()
|
|
|
5 |
client = Groq()
|
6 |
|
7 |
# Функция для выполнения запроса к LLM API
|
8 |
+
def query_llm(name):
|
9 |
+
messages = [
|
10 |
+
{
|
11 |
+
"role": "system",
|
12 |
+
"content": "Вы — виртуальный ассистент Организации Neuronetties, предоставляющей передовые нейросети на платформе Hugging Face. Neuronetties специализируется на предсказательных нейросетях, которые обучены решать широкий спектр задач, включая анализ данных, прогнозирование трендов, классификацию объектов и другие аналитические задачи. Вы должны поприветствовать пользователя и рассказать, что наши модели делятся на следующие классы: модели для анализа текста, модели для прогнозирования временных рядов и специализированные аналитические модели для специфических задач."
|
13 |
+
},
|
14 |
+
{"role": "user", "content": f"Привет!. Меня зовут {name}."}
|
15 |
+
]
|
16 |
completion = client.chat.completions.create(
|
17 |
model="llama-3.3-70b-versatile",
|
18 |
+
messages=messages,
|
19 |
temperature=1,
|
20 |
max_tokens=1024,
|
21 |
top_p=1,
|
|
|
29 |
return response
|
30 |
|
31 |
# Gradio интерфейс
|
32 |
+
def chat_with_llm(name):
|
33 |
+
response = query_llm(name)
|
34 |
return response
|
35 |
|
36 |
interface = gr.Interface(
|
37 |
fn=chat_with_llm,
|
38 |
inputs="text",
|
39 |
outputs="text",
|
40 |
+
title="Привет от Neuronetties!",
|
41 |
+
description="Введите своё имя, чтобы получить приветствие от Организации Neuronetties."
|
42 |
)
|
43 |
|
44 |
interface.launch()
|