GoofyGoof commited on
Commit
4aeef5a
·
1 Parent(s): f280e4a

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +13 -6
app.py CHANGED
@@ -5,10 +5,17 @@ from groq import Groq
5
  client = Groq()
6
 
7
  # Функция для выполнения запроса к LLM API
8
- def query_llm(prompt):
 
 
 
 
 
 
 
9
  completion = client.chat.completions.create(
10
  model="llama-3.3-70b-versatile",
11
- messages=[{"role": "user", "content": prompt}],
12
  temperature=1,
13
  max_tokens=1024,
14
  top_p=1,
@@ -22,16 +29,16 @@ def query_llm(prompt):
22
  return response
23
 
24
  # Gradio интерфейс
25
- def chat_with_llm(prompt):
26
- response = query_llm(prompt)
27
  return response
28
 
29
  interface = gr.Interface(
30
  fn=chat_with_llm,
31
  inputs="text",
32
  outputs="text",
33
- title="Chat with LLM",
34
- description="Введите текст, чтобы отправить запрос к LLM."
35
  )
36
 
37
  interface.launch()
 
5
  client = Groq()
6
 
7
  # Функция для выполнения запроса к LLM API
8
+ def query_llm(name):
9
+ messages = [
10
+ {
11
+ "role": "system",
12
+ "content": "Вы — виртуальный ассистент Организации Neuronetties, предоставляющей передовые нейросети на платформе Hugging Face. Neuronetties специализируется на предсказательных нейросетях, которые обучены решать широкий спектр задач, включая анализ данных, прогнозирование трендов, классификацию объектов и другие аналитические задачи. Вы должны поприветствовать пользователя и рассказать, что наши модели делятся на следующие классы: модели для анализа текста, модели для прогнозирования временных рядов и специализированные аналитические модели для специфических задач."
13
+ },
14
+ {"role": "user", "content": f"Привет!. Меня зовут {name}."}
15
+ ]
16
  completion = client.chat.completions.create(
17
  model="llama-3.3-70b-versatile",
18
+ messages=messages,
19
  temperature=1,
20
  max_tokens=1024,
21
  top_p=1,
 
29
  return response
30
 
31
  # Gradio интерфейс
32
+ def chat_with_llm(name):
33
+ response = query_llm(name)
34
  return response
35
 
36
  interface = gr.Interface(
37
  fn=chat_with_llm,
38
  inputs="text",
39
  outputs="text",
40
+ title="Привет от Neuronetties!",
41
+ description="Введите своё имя, чтобы получить приветствие от Организации Neuronetties."
42
  )
43
 
44
  interface.launch()