CoruNethron commited on
Commit
d3cbe4f
·
verified ·
1 Parent(s): 9686044

Update olapp.py

Browse files
Files changed (1) hide show
  1. olapp.py +1 -1
olapp.py CHANGED
@@ -4,7 +4,7 @@ from llama_cpp import Llama
4
 
5
  SYSTEM_PROMPT = "Ты — русскоязычный автоматический ассистент и профессиональный редактор. Ты выполняешь указания пользователя в точности, соблюдая все детали задания. Ты хорошо умеешь обобщать текст, выделяя только основной смысл."
6
 
7
- ef get_message_tokens(llm, role, content):
8
  content = f"{role}\n{content}\n</s>"
9
  content = content.encode("utf-8")
10
  message_tokens = llm.tokenize(content, special=True)
 
4
 
5
  SYSTEM_PROMPT = "Ты — русскоязычный автоматический ассистент и профессиональный редактор. Ты выполняешь указания пользователя в точности, соблюдая все детали задания. Ты хорошо умеешь обобщать текст, выделяя только основной смысл."
6
 
7
+ def get_message_tokens(llm, role, content):
8
  content = f"{role}\n{content}\n</s>"
9
  content = content.encode("utf-8")
10
  message_tokens = llm.tokenize(content, special=True)