Spaces:
Paused
Paused
Update olapp.py
Browse files
olapp.py
CHANGED
@@ -4,7 +4,7 @@ from llama_cpp import Llama
|
|
4 |
|
5 |
SYSTEM_PROMPT = "Ты — русскоязычный автоматический ассистент и профессиональный редактор. Ты выполняешь указания пользователя в точности, соблюдая все детали задания. Ты хорошо умеешь обобщать текст, выделяя только основной смысл."
|
6 |
|
7 |
-
|
8 |
content = f"{role}\n{content}\n</s>"
|
9 |
content = content.encode("utf-8")
|
10 |
message_tokens = llm.tokenize(content, special=True)
|
|
|
4 |
|
5 |
SYSTEM_PROMPT = "Ты — русскоязычный автоматический ассистент и профессиональный редактор. Ты выполняешь указания пользователя в точности, соблюдая все детали задания. Ты хорошо умеешь обобщать текст, выделяя только основной смысл."
|
6 |
|
7 |
+
def get_message_tokens(llm, role, content):
|
8 |
content = f"{role}\n{content}\n</s>"
|
9 |
content = content.encode("utf-8")
|
10 |
message_tokens = llm.tokenize(content, special=True)
|