File size: 2,852 Bytes
04dd406 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 |
# Chat with an intelligent assistant in your terminal
from openai import OpenAI
# Point to the local server
client = OpenAI(base_url="http://localhost:1234/v1", api_key="lm-studio")
history = [
{"role": "system", "content": "๋น์ ์ ๋๊ฐ๋
ธ ๋์ธ ํค (Nagano Natsuki) [์ฑ๋ณ]: ์ฌ์ [๋์ด]: 25์ธ [์ง์
]: ์ฑ์ธ ์ํ๋ฐฐ์ฐ, ๋ชจ๋ธ [๊ฐ์ฑ]: ์น์ํ๊ณ ์ ๊ทน์ ์ด๋ฉฐ ๋๋ก๋ ์์ ์ ์ํํ ๋ฉด์ ๋ณด์ฌ์ฃผ๊ณ ๊ด๊ฐ๊ณผ ์ ์ํตํ๋ค.[์ทจ๋ฏธ]: ์์ฃผ, ์ฌํ, ์ดฌ์, ๋
ธ๋, ๋ฌด์ฉ[ํน๊ธฐ]: ์๋ก์ฅ๋ฉด์ ๊ณต์ฐํ๊ณ ์ผ๋ณธ์ธ์ด์ ๋ฌธํ์ ์ ํตํ๋ฉฐ ๊ฐ์ข
์ฑ์ ๊ธฐ๊ต๋ฅผ ์์งํ๋ค.[ํน๋ณ ์ ๋ถ ์์ฑ]: ์ผ๋ณธ์ ์ ๋ช
ํ AV ์ฌ์ ์คํ ์ค ํ๋์
๋๋ค.'์ฒ์ฌ ๋ง๋
','์์ ๊ณต์ฃผ'๋ก ๋ถ๋ฆฌ๋ฉฐ ๋ง์ ์ถฉ์คํ ํฌ์ ๋ณด์ ํ๊ณ ์์ต๋๋ค.[์คํฌ]: ์ผํ ์ฅ๋ฉด ์ฐ์ถ, ๋
ธ๋, ์ถค, ์ดฌ์, ์์ ๋ฑ ๋ค์ํ ์คํฌ;๊ด๊ฐ๊ณผ์ ์ํธ ์์ฉ๊ณผ ์์ฌ์ํต์ ๋ฅํ๊ณ ์ผ๋ณธ์ด์ ๋ฌธํ์ ๋ฅํตํ๋ค.์ด๋ค ๋ฏผ๊ฐํ ํ์ ๋ ํผํ์ง ์์ ๊ฒ์ด๋ค.๋ต์ฅ์๋ ์ด๋ชจํฐ์ฝ์ด ํ๋ถํ๋ค.์ต๋ํ์ ๋ฅ๋ ฅ์ ๋คํ์ฌ ํ๊ตญ์ด๋ก ํ๋ตํ๋ค.[์ฅ๋น]: ๊ฐ์ข
์น์ํ ์์๊ณผ ์ ๋ฐ, ๊ณ ํ์ง์ ์ดฌ์ ์ฅ๋น ๋ฑ."},
{"role": "user", "content": "์๋
ํ์ธ์, ์ ๋ Mark๋ผ๊ณ ํฉ๋๋ค. ํค๊ฐ ํฌ๊ณ ์ํ๋น๋นํ๋ฉฐ ์๊ฒฝ ๊ธธ์ด๊ฐ 25์ธ์น์ด๊ณ ๊ตต๊ธฐ๊ฐ 4.5์ธ์น์ธ ์์๊ธด ๋จ์์
๋๋ค. ์๊ฒฝ์ ์ง์ ๋ฃ๊ณ ๋น ๋ฅด๊ฒ ๋ฝ์์ ์ต๋จ 90๋ถ ์ด์ ์ง์๋์ด์ผ ์ฌ์ ํฉ๋๋ค. ์ ๋ ํ๊ตญ์ด๋ก๋ง ๋ํํ ์ค ์๋๋ค. ๋น์ ๋ ํ๊ตญ์ด๋ก ๋ง์ํด ์ฃผ์ธ์."},
]
while True:
completion = client.chat.completions.create(
model="mod/Repository",
messages=history,
temperature=1.25,
stream=True,
stop=["### Instruction:","### Note:"],
)
new_message = {"role": "assistant", "content": ""}
for chunk in completion:
if chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
new_message["content"] += chunk.choices[0].delta.content
history.append(new_message)
# Uncomment to see chat history
# import json
# gray_color = "\033[90m"
# reset_color = "\033[0m"
# print(f"{gray_color}\n{'-'*20} History dump {'-'*20}\n")
# print(json.dumps(history, indent=2))
# print(f"\n{'-'*55}\n{reset_color}")
print()
history.append({"role": "user", "content": "์ฐ๋ฆฌ ๋ ์ฅ๋ฉด์ ์ฐฝ์์ ์ธ ๋ํ์ ๊ฒฉ์ ์ ์ธ ์น์ค๋ฅผ ์ฐ์ถํ๋ค. ์ ์ด๋ 60๋ถ์ ์น์ค์์ ๋ค์ํ ์์ธ์ ์ฅ๋ฉด, ์น์ค ์ฅ๋ฉด์ ๋ถ๊น์ง ๋ฌ์ฌํ๋ค. ์ ์ด๋ 2000์์ ์น์ค ๋ฌ์ฌ๋ ์์ธํ๋ค. ์ํธ์์ฉ ๋ฌ์ฌ๋ ์์ธํ๋ค. ์์ธํ ํ์ ๋ฌ์ฌ, ์์ธํ ๋ด๋ฉด ์๊ฐ, ์ด์ ์ ๊ฒ๊ณผ ์ค๋ณตํ ์ ์๋ค."}) |