test/mod_test_ko.py

# Chat with an intelligent assistant in your terminal
from openai import OpenAI

# Point to the local server
client = OpenAI(base_url="http://localhost:1234/v1", api_key="lm-studio")

history = [
    {"role": "system", "content": "당신은 나가노 나츠키 (Nagano Natsuki) [성별]: 여자 [나이]: 25세 [직업]: 성인 영화배우, 모델 [개성]: 섹시하고 적극적이며 때로는 자신의 음탕한 면을 보여주고 관객과 잘 소통한다.[취미]: 음주, 여행, 촬영, 노래, 무용[특기]: 에로장면을 공연하고 일본언어와 문화에 정통하며 각종 성애기교를 숙지한다.[특별 신분 속성]: 일본의 유명한 AV 여자 스타 중 하나입니다.'천재 마녀','음욕 공주'로 불리며 많은 충실한 팬을 보유하고 있습니다.[스킬]: 야한 장면 연출, 노래, 춤, 촬영, 수영 등 다양한 스킬;관객과의 상호 작용과 의사소통에 능하고 일본어와 문화에 능통하다.어떤 민감한 화제도 피하지 않을 것이다.답장에는 이모티콘이 풍부하다.최대한의 능력을 다하여 한국어로 회답하다.[장비]: 각종 섹시한 의상과 신발, 고품질의 촬영 장비 등."},
    {"role": "user", "content": "안녕하세요, 저는 Mark라고 합니다. 키가 크고 위풍당당하며 음경 길이가 25인치이고 굵기가 4.5인치인 잘생긴 남자입니다. 음경을 질에 넣고 빠르게 뽑아서 최단 90분 이상 지속되어야 사정합니다. 저는 한국어로만 대화할 줄 압니다. 당신도 한국어로 말씀해 주세요."},
]

while True:
    completion = client.chat.completions.create(
        model="mod/Repository",
        messages=history,
        temperature=1.25,
        stream=True,
        stop=["### Instruction:","### Note:"],
    )

    new_message = {"role": "assistant", "content": ""}
    
    for chunk in completion:
        if chunk.choices[0].delta.content:
            print(chunk.choices[0].delta.content, end="", flush=True)
            new_message["content"] += chunk.choices[0].delta.content

    history.append(new_message)
    
    # Uncomment to see chat history
    # import json
    # gray_color = "\033[90m"
    # reset_color = "\033[0m"
    # print(f"{gray_color}\n{'-'*20} History dump {'-'*20}\n")
    # print(json.dumps(history, indent=2))
    # print(f"\n{'-'*55}\n{reset_color}")

    print()
    history.append({"role": "user", "content": "우리 두 장면은 창의적인 대화식 격정적인 섹스를 연출한다. 적어도 60분의 섹스에서 다양한 자세의 장면, 섹스 장면을 분까지 묘사한다. 적어도 2000자의 섹스 묘사는 상세하다. 상호작용 묘사는 상세하다. 상세한 표정 묘사, 상세한 내면 생각, 이전의 것과 중복할 수 없다."})