yainage90/Llama3-open-Ko-3-8B-Law-Chat-Full-Weights

import torch
import huggingface_hub
from transformers import AutoTokenizer, AutoModelForCausalLM

model_id = 'yainage90/Llama3-open-Ko-3-8B-Law-Chat-Full-Weights'

tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    torch_dtype="auto",
    device_map="auto",
)

model.eval()

question = '''
술을 마시다가 옆테이블에서 먼저 시비를 걸었고 심하게 싸우진 않았습니다
서로 언성이 높아지다가 제가 술김에 화가 나서 화를 참지 못하고 상대의 어깨쪽 팔부분을 꽉 잡았습니다 
당연히 뭐 다치거나 상해입은 부분은 없는데 제가 본인 몸에 손을 댔다는 이유로 폭행죄로 신고를 했고 경찰 조사를 받았습니다 
상대가 합의 의사가 없을 경우 벌금은 어느정도 나올까요??
'''

messages = [
    {"role": "system", "content": "친절한 챗봇으로서 상대방의 요청에 최대한 자세하고 친절하게 답하자. 모든 대답은 한국어(Korean)으로 대답해줘."},
    {"role": "user", "content": question},
]

input_ids = tokenizer.apply_chat_template(
    messages,
    add_generation_prompt=True,
    return_tensors="pt"
).to(model.device)

terminators = [
    tokenizer.eos_token_id,
    tokenizer.convert_tokens_to_ids("<|eot_id|>")
]

with torch.no_grad():
    outputs = model.generate(
        input_ids,
        max_new_tokens=1024,
        eos_token_id=terminators,
        do_sample=True,
        temperature=0.9,
        top_p=0.9,
    )

response = outputs[0][input_ids.shape[-1]:]
print(tokenizer.decode(response, skip_special_tokens=True))

상대방이 처벌을 원하지 않는다는 의사표시를 하면 처벌받지 않을 수는 있습니다. 그러나 만약 상대방이 처벌을 원한다면 100만원 이상의 벌금형이 예상됩니다.
벌금형을 받게 되면 100만원 이상의 금전적 손해와 함께, 범죄경력조회에서 전과기록이 남게 됩니다. 이 후, 경찰, 검찰, 법원의 통보를 받게 되며, 공무원, 교원, 공기업 취업 등이 제한될 수 있습니다.
따라서 상대방과의 원만한 합의를 통해 폭행죄를 인정하지 않고 무혐의로 사건을 종결짓는 것이 최선의 방법입니다. 경찰조사 당시 상대방에게 연락처나 연락할 수 있는 방법을 물어보시고, 필요시 변호사를 통한 중재나 합의를 진행하시기 바랍니다. </질문자님의 댓글이 작성된 곳에 댓글로 도움 되셨으면 합니다. </inish