Update README.md
Browse files
README.md
CHANGED
@@ -19,4 +19,65 @@ pipeline_tag: text-generation
|
|
19 |
- 입력: 상품명
|
20 |
- 출력: 생성된 상품설명
|
21 |
|
22 |
-
- 언어: 한국어
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
19 |
- 입력: 상품명
|
20 |
- 출력: 생성된 상품설명
|
21 |
|
22 |
+
- 언어: 한국어
|
23 |
+
|
24 |
+
- 사용방법
|
25 |
+
|
26 |
+
```
|
27 |
+
from transformers import AutoTokenizer, AutoModelForCausalLM
|
28 |
+
|
29 |
+
|
30 |
+
def load_model(model_path):
|
31 |
+
""" ✅ 학습된 모델과 토크나이저 로드 """
|
32 |
+
tokenizer = AutoTokenizer.from_pretrained(model_path)
|
33 |
+
model = AutoModelForCausalLM.from_pretrained(model_path)
|
34 |
+
model.eval()
|
35 |
+
return tokenizer, model
|
36 |
+
|
37 |
+
|
38 |
+
def generate_description(model, tokenizer, product_name, max_length=512):
|
39 |
+
""" ✅ 상품명에 대한 설명을 생성하는 함수 """
|
40 |
+
|
41 |
+
# ✅ EOS 토큰 설정
|
42 |
+
eos_token = tokenizer.eos_token or tokenizer.pad_token or "<|endoftext|>"
|
43 |
+
stop_token_id = tokenizer.eos_token_id or tokenizer.pad_token_id or \
|
44 |
+
tokenizer.encode(eos_token, add_special_tokens=False)[0]
|
45 |
+
|
46 |
+
# ✅ 훈련된 데이터 패턴에 맞춘 프롬프트
|
47 |
+
prompt = f"상품명: {product_name}\n상품 설명: "
|
48 |
+
# ✅ 토큰화 및 입력값 변환
|
49 |
+
inputs = tokenizer(prompt, return_tensors="pt")
|
50 |
+
inputs.pop("token_type_ids", None)
|
51 |
+
|
52 |
+
# ✅ 생성 실행
|
53 |
+
output = model.generate(
|
54 |
+
**inputs,
|
55 |
+
max_new_tokens=max_length,
|
56 |
+
repetition_penalty=1.15, # ✅ 반복 방지
|
57 |
+
temperature=1.0, # ✅ 창의성 조절
|
58 |
+
top_p=0.9, # ✅ 다양한 응답 생성
|
59 |
+
top_k=40, # ✅ 확률적으로 상위 50개 단어 중 선택
|
60 |
+
do_sample=True, # ✅ 샘플링 활성화 (중요!)
|
61 |
+
pad_token_id=stop_token_id, # ✅ 패딩 시 EOS 토큰 적용
|
62 |
+
eos_token_id=stop_token_id, # ✅ EOS 토큰 적용
|
63 |
+
)
|
64 |
+
|
65 |
+
# ✅ 결과 디코딩
|
66 |
+
generated_text = tokenizer.decode(output[0], skip_special_tokens=True)
|
67 |
+
|
68 |
+
return generated_text
|
69 |
+
|
70 |
+
|
71 |
+
if __name__ == "__main__":
|
72 |
+
""" ✅ 메인 실행 함수 """
|
73 |
+
model_path = "UICHEOL-HWANG/EcomGen-0.0.1v" # ✅ 학습된 모델 경로
|
74 |
+
tokenizer, model = load_model(model_path)
|
75 |
+
|
76 |
+
# ✅ 테스트할 상품명 입력
|
77 |
+
product_name = "김갑생할머니김"
|
78 |
+
description = generate_description(model, tokenizer, product_name)
|
79 |
+
|
80 |
+
print("\n=== 생성된 상품 설명 ===\n")
|
81 |
+
print(description)
|
82 |
+
|
83 |
+
```
|