yusufcakmak commited on
Commit
7c3a08f
1 Parent(s): c64c805

Updated code snippet

Browse files
Files changed (1) hide show
  1. README.md +12 -16
README.md CHANGED
@@ -35,24 +35,20 @@ terminators = [
35
  sampling_params = dict(do_sample=True, temperature=0.3, top_k=50, top_p=0.9, repetition_penalty=1.1)
36
  DEFAULT_SYSTEM_PROMPT = "Sen yardımsever bir asistansın ve sana verilen talimatlar doğrultusunda en iyi cevabı üretmeye çalışacaksın."
37
 
38
- def generate_output(user_query, sys_prompt=DEFAULT_SYSTEM_PROMPT):
39
- messages = [
40
- {"role": "system", "content": sys_prompt},
41
- {"role": "user", "content": user_query}
42
- ]
43
-
44
- outputs = pipe(
45
- messages,
46
- max_new_tokens=1024,
47
- eos_token_id=terminators,
48
- return_full_text=False,
49
- **sampling_params
50
- )
51
 
52
- return outputs[0]["generated_text"]
 
 
 
 
 
 
53
 
54
- response = generate_output("Türkiye'de kaç il var?")
55
- print(response)
56
  ```
57
 
58
  ## Limitations, Risks, Bias, and Ethical Considerations
 
35
  sampling_params = dict(do_sample=True, temperature=0.3, top_k=50, top_p=0.9, repetition_penalty=1.1)
36
  DEFAULT_SYSTEM_PROMPT = "Sen yardımsever bir asistansın ve sana verilen talimatlar doğrultusunda en iyi cevabı üretmeye çalışacaksın."
37
 
38
+ messages = [
39
+ {"role": "system", "content": DEFAULT_SYSTEM_PROMPT},
40
+ {"role": "user", "content": "Türkiye'de kaç il var?"}
41
+ ]
 
 
 
 
 
 
 
 
 
42
 
43
+ outputs = pipe(
44
+ messages,
45
+ max_new_tokens=1024,
46
+ eos_token_id=terminators,
47
+ return_full_text=False,
48
+ **sampling_params
49
+ )
50
 
51
+ print(outputs[0]["generated_text"])
 
52
  ```
53
 
54
  ## Limitations, Risks, Bias, and Ethical Considerations