nguyen1207 commited on
Commit
3f1aa29
1 Parent(s): 6136947

update model, remove comment

Browse files
Files changed (1) hide show
  1. app.py +1 -10
app.py CHANGED
@@ -9,7 +9,7 @@ from preprocessing import preprocess_pipeline
9
 
10
  vistral_path = hf_hub_download(
11
  repo_id="nguyen1207/Vistral-7B-MT-GGUF",
12
- filename="vistral-7b-mt.Q4_K_M.gguf",
13
  resume_download=True,
14
  cache_dir="models",
15
  )
@@ -83,15 +83,6 @@ if user_input := st.chat_input(
83
  st.markdown(user_input)
84
 
85
  with st.chat_message("assistant"):
86
- # stream = client.chat.completions.create(
87
- # model=st.session_state["openai_model"],
88
- # messages=[
89
- # {"role": m["role"], "content": m["content"]}
90
- # for m in st.session_state.messages
91
- # ],
92
- # stream=True,
93
- # )
94
-
95
  prompt_template = """<s> [INST] Dịch câu sau từ tiếng Việt sang tiếng Anh:
96
 
97
  Tiếng Việt: {} [/INST] """
 
9
 
10
  vistral_path = hf_hub_download(
11
  repo_id="nguyen1207/Vistral-7B-MT-GGUF",
12
+ filename="unsloth.Q4_K_M.gguf",
13
  resume_download=True,
14
  cache_dir="models",
15
  )
 
83
  st.markdown(user_input)
84
 
85
  with st.chat_message("assistant"):
 
 
 
 
 
 
 
 
 
86
  prompt_template = """<s> [INST] Dịch câu sau từ tiếng Việt sang tiếng Anh:
87
 
88
  Tiếng Việt: {} [/INST] """