Spaces:
Sleeping
Sleeping
nguyen1207
commited on
Commit
•
3f1aa29
1
Parent(s):
6136947
update model, remove comment
Browse files
app.py
CHANGED
@@ -9,7 +9,7 @@ from preprocessing import preprocess_pipeline
|
|
9 |
|
10 |
vistral_path = hf_hub_download(
|
11 |
repo_id="nguyen1207/Vistral-7B-MT-GGUF",
|
12 |
-
filename="
|
13 |
resume_download=True,
|
14 |
cache_dir="models",
|
15 |
)
|
@@ -83,15 +83,6 @@ if user_input := st.chat_input(
|
|
83 |
st.markdown(user_input)
|
84 |
|
85 |
with st.chat_message("assistant"):
|
86 |
-
# stream = client.chat.completions.create(
|
87 |
-
# model=st.session_state["openai_model"],
|
88 |
-
# messages=[
|
89 |
-
# {"role": m["role"], "content": m["content"]}
|
90 |
-
# for m in st.session_state.messages
|
91 |
-
# ],
|
92 |
-
# stream=True,
|
93 |
-
# )
|
94 |
-
|
95 |
prompt_template = """<s> [INST] Dịch câu sau từ tiếng Việt sang tiếng Anh:
|
96 |
|
97 |
Tiếng Việt: {} [/INST] """
|
|
|
9 |
|
10 |
vistral_path = hf_hub_download(
|
11 |
repo_id="nguyen1207/Vistral-7B-MT-GGUF",
|
12 |
+
filename="unsloth.Q4_K_M.gguf",
|
13 |
resume_download=True,
|
14 |
cache_dir="models",
|
15 |
)
|
|
|
83 |
st.markdown(user_input)
|
84 |
|
85 |
with st.chat_message("assistant"):
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
86 |
prompt_template = """<s> [INST] Dịch câu sau từ tiếng Việt sang tiếng Anh:
|
87 |
|
88 |
Tiếng Việt: {} [/INST] """
|