Cran-May commited on
Commit
ebe5c03
·
1 Parent(s): 6a51754

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +3 -3
app.py CHANGED
@@ -42,8 +42,8 @@ def get_system_tokens(model):
42
  return get_message_tokens(model, **system_message)
43
 
44
 
45
- repo_name = "mmnga/japanese-stablelm-3b-4e1t-instruct-gguf"
46
- model_name = "japanese-stablelm-3b-4e1t-instruct-q3_K_S.gguf"
47
 
48
  snapshot_download(repo_id=repo_name, local_dir=".", allow_patterns=model_name)
49
 
@@ -104,7 +104,7 @@ with gr.Blocks(
104
  ) as demo:
105
  gr.Markdown(f"""<h1><center>上师附外-安风-人工智能助理</center></h1>""")
106
  gr.Markdown(value="""这儿是一个模型的部署。
107
- 这是量化版安风的部署,具有 30亿 个参数,在 CPU 上运行。
108
  Ventipacifier 是一种会话语言模型,在多种类型的语料库上进行训练。
109
  本节目由上海师范大学附属外国语中学 NLPark 赞助播出""")
110
 
 
42
  return get_message_tokens(model, **system_message)
43
 
44
 
45
+ repo_name = "s3nh/PY007-TinyLlama-1.1B-Chat-v0.2-GGUF"
46
+ model_name = "PY007-TinyLlama-1.1B-Chat-v0.2.Q4_K_S.gguf"
47
 
48
  snapshot_download(repo_id=repo_name, local_dir=".", allow_patterns=model_name)
49
 
 
104
  ) as demo:
105
  gr.Markdown(f"""<h1><center>上师附外-安风-人工智能助理</center></h1>""")
106
  gr.Markdown(value="""这儿是一个模型的部署。
107
+ 这是量化版安风的部署,具有 11亿 个参数,在 CPU 上运行。
108
  Ventipacifier 是一种会话语言模型,在多种类型的语料库上进行训练。
109
  本节目由上海师范大学附属外国语中学 NLPark 赞助播出""")
110