Upload app.py

app.py

@@ -23,8 +23,8 @@ model_name = "fb700/chatglm-fitness-RLHF"
 RETRY_FLAG = False
 
 tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
-model = AutoModel.from_pretrained(model_name, trust_remote_code=True).quantize(8).half().cuda()
-#model = AutoModel.from_pretrained(model_name, trust_remote_code=True).half().cuda()
+#model = AutoModel.from_pretrained(model_name, trust_remote_code=True).quantize(4).half().cuda()
+model = AutoModel.from_pretrained(model_name, trust_remote_code=True).half().cuda()
 model = model.eval()
 
 _ = """Override Chatbot.postprocess"""
@@ -232,98 +232,99 @@ def textadventure(
     
 mindmapins = """ 
     "instruction": "现在你是一个分析师，你需要按照要求将我给你的主题以markmap代码生成足够深度以包含尽量多主要细节的思维导图。学习下面的里面的知识来完成分析。如果通过的学习找不到答案，只需说你不知道。请不要编造答案。",
-    "input": 
+    "input":
     "
-    用户问题： 学习英语
+    用户问题：学习英语
     答案：
     "
+    下面是是Bofan帛凡AI为你生成的MarkDown格式思维导图源码
     # 学习英语
     ## 听力训练
-    * 听力技巧
-        + 集中注意力
-        + 听取关键词
-        + 理解句子结构
-        + 预测对话内容
-    * 听力材料
-        + 英语新闻
-            - 新闻内容
-            - 新闻结构
-            - 新闻时间
-        + 英语电影
-            - 电影内容
-            - 电影结构
-            - 电影时间
-        + 英语歌曲
-            - 歌曲内容
-            - 歌曲结构
-            - 歌曲时间
+    听力技巧
+    + 集中注意力
+    + 听取关键词
+    + 理解句子结构
+    + 预测对话内容
+    听力材料
+    + 英语新闻
+    - 新闻内容
+    - 新闻结构
+    - 新闻时间
+    + 英语电影
+    - 电影内容
+    - 电影结构
+    - 电影时间
+    + 英语歌曲
+    - 歌曲内容
+    - 歌曲结构
+    - 歌曲时间
     ## 阅读训练
-    * 阅读技巧
-        + 阅读顺序
-        + 阅读材料分类
-        + 阅读策略
-        + 阅读时间控制
-    * 阅读材料
-        + 英语新闻
-            - 新闻主题
-            - 新闻时间
-            - 新闻内容
-        + 英语小说
-            - 小说主题
-            - 小说时间
-            - 小说内容
-        + 英语散文
-            - 散文主题
-            - 散文时间
-            - 散文内容
-        + 英语学术论文
-            - 论文主题
-            - 论文时间
-            - 论文内容
-        + 英语杂志
-            - 杂志主题
-            - 杂志时间
-            - 杂志内容
+    阅读技巧
+    + 阅读顺序
+    + 阅读材料分类
+    + 阅读策略
+    + 阅读时间控制
+    阅读材料
+    + 英语新闻
+    - 新闻主题
+    - 新闻时间
+    - 新闻内容
+    + 英语小说
+    - 小说主题
+    - 小说时间
+    - 小说内容
+    + 英语散文
+    - 散文主题
+    - 散文时间
+    - 散文内容
+    + 英语学术论文
+    - 论文主题
+    - 论文时间
+    - 论文内容
+    + 英语杂志
+    - 杂志主题
+    - 杂志时间
+    - 杂志内容
     ## 写作训练
-    * 写作技巧
-        + 写作顺序
-        + 写作材料分类
-        + 写作策略
-        + 写作时间控制
-    * 写作材料
-        + 英语作文
-            - 作文主题
-            - 作文时间
-            - 作文内容
-        + 英语日记
-            - 日记主题
-            - 日记时间
-            - 日记内容
-        + 英语文章
-            - 文章主题
-            - 文章时间
-            - 文章内容
-        + 英语演讲
-            - 演讲主题
-            - 演讲时间
-            - 演讲内容
-        + 英语文章
-            - 文章主题
-            - 文章时间
-            - 文章内容
-        + 英语论文
-            - 论文主题
-            - 论文时间
-            - 论文内容
-        + 英语杂志
-            - 杂志主题
-            - 杂志时间
-            - 杂志内容
+    写作技巧
+    + 写作顺序
+    + 写作材料分类
+    + 写作策略
+    + 写作时间控制
+    写作材料
+    + 英语作文
+    - 作文主题
+    - 作文时间
+    - 作文内容
+    + 英语日记
+    - 日记主题
+    - 日记时间
+    - 日记内容
+    + 英语文章
+    - 文章主题
+    - 文章时间
+    - 文章内容
+    + 英语演讲
+    - 演讲主题
+    - 演讲时间
+    - 演讲内容
+    + 英语文章
+    - 文章主题
+    - 文章时间
+    - 文章内容
+    + 英语论文
+    - 论文主题
+    - 论文时间
+    - 论文内容
+    + 英语杂志
+    - 杂志主题
+    - 杂志时间
+    - 杂志内容
     "
     请复制内容至https://markmap.js.org/repl 进行思维导图生成
     "，
-    用户问题:    
-    """
+    用户问题：
+"""
     
 def mindmap(
     user_input, chatbot, max_length, top_p, temperature, history, past_key_values
@@ -337,8 +338,8 @@ def mindmap(
         user_input,
         chatbot,
         max_length,
-        top_p=0.7,
-        temperature=0.5,
+        top_p=0.2,
+        temperature=0.8,
         history=[],        
         past_key_values=None,
     )