CongMa / docs /CHANGELOG.md
XuBailing's picture
Upload 124 files
41ad9d7
|
raw
history blame
2.26 kB

变更日志

[2023/04/15]

  1. 重构项目结构,在根目录下保留命令行 Demo cli_demo.py 和 Web UI Demo webui.py
  2. 对 Web UI 进行改进,修改为运行 Web UI 后首先按照 configs/model_config.py 默认选项加载模型,并增加报错提示信息等;
  3. 对常见问题进行补充说明。

[2023/04/12]

  1. 替换 Web UI 中的样例文件,避免出现 Ubuntu 中出现因文件编码无法读取的问题;
  2. 替换knowledge_based_chatglm.py中的 prompt 模版,避免出现因 prompt 模版包含中英双语导致 chatglm 返回内容错乱的问题。

[2023/04/11]

  1. 加入 Web UI V0.1 版本(感谢 @liangtongt);
  2. README.md中增加常见问题(感谢 @calcitem@bolongliu);
  3. 增加 LLM 和 Embedding 模型运行设备是否可用cudampscpu的自动判断。
  4. knowledge_based_chatglm.py中增加对filepath的判断,在之前支持单个文件导入的基础上,现支持单个文件夹路径作为输入,输入后将会遍历文件夹中各个文件,并在命令行中显示每个文件是否成功加载。

[2023/04/09]

  1. 使用langchain中的RetrievalQA替代之前选用的ChatVectorDBChain,替换后可以有效减少提问 2-3 次后因显存不足而停止运行的问题;
  2. knowledge_based_chatglm.py中增加EMBEDDING_MODELVECTOR_SEARCH_TOP_KLLM_MODELLLM_HISTORY_LENREPLY_WITH_SOURCE参数值设置;
  3. 增加 GPU 显存需求更小的chatglm-6b-int4chatglm-6b-int4-qe作为 LLM 模型备选项;
  4. 更正README.md中的代码错误(感谢 @calcitem)。

[2023/04/07]

  1. 解决加载 ChatGLM 模型时发生显存占用为双倍的问题 (感谢 @suc16@myml) ;
  2. 新增清理显存机制;
  3. 新增nghuyong/ernie-3.0-nano-zhnghuyong/ernie-3.0-base-zh作为 Embedding 模型备选项,相比GanymedeNil/text2vec-large-chinese占用显存资源更少 (感谢 @lastrei)。