|
--- |
|
library_name: adapter-transformers |
|
pipeline_tag: question-answering |
|
--- |
|
|
|
## IvyGPT 常春藤医疗大模型💊 产生最贴近真实医生问诊效果的医疗大语言模型 |
|
|
|
近期在通用领域中出现的大语言模型（LLMs），例如ChatGPT，在遵循指令和产生类人响应方面表现出了显著的成功。然而，这样的大型语言模型并没有被广泛应用于医学领域，导致响应的准确性较差，无法提供关于医学诊断、药物等合理的建议。为了应对这一挑战，我们提出了IvyGPT，这是一个医疗大语言模型，它在高质量的医学问答数据上进行了监督微调，并使用人类反馈的强化学习进行了训练。该项目的特性包括： |
|
|
|
1. 🍦支持在医疗问答LLM上全流程训练：监督训练、奖励模型、强化学习 (RLHF)； |
|
2. 🏵️多微调方法支持：LoRA、QLoRA等； |
|
3. 🥄高效智能的数据集制作工具：奖励模型训练数据集生成工具-Rank Dataset Generator、监督训练数据集生成工具-Instruction Dataset Generator； |
|
4. 🧽超30万高质量医患对话数据集用于支持训练； |
|
|
|
在这里我们不仅关注IvyGPT项目本身，我们还深入到开源社区中，持续的关注各位开发者关于医疗LLM的开发动态，我们对许多的工作表示惊叹。如： |
|
- **英文**医疗LLM领域：[ChatDoctor](https://github.com/Kent0n-Li/ChatDoctor)、[PMC-LLaMA](https://github.com/chaoyi-wu/PMC-LLaMA)、[medAlpaca](https://github.com/kbressem/medAlpaca)； |
|
- **中文**医疗LLM领域：[ChatMed](https://github.com/michael-wzhu/ChatMed)、[Med-ChatGLM](https://github.com/SCIR-HI/Med-ChatGLM)、[Huatuo-Llama-Med-Chinese](https://github.com/SCIR-HI/Huatuo-Llama-Med-Chinese)、[DoctorGLM](https://github.com/xionghonglin/DoctorGLM)、[MedicalGPT-zh](https://github.com/MediaBrain-SJTU/MedicalGPT-zh)、[QiZhenGPT](https://github.com/CMKRG/QiZhenGPT)、[BianQue](https://github.com/scutcyr/BianQue)、[MedicalGPT](https://github.com/shibing624/MedicalGPT)、[LLM-Pretrain-FineTune](https://github.com/X-jun-0130/LLM-Pretrain-FineTune)； |
|
|
|
关于常春藤： |
|
|
|
1. 常春藤是一种常见的攀援植物，其拉丁学名为Hedera helix。常春藤的叶子呈现出深绿色，具有闪亮的光泽，常被用作装饰植物。此外，常春藤在医学领域也有其应用，其叶子中含有一些活性成分，可以用于治疗一些疾病。例如，常春藤可以用于治疗呼吸道疾病、消化系统疾病、皮肤病等。此外，常春藤还具有镇静、镇痛、抗炎等作用，可以用于缓解焦虑、失眠、疼痛等症状。 |
|
2. 常春藤是一种常绿的攀援植物，它的寓意在医学上也很美好。常春藤的攀爬和延伸象征着医学的不断发展和进步，它的常绿象征着医学的持久不变和永恒的价值。此外，常春藤还有着坚韧、适应力强等特点，这也是医学工作者所需要具备的品质。因此，常春藤在医学上被赋予了积极向上的寓意，它象征着医学工作者不断追求进步和创新的精神。 |
|
3. 常春藤在医院患者身上也有着美好的寓意。常春藤的攀爬和延伸象征着患者的希望和努力，他们在疾病的折磨下仍然坚强地向前迈进，不断寻求治疗和康复的方法。常春藤的常绿象征着患者们的生命力和坚韧不拔，他们在面对疾病时不会轻易放弃，而是坚持不懈地与疾病作斗争。因此，常春藤在医院患者身上也被赋予了积极向上的寓意，它象征着患者们对生命的热爱和追求，以及对未来的信心和希望。 |
|
|
|
4. ## 关于本开源模型 |
|
|
|
5. 本模型基于ChatGLM2训练而来，面向个人及中小企业用户使用。 |
|
|
|
6. ## 如果您觉得此项目有帮助，请引用 |
|
|
|
```bibtex |
|
@Misc{IvyGPT, |
|
title = {IvyGPT}, |
|
author = {wangrongsheng, Tao Tan}, |
|
howpublished = {\url{https://github.com/wangrongsheng/IvyGPT}}, |
|
year = {2023} |
|
} |
|
``` |
