医疗大语言模型：CareGPT

CareGPT (关怀GPT)是一个医疗大语言模型，同时它集合了数十个公开可用的医疗微调数据集和开放可用的医疗大语言模型，包含LLM的训练、测评、部署等以促进医疗LLM快速发展。

特性：

1. 添加ChatGPT fine-tuning实现，推荐有额度的朋友在ChatGPT上进行微调实验；
2. 支持ChatGPT-Next-Web部署微调的模型；
3. 支持Gradio部署微调的模型；
4. 支持LLaMA、LLaMA-2全系列模型训练；
5. 支持LoRA、QLoRA，包括后续PPO、DPO强化学习训练；
6. 支持模型与知识库结合问答；
7. 开源了超过60个医院科室的导诊材料信息；
8. 开发了支持GPT-4/ChatGPT模型蒸馏医学数据的工具，能够批量生成各种用于构建知识库和微调的数据；
9. 聚合了丰富的开源医学LLM、LLM训练的医学数据、LLM部署资料、LLM测评以及相关LLM的资源整理；
10. 我们参与了医学LLM的CMB榜单评测-IvyGPT，在测试中，我们领先ChatGPT及一众开源医学LLM

数据集

预训练数据

• LLM-Pretrain-FineTune/data_pretrain
• MedicalGPT/pretrain
• zysj
• TCM-Ancient-Books (近700项中医药古籍文本)
• epfl-llm/guidelines

监督训练数据

• icliniq-10k(en)
• HealthCareMagic-100k(en)
• ShenNong_TCM_Dataset
• ✅ChatMed_Consult_Dataset
• Chinese-medical-dialogue-data
• cMedQA2
• ✅Huatuo-26M
• cMedQA2
• webMedQA
• PubMedQA
• CMCQA
• ✅QiZhenGPT
• ✅LLM-Pretrain-FineTune/data_sft
• Medical-Dialogue-System
• IMCS-V2
• CHIP-MDCFNPC
• MedDG
• ✅HuatuoGPT-sft-data-v1
• MedicalGPT/finetune
• ✅shibing624/medical
• medAlpaca/data
• ✅Zhongjing/sft
• medical_dialog
• huatuo_encyclopedia_qa
• Med-ChatGLM/data
• CMB
• GenMedGPT-5k(en)
• Alpaca-CoT(general)
• ✅DISC-Med-SFT
• ✅HuatuoGPT2_sft_instruct
• FreedomIntelligence/Medbase_data
• openmedlab/Awesome-Medical-Dataset

奖励训练数据

• MedicalGPT/reward
• Zhongjing/rw
• comparison_gpt4_data
• HH-RLHF
• UltraFeedback

项目地址:

关注微信公众号 datayx 然后回复 caregpt 即可获取。

全流程训练

1.安装依赖

conda create -n llm python=3.11
conda activate llm
python -m pip install -r requirements.txt

LLaMA模型下载：https://blog.csdn.net/u014297502/article/details/129829677# 转为HF格式
python -m transformers.models.llama.convert_llama_weights_to_hf \
--input_dir path_to_llama_weights--model_size 7B --output_dir path_to_llama_model

• LLaMA-2模型下载：https://huggingface.co/meta-llama

2.数据配置

数据集配置、PT、SFT、RW数据格式

dataset_info

如果您使用自定义数据集，请务必在 dataset_info.json 文件中以如下格式提供您的数据集定义。

其中 prompt 和 response 列应当是非空的字符串。query 列的内容将会和 prompt 列拼接作为模型输入。history 列应当是一个列表，其中每个元素是一个字符串二元组，分别代表用户请求和模型答复。

PT example data

.txt格式，一行一个无监督数据。

Machine learning (ML) is a field devoted to understanding and building methods that let machines "learn" – that is, methods that leverage data to improve computer performance on some set of tasks.

Machine learning algorithms build a model based on sample data, known as training data, in order to make predictions or decisions without being explicitly programmed to do so. Machine learning algorithms are used in a wide variety of applications, such as in medicine, email filtering, speech recognition, agriculture, and computer vision, where it is difficult or unfeasible to develop conventional algorithms to perform the needed tasks.