| # CPT (Continual Pre-Training) 数据集 | |
| ## 数据集概述 | |
| 本数据集用于 LLaMA-8B 模型的继续预训练（Continual Pre-Training, CPT），旨在让通用大模型适应医疗领域。数据集包含 **200,000 条样本**，按照 **70% 通用语料 + 30% 医疗语料** 的比例混合，覆盖中英文维基百科和医疗专业文本。 | |
| ## 数据来源与处理 | |
| ### 1. Wikipedia 英文 (wikimedia/wikipedia) | |
| - **原始数据量**: 6,407,814 条 | |
| - **采样数量**: 70,000 条 | |
| - **来源**: [wikimedia/wikipedia (20231101.en)](https://huggingface.co/datasets/wikimedia/wikipedia) | |
| - **处理方式**: | |
| - 加载 2023-11-01 版本的英文维基百科 | |
| - 仅保留 `text` 字段 | |
| - 随机采样 70,000 条（seed=42） | |
| - **用途**: 提供通用领域英文知识 | |
| ### 2. Wikipedia 中文 (wikimedia/wikipedia) | |
| - **原始数据量**: 1,384,748 条 | |
| - **采样数量**: 70,000 条 | |
| - **来源**: [wikimedia/wikipedia (20231101.zh)](https://huggingface.co/datasets/wikimedia/wikipedia) | |
| - **处理方式**: | |
| - 加载 2023-11-01 版本的中文维基百科 | |
| - 仅保留 `text` 字段 | |
| - 随机采样 70,000 条（seed=42） | |
| - **用途**: 提供通用领域中文知识 | |
| ### 3. 医疗预训练语料 (shibing624/medical) | |
| - **原始数据量**: 361,420 条 | |
| - **采样数量**: 60,000 条 | |
| - **来源**: [shibing624/medical (pretrain 子集)](https://huggingface.co/datasets/shibing624/medical) | |
| - **子集**: pretrain/train_*.json（本地加载） | |
| - **处理方式**: | |
| - 从本地克隆的 `dataset/medical/pretrain/train_*.json` 文件加载 | |
| - 使用 glob 匹配所有 train_*.json 文件 | |
| - 仅保留 `text` 字段 | |
| - 随机采样 60,000 条（seed=42） | |
| - **用途**: 提供医疗领域专业知识和术语 | |
| ## 数据格式 | |
| 每条样本仅包含一个 `text` 字段，用于继续预训练： | |
| ```json | |
| { | |
| "text": "文章的完整文本内容..." | |
| } | |
| ``` | |
| ## 数据混合策略 | |
| 1. **目标分配**: 总样本数 200,000 条，按 70:30 通用/医疗比例分配 | |
| 2. **通用语料分配**: 70,000 英文 Wiki + 70,000 中文 Wiki = 140,000 条（70%） | |
| 3. **医疗语料分配**: 60,000 条医疗文本（30%） | |
| 4. **采样**: 对每个数据源使用 `shuffle(seed=42)` 后采样 | |
| 5. **合并**: 拼接三个数据源 | |
| 6. **打乱**: 使用 `shuffle(seed=42)` 打乱所有样本 | |
| 7. **保存**: 保存为 Hugging Face Dataset 格式到 `dataset/cpt_dataset_from_resume` | |
| ## 使用示例 | |
| ```python | |
| from datasets import load_from_disk | |
| # 从本地加载 | |
| dataset = load_from_disk("./dataset/cpt_dataset_from_resume") | |
| # 查看样本 | |
| print(dataset[0]) | |
| print(f"数据集大小: {len(dataset)}") | |
| ``` | |
| ## 数据集统计 | |
| | 数据源 | 样本数 | 占比 | 语言 | 特点 | | |
| |--------|--------|------|------|------| | |
| | Wikipedia (英文) | 70,000 | 35.0% | 英文 | 通用领域知识 | | |
| | Wikipedia (中文) | 70,000 | 35.0% | 中文 | 通用领域知识 | | |
| | Medical (医疗) | 60,000 | 30.0% | 中文 | 医疗专业知识 | | |
| | **总计** | **200,000** | **100%** | 中英文 | - | | |
| ## 训练建议 | |
| 1. **训练目标**: 使用 Causal Language Modeling (CLM) 进行继续预训练 | |
| 2. **学习率**: 建议使用较小的学习率（如 1e-5 ~ 5e-5），避免灾难性遗忘 | |
| 3. **序列长度**: 根据显存情况设置（如 512, 1024, 2048） | |
| 4. **训练轮数**: 1-3 epochs，避免过拟合 | |
| 5. **领域适应**: CPT 后的模型更适合医疗领域的下游任务（SFT, DPO, PPO） | |
| ## 注意事项 | |
| 1. **领域平衡**: 数据集保持了通用能力（70%）和医疗专业性（30%）的平衡 | |
| 2. **语言覆盖**: 英文和中文各占 35%，医疗数据为中文 | |
| 3. **数据质量**: 维基百科数据经过社区审核，医疗数据来自专业医疗问答 | |
| 4. **适用场景**: 适合作为医疗领域 LLM 的第一阶段训练（CPT → SFT → DPO → PPO） | |
| ## 引用 | |
| 如果使用本数据集，请引用原始数据来源： | |
| ```bibtex | |
| @misc{wikipedia, | |
| author = {Wikimedia Foundation}, | |
| title = {Wikipedia Dumps}, | |
| year = {2023}, | |
| url = {https://huggingface.co/datasets/wikimedia/wikipedia} | |
| } | |
| @misc{medical, | |
| author = {Xu Ming}, | |
| title = {Medical: Chinese Medical Corpus}, | |
| year = {2023}, | |
| url = {https://huggingface.co/datasets/shibing624/medical} | |
| } | |
| ``` | |
| ## 许可证 | |
| - Wikipedia 数据遵循 [CC BY-SA 3.0](https://creativecommons.org/licenses/by-sa/3.0/) 许可协议 | |
| - Medical 数据请查阅原始仓库的许可协议 | |