File size: 4,365 Bytes
0694a77 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 |
# CPT (Continual Pre-Training) 数据集
## 数据集概述
本数据集用于 LLaMA-8B 模型的继续预训练（Continual Pre-Training, CPT），旨在让通用大模型适应医疗领域。数据集包含 **200,000 条样本**，按照 **70% 通用语料 + 30% 医疗语料** 的比例混合，覆盖中英文维基百科和医疗专业文本。
## 数据来源与处理
### 1. Wikipedia 英文 (wikimedia/wikipedia)
- **原始数据量**: 6,407,814 条
- **采样数量**: 70,000 条
- **来源**: [wikimedia/wikipedia (20231101.en)](https://huggingface.co/datasets/wikimedia/wikipedia)
- **处理方式**:
- 加载 2023-11-01 版本的英文维基百科
- 仅保留 `text` 字段
- 随机采样 70,000 条（seed=42）
- **用途**: 提供通用领域英文知识
### 2. Wikipedia 中文 (wikimedia/wikipedia)
- **原始数据量**: 1,384,748 条
- **采样数量**: 70,000 条
- **来源**: [wikimedia/wikipedia (20231101.zh)](https://huggingface.co/datasets/wikimedia/wikipedia)
- **处理方式**:
- 加载 2023-11-01 版本的中文维基百科
- 仅保留 `text` 字段
- 随机采样 70,000 条（seed=42）
- **用途**: 提供通用领域中文知识
### 3. 医疗预训练语料 (shibing624/medical)
- **原始数据量**: 361,420 条
- **采样数量**: 60,000 条
- **来源**: [shibing624/medical (pretrain 子集)](https://huggingface.co/datasets/shibing624/medical)
- **子集**: pretrain/train_*.json（本地加载）
- **处理方式**:
- 从本地克隆的 `dataset/medical/pretrain/train_*.json` 文件加载
- 使用 glob 匹配所有 train_*.json 文件
- 仅保留 `text` 字段
- 随机采样 60,000 条（seed=42）
- **用途**: 提供医疗领域专业知识和术语
## 数据格式
每条样本仅包含一个 `text` 字段，用于继续预训练：
```json
{
"text": "文章的完整文本内容..."
}
```
## 数据混合策略
1. **目标分配**: 总样本数 200,000 条，按 70:30 通用/医疗比例分配
2. **通用语料分配**: 70,000 英文 Wiki + 70,000 中文 Wiki = 140,000 条（70%）
3. **医疗语料分配**: 60,000 条医疗文本（30%）
4. **采样**: 对每个数据源使用 `shuffle(seed=42)` 后采样
5. **合并**: 拼接三个数据源
6. **打乱**: 使用 `shuffle(seed=42)` 打乱所有样本
7. **保存**: 保存为 Hugging Face Dataset 格式到 `dataset/cpt_dataset_from_resume`
## 使用示例
```python
from datasets import load_from_disk
# 从本地加载
dataset = load_from_disk("./dataset/cpt_dataset_from_resume")
# 查看样本
print(dataset[0])
print(f"数据集大小: {len(dataset)}")
```
## 数据集统计
| 数据源 | 样本数 | 占比 | 语言 | 特点 |
|--------|--------|------|------|------|
| Wikipedia (英文) | 70,000 | 35.0% | 英文 | 通用领域知识 |
| Wikipedia (中文) | 70,000 | 35.0% | 中文 | 通用领域知识 |
| Medical (医疗) | 60,000 | 30.0% | 中文 | 医疗专业知识 |
| **总计** | **200,000** | **100%** | 中英文 | - |
## 训练建议
1. **训练目标**: 使用 Causal Language Modeling (CLM) 进行继续预训练
2. **学习率**: 建议使用较小的学习率（如 1e-5 ~ 5e-5），避免灾难性遗忘
3. **序列长度**: 根据显存情况设置（如 512, 1024, 2048）
4. **训练轮数**: 1-3 epochs，避免过拟合
5. **领域适应**: CPT 后的模型更适合医疗领域的下游任务（SFT, DPO, PPO）
## 注意事项
1. **领域平衡**: 数据集保持了通用能力（70%）和医疗专业性（30%）的平衡
2. **语言覆盖**: 英文和中文各占 35%，医疗数据为中文
3. **数据质量**: 维基百科数据经过社区审核，医疗数据来自专业医疗问答
4. **适用场景**: 适合作为医疗领域 LLM 的第一阶段训练（CPT → SFT → DPO → PPO）
## 引用
如果使用本数据集，请引用原始数据来源：
```bibtex
@misc{wikipedia,
author = {Wikimedia Foundation},
title = {Wikipedia Dumps},
year = {2023},
url = {https://huggingface.co/datasets/wikimedia/wikipedia}
}
@misc{medical,
author = {Xu Ming},
title = {Medical: Chinese Medical Corpus},
year = {2023},
url = {https://huggingface.co/datasets/shibing624/medical}
}
```
## 许可证
- Wikipedia 数据遵循 [CC BY-SA 3.0](https://creativecommons.org/licenses/by-sa/3.0/) 许可协议
- Medical 数据请查阅原始仓库的许可协议
|