📦 UltraData 合集 | 🌐 UltraData | 🤗 MiniCPM5 系列 | 📖 技术报告（即将发布）
English | 中文
## 📚 简介 UltraData-Code 是基于 [UltraData](https://ultradata.openbmb.cn/) [L0-L4 分级治理体系](https://arxiv.org/pdf/2602.09003) 的一次完整实现，覆盖 L0 至 L3 的分级代码数据，各层对应不同的数据构建阶段。流水线从 L0 约 **1.92 亿** 个公开 GitHub 仓库出发；本次发布包含 11 种编程语言上的 **UltraData-Code-L2**（约 **400B tokens**）和 **UltraData-Code-L3**（约 **150B tokens**）。 **L0：仓库归档层。** 从约 1.92 亿个公开 [GitHub](https://github.com/) 仓库中保留默认分支上的最新版本，以及相应的代码、目录结构、文件关系和来源信息，为后续处理提供完整的原始数据和溯源记录。 **L1：规范化自然代码层。** 在 L0 基础上进行规模化过滤清洗、格式规范化和近重复去重。通用规则排除过大文件、无效路径、不支持的文本和明显异常内容。随后根据语言和文件类型执行针对性的质量检查、归一化与内容清理。去重阶段按文件扩展名划分数据分区，使用 MinHash 生成签名并通过 LSH 检索候选近重复文件。相似度边用于构建连通分量。对于包含多个近重复文件的文件组，保留排名靠前的 50%。未发现近重复项的文件全部保留，最终形成标准化的自然代码语料。 **L2：算法相关代码精选层。** 面向 11 种编程语言，从 L1 中筛选算法相关代码（**ALGO**）。系统为每个文件预计算语义 embedding。文件角色标注与语言相关启发式规则共同构成双重监督信号。基于 MLP 的算法相关性分类器学习连续相关性分数，再结合文件角色分类和代码质量阈值完成最终选择。该方法不仅覆盖主要实现算法和数据结构的 ALGO 文件，也能识别 DATA、WEB、TOOL 和 TEST 等其他文件角色中的计算过程与问题求解逻辑。L2 规模约为 **400B tokens**，保留 L1 中约 12.23% 的文件。在相同的 1B 基座模型和 10B-token 持续预训练预算下，L2 相比 L1 在 EvalPlus 和 MultiPL-E 上分别提升 7.80 和 5.13 个百分点，相比 Stack-Edu 分别提升 4.37 和 3.05 个百分点。 **L3：任务导向合成层。** 以 L2 中 ALGO 类别数据为种子，进行任务导向的结构化合成，构造独立任务描述、解题分析、参考实现和测试代码。生成的任务脱离原始代码片段独立成立。分析部分解释算法、边界情况和复杂度。参考实现提供自包含的可执行代码。测试代码验证任务所要求的行为。每个真实实现由此转化为任务、推理、代码和验证相互对齐的结构化训练样本。L3 覆盖 11 种编程语言，规模约为 **150B tokens**。在相同的 1B 基座模型和 10B-token 持续预训练预算下，将一半 L2 训练 token 替换为 L3 后，模型在 EvalPlus 和 MultiPL-E 上较仅使用 L2 的训练分别进一步提升 8.42 和 8.07 个百分点。在相同的 1:1 等 token 配比下，L2-L3 混合训练模型相比 L2 与 CodeAlchemy-code-qa 的混合训练模型，在 EvalPlus 和 MultiPL-E 上分别提升 5.57 和 7.80 个百分点。 ## 📢 最新动态 - **[2026.09.07]** [***UltraData-Code***](https://huggingface.co/datasets/openbmb/UltraData-Code) 数据集正式发布！这是 [UltraData](https://ultradata.openbmb.cn/) [L0-L4 分级治理体系](https://arxiv.org/pdf/2602.09003) 的完整实现，覆盖 L0 至 L3 四个代码数据状态，各层对应不同的数据构建阶段。本次开源 **L2**（约 400B tokens）和 **L3**（约 150B tokens），覆盖 11 种编程语言。🚀🚀🚀 - **[2026.09.07]** ***[MiniCPM5-2B](https://huggingface.co/openbmb/MiniCPM5-2B) 正式发布！*** 作为 MiniCPM5 系列在 MiniCPM5-1B 之后的第二款模型，这是一款沿用同一套训练配方放大的 2B 稠密 Transformer，面向端侧、本地部署与资源受限场景，达到 **2B 级开源 SOTA**，整体可与 4B 级模型竞争，并在代码、数学、长上下文、工具调用与 Agent 任务上相对同规模模型更具优势。UltraData-RL-2609 是 MiniCPM5-2B 的核心 RL 数据。🚀🚀🚀 - **[2026.02.08]** [***UltraData***](https://ultradata.openbmb.cn/) 平台正式上线，并发布 [L0-L4 分级数据管理框架](https://arxiv.org/pdf/2602.09003)。🔍🔍🔍 ## 💡 亮点 > **摘要：** 代码生成是大语言模型的核心能力，代码数据是培养该能力的预训练过程的重要组成部分。随着代码语料规模不断增长，其规模、多样性和质量日益决定模型在预训练中学习到的能力。遵循分级数据治理视角，我们将 **UltraData-Code** 构建为四个相互连接的数据状态：L0 仓库归档、L1 规范化自然代码、L2 算法相关性精选和 L3 面向任务的合成。L0 保留每个公开 GitHub 仓库默认分支的最新版本及其文件结构、文件关系和来源信息。L1 通过规模化过滤、规范化和近重复去重得到标准化自然代码。L2 基于文件角色、语言自适应启发式信号和代码质量约束，从 L1 中筛选算法相关文件，覆盖 11 种编程语言、约 400B tokens。L3 以 L2 中的算法相关文件为基础，将每个实现转换为任务、分析、解答和测试字段对齐的结构化编程练习，覆盖相同的 11 种语言、约 150B tokens。在相同的 1B 模型和 10B-token 持续预训练设置下，使用 L2 替代 L1 后，EvalPlus 的 pass@1 提升 **7.80 个百分点**，MultiPL-E 提升 **5.13 个百分点**，相比 Stack-Edu 分别提升 4.37 和 3.05 个百分点。将一半 L2 训练 token 替换为 L3 后，相比仅使用 L2 的训练，EvalPlus 进一步提升 **8.42 个百分点**，MultiPL-E 进一步提升 **8.07 个百分点**，相比最强的合成数据基线分别提升 5.57 和 7.80 个百分点。 - **完整的代码数据构建流水线：** 将仓库归档和规范化自然代码与细粒度精选、结构化合成连接起来，在 11 种编程语言上分别形成约 400B tokens 的 L2 和约 150B tokens 的 L3。 - **细粒度算法相关代码精选：** 将文件级算法相关性定义为选择目标，结合文件角色线索与语言特定启发式证据，识别超出显式算法实现标签范围的计算内容。 - **面向任务且以实现为基础的合成：** 以每个精选实现作为任务、分析、解答和测试记录的共同来源，在保留计算意图的同时补充任务语义和结构化监督。
