Datasets:
zcy
commited on
Commit
·
d51f182
1
Parent(s):
b5f988b
docs: 简化术语格式,移除英文括号注释
Browse files
README.md
CHANGED
|
@@ -58,9 +58,9 @@ tags:
|
|
| 58 |
|
| 59 |
L0 阶段主要处理从 Common Crawl 等来源获取的原始网页数据。针对数学网页的特殊性,我们开发了专用的解析策略,而非直接使用通用的 trafilatura 或 readability。
|
| 60 |
|
| 61 |
-
-
|
| 62 |
-
-
|
| 63 |
-
-
|
| 64 |
|
| 65 |
### L1:启发式清洗与过滤
|
| 66 |
|
|
@@ -68,10 +68,10 @@ L0 阶段主要处理从 Common Crawl 等来源获取的原始网页数据。针
|
|
| 68 |
|
| 69 |
在获取了包含完整数学公式的文本后,我们通过一系列启发式规则对 L0 数据进行清洗:
|
| 70 |
|
| 71 |
-
-
|
| 72 |
- 清理不可见字符、乱码及非自然的连续换行。
|
| 73 |
- 移除导航栏、页脚、广告弹窗及"阅读更多"等无关网页噪音。
|
| 74 |
-
-
|
| 75 |
- *长度过滤*:移除过短的文本片段,这些片段通常缺乏上下文,难以支持有效的数学推理训练。
|
| 76 |
- *语言识别*:确保数据集主要由高质量的英文及中文数学内容组成。
|
| 77 |
- *文档去重*:在文档级别进行去重,防止重复内容对模型训练造成偏差。
|
|
|
|
| 58 |
|
| 59 |
L0 阶段主要处理从 Common Crawl 等来源获取的原始网页数据。针对数学网页的特殊性,我们开发了专用的解析策略,而非直接使用通用的 trafilatura 或 readability。
|
| 60 |
|
| 61 |
+
- **统一解析模式**:自动识别页面类型,尽可能保证完整内容提取。
|
| 62 |
+
- **多级回退策略**:为了防止解析失败导致数据丢失,我们实施了多级回退机制,确保在结构化解析失败时仍能捕获文本内容。
|
| 63 |
+
- **数学公式标准化**:我们将网页中不同的数学表达统一转换为标准的 LaTeX 格式,实现了数据格式的归一化,便于模型统一学习。
|
| 64 |
|
| 65 |
### L1:启发式清洗与过滤
|
| 66 |
|
|
|
|
| 68 |
|
| 69 |
在获取了包含完整数学公式的文本后,我们通过一系列启发式规则对 L0 数据进行清洗:
|
| 70 |
|
| 71 |
+
- **格式修复**:
|
| 72 |
- 清理不可见字符、乱码及非自然的连续换行。
|
| 73 |
- 移除导航栏、页脚、广告弹窗及"阅读更多"等无关网页噪音。
|
| 74 |
+
- **内容过滤**:
|
| 75 |
- *长度过滤*:移除过短的文本片段,这些片段通常缺乏上下文,难以支持有效的数学推理训练。
|
| 76 |
- *语言识别*:确保数据集主要由高质量的英文及中文数学内容组成。
|
| 77 |
- *文档去重*:在文档级别进行去重,防止重复内容对模型训练造成偏差。
|