zcy commited on
Commit
d51f182
·
1 Parent(s): b5f988b

docs: 简化术语格式,移除英文括号注释

Browse files
Files changed (1) hide show
  1. README.md +5 -5
README.md CHANGED
@@ -58,9 +58,9 @@ tags:
58
 
59
  L0 阶段主要处理从 Common Crawl 等来源获取的原始网页数据。针对数学网页的特殊性,我们开发了专用的解析策略,而非直接使用通用的 trafilatura 或 readability。
60
 
61
- - **统一解析模式 (Unified Parsing)**:自动识别页面类型,尽可能保证完整内容提取。
62
- - **多级回退策略 (Multi-stage Fallback)**:为了防止解析失败导致数据丢失,我们实施了多级回退机制,确保在结构化解析失败时仍能捕获文本内容。
63
- - **数学公式标准化 (Math Normalization)**:我们将网页中不同的数学表达统一转换为标准的 LaTeX 格式,实现了数据格式的归一化,便于模型统一学习。
64
 
65
  ### L1:启发式清洗与过滤
66
 
@@ -68,10 +68,10 @@ L0 阶段主要处理从 Common Crawl 等来源获取的原始网页数据。针
68
 
69
  在获取了包含完整数学公式的文本后,我们通过一系列启发式规则对 L0 数据进行清洗:
70
 
71
- - **格式修复 (Mapper)**:
72
  - 清理不可见字符、乱码及非自然的连续换行。
73
  - 移除导航栏、页脚、广告弹窗及"阅读更多"等无关网页噪音。
74
- - **内容过滤 (Filter)**:
75
  - *长度过滤*:移除过短的文本片段,这些片段通常缺乏上下文,难以支持有效的数学推理训练。
76
  - *语言识别*:确保数据集主要由高质量的英文及中文数学内容组成。
77
  - *文档去重*:在文档级别进行去重,防止重复内容对模型训练造成偏差。
 
58
 
59
  L0 阶段主要处理从 Common Crawl 等来源获取的原始网页数据。针对数学网页的特殊性,我们开发了专用的解析策略,而非直接使用通用的 trafilatura 或 readability。
60
 
61
+ - **统一解析模式**:自动识别页面类型,尽可能保证完整内容提取。
62
+ - **多级回退策略**:为了防止解析失败导致数据丢失,我们实施了多级回退机制,确保在结构化解析失败时仍能捕获文本内容。
63
+ - **数学公式标准化**:我们将网页中不同的数学表达统一转换为标准的 LaTeX 格式,实现了数据格式的归一化,便于模型统一学习。
64
 
65
  ### L1:启发式清洗与过滤
66
 
 
68
 
69
  在获取了包含完整数学公式的文本后,我们通过一系列启发式规则对 L0 数据进行清洗:
70
 
71
+ - **格式修复**:
72
  - 清理不可见字符、乱码及非自然的连续换行。
73
  - 移除导航栏、页脚、广告弹窗及"阅读更多"等无关网页噪音。
74
+ - **内容过滤**:
75
  - *长度过滤*:移除过短的文本片段,这些片段通常缺乏上下文,难以支持有效的数学推理训练。
76
  - *语言识别*:确保数据集主要由高质量的英文及中文数学内容组成。
77
  - *文档去重*:在文档级别进行去重,防止重复内容对模型训练造成偏差。