AudioCC-Lab/Emilia_ERT

Emilia_complete：音频 TAR + 单一 SCP

本版本仅包含本地 Emilia_complete 的六语言全量音频，共 9,310,186 条。 未应用中英文严格筛选清单，不包含 Emilia-YODAS 或其他数据集。 complete 是本地目录名，不代表完整覆盖上游 Emilia。

emilia_complete_scp_release/
├── audio/                 # 666 个原始 TAR 分片
│   ├── DE-B000000.tar
│   ├── EN-B000000.tar
│   └── ...
├── metrics.scp            # 唯一 SCP，含表头及全部六语言记录
├── dataset_statistics.json
├── SHA256SUMS             # metrics.scp 的 SHA-256
├── LICENSE
└── README.md

metrics.scp 是 UTF-8、TAB 分隔的 34 列文本表。所有原始字段、列顺序和数值 字符串均保留，只将 path 改成相对于本目录的音频位置：

audio/DE-B000000.tar:512:154989

含义依次是：TAR 相对路径 : 音频内容起始字节偏移 : 音频内容字节数。 偏移指向 MP3 内容，不是 TAR 文件头；读取指定长度即可取得完整编码音频。 TAR 内保留原有数字文件名，音频的原始 Emilia ID 由 SCP 的 uid 列给出。

字段

datasets uid fs path length(s) silerovad webrtcvad transcript confidence
dnsmos scoreq squim_pesq squim_sisdr squim_stoi srmr vqscore wadasnr
distillmos utmos dnsmos_pro nisqa sigmos_ovrl sigmos_col sigmos_disc
sigmos_loud sigmos_noise sigmos_reverb sigmos_sig ced flexsed panns beats
speaker_count overlap_ratio

上面为便于阅读以空格换行展示，实际 SCP 使用 TAB 分隔。 datasets 均为 Emilia_complete；fs 为原清单采样率，length(s) 为已有时长， transcript 为已有转写。其余指标沿用源表，不重新计算、不改精度、不推测模型版本。 保留指标字符串中的原始空值或其他标记；标注存在不等于经过人工确认。

读取示例

该 SCP 需要按表解析，不能直接使用空白字符 split()，因为转写中可能含空格。

import csv
from pathlib import Path

root = Path("/path/to/emilia_complete_scp_release")
with (root / "metrics.scp").open(encoding="utf-8", newline="") as f:
    rows = csv.DictReader(f, delimiter="\t", quoting=csv.QUOTE_NONE)
    row = next(rows)

relative, offset, size = row["path"].rsplit(":", 2)
with (root / relative).open("rb") as f:
    f.seek(int(offset))
    audio_bytes = f.read(int(size))
assert len(audio_bytes) == int(size)
print(row["uid"], row["transcript"], row["dnsmos"])

# 可选：解码 MP3
# import io, soundfile as sf
# waveform, sample_rate = sf.read(io.BytesIO(audio_bytes))

发布到 Hugging Face 后，下载该目录即可按以上方式使用。Hub 的普通 WebDataset 加载器可以读取 TAR 音频，但不会自动将这个自定义 SCP 的 34 列与音频合并。 完整转写和指标请按 SCP 的路径、偏移及长度读取，不要把 TAR 内的数字名当作原始 UID。 如果需要音频和 JSON 标注原生配对的 WebDataset，可使用此前另行整理的版本。

整理与核对

• 六语言原始清单逐条核对 UID、采样率和原始路径/偏移/长度。
• 合并原 metrics_dataset 当前六个 SCP 中 datasets == Emilia_complete 的记录。
• 一条 UID 只允许出现一次，要求所有音频清单记录都有对应 SCP 行。
• 完整回读输出 SCP，核对 34 列、行数、路径存在性、偏移边界和文件 SHA-256。
• 音频不重采样、不转码、不解包重写。服务器上的 TAR 使用原始 TAR 的硬链接， 避免重复占用音频空间；应视为只读。如需修改 TAR，请先创建独立副本。 上传到 Hub 时会上传普通文件内容，不依赖服务器硬链接关系。

本次只整理存储布局；未额外进行全量音频解码、内容审查或评分。 此前原生 WebDataset 整理已完整验证原始 TAR 成员与清单偏移、长度及音频内容。

来源与许可

来源：原版 Emilia。 上游对原版 Emilia 指定 CC BY-NC 4.0，并有额外访问条款；本数据不适用 Emilia-YODAS 的 CC BY 4.0。权利归 Emilia 作者及原始录音权利人，未暗示上游认可本版本。 本地筛选历史、上游下载版本和逐条再分发授权没有在现有清单中完整记录。 技术格式整理不等于公开再分发授权已经确认；公开上传前须核实适用条款及授权。 本次整理未创建 Hub 仓库或上传数据。