project-gutenberg-clean

Dataset de livros do Project Gutenberg baixados via API Gutendex e limpos com foco em qualidade para treinamento de LLMs.

Diferenciais desta versão:

• Limpeza Profunda: Além de cabeçalhos e rodapés padrão, removemos notas de transcrição, prefácios de editores e artefatos de OCR (como tags [Illustration], [Music], etc.) em múltiplos idiomas (PT, EN, DE, ES, FR, IT).
• Tratamento de Notas: Identifica e remove blocos de notas delimitados por sequências de caracteres especiais (como hashes ####).
• Particionamento: Organizado por idioma e dividido em splits (train, validation, test) pronto para uso com a biblioteca datasets.

Gerado em: 2026-05-21
Total de registros: 9,544
Modo de idioma: all

Estrutura

data/
  en/
    train.parquet
    validation.parquet
    test.parquet
  pt/
    train.parquet
    validation.parquet
    test.parquet

Também podem existir arquivos .jsonl, se gerados com --formats parquet,jsonl.

Como carregar

from datasets import load_dataset

# Exemplo para inglês
ds_en = load_dataset("celsowm/project-gutenberg-clean", data_dir="data/en")

# Exemplo para português
ds_pt = load_dataset("celsowm/project-gutenberg-clean", data_dir="data/pt")

Campos

• gutenberg_id: ID do livro no Project Gutenberg.
• title: título do livro.
• authors e author_names: autores conforme metadados do Gutendex.
• languages: idiomas presentes nos metadados de origem.
• language_partition: idioma da pasta em que o registro foi salvo.
• subjects, bookshelves: categorias da origem.
• copyright: valor reportado pela origem.
• gutenberg_url e source_text_url: URLs de origem.
• text: texto limpo.
• char_count, word_count: métricas simples do texto limpo.
• license_note: nota de uso e limpeza.

Contagem por idioma

idioma	train	validation	test	total
en	1,963	109	109	2,181
pt	583	32	32	647
es	738	41	41	820
fr	2,350	130	130	2,610
de	2,050	113	113	2,276
it	910	50	50	1,010

Avisos de licença e uso

O Project Gutenberg é baseado nos EUA e seus textos são avaliados conforme a lei de copyright dos EUA. Este pipeline remove cabeçalhos/rodapés e referências de licença/trademark quando detecta marcadores, mas o usuário do dataset continua responsável por verificar permissões aplicáveis à sua jurisdição e ao seu caso de uso.

Proveniência

• Metadados e links de download: Gutendex.
• Texto original: Project Gutenberg.
• Limpeza: gutenberg-dataset-builder.