Plain text of Wikipedia

• Dataset Description
  • Size
  • Example use (python)
  • Data fields
  • Notes on data formatting
• License
• Aknowledgements
• Citation

Dataset Description

This dataset is a plain text version of pages from wikipedia.org spaces for several languages (English, German, French, Spanish, Italian). The text is without HTML tags nor wiki templates. It just includes markdown syntax for headers, lists and tables. See Notes on data formatting for more details.

It was created by LINAGORA and OpenLLM France from the Wikimedia dumps, using code in https://github.com/OpenLLM-France/wikiplaintext.

Size

The amount of data for the latest dump (20240201) are for the several languages:

	English (en)	German (de)	French (fr)	Spanish (es)	Italian (it)
# documents	6 893 170	2 877 387	2 647 717	1 947 242	1 870 387
# paragraphs	59 010 400	23 686 448	24 943 988	16 354 822	15 774 432
# words	4 708 073 654	1 708 517 153	1 725 733 130	1 244 800 602	1 059 728 705
# characters	26 615 759 588	11 251 992 282	9 878 620 695	7 161 185 380	6 160 546 937
size on disk	15G	6.4G	5.6G	4.1G	3.5G

Example use (python)

Load the full dataset:

import datasets

ds = datasets.load_dataset("OpenLLM-France/wikipedia",
    streaming=True,
    split="train"
)

Load the dataset for a given language (French in this example):

ds = datasets.load_dataset("OpenLLM-France/wikipedia", "fr",
    streaming=True,
    split="train"
)

Data fields

The data fields are the same among all configurations:

• id (int): ID of the article.
• url (str): URL of the article.
• title (str): Title of the article.
• text (str): Text content of the article.

For example:

{'id': 847027,
 'url': 'https://fr.wikipedia.org/wiki/D%C3%A9partement_de_Rinconada',
 'title': 'Département de Rinconada',
 'text': "# Département de Rinconada\n\nLe département de Rinconada est une des 16 subdivisions de la province de Jujuy, en Argentine. Son chef-lieu est la ville de Rinconada.\nLe département a une superficie de 6 407 km². Sa population extrêmement clairsemée s'élevait à 2 298 habitants en 2001, soit une densité de 0,3 hab./km².\n\n# Département de Rinconada\n## Localités\n\nOutre le chef-lieu d'arrondissement, Rinconada, il faut citer :\n* Mina Pirquitas, localité la plus élevée d'Argentine (4 271 mètres d'altitude).\nC'est sur le territoire de ce département qu'est situé le site Ramsar des Lagunas de Vilama."
}

Notes on data formatting

Special characters

Superscripts and subscripts are kept as unicode characters when possible. e.g. XIIIᵉ siècle, 3 000 m², P₂O₇⁴⁻.

Unbreakable spaces are kept as unicode characters (in python, use text.replace("\u00A0", " ") to replace them with normal spaces).

Markdown syntax

Tables are kept as markdown tables. For instance:

| Français | Espéranto | IPA |
| Salut, bonjour | Saluton | [sa.ˈlu.ton] |
| Oui | Jes | [ˈjes] |
| Non | Ne | [ˈne] |
| Bonsoir | Bonan vesperon | [ˈbo.nan ves.ˈpe.ron] |
| Bonne nuit | Bonan nokton | [ˈbo.nan ˈnok.ton] |

Lists are kept as markdown lists. For instance:

* 1 000 personnes ont l'espéranto comme langue maternelle ;
* 10 000 personnes parlent l'espéranto avec un niveau proche d'une langue maternelle ;
* 100 000 personnes parlent couramment l'espéranto ;

Headers are kept as markdown headers. For instance:

# Espéranto

L'espéranto est une langue construite internationale utilisée comme langue véhiculaire par des personnes […]
Fondée sur une grammaire régulière sans exception, l'espéranto est une langue globalement agglutinante où[…]
C’est en 1887 que Louis-Lazare Zamenhof, sous le pseudonyme Doktoro Esperanto (Docteur « Espérant ») qui […]
L’Association universelle d’espéranto, fondée en 1908, est en relation officielle avec l’Organisation des[…]

## Définition
### Nom

Le pseudonyme « Doktoro Esperanto » (Docteur « Espérant »), utilisé par Zamenhof pour présenter son proje[…]

#### Utilisation du mot espéranto en tant que métaphore

Le nom espéranto fonctionne comme un nom propre quand il désigne la langue même, mais est parfois utilisé[…]
Dans le domaine de l'informatique, Java fut qualifié d'« espéranto des langages de programmation », en pa[…]

Alternative markdown syntax

A version "repeated_headers" of the dataset is available, where headers are repeated before each section. This dataset can be obtained with:

import datasets

ds = datasets.load_dataset("OpenLLM-France/wikipedia",
    revision="repeated_headers",
    streaming=True,
    split="train"
)

The first header always corresponds to the page title, the second header to the section title, the third header to the subsection title, etc. For instance:

# Espéranto

L'espéranto est une langue construite internationale utilisée comme langue véhiculaire par des personnes […]
Fondée sur une grammaire régulière sans exception, l'espéranto est une langue globalement agglutinante où[…]
C’est en 1887 que Louis-Lazare Zamenhof, sous le pseudonyme Doktoro Esperanto (Docteur « Espérant ») qui […]
L’Association universelle d’espéranto, fondée en 1908, est en relation officielle avec l’Organisation des[…]

# Espéranto
## Définition
### Nom

Le pseudonyme « Doktoro Esperanto » (Docteur « Espérant »), utilisé par Zamenhof pour présenter son proje[…]

# Espéranto
## Définition
### Nom
#### Utilisation du mot espéranto en tant que métaphore

Le nom espéranto fonctionne comme un nom propre quand il désigne la langue même, mais est parfois utilisé[…]
Dans le domaine de l'informatique, Java fut qualifié d'« espéranto des langages de programmation », en pa[…]

License

This dataset is distributed under the Creative Commons Attribution-ShareAlike 4.0 International License.

Aknowledgements

This dataset was created by Jérôme Louradour on behalf of LINAGORA and OpenLLM France.

Many thanks to the Wikimedia Foundation for providing the data and useful advices, in particular Isaac Johnson, Albert Villanova and Rémy Gerbet.

Citation

@online{wikipedia_dump,
    author = "OpenLLM-France, LINAGORA Labs",
    title  = "Plain text Wikipedia",
    url    = "https://huggingface.co/datasets/OpenLLM-France/wikipedia"
}