MTEB-NL
Collection
Massive Text Embedding Benchmark for Dutch. Check https://github.com/nikolay-banar/mteb-nl-dev to evaluate your models. • 26 items • Updated
• 2
sentence1 stringlengths 10 158 | sentence2 stringlengths 11 138 | similarity_score float64 1 5 | label stringclasses 3 values |
|---|---|---|---|
Een groepje kinderen speelt in een tuin en een oude man staat op de achtergrond | Een groep jongens in een tuin is aan het spelen en een man staat op de achtergrond | 4.5 | neutral |
Een groep kinderen speelt in het huis en er staat geen man op de achtergrond | Een groepje kinderen speelt in een tuin en een oude man staat op de achtergrond | 3.2 | neutral |
De jonge jongens spelen buiten en de man lacht in de buurt | De kinderen spelen buiten in de buurt van een man met een glimlach | 4.7 | entailment |
De kinderen spelen buiten in de buurt van een man met een glimlach | Een groepje kinderen speelt in een tuin en een oude man staat op de achtergrond | 3.4 | neutral |
De jonge jongens spelen buiten en de man lacht in de buurt | Een groepje kinderen speelt in een tuin en een oude man staat op de achtergrond | 3.7 | neutral |
Twee honden zijn aan het vechten | Twee honden zijn aan het worstelen en knuffelen | 4 | neutral |
Een bruine hond valt een ander dier aan voor de man in een broek | Twee honden zijn aan het vechten | 3.5 | neutral |
Een bruine hond valt een ander dier aan voor de man in een broek | Twee honden zijn aan het worstelen en knuffelen | 3.2 | neutral |
Niemand rijdt op de fiets op één wiel | Iemand in een zwart jasje doet trucjes op een motor | 2.8 | neutral |
Een persoon rijdt op de fiets op één wiel | Een man in een zwart jasje doet trucjes op een motor | 3.7 | neutral |
Een persoon op een zwarte motor doet trucjes met een jasje | Een persoon rijdt op de fiets op één wiel | 3.4 | neutral |
Een man met een trui is de bal aan het dunken bij een basketbalwedstrijd | De bal wordt gedunkt door een man met een trui bij een basketbalwedstrijd | 4.9 | entailment |
Een man met een trui is de bal aan het dunken bij een basketbalwedstrijd | Een man die speelt, dunkt de basketbal in het net en het publiek is op de achtergrond | 3.6 | neutral |
De speler is de basketbal in het net aan het dunken en er is een menigte op de achtergrond | Een man met een trui is de bal aan het dunken bij een basketbalwedstrijd | 3.8 | neutral |
Twee mensen zijn aan het kickboksen en toeschouwers kijken niet | Twee mensen zijn aan het kickboksen en toeschouwers kijken toe | 3.4 | contradiction |
Twee jonge vrouwen zijn aan het sparren in een kickboksgevecht | Twee vrouwen zijn aan het sparren in een kickbokswedstrijd | 4.9 | entailment |
Twee jonge vrouwen zijn niet aan het sparren in een kickboksgevecht | Twee vrouwen zijn aan het sparren in een kickbokswedstrijd | 3.9 | neutral |
Twee mensen zijn aan het kickboksen en toeschouwers kijken toe | Twee jonge vrouwen zijn niet aan het sparren in een kickboksgevecht | 3.415 | neutral |
Twee vrouwen zijn aan het sparren in een kickbokswedstrijd | Twee mensen zijn aan het kickboksen en toeschouwers kijken niet | 3.7 | neutral |
Drie jongens springen in de bladeren | Drie kinderen springen in de bladeren | 4.4 | entailment |
Drie kinderen zitten in de bladeren | Drie kinderen springen in de bladeren | 3.8 | neutral |
Kinderen in rode shirts spelen in de bladeren | Drie kinderen zitten in de bladeren | 3.5 | neutral |
Kinderen in rode shirts spelen in de bladeren | Drie kinderen springen in de bladeren | 4 | neutral |
Twee engelen maken sneeuw op de liggende kinderen | Twee kinderen liggen in de sneeuw en maken sneeuwengelen | 2.9 | neutral |
Twee kinderen liggen in de sneeuw en tekenen engelen | Twee mensen in sneeuwpakken liggen in de sneeuw en maken sneeuwengelen | 4.1 | neutral |
Twee mensen in sneeuwpakken liggen in de sneeuw en maken sneeuwengelen | Twee engelen maken sneeuw op de liggende kinderen | 2.5 | neutral |
Twee kinderen liggen in de sneeuw en maken sneeuwengelen | Twee mensen in sneeuwpakken liggen in de sneeuw en maken sneeuwengelen | 4.2 | neutral |
Mensen in kostuums verzamelen in een bos en kijken in dezelfde richting | Gemaskerde mensen kijken in dezelfde richting in een bos | 4.4 | entailment |
Mensen in kostuums verzamelen in een bos en kijken in dezelfde richting | Mensen die kostuums dragen verspreiden zich in een bos en kijken in verschillende richtingen | 3.2 | neutral |
Mensen kijken naar enkele kostuums die in de buurt van het bos zijn verzameld | Mensen in kostuums verzamelen in een bos en kijken in dezelfde richting | 3.635 | neutral |
Een klein meisje kijkt naar een vrouw in kostuum | Mensen die kostuums dragen verspreiden zich in een bos en kijken in verschillende richtingen | 2.4 | neutral |
Een klein meisje kijkt naar een vrouw in kostuum | Mensen kijken naar enkele kostuums die in de buurt van het bos zijn verzameld | 2.6 | neutral |
Een jong meisje kijkt naar een vrouw in kostuum | Mensen in kostuums verzamelen in een bos en kijken in dezelfde richting | 2.2 | neutral |
Mensen in kostuums verzamelen in een bos en kijken in dezelfde richting | Het kleine meisje kijkt naar een man in kostuum | 3 | neutral |
Mensen in kostuums verzamelen in een bos en kijken in dezelfde richting | Een klein meisje in kostuum lijkt op een vrouw | 2 | neutral |
Een eenzame motorrijder springt in de lucht | Een motorrijder springt in de lucht, alleen | 5 | entailment |
Er is geen motorrijder die in de lucht springt | Een eenzame motorrijder springt in de lucht | 4.2 | contradiction |
Een man springt in een leeg bad | Een man springt in een vol zwembad | 3 | contradiction |
Een man springt in een leeg bad | De trui van de man ligt in het lege zwembad | 3.1 | neutral |
Een eenzame motorrijder springt in de lucht | Een man springt in een vol zwembad | 1.7 | neutral |
De trui van de man ligt in het lege zwembad | Een eenzame motorrijder springt in de lucht | 1.4 | neutral |
Een eenzame motorrijder springt in de lucht | Een man springt in een leeg bad | 1.5 | neutral |
Vier koters doen backbends in het park | Vier kinderen doen backbends in het park | 4.8 | entailment |
Vier kinderen doen backbends in de sportschool | Vier kinderen doen backbends in het park | 3.8 | neutral |
Vier meisjes doen backbends en spelen in de tuin | Vier meisjes doen backbends en spelen buiten | 4.1 | entailment |
Een man die speelt rent met de bal in zijn handen | Een speler rent met de bal | 4.3 | entailment |
Twee groepen mensen spelen voetbal | Een speler rent met de bal | 2.1 | neutral |
Twee teams doen mee aan een honkbalwedstrijd | Een speler rent met de bal | 3 | neutral |
Een speler rent met de bal | Twee teams nemen deel aan een voetbalwedstrijd | 2.6 | neutral |
Er staan vijf houten kramen voor de hut van elk kind | Vijf kinderen staan voor een houten hut | 3.2 | neutral |
Vijf kinderen staan dicht bij elkaar en één kind heeft een pistool | Vijf kinderen staan dicht bij elkaar en geen van de kinderen heeft een pistool | 3.7 | contradiction |
Vijf kinderen staan dicht bij elkaar en geen van de kinderen heeft een pistool | Vijf kinderen staan voor een houten hut | 2.6 | neutral |
Vijf kinderen staan in een houten hut | Vijf kinderen staan dicht bij elkaar en één kind heeft een pistool | 2.7 | neutral |
Er staan vijf houten kramen voor de hut van elk kind | Vijf kinderen staan dicht bij elkaar en één kind heeft een pistool | 2.3 | neutral |
Een oude man zit in een veld | Een man zit in een veld | 4.4 | entailment |
Een man zit in een veld | Een man rent in een veld | 2.6 | neutral |
Een persoon draagt een hoed en zit op het gras | Een persoon zit in een veld en draagt een hoed | 4.1 | neutral |
Een persoon zit en draagt een grashoed | Een persoon draagt een hoed en zit op het gras | 3.4 | neutral |
Een persoon zit en draagt een grashoed | Een man zit in een veld | 3.3 | neutral |
Een man zit in een veld | Een persoon draagt een hoed en zit op het gras | 3.8 | neutral |
De stroming wordt bereden door een groep vrienden in een vlot | Een groep vrienden vaart op de stroming in een vlot | 4.9 | entailment |
Een groep vrienden vaart op de stroming in een vlot | Een groep rijdt niet met de stroom mee in een vlot | 3.7 | contradiction |
De stroming wordt bereden door een groep vrienden in een vlot | Deze groep mensen beoefent waterveiligheid en draagt reddingsvesten | 3.2 | neutral |
Een groep vrienden vaart op de stroming in een vlot | Deze groep mensen beoefent waterveiligheid en draagt reddingsvesten | 3.1 | neutral |
Een hert springt over een hek | Een hert springt niet over het hek | 3.9 | contradiction |
Mensen lopen in een gebouw waar veel muurschilderingen op staan | Mensen lopen buiten een gebouw waar veel muurschilderingen op zitten | 3.4 | neutral |
Verschillende mensen staan voor een kleurrijk gebouw | Niemand staat voor het kleurrijke gebouw | 3.5 | contradiction |
Mensen lopen buiten een gebouw waar veel muurschilderingen op zitten | Niemand staat voor het kleurrijke gebouw | 3.6 | neutral |
Mensen lopen buiten het gebouw waar verschillende muurschilderingen op staan | Verschillende mensen staan voor een kleurrijk gebouw | 3.6 | entailment |
Een familie kijkt naar een kleine jongen die een honkbal raakt | Een familie kijkt naar een kleine jongen die een honkbal mist | 3.9 | neutral |
Een kind slaat een honkbal | Een familie kijkt naar een kleine jongen die een honkbal mist | 3.015 | neutral |
Een kind mist een honkbal | Een familie kijkt naar een kleine jongen die een honkbal raakt | 2.7 | neutral |
Een paarse menigte mensen eet aan verschillende rood verlichte restauranttafels | Verschillende mensen eten aan rode tafels in een druk restaurant met paarse verlichting | 3.3 | neutral |
Een grote groep Aziaten eet in een restaurant | Diverse klanten eten in een drukbezocht restaurant met paarse verlichting | 2.9 | neutral |
Een paarse menigte mensen eet aan verschillende rood verlichte restauranttafels | Een grote groep Aziaten eet in een restaurant | 3.1 | neutral |
Verschillende mensen eten aan rode tafels in een druk restaurant met paarse verlichting | Een kleine groep mensen is aan het wachten om in een restaurant te eten | 3.2 | neutral |
Een motorrijder staat op het zadel van een witte motorfiets | Geen motorrijder staat op op het zadel van een motorfiets | 3.8 | contradiction |
Niemand zit op een motorfiets en staat op de stoel | Iemand zit op een zwart-witte motorfiets en staat op het zadel | 3.7 | contradiction |
Een motorrijder rijdt gevaarlijk op een motor langs een rijweg | Een motorrijder rijdt op een motor langs een rijbaan | 4.6 | entailment |
Er is geen motorrijder die op een motor langs een weg rijdt | Een motorrijder rijdt op een motor langs een rijbaan | 3.7 | contradiction |
Een man met een rood geverfde helm rijdt op een blauwe motorfiets op de weg | Een motorrijder met een rode helm rijdt op een blauwe motorfiets op de weg | 4.8 | entailment |
Een motorrijder zonder helm wacht op een blauwe motorfiets in de buurt van de weg | Een motorrijder rijdt op een motor langs een rijbaan | 3.3 | neutral |
Twee honden spelen bij een boom | Een hond vangt een stok in de lucht en een andere kijkt toe | 3.7 | neutral |
Twee honden spelen bij een boom | Er is geen hond die in de lucht springt | 2.7 | neutral |
Twee honden spelen bij een boom | Een hond springt hoog in de lucht en een andere kijkt toe | 3 | neutral |
Een meisje in het wit danst | De danser danst voor de geluidsapparatuur | 4 | neutral |
Een meisje in het wit danst | Het blonde meisje danst achter de geluidsapparatuur | 3.3 | neutral |
Een meisje draagt witte kleren en danst | Het blonde meisje danst voor de geluidsapparatuur | 3.5 | neutral |
Het blonde meisje danst voor de geluidsapparatuur | Er is geen meisje in het wit dat danst | 3.3 | neutral |
Drie Aziatische kinderen zijn aan het dansen en een man kijkt | Drie Aziatische kinderen zijn aan het dansen en er is geen man die kijkt | 3.9 | contradiction |
Drie Aziatische kinderen zijn aan het dansen en een man kijkt | Een Aziatische man is aan het dansen en drie kinderen kijken | 3.7 | neutral |
De kinderen van een familie spelen en wachten | Drie Aziatische kinderen zijn aan het dansen en een serieuze man kijkt | 1.9 | neutral |
De kinderen van een familie zijn geduldig aan het spelen en wachten | Drie Aziatische kinderen zijn aan het dansen en een man kijkt | 2.3 | neutral |
Er zijn geen kinderen die spelen en wachten | Drie Aziatische kinderen zijn aan het dansen en een man kijkt | 1.6 | neutral |
Een vrouw draagt een Egyptische hoed op haar hoofd | Een vrouw draagt een Egyptische hoofdtooi | 4.3 | entailment |
Een vrouw draagt een Egyptische hoofdtooi | Een vrouw draagt een indiase hoofdtooi | 4 | neutral |
De zwarte vrouw draagt een bril over de hoofdtooi | Een vrouw draagt een Egyptische hoofdtooi | 3.6 | neutral |
Een vrouw draagt een Egyptische hoed op haar hoofd | De vrouw draagt een bril en een zwarte hoofdtooi | 2.5 | neutral |
Een wandelaar is op de top van de berg en is aan het dansen | Er wordt niet gedanst bovenop de berg | 3.2 | contradiction |
Er is geen man op een rots hoog boven enkele bomen die in een vreemde positie staan | Een man staat op een rots hoog boven enkele bomen en staat in een vreemde positie | 4.3 | contradiction |
This dataset is the Dutch machine-translated and human post-edited version of the original SICK dataset, which was constructed from image and video caption descriptions.
If you find our paper, benchmark or models helpful, please consider cite as follows:
@misc{banar2025mtebnle5nlembeddingbenchmark,
title={MTEB-NL and E5-NL: Embedding Benchmark and Models for Dutch},
author={Nikolay Banar and Ehsan Lotfi and Jens Van Nooten and Cristina Arhiliuc and Marija Kliocaite and Walter Daelemans},
year={2025},
eprint={2509.12340},
archivePrefix={arXiv},
primaryClass={cs.CL},
url={https://arxiv.org/abs/2509.12340},
}
The data source:
@inproceedings{wijnholds-moortgat-2021-sick,
title = "{SICK}-{NL}: A Dataset for {D}utch Natural Language Inference",
author = "Wijnholds, Gijs and
Moortgat, Michael",
editor = "Merlo, Paola and
Tiedemann, Jorg and
Tsarfaty, Reut",
booktitle = "Proceedings of the 16th Conference of the European Chapter of the Association for Computational Linguistics: Main Volume",
month = apr,
year = "2021",
address = "Online",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/2021.eacl-main.126/",
doi = "10.18653/v1/2021.eacl-main.126",
pages = "1474--1479",
}