bond005/NEREL_bench

NEREL-bench

Summary

NEREL-bench is a benchmark dataset designed to evaluate the capabilities of Large Language Models (LLMs) in performing knowledge graph construction tasks on Russian-language texts. The dataset focuses on three fundamental tasks essential for building knowledge graphs: named entity recognition, relation extraction between entities, and generation of contextual definitions for both entities and relations. These tasks are critical for evaluating whether an LLM can effectively construct a knowledge graph suitable for GraphRAG (Graph-based Retrieval-Augmented Generation) and similar knowledge-intensive approaches.

The benchmark comprises four distinct configurations, each targeting a specific aspect of knowledge graph construction: entity recognition in normalized form, generation of entity definitions relative to source texts, extraction of binary relations between entities, and generation of relation definitions in context. All configurations are derived from the test split of the NEREL_instruct dataset and have undergone additional quality validation using an LLM-as-judge approach with GPT-4o-mini.

Purpose and Applications

The primary purpose of NEREL-bench is to provide a standardized evaluation framework for assessing LLM performance on structured information extraction tasks in Russian. The dataset addresses a significant gap in the landscape of Russian NLP benchmarks by focusing specifically on the generation capabilities required for knowledge graph construction, rather than traditional classification-based approaches.

Key applications of this benchmark include:

• LLM Evaluation: Assessing the ability of language models to extract structured knowledge from unstructured Russian texts and generate accurate, context-aware definitions.

• GraphRAG Development: Benchmarking models intended for use in Graph-based Retrieval-Augmented Generation systems, where accurate entity and relation extraction is fundamental to system performance.

• Knowledge Graph Construction: Evaluating the quality of automatically constructed knowledge graphs from Russian textual sources, including news articles, scientific texts, and other domains represented in the original NEREL corpus.

• Russian NLP Research: Advancing the state of Russian natural language processing by providing challenging generation tasks that require deep understanding of entity semantics and inter-entity relationships.

Dataset Creation

Source Data

NEREL-bench is derived from NEREL_instruct, an instruction-tuning dataset based on the original NEREL corpus. The NEREL corpus itself is a comprehensive Russian-language dataset featuring nested named entities, relations, and events, originally introduced at RANLP 2021.

The original NEREL corpus was constructed through careful annotation of Russian texts across multiple domains, with particular emphasis on news articles and texts requiring detailed entity and relation annotation. The corpus supports nested entity structures, allowing for rich semantic representation where entities can be embedded within other entities (e.g., "Moscow State University" containing "Moscow" as a location entity).

Data Processing and Validation

The dataset creation process involved several critical steps to ensure high-quality evaluation data:

1. Configuration Selection: From the six configurations available in NEREL_instruct, four were selected based on their relevance to knowledge graph construction: entity_recognition, entity_definition, relation_extraction, and relation_definition. The remaining two configurations were deemed redundant for the target evaluation scenarios.

2. Test Split Extraction: Only the test split from the original NEREL_instruct dataset was retained, ensuring that evaluation is performed on previously unseen data and preventing data leakage from training sets that might have been used in model development.

3. LLM-as-Judge Validation: All reference answers (the true_answer column) underwent additional validation using GPT-4o-mini as an automated judge. This validation process served multiple purposes: identifying potentially erroneous or ambiguous annotations, detecting formatting inconsistencies, and flagging examples where the reference answer might not represent the only acceptable response. The validation process involved presenting each example to GPT-4o-mini along with the source text and asking the model to assess the correctness and completeness of the reference answer.

4. Manual Review and Correction: Examples flagged during the LLM-as-judge validation were subjected to human review. Some problematic examples were removed from the dataset entirely, while others were corrected to ensure accuracy. This hybrid validation approach combines the efficiency of automated checking with the reliability of human judgment.

Quality Assurance

The dual-validation approach (LLM-as-judge followed by human review) ensures that the benchmark maintains high annotation quality while remaining practical to construct. The GPT-4o-mini validation caught subtle issues such as:

• Incomplete entity lists in recognition tasks
• Imprecise or overly generic definitions
• Missing relation instances that should have been captured
• Formatting inconsistencies that could affect automatic evaluation

Dataset Structure

NEREL-bench consists of four independent configurations, each designed to evaluate a specific capability required for knowledge graph construction. All configurations share a common data format with three fields: instruction (the task description), context (the source text), and true_answer (the reference output).

Data Fields

Field	Type	Description
instruction	string	Natural language instruction describing the task to be performed. The instruction specifies what the model should extract or generate from the context.
context	string	The jsonified structure with source Russian text from which entities and relations should be extracted, or relative to which definitions should be generated.
true_answer	string	The reference output representing the expected model response. This serves as the ground truth for evaluation purposes.

The input prompt is created based on the instruction and context fields as follows:

import json
import datasets


def process_docs(dataset: datasets.Dataset) -> datasets.Dataset:
    def _process_doc(doc):
        out_doc = {
            "input_task": doc["instruction"].format(**json.loads(doc["context"])),
            "true_answer": doc["true_answer"],
        }
        return out_doc

    return dataset.map(_process_doc)

Configurations

1. entity_recognition

The entity_recognition configuration evaluates the model's ability to identify and list all named entities present in a given text, presenting them in normalized form. This task is fundamental to any knowledge graph construction pipeline, as entity recognition serves as the first step in populating the graph's node set.

Task Description: Given a Russian text, the model must identify all named entities across multiple categories (persons, organizations, locations, etc.) and output them as a structured list in their normalized (canonical) forms. Normalization ensures that variations of the same entity (e.g., "Новосибирского государственного университета" and "Новосибирский государственный университет") are mapped to a consistent representation.

Number of Examples: 64

Evaluation Considerations: The relatively small size of this configuration reflects the nature of the task, where each example contains multiple entities to be recognized. Evaluation should consider both precision (are all recognized entities correct?) and recall (were all entities in the text identified?). Normalized forms must match the reference exactly for full credit.

Example:

{
    "instruction": "Вы — система извлечения именованных сущностей из русскоязычного текста.\n\nВаша задача: найти в тексте все именованные сущности, относящиеся к перечисленным ниже классам, выполнить их нормализацию и вывести результат в виде простого списка — по одной сущности на строку, без нумерации, без указания классов, без каких-либо комментариев и пояснений.\n\nКлассы именованных сущностей:\n- PERSON — имена, фамилии, прозвища людей\n- FAMILY — фамилии, династии, кланы, семьи\n- PROFESSION — профессии, должности, титулы, звания (в том числе «принцесса», «император», «президент» и т.п.)\n- NATIONALITY — национальности, этнические принадлежности и производные прилагательные («японский», «русский» и т.п.)\n- AGE — возраст («28-летний», «в возрасте 5 лет» и т.п.)\n- AWARD — награды, премии, ордена\n- CITY — города\n- COUNTRY — страны\n- STATE_OR_PROV — штаты, провинции, регионы, области\n- DISTRICT — районы, округа, кварталы\n- LOCATION — географические объекты, не попадающие в CITY/COUNTRY/STATE_OR_PROV/DISTRICT\n- FACILITY — здания, сооружения, храмы, стадионы, аэропорты и т.п.\n- ORGANIZATION — организации, компании, партии, государственные органы, институциональные структуры (в том числе «императорская семья» и подобные)\n- EVENT — события, происшествия, церемонии, войны, праздники, а также значимые действия, упомянутые в тексте («бракосочетание», «церемония», «выйти замуж», «потерять титул», «утратить титул» и т.п.)\n- DATE — даты, периоды, эпохи («с 794 по 1185 год», «период Хэйан» и т.п.)\n- TIME — время суток, моменты времени\n- MONEY — денежные суммы с указанием валюты\n- NUMBER — числа и количества, не относящиеся к другим числовым классам\n- ORDINAL — порядковые числительные\n- PERCENT — процентные значения\n- CRIME — преступления, правонарушения\n- DISEASE — заболевания, медицинские диагнозы\n- IDEOLOGY — идеологии, политические течения, философские направления\n- RELIGION — религии, конфессии, религиозные течения и производные прилагательные («синтоистский», «православный» и т.п.)\n- LANGUAGE — языки\n- LAW — законы, нормативные акты, кодексы\n- PENALTY — наказания, санкции, штрафы\n- PRODUCT — продукты, товары, модели техники, программное обеспечение\n- WORK_OF_ART — произведения искусства, книги, фильмы, музыкальные произведения\n\nПравила извлечения и нормализации:\n\n1. Извлекайте каждое уникальное упоминание сущности. Если одна и та же сущность упоминается в тексте несколько раз (в том числе в разных формах), выведите её только один раз в нормализованной форме.\n\n2. Нормализация:\n   - Существительные и именные группы — приводите к именительному падежу единственного числа (если в тексте единственное число) с сохранением смысла.\n   - Глагольные выражения (события-действия) — приводите к инфинитиву («потерять титул», «выйти замуж»).\n   - Имена собственные — сохраняйте в исходной форме на языке оригинала (русскоязычные варианты).\n   - Прилагательные (национальности, религии) — приводите к мужскому роду именительного падежа единственного числа, если они извлекаются как отдельная сущность.\n\n3. Вложенные сущности: если составная сущность содержит внутри себя другие сущности, извлеките и составную сущность целиком, и каждую вложенную сущность отдельно. Например:\n   - «император Японии» → «император Японии», «Япония»\n   - «японская принцесса» → «японская принцесса», «японский», «принцесса»\n   - «храм Мейдзи» → «храм Мейдзи», «Мейдзи»\n\n4. Не извлекайте иноязычные (нерусские) вставки в тексте, если рядом есть русский эквивалент.\n\n5. Не добавляйте сущности, которых нет в тексте.\n\n6. Выведите только список сущностей — по одной на строку. Никаких заголовков, нумерации, классов, пояснений, комментариев.\n\nТекст для анализа:\n{source_text}",
    "context": "{\"source_text\": \"10-летие смерти Егора Летова: группа «Були для бабули» выпустила юбилейный сингл Группа Були для бабули Петербургская кавер-рок-группа «Були для бабули» (бывшие «Рычаги машин») отмечает 10-летие со дня смерти известного советского и российского певца из Омска Егора Летова и в связи с этим выпустила сингл на его стихи. Музыкальный ряд участники группы позаимствовали у индастриал-метал-группы Pain — за основу взята её песня Shut Your Mouth, а положенные на неё стихи Летова являются текстом его песни «Харакири» с альбома 1989 года «Тошнота». Сингл традиционно выпущен в виде релиза в соцсети Вконтакте, популярной у аудитории проекта. Над ним, по традиции, работали как постоянные, так и сессионные музыканты — josef kshetunsky (компиляция, голос, бас), Diego, бывший участник группы Fruktы (запись, ударные, программирование), Heinrich Neumann (гитара), S. Tony, вокалист группы Dominia (сведение). Оформлением сингла занималась петербургский художник Приана Яцунами. Как и предыдущая работа «Какого не спишь?», новая песня войдет в готовящийся к выходу альбом, полностью состоящий из компиляций текстов русских исполнителей на зарубежную музыку. Релиз альбома запланирован на весну. Как ранее сообщали Викиновости, первый альбом группы «Були для бабули» «Вентилятор им. А. Абдулова» вышел в апреле, а второй — «Лёғкие бабки» — в ноябре прошлого года.\"}",
    "true_answer": "десятилетие\nсмерть\nЕгор Летов\nЛетов\n«Були для бабули»\nпетербургская\n«Рычаги машин»\nсоветский\nроссийский\nпевец\nОмск\nPain\nShut Your Mouth\n«Харакири»\n1989 год\«Тошнота»\nВКонтакте\nсессионный музыкант\nмузыкант\nJosef Kshetunsky\nDiego\nFruktы\nHeinrich Neumann\nS. Tony\nвокалист группы Dominia\nвокалист\nDominia\nпетербургский\nхудожник\nПриана Яцунами\n«Какого не спишь?»\nрусский\nисполнитель\nвесна\nВикиновости\nпервый\n«Вентилятор им. А. Абдулова»\nА. Абдулов\nапрель\nвторой\n«Лёғкие бабки»\nноябрь прошлого года"
}

2. entity_definition

The entity_definition configuration assesses the model's capability to generate contextually appropriate definitions for named entities identified in source texts. Unlike traditional definition generation, this task requires the model to produce definitions that are specifically relevant to how the entity is used in the given context, rather than providing a generic dictionary definition.

Task Description: Given a source text and a specific named entity mentioned within it, the model must generate a definition that explains what the entity represents in the context of that particular text. This requires understanding not just the entity's general meaning, but also its specific role and significance within the given textual context.

Number of Examples: 1,077

Evaluation Considerations: Definitions should be evaluated on multiple dimensions: factual accuracy, relevance to the context, completeness of information, and natural language quality. A good contextual definition captures the entity's identity and its significance within the specific text, potentially including information about its relationships to other entities or its role in events described.

Example:

{
    "instruction": "Вы — система генерации контекстных объяснений именованных сущностей в тексте.\n\nЗадача: объясните, что означает указанная именованная сущность в контексте предоставленного текста. Объяснение должно раскрывать не общее словарное значение сущности, а её конкретный смысл, роль и значимость именно в данном тексте.\n\nПравила:\n\n1. Напишите краткое объяснение — одно-два предложения.\n2. Начните с обобщённой характеристики сущности (что это такое в данном тексте), затем раскройте ключевые контекстные обстоятельства, последствия или связи, которые делают эту сущность значимой в тексте.\n3. Опирайтесь только на информацию из текста. Не привлекайте внешние знания, если они не подтверждены текстом.\n4. Формулируйте объяснение обобщённо, через роли и функции, а не через перечисление конкретных имён и деталей, — если только сущность сама не является конкретным именем или объектом.\n5. Не цитируйте текст дословно — перефразируйте своими словами.\n6. Не добавляйте заголовков, пояснений, оговорок, метакомментариев — только текст объяснения.\n\nИменованная сущность: {normalized_entity_in_text}\n\nТекст:\n\n```text\n{source_text}\n```",
    "context": "{\"normalized_entity_in_text\": \"Егор Летов\", \"source_text\": \"10-летие смерти Егора Летова: группа «Були для бабули» выпустила юбилейный сингл Группа Були для бабули Петербургская кавер-рок-группа «Були для бабули» (бывшие «Рычаги машин») отмечает 10-летие со дня смерти известного советского и российского певца из Омска Егора Летова и в связи с этим выпустила сингл на его стихи. Музыкальный ряд участники группы позаимствовали у индастриал-метал-группы Pain — за основу взята её песня Shut Your Mouth, а положенные на неё стихи Летова являются текстом его песни «Харакири» с альбома 1989 года «Тошнота». Сингл традиционно выпущен в виде релиза в соцсети Вконтакте, популярной у аудитории проекта. Над ним, по традиции, работали как постоянные, так и сессионные музыканты — josef kshetunsky (компиляция, голос, бас), Diego, бывший участник группы Fruktы (запись, ударные, программирование), Heinrich Neumann (гитара), S. Tony, вокалист группы Dominia (сведение). Оформлением сингла занималась петербургский художник Приана Яцунами. Как и предыдущая работа «Какого не спишь?», новая песня войдет в готовящийся к выходу альбом, полностью состоящий из компиляций текстов русских исполнителей на зарубежную музыку. Релиз альбома запланирован на весну. Как ранее сообщали Викиновости, первый альбом группы «Були для бабули» «Вентилятор им. А. Абдулова» вышел в апреле, а второй — «Лёғкие бабки» — в ноябре прошлого года.\"}",
    "true_answer": "Известный советский и российский певец из Омска."
}

3. relation_extraction

The relation_extraction configuration evaluates the model's ability to identify and extract binary relationships between named entities in a text. This task is crucial for constructing the edge set of a knowledge graph, as relations define how entities are connected to each other.

Task Description: Given a source text and a specific entity mentioned within it, the model must identify all other entities that share a relationship with the target entity and output these relationships in a structured format. The output should include both the related entity and the type of relationship connecting them.

Number of Examples: 1,452

Evaluation Considerations: This is the largest configuration in the benchmark, reflecting the complexity and importance of relation extraction for knowledge graph construction. Evaluation must account for both the correctness of identified relations and the completeness of the relation set. Missing valid relations or hallucinating non-existent relations both constitute errors.

Example:

{
    "instruction": "Вы — система извлечения бинарных отношений между именованными сущностями в тексте.\n\nЗадача: для заданной именованной сущности определить, какие другие сущности из предоставленного списка связаны с ней прямым бинарным отношением, явно выраженным или однозначно подразумеваемым в тексте.\n\nДопустимые типы бинарных отношений (связь должна относиться к одному из этих типов):\n\n- ABBREVIATION — сущность является аббревиатурой другой сущности\n- AGE_DIED_AT — возраст, в котором человек умер\n- AGE_IS — возраст человека или объекта\n- AGENT — агент (субъект) действия или события\n- ALTERNATIVE_NAME — альтернативное имя или название\n- AWARDED_WITH — награждение наградой\n- CAUSE_OF_DEATH — причина смерти\n- CONVICTED_OF — осуждение за преступление\n- DATE_DEFUNCT_IN — дата прекращения существования\n- DATE_FOUNDED_IN — дата основания\n- DATE_OF_BIRTH — дата рождения\n- DATE_OF_CREATION — дата создания\n- DATE_OF_DEATH — дата смерти\n- END_TIME — время окончания\n- EXPENDITURE — расходы\n- FOUNDED_BY — основано кем-либо\n- HAS_CAUSE — имеет причину\n- HEADQUARTERED_IN — расположение штаб-квартиры\n- IDEOLOGY_OF — идеология организации или персоны\n- INANIMATE_INVOLVED — неодушевлённый объект, вовлечённый в событие\n- INCOME — доход\n- KNOWS — знакомство между людьми\n- LOCATED_IN — расположение в месте\n- MEDICAL_CONDITION — медицинское состояние персоны\n- MEMBER_OF — членство в организации, группе, семье\n- ORGANIZES — организация события\n- ORIGINS_FROM — происхождение из места\n- OWNER_OF — владение чем-либо\n- PARENT_OF — родитель\n- PART_OF — часть чего-либо\n- PARTICIPANT_IN — участие в событии или действии\n- PENALIZED_AS — назначенное наказание\n- PLACE_OF_BIRTH — место рождения\n- PLACE_OF_DEATH — место смерти\n- PLACE_RESIDES_IN — место проживания\n- POINT_IN_TIME — момент времени события\n- PRICE_OF — стоимость объекта\n- PRODUCES — производство продукта\n- RELATIVE — родственная связь\n- RELIGION_OF — религиозная принадлежность\n- SCHOOLS_ATTENDED — учебные заведения\n- SIBLING — брат или сестра\n- SPOUSE — супруг(а)\n- START_TIME — время начала\n- SUBEVENT_OF — подсобытие более крупного события\n- SUBORDINATE_OF — подчинение организации или лицу\n- TAKES_PLACE_IN — место проведения события\n- WORKPLACE — место работы\n- WORKS_AS — профессия, должность, титул персоны\n\nПравила:\n\n1. Учитывайте только прямые отношения между заданной сущностью и другими сущностями из списка. Отношение считается прямым, если в тексте явно указано или однозначно следует из контекста, что именно заданная сущность и именно другая конкретная сущность связаны.\n\n2. Не выводите транзитивные (цепочечные) связи. Например, если A связано с B, а B связано с C — это не значит, что A связано с C.\n\n3. Не выводите саму заданную сущность.\n\n4. Не выводите сущности, которые являются составной частью заданной сущности или, наоборот, включают заданную сущность как часть (например, если заданная сущность — «Аяко Такамадо», не выводите «Аяко»).\n\n5. Если между заданной сущностью и другой сущностью существует несколько типов отношений, всё равно выведите связанную сущность только один раз.\n\n6. Направление отношения не имеет значения: если A→B или B→A — сущность считается связанной.\n\n7. Выведите только список связанных сущностей — по одной на строку. Никаких заголовков, нумерации, типов отношений, пояснений, комментариев. Если связанных сущностей нет — выведите сообщение \"связанных сущностей нет\".\n\nТекст:\n\n```text\n{source_text}\n```\n\nПолный список нормализованных именованных сущностей, упоминаемых в тексте:\n\n```text\n{full_list_of_normalized_entities}\n```\n\nЗаданная именованная сущность: {first_entity_in_text}",
    "context": "{\"source_text\": \"10-летие смерти Егора Летова: группа «Були для бабули» выпустила юбилейный сингл Группа Були для бабули Петербургская кавер-рок-группа «Були для бабули» (бывшие «Рычаги машин») отмечает 10-летие со дня смерти известного советского и российского певца из Омска Егора Летова и в связи с этим выпустила сингл на его стихи. Музыкальный ряд участники группы позаимствовали у индастриал-метал-группы Pain — за основу взята её песня Shut Your Mouth, а положенные на неё стихи Летова являются текстом его песни «Харакири» с альбома 1989 года «Тошнота». Сингл традиционно выпущен в виде релиза в соцсети Вконтакте, популярной у аудитории проекта. Над ним, по традиции, работали как постоянные, так и сессионные музыканты — josef kshetunsky (компиляция, голос, бас), Diego, бывший участник группы Fruktы (запись, ударные, программирование), Heinrich Neumann (гитара), S. Tony, вокалист группы Dominia (сведение). Оформлением сингла занималась петербургский художник Приана Яцунами. Как и предыдущая работа «Какого не спишь?», новая песня войдет в готовящийся к выходу альбом, полностью состоящий из компиляций текстов русских исполнителей на зарубежную музыку. Релиз альбома запланирован на весну. Как ранее сообщали Викиновости, первый альбом группы «Були для бабули» «Вентилятор им. А. Абдулова» вышел в апреле, а второй — «Лёғкие бабки» — в ноябре прошлого года.\", \"full_list_of_normalized_entities\": \"десятилетие\\nсмерть\\nЕгор Летов\\nЛетов\\n«Були для бабули»\\nпетербургская\\n«Рычаги машин»\\nсоветский\\nроссийский\\nпевец\\nОмск\\nPain\\nShut Your Mouth\\n«Харакири»\\n1989 год\\n«Тошнота»\\nВКонтакте\\nсессионный музыкант\\nмузыкант\\nJosef Kshetunsky\\nDiego\\nFruktы\\nHeinrich Neumann\\nS. Tony\\nвокалист группы Dominia\\nвокалист\\nDominia\\nпетербургский\\nхудожник\\nПриана Яцунами\\n«Какого не спишь?»\\nрусский\\nисполнитель\\nвесна\\nВикиновости\\nпервый\\n«Вентилятор им. А. Абдулова»\\nА. Абдулов\\nапрель\\nвторой\\n«Лёғкие бабки»\\nноябрь прошлого года\", \"first_entity_in_text\": \"Егор Летов\"}",
    "true_answer": "смерть\nЛетов\nсоветский\nроссийский\nпевец\nОмск"
}

4. relation_definition

The relation_definition configuration tests the model's ability to generate meaningful explanations of the relationships between pairs of entities within a specific textual context. This task goes beyond simply identifying that a relation exists; it requires articulating the nature and significance of that relationship.

Task Description: Given a source text and a pair of entities with an identified relationship between them, the model must generate a definition that explains the nature of this relationship as it manifests in the given context. The definition should clarify how and why these entities are connected, potentially including relevant details from the source text.

Number of Examples: 1,313

Evaluation Considerations: Relation definitions should be evaluated based on their accuracy in capturing the relationship semantics, their completeness in including relevant contextual details, and their clarity in explaining the connection to readers who may not have access to the source text. A good relation definition serves as a human-readable and a semantically modeled edge label in a knowledge graph.

Example:

{
    "instruction": "Вы — система объяснения семантических отношений между именованными сущностями в тексте.\n\nЗадача: на основе предоставленного текста определите и объясните, в чём состоит отношение между двумя именованными сущностями. Объяснение должно раскрывать, как именно эти сущности связаны в контексте данного конкретного текста.\n\nПравила:\n\n1. Напишите краткое объяснение — одно-два предложения.\n2. Объяснение должно быть привязано к содержанию текста, а не к общим знаниям. Опирайтесь только на информацию из текста.\n3. Включите в объяснение ключевые контекстные детали из текста, которые раскрывают суть отношения между этими сущностями.\n4. Не цитируйте текст дословно — перефразируйте своими словами.\n5. Не добавляйте информацию, которой нет в тексте.\n6. Если в тексте нет достаточных оснований для какого-либо отношения между данными сущностями, напишите ровно одну фразу: «Отношения между этими сущностями нет.»\n7. Не добавляйте заголовков, пояснений, оговорок, метакомментариев — только текст объяснения.\n\nПервая именованная сущность: {first_entity_in_text}\n\nВторая именованная сущность: {second_entity_in_text}\n\nТекст:\n\n```text\n{source_text}\n```",
    "context": "{\"first_entity_in_text\": \"Егор Летов\", \"second_entity_in_text\": \"российский\", \"source_text\": \"10-летие смерти Егора Летова: группа «Були для бабули» выпустила юбилейный сингл Группа Були для бабули Петербургская кавер-рок-группа «Були для бабули» (бывшие «Рычаги машин») отмечает 10-летие со дня смерти известного советского и российского певца из Омска Егора Летова и в связи с этим выпустила сингл на его стихи. Музыкальный ряд участники группы позаимствовали у индастриал-метал-группы Pain — за основу взята её песня Shut Your Mouth, а положенные на неё стихи Летова являются текстом его песни «Харакири» с альбома 1989 года «Тошнота». Сингл традиционно выпущен в виде релиза в соцсети Вконтакте, популярной у аудитории проекта. Над ним, по традиции, работали как постоянные, так и сессионные музыканты — josef kshetunsky (компиляция, голос, бас), Diego, бывший участник группы Fruktы (запись, ударные, программирование), Heinrich Neumann (гитара), S. Tony, вокалист группы Dominia (сведение). Оформлением сингла занималась петербургский художник Приана Яцунами. Как и предыдущая работа «Какого не спишь?», новая песня войдет в готовящийся к выходу альбом, полностью состоящий из компиляций текстов русских исполнителей на зарубежную музыку. Релиз альбома запланирован на весну. Как ранее сообщали Викиновости, первый альбом группы «Були для бабули» «Вентилятор им. А. Абдулова» вышел в апреле, а второй — «Лёғкие бабки» — в ноябре прошлого года.\"}",
    "true_answer": "Егор Летов является российским певцом."
}

Usage

Loading the Dataset

The dataset can be loaded using the Hugging Face datasets library. You can load the entire dataset or specific configurations:

from datasets import load_dataset

# Load all configurations
dataset = load_dataset("bond005/NEREL_bench")

# Load a specific configuration
entity_recognition = load_dataset("bond005/NEREL_bench", "entity_recognition")
entity_definition = load_dataset("bond005/NEREL_bench", "entity_definition")
relation_extraction = load_dataset("bond005/NEREL_bench", "relation_extraction")
relation_definition = load_dataset("bond005/NEREL_bench", "relation_definition")

# Access the test split
test_data = entity_recognition["test"]
print(f"Number of examples: {len(test_data)}")

Evaluation Example

Below is a simple example of how to evaluate a model on the entity_recognition task:

from datasets import load_dataset
import json

def evaluate_entity_recognition(tokenizer, model, dataset):
    """
    Evaluate a model on the entity_recognition configuration.
    
    Args:
        model: An LLM with a generate method
        dataset: The loaded NEREL-bench entity_recognition dataset
    
    Returns:
        Dictionary with precision, recall, and F1 scores
    """
    total_precision = 0
    total_recall = 0
    
    for example in dataset["test"]:
        # Generate model prediction
        input_prompt = example["instruction"].format(**json.loads(example["context"]))
        input_text = tokenizer.apply_chat_template(
            [{"role": "user", "content": input_prompt}],
            tokenize=False,
            add_generation_prompt=True
        )
        model_inputs = tokenizer([input_text], return_tensors="pt").to(model.device)
        generated_ids = model.generate(
            **model_inputs,
            max_new_tokens=512
        )
        generated_ids = [
            output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
        ]
        prediction = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
        
        # Parse predicted and reference entities
        predicted_entities = set(prediction.split("\n"))
        reference_entities = set(example["true_answer"].split("\n"))
        
        # Calculate metrics
        num_predicted = len(predicted_entities)
        num_reference = len(reference_entities)
        num_same = len(predicted_entities & reference_entities)
        if num_predicted > 0:
            precision = num_same / num_predicted
            total_precision += precision
        if num_reference > 0:
            recall = num_same / num_reference
            total_recall += recall
    
    n = len(dataset["test"])
    avg_precision = total_precision / n
    avg_recall = total_recall / n
    f1 = 2 * (avg_precision * avg_recall) / (avg_precision + avg_recall) if (avg_precision + avg_recall) > 0 else 0
    
    return {
        "precision": avg_precision,
        "recall": avg_recall,
        "f1": f1
    }

# Usage
dataset = load_dataset("bond005/NEREL_bench", "entity_recognition")
# results = evaluate_entity_recognition(your_model, dataset)

Limitations

While NEREL-bench provides a valuable resource for evaluating LLMs on Russian knowledge graph construction tasks, several limitations should be considered:

1. Dataset Size

The benchmark contains approximately 3,900 examples across all configurations, which may be insufficient for drawing statistically robust conclusions about model performance. Researchers should consider using this benchmark alongside other Russian NLP resources and report confidence intervals where appropriate.

2. Domain Coverage

The underlying NEREL corpus is primarily composed of news and media texts, which may not fully represent the diversity of domains where knowledge graph construction is needed. Models performing well on this benchmark may not generalize equally well to scientific literature, legal documents, or other specialized domains.

3. Entity and Relation Types

The dataset covers a specific set of entity and relation types defined in the original NEREL annotation scheme. Models evaluated on this benchmark should be understood as performing well on these particular types, not necessarily on all possible entity and relation categories that might be needed in real-world applications.

4. Definition Subjectivity

The entity_definition and relation_definition configurations involve tasks where multiple valid answers may exist. While the validation process helped ensure quality, evaluating model outputs against single reference answers may not fully capture the quality of alternative but equally valid definitions.

5. Language Specificity

The benchmark is exclusively in Russian, limiting its applicability for evaluating multilingual models or comparing performance across languages. The linguistic characteristics of Russian (rich morphology, relatively free word order, Cyrillic script) may affect how well findings transfer to other languages.

Ethical Considerations

1. Privacy and Personal Data

The NEREL corpus contains mentions of real individuals, organizations, and locations extracted from publicly available sources. While this is standard practice for named entity recognition datasets, users should be aware that model outputs may include information about real people and organizations. Applications using models trained or evaluated on this data should implement appropriate safeguards.

2. Potential Misuse

Knowledge graph construction capabilities could potentially be misused for surveillance, unauthorized profiling, or other harmful purposes. Users of this benchmark should ensure their applications comply with applicable privacy regulations and ethical guidelines for AI development.

3. Bias Considerations

As with any dataset derived from real-world texts, NEREL-bench may reflect biases present in the source materials. The news texts that form the basis of NEREL may over-represent certain viewpoints, geographic regions, or demographic groups. Models evaluated on this benchmark should be assessed for potential biases in entity recognition, relation extraction, and definition generation.

Citation

If you use NEREL-bench in your research, please cite both this dataset and the original NEREL paper:

BibTeX

@dataset{bondarenko2026nerelbench,
  title={NEREL-bench: A Benchmark for Evaluating LLMs on Russian Knowledge Graph Construction Tasks},
  author={Bondarenko, Ivan},
  year={2026},
  publisher = {Hugging Face},
  journal = {Hugging Face Datasets},
  howpublished = {\url{https://huggingface.co/datasets/bond005/NEREL_instruct}}
}

@inproceedings{loukachevitch2021nerel,
  title={{NEREL: A Russian} Dataset with Nested Named Entities, Relations and Events},
  author={Loukachevitch, Natalia and Artemova, Ekaterina and Batura, Tatiana and Braslavski, Pavel and Denisov, Ilia and Ivanov, Vladimir and Manandhar, Suresh and Pugachev, Alexander and Tutubalina, Elena},
  booktitle={Proceedings of RANLP},
  pages={876--885},
  year={2021}
}

Additional Information

Dataset Curators

The dataset was curated by Ivan Bondarenko, associate professor and researcher at Novosibirsk State University.

Licensing Information

The dataset is released under the MIT License, which permits both academic and commercial use with proper attribution. Users are free to use, modify, and distribute the dataset, provided they include the original copyright notice and license terms.

Contact Information

For questions, issues, or contributions related to the dataset, please:

• Open an issue on the HuggingFace repository: bond005/NEREL_bench
• Contact the curator through the email bond005@yandex.ru

Acknowledgments

This work builds upon the original NEREL dataset and the NEREL_instruct instruction-tuning dataset. The author gratefully acknowledges the creators of these resources for making them publicly available. Special thanks to the annotators and researchers involved in the original NEREL project, whose foundational work made this benchmark possible.