AMALIA-LLM-0626-SFT-Dataset-classlangcode

Overview

Este dataset é baseado no amalia-llm/AMALIA-LLM-0626-SFT-Dataset, mantendo integralmente a estrutura das conversações e adicionando metadados obtidos através de classificação automática. O objetivo desta versão é facilitar a seleção, filtragem e construção de subconjuntos especializados para treino e avaliação de modelos de linguagem, sem alterar o conteúdo original das conversações. O dataset original foi desenvolvido para a fase de Supervised Fine-Tuning (SFT) do modelo AMALIA, sendo constituído por conversações em formato instruction-following, predominantemente em Português Europeu. A diferença face ao original é que nesta versão foram acrescentados quatro campos, para acolher os dois tipos de classificação que foram efectuados:

• Identificação de idioma, utilizando o modelo FastText lid.176.bin.
• Classificação de conteúdo, distinguindo entre linguagem natural e código, utilizando o modelo model_quantized.bin do projeto code-natural-language-fasttext-classifier.

Colunas adicionais no dataset

• score Confiança da classificação do idioma.
• code Classificação do conteúdo (NaturalLanguage ou Code).
• code_score Confiança da classificação de conteúdo.

O objetivo destes novos campos é permitir a extração eficiente de subconjuntos do dataset original segundo critérios simples, tais como:

• idioma predominante;
• confiança da classificação do idioma;
• presença de código ou linguagem natural;
• dimensão das conversações;
• combinação destes critérios para construir datasets especializados.
• Dataset Structure

Esta versão não modifica qualquer conteúdo textual (ou formato) do dataset original.

Intended Uses

Este dataset destina-se principalmente a:

• construção de subconjuntos especializados para treino SFT;
• preparação de datasets focados em Português Europeu;
• estudos sobre distribuição de idiomas em datasets conversacionais;
• análise da presença de código em datasets de instruções;
• desenvolvimento de pipelines de filtragem e curadoria de dados.

Classification Models

Language Identification: FastText lid.176.bin, 176 idiomas suportados. Code Detection: FastText model_quantized.bin, kenhktsui/code-natural-language-fasttext-classifier

Dataset URL

https://huggingface.co/datasets/amalia-llm/AMALIA-LLM-0626-SFT-Dataset

classifiers URL

https://huggingface.co/kenhktsui/code-natural-language-fasttext-classifier

Citações

Simplício, A., Vinagre, G., Ramos, M. M., Tavares, D., Ferreira, R., Attanasio, G., Alves, D. M., Calvo, I., Vieira, I., Guerra, R., Furtado, J., Canaverde, B., Paulo, I., Ramos, V., Glória-Silva, D., Faria, M., Treviso, M., Gomes, D., Gomes, P., … Magalhães, J. (2026). AMALIA: A fully open large language model for European Portuguese. In Proceedings of the 17th International Conference on Computational Processing of Portuguese (PROPOR 2026) – Vol. 1 (pp. 380–391). Association for Computational Linguistics. https://aclanthology.org/2026.propor-1.38/

Simplício, A., Vinagre, G., Ramos, M. M., Tavares, D., Ferreira, R., Attanasio, G., Alves, D. M., Calvo, I., Vieira, I., Guerra, R., Furtado, J., Canaverde, B., Paulo, I., Ramos, V., Glória-Silva, D., Faria, M., Treviso, M., Gomes, D., Gomes, P., … Magalhães, J. (2026). AMALIA Technical Report: A fully open source large language model for European Portuguese. arXiv:2603.26511. https://arxiv.org/abs/2603.26511