ogulcanakca/epdk_sft

EPDK SFT Veri Seti (v1.0) - Sentetik Soru-Cevap

Bu repository, ogulcanakca/epdk_corpus veri setindeki ham EPDK mevzuat metinleri kullanılarak üretilmiş, sentetik Soru-Cevap (QA) veri seti içerir.

1. Pipeline

1. Kaynak Veri: ogulcanakca/epdk_corpus (v2)
2. Generator Model: obss/mt5-small-3task-both-tquad2
3. Pipeline: obss/turkish-question-generation reposundaki GenerationAPI kullanılmıştır.
4. Süreç:
   • epdk_corpus'taki uzun dokümanlar, mt5-small modelinin bağlam penceresine (max_source_length: 512) sığması için yönetilebilir chunk'lara bölünmüştür.
   • GenerationAPI'nin answer-extraction görevi, önce bu parçalardan "cevap olabilecek" anahtar kelimeleri çıkarmıştır.
   • question-generation görevi, bu cevapları kullanarak metne sadık ve halüsinasyondan uzak sorular üretmiştilmeye amaçlanmıştır.

from datasets import load_dataset
ds = load_dataset("ogulcanakca/epdk_sft", revision="main")

Örnek Veri

{
  "question": "Çevresel Etki Değerlendirmesi Olumlu Kararının mücbir sebepler dışında ne kadar süre içerisinde Kuruma sunulması zorunludur?",
  "answer": "bir yıl içerisinde"
}

Citation

• obss/mt5-small-3task-both-tquad2 model:

@article{akyon2022questgen,
    author = {Akyon, Fatih Cagatay and Cavusoglu, Ali Devrim Ekin and Cengiz, Cemil and Altinuc, Sinan Onur and Temizel, Alptekin},
    doi = {10.3906/elk-1300-0632.3914},
    journal = {Turkish Journal of Electrical Engineering and Computer Sciences},
    title = {{Automated question generation and question answering from Turkish texts}},
    url = {https://journals.tubitak.gov.tr/elektrik/vol30/iss5/17/},
    year = {2022}
}