Dataset Viewer
The dataset viewer is not available for this split.
Cannot load the dataset split (in streaming mode) to extract the first rows.
Error code: StreamingRowsError
Exception: CastError
Message: Couldn't cast
source_id: string
session_id: string
text: string
license: string
title: string
doc_no: int64
to
{'source_id': Value('string'), 'doc_no': Value('int64'), 'title': Value('string'), 'text': Value('string'), 'license': Value('string')}
because column names don't match
Traceback: Traceback (most recent call last):
File "/src/services/worker/src/worker/utils.py", line 99, in get_rows_or_raise
return get_rows(
^^^^^^^^^
File "/src/libs/libcommon/src/libcommon/utils.py", line 272, in decorator
return func(*args, **kwargs)
^^^^^^^^^^^^^^^^^^^^^
File "/src/services/worker/src/worker/utils.py", line 77, in get_rows
rows_plus_one = list(itertools.islice(ds, rows_max_number + 1))
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/iterable_dataset.py", line 2690, in __iter__
for key, example in ex_iterable:
^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/iterable_dataset.py", line 2227, in __iter__
for key, pa_table in self._iter_arrow():
^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/iterable_dataset.py", line 2251, in _iter_arrow
for key, pa_table in self.ex_iterable._iter_arrow():
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/iterable_dataset.py", line 494, in _iter_arrow
for key, pa_table in iterator:
^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/iterable_dataset.py", line 384, in _iter_arrow
for key, pa_table in self.generate_tables_fn(**gen_kwags):
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/packaged_modules/json/json.py", line 299, in _generate_tables
self._cast_table(pa_table, json_field_paths=json_field_paths),
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/packaged_modules/json/json.py", line 128, in _cast_table
pa_table = table_cast(pa_table, self.info.features.arrow_schema)
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/table.py", line 2321, in table_cast
return cast_table_to_schema(table, schema)
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/table.py", line 2249, in cast_table_to_schema
raise CastError(
datasets.table.CastError: Couldn't cast
source_id: string
session_id: string
text: string
license: string
title: string
doc_no: int64
to
{'source_id': Value('string'), 'doc_no': Value('int64'), 'title': Value('string'), 'text': Value('string'), 'license': Value('string')}
because column names don't matchNeed help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
HanDiff Korean Corpus v2 — Sample
⚠️ 사용자 책임 고지: 본 샘플은 7개 소스(라이선스 상이)에서 각 10건씩 추출했습니다. AI Hub(NIA-Research) 출처 데이터는 상업적 사용·재배포가 금지됩니다. 라이선스 준수 책임은 사용자에게 있습니다. 자세한 사항은 §라이선스 + §사용자 책임 참조.
각 소스에서 무작위 10건을 추출한 inspection sample 입니다.
전체 데이터는 neuralfoundry-coder/handiff-ko-corpus-v2 에서 확인하세요.
포함 파일
각 소스별 <source>_sample.jsonl (10건) + 통합 samples_all.jsonl + tokenizer.
각 record에는 source_id + license 필드가 있어 라이선스 추적이 가능합니다.
| Source | License | 도메인 |
|---|---|---|
| kowiki_v1.jsonl | CC-BY-SA-4.0 | 백과 (위키) |
| aihub_110_nonmun.jsonl | LicenseRef-NIA-Research | 학술 논문 |
| aihub_110_pannrei.jsonl | LicenseRef-NIA-Research | 법률 판례 |
| aihub_110_beoblyeong.jsonl | LicenseRef-NIA-Research | 법령 제·개정문 |
| aihub_71557_news.jsonl | LicenseRef-NIA-Research | 뉴스 본문 |
| aihub_86_emotion.jsonl | LicenseRef-NIA-Research | 감성 대화 |
| aihub_116_dialog.jsonl | LicenseRef-NIA-Research | 도메인 대화 |
사용 (예: 토크나이저 호환성 점검)
huggingface-cli download neuralfoundry-coder/handiff-ko-corpus-v2-sample \
--repo-type dataset --local-dir samples/
head samples/samples_all.jsonl
라이선스 (요약)
- kowiki: CC BY-SA 4.0 — 출처 표기 + 동일 라이선스
- aihub_110, 71557, 86, 116: AI Hub NIA Research Use License — 상업 사용 금지, 연구·학술만.
사용자 책임 (Disclaimer)
- 라이선스 준수 책임은 사용자(다운로더)에게 있습니다.
- 본 샘플의 공개 배포는 원 라이선스 의무를 사용자가 면제받음을 의미하지 않습니다.
- AI Hub 출처 record를 상업적으로 사용한 경우의 모든 법적 책임은 사용자에게 있으며, 업로더(neuralfoundry-coder)는 어떠한 책임도 지지 않습니다.
- 본 데이터셋은 ‘있는 그대로(AS IS)’ 제공되며, 보증은 없습니다.
전체 데이터셋: https://huggingface.co/datasets/neuralfoundry-coder/handiff-ko-corpus-v2
- Downloads last month
- 54