| |
| |
| """ |
| Coding Excellence 日本語版データセット生成器 (チャット形式) |
| ========================================================== |
| Fable-5-traces のコーディング性能分布を分析し、 |
| そのパターンを日本語で強化注入したコード生成データセットを Alpaca/ShareGPT 形式で生成します。 |
| |
| 出力形式: {"instruction": "...", "input": "...", "output": "..."} |
| |
| 特徴: |
| - 指示・思考過程・コメントをすべて日本語で記述 |
| - コード自体は英語のまま（変数名・標準API）が、説明は日本語 |
| - Fable-5 の5因子（厚いCoT, 自己指示, エラー予測, 検証, 構造化コード）を日本語で再現 |
| """ |
|
|
| import json |
| import random |
| import sys |
| import argparse |
| import numpy as np |
|
|
| |
| |
| |
|
|
| |
| LANGUAGES = { |
| 'python': 0.30, |
| 'javascript': 0.25, |
| 'typescript': 0.15, |
| 'html+css+js': 0.10, |
| 'node.js/express': 0.08, |
| 'react': 0.07, |
| 'bash/shell': 0.03, |
| 'go': 0.02, |
| } |
|
|
| |
| PROJECT_TYPES = [ |
| "Webアプリケーション", "REST APIサーバ", "CLIツール", "データ処理パイプライン", |
| "ゲームエンジン", "リアルタイムチャットアプリ", "データベースマイグレーション", "認証システム", |
| "ファイル変換ツール", "Webスクレイパー", "自動化スクリプト", "テストフレームワーク", |
| "デプロイパイプライン", "監視ダッシュボード", "APIクライアントライブラリ", |
| "状態管理システム", "UIコンポーネントライブラリ", "ミドルウェアシステム", |
| "キャッシングレイヤ", "ロギングシステム", "設定管理マネージャ", |
| "タスクキュー", "イベントエミッタ", "プラグインシステム", |
| ] |
|
|
| |
| PROJECT_TYPES_EN = { |
| "Webアプリケーション": "web_application", |
| "REST APIサーバ": "rest_api_server", |
| "CLIツール": "cli_tool", |
| "データ処理パイプライン": "data_pipeline", |
| "ゲームエンジン": "game_engine", |
| "リアルタイムチャットアプリ": "chat_app", |
| "データベースマイグレーション": "db_migration", |
| "認証システム": "auth_system", |
| "ファイル変換ツール": "file_converter", |
| "Webスクレイパー": "web_scraper", |
| "自動化スクリプト": "automation_script", |
| "テストフレームワーク": "test_framework", |
| "デプロイパイプライン": "deploy_pipeline", |
| "監視ダッシュボード": "monitoring_dashboard", |
| "APIクライアントライブラリ": "api_client", |
| "状態管理システム": "state_manager", |
| "UIコンポーネントライブラリ": "ui_components", |
| "ミドルウェアシステム": "middleware_system", |
| "キャッシングレイヤ": "caching_layer", |
| "ロギングシステム": "logging_system", |
| "設定管理マネージャ": "config_manager", |
| "タスクキュー": "task_queue", |
| "イベントエミッタ": "event_emitter", |
| "プラグインシステム": "plugin_system", |
| } |
|
|
| |
| CODE_QUALITY_PATTERNS = { |
| 'has_comments': 0.75, |
| 'has_docstrings': 0.50, |
| 'has_error_handling': 0.65, |
| 'has_config': 0.45, |
| 'has_exports': 0.35, |
| 'has_logging': 0.40, |
| 'has_type_hints': 0.30, |
| 'has_tests': 0.20, |
| } |
|
|
| |
| COT_LEN_MEAN = 4000 |
| COT_LEN_STD = 1500 |
| COT_LEN_MIN = 1000 |
| COT_LEN_MAX = 14000 |
|
|
| |
| CODE_LINES_MEAN = 200 |
| CODE_LINES_STD = 150 |
| CODE_LINES_MIN = 30 |
| CODE_LINES_MAX = 800 |
|
|
|
|
| def truncated_gauss(mean, std, lo, hi): |
| v = random.gauss(mean, std) |
| return int(max(lo, min(hi, v))) |
|
|
|
|
| def pick_weighted(items): |
| total = sum(items.values()) |
| r = random.random() * total |
| c = 0 |
| for item, weight in items.items(): |
| c += weight |
| if r <= c: |
| return item |
| return list(items.keys())[-1] |
|
|
|
|
| |
| |
| |
|
|
| def gen_code_python_ja(project_type, features): |
| """Pythonコード生成（日本語コメント・高品質）""" |
| en_name = PROJECT_TYPES_EN.get(project_type, project_type) |
| class_name = ''.join(word.capitalize() for word in en_name.split('_')[:3]) + 'Manager' |
| |
| lines = [] |
| |
| |
| imports = [ |
| 'import os', 'import sys', 'import json', 'import logging', |
| 'from typing import Optional, List, Dict, Any', |
| 'from dataclasses import dataclass', |
| 'from pathlib import Path', |
| ] |
| if 'api' in project_type or 'server' in project_type or 'API' in project_type: |
| imports.append('from fastapi import FastAPI, HTTPException') |
| if 'データベース' in project_type or 'db' in project_type or 'マイグレーション' in project_type: |
| imports.append('import sqlite3 # 必要に応じて適切なDBドライバに変更') |
| if 'CLI' in project_type: |
| imports.append('import argparse') |
| if 'スクレイパー' in project_type: |
| imports.append('import requests\nfrom bs4 import BeautifulSoup') |
| |
| random.shuffle(imports) |
| lines.extend(imports[:random.randint(4, len(imports))]) |
| lines.append('') |
| |
| |
| lines.append('# === ロギング設定 ===') |
| lines.append('logging.basicConfig(') |
| lines.append(' level=logging.INFO,') |
| lines.append(" format='%(asctime)s - %(name)s - %(levelname)s - %(message)s'") |
| lines.append(')') |
| lines.append(f'logger = logging.getLogger(__name__)') |
| lines.append('') |
| |
| |
| lines.append('# === 設定管理（環境変数から読み込み） ===') |
| lines.append('class Config:') |
| lines.append(' """アプリケーション設定。環境変数から初期化される。"""') |
| env_vars = [ |
| f" DEBUG = os.getenv('DEBUG', 'false').lower() == 'true' # デバッグモード", |
| f" PORT = int(os.getenv('PORT', '8000')) # サーバポート番号", |
| f" HOST = os.getenv('HOST', '0.0.0.0') # バインドアドレス", |
| f" LOG_LEVEL = os.getenv('LOG_LEVEL', 'INFO') # ログレベル", |
| f" MAX_RETRIES = int(os.getenv('MAX_RETRIES', '3')) # 最大リトライ回数", |
| f" TIMEOUT = int(os.getenv('TIMEOUT', '30')) # タイムアウト（秒）", |
| ] |
| if 'データベース' in project_type or 'db' in project_type: |
| env_vars.append(f" DATABASE_URL = os.getenv('DATABASE_URL', 'sqlite:///app.db') # DB接続文字列") |
| if 'api' in project_type or 'API' in project_type: |
| env_vars.append(f" API_KEY = os.getenv('API_KEY', '') # APIキー") |
| |
| lines.extend(env_vars[:random.randint(4, len(env_vars))]) |
| lines.append('') |
| |
| |
| lines.append(f'class {class_name}:') |
| lines.append(f' """') |
| lines.append(f' {project_type}のメイン実装。') |
| lines.append(f' エラーハンドリングとロギングを備えたビジネスロジックを提供する。') |
| lines.append(f' """') |
| lines.append('') |
| lines.append(' def __init__(self, config: Optional[Config] = None):') |
| lines.append(' """マネージャを初期化。config未指定時はデフォルト設定を使用。"""') |
| lines.append(' self.config = config or Config()') |
| lines.append(' logger.info(f"{self.__class__.__name__} を初期化しました")') |
| lines.append('') |
| lines.append(' @staticmethod') |
| lines.append(f' def validate_input(data: Dict[str, Any]) -> bool:') |
| lines.append(f' """入力データのバリデーションを行う。"""') |
| lines.append(' try:') |
| lines.append(' if not isinstance(data, dict):') |
| lines.append(' raise TypeError("入力はディクショナリ形式である必要があります")') |
| lines.append(' logger.debug(f"入力バリデーション成功: {len(data)} キー")') |
| lines.append(' return True') |
| lines.append(' except Exception as e:') |
| lines.append(' logger.error(f"バリデーションエラー: {e}")') |
| lines.append(' return False') |
| lines.append('') |
| lines.append(' def process(self, data: Dict[str, Any]) -> Dict[str, Any]:') |
| lines.append(' """') |
| lines.append(f' {project_type}のメイン処理。') |
| lines.append(' Args:') |
| lines.append(' data: 入力データ') |
| lines.append(' Returns:') |
| lines.append(' 処理結果') |
| lines.append(' Raises:') |
| lines.append(' ValueError: 処理失敗時') |
| lines.append(' """') |
| lines.append(' if not self.validate_input(data):') |
| lines.append(' logger.warning("不正な入力のためデフォルト値を使用します")') |
| lines.append(' data = {}') |
| lines.append(' try:') |
| lines.append(' logger.info("処理を開始します")') |
| |
| logic_lines = [ |
| ' result = {"status": "success", "data": {}}', |
| ' for key, value in data.items():', |
| ' if value is not None:', |
| f' result["data"][key] = self._transform(value)', |
| ' logger.info(f"{len(result["data"])} 件のデータを処理しました")', |
| ' return result', |
| ' except Exception as e:', |
| ' logger.error(f"処理中にエラーが発生しました: {e}", exc_info=True)', |
| ' return {"status": "error", "message": str(e)}', |
| ] |
| lines.extend(logic_lines) |
| lines.append('') |
| lines.append(' def _transform(self, value: Any) -> Any:') |
| lines.append(' """値の変換処理（サブクラスでオーバーライド可能）。"""') |
| lines.append(' return value') |
| lines.append('') |
| |
| |
| lines.append('') |
| lines.append('def main():') |
| lines.append(' """CLIエントリポイント。コマンドライン引数をパースして実行。"""') |
| lines.append(' parser = argparse.ArgumentParser(') |
| lines.append(f' description="{project_type} - コマンドラインツール"') |
| lines.append(' )') |
| lines.append(' parser.add_argument("--config", "-c", help="設定ファイルパス")') |
| lines.append(' parser.add_argument("--verbose", "-v", action="store_true", help="詳細ログ出力")') |
| lines.append(' args = parser.parse_args()') |
| lines.append('') |
| lines.append(' if args.verbose:') |
| lines.append(' logging.getLogger().setLevel(logging.DEBUG)') |
| lines.append('') |
| lines.append(' try:') |
| lines.append(f' manager = {class_name}()') |
| lines.append(' result = manager.process({"input": "test"})') |
| lines.append(f' logger.info(f"結果: {{result}}")') |
| lines.append(' except Exception as e:') |
| lines.append(' logger.critical(f"致命的エラー: {e}")') |
| lines.append(' sys.exit(1)') |
| lines.append('') |
| lines.append('if __name__ == "__main__":') |
| lines.append(' main()') |
| |
| return '\n'.join(lines) |
|
|
|
|
| def gen_code_javascript_ja(project_type, features): |
| """JavaScriptコード生成（日本語コメント版）""" |
| en_name = PROJECT_TYPES_EN.get(project_type, project_type) |
| |
| lines = [] |
| |
| |
| if random.random() < 0.5: |
| lines.append("'use strict';") |
| lines.append('') |
| lines.append('const fs = require("fs");') |
| lines.append('const path = require("path");') |
| lines.append('const { EventEmitter } = require("events");') |
| if 'api' in project_type or 'API' in project_type or 'server' in project_type or 'サーバ' in project_type: |
| lines.append('const express = require("express");') |
| if 'データベース' in project_type or 'db' in project_type: |
| lines.append('const Database = require("better-sqlite3");') |
| else: |
| lines.append('import fs from "fs";') |
| lines.append('import path from "path";') |
| lines.append('import { EventEmitter } from "events";') |
| if 'api' in project_type or 'API' in project_type or 'server' in project_type: |
| lines.append('import express from "express";') |
| |
| lines.append('') |
| |
| |
| lines.append('// === 簡易ロガー ===') |
| lines.append('const logger = {') |
| lines.append(' info: (...args) => console.log(`[INFO]`, ...args),') |
| lines.append(' warn: (...args) => console.warn(`[WARN]`, ...args),') |
| lines.append(' error: (...args) => console.error(`[ERROR]`, ...args),') |
| lines.append(' debug: (...args) => {') |
| lines.append(' if (process.env.DEBUG) console.log(`[DEBUG]`, ...args)') |
| lines.append(' },') |
| lines.append('};') |
| lines.append('') |
| |
| |
| lines.append('// === 設定（環境変数 + デフォルト値） ===') |
| lines.append('const config = {') |
| lines.append(' port: parseInt(process.env.PORT, 10) || 3000, // サーバポート'), |
| lines.append(' host: process.env.HOST || "0.0.0.0", // バインドアドレス'), |
| lines.append(' debug: process.env.DEBUG === "true", // デバッグモード'), |
| lines.append(' maxRetries: parseInt(process.env.MAX_RETRIES, 10) || 3, // 最大リトライ'), |
| lines.append(' timeout: parseInt(process.env.TIMEOUT, 10) || 5000, // タイムアウト(ms)'), |
| lines.append('};') |
| lines.append('') |
| |
| |
| class_name = ''.join(word.capitalize() for word in en_name.split('_')[:3]) + 'Handler' |
| lines.append('/**') |
| lines.append(f' * {project_type} ハンドラクラス') |
| lines.append(' * エラーハンドリングとロギングを備えたメインロジック') |
| lines.append(' */') |
| lines.append(f'class {class_name} extends EventEmitter {{') |
| lines.append(' /**') |
| lines.append(' * @param {Object} [options] - 設定の上書き値') |
| lines.append(' */') |
| lines.append(' constructor(options = {}) {') |
| lines.append(' super();') |
| lines.append(' this.options = { ...config, ...options };') |
| lines.append(' this.initialized = false;') |
| lines.append(f' logger.info(`${{this.constructor.name}} を作成しました`);') |
| lines.append(' }') |
| lines.append('') |
| lines.append(' /** ハンドラを初期化する */') |
| lines.append(' async init() {') |
| lines.append(' try {') |
| lines.append(' logger.info("初期化を開始します...");') |
| lines.append(' this.initialized = true;') |
| lines.append(' this.emit("ready");') |
| lines.append(' logger.info("初期化が完了しました");') |
| lines.append(' } catch (err) {') |
| lines.append(f' logger.error(`初期化失敗: ${{err.message}}`);') |
| lines.append(' throw err;') |
| lines.append(' }') |
| lines.append(' }') |
| lines.append('') |
| lines.append(' /**') |
| lines.append(f' * {project_type}のメイン処理') |
| lines.append(' * @param {Object} data - 入力データ') |
| lines.append(' * @returns {Promise<Object>} 処理結果') |
| lines.append(' */') |
| lines.append(' async process(data) {') |
| lines.append(' if (!this.initialized) await this.init();') |
| lines.append(' logger.info("処理を開始します...");') |
| lines.append(' try {') |
| lines.append(' const result = this._transform(data);') |
| lines.append(' logger.debug("変換処理が成功しました");') |
| lines.append(' return { success: true, data: result };') |
| lines.append(' } catch (err) {') |
| lines.append(f' logger.error(`処理失敗: ${{err.message}}`);') |
| lines.append(' return { success: false, error: err.message };') |
| lines.append(' }') |
| lines.append(' }') |
| lines.append('') |
| lines.append(' /** @private */') |
| lines.append(' _transform(data) {') |
| lines.append(' // サブクラスでオーバーライド') |
| lines.append(' return data;') |
| lines.append(' }') |
| lines.append('}') |
| lines.append('') |
| |
| |
| if random.random() < 0.7: |
| lines.append('// 外部公開用エクスポート') |
| lines.append('module.exports = { Handler: HandlerClass, config };') |
| else: |
| lines.append('export { HandlerClass, config };') |
| lines.append('') |
| |
| |
| lines.append('// === メイン実行 ===') |
| lines.append('async function main() {') |
| lines.append(' try {') |
| lines.append(f' const handler = new {class_name}();') |
| lines.append(' const result = await handler.process({ test: true });') |
| lines.append(' logger.info("結果:", JSON.stringify(result, null, 2));') |
| lines.append(' } catch (err) {') |
| lines.append(' logger.error(`メイン処理失敗: ${err}`);') |
| lines.append(' process.exit(1);') |
| lines.append(' }') |
| lines.append('}') |
| lines.append('') |
| lines.append('if (require.main === module) {') |
| lines.append(' main();') |
| lines.append('}') |
| |
| return '\n'.join(lines) |
|
|
|
|
| |
| |
| |
|
|
| REASONING_TEMPLATES_JA = [ |
| |
| """まず、何を作るべきか整理しましょう。 |
| |
| 要件: {project_type} を実装する必要があります。 |
| 以下の点を考慮して設計を進めます： |
| |
| 1. コアとなる機能は{purpose} |
| 2. エラーハンドリングは必須 |
| 3. ロギングによる運用監視の仕組み |
| 4. 環境変数ベースの設定管理 |
| 5. モジュール化されたテスト可能な設計 |
| |
| アーキテクチャの方針として、以下の原則に従います： |
| - 入力バリデーションは処理の最初で実施 |
| - 関心事の分離（関心の分離）を徹底 |
| - エラーバウンダリを適切に設定 |
| - 設定値は外部から注入可能に |
| |
| プロダクション品質のコードにするために、型ヒント、ドキュメンテーション文字列、ロギング、エラーハンドリングを各所に配置します。これにより保守性と運用性が向上します。 |
| |
| それでは実装を進めていきましょう：""", |
|
|
| |
| """この実装について慎重に考えていきます。{project_type} を構築するにあたり、確実に正しく動作するようにしたいと思います。 |
| |
| 主要な課題は以下の通りです： |
| 1. エッジケース（空入力、ネットワーク障害、不正設定など）への対応 |
| 2. 障害に対する耐性（フォールトトレランス） |
| 3. コードの可読性と保守性の確保 |
| |
| 重要な気づき：土台となる設計をしっかり固めることが肝心です。以下のパターンを採用します： |
| - 依存性注入（DI）によるテスタビリティの確保 |
| - 初期段階からのロギング導入（後から追加するのは困難） |
| - 環境変数による設定の外部化 |
| - 単一責任の原則に基づくコード構成 |
| |
| 経験上、エラーハンドリングとロギングは最初から実装すべきです。後から追加しようとすると、コードの大幅な修正が必要になります。また以下の点も重要です： |
| - 入力値のバリデーション |
| - グレースフルデグラデーション（段階的な機能低下） |
| - 意味のあるエラーメッセージ |
| - 障害発生時の適切なクリーンアップ処理 |
| |
| 実装に移りましょう：""", |
|
|
| |
| """この{project_type}の実装では、構造的なアプローチを取ります。 |
| |
| 私の計画： |
| 1. まず基本的な構造（スキャフォールド）を作成 |
| 2. エラーバウンダリを持つコアロジックを追加 |
| 3. 設定管理機構の実装 |
| 4. ロギングとモニタリング機能の追加 |
| 5. エントリポイントの作成 |
| |
| アーキテクチャについて考えています： |
| - メインのクラス/関数がコアロジックを担当 |
| - 設定は外部から注入 |
| - エラーは適切にキャッチしてログ出力 |
| - コードは可読性を重視して整理 |
| |
| 初期実装ができたら、以下の観点でレビューと改善を行います： |
| - より具体的なエラータイプの定義 |
| - デバッグに有用なログメッセージの充実 |
| - 設定の柔軟性向上 |
| - 入力バリデーションの強化 |
| |
| それではコードを書いていきましょう：""", |
|
|
| |
| """{project_type}を構築します。コードを書く前にしっかり計画を立てましょう。 |
| |
| ステップ1: プロジェクト構造のセットアップ |
| - 依存関係が明確なメインモジュールの作成 |
| - ロギングと設定の初期化 |
| - データ構造の定義 |
| |
| ステップ2: コアロジックの実装 |
| - 主要なビジネス要件の処理 |
| - 各操作に対するエラーハンドリング |
| - 重要な状態変化のログ記録 |
| |
| ステップ3: 堅牢性の追加 |
| - 入力バリデーション |
| - 障害モードへの対応 |
| - 必要に応じたリトライロジック |
| - 安全なシャットダウン手順 |
| |
| ステップ4: 実装の検証 |
| - すべてのパスがカバーされているか確認 |
| - エラーメッセージが有用かどうか確認 |
| - 設定が正しく動作するか確認 |
| |
| この構造化されたアプローチで、重要な要素を見逃さないようにします。実装を始めましょう：""", |
|
|
| |
| """品質の高い{project_type}を目指して実装します。 |
| |
| まず設計上の判断： |
| - どのようなエラーが発生しうるか想定し、それぞれに適切なハンドリングを準備 |
| - パフォーマンスと可読性のバランスを考慮 |
| - 運用時のデバッグ容易性を確保 |
| |
| 重要な考慮点： |
| 1. 設定値はすべて環境変数から取得可能にし、デフォルト値を持つこと |
| 2. ログは構造化し、検索可能な形式で出力すること |
| 3. エラーは具体的なメッセージと共に上位レイヤに伝播させること |
| 4. コードには日本語のコメントを付け、意図を明確にすること |
| |
| チェックリスト： |
| - [ ] 入力バリデーションは実装されているか？ |
| - [ ] エラーハンドリングは網羅的か？ |
| - [ ] ロギングは適切なレベルで行われているか？ |
| - [ ] 設定は外部から変更可能か？ |
| - [ ] コードは読みやすく整理されているか？ |
| |
| すべて確認できたら実装します：""", |
| ] |
|
|
|
|
| |
| |
| |
|
|
| INSTRUCTIONS_JA = [ |
| "{project_type}を実装してください。エラーハンドリング、ロギング、環境変数による設定管理を備えたプロダクション品質のコードにしてください。", |
| "実用的な{project_type}を、ベストプラクティスに従って実装してください。エラーハンドリング、ロギング、設定の外部化を含めてください。", |
| "堅牢な{project_type}を、包括的なエラーハンドリング、入力バリデーション、設定可能な動作とともに作成してください。", |
| "{project_type}を、エッジケースを適切に処理できるように実装してください。ロギング、エラーリカバリ、環境ベースの設定を含めてください。", |
| "クリーンアーキテクチャに従った{project_type}を開発してください：関心事の分離、適切なエラーハンドリング、重要なイベントのログ記録、設定の外部化。", |
| "型ヒント、ドキュメンテーション文字列、エラーハンドリング、設定可能なパラメータを備えた、構造の整った{project_type}を書いてください。", |
| "プロダクション品質の{project_type}を、適切なエラーバウンダリ、ロギング基盤、外部化された設定とともに実装してください。", |
| "ソフトウェアエンジニアリングのベストプラクティスに従った{project_type}を作成してください：モジュール設計、エラーハンドリング、ロギング、設定管理。", |
| "実際のプロジェクトで使える{project_type}を実装してください。特にエラー処理と運用面での考慮を重視してください。", |
| "次の{project_type}を、保守性と拡張性を考慮して設計・実装してください。コードコメントは日本語で記述すること。", |
| ] |
|
|
|
|
| def gen_instruction(project_type): |
| """日本語指示文生成""" |
| template = random.choice(INSTRUCTIONS_JA) |
| return template.format(project_type=project_type) |
|
|
|
|
| def gen_input(project_type, language): |
| """日本語入力フィールド""" |
| inputs = [ |
| f"言語: {language}\n環境変数で設定を管理可能にしてください。エラーハンドリングとロギングを含めてください。", |
| f"言語: {language}\n要件: 設定可能な動作、堅牢なエラーハンドリング、構造化ロギング、入力バリデーション", |
| f"言語: {language}\nプロダクションベストプラクティスに従ってください：設定管理、エラーハンドリング、ロギング、テスト対応", |
| f"言語: {language}\n日本語のコメント付きで、実用的なコードを書いてください。", |
| "", |
| ] |
| return random.choice(inputs) |
|
|
|
|
| def gen_output(project_type, language): |
| """出力生成（日本語CoT + コード）""" |
| en_project = PROJECT_TYPES_EN.get(project_type, project_type) |
|
|
| |
| cot = random.choice(REASONING_TEMPLATES_JA).format( |
| project_type=project_type, |
| purpose=random.choice([ |
| "データの処理と変換", |
| "ワークフローの管理と実行", |
| "ビジネスロジックの提供", |
| "コンポーネント間の連携調整", |
| "リソースの管理と最適化", |
| "ユーザー入力の処理と応答生成", |
| ]) |
| ) |
| |
| |
| target_len = truncated_gauss(COT_LEN_MEAN, COT_LEN_STD, COT_LEN_MIN, COT_LEN_MAX) |
| while len(cot) < target_len: |
| cot += '\n\n' + random.choice([ |
| "エッジケースについても考慮する必要があります：空の入力、ネットワーク障害、設定ミスなど。それぞれに対して適切なエラーメッセージとリカバリ戦略を用意します。", |
| "テスト戦略についても考えましょう。各コンポーネントが独立してテストできるように設計します。依存性注入（DI）を活用することでテスタビリティが向上します。", |
| "ロギングについて：本番環境でのデバッグに十分な情報を出力する必要があります。ログレベルは設定可能にし、重要な状態変化は必ず記録します。", |
| "コードは「驚き最小の原則（Principle of Least Surprise）」に従うべきです。関数名は処理内容を明確に表し、副作用はドキュメントに記載し、APIは直感的であるべきです。", |
| "エラーメッセージは「何か問題が発生しました」ではなく、「どこで何がなぜ失敗したのか」を示す必要があります。これによりデバッグと障害対応が容易になります。", |
| "設定には適切なデフォルト値を設定し、コードがすぐに動作するようにします。ただし、重要な動作はすべて環境変数や設定ファイルで上書き可能にします。", |
| "コメントは日本語で記述します。コードの意図や設計判断の理由を説明することで、将来のメンテナンス性を高めます。", |
| "パフォーマンスについても考慮します。過度な最適化は避けつつ、明らかに非効率な処理パターンは回避します。", |
| ]) |
| |
| cot = cot[:target_len] |
| |
| |
| if language == 'python': |
| features = ['comments', 'error_handling', 'config', 'logging', 'cli'] |
| code = gen_code_python_ja(project_type, features) |
| elif language in ('javascript', 'typescript', 'node.js/express'): |
| features = ['comments', 'error_handling', 'config', 'logging'] |
| code = gen_code_javascript_ja(project_type, features) |
| else: |
| code = gen_code_python_ja(project_type, ['comments', 'error_handling']) |
| |
| |
| output = f"{cot}\n\n```{language}\n{code}\n```" |
| |
| return output |
|
|
|
|
| def generate_record(): |
| """1レコード生成""" |
| language = pick_weighted(LANGUAGES) |
| project_type = random.choice(PROJECT_TYPES) |
| |
| instruction = gen_instruction(project_type) |
| input_text = gen_input(project_type, language) |
| output = gen_output(project_type, language) |
| |
| return { |
| "instruction": instruction, |
| "input": input_text, |
| "output": output, |
| } |
|
|
|
|
| def generate_dataset(num_records, output_path): |
| """データセット生成""" |
| records = [] |
| |
| print(f"日本語コーディングデータセットを生成中... {num_records} レコード", file=sys.stderr) |
| |
| for i in range(num_records): |
| record = generate_record() |
| records.append(record) |
| |
| if (i + 1) % 10000 == 0: |
| print(f" {i+1}/{num_records} 生成完了", file=sys.stderr) |
| |
| if output_path: |
| with open(output_path, 'w', encoding='utf-8') as f: |
| for r in records: |
| f.write(json.dumps(r, ensure_ascii=False) + '\n') |
| print(f"{len(records)} レコードを {output_path} に書き込みました", file=sys.stderr) |
| else: |
| for r in records: |
| print(json.dumps(r, ensure_ascii=False)) |
| |
| |
| total_chars = sum(len(r['output']) for r in records) |
| avg_cot = total_chars / len(records) if records else 0 |
| print(f"\n統計: {len(records)} レコード, 平均出力長: {avg_cot:.0f} 文字", file=sys.stderr) |
| |
| return records |
|
|
|
|
| if __name__ == '__main__': |
| ap = argparse.ArgumentParser(description='日本語コーディングエクセレンスデータセット生成器') |
| ap.add_argument('--records', type=int, default=100000, help='生成レコード数') |
| ap.add_argument('--output', type=str, default='coding_excellence_ja.jsonl', help='出力ファイルパス') |
| ap.add_argument('--seed', type=int, default=None, help='乱数シード') |
| args = ap.parse_args() |
| |
| if args.seed is not None: |
| random.seed(args.seed) |
| np.random.seed(args.seed) |
| |
| generate_dataset(args.records, args.output) |
|
|
