evaluation/arguments.py

import argparse
import os

def get_args():
    parser = argparse.ArgumentParser(description="ChatQA-HF")

    ## model
    parser.add_argument('--model-id', type=str, default='', help='model id')
    parser.add_argument('--model-folder', type=str, default='', help='path to the folder containing the model')
    parser.add_argument('--model-name', type=str, default='', help='name of the model')

    ## dataset path
    parser.add_argument('--data-folder', type=str, default='', help='path to the datafolder of ChatRAG Bench')
    parser.add_argument('--output-folder', type=str, default='', help='path to the datafolder of ChatRAG Bench')
    parser.add_argument('--eval-dataset', type=str, default='')
    parser.add_argument('--doc2dial-path', type=str, default='doc2dial/test.json')
    parser.add_argument('--convfinqa-path', type=str, default='convfinqa/test.json')
    parser.add_argument('--quac-path', type=str, default='quac/test.json')
    parser.add_argument('--qrecc-path', type=str, default='qrecc/test.json')
    parser.add_argument('--doqa-cooking-path', type=str, default='doqa_cooking/test.json')
    parser.add_argument('--doqa-travel-path', type=str, default='doqa_travel/test.json')
    parser.add_argument('--doqa-movies-path', type=str, default='doqa_movies/test.json')
    parser.add_argument('--hybridial-path', type=str, default='hybridial/test.json')
    parser.add_argument('--inscit-path', type=str, default='inscit/test.json')

    ## others
    parser.add_argument('--out-seq-len', type=int, default=64)
    parser.add_argument('--num-ctx', type=int, default=5)
    parser.add_argument('--max-tokens', type=int, default=64)
    parser.add_argument('--expected-samples', type=int, default=500, help='expected number of samples in dataset for completion check')
    parser.add_argument('--stop-strings', type=str, nargs='+', default=["<|endoftext|>", "<extra_id_1>", "<extra_id_1>User"], help='stop strings for generation')
    parser.add_argument('--device', type=str, default='cpu', help='device to run on: cpu or cuda')
    parser.add_argument('--limit', type=int, default=None, help='limit the number of samples to process')

    args = parser.parse_args()

    return args

def get_args_scores():
    parser = argparse.ArgumentParser(description="ChatRAG Evaluation Scores")

    # Directory paths
    parser.add_argument('--results-dir', type=str, required=True, 
                        help='Directory containing model prediction results (subdirectories for each model)')
    parser.add_argument('--data-path', type=str, required=True,
                        help='Path to ground truth data directory containing JSON files')
    parser.add_argument('--output-csv', type=str, default=None,
                        help='Output CSV file path (default: <results_dir>/scores.csv)')
    
    # Dataset options
    parser.add_argument('--datasets', type=str, nargs='+',
                        default=['doc2dial', 'quac', 'qrecc', 'topiocqa', 'inscit', 
                                'coqa', 'hybridial', 'sqa', 'doqa_cooking', 
                                'doqa_travel', 'doqa_movies', 'convfinqa'],
                        help='List of datasets to evaluate')
    
    # Dataset file paths (relative to data-path)
    parser.add_argument('--doc2dial-path', type=str, default='doc2dial/test.json')
    parser.add_argument('--convfinqa-path', type=str, default='convfinqa/test.json')
    parser.add_argument('--quac-path', type=str, default='quac/test.json')
    parser.add_argument('--qrecc-path', type=str, default='qrecc/test.json')
    parser.add_argument('--doqa-cooking-path', type=str, default='doqa_cooking/test.json')
    parser.add_argument('--doqa-travel-path', type=str, default='doqa_travel/test.json')
    parser.add_argument('--doqa-movies-path', type=str, default='doqa_movies/test.json')
    parser.add_argument('--hybridial-path', type=str, default='hybridial/test.json')
    parser.add_argument('--inscit-path', type=str, default='inscit/test.json')

    args = parser.parse_args()
    return args