scripts/ppl.sh

#!/bin/bash

MONTHS=(2407 2408 2409 2410 2411 2412 2501 2502 2503 2504 2505 2506)

OUT_ROOT="./out/eval/openllama_ppl"

BASE_ROOT="./out/pretrain/openllama"

LOG_ROOT="./out/eval/openllama_ppl/teelogs"

DATA_ROOT="litgpt/data/arxiv_openllama_tokenized"

CONFIG_ROOT="config_hub/eval/openllama_cl_ppl.yaml"


export CUDA_VISIBLE_DEVICES="4,5,6,7"

mkdir -p "$LOG_ROOT"

for ((i=0; i<${#MONTHS[@]}; i++)); do
    MONTH=${MONTHS[$i]}
    INIT_CKPT="${BASE_ROOT}/${MONTH}/final"

    OUT_DIR="${OUT_ROOT}/${MONTH}"
    LOG_FILE="${LOG_ROOT}/${MONTH}.txt"

    mkdir -p "$OUT_DIR"

    echo "init_ckpt: $INIT_CKPT"
    echo "out_dir:   $OUT_DIR"

    litgpt perplexity \
        --config $CONFIG_ROOT \
        --out_dir $OUT_DIR \
        --initial_checkpoint_dir $INIT_CKPT \
        --data_dir $DATA_ROOT \
        2>&1 | tee "$LOG_FILE"
done