| # 全量题池构建:三步筛选跑批(parcc,单卡 B200,Slurm)(用户 2026-09-06) |
|
|
| ## 目标 |
| 对 benchmark 全部题目建题池。三步跑批,任一步答对即出池,其余全部保留并带标签。 |
| 产物是一张逐题表和一个可查询的题池数据库,供后续的规格查询与 Vendi 选择使用。 |
|
|
| ## 输入 |
| - 已下载的 benchmark,路径与格式见现有 loader;先补齐 loader 缺失的 benchmark。 |
| - 统一 item schema:benchmark、item_id、video_id、video_path、question、options(列表)、answer_idx、 |
| duration、declared_task、declared_scene、license。选项缺失或 ground truth 非选项的题标 format=open,不进后续跑批。 |
|
|
| ## 步骤 0:筛(CPU) |
| - 视频内容哈希去重,得到 video_id;同 benchmark 内题干加选项文本近重复(bge-large-en-v1.5,余弦 > 0.9)只留一道。 |
| - 判分规则固定为三步级联(选项字母、答案行正则、选项文本),与主文 3.2 一致。 |
| - 输出 screen_counts_full.csv:每个 benchmark 的总题数、去重后题数、format=open 题数。 |
| |
| ## 步骤 1:盲测(Qwen3-VL-8B,文本模式,vLLM) |
| - 每题 4 次选项置换,每次只做一个前向,取四个选项字母的 log-prob,选最大者。 |
| - 记录 blind_acc_4perm(0 到 1)与 blind_margin = 平均 log-prob 边际。 |
| - 出池条件:blind_acc_4perm 在 chance 之上显著(单侧二项检验,n=4 太小,改用 log-prob 边际的阈值: |
| 正确选项 log-prob 高于其余三者均值超过 log(2),且 4 次置换中至少 3 次选中正确项)。 |
|
|
| ## 步骤 2:单帧(Qwen3-VL-8B,448 像素,vLLM) |
| - 每题取视频中点一帧,一个前向,取选项 log-prob。 |
| - 记录 sf_correct、sf_margin。 |
| - 出池条件:sf_correct 且 sf_margin > log(2)。 |
|
|
| ## 步骤 3:32 帧(Qwen3-VL-2B,448 像素,vLLM) |
| - 每题均匀 32 帧,一个前向,取选项 log-prob。 |
| - 记录 v32_2b_correct、v32_2b_margin。 |
| - 出池条件:v32_2b_correct 且 v32_2b_margin > log(2)。 |
|
|
| ## 调度 |
| - 每片一个 vLLM 进程,端口按 SLURM_ARRAY_TASK_ID 错开。 |
| - 帧解码单独一个 CPU 数组作业先跑,缓存到本地 SSD,格式 jpg,命名 video_id/frame_k.jpg。 |
| - 步骤 1 不依赖帧,先跑;步骤 2 和 3 等帧缓存完成。 |
| - 断点续跑:逐题写 jsonl,重启时跳过已完成 item_id。 |
| - run_accounting.csv 记录每步的请求数、GPU 小时、失败数。 |
| |
| ## 输出 |
| - pool_items.parquet:上面 schema 的全部列,加 blind_acc_4perm、blind_margin、sf_correct、sf_margin、 |
| v32_2b_correct、v32_2b_margin、removed_by(none / blind / single_frame / v32_2b,多个用逗号连接)、 |
| task_class、scene_type(先用 declared 字段,打标 agent 之后覆盖)、cell_thin(该任务 × 场景格子剩余不足 30 题)。 |
| - pool.duckdb:同一张表,供 SQL 查询。 |
| - pool_summary.md:总题数、各步出池数与占比、剩余题数、按 benchmark 与按格子的剩余分布、薄格子清单。 |
| - 三步的逐题 jsonl 原始输出保留。 |
|
|
| ## 验收 |
| - 任意一个 benchmark 剩余为 0 时单独报告,不自动删除。 |
| - 全部完成后把 pool_summary.md 和 screen_counts_full.csv build 进 Overleaf 的 fig_tex/。 |
|
|
| ## 执行说明(主会话 2026-09-06) |
| - 用户要求"根据集群实际情况进行调度优化,尽快跑完":GPU 分区 mig45 本组作业已排队 1.5 天, |
| 作业拆小(短时限、单片)以利回填;步骤 1 纯文本可先跑;帧解码与视频下载并行推进。 |
| - 全量视频仍在下载(2026-09-06 11:50 完成 43%),步骤 0/1 用已解析的全量题目先跑,步骤 2/3 随视频到齐分批。 |
|
|
