Upload code/exp/analysis/pool/TASK.md with huggingface_hub

code/exp/analysis/pool/TASK.md

@@ -0,0 +1,55 @@
+# 全量题池构建:三步筛选跑批(parcc,单卡 B200,Slurm)(用户 2026-09-06)
+
+## 目标
+对 benchmark 全部题目建题池。三步跑批,任一步答对即出池,其余全部保留并带标签。
+产物是一张逐题表和一个可查询的题池数据库,供后续的规格查询与 Vendi 选择使用。
+
+## 输入
+- 已下载的 benchmark,路径与格式见现有 loader;先补齐 loader 缺失的 benchmark。
+- 统一 item schema:benchmark、item_id、video_id、video_path、question、options(列表)、answer_idx、
+  duration、declared_task、declared_scene、license。选项缺失或 ground truth 非选项的题标 format=open,不进后续跑批。
+
+## 步骤 0:筛(CPU)
+- 视频内容哈希去重,得到 video_id;同 benchmark 内题干加选项文本近重复(bge-large-en-v1.5,余弦 > 0.9)只留一道。
+- 判分规则固定为三步级联(选项字母、答案行正则、选项文本),与主文 3.2 一致。
+- 输出 screen_counts_full.csv:每个 benchmark 的总题数、去重后题数、format=open 题数。
+
+## 步骤 1:盲测(Qwen3-VL-8B,文本模式,vLLM)
+- 每题 4 次选项置换,每次只做一个前向,取四个选项字母的 log-prob,选最大者。
+- 记录 blind_acc_4perm(0 到 1)与 blind_margin = 平均 log-prob 边际。
+- 出池条件:blind_acc_4perm 在 chance 之上显著(单侧二项检验,n=4 太小,改用 log-prob 边际的阈值:
+  正确选项 log-prob 高于其余三者均值超过 log(2),且 4 次置换中至少 3 次选中正确项)。
+
+## 步骤 2:单帧(Qwen3-VL-8B,448 像素,vLLM)
+- 每题取视频中点一帧,一个前向,取选项 log-prob。
+- 记录 sf_correct、sf_margin。
+- 出池条件:sf_correct 且 sf_margin > log(2)。
+
+## 步骤 3:32 帧(Qwen3-VL-2B,448 像素,vLLM)
+- 每题均匀 32 帧,一个前向,取选项 log-prob。
+- 记录 v32_2b_correct、v32_2b_margin。
+- 出池条件:v32_2b_correct 且 v32_2b_margin > log(2)。
+
+## 调度
+- 每片一个 vLLM 进程,端口按 SLURM_ARRAY_TASK_ID 错开。
+- 帧解码单独一个 CPU 数组作业先跑,缓存到本地 SSD,格式 jpg,命名 video_id/frame_k.jpg。
+- 步骤 1 不依赖帧,先跑;步骤 2 和 3 等帧缓存完成。
+- 断点续跑:逐题写 jsonl,重启时跳过已完成 item_id。
+- run_accounting.csv 记录每步的请求数、GPU 小时、失败数。
+
+## 输出
+- pool_items.parquet:上面 schema 的全部列,加 blind_acc_4perm、blind_margin、sf_correct、sf_margin、
+  v32_2b_correct、v32_2b_margin、removed_by(none / blind / single_frame / v32_2b,多个用逗号连接)、
+  task_class、scene_type(先用 declared 字段,打标 agent 之后覆盖)、cell_thin(该任务 × 场景格子剩余不足 30 题)。
+- pool.duckdb:同一张表,供 SQL 查询。
+- pool_summary.md:总题数、各步出池数与占比、剩余题数、按 benchmark 与按格子的剩余分布、薄格子清单。
+- 三步的逐题 jsonl 原始输出保留。
+
+## 验收
+- 任意一个 benchmark 剩余为 0 时单独报告,不自动删除。
+- 全部完成后把 pool_summary.md 和 screen_counts_full.csv build 进 Overleaf 的 fig_tex/。
+
+## 执行说明(主会话 2026-09-06)
+- 用户要求"根据集群实际情况进行调度优化,尽快跑完":GPU 分区 mig45 本组作业已排队 1.5 天,
+  作业拆小(短时限、单片)以利回填;步骤 1 纯文本可先跑;帧解码与视频下载并行推进。
+- 全量视频仍在下载(2026-09-06 11:50 完成 43%),步骤 0/1 用已解析的全量题目先跑,步骤 2/3 随视频到齐分批。