add opd-32b-v33-s150-gptq-w4a16 + dflash phaseL int4mlp-gptq draft

README.md

@@ -21,11 +21,13 @@ tags:
 | `opd-32b-deploy/` | **32B agentic OPD v2 — v33 / job 135076 / step_200** | **on-policy distillation**（teacher = DeepSeek-V4-Flash），student lineage = stage1-v2-32b-softdistill-v2test（GQA-8, YaRN）。bf16 deploy（rope-legacy config + hybrid-SWA）+ tokenizer + chat template。**目前部署主檔**。IMO-ProofBench v2 agentic-loop（prove→verify→refine→select）量到 **4.48/7**（grader = flash，僅供內部相對比較）。版本來龍去脈見下方「OPD 32B 版本說明」。 |
 | `opd-32b-v33-s150/` | **32B agentic OPD v2 — v33 / job 135076 / step_150** | 與 `opd-32b-deploy`（step_200）**同一條健康 run** 的較早 checkpoint，可做 s150 vs s200 比較。同 deploy 格式（bf16 / rope-legacy / hybrid-SWA）+ tokenizer + chat template。 |
 | `opd-32b-v33-s200-gptq-w4a16/` | **`opd-32b-deploy`（step_200）的 GPTQ-w4a16 量化版** | int4 weight-only（compressed-tensors，int4 sym group-128 GPTQ）+ **校準的 fp8 KV scale**。**18.74GB**（bf16 65GB→int4，4 shards + index）。calibration 對齊 inference：sink-on + long-ctx(10240) + factor-32 YaRN。serve = sglang `olmo2_sink` + triton(sm120)/fa3(H200) + `--kv-cache-dtype fp8_e4m3`。詳見下方「GPTQ 量化版」。 |
+| `opd-32b-v33-s150-gptq-w4a16/` | **`opd-32b-v33-s150`（step_150）的 GPTQ-w4a16 量化版** | 與 s200 gptq **同配方**（int4 sym group-128 GPTQ + sink-on calib + long-ctx 10240 + factor-32 YaRN + 校準 fp8 KV scale）。**18.74GB**（4 shards + index）。serve 同 s200。可做 s150 vs s200 量化版比較。 |
 | `dflash-7b-draft/` | DFlash draft for 7B target | SGLang 可部署 draft（speculative decoding） |
 | `dflash-32b-draft/` | DFlash draft for **stage1-v2-32b** target (s5317) | SGLang 可部署 draft；對齊舊 32B deploy target |
 | `dflash-32b-draft-v2test/` | DFlash draft for stage1-v2-32b-softdistill-v2test — **phase-1 warm-up（非 final）** | curriculum **phase-1 短 context warm-up**（step-10000 快照）。SWA512 / block_size 11 / 8L / GQA-8。**部署請用下方 `dflash-32b-draft-v2test-phaseL`。** |
 | `dflash-32b-draft-v2test-phaseL/` | **DFlash draft for stage1-v2-32b-softdistill-v2test — phase-2 final（部署推薦）** | curriculum **phase-2 長 context 特化**（job 140680，warm-start 自 phase-1）：train data = 真實長 proof 部署分佈（OPD 32B rollouts finish_reason=length filtered + dsflash-v2-test teacher proofs，micro 65536）、GAMMA 20。step_3000 完整收尾，acc 0.605 / greedy mean_prefix_len 4.90。SWA512 / block_size 11 / 8L / GQA-8。serving accept ~3.1–4.1（單流，dev H200）。 |
 | `dflash-32b-draft-v2test-phaseL-int4mlp/` | **phase-L draft 的 int4-MLP 量化版** | `dflash-32b-draft-v2test-phaseL` 的 **MLP（gate/up/down）量成 compressed-tensors int4**（RTN W4A16 g128），qkv/o + sink/fc/mask_embed 留 bf16（保 DFlash fused-KV）。**4.82→2.30GB（−55%）**。sglang DFLASH 部署實測：載成 int4（weight mem 2.16GB）、`fused KV materialization ENABLED`、accept 3.1–4.1（== bf16 draft）、單流比 bf16 draft **+2~15% tok/s**。serve 需 patched `dflash_sink.py`（thread quant_config→MLP）+ `--speculative-draft-model-quantization compressed-tensors`。詳見 `docs/quantization.md §13`。 |
+| `dflash-32b-draft-v2test-phaseL-int4mlp-gptq/` | **phase-L draft 的 int4-MLP GPTQ 版** | 同上 int4-MLP，但用 **GPTQ**（full-rank target-hidden Hessian, 26130 rows）取代 RTN——strictly 更準（weighted-err **−69%** vs RTN）。部署完全相同（compressed-tensors int4、`fused-KV ENABLED`、accept ~3.0–3.8 == RTN/bf16）、**2.30GB**。註：draft accept 已貼 bf16 lossless-verify 天花板，RTN/GPTQ 的 τ 統計等價；此版給要最高權重保真者。詳見 `docs/quantization.md §13`。 |
 
 DFlash draft 只含 `config.json` + `model.safetensors`（已 reshard 成多 shard），需搭配**對應的** target 模型使用（注意 v2test draft 對應 v2test target，與舊 `dflash-32b-draft` 的 target 不同）。