Add complete human avatar project summary

HUMAN_AVATAR_PROJECT_FULL_SUMMARY_20260721.md

@@ -0,0 +1,345 @@
+# Human Avatar Reconstruction Project: Full Progress Summary
+
+更新日期：2026-07-21
+
+## 1. 项目目标与当前结论
+
+本项目的目标是用 diffusion-based 方法完成全身人体 avatar reconstruction，而不是仅做人脸重建。输入来自人体环拍图像，模型需要恢复可从新视角渲染的 3D 人体表示。
+
+项目先后验证了两条路线：
+
+1. Prometheus stage-1：RGB + Video Depth Anything 深度监督，直接学习人体 3D 表示。
+2. Human3Diffusion：保留原论文的 multi-view diffusion prior 和 3D Gaussian reconstruction 架构，在 RealHumans 上微调。
+
+最终采用第二条路线。当前最终实验已经完成 40 epochs 的 8 卡训练，并完成固定单图输入的 diffusion 测试与可视化。工程链路已经完整跑通，模型能够恢复全身轮廓、服装主色和粗粒度结构，但人脸、手部和高频纹理仍然偏弱。
+
+## 2. 工作目录与环境
+
+主工作目录：
+
+```text
+/mnt/localssd/colligo/contrib/Mori/collections/foundation_exploration/configs/genrender6/pixel_diffusion/lx_human
+```
+
+Human3Diffusion 环境：
+
+```bash
+source /mnt/localssd/colligo/contrib/Mori/collections/foundation_exploration/configs/genrender6/pixel_diffusion/lx_human/envs/human3diffusion_cuda13/bin/activate
+```
+
+最终代码和实验目录：
+
+```text
+Human3Diffusion
+Human3Diffusion/workspace/realhumans_h3d_diffusion_span360
+```
+
+Hugging Face 备份：
+
+```text
+https://huggingface.co/datasets/linxin02/human
+```
+
+## 3. 数据集准备
+
+### 3.1 RealHumans RGB
+
+已下载并解压 RealHumans：
+
+```text
+datasets/RealHumans
+datasets/RealHumans.zip
+```
+
+数据统计：
+
+- 10,078 个 identity/scene；
+- 每个 scene 81 帧；
+- 总计 816,318 张 JPG；
+- 每组图像覆盖约 360 度人体环拍。
+
+HF 已备份 `RealHumans.zip`。服务器上的 19 GB 解压目录没有重复上传，因为压缩包可以完整恢复。
+
+### 3.2 Video Depth Anything
+
+为了给 Prometheus 提供跨视频帧更一致的深度，使用 Video Depth Anything metric ViT-S 处理了全部 10,078 个序列：
+
+```text
+Video-Depth-Anything/checkpoints/metric_video_depth_anything_vits.pth
+datasets/depth_vda_metric_vits/<dataset>/<identity>/depth.npz
+```
+
+每个 `depth.npz` 包含 81 帧 float32 深度及帧名、模型和输入尺寸等元数据。全部序列处理完成，没有记录到失败样本。
+
+HF 已备份约 116 GB 的：
+
+```text
+depth_vda_metric_vits.tar
+```
+
+### 3.3 Prometheus 格式数据
+
+RGB、depth、mask 和 camera sampling 被整理为 Prometheus 可读格式：
+
+```text
+datasets/prometheus_realhumans_vda_metric_vits
+```
+
+HF 已备份：
+
+```text
+prometheus_realhumans_vda_metric_vits.tar.gz
+```
+
+## 4. Prometheus Stage-1 阶段
+
+### 4.1 完成的工程修改
+
+Prometheus 复现代码增加了 RealHumans RGB-D dataset adapter、VDA depth 读取、前景 mask、90 度采样限制、离线 loss logger 和离线可视化。
+
+每个训练样本使用 4 张输入图和 4 张 novel-view 监督图，8 张图全部来自连续约 90 度窗口。对 81 帧数据，90 度约对应最多 20 帧跨度。窗口位置随机，因此长期训练仍可看到整圈数据。
+
+深度 loss 只在人体前景且预测深度有效的区域计算。主要 losses 为：
+
+```text
+RGB MSE
+LPIPS
+foreground scale-and-shift invariant disparity loss
+alpha/mask MSE
+```
+
+主实验配置：
+
+```text
+8 GPUs
+batch size = 4 / GPU
+global batch size = 32
+4 input views + 4 target views
+max orbit span = 90 degrees
+```
+
+Prometheus 的 GSDecoder、cross-view DiT 和 VAE decoder 从官方 checkpoint 加载；LPIPS、disparity network、2D decoder 和 VAE encoder 按 stage-1 策略冻结。
+
+### 4.2 结果与结论
+
+该路线可以稳定训练，loss 没有数值崩溃，但可视化存在明显问题：RGB 较模糊、人脸细节弱、预测 inverse depth 没有学出足够有效的结构，继续训练后的视觉收益也有限。因此该路线被停止，没有作为最终方案继续扩展。
+
+HF 已保存修改代码、完整离线日志与可视化，以及最终关键 checkpoint `epoch 24 / step 7874`。
+
+## 5. Human3Diffusion 路线迭代
+
+### 5.1 切换原因
+
+Human3Diffusion 原方法显式利用 2D multi-view diffusion prior，并通过 3D generation model 输出 3D Gaussian representation。它比单纯的确定性多图重建更符合 diffusion-based human avatar reconstruction 的要求。
+
+### 5.2 早期 RGB5 实验
+
+先后完成了：
+
+```text
+realhumans_rgb5_span90
+realhumans_rgb5_span180
+realhumans_rgb5_span180_cover
+realhumans_rgb5_span360_cover
+realhumans_rgb5_span360_maskfix
+```
+
+这些实验完成了以下验证和修复：
+
+- 输入范围从局部 90 度逐步扩展到 180 度和 360 度；
+- 训练集改为前 10,000 个 scene，测试集为后 78 个 scene；
+- 180 度版本从连续 40 帧窗口随机抽取输入和监督视角；
+- 测试 scene 固定 input/target selection，保证跨 epoch 可比较；
+- 360 度版本增加 circular sampling 和整圈覆盖；
+- 修复 foreground mask/compositing 导致输出偏暗的问题；
+- 每个 epoch 保存 checkpoint，并定期做固定测试和可视化。
+
+这些版本能学习基本人体轮廓和服装颜色，但后来确认它们绕开了原论文关键的 diffusion noise/reverse sampling 路径。它们可作为多视角重建 ablation，但不能代表完整 Human3Diffusion，因此没有作为最终模型。
+
+## 6. 最终 Human3Diffusion 360 度实验
+
+### 6.1 最终架构
+
+最终版本恢复论文的 diffusion 训练结构：
+
+1. 一张干净正面图作为 context；
+2. 四张侧面/背面真实图替代原训练中的四张 MVD pseudo-view `x0`；
+3. 四张真实图经 frozen VAE 编码；
+4. 在随机 DDPM timestep 添加噪声得到 `x_t`；
+5. noisy multi-view latents、camera ray embeddings 和 clean context latent 一起输入 3D generation model `g_phi`；
+6. 网络预测 3D Gaussian representation；
+7. 渲染到四个 held-out cameras，用真实图和 mask 监督。
+
+因此最终模型包含真实的 forward noising 和 reverse denoising/sampling 过程，不是简单的五图 deterministic reconstruction。
+
+### 6.2 训练视角与数据划分
+
+每个 scene 有 81 帧。最终训练固定 frame 0 作为正面 clean context，其余四张 diffusion views 分布在约 72、144、216、288 度附近，并允许小范围随机 jitter。四张 novel-view supervision 从未使用视角中采样，circular sampling 覆盖完整 360 度。
+
+严格 scene split：
+
+```text
+train: first 10,000 sorted scenes
+test:  final 78 sorted scenes
+test seed: 20260719
+```
+
+### 6.3 初始化与冻结
+
+3D reconstructor 从官方 Human3Diffusion 权重初始化：
+
+```text
+Human3Diffusion/checkpoints/model_1.safetensors
+```
+
+diffusion VAE 和 DDPM scheduler 来自：
+
+```text
+ashawkey/imagedream-ipmv-diffusers
+```
+
+训练时 `g_phi` 3D generation/reconstruction network 可训练；VAE 和 LPIPS network 冻结；MVD 不参与联合训练。严格测试时才使用官方预训练 MVD 从单张正面图生成四张 pseudo views。
+
+### 6.4 最终训练配置
+
+```text
+8 GPUs
+batch size = 8 / GPU
+global batch size = 64
+gradient accumulation = 1
+precision = bf16
+epochs = 40
+learning rate = 5e-5
+optimizer = AdamW
+weight decay = 0.05
+scheduler = OneCycleLR
+input resolution = 256 x 256
+render supervision = 512 x 512
+checkpoint interval = 1 epoch
+```
+
+3D reconstruction losses 包括 masked RGB MSE、LPIPS 和 Gaussian distortion regularization。
+
+### 6.5 严格单图测试
+
+最终测试与早期五张真实图测试不同：
+
+1. 只输入一张真实正面图；
+2. 官方 pretrained MVD 预测四张侧面/背面 pseudo views；
+3. 使用 50-step DDIM reverse sampling；
+4. 3D reconstructor 生成 Gaussian representation；
+5. 在固定 held-out cameras 渲染并与 GT 比较。
+
+固定可视化保存了四个 test subjects 的 input、MVD views、prediction 和 GT。
+
+### 6.6 当前结果
+
+训练已经完成 40 epochs，最终 checkpoint 为 epoch 39。固定代表样本指标如下：
+
+| Epoch | Full PSNR | Foreground PSNR | SSIM |
+| ---: | ---: | ---: | ---: |
+| 19 | 17.1009 | 8.7132 | 0.8678 |
+| 24 | 17.0899 | 8.6547 | 0.8683 |
+| 29 | 17.0457 | 8.6584 | 0.8676 |
+| 34 | 17.0101 | 8.6155 | 0.8679 |
+| 39 | 17.1096 | 8.7056 | 0.8682 |
+
+epoch 19 之后指标基本进入平台期。epoch 39 是最终训练节点；如果只按当前 foreground PSNR 选择，epoch 19 略好，但差异很小。
+
+视觉上已经能恢复全身轮廓、主色和粗粒度服装结构，但仍有人脸/手部细节差、输出偏模糊、MVD 误差向 3D 传递和 256 输入分辨率不足等问题。上表是固定代表样本，不是完整 78-scene aggregate benchmark。
+
+## 7. 当前完成状态
+
+已完成：
+
+- RealHumans RGB 下载、解压和校验；
+- 全部 10,078 个序列的 Video Depth Anything 处理；
+- Prometheus 数据格式转换；
+- Prometheus stage-1 90 度训练、验证和问题分析；
+- Human3Diffusion 90/180/360 度真实五图 ablation；
+- 严格 train/test scene 拆分；
+- 360 度 circular view sampling；
+- foreground mask 和暗图 bug 修复；
+- 原始 Human3Diffusion diffusion/noise 架构恢复；
+- 正面 clean context + 四张 noisy real views 的 8 卡微调；
+- 40 epochs 完整训练；
+- 官方 MVD + 50-step DDIM 的严格单图测试；
+- 固定样本 input/output/GT 可视化与指标；
+- 数据、代码、关键模型、日志和结果的 HF 备份。
+
+尚未完成：
+
+- 对全部 78 个 test scenes 计算 aggregate PSNR/SSIM/LPIPS；
+- 人脸和手部 crop 指标；
+- 更高输入分辨率训练；
+- MVD 与 3D reconstructor 联合微调；
+- 与其他 human reconstruction baseline 的同协议定量对比。
+
+## 8. Hugging Face 备份结构
+
+### 数据
+
+```text
+RealHumans.zip
+depth_vda_metric_vits.tar
+prometheus_realhumans_vda_metric_vits.tar.gz
+```
+
+### 代码
+
+```text
+code/lx_human_prometheus_span90_offline_20260718.tar.gz
+code/Human3Diffusion_realhumans_360_source_20260721.tar.gz
+```
+
+### Prometheus
+
+```text
+experiments/prometheus_stage1_span90/checkpoints/
+experiments/prometheus_stage1_span90/offline_logs/
+```
+
+### Human3Diffusion 早期实验
+
+```text
+experiments/realhumans_rgb5_span90/
+experiments/realhumans_rgb5_span180/
+experiments/realhumans_rgb5_span180_cover/
+experiments/realhumans_rgb5_span360_cover/
+experiments/realhumans_rgb5_span360_maskfix/
+```
+
+### 最终 diffusion 实验
+
+```text
+experiments/realhumans_h3d_diffusion_span360/
+```
+
+该目录包含实验 README、关键 checkpoints、loss 日志、code snapshot、fixed single-view inputs、strict single-view outputs、metrics JSON、input/prediction/GT 对比图和训练过程可视化。
+
+保留的关键 checkpoints：
+
+```text
+epoch 13
+epoch 19
+epoch 24
+epoch 29
+epoch 34
+epoch 39
+```
+
+推荐优先使用 epoch 19（当前代表指标较优）和 epoch 39（最终节点）。
+
+第三方可重新下载的官方 pretrained weights 和 22 GB Python virtual environment 没有重复上传。模型标识、初始化文件名、环境路径和完整启动参数已记录在 README 与代码中。访问 token 没有写入归档或文档。
+
+## 9. 建议的下一步
+
+最优先建议不是继续无条件堆 epoch，而是补齐严格评测：
+
+1. 固定 epoch 19 和 epoch 39，对全部 78 个 test scenes 跑同一套 single-view MVD + DDIM pipeline。
+2. 汇总 full/foreground PSNR、SSIM、LPIPS，并增加 face crop 指标。
+3. 根据完整测试结果选择真正的 best checkpoint。
+4. 如果主要短板仍是脸部，优先尝试 512 输入或 face-aware perceptual loss。
+5. 如果 MVD pseudo views 本身失真明显，再考虑低学习率联合微调 MVD 与 `g_phi`。
+
+当前阶段可以概括为：完整工程和训练链路已经跑通，最终模型和所有关键产物已经备份；模型具备全身 360 度重建能力，但高频人体细节和完整测试集定量评测仍是下一阶段重点。