Pathstudy/omni_pathology

path_example — 病理多模态数据 ~1% 子样本

来源：Misha 集群 /gpfs/radev/pi/ying_rex/tl688 与 /gpfs/radev/project/zhao/tl688。 生成脚本：_scripts/subsample.py（固定随机种子 0，每个模态取约 1%，极小集合设最低条数下限）。 每个数据集的实际抽样条数 / 对象结构记录在 _manifest/*.json，运行日志在 _logs/。 目录布局与原始数据保持一致，文件名不变，可直接替换路径前缀使用。

Adapter 训练与合并 pilot 结果（2026-10-25）

基于本仓库 subsample，已完成 fold0 / seed0、冻结 encoder 的 J8-rebuild pilot。双向平均测试 R@1：

方法	H&E–文本	H&E–蛋白/mIF	H&E–RNA
Joint	40.00%	58.72%	6.78%
Separate + 参数均值 merge	40.00%	52.38%	6.62%

当前 pilot 中，mean merge 的主要差距在蛋白/mIF（比 joint 低 6.33 个百分点）。文本只有 5 个测试 query / 5 候选；P/R 为 100 候选。 R 使用的仓库预提取 H&E 特征，其原始 encoder checkpoint 版本未知。本轮是单折重建实验，不能直接视为原报告的复现或多折结论。

实验报告、协议与限制 · 完整双向指标 · 独立核验记录 · 实际训练/评估核心代码

训练数据固定于 commit 2a2009dd89113d829bd2391ab5202a81dc689646；此次结果更新不改变已有数据文件。

蛋白优先 merge 改进（2026-10-26）

在同一 fold0/seed0 pilot 上，验证集选中 phi0 + deltaP + 0.25*(deltaT + deltaR)，没有新增训练。蛋白 R@1 从旧 mean 的 **52.38% 提高到 57.73%**，追回原合并损失的 **94.2%**；固定 joint 为 **58.72%**。

同时，文本从 40% 降到 30%，RNA 从 6.62% 降到 6.51%，因此这是偏向蛋白的取舍。旧测试集已被看过，本轮属于探索性改进。

完整新报告、全部候选与核验

四模态最终模型 EJ-ad+MV（2026-10-28，5 折）

H&E、mIF（蛋白）、RNA 和文本被嵌入到同一个 1536 维空间：

• 锚点： 冻结的 UNI2-h。
• 第一阶段： 每个编码器各训练一个映射头。RNA 有 4 个编码器，文本有 3 个，各自做后期融合。
• 第二阶段： 冻结所有映射头，只训练一个读取 UNI2 和 MedVTok 特征的 H&E 残差适配器，3 个种子早停后取平均。

训练只用真实配对；虚拟和合成数据只用于测试。5 折测试集的双向 R@1 如下（100 个候选，随机水平 1%）：

配对	类型	R@1	配对准确率
H&E–mIF（ORION）	训练	80.1%	94.2%
H&E–RNA（HEST）	训练	20.3%	25.8%
H&E–文本（TCGA）	训练	32.3%	34.7%
mIF–RNA（虚拟）	涌现	14.1%	19.4%
文本–RNA（虚拟）	涌现	9.5%	10.0%

这些结果来自完整数据集上的 5 折交叉验证，不是本仓库 1% 子样本上的结果，和上面 adapter-merge pilot 的数字不能直接比较。

文件夹里包括：

• 发布版模型和 fold-0 模型；
• 推理接口 embed.py；
• 训练代码；
• 编码器特征和数据划分（约 1 GB）；
• 一键复现脚本；
• 完整报告。

可复现： 从 HF 下载到全新目录，并用全新的虚拟环境，fold-0 和 5 折重训的结果都与发布值逐位一致。原始输入的检查也全部通过。

模型卡、架构、用法与复现 · 完整实验记录 · 图文报告 · 5 折逐折结果

许可： 只能用于非商业研究。这个文件夹另有许可说明（LICENSE.md），因为 UNI2-h、SE-600M、AIDO.Cell 和 HEST 都有非商业条款。

抽样规则

类型	规则
图像 tile / patch	随机取 1%（ORION 按切片分层，每张切片 1%）
配对模态（IF、核 mask、mIHC、ROSIE 预测、spot 图像、特征）	与主模态使用同一索引，保持配对
adata / h5ad	每个样本随机 1% spot（最少 5–20 个）
大型 json / csv（PathGen、QA、标签表）	随机 1% 行/条目（最少 20 条）
小型索引/元数据（slide_dataframe、HEST csv、allwsi.txt、manifest、antibody 表、README）	整体复制
单张荧光大图	取中心 10%×10%（面积 1%）裁剪
模型权重、代码、实验输出目录	不包含

目录

• ORION/ORIONCRC_dataset_tile_20x/ — he/ if/ nuclei/ 配对 tile；train/val/test_dataframe.csv 已过滤；csv_nuclei_pos/ 仅保留落在所选 tile 内的核（按核 mask label 匹配）
• HEMIT/ — he/{train,val,test}/{input,label} 配对 tif；HEMIT_nuclei_analysis 对应 csv/mask；ROSIE/rosie_pred_hemit_subset.npy 为 ROSIE 对所选 test patch 的预测（原 npy 第 0 维按 test_data.csv 行序，索引见 rosie_pred_hemit_subset_index.csv）
• HEST/ — visium_humandisease_adata.pickle：421 个 Visium 样本的 AnnData 列表，每样本随机 1% spot（共 10,233 spot）；xenium_humandisease_adata.pickle：59 个样本，每样本 1%；UNI/、prov-gigapath-conchinside/ 中 UNIv2 / GigaPath 特征列表与 adata 逐样本同索引（421/421 对齐）。注意：每个 AnnData 的 uns['spatial'] 保留了原样本的 downscaled_fullres 缩略图（每张约 644×1000×3），这是子集 2.2G 体积的主要来源
• DLPFC_visium/ — 12 样本（151507–151676，共 47,681 spot）各模型各 patch size 的 spot 特征 158 个 pkl（同一样本共用同一 spot 索引，见 _manifest/dlpfc.json）；GPFM/visium_image_list.pkl（482×3×224×224）、visium_gene_expression_list.pkl（482×10000）、hsit2pix_out_result.npy（482×3×224×224）按全局 spot 索引（样本按 id 升序拼接，见 global_spot_index.csv）同步抽取；visium_fluo_image_crop_1pct_area.npy 为荧光图中心 727×727 裁剪。GPFM/visium_gpfm_imagefeature_200.pickle 实际为 421 个 batch × 1024 行（与 HEST visium 样本数一致，非 DLPFC），每 batch 独立取 1%
• IDC/UNI/ — IDC_adata + IDC_image（同索引）
• PathGen-1.6M/ — PathGen-1.6M.json（16,000 条）、PathGen-Instruct.json 1% 条目；figure_caption_summary 30 张 patch + 对应 caption 行；各癌种（idc / gliomas / saromas / skin / brain）train json 1% 条目 + 其引用的 patch；test patch 目录 1%；stimagedata h5ad 每个 1% spot，_new.pkl（分块的 PIL spot 图像列表）按 obs 顺序同索引；gliomas / saromas 的 test h5ad 与对应 test patch 目录按序号对齐；train/valid/test_idc.h5ad 1%；slide_report 每 set 1 个 patch + desc + 对应预测；QA/CoT/PathMMU 输出 csv 1% 行
• foundation_features/ — GPFM / UNI 的 COAD slide embedding（同索引）；GPFM dataset_csv 与 splits* 每个 csv 1% 行（保留完整目录结构）
• STPath/ — example_data/INT2.h5ad 1% spot、标注 json（整体复制）
• path_report_database/ — caption csv 1% 行