Upload README.md with huggingface_hub

README.md

@@ -5,6 +5,8 @@ tags:
   - llm-inference
   - optimization
   - compression
+  - mla
+  - deepseek
 language:
   - zh
   - en
@@ -12,33 +14,34 @@ language:
 
 # 📄 KV Cache Compression for Text-Only LLMs
 
-**纯文本大语言模型 KV 缓存压缩 — 完整技术报告**
+**纯文本大语言模型 KV 缓存压缩 — 完整技术报告** | **Full Technical Reports**
 
-## 内容
+## Contents
 
-| 文件 | 说明 |
-|------|------|
-| `kv_cache_compression_report.md` | 📊 完整技术报告（架构/选型/实现/评测） |
-| `kv_compress_plan.md` | 🗺 详细实施计划（四层方案/场景矩阵/路线图） |
+| File | Description |
+|------|-------------|
+| `mla_absorbed_cache_report.md` | 🚀 MLA 吸收式缓存优化（中文） |
+| `mla_absorbed_cache_report_en.md` | 🚀 **Absorbed MLA Cache Optimization (English)** |
+| `kv_cache_compression_report.md` | 📊 KV 缓存压缩完整方案（中文） |
+| `kv_compress_plan.md` | 🗺 详细实施计划（中文） |
 
-## 核心方案
+## 🚀 Highlight: Absorbed MLA Cache (270KB → 8.4KB/token, 32×)
 
-四层正交叠加的 KV 缓存压缩：
+DeepSeek-V2-Lite MLA 优化，在 L40S 实测：
 
-```
-L1: INT8 per-channel 量化   → 显存 -50%, 几乎无损
-L2: StreamingLLM 滑窗       → 长对话稳定, 零成本
-L3: H2O 驱逐                → 再省 40%, 按场景启用
-L4: K/V 分离存储            → 显存换回溯能力
-```
+| Approach | KV/token | Compression | Error |
+|----------|----------|-------------|-------|
+| Standard MHA | 270 KB | 1x | — |
+| Absorbed MLA | 30.4 KB | 8.9x | 0 |
+| + per-channel INT8 | 15.2 KB | 17.8x | 0.011 |
+| + INT4 (extreme) | **8.4 KB** | **32x** | 0.112 |
 
-**场景压缩率**：客服 4-6x / 长文 6-8x / 代码 6-8x / RAG 3-4x / 推理 3-4x
+**Single L40S: 1.24M tokens context.**
 
-## 关键洞察
+## Key Insight
 
-> 纯文本模型可激进压缩（量化+驱逐），推理模型（R1 类）必须保守（量化+滑窗+分级）。
-> **场景判定比算法本身更重要。**
+> Text-only models can be aggressively compressed (quantization + eviction), while reasoning models (R1-class) must be conservative (quantization + sliding window + tiered storage). **Scenario classification matters more than the algorithm itself.**
 
 ---
 
-*Cloud LTE Studio · 2026-08-06 · MIT License*
+*Cloud LTE Studio · 2026-08-08 · MIT License*