sync: 28.4x ratio
Browse files
README.md
CHANGED
|
@@ -36,7 +36,7 @@ DeepSeek Harness (dsh) AgentFrame (ๅ
ๆ)
|
|
| 36 |
โ ctx.compaction (seam) โ โ ๆฟๆข โ โ compaction-agentframe โ
|
| 37 |
โ compaction-basic (้ป่ฎค) โ โ ่ฏญไน่ฝจ: MemoryDirectorโ
|
| 38 |
โ LLM ๆ่ฆๅ็ผฉ โ โ ็ฉ็่ฝจ: MLA+INT4 โ
|
| 39 |
-
โ surface/ไบไปถ/ๆไน
ๅ โ ไฟๆๅฅ็บฆ โ
|
| 40 |
โโโโโโโโโโโโโโโโโโโโโโโโโโโ โโโโโโโโโโโโโโโโโโโโโโโโ
|
| 41 |
```
|
| 42 |
|
|
@@ -89,7 +89,7 @@ DeepSeek Harness (dsh) AgentFrame (ๅ
ๆ)
|
|
| 89 |
|
| 90 |
| ่ฝๅ | ่ฏดๆ | ้ช่ฏ |
|
| 91 |
|------|------|------|
|
| 92 |
-
| **KV ๅ็ผฉ** | ๅธๆถๅผ MLA + INT4 = **
|
| 93 |
| **่ฏญไน่ธ้ฆ** | MemoryDirector 3.2x (67โ21 tokens) | API ๅฎๆต |
|
| 94 |
| **ๆปๅ็ผฉ** | ~113x (27MB โ 235KB) | |
|
| 95 |
| **Top-K ไฟๆค** | ๅ
ณ้ฎๅ 16bit + ๅ
ถไฝ 4bit = 0/100 ็ฟป่ฝฌ | |
|
|
|
|
| 36 |
โ ctx.compaction (seam) โ โ ๆฟๆข โ โ compaction-agentframe โ
|
| 37 |
โ compaction-basic (้ป่ฎค) โ โ ่ฏญไน่ฝจ: MemoryDirectorโ
|
| 38 |
โ LLM ๆ่ฆๅ็ผฉ โ โ ็ฉ็่ฝจ: MLA+INT4 โ
|
| 39 |
+
โ surface/ไบไปถ/ๆไน
ๅ โ ไฟๆๅฅ็บฆ โ 28.4x KV ๅ็ผฉ โ
|
| 40 |
โโโโโโโโโโโโโโโโโโโโโโโโโโโ โโโโโโโโโโโโโโโโโโโโโโโโ
|
| 41 |
```
|
| 42 |
|
|
|
|
| 89 |
|
| 90 |
| ่ฝๅ | ่ฏดๆ | ้ช่ฏ |
|
| 91 |
|------|------|------|
|
| 92 |
+
| **KV ๅ็ผฉ** | ๅธๆถๅผ MLA + INT4 = **28.4x** | L40S ๅฎๆต |
|
| 93 |
| **่ฏญไน่ธ้ฆ** | MemoryDirector 3.2x (67โ21 tokens) | API ๅฎๆต |
|
| 94 |
| **ๆปๅ็ผฉ** | ~113x (27MB โ 235KB) | |
|
| 95 |
| **Top-K ไฟๆค** | ๅ
ณ้ฎๅ 16bit + ๅ
ถไฝ 4bit = 0/100 ็ฟป่ฝฌ | |
|