Create 2b-to-7b.md
Browse files- docs/journey/2b-to-7b.md +61 -0
docs/journey/2b-to-7b.md
ADDED
|
@@ -0,0 +1,61 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
sidebar_position: 4
|
| 3 |
+
---
|
| 4 |
+
|
| 5 |
+
# De 2B a 7B: Potência Bruta e o Salto Generativo
|
| 6 |
+
|
| 7 |
+
## 🚀 Chegando nos 7B
|
| 8 |
+
|
| 9 |
+
O Gamma (2B) já era bom, mas eu queria mais. Queria que a Iris **pensasse** de verdade.
|
| 10 |
+
|
| 11 |
+
O **Mistral-7B** chegou com 7 bilhões de parâmetros e contexto de 8k tokens.
|
| 12 |
+
|
| 13 |
+
## 🔧 QLoRA: A Chave para 7B
|
| 14 |
+
|
| 15 |
+
Com Colab Pro (GPU A100), usei QLoRA:
|
| 16 |
+
|
| 17 |
+
```python
|
| 18 |
+
quant_config = BitsAndBytesConfig(
|
| 19 |
+
load_in_4bit=True,
|
| 20 |
+
bnb_4bit_quant_type="nf4",
|
| 21 |
+
bnb_4bit_use_double_quant=True,
|
| 22 |
+
)
|
| 23 |
+
```
|
| 24 |
+
|
| 25 |
+
Resultado: 7B rodando em 8GB VRAM!
|
| 26 |
+
|
| 27 |
+
📊 Delta v1: Potência, mas Decorada
|
| 28 |
+
|
| 29 |
+
O primeiro treino (1000 steps) produziu respostas corretas, mas...
|
| 30 |
+
|
| 31 |
+
```python
|
| 32 |
+
# Sempre a mesma resposta
|
| 33 |
+
"Quem é você?" → "Sou a Iris, uma assistente de IA criada pela Eudaia Labs."
|
| 34 |
+
```
|
| 35 |
+
|
| 36 |
+
Ela decorou o dataset.
|
| 37 |
+
|
| 38 |
+
🎨 Delta v2: A Versão Generativa
|
| 39 |
+
|
| 40 |
+
A virada: dataset híbrido + Self-Instruct
|
| 41 |
+
|
| 42 |
+
Tipo % Exemplo
|
| 43 |
+
Texto corrido 40% Artigos de programação
|
| 44 |
+
Instruções variadas 30% Perguntas únicas cada vez
|
| 45 |
+
Conversas naturais 30% Diálogos fluidos
|
| 46 |
+
|
| 47 |
+
🌟 O Momento Mágico
|
| 48 |
+
|
| 49 |
+
Quando perguntei "Me conta sua história de uma forma diferente", ela respondeu:
|
| 50 |
+
|
| 51 |
+
"Imagine que eu sou um pequeno grão de areia, escondido entre milhões de outros em uma praia desolada..."
|
| 52 |
+
|
| 53 |
+
Nada daquilo estava no dataset. Ela criou uma metáfora poética DO NADA.
|
| 54 |
+
|
| 55 |
+
📚 O que aprendi
|
| 56 |
+
|
| 57 |
+
· Quantidade não é qualidade - 1000 exemplos genéricos valem menos que 100 criativos
|
| 58 |
+
· Self-Instruct libera criatividade
|
| 59 |
+
· Textos corridos ensinam gramática e estrutura
|
| 60 |
+
|
| 61 |
+
🔜 Próximo capítulo: 13B-Stable (Em breve!)
|