Joks8474 commited on
Commit
a2bec5d
·
verified ·
1 Parent(s): b732bbc

Create 2b-to-7b.md

Browse files
Files changed (1) hide show
  1. docs/journey/2b-to-7b.md +61 -0
docs/journey/2b-to-7b.md ADDED
@@ -0,0 +1,61 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ sidebar_position: 4
3
+ ---
4
+
5
+ # De 2B a 7B: Potência Bruta e o Salto Generativo
6
+
7
+ ## 🚀 Chegando nos 7B
8
+
9
+ O Gamma (2B) já era bom, mas eu queria mais. Queria que a Iris **pensasse** de verdade.
10
+
11
+ O **Mistral-7B** chegou com 7 bilhões de parâmetros e contexto de 8k tokens.
12
+
13
+ ## 🔧 QLoRA: A Chave para 7B
14
+
15
+ Com Colab Pro (GPU A100), usei QLoRA:
16
+
17
+ ```python
18
+ quant_config = BitsAndBytesConfig(
19
+ load_in_4bit=True,
20
+ bnb_4bit_quant_type="nf4",
21
+ bnb_4bit_use_double_quant=True,
22
+ )
23
+ ```
24
+
25
+ Resultado: 7B rodando em 8GB VRAM!
26
+
27
+ 📊 Delta v1: Potência, mas Decorada
28
+
29
+ O primeiro treino (1000 steps) produziu respostas corretas, mas...
30
+
31
+ ```python
32
+ # Sempre a mesma resposta
33
+ "Quem é você?" → "Sou a Iris, uma assistente de IA criada pela Eudaia Labs."
34
+ ```
35
+
36
+ Ela decorou o dataset.
37
+
38
+ 🎨 Delta v2: A Versão Generativa
39
+
40
+ A virada: dataset híbrido + Self-Instruct
41
+
42
+ Tipo % Exemplo
43
+ Texto corrido 40% Artigos de programação
44
+ Instruções variadas 30% Perguntas únicas cada vez
45
+ Conversas naturais 30% Diálogos fluidos
46
+
47
+ 🌟 O Momento Mágico
48
+
49
+ Quando perguntei "Me conta sua história de uma forma diferente", ela respondeu:
50
+
51
+ "Imagine que eu sou um pequeno grão de areia, escondido entre milhões de outros em uma praia desolada..."
52
+
53
+ Nada daquilo estava no dataset. Ela criou uma metáfora poética DO NADA.
54
+
55
+ 📚 O que aprendi
56
+
57
+ · Quantidade não é qualidade - 1000 exemplos genéricos valem menos que 100 criativos
58
+ · Self-Instruct libera criatividade
59
+ · Textos corridos ensinam gramática e estrutura
60
+
61
+ 🔜 Próximo capítulo: 13B-Stable (Em breve!)