Fix context window limits

app.py

@@ -2,7 +2,8 @@ import gradio as gr
 from transformers import pipeline
 
 # 1. Carrega o modelo (DeepSeek R1 para raciocínio)
-pipe = pipeline("text-generation", model="deepseek-ai/DeepSeek-R1-Distill-Qwen-7B", device_map="cpu", torch_dtype="auto")
+# Forçamos o uso de config personalizada para garantir que ele não limite em 4k
+pipe = pipeline("text-generation", model="deepseek-ai/DeepSeek-R1-Distill-Llama-8B", device_map="cpu", torch_dtype="auto", model_kwargs={"max_length": 16384})
 
 def predict(message, history):
     """
@@ -30,8 +31,8 @@ def predict(message, history):
 
     print(f"DEBUG FINAL MESSAGES: {messages}")
 
-    # Gera a resposta
-    results = pipe(messages, max_new_tokens=512)
+    # Gera a resposta (Aumentando output para raciocínio longo)
+    results = pipe(messages, max_new_tokens=2048, truncation=True)
     
     # Retorna apenas o texto novo gerado
     return results[0]['generated_text'][-1]['content']