Update app.py

app.py

@@ -1,121 +1,62 @@
 import gradio as gr
-from llama_cpp import Llama
+import requests
+import os
 
-print("⏳ جاري تحميل النموذج...")
-llm = Llama.from_pretrained(
-    repo_id="rahimdzx/AraCode-7B-GGUF",
-    filename="aracode-7b.Q4_K_M.gguf",
-    n_ctx=2048,
-    n_threads=4,
-    n_gpu_layers=0,
-    verbose=False,
-)
-print("✅ تم تحميل النموذج!")
-
-SYSTEM = """أنت AraCode، مساعد برمجي ذكي متخصص في اللغة العربية.
-تساعد المطورين العرب في كتابة وشرح وتصحيح الكود.
-تفكر خطوة بخطوة وتقدم كوداً نظيفاً وقابلاً للتنفيذ."""
+HF_TOKEN = os.environ.get("HF_TOKEN", "")
+API_URL = "https://api-inference.huggingface.co/models/rahimdzx/AraCode-7B-Full"
 
+SYSTEM = "أنت AraCode، مساعد برمجي ذكي باللغة العربية. تشرح وتكتب وتصحح الكود بدقة."
 
 def chat(message, history, temperature, max_tokens):
-    # تحويل history من gradio 6 (list of dicts) لـ messages
-    messages = [{"role": "system", "content": SYSTEM}]
+    prompt = f"<|im_start|>system\n{SYSTEM}<|im_end|>\n"
     for item in history:
-        messages.append({"role": item["role"], "content": item["content"]})
-    messages.append({"role": "user", "content": message})
-
-    partial = ""
+        prompt += f"<|im_start|>{item['role']}\n{item['content']}<|im_end|>\n"
+    prompt += f"<|im_start|>user\n{message}<|im_end|>\n<|im_start|>assistant\n"
+    headers = {"Authorization": f"Bearer {HF_TOKEN}"}
     try:
-        stream = llm.create_chat_completion(
-            messages=messages,
-            max_tokens=int(max_tokens),
-            temperature=float(temperature),
-            stream=True,
-            stop=["<|im_end|>", "<|endoftext|>"],
-        )
-        for chunk in stream:
-            delta = chunk["choices"][0]["delta"]
-            if "content" in delta and delta["content"]:
-                partial += delta["content"]
-                yield partial
+        r = requests.post(API_URL, headers=headers, json={
+            "inputs": prompt,
+            "parameters": {"max_new_tokens": int(max_tokens), "temperature": float(temperature), "return_full_text": False}
+        }, timeout=60)
+        if r.status_code == 200:
+            result = r.json()
+            yield result[0].get("generated_text", "لا يوجد رد") if isinstance(result, list) else str(result)
+        elif r.status_code == 503:
+            yield "⏳ النموذج يستيقظ... أعد المحاولة بعد 30 ثانية"
+        else:
+            yield f"❌ خطأ {r.status_code}"
     except Exception as e:
-        yield f"❌ خطأ: {str(e)}"
-
+        yield f"❌ {str(e)}"
 
 with gr.Blocks(title="AraCode-7B", theme=gr.themes.Soft()) as demo:
-    gr.HTML("""
-    <div style='text-align:center; padding:15px;'>
-        <h1>🐪 AraCode-7B</h1>
-        <p style='color:#555; font-size:16px;'>أول مساعد برمجي ذكي متخصص باللغة العربية</p>
-        <div style='display:flex; justify-content:center; gap:8px; flex-wrap:wrap;'>
-            <span style='background:#e8f4fd; padding:4px 10px; border-radius:15px; font-size:13px;'>✅ يشرح الكود</span>
-            <span style='background:#e8f4fd; padding:4px 10px; border-radius:15px; font-size:13px;'>✅ يولد كود</span>
-            <span style='background:#e8f4fd; padding:4px 10px; border-radius:15px; font-size:13px;'>✅ يصحح الأخطاء</span>
-            <span style='background:#e8f4fd; padding:4px 10px; border-radius:15px; font-size:13px;'>✅ Apache 2.0</span>
-        </div>
-    </div>
-    """)
-
+    gr.HTML("<h1 style='text-align:center'>🐪 AraCode-7B — مساعد البرمجة العربي</h1>")
     with gr.Row():
         with gr.Column(scale=4):
-            chatbot = gr.Chatbot(
-                height=480,
-                show_copy_button=True,
-                avatar_images=("👤", "🐪"),
-                type="messages",        # gradio 6 يستخدم type="messages"
-                rtl=True,
-            )
-            msg = gr.Textbox(
-                placeholder="اكتب سؤالك البرمجي هنا...",
-                label="سؤالك", lines=2,
-            )
+            chatbot = gr.Chatbot(height=480, type="messages", rtl=True, show_copy_button=True)
+            msg = gr.Textbox(placeholder="اكتب سؤالك هنا...", lines=2)
             with gr.Row():
                 send = gr.Button("إرسال 🚀", variant="primary")
                 clear = gr.Button("🗑️ مسح")
-
         with gr.Column(scale=1):
-            gr.Markdown("### ⚙️ الإعدادات")
-            temperature = gr.Slider(0.1, 1.0, 0.3, step=0.1, label="الإبداع",
-                                    info="أقل = أدق | أكثر = إبداعي")
+            temperature = gr.Slider(0.1, 1.0, 0.3, step=0.1, label="الإبداع")
             max_tokens = gr.Slider(128, 1024, 512, step=128, label="طول الرد")
-            gr.Markdown("---")
-            gr.Markdown("""
-### 📊 النموذج
-- **AraCode-7B Q4_K_M**
-- عربي + إنجليزي  
-- Apache 2.0
-
-🔗 [النموذج](https://huggingface.co/rahimdzx/AraCode-7B-GGUF)  
-💻 [GitHub](https://github.com/Rahimdzx/AraCode-7B)
-            """)
-
+            gr.Markdown("🔗 [النموذج](https://huggingface.co/rahimdzx/AraCode-7B-Full)")
     gr.Examples([
-        ["اكتب دالة بايثون للبحث الثنائي مع شرح"],
-        ["ما الفرق بين list و tuple في بايثون؟"],
+        ["اكتب دالة بايثون للبحث الثنائي"],
+        ["ما الفرق بين list و tuple؟"],
         ["اكتب API بسيط بـ Flask"],
-        ["اشرح مفهوم Recursion بمثال"],
-        ["كيف أصحح: IndexError: list index out of range"],
     ], inputs=msg)
 
-    def submit(message, history):
-        if not message.strip():
-            return "", history
-        history = history + [{"role": "user", "content": message}]
-        return "", history
-
-    def respond(history, temp, tokens):
-        if not history:
-            return history
-        user_msg = history[-1]["content"]
-        history = history + [{"role": "assistant", "content": ""}]
-        for chunk in chat(user_msg, history[:-1], temp, tokens):
-            history[-1]["content"] = chunk
-            yield history
-
-    msg.submit(submit, [msg, chatbot], [msg, chatbot]).then(
-        respond, [chatbot, temperature, max_tokens], chatbot)
-    send.click(submit, [msg, chatbot], [msg, chatbot]).then(
-        respond, [chatbot, temperature, max_tokens], chatbot)
-    clear.click(lambda: [], None, chatbot)
+    def submit(m, h): return "", h + [{"role":"user","content":m}]
+    def respond(h, t, k):
+        if not h: return h
+        h = h + [{"role":"assistant","content":""}]
+        for c in chat(h[-2]["content"], h[:-1], t, k):
+            h[-1]["content"] = c
+            yield h
+
+    msg.submit(submit,[msg,chatbot],[msg,chatbot]).then(respond,[chatbot,temperature,max_tokens],chatbot)
+    send.click(submit,[msg,chatbot],[msg,chatbot]).then(respond,[chatbot,temperature,max_tokens],chatbot)
+    clear.click(lambda:[],None,chatbot)
 
 demo.launch(server_name="0.0.0.0", server_port=7860)