docker

Dockerfile

@@ -1,6 +1,6 @@
 FROM python:3.10-slim-bookworm
 
-# Оставляем libgomp1, так как он нужен для работы многопоточности (OpenMP) в готовом бинарнике
+# Устанавливаем libgomp1 (необходим для работы многопоточности OpenMP в модели)
 RUN apt-get update && apt-get install -y --no-install-recommends \
     libgomp1 \
     && rm -rf /var/lib/apt/lists/*
@@ -15,9 +15,12 @@ WORKDIR /app
 
 RUN pip install --no-cache-dir --upgrade pip
 
-COPY --chown=user requirements.txt .
+# УСТАНОВКА СОВМЕСТИМОГО БИНАРНИКА С ПОДДЕРЖКОЙ OPENBLAS НАПРЯМУЮ С HF (установка за 3 секунды)
+RUN pip install --no-cache-dir \
+    https://huggingface.co/Luigi/llama-cpp-python-wheels-hf-spaces-free-cpu/resolve/main/llama_cpp_python-0.3.22-cp310-cp310-linux_x86_64.whl
 
-RUN pip install --no-cache-dir -r requirements.txt --extra-index-url https://abetlen.github.io/llama-cpp-python/whl/cpu
+COPY --chown=user requirements.txt .
+RUN pip install --no-cache-dir -r requirements.txt
 
 COPY --chown=user . .
 

requirements.txt

@@ -6,4 +6,3 @@ gradio>=5.9.0
 python-multipart
 psutil
 pydantic-settings
-llama-cpp-python>=0.3.1