AnatoliiG commited on
Commit
1f56e9a
·
1 Parent(s): 09a93e0

llama-cpp reqs

Browse files
Files changed (2) hide show
  1. Dockerfile +13 -3
  2. requirements.txt +1 -0
Dockerfile CHANGED
@@ -3,17 +3,27 @@ FROM python:3.10-slim
3
  # Отключаем интерактивные диалоги при установке
4
  ENV DEBIAN_FRONTEND=noninteractive \
5
  HF_HOME=/home/user/cache \
6
- PYTHONUNBUFFERED=1
 
 
7
 
8
- # Устанавливаем минимальные системные зависимости
9
  RUN apt-get update && apt-get install -y --no-install-recommends \
 
 
10
  libgomp1 \
11
  ca-certificates \
12
  && rm -rf /var/lib/apt/lists/*
13
 
14
  # Копируем requirements и устанавливаем зависимости ДО переключения пользователя
15
  COPY requirements.txt .
16
- RUN pip install --no-cache-dir -r requirements.txt
 
 
 
 
 
 
17
 
18
  # Создаем непривилегированного пользователя для HF Spaces
19
  RUN useradd -m -u 1000 user
 
3
  # Отключаем интерактивные диалоги при установке
4
  ENV DEBIAN_FRONTEND=noninteractive \
5
  HF_HOME=/home/user/cache \
6
+ PYTHONUNBUFFERED=1 \
7
+ CMAKE_BUILD_PARALLEL_LEVEL=1 \
8
+ LLAMA_CPP_PYTHON_CUDA_SUPPORT=0
9
 
10
+ # Устанавливаем минимальные системные зависимости для компиляции
11
  RUN apt-get update && apt-get install -y --no-install-recommends \
12
+ build-essential \
13
+ cmake \
14
  libgomp1 \
15
  ca-certificates \
16
  && rm -rf /var/lib/apt/lists/*
17
 
18
  # Копируем requirements и устанавливаем зависимости ДО переключения пользователя
19
  COPY requirements.txt .
20
+ RUN pip install --no-cache-dir --upgrade pip setuptools wheel && \
21
+ pip install --no-cache-dir -r requirements.txt
22
+
23
+ # Очищаем кэш apt и другие временные файлы
24
+ RUN apt-get remove -y build-essential cmake && \
25
+ apt-get autoremove -y && \
26
+ apt-get clean
27
 
28
  # Создаем непривилегированного пользователя для HF Spaces
29
  RUN useradd -m -u 1000 user
requirements.txt CHANGED
@@ -1,5 +1,6 @@
1
  fastapi
2
  uvicorn
 
3
  huggingface_hub>=0.27.0
4
  gradio>=5.9.0
5
  python-multipart
 
1
  fastapi
2
  uvicorn
3
+ llama-cpp-python
4
  huggingface_hub>=0.27.0
5
  gradio>=5.9.0
6
  python-multipart