обновление bootstrap.sh
Browse files- bootstrap.sh +7 -1
bootstrap.sh
CHANGED
|
@@ -70,13 +70,19 @@ case "${1:-status}" in
|
|
| 70 |
if [ -n "${2:-}" ]; then tail -f "/var/log/vllm-node/gpu$2.log"; else tail -f /var/log/vllm-node.log; fi ;;
|
| 71 |
vllm-logs)
|
| 72 |
tail -f /var/log/vllm-node/gpu*.log ;;
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 73 |
stop)
|
| 74 |
# мягко: агент сам снимет ноду с пулов менеджера
|
| 75 |
pkill -TERM -f 'python3 .*agent\.py' && echo "агент получил TERM" ;;
|
| 76 |
restart)
|
| 77 |
touch "$STATE/restarting"; pkill -TERM -f 'python3 .*agent\.py'; echo "перезапуск, следи за vllm-node logs" ;;
|
| 78 |
*)
|
| 79 |
-
echo "использование: vllm-node {status|logs [N]|vllm-logs|stop|restart}" ;;
|
| 80 |
esac
|
| 81 |
CLI
|
| 82 |
chmod +x /usr/local/bin/vllm-node
|
|
|
|
| 70 |
if [ -n "${2:-}" ]; then tail -f "/var/log/vllm-node/gpu$2.log"; else tail -f /var/log/vllm-node.log; fi ;;
|
| 71 |
vllm-logs)
|
| 72 |
tail -f /var/log/vllm-node/gpu*.log ;;
|
| 73 |
+
manual)
|
| 74 |
+
# агент держит vLLM, но не трогает менеджер: удобно на отладке,
|
| 75 |
+
# иначе снятая руками нода вернётся в пулы через минуту
|
| 76 |
+
touch "$STATE/manual"; echo "ручной режим включён, нода снимется с пулов" ;;
|
| 77 |
+
auto)
|
| 78 |
+
rm -f "$STATE/manual"; echo "автоматический режим, нода вернётся в пулы" ;;
|
| 79 |
stop)
|
| 80 |
# мягко: агент сам снимет ноду с пулов менеджера
|
| 81 |
pkill -TERM -f 'python3 .*agent\.py' && echo "агент получил TERM" ;;
|
| 82 |
restart)
|
| 83 |
touch "$STATE/restarting"; pkill -TERM -f 'python3 .*agent\.py'; echo "перезапуск, следи за vllm-node logs" ;;
|
| 84 |
*)
|
| 85 |
+
echo "использование: vllm-node {status|logs [N]|vllm-logs|manual|auto|stop|restart}" ;;
|
| 86 |
esac
|
| 87 |
CLI
|
| 88 |
chmod +x /usr/local/bin/vllm-node
|