cloud19 commited on
Commit
9cc1388
·
verified ·
1 Parent(s): a3443ca

обновление bootstrap.sh

Browse files
Files changed (1) hide show
  1. bootstrap.sh +7 -1
bootstrap.sh CHANGED
@@ -70,13 +70,19 @@ case "${1:-status}" in
70
  if [ -n "${2:-}" ]; then tail -f "/var/log/vllm-node/gpu$2.log"; else tail -f /var/log/vllm-node.log; fi ;;
71
  vllm-logs)
72
  tail -f /var/log/vllm-node/gpu*.log ;;
 
 
 
 
 
 
73
  stop)
74
  # мягко: агент сам снимет ноду с пулов менеджера
75
  pkill -TERM -f 'python3 .*agent\.py' && echo "агент получил TERM" ;;
76
  restart)
77
  touch "$STATE/restarting"; pkill -TERM -f 'python3 .*agent\.py'; echo "перезапуск, следи за vllm-node logs" ;;
78
  *)
79
- echo "использование: vllm-node {status|logs [N]|vllm-logs|stop|restart}" ;;
80
  esac
81
  CLI
82
  chmod +x /usr/local/bin/vllm-node
 
70
  if [ -n "${2:-}" ]; then tail -f "/var/log/vllm-node/gpu$2.log"; else tail -f /var/log/vllm-node.log; fi ;;
71
  vllm-logs)
72
  tail -f /var/log/vllm-node/gpu*.log ;;
73
+ manual)
74
+ # агент держит vLLM, но не трогает менеджер: удобно на отладке,
75
+ # иначе снятая руками нода вернётся в пулы через минуту
76
+ touch "$STATE/manual"; echo "ручной режим включён, нода снимется с пулов" ;;
77
+ auto)
78
+ rm -f "$STATE/manual"; echo "автоматический режим, нода вернётся в пулы" ;;
79
  stop)
80
  # мягко: агент сам снимет ноду с пулов менеджера
81
  pkill -TERM -f 'python3 .*agent\.py' && echo "агент получил TERM" ;;
82
  restart)
83
  touch "$STATE/restarting"; pkill -TERM -f 'python3 .*agent\.py'; echo "перезапуск, следи за vllm-node logs" ;;
84
  *)
85
+ echo "использование: vllm-node {status|logs [N]|vllm-logs|manual|auto|stop|restart}" ;;
86
  esac
87
  CLI
88
  chmod +x /usr/local/bin/vllm-node