Wdrożenie NemoClaw na zdalnej instancji GPU

Uruchom NemoClaw na zdalnej instancji GPU przez Brev. Polecenie deploy udostępnia maszynę wirtualną, instaluje zależności i łączy Cię z działającym sandboxem.

Wymagania wstępne

Wdrożenie instancji

Ostrzeżenie: Polecenie nemoclaw deploy jest eksperymentalne i może nie działać zgodnie z oczekiwaniami.

Utwórz instancję Brev i uruchom konfigurację NemoClaw:

$ nemoclaw deploy <instance-name>

Zastąp <instance-name> nazwą dla swojej zdalnej instancji, na przykład my-gpu-box.

Skrypt wdrożeniowy wykonuje następujące kroki na maszynie wirtualnej:

  1. Instaluje Docker i NVIDIA Container Toolkit, jeśli obecny jest GPU.
  2. Instaluje CLI OpenShell.
  3. Uruchamia konfigurację NemoClaw, aby utworzyć bramę, zarejestrować dostawców i uruchomić sandbox.
  4. Uruchamia usługi pomocnicze, takie jak most Telegram i tunel cloudflared.

Połączenie ze zdalnym sandboxem

Po zakończeniu wdrożenia polecenie deploy otwiera interaktywną powłokę wewnątrz zdalnego sandboxa. Aby ponownie się połączyć po zamknięciu sesji, uruchom ponownie polecenie deploy:

$ nemoclaw deploy <instance-name>

Monitorowanie zdalnego sandboxa

Połącz się przez SSH z instancją i uruchom TUI OpenShell, aby monitorować aktywność i zatwierdzać żądania sieciowe:

$ ssh <instance-name> 'cd /home/ubuntu/nemoclaw && set -a && . .env && set +a && openshell term'

Weryfikacja inferencji

Uruchom testowe polecenie agenta wewnątrz zdalnego sandboxa:

$ openclaw agent --agent main --local -m "Hello from the remote sandbox" --session-id test

Konfiguracja GPU

Skrypt wdrożeniowy używa zmiennej środowiskowej NEMOCLAW_GPU do wyboru typu GPU. Wartość domyślna to a2-highgpu-1g:nvidia-tesla-a100:1. Ustaw tę zmienną przed uruchomieniem nemoclaw deploy, aby użyć innej konfiguracji GPU:

$ export NEMOCLAW_GPU="a2-highgpu-1g:nvidia-tesla-a100:2"
$ nemoclaw deploy <instance-name>

Powiązane tematy