NemoClaw deployen op een remote GPU-instantie

Draai NemoClaw op een remote GPU-instantie via Brev. Het deploy-commando richt de VM in, installeert afhankelijkheden en verbindt u met een draaiende sandbox.

Vereisten

  • De Brev CLI geïnstalleerd en geauthenticeerd.
  • Een NVIDIA API key van build.nvidia.com.
  • NemoClaw lokaal geïnstalleerd. Volg de installatiestappen uit de Snelstart.

De instantie deployen

Waarschuwing: Het nemoclaw deploy-commando is experimenteel en werkt mogelijk niet zoals verwacht.

Maak een Brev-instantie aan en voer de NemoClaw-configuratie uit:

$ nemoclaw deploy <instance-name>

Vervang <instance-name> door een naam voor uw remote instantie, bijvoorbeeld my-gpu-box.

Het deploy-script voert de volgende stappen uit op de VM:

  1. Installeert Docker en de NVIDIA Container Toolkit als er een GPU aanwezig is.
  2. Installeert de OpenShell CLI.
  3. Voert de NemoClaw-configuratie uit om de gateway aan te maken, providers te registreren en de sandbox te starten.
  4. Start hulpdiensten, zoals de Telegram-bridge en cloudflared-tunnel.

Verbinden met de remote sandbox

Nadat de deployment is voltooid, opent het deploy-commando een interactieve shell in de remote sandbox. Om opnieuw verbinding te maken na het sluiten van de sessie, voer het deploy-commando opnieuw uit:

$ nemoclaw deploy <instance-name>

De remote sandbox monitoren

Maak een SSH-verbinding met de instantie en voer de OpenShell TUI uit om activiteit te monitoren en netwerkverzoeken goed te keuren:

$ ssh <instance-name> 'cd /home/ubuntu/nemoclaw && set -a && . .env && set +a && openshell term'

Inferentie verifiëren

Voer een testprompt uit in de remote sandbox:

$ openclaw agent --agent main --local -m "Hello from the remote sandbox" --session-id test

GPU-configuratie

Het deploy-script gebruikt de omgevingsvariabele NEMOCLAW_GPU om het GPU-type te selecteren. De standaardwaarde is a2-highgpu-1g:nvidia-tesla-a100:1. Stel deze variabele in voordat u nemoclaw deploy uitvoert om een andere GPU-configuratie te gebruiken:

$ export NEMOCLAW_GPU="a2-highgpu-1g:nvidia-tesla-a100:2"
$ nemoclaw deploy <instance-name>

Gerelateerde onderwerpen