Effettuare il Deploy di NemoClaw su un’Istanza GPU Remota
Esegui NemoClaw su un’istanza GPU remota attraverso Brev. Il comando deploy esegue il provisioning della VM, installa le dipendenze e ti connette a una sandbox in esecuzione.
Prerequisiti
- La CLI di Brev installata e autenticata.
- Una API key NVIDIA da build.nvidia.com.
- NemoClaw installato localmente. Segui i passaggi di installazione della Guida Rapida.
Effettuare il Deploy dell’Istanza
Attenzione: Il comando
nemoclaw deployè sperimentale e potrebbe non funzionare come previsto.
Crea un’istanza Brev ed esegui la configurazione di NemoClaw:
$ nemoclaw deploy <instance-name>
Sostituisci <instance-name> con un nome per la tua istanza remota, ad esempio my-gpu-box.
Lo script di deploy esegue i seguenti passaggi sulla VM:
- Installa Docker e NVIDIA Container Toolkit se è presente una GPU.
- Installa la CLI di OpenShell.
- Esegue la configurazione di NemoClaw per creare il gateway, registrare i provider e avviare la sandbox.
- Avvia i servizi ausiliari, come il bridge Telegram e il tunnel cloudflared.
Connettersi alla Sandbox Remota
Dopo il completamento del deployment, il comando deploy apre una shell interattiva all’interno della sandbox remota. Per riconnettersi dopo aver chiuso la sessione, esegui nuovamente il comando deploy:
$ nemoclaw deploy <instance-name>
Monitorare la Sandbox Remota
Connettiti via SSH all’istanza ed esegui la TUI di OpenShell per monitorare l’attività e approvare le richieste di rete:
$ ssh <instance-name> 'cd /home/ubuntu/nemoclaw && set -a && . .env && set +a && openshell term'
Verificare l’Inferenza
Esegui un prompt di test dell’agente all’interno della sandbox remota:
$ openclaw agent --agent main --local -m "Hello from the remote sandbox" --session-id test
Configurazione GPU
Lo script di deploy utilizza la variabile d’ambiente NEMOCLAW_GPU per selezionare il tipo di GPU.
Il valore predefinito è a2-highgpu-1g:nvidia-tesla-a100:1.
Imposta questa variabile prima di eseguire nemoclaw deploy per utilizzare una configurazione GPU diversa:
$ export NEMOCLAW_GPU="a2-highgpu-1g:nvidia-tesla-a100:2"
$ nemoclaw deploy <instance-name>
Argomenti Correlati
- Configurare il Bridge Telegram per interagire con l’agente remoto attraverso Telegram.
- Monitorare l’Attività della Sandbox per gli strumenti di monitoraggio della sandbox.
- Comandi per il riferimento completo del comando
deploy.