Déployer NemoClaw sur une instance GPU distante

Exécutez NemoClaw sur une instance GPU distante via Brev. La commande de déploiement provisionne la VM, installe les dépendances et vous connecte à un sandbox en cours d’exécution.

Prérequis

Déployer l’instance

Avertissement : La commande nemoclaw deploy est expérimentale et peut ne pas fonctionner comme prévu.

Créez une instance Brev et exécutez la configuration NemoClaw :

$ nemoclaw deploy <instance-name>

Remplacez <instance-name> par un nom pour votre instance distante, par exemple my-gpu-box.

Le script de déploiement effectue les étapes suivantes sur la VM :

  1. Installe Docker et le NVIDIA Container Toolkit si un GPU est présent.
  2. Installe le CLI OpenShell.
  3. Exécute la configuration nemoclaw pour créer le gateway, enregistrer les fournisseurs et lancer le sandbox.
  4. Démarre les services auxiliaires, tels que le pont Telegram et le tunnel cloudflared.

Se connecter au sandbox distant

Une fois le déploiement terminé, la commande de déploiement ouvre un shell interactif à l’intérieur du sandbox distant. Pour vous reconnecter après avoir fermé la session, exécutez à nouveau la commande de déploiement :

$ nemoclaw deploy <instance-name>

Surveiller le sandbox distant

Connectez-vous en SSH à l’instance et exécutez le TUI OpenShell pour surveiller l’activité et approuver les requêtes réseau :

$ ssh <instance-name> 'cd /home/ubuntu/nemoclaw && set -a && . .env && set +a && openshell term'

Vérifier l’inférence

Exécutez une invite de test de l’agent dans le sandbox distant :

$ openclaw agent --agent main --local -m "Hello from the remote sandbox" --session-id test

Configuration GPU

Le script de déploiement utilise la variable d’environnement NEMOCLAW_GPU pour sélectionner le type de GPU. La valeur par défaut est a2-highgpu-1g:nvidia-tesla-a100:1. Définissez cette variable avant d’exécuter nemoclaw deploy pour utiliser une configuration GPU différente :

$ export NEMOCLAW_GPU="a2-highgpu-1g:nvidia-tesla-a100:2"
$ nemoclaw deploy <instance-name>

Sujets connexes