Inferenzmodell zur Laufzeit wechseln
Wechsle das Inferenzmodell, während die Sandbox läuft. Ein Neustart ist nicht nötig.
Voraussetzungen
- Eine laufende NemoClaw-Sandbox.
- Die OpenShell-CLI im
PATH.
Zu einem anderen Modell wechseln
Setze den Provider auf nvidia-nim und gib ein Modell von build.nvidia.com an:
$ openshell inference set --provider nvidia-nim --model nvidia/nemotron-3-super-120b-a12bErfordert die Umgebungsvariable NVIDIA_API_KEY.
Der nemoclaw onboard-Befehl speichert diesen Schlüssel beim ersten Lauf in ~/.nemoclaw/credentials.json.
Aktives Modell verifizieren
Bestätige die Änderung mit dem Status-Befehl:
$ openclaw nemoclaw statusMit --json-Flag für maschinenlesbare Ausgabe:
$ openclaw nemoclaw status --jsonVerfügbare Modelle
| Modell-ID | Label | Kontextfenster | Max. Ausgabe |
|---|---|---|---|
nvidia/nemotron-3-super-120b-a12b | Nemotron 3 Super 120B | 131.072 | 8.192 |
nvidia/llama-3.1-nemotron-ultra-253b-v1 | Nemotron Ultra 253B | 131.072 | 4.096 |
nvidia/llama-3.3-nemotron-super-49b-v1.5 | Nemotron Super 49B v1.5 | 131.072 | 4.096 |
nvidia/nemotron-3-nano-30b-a3b | Nemotron 3 Nano 30B | 131.072 | 4.096 |
Verwandte Themen
- Inferenzprofile für vollständige Konfigurationsdetails.