Triển khai NemoClaw lên phiên bản GPU từ xa

Chạy NemoClaw trên một phiên bản GPU từ xa thông qua Brev. Lệnh deploy cung cấp VM, cài đặt phụ thuộc và kết nối bạn đến một sandbox đang chạy.

Điều kiện tiên quyết

Triển khai phiên bản

Cảnh báo: Lệnh nemoclaw deploy đang ở giai đoạn thử nghiệm và có thể không hoạt động như mong đợi.

Tạo một phiên bản Brev và chạy thiết lập NemoClaw:

$ nemoclaw deploy <instance-name>

Thay thế <instance-name> bằng tên cho phiên bản từ xa của bạn, ví dụ my-gpu-box.

Script deploy thực hiện các bước sau trên VM:

  1. Cài đặt Docker và NVIDIA Container Toolkit nếu có GPU.
  2. Cài đặt CLI OpenShell.
  3. Chạy thiết lập NemoClaw để tạo gateway, đăng ký nhà cung cấp và khởi chạy sandbox.
  4. Khởi động các dịch vụ phụ trợ, chẳng hạn như cầu nối Telegram và tunnel cloudflared.

Kết nối đến Sandbox từ xa

Sau khi triển khai hoàn tất, lệnh deploy mở một shell tương tác bên trong sandbox từ xa. Để kết nối lại sau khi đóng phiên, chạy lại lệnh deploy:

$ nemoclaw deploy <instance-name>

Giám sát Sandbox từ xa

SSH đến phiên bản và chạy TUI OpenShell để giám sát hoạt động và phê duyệt yêu cầu mạng:

$ ssh <instance-name> 'cd /home/ubuntu/nemoclaw && set -a && . .env && set +a && openshell term'

Xác minh suy luận

Chạy một lệnh tác nhân thử nghiệm bên trong sandbox từ xa:

$ openclaw agent --agent main --local -m "Hello from the remote sandbox" --session-id test

Cấu hình GPU

Script deploy sử dụng biến môi trường NEMOCLAW_GPU để chọn loại GPU. Giá trị mặc định là a2-highgpu-1g:nvidia-tesla-a100:1. Đặt biến này trước khi chạy nemoclaw deploy để sử dụng cấu hình GPU khác:

$ export NEMOCLAW_GPU="a2-highgpu-1g:nvidia-tesla-a100:2"
$ nemoclaw deploy <instance-name>

Chủ đề liên quan

arrow_back
Trang trước
Customize Network Policy
Trang sau
Set Up Telegram Bridge
arrow_forward