LFM SERVING

Hệ thống phục vụ suy luận LLM nhận thức tiền tố và tài nguyên trên NVIDIA Tesla T4.

GitHub
LFM Serving - Tài liệu Hệ thống
Chưa kết nối

Sẵn sàng khi bạn đã kết nối

Bấm vào nút Menu để mở cài đặt kết nối. Nhập URL Ngrok, bấm Kết nối và bắt đầu trò chuyện.

Kết nối server ở thanh bên để bắt đầu.