Hub documentation
Định giá và Thanh toán
Định giá và Thanh toán
Hugging Face Jobs cho phép bạn chạy các tác vụ tính toán trên hạ tầng của Hugging Face mà không cần tự quản lý. Bạn chỉ cần định nghĩa một lệnh, một ảnh Docker và một cấu hình phần cứng trong số các tùy chọn CPU và GPU khác nhau.
Jobs có sẵn cho bất kỳ người dùng hoặc tổ chức nào có số dư tín dụng dương. Số tín dụng tính toán hàng tháng đi kèm với gói đăng ký PRO, Team hoặc Enterprise được tính vào số dư đó và có thể được sử dụng cho Jobs.
Hóa đơn cho Jobs được tính dựa trên mức sử dụng phần cứng và được tính theo từng phút: bạn sẽ bị tính phí cho mỗi phút Jobs chạy trên phần cứng đã yêu cầu.
Trong vòng đời của một Job, bạn chỉ bị tính phí khi Job đang ở trạng thái Starting hoặc Running. Điều này có nghĩa là không có chi phí trong quá trình build.
Nếu một Job đang chạy bắt đầu gặp lỗi, nó sẽ được tự động tạm dừng và việc tính phí sẽ dừng lại.
Bảng giá
Jobs được tính phí theo phút dựa trên phần cứng được sử dụng. Ví dụ, 10 phút tính phí trên a10g-small có chi phí phần cứng khoảng 0,17 USD.
Để quản lý chi tiêu, hãy cài đặt thời gian chờ, hủy một Job hoặc xem mức sử dụng hiện tại của bạn.
CPU
| Cấu hình phần cứng | CPU | Bộ nhớ | Lưu trữ Tạm thời | Giá theo giờ |
|---|---|---|---|---|
| CPU cơ bản | 2 vCPU | 16 GB | 50 GB | $0.01 |
| Nâng cấp CPU | 8 vCPU | 32 GB | 50 GB | $0.03 |
| CPU XL | 16 vCPU | 124 GB | 1000 GB | $1.00 |
| Hiệu năng CPU | 32 vCPU | 256 GB | 1024 GB | $1.90 |
GPU
| Cấu hình phần cứng | CPU | Bộ nhớ | Bộ nhớ GPU | Lưu trữ Tạm thời | Giá theo giờ |
|---|---|---|---|---|---|
| Nvidia T4 - nhỏ | 4 vCPU | 15 GB | 16 GB | 50 GB | $0.40 |
| Nvidia T4 - trung bình | 8 vCPU | 30 GB | 16 GB | 100 GB | $0.60 |
| 1x Nvidia L4 | 8 vCPU | 30 GB | 24 GB | 400 GB | $0.80 |
| 4x Nvidia L4 | 48 vCPU | 186 GB | 96 GB | 3200 GB | $3.80 |
| 1x Nvidia L40S | 8 vCPU | 62 GB | 48 GB | 380 GB | $1.80 |
| 4x Nvidia L40S | 48 vCPU | 382 GB | 192 GB | 3200 GB | $8.30 |
| 8x Nvidia L40S | 192 vCPU | 1534 GB | 384 GB | 6500 GB | $23.50 |
| Nvidia A10G - nhỏ | 4 vCPU | 15 GB | 24 GB | 110 GB | $1.00 |
| Nvidia A10G - lớn | 12 vCPU | 46 GB | 24 GB | 200 GB | $1.50 |
| 2x Nvidia A10G - lớn | 24 vCPU | 92 GB | 48 GB | 1000 GB | $3.00 |
| 4x Nvidia A10G - lớn | 48 vCPU | 184 GB | 96 GB | 2000 GB | $5.00 |
| Nvidia A100 - lớn | 12 vCPU | 142 GB | 80 GB | 1000 GB | $2.50 |
| 4x Nvidia A100 - lớn | 48 vCPU | 568 GB | 320 GB | 4000 GB | $10.00 |
| 8x Nvidia A100 - lớn | 96 vCPU | 1136 GB | 640 GB | 8000 GB | $20.00 |
| Nvidia H200 | 23 vCPU | 256 GB | 141 GB | 3000 GB | $5.00 |
| 2x Nvidia H200 | 46 vCPU | 512 GB | 282 GB | 6000 GB | $10.00 |
| 4x Nvidia H200 | 92 vCPU | 1024 GB | 564 GB | 12000 GB | $20.00 |
| 8x Nvidia H200 | 184 vCPU | 2048 GB | 1128 GB | 24000 GB | $40.00 |
| Nvidia RTX PRO 6000 | 23 vCPU | 256 GB | 96 GB | 475 GB | $2.75 |
| 2x Nvidia RTX PRO 6000 | 46 vCPU | 512 GB | 192 GB | 950 GB | $5.50 |
| 4x Nvidia RTX PRO 6000 | 92 vCPU | 1024 GB | 384 GB | 1900 GB | $11.00 |
| 8x Nvidia RTX PRO 6000 | 184 vCPU | 2048 GB | 768 GB | 3800 GB | $22.00 |
Bạn cũng có thể lấy thông tin phần cứng và giá cả khả dụng một cách tự động thông qua API tại GET /api/jobs/hardware hoặc qua CLI:
>>> hf jobs hardwareCổng được mở
Một Job có thể tiết lộ một hoặc nhiều cổng để cho phép truy cập từ bên ngoài trong khi Job đang chạy. Việc tiết lộ một hoặc nhiều cổng được tính phí theo mức cố định cho mỗi Job, ngoài chi phí phần cứng:
| Sản phẩm | Giá theo giờ |
|---|---|
| Cổng được mở | $0.01 |
Tương tự như phần cứng, chi phí được tính theo phút, chỉ trong khi Job đang ở trạng thái Starting hoặc Running.
Quản lý thanh toán
Hóa đơn cho tổ chức của bạn
Việc tính phí mặc định được thực hiện trên namespace của người dùng, nhưng bạn có thể tính phí cho tổ chức của mình bằng cách chỉ định namespace phù hợp:
hf jobs run --namespace my-org-name ...Trong trường hợp này, Job được chạy dưới tài khoản tổ chức, và bạn có thể xem nó trên trang Jobs của tổ chức (trang tổ chức > settings > Jobs).
Trên các gói Enterprise trở lên, quản trị viên tổ chức có thể hạn chế ai có thể chạy và xem các Job được tính phí cho tổ chức — chỉ dành cho quản trị viên tổ chức hoặc cho các thành viên của các Resource Group được chọn — thông qua cài đặt Granular feature access.
Hóa đơn cho nhóm tài nguyên
Tính năng này thuộc gói Enterprise trở lên.
Nếu tổ chức của bạn đã thiết lập Resource Groups, bạn có thể gán chi phí công việc cho một nhóm tài nguyên cụ thể. Để thực hiện:
- Bạn phải là thành viên của nhóm tài nguyên.
- Truyền tổ chức sở hữu nhóm tài nguyên dưới dạng
namespace, và ID của nhóm tài nguyên dưới dạngresource_group_id. Cả hai đều bắt buộc: một nhóm tài nguyên chỉ được tính đến đối với các Job được tính phí cho tổ chức của nó.
Bạn có thể tìm ID của nhóm tài nguyên trong trang cài đặt Nhóm tài nguyên của tổ chức bạn.
hf jobs run --namespace my-org-name --resource-group-id <resource-group-id> ...Trong Python:
>>> from huggingface_hub import run_job
>>> run_job(
... image="python:3.12",
... command=["python", "-c", "print('Hello!')"],
... namespace="my-org-name",
... resource_group_id="<resource-group-id>",
... )Quản trị viên của Tổ chức và Nhóm Tài nguyên có thể thiết lập giới hạn chi tiêu hàng tháng cho các Job được tính phí cho nhóm.
Xem mức sử dụng tài nguyên tính toán hiện tại
Bạn có thể xem thông tin thanh toán hiện tại của mình cho Jobs trên trang Billing, trong phần “Compute Usage”:
Thông tin bổ sung về hóa đơn có thể được tìm thấy trong tài liệu Hub chuyên biệt.
Khuyến nghị
Đặt giới hạn thời gian chờ
Đặt timeout khi tạo Job để đảm bảo nó không chạy quá một khoảng thời gian nhất định.
Một lần chạy Job đạt đến thời lượng timeout sẽ tự động bị dừng, và việc tính phí cũng bị dừng theo.
Dưới đây là cách đặt timeout bằng CLI:
hf jobs run --timeout 3h ...Lưu ý rằng thời gian chờ mặc định được đặt là 30 phút. Do đó, bạn phải chỉ định thời gian chờ dài hơn nếu Job của bạn cần nhiều thời gian hơn để chạy.
Hủy các Job không liên quan
Nếu một Job đang chạy không còn liên quan, bạn có thể hủy nó trước thời hạn để ngừng tính phí, thông qua trang Job hoặc CLI:
hf jobs cancel <job-id>
