"Tính ngược quota" nghĩa là gì
Trang chính thức hiếm khi công bố giới hạn token cứng. Ta suy ra: Tổng quota ≈ token đã dùng ÷ phần trăm hiển thị trên thanh tiến trình. Ví dụ 15 triệu token ở mức 37.3% thanh 5h nghĩa là cửa sổ đó có ~40 triệu. Ta đối chiếu chéo giữa các thanh 5h, 7 ngày và tháng.
Vì sao nhà cung cấp không công bố giới hạn cố định
Giới hạn là động: nó thay đổi theo phiên bản model, tải server và chiến lược kinh doanh. Một con số được công bố sẽ trở thành lời hứa và là mục tiêu để lạm dụng, nên các nhà cung cấp cố tình giữ nó mập mờ. Hãy coi mọi con số ở đây là một ảnh chụp nhanh, không phải hợp đồng.
Tỷ lệ trúng cache làm thay đổi mức tiêu thụ thực tế ra sao
Trong quy trình code/agent, cùng một context được gửi đi gửi lại. Một người dùng đã ghi nhận tỷ lệ trúng cache 93.7% — nghĩa là chỉ ~6% đầu vào bị tính giá đầy đủ. Vì vậy quota bạn "cảm nhận" được lớn hơn rất nhiều so với con số token thô.
Đăng ký vs API trả theo lượng dùng
Đăng ký đánh đổi sự linh hoạt để lấy mức giá cố định trong các cửa sổ cuộn. API trả theo lượng dùng tính phí mỗi token nhưng không bao giờ hạn tốc độ bạn. Lượng dùng ổn định và dễ đoán thì đăng ký thắng; lượng dùng dao động mạnh hoặc cần đồng thời thì API thắng.