CostRouter CÔNG CỤ MIỄN PHÍ CHO NHÀ PHÁT TRIỂN
Tính token · Tokenizer
Từ câu lệnh đến ngân sách: đếm token, xem giá mô hình và biết bạn tiết kiệm được bao nhiêu với nhóm giá đã chọn.
Các nhóm khả dụng được xếp theo giá tăng dần. Kết quả áp dụng nhóm bạn chọn.
Ước tính theo một tin nhắn người dùng, bao gồm cấu trúc tin nhắn. Một số mô hình sử dụng bộ tách token mặc định hoặc công thức gần đúng.
Phản hồi mẫu giúp lập ngân sách, không dự đoán câu trả lời thực tế. Token suy luận và các phần tính phí khác có thể làm tăng số token.
Khi tính, văn bản được gửi đến CostRouter để ước tính.
Giá mỗi triệu token · USD
Chọn mô hình để xem chi phí dự kiến.
So sánh với giá cơ sở của nền tảng, không phải giá niêm yết chính thức đã xác minh của nhà cung cấp. Chưa tính làm tròn hạn mức, phí công cụ và ưu đãi nạp tiền; mức sử dụng thực tế có thể khác.
Từ số token đến ngân sách thực tế
Token là gì?
Token là đơn vị văn bản mô hình xử lý, có thể là một từ, một phần của từ, dấu câu hoặc một phần byte của ký tự. Số token thay đổi theo mô hình, ngôn ngữ và văn bản nên không thể thay bằng số ký tự.
Có thể ước tính đầu ra trước khi gửi yêu cầu không?
Có. Nhập số token đầu ra dự kiến hoặc dán câu trả lời mẫu. Đây là giả định để lập ngân sách, không phải dự đoán câu trả lời. Văn bản hiển thị có thể chưa bao gồm token suy luận và định dạng được tính phí.
Chi phí đọc và ghi bộ nhớ đệm được tính thế nào?
Khi có giá tương ứng, tổng đầu vào được chia thành phần thông thường, phần đọc và phần ghi bộ nhớ đệm. Mỗi phần chỉ tính phí một lần theo đơn giá riêng. Việc dùng lại thực tế phụ thuộc vào nhà cung cấp, tiền tố khớp nhau, độ dài tối thiểu và thời hạn lưu.
Số tiền tiết kiệm được so với mức giá nào?
Mức tiết kiệm theo nhóm được so với giá cơ sở của nền tảng, với cùng số token và giả định bộ nhớ đệm. Phần tiết kiệm do bộ nhớ đệm được hiển thị riêng. Đây không phải phép so sánh đã xác minh với giá chính thức của nhà cung cấp.
Văn bản của tôi có được gửi lên máy chủ không?
Có. Khi bấm tính, văn bản được gửi đến CostRouter để ước tính số token. Công cụ không chuyển văn bản đến nhà cung cấp mô hình hay tạo phản hồi. Việc tính toán không trừ số dư tài khoản.