Giá Claude: tránh các lỗi chi phí token phổ biến

Hiểu về giá token đầu vào so với đầu ra

Giá gọi API Claude được chia thành hai phần riêng biệt. Bạn trả ít hơn cho việc đọc văn bản so với việc viết nó. Token đầu vào bao gồm prompt bạn gửi. Token đầu ra bao gồm phần hoàn thành mà mô hình tạo ra. Sự khác biệt này quan trọng nhất khi bạn gửi các tệp mã dài nhưng mong đợi câu trả lời ngắn.

Anthropic tính $3.00 cho mỗi triệu token đầu vào cho Sonnet 3.5. Mô hình tương tự tốn $15.00 cho mỗi triệu token đầu ra. Đó là sự chênh lệch năm lần. Bạn có thể tiết kiệm chi phí bằng cách giữ lời nhắc ngắn gọn. Đừng gửi toàn bộ tài liệu nếu chỉ một vài dòng là quan trọng.

API không kiểm duyệt của chúng tôi đảo ngược tỷ lệ này một chút. Chúng tôi tính $0.15 cho mỗi triệu token đầu vào và $0.50 cho mỗi triệu token đầu ra. Khoảng cách vẫn còn, nhưng chi phí tuyệt đối thấp hơn. Bạn vẫn trả nhiều tiền hơn cho việc tạo nội dung. Bạn vẫn tiết kiệm bằng cách giảm kích thước đầu vào.

• Token đầu vào rẻ hơn.
• Token đầu ra tốn nhiều hơn.
• Cân bằng cả hai bên.

Chi phí ẩn của các cửa sổ ngữ cảnh lớn

Cửa sổ ngữ cảnh lớn tiêu thụ bộ nhớ ngay cả khi bạn chỉ đọc một phần nhỏ. Anthropic tính phí cho toàn bộ cửa sổ ngữ cảnh được sử dụng trong mỗi yêu cầu. Nếu bạn gửi một tệp 100,000 token, bạn trả tiền cho 100,000 token. Bạn không chỉ trả tiền cho các dòng mà mô hình đọc. Toàn bộ cửa sổ đều được tính.

Điều này tạo ra chi phí ẩn cho các tác nhân mã hóa. Chúng thường gửi toàn bộ kho lưu trữ. Mô hình có thể chỉ cần một hàm. Bạn vẫn phải trả tiền cho toàn bộ kho lưu trữ. Lập chỉ mục giúp ích. Chỉ gửi các đoạn liên quan. Điều này giảm số lượng token đầu vào.

API của chúng tôi hỗ trợ cửa sổ ngữ cảnh 100.000 token. Bạn có thể gửi các tệp lớn. Bạn trả tiền cho những gì bạn gửi. Lỗi và từ chối đều miễn phí. Điều này có nghĩa là bạn có thể thử các đoạn mã khác nhau mà không tốn hết tín dụng. Hãy dùng cách này để tìm prompt hiệu quả nhất với kích thước nhỏ nhất.

Tại sao streaming ảnh hưởng đến việc đếm token

Streaming không làm thay đổi tổng số token. Nó chỉ ảnh hưởng đến cách bạn thấy các con số xuất hiện. Mô hình đếm token theo cùng một cách bất kể bạn có streaming hay không. Hóa đơn cuối cùng là như nhau. Streaming chỉ chia phản hồi thành các đoạn nhỏ.

Nhà phát triển thường nhầm lẫn stream với việc tiết kiệm token. Điều đó không đúng. API gửi dữ liệu theo thời gian thực. Bạn thấy các từ xuất hiện khi chúng được tạo. Bộ đếm token được cập nhật vào cuối. Bạn trả tiền cho toàn bộ phần hoàn thành. Không có token nào được tiết kiệm bằng cách stream.

API của chúng tôi hỗ trợ streaming qua Server-Sent Events. Bạn nhận được sử dụng token trong chunk cuối cùng. Điều này giúp bạn theo dõi chi phí theo thời gian thực. Bạn có thể dừng sớm nếu phản hồi quá dài. Điều này tiết kiệm token đầu ra. Nó không tiết kiệm token đầu vào.

Những sai lầm phổ biến khi sử dụng token cho công cụ

Tool-use adds extra tokens to every request. You pay for the tool definitions. You pay for the arguments. You pay for the results. Each round of tool use costs more than a simple chat. Developers often forget to count these. They see a low input count. They miss the tool overhead.

Gọi hàm yêu cầu một định dạng cụ thể. Mô hình phải phân tích cú pháp JSON. Điều này thêm độ phức tạp. Nó cũng thêm token. Bạn trả tiền cho cấu trúc. Bạn trả tiền cho dữ liệu. Bạn trả tiền cho kết quả. Mỗi bước đều tốn tiền.

API của chúng tôi hỗ trợ gọi hàm. Bạn có thể sử dụng các công cụ. Bạn trả tiền cho các token đã sử dụng. Không có phí ẩn. Bạn chỉ trả tiền cho những gì bạn gửi. Giữ các định nghĩa công cụ của bạn ngắn gọn. Sử dụng các tên đối số ngắn gọn. Điều này giảm số lượng token.

Cách ước tính chi phí trước khi gửi yêu cầu

Bạn có thể ước tính chi phí bằng cách đếm token trước khi gửi. Sử dụng bộ tokenizer. Đếm token đầu vào. Đếm token đầu ra dự kiến. Nhân với giá. Điều này cho bạn một ước tính sơ bộ. Nó không chính xác. Mô hình có thể tạo ra nhiều hoặc ít token hơn. Nhưng nó giúp bạn lập ngân sách.

Anthropic cung cấp một máy tính chi phí. Bạn có thể nhập số lượng token của mình. Nó hiển thị tổng chi phí. Bạn có thể so sánh các mô hình khác nhau. Bạn có thể thấy sự khác biệt giữa đầu vào và đầu ra. Điều này giúp bạn chọn mô hình phù hợp.

API của chúng tôi sử dụng giá tiêu chuẩn. $0.15 cho mỗi triệu token đầu vào. $0.50 cho mỗi triệu token đầu ra. Bạn có thể sử dụng cùng máy tính. Chỉ cần điều chỉnh giá. Điều này giúp bạn so sánh API của chúng tôi với các dịch vụ khác. Bạn có thể thấy rõ ràng khoản tiết kiệm.

Chính sách hết hạn tín dụng

Số dư không bao giờ hết hạn trên API của chúng tôi. Bạn trả một lần. Bạn sử dụng nó theo thời gian. Không có phí hàng tháng. Không có đăng ký. Bạn trả tiền cho những gì mình sử dụng. Điều này khác với Anthropic. Họ tính phí theo mỗi yêu cầu. Bạn trả tiền theo mức sử dụng.

Nếu bạn mắc lỗi, bạn có thể yêu cầu hoàn tiền. Chúng tôi khắc phục các trường hợp tính trùng phí. Chúng tôi khắc phục các lỗi. Số dư là của bạn. Nó không biến mất. Bạn có thể sử dụng nó bất cứ khi nào bạn muốn. Điều này mang lại cho bạn sự linh hoạt. Bạn không cần phải vội vàng.

Tín dụng dùng thử của chúng tôi hết hạn sau 7 ngày. Đây là giới hạn thời gian duy nhất. Bạn nhận được $0.50. Bạn có thể thử nghiệm API. Bạn có thể xem cách nó hoạt động. Bạn có thể quyết định xem nó có phù hợp với bạn hay không. Không cần số điện thoại. Chỉ cần đăng ký.

So sánh hiệu quả token giữa mô hình không kiểm duyệt và mô hình tiêu chuẩn

Các mô hình không kiểm duyệt thường tạo ra các phản hồi dài hơn. Chúng không từ chối các chủ đề. Chúng giải thích nhiều hơn. Điều này có thể làm tăng số lượng token đầu ra. Bạn trả nhiều tiền hơn cho việc tạo nội dung. Nhưng bạn nhận được nhiều nội dung hơn. Đây là một sự đánh đổi. Bạn trả tiền cho chi tiết. Bạn nhận được chi tiết.

Các mô hình chuẩn từ chối thường xuyên hơn. Chúng đưa ra câu trả lời ngắn hơn. Điều này tiết kiệm token đầu ra. Nhưng bạn có thể cần phải hỏi lại. Bạn trả tiền cho lệnh từ chối. Bạn trả tiền cho việc gửi lại câu lệnh. Tổng chi phí có thể cao hơn.

API không kiểm duyệt của chúng tôi cho bạn toàn quyền kiểm soát. Bạn có thể đặt nhiệt độ. Bạn có thể đặt top-p. Bạn có thể kiểm soát độ dài. Bạn có thể giảm token đầu ra. Bạn có thể tiết kiệm tiền. Bạn nhận được nội dung bạn muốn.

Sử dụng seed và nhiệt độ để kiểm soát độ dài đầu ra

Nhiệt độ ảnh hưởng đến tính ngẫu nhiên. Nhiệt độ cao hơn có nghĩa là nhiều biến thể hơn. Nhiệt độ thấp hơn có nghĩa là tính nhất quán cao hơn. Bạn có thể kiểm soát độ dài đầu ra. Đặt nhiệt độ thấp. Mô hình sẽ dự đoán được hơn. Nó sẽ tạo ra ít token hơn.

Seed ảnh hưởng đến khả năng tái lập. Cùng một seed sẽ cho ra cùng một kết quả. Điều này giúp bạn gỡ lỗi. Bạn có thể nhận được kết quả giống hệt nhau. Điều này rất hữu ích cho việc kiểm thử. Bạn có thể so sánh các prompt khác nhau. Bạn có thể thấy sự khác biệt.

API của chúng tôi hỗ trợ cả hai. Bạn có thể đặt seed. Bạn có thể đặt temperature. Bạn có thể kiểm soát đầu ra. Bạn có thể tiết kiệm tokens. Bạn có thể nhận được nội dung bạn muốn. Điều này mang lại độ chính xác cao.