قیمت کلود: اجتناب از اشتباهات رایج در هزینه توکن

درک قیمت‌گذاری توکن ورودی در مقابل خروجی

قیمت تماس‌های API کلاود به دو بخش متمایز تقسیم می‌شود. شما برای خواندن متن کمتر از نوشتن آن پرداخت می‌کنید. توکن‌های ورودی پرامپتی که ارسال می‌کنند را پوشش می‌دهند. توکن‌های خروجی تکمیلی که مدل تولید می‌کند را پوشش می‌دهند. این تفاوت زمانی مهم‌تر می‌شود که فایل‌های کد طولانی ارسال می‌کنید اما پاسخ‌های کوتاه انتظار دارید.

Anthropic به ازای هر میلیون توکن ورودی برای Sonnet 3.5 مبلغ $3.00 دریافت می‌کند. همان مدل به ازای هر میلیون توکن خروجی $15.00 هزینه دارد. این یک تفاوت پنج‌برابری است. می‌توانید با نگه داشتن پرامپت‌های خود فشرده، هزینه‌ها را کاهش دهید. اگر فقط چند خط مهم است، کل مستندات را ارسال نکنید.

API بدون سانسور ما این نسبت را کمی تغییر می‌دهد. ما $0.15 به ازای هر میلیون توکن ورودی و $0.50 به ازای هر میلیون توکن خروجی هزینه دریافت می‌کنیم. شکاف باقی می‌ماند، اما هزینه مطلق کمتر است. شما همچنان برای تولید هزینه بیشتری می‌پردازید. شما همچنان با کاهش اندازه ورودی صرفه‌جویی می‌کنید.

• توکن‌های ورودی ارزان‌تر هستند.
• توکن‌های خروجی گران‌تر هستند.
• هر دو طرف را متوازن کنید.

هزینه پنهان پنجره‌های متن بزرگ

پنجره‌های زمینه بزرگ حافظه مصرف می‌کنند، حتی اگر فقط بخش کوچکی از آن را بخوانید. Anthropic برای کل پنجره زمینه استفاده شده در هر درخواست صورت‌حساب صادر می‌کند. اگر یک فایل ۱۰۰,۰۰۰ توکنی ارسال کنید، بابت ۱۰۰,۰۰۰ توکن هزینه می‌پردازید. شما فقط بابت خطوطی که مدل می‌خواند هزینه نمی‌پردازید. کل پنجره محاسبه می‌شود.

این یک هزینه پنهان برای عامل‌های کدنویسی ایجاد می‌کند. آن‌ها اغلب کل مخازن را ارسال می‌کنند. مدل ممکن است فقط به یک تابع نیاز داشته باشد. شما همچنان برای کل مخزن پرداخت می‌کنید. نمای‌سازی (Indexing) کمک می‌کند. فقط قطعات مرتبط را ارسال کنید. این تعداد توکن‌های ورودی را کاهش می‌دهد.

API ما از پنجره زمینه ۱۰۰,۰۰۰ توکنی پشتیبانی می‌کند. می‌توانید فایل‌های بزرگ ارسال کنید. بابت چیزی که ارسال می‌کنید پرداخت می‌کنید. خطاها و رد شدن‌ها رایگان هستند. این یعنی می‌توانید snippetهای مختلف را بدون هدر دادن اعتبار تست کنید. از این ویژگی برای یافتن کوچکترین prompt مؤثر استفاده کنید.

چرا استریمینگ بر شمارش توکن تأثیر می‌گذارد

استریم کردن تعداد کل توکن‌ها را تغییر نمی‌دهد. این فقط بر نحوه مشاهده ورود اعداد تأثیر می‌گذارد. مدل توکن‌ها را به یک روش می‌شمارد، چه استریم کنید و چه صبر کنید. صورت‌حساب نهایی یکسان است. استریم فقط پاسخ را به قطعات کوچک‌تر تقسیم می‌کند.

توسعه‌دهندگان اغلب جریان (streaming) را با صرفه‌جویی توکن اشتباه می‌گیرند. اینطور نیست. API داده‌ها را به صورت بلادرست ارسال می‌کند. شما کلمات را همان‌طور که تولید می‌شوند می‌بینید. شمارنده توکن در پایان به‌روز می‌شود. شما برای تکمیل کامل هزینه می‌پردازید. با جریان‌دهی توکنی ذخیره نمی‌شود.

API ما از طریق رویدادهای ارسالی سرور (SSE) پشتیبانی می‌کند. مصرف توکن در قطعه آخر به دست می‌آید. این به شما کمک می‌کند هزینه‌ها را به صورت بلادرنگ ردیابی کنید. می‌توانید در صورت طولانی شدن پاسخ، زودتر متوقف شوید. این توکن‌های خروجی را صرفه‌جویی می‌کند. توکن‌های ورودی را صرفه‌جویی نمی‌کند.

اشتباهات رایج در مصرف توکن‌های ابزار-محور

استفاده از ابزار توکن‌های اضافی به هر درخواست اضافه می‌کند. شما برای تعاریف ابزار هزینه می‌پردازید. شما برای آرگومان‌ها هزینه می‌پردازید. شما برای نتایج هزینه می‌پردازید. هر دور استفاده از ابزار هزینه بیشتری نسبت به یک چت ساده دارد. توسعه‌دهندگان اغلب این را فراموش می‌کنند. آن‌ها تعداد ورودی کمی می‌بینند. آن‌ها اضافه بار ابزار را از قلم می‌اندازند.

فراخوانی تابع نیاز به فرمت خاصی دارد. مدل باید JSON را پارس کند. این پیچیدگی ایجاد می‌کند. همچنین توکن اضافه می‌کند. شما برای ساختار پول می‌دهید. شما برای داده پول می‌دهید. شما برای نتیجه پول می‌دهید. هر مرحله هزینه دارد.

API ما از فراخوانی تابع پشتیبانی می‌کند. می‌توانید از ابزارها استفاده کنید. بابت توکن‌های مصرفی پرداخت می‌کنید. هزینه پنهانی وجود ندارد. شما فقط بابت آنچه ارسال می‌کنید پرداخت می‌کنید. تعاریف ابزارهای خود را کوتاه نگه دارید. از نام‌های آرگومان مختصر استفاده کنید. این کار تعداد توکن‌ها را کاهش می‌دهد.

چگونه هزینه‌ها را قبل از ارسال درخواست‌ها تخمین بزنیم

می‌توانید هزینه‌ها را با شمارش توکن‌ها قبل از ارسال تخمین بزنید. از یک توکن‌شمار استفاده کنید. توکن‌های ورودی را بشمارید. توکن‌های خروجی مورد انتظار را بشمارید. در قیمت ضرب کنید. این یک تخمین تقریبی به شما می‌دهد. دقیق نیست. مدل ممکن است توکن‌های بیشتر یا کمتری تولید کند. اما به بودجه‌بندی شما کمک می‌کند.

Anthropic یک ماشین‌حساب هزینه ارائه می‌دهد. می‌توانید تعداد توکن‌های خود را وارد کنید. هزینه کل را نشان می‌دهد. می‌توانید مدل‌های مختلف را مقایسه کنید. می‌توانید تفاوت بین ورودی و خروجی را ببینید. این به شما کمک می‌کند مدل مناسب را انتخاب کنید.

API ما از قیمت‌گذاری استاندارد استفاده می‌کند. $0.15 به ازای هر میلیون توکن ورودی. $0.50 به ازای هر میلیون توکن خروجی. می‌توانید از همان ماشین‌حساب استفاده کنید. فقط قیمت‌ها را تنظیم کنید. این به شما کمک می‌کند API ما را با سایرین مقایسه کنید. می‌توانید صرفه‌جویی را به وضوح ببینید.

سیاست‌های انقضای اعتبار استردادها

اعتبار در API ما هرگز منقضی نمی‌شود. یک بار پرداخت می‌کنید. در طول زمان استفاده می‌کنید. هزینه ماهانه‌ای وجود ندارد. اشتراکی وجود ندارد. شما بابت مصرف خود هزینه می‌پردازید. این با Anthropic متفاوت است. آن‌ها بر اساس هر درخواست هزینه دریافت می‌کنند. شما بر اساس مصرف پرداخت می‌کنید.

اگر اشتباهی مرتکب شوید، می‌توانید درخواست بازگشت وجه دهید. ما شارژ‌های مجدد را برطرف می‌کنیم. ما خطاها را برطرف می‌کنیم. اعتبار متعلق به شماست. از بین نمی‌رود. می‌توانید هر زمان که بخواهید از آن استفاده کنید. این به شما انعطاف‌پذیری می‌دهد. نیازی به عجله ندارید.

اعتبار آزمایشی شما ۷ روز اعتبار دارد. این تنها محدودیت زمانی است. شما ۰.۵۰ دلار دریافت می‌کنید. می‌توانید API را تست کنید. می‌توانید ببینید که چگونه کار می‌کند. می‌توانید تصمیم بگیرید که آیا برای شما مناسب است یا خیر. بدون شماره تلفن. فقط ثبت‌نام کنید.

مقایسه کارایی توکن مدل‌های بدون سانسور در برابر مدل‌های استاندارد

مدل‌های بدون سانسور اغلب پاسخ‌های طولانی‌تری تولید می‌کنند. به موضوعات پاسخ نمی‌دهند. بیشتر توضیح می‌دهند. این می‌تواند توکن‌های خروجی را افزایش دهد. شما برای تولید هزینه بیشتری می‌پردازید. اما محتوای بیشتری دریافت می‌کنید. این یک مبادله است. شما بابت جزئیات پرداخت می‌کنید. بابت جزئیات دریافت می‌کنید.

مدل‌های استاندارد بیشتر رد می‌کنند. پاسخ‌های کوتاه‌تری می‌دهند. این کار توکن‌های خروجی را صرفه‌جویی می‌کند. اما ممکن است نیاز باشد دوباره سوال بپرسید. برای رد کردن هزینه می‌پردازید. برای ارسال مجدد پیام هزینه می‌پردازید. هزینه کل ممکن است بیشتر باشد.

API بدون سانسور ما کنترل کامل به شما می‌دهد. می‌توانید دما را تنظیم کنید. می‌توانید top-p را تنظیم کنید. می‌توانید طول را کنترل کنید. می‌توانید توکن‌های خروجی را کاهش دهید. می‌توانید پول صرفه‌جویی کنید. محتوایی که می‌خواهید را دریافت می‌کنید.

استفاده از seed و temperature برای کنترل طول خروجی

دما بر تصادفی بودن تأثیر می‌گذارد. دمای بالاتر به معنای تنوع بیشتر است. دمای پایین‌تر به معنای ثبات بیشتر است. می‌توانید طول خروجی را کنترل کنید. یک دمای پایین تنظیم کنید. مدل قابل‌پیش‌بینی‌تر خواهد بود. توکن‌های کمتری تولید خواهد کرد.

Seed قابلیت بازتولیدپذیری را تعیین می‌کند. Seed یکسان به معنای خروجی یکسان است. این به دیباگ کردن شما کمک می‌کند. می‌توانید نتیجه یکسانی بگیرید. این برای تست مفید است. می‌توانید پرامپت‌های مختلف را مقایسه کنید. می‌توانید تفاوت‌ها را ببینید.

API ما از هر دو مورد پشتیبانی می‌کند. می‌توانید seed را تنظیم کنید. می‌توانید temperature را تنظیم کنید. می‌توانید خروجی را کنترل کنید. می‌توانید توکن‌ها را ذخیره کنید. می‌توانید محتوای مورد نظر خود را دریافت کنید. این به شما دقت می‌بخشد.